Dal 2 agosto 2026 diventano applicabili gli obblighi di trasparenza dell’AI Act per chatbot, deepfake e alcuni contenuti generati dall’intelligenza artificiale. Dal 2 dicembre entreranno inoltre in vigore i nuovi divieti europei sui sistemi destinati a creare deep nude non consensuali e materiale relativo ad abusi sessuali su minori. Etichette e marcature tecniche possono aiutare i consumatori, ma non sostituiscono la verifica delle richieste, delle fonti e della provenienza dei contenuti.
Tra qualche giorno diventano applicabili nell’Unione europea nuovi obblighi di trasparenza per alcuni sistemi e contenuti prodotti attraverso l’intelligenza artificiale.
Le regole sono contenute nell’articolo 50 dell’AI Act, il regolamento europeo sull’intelligenza artificiale. Riguardano, tra gli altri, i chatbot, i contenuti generati artificialmente e i deepfake, cioè immagini, video o registrazioni audio modificati o creati dall’AI che riproducono persone, oggetti, luoghi o avvenimenti reali e possono apparire autentici.
Non significa che dal 2 agosto qualsiasi testo scritto con un assistente AI o ogni fotografia ritoccata dovranno mostrare la stessa etichetta. Gli obblighi cambiano in base al tipo di contenuto, al modo in cui viene utilizzato e al soggetto che lo produce o lo pubblica.
Nel frattempo l’AI Act è stato modificato dal Regolamento UE 2026/1744, il cosiddetto Digital Omnibus sull’intelligenza artificiale. Il nuovo regolamento è stato pubblicato nella Gazzetta ufficiale dell’Unione europea il 24 luglio ed è entrato in vigore il 27 luglio 2026. Oltre a intervenire sulle scadenze, introduce due nuovi divieti relativi ai contenuti intimi non consensuali e al materiale relativo ad abusi sessuali su minori.
Le nuove regole distinguono innanzitutto tra fornitori e deployer. Il fornitore è il soggetto che sviluppa un sistema di intelligenza artificiale e lo mette a disposizione con il proprio nome. Il deployer è invece chi utilizza professionalmente quel sistema sotto la propria responsabilità, per esempio un’impresa, una redazione, un ente pubblico o un professionista.
I fornitori di sistemi che generano testi, immagini, audio o video dovranno inserire negli output una marcatura leggibile da una macchina. Può trattarsi di informazioni tecniche incorporate nel file o di altri segnali digitali che consentano a strumenti compatibili di riconoscere il contenuto come generato o manipolato artificialmente. Non è necessariamente un’etichetta visibile all’occhio umano.
Chi utilizza professionalmente l’AI per produrre e diffondere un deepfake dovrà invece dichiararne chiaramente la natura artificiale. L’indicazione dovrà essere comprensibile e presentata al pubblico fin dalla prima esposizione del contenuto.
L’obbligo riguarda anche i testi generati o manipolati dall’AI e pubblicati per informare il pubblico su questioni di interesse generale. È prevista però un’eccezione quando il testo è stato sottoposto a un effettivo controllo umano o editoriale e una persona fisica o giuridica ne assume la responsabilità.
Per opere artistiche, creative, satiriche o di finzione, l’informazione potrà essere presentata in modo da non ostacolare la visione o la fruizione dell’opera. Non scompare però del tutto: dovrà rimanere accessibile e adeguata al contesto.
Lo stesso articolo 50 stabilisce che una persona debba essere informata quando interagisce direttamente con un sistema di intelligenza artificiale, come un chatbot o un assistente virtuale, salvo che la natura artificiale dell’interazione sia già evidente per un utente ragionevolmente informato.
Il nuovo Regolamento UE 2026/1744 concede ai fornitori una finestra aggiuntiva per alcuni sistemi generativi già immessi sul mercato prima del 2 agosto 2026. Questi sistemi dovranno essere adeguati all’obbligo tecnico di marcatura entro il 2 dicembre 2026.
La proroga riguarda esclusivamente il segnale tecnico inserito negli output. Non rinvia gli altri obblighi di trasparenza. Chi pubblica professionalmente un deepfake, per esempio, dovrà dichiararne la natura artificiale già dal 2 agosto.
Il 2 dicembre 2026 è però anche la data da cui diventeranno applicabili due nuovi divieti inseriti nell’articolo 5 dell’AI Act. Il primo riguarda determinati sistemi utilizzati per creare contenuti intimi realistici senza consenso. Il secondo riguarda i sistemi che producono o manipolano materiale relativo ad abusi sessuali su minori.
Le due scadenze non devono essere confuse. Nel caso della marcatura, il sistema può essere utilizzato ma deve rispettare un obbligo tecnico. Nel caso delle nuove pratiche vietate, determinate condotte e determinati sistemi non potranno essere immessi sul mercato, messi in servizio o utilizzati nell’Unione europea.
Il nuovo divieto riguarda i sistemi che generano o manipolano immagini, video, audio o materiali analoghi realistici relativi alle parti intime di una persona identificabile, oppure che la rappresentano mentre compie attività sessualmente esplicite, senza un consenso libero, specifico, informato, inequivocabile ed esplicito.
Rientrano in questa categoria le applicazioni spesso definite nudifier o servizi di nudificazione, capaci di trasformare una normale fotografia in una falsa immagine di nudo. In termini più comuni, si parla anche di deep nude.
Per i fornitori, il divieto riguarda innanzitutto i sistemi progettati proprio per generare questi contenuti. Può però comprendere anche sistemi nati per altri scopi quando la produzione di materiale vietato è un risultato prevedibile e riproducibile e non sono state inserite protezioni tecniche adeguate. Tra le misure indicate dal regolamento rientrano filtri, controlli sugli output, sistemi per individuare gli abusi, limitazioni d’uso e meccanismi per ricevere e gestire le segnalazioni.
Questo non significa che qualsiasi generatore di immagini capace, in astratto, di essere utilizzato in modo illecito diventerà automaticamente vietato. I fornitori dovranno dimostrare di avere adottato misure ragionevoli e adeguate contro gli utilizzi prevedibili. Chi usa il sistema, invece, viola il divieto quando lo impiega intenzionalmente per creare o manipolare quei contenuti.
Restano fuori dal divieto le rappresentazioni non realistiche, quelle che non riguardano persone identificabili e alcuni utilizzi legittimi, come determinate applicazioni mediche o per la prova virtuale di abiti, quando esiste un consenso valido. La norma contempla inoltre situazioni mediche eccezionali nelle quali la persona non sia in grado di esprimere il consenso.
Il secondo divieto riguarda i sistemi utilizzati per produrre o manipolare materiale relativo ad abusi sessuali su minori, compreso quello interamente o parzialmente sintetico. Anche in questo caso il regolamento distingue tra chi sviluppa e distribuisce il sistema e chi lo utilizza deliberatamente per produrre il materiale vietato.
La differenza si riflette anche nelle sanzioni. La violazione degli obblighi di trasparenza dell’articolo 50 può comportare sanzioni fino a 15 milioni di euro o, per le imprese, fino al 3% del fatturato mondiale annuo, se superiore. La violazione delle pratiche vietate dell’articolo 5 può arrivare fino a 35 milioni di euro o al 7% del fatturato mondiale annuo. Per le piccole e medie imprese si applica il limite più basso tra la percentuale e l’importo fisso.
La decisione europea arriva dopo diversi interventi contro i servizi di nudificazione. Con il provvedimento n. 574 del 1° ottobre 2025, reso noto il 3 ottobre, il Garante per la protezione dei dati personali ha disposto il blocco urgente di Clothoff, un’applicazione gestita da AI/Robotics Venture Strategy 3, società con sede nelle Isole Vergini Britanniche.
Il servizio permetteva di caricare fotografie di persone reali e produrre false immagini o video di nudo, anche sessualmente espliciti. Secondo il Garante, non era previsto un sistema per verificare il consenso della persona rappresentata e mancava un’indicazione sulla natura artificiale dei contenuti generati. L’Autorità aveva inoltre segnalato il rischio che il servizio fosse utilizzato anche su immagini di minori.
Il 6 maggio 2026 il Garante Privacy è tornato sul tema, ricordando che servizi analoghi possono causare violazioni gravi e spesso irreversibili. L’Autorità ha chiesto al legislatore maggiori poteri per impedire rapidamente dall’Italia l’accesso a piattaforme di questo tipo e interrompere la diffusione dei contenuti.
Il nuovo regolamento europeo non nasce necessariamente come risposta diretta alla richiesta del Garante italiano, ma si inserisce nello stesso percorso di tutela. Dal 2 dicembre i sistemi progettati per produrre deep nude non consensuali non saranno più trattati soltanto come strumenti da rendere trasparenti: entreranno tra le pratiche di intelligenza artificiale vietate.
Gli obblighi di trasparenza possono rendere più controllabile il comportamento di imprese, piattaforme, redazioni ed enti che utilizzano legalmente l’intelligenza artificiale. Possono inoltre facilitare l’individuazione di alcuni contenuti sintetici e chiarire chi si assume la responsabilità della pubblicazione.
Non impediranno però a un truffatore di diffondere un video manipolato o di utilizzare una voce clonata senza alcuna etichetta. Chi crea un deepfake per chiedere denaro, sottrarre credenziali o impersonare un’altra persona non ha interesse a rispettare l’AI Act.
Il problema, quindi, non è soltanto riconoscere se una voce o un’immagine siano artificiali. Molte frodi funzionano perché costruiscono una situazione credibile: utilizzano il nome di una persona conosciuta, simulano il numero telefonico di una banca o di un ufficio, citano informazioni reali e creano una richiesta urgente.
Questo insieme di tecniche viene definito ingegneria sociale. Il termine indica il tentativo di manipolare una persona attraverso paura, fiducia, autorità o fretta. L’AI rende più facile imitare una voce o costruire un video, ma il bersaglio finale rimane la decisione della vittima.
Esistono strumenti che analizzano immagini, audio e video e restituiscono una percentuale sulla probabilità che siano stati generati o modificati con l’AI. Possono offrire un indizio, ma non equivalgono a una perizia.
Uno studio del 2025, Deepfake-Eval-2024, ha valutato diversi sistemi su contenuti realmente circolati online. Le prestazioni sono risultate sensibilmente inferiori rispetto a quelle dichiarate nei test tradizionali. I contenuti pubblicati sui social possono essere ritagliati, ricompressi, trasformati in screenshot o registrati nuovamente: passaggi che rendono più difficile il rilevamento.
Anche l’occhio umano non offre garanzie. Uno studio pubblicato da Microsoft Research ha analizzato circa 287.000 valutazioni effettuate da più di 12.500 persone. Nel complesso, i partecipanti hanno distinto correttamente le immagini reali da quelle generate o modificate dall’AI nel 62% dei casi.
Chiedere a un chatbot se una fotografia sia vera può essere utile per individuare anomalie, ma la risposta non certifica l’autenticità. Il sistema può interpretare alcuni dettagli visivi, ma non sempre dispone del file originale, dei metadati, della provenienza e degli strumenti necessari per un’analisi forense.
Un approccio diverso è quello delle credenziali di provenienza, come lo standard C2PA. Invece di cercare difetti nell’immagine, questo sistema collega al file informazioni firmate digitalmente sulla sua origine e sulle modifiche effettuate.
La firma crittografica permette di verificare se quelle informazioni siano state alterate. Non dimostra però che la scena rappresentata sia vera. Un file può avere una provenienza documentata e contenere comunque una ricostruzione, una simulazione o un messaggio fuorviante.
Anche l’assenza delle credenziali non dimostra che un contenuto sia falso. Il sistema funziona soltanto quando la fotocamera, il software e la piattaforma utilizzata supportano lo standard e conservano le informazioni durante i diversi passaggi.
Marcature, rilevatori e credenziali possono quindi contribuire alla verifica, ma non devono essere letti come un certificato assoluto. Un’etichetta assente non garantisce l’autenticità e una percentuale elevata non sostituisce il controllo della fonte.
Davanti a una richiesta urgente di denaro, dati personali, password o codici di sicurezza, il primo passo non è cercare di stabilire se la voce sia stata clonata. È interrompere la comunicazione e verificare la richiesta attraverso un canale indipendente.
Se qualcuno telefona sostenendo di essere un familiare, un collega, una banca o un’autorità, è opportuno riagganciare e chiamare un numero già conosciuto o recuperato dal sito ufficiale. Non basta richiamare il numero apparso sullo schermo, perché anche l’identificativo del chiamante può essere falsificato.
Nelle famiglie può essere utile concordare una parola o una frase riservata da utilizzare in caso di richieste insolite. Non dovrebbe trattarsi di un’informazione facilmente ricavabile dai social network, come il nome di un animale domestico o una data pubblica.
Nelle imprese, le richieste di pagamento e le modifiche delle coordinate bancarie dovrebbero essere confermate da una seconda persona e attraverso un canale diverso. La procedura deve valere anche quando il messaggio sembra provenire dal titolare o da un dirigente. L’autorità di chi fa la richiesta non dovrebbe diventare il motivo per eliminare il controllo.
Se il denaro è già stato trasferito, occorre contattare immediatamente la banca o il servizio di pagamento e chiedere se sia ancora possibile bloccare l’operazione. È inoltre utile conservare messaggi, registrazioni, schermate, indirizzi, numeri telefonici, ricevute e file originali.
La vicenda può essere denunciata alle forze dell’ordine o alla Polizia Postale. Quando vengono utilizzati senza consenso immagini, voce o altri dati personali, può essere presentata anche una segnalazione al Garante per la protezione dei dati personali.
Dal 10 ottobre 2025 il codice penale italiano contiene l’articolo 612-quater, introdotto dalla legge 132/2025. La norma punisce con la reclusione da uno a cinque anni chi causa un danno ingiusto a una persona cedendo, pubblicando o diffondendo, senza il suo consenso, immagini, video o voci falsificati o alterati attraverso sistemi di intelligenza artificiale e idonei a ingannare sulla loro autenticità.
Non ogni immagine artificiale realizzata senza consenso integra automaticamente questo reato. Devono ricorrere gli elementi indicati dalla legge: la cessione o diffusione del contenuto, l’assenza di consenso, la capacità di ingannare e il danno ingiusto causato alla persona rappresentata.
In generale il reato è perseguibile dopo la querela della persona offesa. La legge prevede però alcuni casi nei quali si procede d’ufficio, per esempio quando la vittima è incapace per età o infermità o quando il fatto è collegato a un altro reato perseguibile d’ufficio.
A seconda del caso concreto possono inoltre entrare in gioco le norme sulla truffa, sulla sostituzione di persona, sulla diffamazione, sulla diffusione illecita di immagini o video sessualmente espliciti e sulla protezione dei dati personali. Quando sono coinvolti minori possono applicarsi anche le disposizioni sulla pornografia minorile, sulla detenzione o sull’accesso a tale materiale e, nei casi previsti dalla legge, sulla pornografia virtuale, disciplinate dagli articoli 600-ter, 600-quater e 600-quater.1 del codice penale.
Le nuove regole europee aggiungono un livello ulteriore di protezione. Dal 2 agosto alcune interazioni e alcuni contenuti artificiali dovranno essere dichiarati. Dal 2 dicembre i sistemi destinati a produrre deep nude non consensuali e materiale relativo ad abusi sessuali su minori entreranno invece tra le pratiche vietate.
La distinzione è importante. La trasparenza serve a rendere visibile l’uso dell’intelligenza artificiale. Il divieto serve a impedire determinati utilizzi. Nessuna delle due misure elimina però la necessità di controllare una richiesta, verificare una fonte e interrompere la fretta prima di prendere una decisione.
Il rischio è affidarsi interamente all’etichetta o al risultato di un rilevatore. È una forma di effetto placebo digitale: il segnale tecnico rassicura e la rassicurazione prende il posto della verifica. Dal 2 agosto avremo qualche informazione in più. Non avremo automaticamente la certezza che ciò che non porta un’etichetta sia vero.