Con il termine deepfake si indicano contenuti creati o modificati con l’intelligenza artificiale che rappresentano persone, oggetti, luoghi o eventi in modo così realistico da sembrare autentici. Possono far credere, per esempio, che una persona abbia pronunciato parole mai dette o che sia accaduto un evento mai avvenuto.
La parola nasce dall’unione di deep learning (“apprendimento profondo”), una tecnica di intelligenza artificiale, e fake (“falso”).
Quanto a forme e utilizzi, un deepfake:
- si presenta come un’immagine, un video o un audio, anche della sola voce di una persona;
- può essere usato legittimamente nel cinema, nel doppiaggio, nella satira e per l’accessibilità, nel rispetto delle norme applicabili; può invece essere utilizzato per disinformazione, frodi e pornografia non consensuale.
Origine del termine deepfake e primi casi mediatici
Il termine “deepfake” si è diffuso dopo la pubblicazione di un’inchiesta di Samantha Cole su Motherboard (Vice), l’11 dicembre 2017. L’inchiesta raccontava che su Reddit un utente con lo pseudonimo “deepfakes” aveva creato e pubblicato video pornografici contraffatti, sovrapponendo con il deep learning i volti di attrici famose a quelli di interpreti di film per adulti.
Tra i casi che hanno fatto conoscere il fenomeno:
- Aprile 2018: BuzzFeed pubblica un video in cui l’ex presidente degli Stati Uniti Barack Obama sembra pronunciare un discorso, in realtà ottenuto manipolando il volto con l’IA mentre la voce è imitata dall’attore Jordan Peele.
- Settembre 2019: Striscia la Notizia trasmette un finto fuorionda di Matteo Renzi, uno dei primi esempi di deepfake nella satira televisiva italiana.
Come si crea un deepfake
I deepfake si ottengono con modelli di intelligenza artificiale addestrati o guidati con foto, video e registrazioni della persona da imitare, di cui ricreano volto, espressioni o voce.
Le tecniche sono diverse e in rapida evoluzione. In alcune un sistema genera il contenuto e un secondo cerca di riconoscere il falso, rendendo il risultato via via più realistico. Altri sistemi generano video da descrizioni scritte o clonano una voce da pochi campioni audio. Altri ancora sostituiscono un volto con un altro o adattano il labiale a un audio diverso, anche in tempo reale durante una videochiamata.
Obblighi di trasparenza e sanzioni
L’AI Act, il regolamento europeo sull’intelligenza artificiale, definisce il deepfake all’articolo 3, punto 60, e stabilisce specifici obblighi di trasparenza all’articolo 50.
Dal 2 agosto 2026 sono previsti due livelli di trasparenza:
- Marcatura tecnica: i fornitori di sistemi di IA che generano contenuti sintetici devono renderli riconoscibili come artificiali anche attraverso marcature leggibili dalle macchine, per esempio watermark digitali o metadati. Sono previste eccezioni, tra cui i sistemi che svolgono semplici funzioni di modifica senza alterare sostanzialmente il contenuto originale. Per i sistemi già immessi sul mercato prima del 2 agosto 2026, il termine per adeguarsi a questo obbligo è il 2 dicembre 2026.
- Segnalazione al pubblico: chi utilizza un sistema di IA in ambito professionale per creare o manipolare contenuti che costituiscono deepfake deve dichiararne l’origine artificiale in modo chiaro e riconoscibile. L’obbligo non riguarda l’uso strettamente personale e non professionale.
Per le opere manifestamente artistiche, creative, satiriche o di finzione, l’obbligo di segnalazione è attenuato: la presenza di contenuti artificiali deve comunque essere dichiarata, con modalità che non ostacolino la fruizione dell’opera, come previsto dall’articolo 50, paragrafo 4, e dal considerando 134.
La satira, in aggiunta, deve rispettare le altre norme applicabili, come quelle sulla privacy: lo dimostra il caso dei deepfake di Enrico Mentana trasmessi da Striscia la Notizia.
Per facilitare la segnalazione al pubblico, la Commissione europea ha inoltre predisposto icone utilizzabili per identificare i contenuti generati o modificati con IA. Il loro impiego è facoltativo e non sostituisce la responsabilità di rispettare gli obblighi di trasparenza.
In Italia, infine, l’articolo 612-quater del codice penale, introdotto dalla legge 132/2025, punisce con la reclusione da uno a cinque anni chi causa un danno ingiusto a una persona diffondendo senza il suo consenso immagini, video o voci falsificati o alterati con l’IA e idonei a ingannare sulla loro genuinità.
Altre risorse per approfondire
- AI Act, articolo 50: obblighi di trasparenza – Le regole europee sulla riconoscibilità dei contenuti generati o modificati con l’intelligenza artificiale.
- Commissione europea: icone per identificare i contenuti generati con IA – Le indicazioni sull’etichettatura dei contenuti artificiali.
- Altalex: Deepfake satirici e protezione dei dati, il caso Mentana – Un approfondimento sul rapporto tra libertà di satira, identità digitale e privacy.