Deepfakes

I deepfake sono immagini, video o registrazioni audio in cui il deep learning (DL) sostituisce o inventa il volto, la voce o il corpo di una persona reale con tale convincenza che chi guarda li considera autentici. Il termine, fusione di «deep learning» e «fake», risale al 2017, quando un utente di Reddit chiamato «deepfakes» iniziò a pubblicare video con volti scambiati, realizzati con strumenti open source. I deepfake sono una forma di IA generativa e le stesse tecniche sono alla base degli effetti cinematografici e del doppiaggio, oltre che di frodi, molestie e disinformazione.

Come si creano i deepfake#

Il classico scambio di volti usa una coppia di autoencoder che condividono un encoder. L'encoder condiviso impara a comprimere qualsiasi volto in un codice compatto nello spazio latente, che descrive posa, espressione e illuminazione, mentre ciascun decoder impara a ricostruire una persona specifica a partire da quel codice. Dopo l'addestramento su migliaia di ritagli dei volti di entrambe le persone, il sistema codifica un fotogramma della persona A e lo decodifica con il decoder della persona B, ottenendo il volto della persona B con l'espressione della persona A:

Sono seguiti altri metodi:

• Reti generative avversarie (GANs): un generatore crea immagini mentre un discriminatore cerca di distinguerle dalle foto reali, e il confronto spinge il generatore verso il fotorealismo. GANs come StyleGAN producono volti di persone inesistenti.
• Modelli di diffusione: generano immagini e video rimuovendo il rumore passo dopo passo, guidati da testo, una foto di riferimento o un video sorgente. Sono alla base degli attuali strumenti di fotoritocco e di generazione di video da testo, che possono creare un video realistico di una persona che parla a partire da una sola foto di riferimento.
• Clonazione vocale: i modelli vocali riproducono la voce di una persona a partire da una breve registrazione, e i modelli di sincronizzazione labiale modificano poi la bocca in un video esistente per adattarla al nuovo audio.

Usi e danni#

Le tecniche dei deepfake hanno usi legittimi. Gli studi ringiovaniscono gli attori e doppiano i film in altre lingue sincronizzando i movimenti delle labbra. Il documentario del 2020 Welcome to Chechnya ha sostituito i volti degli intervistati perseguitati con quelli di volontari, proteggendone l'identità e preservando ogni espressione. I pazienti che perdono la voce a causa di una malattia possono archiviare registrazioni e parlare tramite una sua copia sintetica, e i volti generati fungono da dati sintetici per addestrare modelli senza raccogliere foto di persone reali.

I danni sono molto più diffusi. La maggior parte dei deepfake online consiste in immagini intime non consensuali che prendono di mira persone reali, di solito donne. I truffatori clonano le voci di familiari o dirigenti per chiedere pagamenti urgenti e, all'inizio del 2024, un dipendente della società di ingegneria Arup ha trasferito circa 25 milioni di dollari dopo una videochiamata in cui il direttore finanziario dell'azienda e altri colleghi erano tutti deepfake. Clip manipolate di politici si diffondono durante le elezioni e la presenza di falsi convincenti permette di liquidare come manipolate anche le registrazioni autentiche.

Rilevare i deepfake#

I sistemi di rilevamento cercano tracce lasciate dalla generazione: giunture di fusione intorno al volto, illuminazione e riflessi negli occhi non coerenti, battiti delle palpebre o movimenti della testa innaturali, artefatti di frequenza invisibili a occhio nudo e movimenti labiali fuori sincrono con il parlato. La maggior parte dei rilevatori prima individua e ritaglia ogni volto, poi passa il ritaglio a un classificatore addestrato su esempi reali e manipolati. Ultralytics YOLO26 è adatto a questa seconda fase: i suoi modelli di classificazione si addestrano su un dataset con una cartella per classe, quindi bastano cartelle «real» e «fake» di ritagli di volti per addestrare un classificatore che distingue il reale dal falso.

I rilevatori faticano a generalizzare a metodi di generazione mai incontrati. Nella Deepfake Detection Challenge di Meta, il modello vincitore ha ottenuto il 65,18% di precisione media su un set di test nascosto di nuovi video, contro l'82,56% del modello migliore sul set di test pubblico. Poiché il rilevamento resta indietro rispetto alla generazione, il settore verifica anche la provenienza: Content Credentials (C2PA) allega un registro firmato crittograficamente che descrive come i contenuti multimediali sono stati acquisiti e modificati, mentre la filigrana AI incorpora nei contenuti generati un segnale nascosto che i rilevatori possono leggere in seguito.

Deepfake e concetti correlati#

• Dati sintetici: qualsiasi dato generato artificialmente e usato per addestrare o testare modelli, da scene di guida simulate a immagini renderizzate di prodotti. Le tecniche dei deepfake sono una loro fonte quando i volti generati vengono inseriti in un set di addestramento.
• Immagini generate al computer (CGI): personaggi ed effetti digitali che gli artisti modellano, preparano e animano manualmente. Gli studi di effetti visivi combinano sempre più spesso la CGI con la sostituzione dei volti basata sull'apprendimento automatico nella stessa inquadratura.
• Shallowfake: modifiche fuorvianti realizzate senza IA, come rallentare una clip per far sembrare che chi parla abbia difficoltà o aggiungere a un video autentico una didascalia con un contesto falso.

Normativa#

Le leggi prendono ora di mira direttamente i deepfake. L'articolo 50 dell'AI Act dell'UE, applicabile dal 2 agosto 2026, impone agli utilizzatori che impiegano l'IA per creare deepfake di dichiarare che il contenuto è generato o manipolato artificialmente e impone ai fornitori di sistemi generativi di contrassegnarne l'output in un formato leggibile da una macchina. Negli Stati Uniti, il TAKE IT DOWN Act, firmato nel maggio 2025, ha reso un reato federale la pubblicazione di deepfake intimi non consensuali e, dal 19 maggio 2026, le piattaforme interessate sono tenute a rimuovere tali contenuti entro 48 ore da una richiesta valida.