Falsi profondi

I media sintetici creati con tecniche di deep learning sono noti come deepfakes. Il termine è un portmanteau di "deep learning" e "fake", che si riferisce a video o registrazioni audio in cui le sembianze e la voce di una persona sono sostituite con quelle di un'altra, spesso con un alto grado di realismo. Questo risultato si ottiene addestrando una rete neurale su grandi quantità di immagini e video esistenti delle persone interessate per imparare e replicare le loro espressioni facciali, i loro manierismi e i loro modelli di discorso.

La tecnologia alla base dei deepfakes

La generazione di Deepfake si basa principalmente su due concetti chiave di apprendimento automatico: Le reti avversarie generative (GAN) e gli autoencoder.

• Reti avversarie generative (GAN): Una GAN è composta da due reti neurali concorrenti: un Generatore e un Discriminatore. Il Generatore crea le immagini false (ad esempio, un fotogramma di un video con un volto scambiato), mentre il Discriminatore cerca di determinare se l'immagine è reale o falsa. Questo processo contraddittorio costringe il Generatore a produrre falsi sempre più convincenti, in grado di ingannare il Discriminatore. Questa tecnica è una pietra miliare della moderna IA generativa.
• Autoencoder: Questo approccio utilizza un'architettura encoder-decoder. Due autoencoder vengono addestrati su filmati di due persone diverse. Per eseguire uno scambio di volti, le immagini della prima persona vengono fatte passare attraverso il primo codificatore, ma poi decodificate utilizzando il decodificatore addestrato sulla seconda persona. Questo genera immagini della seconda persona con le espressioni e l'orientamento della prima. Il processo inizia spesso con un modello di rilevamento degli oggetti, come Ultralytics YOLO, per individuare i volti in un video prima che inizi il processo di scambio.

Applicazioni ed esempi del mondo reale

Anche se spesso associata a usi dannosi, la tecnologia deepfake ha diverse applicazioni legittime e creative.

• Intrattenimento e media: La tecnologia può essere utilizzata per doppiare senza soluzione di continuità film in lingue diverse, adattando i movimenti labiali degli attori ai nuovi dialoghi. Permette anche di de-invecchiare gli attori o di ricreare digitalmente personaggi storici per i biopic, come hanno fatto aziende come Industrial Light & Magic.
• Generazione di dati sintetici: La creazione di serie di dati realistici ma artificiali è un'applicazione potente. Ad esempio, i dati sintetici dei volti umani possono essere utilizzati per addestrare i modelli di visione artificiale per compiti come il riconoscimento facciale, senza compromettere la privacy dei dati degli individui reali. Ciò contribuisce a migliorare la robustezza del modello e a ridurre le distorsioni del set di dati.

Sfide etiche e rilevamento

Il potenziale di abuso rende i deepfakes un problema etico significativo. La tecnologia può essere utilizzata per creare fake news convincenti, diffondere disinformazione politica, commettere frodi e generare contenuti espliciti non consensuali. Questi rischi evidenziano l'importanza di sviluppare solidi principi per l'etica dell'IA e per uno sviluppo responsabile dell'IA.

In risposta, è emerso un campo di rilevamento dei deepfake che ha dato vita a una corsa agli armamenti tecnologici tra generazione e metodi di rilevamento. Ricercatori e aziende stanno sviluppando modelli di intelligenza artificiale per individuare i sottili artefatti visivi e le incongruenze che gli algoritmi di deepfake spesso lasciano dietro di sé. Iniziative come la Deepfake Detection Challenge e organizzazioni come la Partnership on AI si concentrano sull'avanzamento di queste capacità di rilevamento per mitigare l'impatto negativo della tecnologia. Esistono anche strumenti disponibili al pubblico, come Intel FakeCatcher, progettati per identificare i contenuti generati. Imparare a capire se un'immagine è generata dall'AI sta diventando un'abilità essenziale nel moderno panorama digitale.