Deepfakes

Les médias synthétiques créés à l'aide de techniques d'apprentissage profond sont connus sous le nom de « deepfakes ». Le terme est un mot-valise combinant « deep learning » (apprentissage profond) et « fake » (faux), et désigne des vidéos ou des enregistrements audio dans lesquels l'apparence et la voix d'une personne sont remplacées par celles d'une autre, souvent avec un haut degré de réalisme. Pour ce faire, on entraîne un réseau neuronal sur de grandes quantités d'images et de vidéos existantes des personnes ciblées afin d'apprendre et de reproduire leurs expressions faciales, leurs maniérismes et leurs schémas d'élocution.

La technologie derrière les Deepfakes

La génération de deepfakes repose principalement sur deux concepts clés de l'apprentissage automatique : les réseaux antagonistes génératifs (GAN) et les autoencodeurs.

• Réseaux antagonistes génératifs (GAN) : Un GAN se compose de deux réseaux neuronaux concurrents : un générateur et un discriminateur. Le générateur crée les fausses images (par exemple, une image d'une vidéo avec un visage échangé), tandis que le discriminateur tente de déterminer si l'image est réelle ou fausse. Ce processus antagoniste force le générateur à produire des faux de plus en plus convaincants qui peuvent tromper le discriminateur. Cette technique est une pierre angulaire de l'IA générative moderne.
• Autoencodeurs : Cette approche utilise une architecture encodeur-décodeur. Deux autoencodeurs sont entraînés sur des séquences de deux personnes différentes. Pour effectuer un échange de visage, les images de la première personne sont exécutées via le premier encodeur, mais ensuite décodées à l'aide du décodeur entraîné sur la deuxième personne. Cela génère des images de la deuxième personne avec les expressions et l'orientation de la première. Le processus commence souvent par un modèle de détection d'objets, comme Ultralytics YOLO, pour localiser les visages dans une vidéo avant que le processus d'échange ne commence.

Applications et exemples concrets

Bien que souvent associée à des utilisations malveillantes, la technologie des deepfakes a plusieurs applications légitimes et créatives.

• Divertissement et médias : Cette technologie peut être utilisée pour doubler des films de manière transparente dans différentes langues, en faisant correspondre les mouvements des lèvres des acteurs au nouveau dialogue. Elle permet également de rajeunir les acteurs ou de recréer numériquement des personnages historiques pour des films biographiques, comme l'explorent des entreprises telles que Industrial Light & Magic.
• Génération de données synthétiques : La création d'ensembles de données réalistes mais artificiels est une application puissante. Par exemple, des données synthétiques de visages humains peuvent être utilisées pour entraîner des modèles de vision par ordinateur pour des tâches telles que la reconnaissance faciale sans compromettre la confidentialité des données de personnes réelles. Cela contribue à améliorer la robustesse du modèle et à réduire les biais de l'ensemble de données.

Défis éthiques et détection

Le potentiel d'utilisation abusive fait des deepfakes une préoccupation éthique importante. La technologie peut être utilisée pour créer de fausses nouvelles convaincantes, diffuser de la désinformation politique, commettre des fraudes et générer du contenu explicite non consensuel. Ces risques soulignent l'importance de développer des principes robustes pour l'éthique de l'IA et le développement responsable de l'IA.

En réponse, un domaine de la détection de deepfakes a émergé, créant une course aux armements technologique entre les méthodes de génération et de détection. Les chercheurs et les entreprises développent des modèles d'IA pour repérer les artefacts visuels subtils et les incohérences que les algorithmes de deepfake laissent souvent derrière eux. Des initiatives comme le Deepfake Detection Challenge et des organisations comme le Partnership on AI se concentrent sur l'avancement de ces capacités de détection afin d'atténuer l'impact négatif de la technologie. Des outils sont également disponibles pour le public, comme l'Intel FakeCatcher, conçus pour identifier le contenu généré. Apprendre à savoir si une image est générée par l'IA devient une compétence essentielle dans le paysage numérique moderne.