Deepfakes

Les deepfakes sont des images, des vidéos ou des enregistrements audio dans lesquels l'apprentissage profond (DL) remplace ou fabrique le visage, la voix ou le corps d'une personne réelle avec un tel réalisme que le public les croit authentiques. Le terme, contraction de « deep learning » et « fake », date de 2017, lorsqu'un utilisateur de Reddit nommé « deepfakes » a commencé à publier des vidéos avec des visages échangés, réalisées à l'aide d'outils open source. Les deepfakes sont une forme d'IA générative, et les mêmes techniques sont utilisées pour les effets spéciaux et le doublage au cinéma, ainsi que pour la fraude, le harcèlement et la désinformation.

Comment sont réalisés les deepfakes#

L'échange de visages classique utilise une paire d'autoencodeurs qui partagent un même encodeur. L'encodeur partagé apprend à compresser n'importe quel visage sous la forme d'un code compact dans un espace latent, qui décrit la pose, l'expression et l'éclairage, tandis que chaque décodeur apprend à reconstruire une personne précise à partir de ce code. Après l'entraînement sur des milliers de recadrages des visages des deux personnes, le système encode une image de la personne A et la décode avec le décodeur de la personne B, ce qui produit le visage de la personne B avec l'expression de la personne A :

D'autres méthodes ont suivi :

• Réseaux antagonistes génératifs (GANs) : un générateur crée des images tandis qu'un discriminateur tente de les distinguer de vraies photos, et cette compétition pousse le générateur vers le photoréalisme. Des GANs comme StyleGAN produisent des visages de personnes qui n'existent pas.
• Modèles de diffusion : ils génèrent des images et des vidéos en supprimant le bruit étape par étape, sous le guidage d'un texte, d'une photo de référence ou d'une vidéo source. Ils alimentent les outils actuels de retouche photo et de génération vidéo à partir de texte, qui peuvent créer une vidéo réaliste d'une personne en train de parler à partir d'une seule photo de référence.
• Clonage vocal : les modèles de parole reproduisent la voix d'une personne à partir d'un court enregistrement, puis les modèles de synchronisation labiale remodèlent la bouche dans une vidéo existante pour l'adapter au nouvel audio.

Utilisations et préjudices#

Les techniques de deepfake ont des usages légitimes. Les studios rajeunissent les acteurs et doublent les films dans d'autres langues en synchronisant les mouvements des lèvres. Le documentaire Welcome to Chechnya de 2020 a remplacé les visages des personnes persécutées interrogées par ceux de volontaires, protégeant ainsi leur identité tout en préservant chaque expression. Les personnes qui perdent la voix à cause d'une maladie peuvent enregistrer leur voix et parler grâce à son clone, et les visages générés servent de données synthétiques pour entraîner des modèles sans collecter de photos de personnes réelles.

Les préjudices sont bien plus importants. La plupart des deepfakes diffusés en ligne sont des images intimes non consenties ciblant des personnes réelles, généralement des femmes. Des fraudeurs clonent la voix de proches ou de dirigeants pour demander des paiements urgents et, début 2024, un employé de la société d'ingénierie Arup a transféré environ 25 millions de dollars américains après un appel vidéo où le directeur financier de l'entreprise et plusieurs collègues étaient tous des deepfakes. Des extraits fabriqués de politiciens circulent pendant les élections, et l'existence de faux convaincants permet de prétendre que de vrais enregistrements sont eux aussi fabriqués.

Détection des deepfakes#

Les systèmes de détection recherchent les traces laissées par la génération : les raccords de fusion autour du visage, les éclairages et reflets incohérents dans les yeux, les clignements ou mouvements de tête inhabituels, les artefacts de fréquence invisibles à l'œil nu et les mouvements des lèvres qui ne sont plus synchronisés avec la parole. La plupart des détecteurs commencent par localiser et recadrer chaque visage, puis transmettent le recadrage à un classifieur entraîné sur des exemples réels et manipulés. Ultralytics YOLO26 convient à cette deuxième étape : ses modèles de classification s'entraînent sur un jeu de données organisé en dossiers par classe. Des dossiers « real » et « fake » contenant des recadrages de visages suffisent donc pour entraîner un classifieur qui distingue les images réelles des images truquées.

Les détecteurs peinent à généraliser aux méthodes de génération qu'ils n'ont jamais rencontrées. Lors du Deepfake Detection Challenge de Meta, le modèle gagnant a obtenu une précision moyenne de 65,18 % sur un jeu de test caché composé de nouvelles vidéos, contre 82,56 % pour le meilleur modèle sur le jeu de test public. Comme la détection est à la traîne par rapport à la génération, le secteur vérifie aussi la provenance : les Content Credentials (C2PA) joignent un historique signé cryptographiquement indiquant comment le média a été capturé et modifié, et le filigranage IA intègre un signal caché dans le contenu généré, que les détecteurs peuvent lire ultérieurement.

Deepfakes et concepts associés#

• Données synthétiques : toutes données générées artificiellement pour entraîner ou tester des modèles, des scènes de conduite simulées aux images de produits rendues. Les techniques de deepfake en sont une source lorsque des visages générés remplissent un jeu d'entraînement.
• Images de synthèse (CGI) : personnages et effets numériques que les artistes modélisent, préparent pour l'animation et animent à la main. Les studios d'effets visuels associent de plus en plus les images de synthèse au remplacement de visages par apprentissage automatique dans un même plan.
• Shallowfakes : montages trompeurs réalisés sans IA, par exemple ralentir un extrait pour donner l'impression qu'un intervenant est diminué ou ajouter à une vraie vidéo une légende qui en déforme le contexte.

Réglementation#

Les lois ciblent désormais directement les deepfakes. L'article 50 de l'AI Act de l'UE, qui s'applique à partir du 2 août 2026, exige des déployeurs qui utilisent l'IA pour créer des deepfakes qu'ils signalent le caractère généré ou manipulé du contenu, et impose aux fournisseurs de systèmes génératifs de marquer leurs résultats dans un format lisible par machine. Aux États-Unis, le TAKE IT DOWN Act, signé en mai 2025, a fait de la publication de deepfakes intimes non consentis un crime fédéral et, depuis le 19 mai 2026, les plateformes concernées doivent retirer ces contenus dans les 48 heures suivant une demande valide.