AI Watermarking
Le tatouage numérique par IA dissimule un signal détectable par machine dans les images, les textes, les fichiers audio ou les vidéos générés. Fonctionnement de SynthID et des schémas de liste verte, et leurs limites.
Le tatouage numérique d’IA consiste à intégrer un signal caché, détectable par une machine, dans le contenu produit par un système d’IA générative, afin qu’un détecteur possédant la bonne clé puisse ensuite déterminer si une image, une vidéo, un extrait audio ou un texte provient de ce système. Le signal est conçu pour être imperceptible et résister aux modifications courantes, comme le redimensionnement et la compression. Les tatouages numériques font partie de la traçabilité des données des médias synthétiques, et la réglementation les rend obligatoires : l’article 50 du règlement européen sur l’IA exige que les fournisseurs de systèmes génératifs marquent leurs sorties dans un format lisible par machine et détectable à partir du 2 août 2026. Les systèmes déjà commercialisés ont jusqu’au 2 décembre 2026, tandis que la réglementation chinoise sur l’étiquetage du contenu généré par l’IA, en vigueur depuis septembre 2025, impose des étiquettes cachées dans les métadonnées des fichiers en plus des étiquettes visibles.
Fonctionnement du filigranage par IA#
La plupart des méthodes actuelles intègrent le signal pendant la génération du contenu, ce qui le rend plus difficile à supprimer qu’une marque ajoutée après coup.
- Images et vidéos : un encodeur entraîné apporte de légères modifications réparties sur toute l’image, et un décodeur neuronal associé récupère ensuite le signal. Le système SynthID de Google DeepMind fonctionne ainsi pour les images, les vidéos et les fichiers audio de modèles tels qu’Imagen, Veo et Lyria. Stable Signature de Meta affine le décodeur d’un modèle de diffusion latente afin que chaque image générée porte une signature binaire fixe. D’autres méthodes inscrivent un motif dans le bruit initial qu’un modèle de diffusion débruite ; la marque est alors intégrée à la représentation dans l’espace latent de l’image dès la première étape.
- Texte : un grand modèle de langage (LLM) choisit chaque jeton à partir d’une distribution de probabilités ; un tatouage textuel oriente ces choix selon un motif que seule la personne détenant la clé peut détecter. SynthID Text, présenté dans Nature en 2024, a été évalué sur près de 20 millions de réponses Gemini sans baisse de qualité mesurable et est disponible en open source dans Hugging Face Transformers.
- Marques ajoutées après génération : les tatouages numériques classiques issus du traitement du signal, tels que les motifs dans le domaine fréquentiel, peuvent être ajoutés à n’importe quel fichier après sa génération, mais sont généralement plus faciles à supprimer.
Pour les images, la détection s’appuie sur le score de sortie d’un décodeur ; pour le texte, elle repose sur un test statistique de la séquence de jetons et ne nécessite aucun accès au modèle.
Un tatouage textuel à liste verte#
La méthode décrite dans A Watermark for Large Language Models par Kirchenbauer et ses collègues utilise une clé secrète pour hacher le jeton précédent et diviser le vocabulaire en une fraction « verte » et une autre « rouge », puis ajoute un léger biais aux logits des jetons verts avant l’échantillonnage. Le texte sans tatouage comporte des jetons verts à la fréquence de base, tandis que le texte tatoué en comporte bien davantage ; un test z à une proportion permet de le détecter. Dans l’extrait ci-dessous, des logits aléatoires remplacent un modèle de langage :
import torch
torch.manual_seed(0)
vocab, gamma, delta, length, key = 1000, 0.25, 2.0, 200, 42 # key is the secret shared with the detector
def green_list(prev):
"""Return the green 25% of the vocabulary, picked pseudorandomly from the key and previous token."""
return torch.randperm(vocab, generator=torch.Generator().manual_seed(key + prev))[: int(gamma * vocab)]
for bias in (0.0, delta): # ordinary sampling, then watermarked sampling
tokens = [0]
for _ in range(length):
logits = torch.randn(vocab) # stands in for a language model's next-token logits
logits[green_list(tokens[-1])] += bias
tokens.append(torch.multinomial(logits.softmax(0), 1).item())
# Detection needs only the text and the key: count green tokens and apply a one-proportion z-test
hits = sum(t in green_list(p) for p, t in zip(tokens, tokens[1:]))
z = (hits - gamma * length) / (length * gamma * (1 - gamma)) ** 0.5
print(f"bias {bias}: {hits}/{length} green tokens, z = {z:.1f}")L’échantillonnage ordinaire sélectionne 44 jetons verts sur 200 (z = -1,0), soit un résultat proche des 25 % attendus, tandis que l’exécution avec tatouage en sélectionne 141 (z = 14,9), bien au-dessus du seuil z = 4 que l’article utilise pour signaler un texte tatoué. Comme chaque jeton apporte un élément de preuve, les passages plus longs permettent une détection plus fiable ; le signal est plus faible dans les textes où le jeton suivant est presque imposé, comme le code ou une liste de faits.
Tatouage numérique et approches connexes#
- Content Credentials (C2PA) : manifeste de métadonnées signé cryptographiquement, indiquant l’outil qui a créé ou modifié un fichier. Il fournit bien plus de détails qu’un tatouage numérique, mais disparaît lorsqu’un fichier est réencodé ou capturé à l’écran ; les deux approches sont donc souvent combinées.
- Détection des hypertrucages et des images générées par l’IA : des classificateurs recherchent dans le contenu des artefacts de génération sans marque intégrée. Ils fonctionnent avec les sorties de n’importe quel générateur, mais produisent des résultats probabilistes qui perdent en fiabilité à mesure que les générateurs s’améliorent. Des indices similaires permettent de déterminer à l’œil si une image a été générée par l’IA.
- Stéganographie : dissimulation d’un message secret dans un fichier. Le tatouage numérique reprend ses techniques, mais privilégie une détection robuste plutôt que la dissimulation d’une grande quantité de données.
Les plateformes qui étiquettent les médias synthétiques et filtrent le contenu médiocre généré par l’IA combinent généralement ces vérifications :
Robustesse et limites#
Un tatouage numérique doit résister aux modifications anodines, comme le recadrage, le redimensionnement, les changements de couleur et la compression JPEG, et idéalement aux attaques adversariales délibérées. Les développeurs testent cette robustesse en appliquant au contenu marqué des transformations de type augmentation des données et en mesurant la fréquence de réussite de la détection. Les méthodes actuelles présentent des faiblesses connues :
- Régénération : ajouter du bruit à une image puis la reconstruire avec un modèle génératif supprime les tatouages numériques invisibles au niveau des pixels tout en préservant l’apparence générale de l’image.
- Paraphrase et traduction : reformuler un texte tatoué avec un autre modèle, ou le traduire puis le retraduire, dilue le motif de jetons comptabilisé par un détecteur.
- Couverture : seuls les contenus des fournisseurs qui intègrent une marque peuvent être détectés, et les modèles à poids ouverts peuvent fonctionner sans tatouage. L’absence de marque ne permet donc pas de déterminer si le contenu est d’origine humaine.
- Usurpation : un attaquant qui connaît suffisamment bien une méthode peut apposer sa marque sur du contenu créé par une personne pour la discréditer.
Les tatouages visibles posent un problème distinct pour les jeux de données de vision par ordinateur : les modèles les apprennent comme des raccourcis. Dans un cas bien connu, un classificateur entraîné sur le jeu de données PASCAL VOC a appris à reconnaître les chevaux en partie grâce à une mention de droit d’auteur présente sur environ un cinquième des photos de chevaux ; il échouait lorsque cette mention était supprimée. Les marques et les logos visibles font partie du contenu ordinaire des images. Un modèle de détection d’objets Ultralytics YOLO26, entraîné sur des exemples annotés, peut donc les localiser dans un jeu de données d’entraînement, ce qui permet aux équipes de recadrer ou de supprimer les images marquées avant qu’elles n’apprennent au modèle un mauvais indice.










