AI Watermarking
Beim Wasserzeichen für KI werden generierte Bilder, Texte, Audiodateien oder Videos mit einem maschinell erkennbaren Signal versehen. So funktionieren SynthID und Verfahren mit grünen Listen, und hier liegen ihre Grenzen.
KI-Wasserzeichen bezeichnet das Einbetten eines verborgenen, maschinell erkennbaren Signals in Inhalte, die von einem generativen KI-System erzeugt wurden. So kann ein Detektor mit dem passenden Schlüssel später feststellen, ob ein Bild, Video, Audioclip oder Textabschnitt von diesem System stammt. Das Signal soll für Menschen nicht wahrnehmbar sein und alltägliche Änderungen wie Skalierung und Komprimierung überstehen. Wasserzeichen sind ein Bestandteil der Herkunftsnachweise für synthetische Medien, und Vorschriften machen sie verpflichtend: Artikel 50 des EU-KI-Gesetzes verpflichtet Anbieter generativer Systeme ab dem 2. August 2026, Ausgaben in einem maschinenlesbaren, erkennbaren Format zu kennzeichnen. Für bereits auf dem Markt verfügbare Systeme gilt eine Frist bis zum 2. Dezember 2026. Chinas seit September 2025 geltende Vorschriften zur Kennzeichnung KI-generierter Inhalte verlangen neben sichtbaren Kennzeichnungen auch verborgene Kennzeichnungen in Dateimetadaten.
Funktionsweise des KI-Watermarkings#
Die meisten aktuellen Verfahren betten das Signal während der Inhaltserzeugung ein. Dadurch lässt es sich schwerer entfernen als eine nachträglich hinzugefügte Kennzeichnung.
- Bilder und Videos: Ein trainierter Encoder nimmt kleine, über das ganze Bild verteilte Änderungen vor. Ein dazugehöriger neuronaler Decoder rekonstruiert später das Signal. Googles DeepMind-SynthID funktioniert bei Bildern, Videos und Audio aus Modellen wie Imagen, Veo und Lyria auf diese Weise. Meta setzt bei Stable Signature auf die Feinabstimmung des Decoders eines latenten Diffusionsmodells, sodass jedes erzeugte Bild eine feste binäre Signatur enthält. Andere Verfahren bringen ein Muster in den anfänglichen Rauschanteil ein, den ein Diffusionsmodell entrauscht. So wird die Kennzeichnung von Anfang an in die Repräsentation des latenten Raums des Bildes eingewoben.
- Text: Ein großes Sprachmodell (LLM) wählt jedes Token anhand einer Wahrscheinlichkeitsverteilung aus. Ein Textwasserzeichen beeinflusst diese Auswahl nach einem Muster, das nur Personen mit dem passenden Schlüssel überprüfen können. SynthID Text wurde 2024 in Nature beschrieben und anhand von fast 20 Millionen Gemini-Antworten bewertet. Dabei war kein messbarer Qualitätsverlust festzustellen. Das Verfahren ist als quelloffene Implementierung in Hugging Face Transformers verfügbar.
- Nachträgliche Kennzeichnungen: Klassische Wasserzeichen aus der Signalverarbeitung, etwa Muster im Frequenzbereich, lassen sich jeder Datei nach der Erzeugung hinzufügen. Sie sind jedoch in der Regel leichter zu entfernen.
Bei Bildern liefert ein Decoder einen Ausgabewert für die Erkennung. Bei Texten handelt es sich um einen statistischen Test der Tokenfolge, für den kein Zugriff auf das Modell erforderlich ist.
Ein Textwasserzeichen mit grüner Liste#
Das Verfahren aus A Watermark for Large Language Models von Kirchenbauer et al. verwendet einen geheimen Schlüssel, um das vorherige Token zu hashen und das Vokabular in einen „grünen“ Anteil und einen verbleibenden „roten“ Anteil aufzuteilen. Anschließend wird den Logits der grünen Tokens vor dem Sampling eine geringe Verzerrung hinzugefügt. Bei nicht mit Wasserzeichen versehenem Text entspricht der Anteil grüner Tokens der Grundrate. Bei Texten mit Wasserzeichen ist er deutlich höher, was sich mit einem z-Test für einen Anteil erkennen lässt. Im folgenden Codebeispiel stehen zufällige Logits stellvertretend für ein Sprachmodell:
import torch
torch.manual_seed(0)
vocab, gamma, delta, length, key = 1000, 0.25, 2.0, 200, 42 # key is the secret shared with the detector
def green_list(prev):
"""Return the green 25% of the vocabulary, picked pseudorandomly from the key and previous token."""
return torch.randperm(vocab, generator=torch.Generator().manual_seed(key + prev))[: int(gamma * vocab)]
for bias in (0.0, delta): # ordinary sampling, then watermarked sampling
tokens = [0]
for _ in range(length):
logits = torch.randn(vocab) # stands in for a language model's next-token logits
logits[green_list(tokens[-1])] += bias
tokens.append(torch.multinomial(logits.softmax(0), 1).item())
# Detection needs only the text and the key: count green tokens and apply a one-proportion z-test
hits = sum(t in green_list(p) for p, t in zip(tokens, tokens[1:]))
z = (hits - gamma * length) / (length * gamma * (1 - gamma)) ** 0.5
print(f"bias {bias}: {hits}/{length} green tokens, z = {z:.1f}")Beim gewöhnlichen Sampling werden 44 von 200 grünen Tokens ausgewählt (z = −1,0), also ungefähr der erwartete Anteil von 25 %. Beim Durchlauf mit Wasserzeichen sind es 141 (z = 14,9) und damit deutlich mehr als der Schwellenwert z = 4, den die Studie zur Kennzeichnung von Texten mit Wasserzeichen verwendet. Da jedes Token Hinweise liefert, lässt sich längerer Text mit größerer Sicherheit erkennen. Texte, bei denen das nächste Token nahezu feststeht, etwa Code oder eine Liste von Fakten, weisen ein schwächeres Signal auf.
Wasserzeichen und verwandte Ansätze#
- Content Credentials (C2PA): Ein kryptografisch signiertes Metadatenmanifest, das aufzeichnet, welches Werkzeug eine Datei erstellt oder bearbeitet hat. Es enthält deutlich mehr Informationen als ein Wasserzeichen, geht jedoch verloren, wenn eine Datei neu codiert oder ein Bildschirmfoto davon erstellt wird. Deshalb kommen beide Verfahren häufig gemeinsam zum Einsatz.
- Erkennung von Deepfakes und KI-generierten Bildern: Klassifikatoren suchen in Inhalten ohne eingebettete Kennzeichnung nach Artefakten der Erzeugung. Sie funktionieren bei Ausgaben jedes Generators, liefern jedoch Wahrscheinlichkeitsaussagen, deren Genauigkeit mit besseren Generatoren abnimmt. Ähnliche Hinweise nutzen Menschen auch, um mit bloßem Auge zu erkennen, ob ein Bild von KI erzeugt wurde.
- Steganografie: Verbirgt eine geheime Nachricht in einer Datei. Wasserzeichen nutzen ähnliche Techniken, legen den Schwerpunkt jedoch auf zuverlässige Erkennung statt auf das Verbergen großer Datenmengen.
Plattformen, die synthetische Medien kennzeichnen und KI-Müll herausfiltern, kombinieren in der Regel die folgenden Prüfungen:
Robustheit und Grenzen#
Ein Wasserzeichen muss harmlose Änderungen wie Zuschneiden, Skalieren, Farbverschiebungen und JPEG-Komprimierung und idealerweise auch gezielte Gegenmaßnahmen überstehen. Entwickler testen dies, indem sie markierte Inhalte mit Transformationen ähnlich einer Datenerweiterung bearbeiten und messen, wie oft die Erkennung weiterhin gelingt. Aktuelle Verfahren haben bekannte Schwächen:
- Neuerzeugung: Wird einem Bild Rauschen hinzugefügt und das Bild mit einem generativen Modell rekonstruiert, lassen sich unsichtbare Wasserzeichen auf Pixelebene entfernen, während das Bild visuell ähnlich bleibt.
- Paraphrasierung und Übersetzung: Wird ein Text mit Wasserzeichen von einem anderen Modell umgeschrieben oder hin- und zurückübersetzt, wird das Tokenmuster abgeschwächt, das ein Detektor zählt.
- Abdeckung: Erkennen lassen sich nur Ausgaben von Anbietern, die ein Wasserzeichen einbetten. Modelle mit offenen Gewichten können auch ohne Wasserzeichen ausgeführt werden. Ein fehlendes Wasserzeichen sagt daher nichts darüber aus, ob ein Inhalt von Menschen erstellt wurde.
- Fälschung: Wer ein Verfahren gut genug kennt, kann dessen Kennzeichnung auf von Menschen erstellte Inhalte übertragen, um das Verfahren unglaubwürdig zu machen.
Sichtbare Wasserzeichen stellen für Computer-Vision-Datensätze ein eigenes Problem dar: Modelle lernen sie als Abkürzungen. In einem bekannten Fall lernte ein auf dem PASCAL-VOC-Datensatz trainierter Klassifikator, Pferde teilweise anhand eines Copyright-Hinweises zu erkennen, der auf etwa einem Fünftel der Pferdebilder zu sehen war. Wurde der Hinweis entfernt, versagte der Klassifikator. Sichtbare Kennzeichnungen und Logos sind gewöhnliche Bildinhalte. Ein auf beschrifteten Beispielen trainiertes Ultralytics YOLO26-Objekterkennungsmodell kann sie daher in einem Trainingsdatensatz lokalisieren. Teams können markierte Bilder so zuschneiden oder entfernen, bevor sie dem Modell falsche Hinweise vermitteln.










