Deepfakes

Deepfakes sind Bilder, Videos oder Audioaufnahmen, in denen Deep Learning (DL) das Gesicht, die Stimme oder den Körper einer realen Person so überzeugend ersetzt oder nachbildet, dass Betrachter sie für echt halten. Der Begriff, eine Kombination aus „Deep Learning“ und „Fake“, stammt aus dem Jahr 2017, als ein Reddit-Nutzer namens „deepfakes“ begann, mit Open-Source-Tools erstellte Videos mit ausgetauschten Gesichtern zu veröffentlichen. Deepfakes sind eine Form der generativen KI, und dieselben Techniken kommen bei Filmeffekten und Synchronisationen sowie für Betrug, Belästigung und Desinformation zum Einsatz.

So werden Deepfakes erstellt#

Beim klassischen Face-Swap kommen zwei Autoencoder zum Einsatz, die denselben Encoder verwenden. Der gemeinsam genutzte Encoder lernt, jedes Gesicht in einen kompakten Code im latenten Raum zu überführen, der Pose, Ausdruck und Beleuchtung beschreibt, während jeder Decoder lernt, anhand dieses Codes eine bestimmte Person zu rekonstruieren. Nach dem Training mit Tausenden Gesichtsausschnitten beider Personen codiert das System ein Einzelbild von Person A und decodiert es mit dem Decoder von Person B. So entsteht das Gesicht von Person B mit dem Ausdruck von Person A:

Es folgten weitere Methoden:

• Generative gegnerische Netzwerke (GANs): Ein Generator erstellt Bilder, während ein Diskriminator versucht, sie von echten Fotos zu unterscheiden. Dieser Wettstreit treibt den Generator zu fotorealistischen Ergebnissen. GANs wie StyleGAN erzeugen Gesichter von nicht existierenden Menschen.
• Diffusionsmodelle: Sie erzeugen Bilder und Videos, indem sie schrittweise Rauschen entfernen, angeleitet durch Text, ein Referenzfoto oder ein Ausgangsvideo. Sie bilden die Grundlage aktueller Bildbearbeitungs- und Text-zu-Video-Tools, mit denen sich aus einem einzelnen Referenzfoto ein realistisches Video einer sprechenden Person erstellen lässt.
• Stimmenklonen: Sprachmodelle bilden die Stimme einer Person anhand einer kurzen Aufnahme nach, und Lippensynchronisationsmodelle passen anschließend die Mundbewegungen in einem vorhandenen Video an das neue Audio an.

Einsatzbereiche und Schäden#

Deepfake-Techniken haben legitime Einsatzbereiche. Studios lassen Schauspieler jünger erscheinen und synchronisieren Filme in andere Sprachen mit passenden Lippenbewegungen. In der Dokumentation Welcome to Chechnya aus dem Jahr 2020 wurden die Gesichter verfolgter Interviewpartner durch die von Freiwilligen ersetzt. Dadurch wurden ihre Identitäten geschützt, während jeder Gesichtsausdruck erhalten blieb. Patienten, die krankheitsbedingt ihre Stimme verlieren, können Aufnahmen speichern und mithilfe eines Klons ihrer Stimme sprechen. Außerdem dienen erzeugte Gesichter als synthetische Daten, um Modelle zu trainieren, ohne Fotos echter Menschen zu sammeln.

Die Schäden sind weitaus größer. Bei den meisten Deepfakes im Internet handelt es sich um intime Darstellungen realer Personen, die ohne deren Zustimmung erstellt wurden und meist Frauen zum Ziel haben. Betrüger klonen die Stimmen von Angehörigen oder Führungskräften, um dringende Überweisungen zu verlangen. Anfang 2024 überwies ein Mitarbeiter des Ingenieurbüros Arup etwa 25 Millionen US-Dollar, nachdem er an einem Videoanruf teilgenommen hatte, in dem der Finanzvorstand des Unternehmens und weitere Kollegen allesamt Deepfakes waren. Gefälschte Aufnahmen von Politikern verbreiten sich während Wahlen, und die Existenz überzeugender Fälschungen ermöglicht es, echte Aufnahmen als gefälscht abzutun.

Deepfakes erkennen#

Erkennungssysteme suchen nach Spuren, die bei der Generierung entstehen: Übergängen an den Gesichtsrändern, nicht übereinstimmender Beleuchtung und Reflexionen in den Augen, unnatürlichem Blinzeln oder Kopfbewegungen, für das Auge unsichtbaren Frequenzartefakten sowie Lippenbewegungen, die nicht mehr synchron zur Sprache sind. Die meisten Erkennungssysteme lokalisieren und beschneiden zunächst jedes Gesicht und übergeben den Ausschnitt anschließend an einen Klassifikator, der mit echten und manipulierten Beispielen trainiert wurde. Ultralytics YOLO26 eignet sich für diese zweite Stufe: Die Klassifizierungsmodelle werden mit einem Datensatz mit einem Ordner pro Klasse trainiert. Daher reichen Ordner mit Gesichtsausschnitten, die als „echt“ und „gefälscht“ gekennzeichnet sind, aus, um einen Klassifikator für echte und gefälschte Inhalte zu trainieren.

Erkennungssysteme haben Schwierigkeiten, auf Generierungsmethoden zu verallgemeinern, die sie noch nicht kennen. Bei Metas Deepfake Detection Challenge erzielte das beste Modell eine durchschnittliche Präzision von 65,18 % auf einem zurückgehaltenen Testsatz mit neuen Videos, verglichen mit 82,56 % für das beste Modell auf dem öffentlichen Testsatz. Da die Erkennung mit der Generierung nicht Schritt hält, überprüft die Branche auch die Herkunft von Medien: Content Credentials (C2PA) fügen einen kryptografisch signierten Nachweis darüber hinzu, wie Medien aufgenommen und bearbeitet wurden, und KI-Wasserzeichen betten ein verborgenes Signal in generierte Inhalte ein, das Erkennungssysteme später auslesen können.

Deepfakes und verwandte Konzepte#

• Synthetische Daten: Alle künstlich erzeugten Daten, die zum Trainieren oder Testen von Modellen verwendet werden, von simulierten Fahrszenen bis zu gerenderten Produktbildern. Deepfake-Techniken sind eine Quelle solcher Daten, wenn generierte Gesichter einen Trainingsdatensatz füllen.
• Computergenerierte Bilder (CGI): Digitale Figuren und Effekte, die Künstler von Hand modellieren, mit einem Skelett versehen und animieren. Studios für visuelle Effekte kombinieren CGI in derselben Einstellung zunehmend mit dem Austausch von Gesichtern mithilfe lernender Modelle.
• Shallowfakes: Irreführende Bearbeitungen ohne KI, etwa wenn ein Clip verlangsamt wird, damit ein Sprecher beeinträchtigt klingt, oder ein echtes Video mit einem falschen Kontext versehen wird.

Regulierung#

Gesetze richten sich inzwischen direkt gegen Deepfakes. Artikel 50 des EU AI Act, der ab dem 2. August 2026 gilt, verpflichtet Betreiber, die mit KI Deepfakes erstellen, offenzulegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Anbieter generativer Systeme müssen ihre Ausgaben außerdem in einem maschinenlesbaren Format kennzeichnen. In den Vereinigten Staaten machte der im Mai 2025 unterzeichnete TAKE IT DOWN Act die Veröffentlichung nicht einvernehmlicher intimer Deepfakes zu einer Straftat nach Bundesrecht. Seit dem 19. Mai 2026 müssen die erfassten Plattformen solche Inhalte innerhalb von 48 Stunden nach einer gültigen Meldung entfernen.