AI Washing

KI-Täuschung bezeichnet die Praxis, zu übertreiben oder falsch darzustellen, in welchem Umfang ein Produkt, eine Dienstleistung oder ein Unternehmen künstliche Intelligenz einsetzt oder was diese Technologie leisten kann. Dadurch entsteht eine Diskrepanz zwischen den beworbenen Fähigkeiten und der tatsächlichen Funktionsweise: Kunden und Investoren erwarten Intelligenz, Autonomie oder Leistung, die das zugrunde liegende System nicht erbringt.

Der Begriff ist an Greenwashing angelehnt, womit irreführende Umweltversprechen bezeichnet werden. Der Gartner-Analyst Jim Hare verwendete „AI washing“ in seiner Analyse vom 6. Juli 2017 zu Anbietern von Unternehmenssoftware, die die Umwälzungen durch KI für sich nutzen, und beschrieb Anbieter, die die KI-Bezeichnung wahllos verwendeten.

Wie KI-Täuschung funktioniert#

KI-Täuschung macht technische Komplexität zum Marketingvorteil. Käufer stoßen auf Begriffe wie künstliche Intelligenz, maschinelles Lernen und „autonom“, ohne genügend Informationen zu haben, um diese Beschreibungen mit einer konkreten Funktion in Verbindung zu bringen. Die Irreführung kann sich darauf beziehen, ob die Technologie überhaupt vorhanden ist, welchen Beitrag sie zu einem Arbeitsablauf leistet oder wie aussagekräftig ihre Ergebnisse sind.

Häufige Muster sind:

• Übertriebene Fähigkeiten: Ein System wird so beworben, als erledige es Arbeit auf Expertenniveau, obwohl seine Ergebnisse die Behauptung nicht belegen.
• Verschleierung menschlicher Beteiligung: Eine Dienstleistung wird als autonom dargestellt, obwohl Menschen wesentliche Teile der beworbenen Arbeit erledigen.
• Übertriebene Leistungsversprechen: Ergebnisse aus ausgewählten Bedingungen werden auf eine größere Zielgruppe oder weitere Aufgaben übertragen, als es die Auswertung rechtfertigt.
• Vorverlegte Zeitpläne: Geplante KI-Funktionen werden als bereits vorhandene Produktfunktionen beschrieben.

Diese Muster beeinflussen Kauf-, Investitions- und Personalentscheidungen. Sie verschleiern außerdem betriebliche Anforderungen: Kunden müssen wissen, welche Ergebnisse überprüft werden müssen, welche Aufgaben das System übernimmt und wie sich Fehler auf nachgelagerte Entscheidungen auswirken.

KI-Täuschung und verwandte Begriffe#

Robotergestützte Prozessautomatisierung automatisiert wiederkehrende Arbeitsabläufe, häufig anhand vordefinierter Regeln. Maschinelles Lernen erkennt Muster in Daten, während symbolische KI explizites Wissen und festgelegte Schlussfolgerungsregeln nutzt. Präzise Produktbeschreibungen benennen den Mechanismus und seine Funktion. Ein regelbasiertes System als KI zu bezeichnen, wird irreführend, wenn die damit verbundenen Versprechen Lernfähigkeit oder Anpassungsfähigkeit suggerieren, die dem System fehlen.

Arbeitsabläufe mit menschlicher Beteiligung weisen Menschen klar definierte Prüf- oder Entscheidungsaufgaben zu. Transparente Beschreibungen machen diesen Beitrag sichtbar. So setzt die Ultralytics Platform KI-gestützte Datenannotation ein: Ihre intelligente YOLO-Annotationsfunktion erstellt anhand von Modellvorhersagen vorläufige Labels, die Annotatoren prüfen, anpassen oder entfernen können. So werden sowohl die automatisierte Aufgabe als auch die menschliche Rolle deutlich.

Eine Halluzination liegt vor, wenn ein Modell falsche oder unbelegte Inhalte erzeugt. Bei KI-Täuschung geht es um Aussagen über das System. Erklärbare KI hilft dabei, das Verhalten eines Modells zu interpretieren; Transparenz bei KI vermittelt Informationen zu Fähigkeiten, Auswertungsbedingungen und Verantwortlichkeiten. Beides unterstützt eine evidenzbasierte Beschreibung von KI-Produkten.

Beispiele aus der Praxis und Folgen#

Aufsichtsbehörden griffen den Begriff bei Durchsetzungsmaßnahmen auf. SEC-Vorsitzender Gary Gensler warnte Unternehmen im Dezember 2023 vor „AI washing“, und die FTC leitete den folgenden Fall gegen DoNotPay als Teil von Operation AI Comply ein, ihrer im September 2024 gestarteten Aktion gegen irreführende KI-Versprechen.

Der Anlageberater Delphia behauptete, Kundendaten verbesserten seine KI-gestützten Anlageprognosen. Die SEC stellte fest, dass dem Unternehmen von 2019 bis 2023 die beworbenen Fähigkeiten im Bereich KI und maschinelles Lernen fehlten. Im Rahmen eines Vergleichs vom 18. März 2024 erklärte sich Delphia bereit, eine zivilrechtliche Geldstrafe von 225.000 US-Dollar zu zahlen. Global Predictions stimmte unabhängig davon einer Geldstrafe von 175.000 US-Dollar zu, nachdem das Unternehmen irreführende Behauptungen über KI-gestützte Prognosen und seinen Status als erster regulierter KI-Finanzberater aufgestellt hatte.

DoNotPay bewarb einen KI-Dienst als „weltweit ersten Roboteranwalt“ und behauptete, dieser könne menschliche juristische Fachkenntnisse ersetzen. Der Vergleich im Verfahren gegen DoNotPay sah eine Zahlung von 193.000 US-Dollar und Mitteilungen an berechtigte Abonnenten vor. Die FTC erließ die endgültige Anordnung im Januar 2025 und untersagte unbelegte Behauptungen, der Dienst könne professionelle Dienstleistungen ersetzen.

Belege für KI-Versprechen#

Eine belegte Behauptung stellt einen konkreten Zusammenhang zwischen einer benannten Funktion, ihren Eingaben und Ausgaben, ihrer Auswertung und ihren Betriebsbedingungen her. Eine Modellkarte hält vorgesehene Anwendungsbereiche, Entwicklungsdetails und gemessene Einschränkungen fest. Die Herkunft der Daten dokumentiert, woher das Auswertungsmaterial stammt, während unabhängige Testdaten dazu beitragen, die Leistung über die Entwicklungsbeispiele hinaus zu überprüfen.

In der Computer Vision müssen Belege für eine Behauptung aus der beworbenen Aufgabe selbst stammen. Ergebnisse der Objekterkennung können Precision, Recall und mittlere durchschnittliche Präzision umfassen, ergänzt um die Zusammensetzung des Datensatzes und Ergebnisse für einzelne Klassen. Für Geschwindigkeitsangaben müssen Hardware, Bildgröße, Batchgröße und Umfang der Messung genannt werden.

KI-Governance verknüpft diese Dokumentation mit Produktfreigaben und der Prüfung von Marketingaussagen, sodass sich jede veröffentlichte Behauptung auf eine Modellkarte, eine Auswertung oder eine dokumentierte menschliche Rolle zurückführen lässt.