Shadow AI

Shadow AI bezeichnet die Nutzung von Tools, Modellen und Diensten für künstliche Intelligenz innerhalb einer Organisation, ohne dass die IT-, Sicherheits- oder Compliance-Teams davon wissen oder sie genehmigt haben. Typische Fälle sind Beschäftigte, die Arbeitsinhalte in einen persönlichen Account eines generativen KI-Assistenten einfügen, Entwickler, die eine nicht geprüfte Modell-API aufrufen, und Teams, die KI-Funktionen in bereits genutzter Software aktivieren. Shadow AI ist eine Unterform der Schatten-IT, dem älteren Problem nicht genehmigter Apps und Cloud-Dienste. Sie verbreitet sich aus demselben Grund: Die Tools sind kostenlos oder günstig, lassen sich innerhalb weniger Minuten einführen und machen Menschen produktiver.

Worin sich Shadow AI von Schatten-IT unterscheidet#

KI-Dienste speichern die übermittelten Daten nicht nur, sondern verarbeiten sie auch. Jede Eingabeaufforderung an ein großes Sprachmodell (LLM) verlässt die Organisation. Bei Angeboten für Privatnutzer können Gespräche gespeichert oder als Trainingsdaten verwendet werden, sofern die Nutzenden dem nicht widersprechen. 2023 fügten Samsung-Ingenieure vertraulichen Quellcode und Besprechungsnotizen in ChatGPT ein. Daraufhin schränkte das Unternehmen den Einsatz generativer KI-Tools auf seinen Geräten ein.

Die Risiken wirken auch in die andere Richtung. Die Ausgabe eines ungeprüften Assistenten kann Halluzinationen, unsicheren Code oder Texte mit unklarer Lizenz in Produkte und Entscheidungen einbringen, ohne dass jemand sie prüft. Von öffentlichen Plattformen wie Hugging Face heruntergeladene Modellgewichte können beim Laden beliebigen Code ausführen, wenn sie das Pickle-Format von Python verwenden. Deshalb speichert das safetensors-Format ausschließlich Tensoren. Werden KI-Agenten über das persönliche Token eines Mitarbeiters mit E-Mail, Kalendern oder Code-Repositories verbunden, können sie auf Unternehmenssystemen Aktionen ausführen. Eine bösartige Webseite oder ein bösartiges Dokument kann sie durch Prompt-Injection manipulieren.

Die Kosten zeigen sich in den Daten zu Datenschutzverletzungen. Der IBM-Bericht zu den Kosten einer Datenschutzverletzung 2026 ergab, dass es bei 43 % der untersuchten betroffenen Organisationen Vorfälle mit Shadow AI gab, gegenüber 20 % im Vorjahr. Die durchschnittlichen Kosten dieser Datenschutzverletzungen beliefen sich auf 5,39 Millionen US-Dollar, verglichen mit einem Gesamtdurchschnitt von 4,99 Millionen US-Dollar.

Gängige Formen von Shadow AI#

• Chatbots und Schreibassistenten: Persönliche Konten werden verwendet, um Verträge zusammenzufassen, proprietären Code zu debuggen oder Antworten zu verfassen, die Kundendaten enthalten.
• Integrierte KI-Funktionen: Ein Anbieter ergänzt ein genehmigtes Tool um Transkription, Zusammenfassungen oder Besprechungsnotizen. Die Funktion beginnt daraufhin, Daten ohne erneute Prüfung an einen neuen Unterauftragsverarbeiter zu senden.
• Nicht geprüfte Modelle und APIs: Entwickler senden Bilder an eine externe Vision-API oder setzen heruntergeladene Gewichte ein, deren Lizenz, Herkunft und Sicherheit niemand überprüft hat.
• Browsererweiterungen und Agenten: Tools, die jede Seite lesen, die ein Mitarbeiter öffnet, oder in verknüpften Konten in seinem Namen handeln.

Shadow AI erkennen und eindämmen#

Die Erkennung stützt sich auf verschiedene Signale: Netzwerk- und DNS-Protokolle, die Datenverkehr zu KI-Endpunkten zeigen, Cloud Access Security Broker und Tools zur Verhinderung von Datenverlust, die Uploads prüfen, Bestandslisten von Browsererweiterungen, Spesenabrechnungen für KI-Abonnements und API-Schlüssel sowie Umfragen oder Amnestieprogramme, bei denen Teams die von ihnen genutzten Tools angeben. Jedes entdeckte Tool durchläuft anschließend dieselbe unten dargestellte Prüfung und wird in das Verzeichnis aufgenommen, auf das KI-Governance angewiesen ist.

Programme zur Eindämmung von Shadow AI verbinden klare Regeln dazu, welche Daten in welche Tools eingegeben werden dürfen, mit ebenso einfach zu nutzenden genehmigten Alternativen: Unternehmenskonten, bei denen das Training mit Kundendaten deaktiviert ist, ein KI-Gateway, das den gesamten Modellverkehr protokolliert und filtert, sowie selbst gehostete Modelle für besonders sensible Aufgaben. Schulungen zur KI-Kompetenz erklären, warum es diese Regeln gibt und welche Tools genehmigt sind.

Auch bei der Arbeit mit Computer Vision tritt dieses Problem auf, wenn Bilder von Personen, Produkten oder Einrichtungen in persönlichen Konten bei Online-Tools für die Beschriftung und das Training gespeichert werden. In einem Teamarbeitsbereich der Ultralytics Platform gehören Datensätze, Modelle und Bereitstellungen, die ein Mitglied erstellt, dem Team; jedes Mitglied kann sie sehen, und die Rollen Owner, Admin, Editor und Viewer legen fest, wer sie ändern darf.

Shadow AI ist ein Problem der fehlenden Übersicht, das zu Vorfällen im Bereich Datenschutz und Datensicherheit führt, denn ein Sicherheitsteam kann ein Tool, von dessen Existenz es nichts weiß, weder bewerten noch schützen oder überwachen. Das KI-Risikomanagement-Framework des NIST behandelt dieses Problem in der Unterkategorie GOVERN 1.6, die Mechanismen zur Erfassung von KI-Systemen fordert, deren Ressourcen sich nach den Risikoprioritäten der Organisation richten.