Data Privacy

Der Datenschutz ist das Recht Einzelner, darüber zu bestimmen, wie ihre personenbezogenen Daten erhoben, verwendet, weitergegeben und aufbewahrt werden, sowie die Gesamtheit der Gesetze und Praktiken, mit denen Organisationen dieses Recht achten. Bei künstlicher Intelligenz steht mehr auf dem Spiel als bei gewöhnlicher Software: Modelle werden anhand großer Sammlungen von Trainingsdaten erstellt, die häufig Informationen über Menschen enthalten. Sie können diese Daten speichern und wiedergeben, und Systeme wie die Gesichtserkennung verarbeiten ihrer Funktionsweise nach personenbezogene Daten.

Gesetze und Grundprinzipien#

Die seit Mai 2018 geltende Datenschutz-Grundverordnung (DSGVO) der EU legt in Artikel 5 die maßgeblichen Grundsätze fest: Personenbezogene Daten müssen rechtmäßig, nach Treu und Glauben sowie transparent verarbeitet werden. Sie dürfen nur für festgelegte Zwecke erhoben (Zweckbindung) und nur auf das erforderliche Maß beschränkt werden (Datenminimierung). Sie müssen sachlich richtig und nicht länger als nötig gespeichert werden (Speicherbegrenzung) sowie angemessen geschützt sein. Die verantwortliche Stelle muss die Einhaltung nachweisen können (Rechenschaftspflicht). Artikel 25 verlangt Datenschutz durch Technikgestaltung und datenschutzfreundliche Voreinstellungen. Artikel 22 gewährt Menschen Rechte bei Entscheidungen, die ausschließlich automatisiert getroffen werden. Die Geldbußen betragen bis zu 20 Millionen Euro oder 4 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist.

Andere Gesetze folgen ähnlichen Grundsätzen. Der CCPA in Kalifornien, erweitert durch den CPRA, gewährt Einwohnerinnen und Einwohnern das Recht, Auskunft zu erhalten, ihre Daten löschen zu lassen und dem Verkauf oder der Weitergabe ihrer Daten zu widersprechen. Im US-Gesundheitswesen führt der Standard zur De-Identifizierung nach HIPAA 18 Merkmale auf, die gemäß der Safe-Harbor-Methode entfernt werden müssen, darunter Ganzgesichtsaufnahmen und vergleichbare Bilder. Das KI-Gesetz der EU ergänzt KI-spezifische Regeln. Seit Februar 2025 verbietet es, Gesichtserkennungsdatenbanken durch das wahllose Auslesen von Gesichtsbildern aus dem Internet oder von Videoüberwachungsaufnahmen aufzubauen.

Ob ein Datensatz unter diese Gesetze fällt, hängt davon ab, ob sich daraus Personen identifizieren lassen:

Anonymisierung ist schwieriger, als es scheint. Latanya Sweeney zeigte 2000, dass sich allein anhand von Postleitzahl, Geschlecht und Geburtsdatum etwa 87 % der US-Bevölkerung eindeutig identifizieren lassen. Deshalb macht das Entfernen von Namen einen Datensatz nur selten anonym.

KI-spezifische Datenschutzrisiken#

Modelle können ihre Trainingsbeispiele speichern und wiedergeben. Nicholas Carlini und seine Kolleginnen und Kollegen extrahierten über tausend Trainingsbilder aus Diffusionsmodellen, darunter Fotos einzelner Personen. Selbst ohne Extraktion können Angriffe zur Rückschlussermittlung auf Trainingsdaten zeigen, ob die Daten einer bestimmten Person in einem Trainingssatz enthalten waren. Bei einem Modell, das mit Daten von Menschen mit einer bestimmten Krankheit trainiert wurde, ist dies für sich genommen sensibel.

Die Datenerhebung birgt ein weiteres großes Risiko. Für einen bestimmten Zweck gesammelte Bilder und Texte werden häufig ohne Rechtsgrundlage erneut zum Trainieren verwendet. Mehrere europäische Datenschutzbehörden verhängten gegen Clearview AI Geldbußen, weil das Unternehmen eine Gesichtsdatenbank mit ausgelesenen Fotos aufgebaut hatte; 2024 betrug die Geldbuße der niederländischen Behörde 30,5 Millionen Euro. Innerhalb von Organisationen geraten personenbezogene Daten, die über Werkzeuge der Schatten-KI in externe Chatbots eingefügt werden, aus der Kontrolle der Organisation.

Datenschutztechniken#

• Differenzielle Privatsphäre: Fügt Statistiken oder Trainingsdaten gezielt abgestimmtes Rauschen hinzu, damit Ausgaben so gut wie keine Informationen über Einzelpersonen preisgeben.
• Föderiertes Lernen: Trainiert Modelle dort, wo die Daten gespeichert sind, etwa auf Smartphones oder Krankenhausservern, und gibt nur Modellaktualisierungen weiter.
• Synthetische Daten: Ersetzen echte Datensätze durch erzeugte Daten, die deren statistische Muster beibehalten.
• Vertrauliche KI und Edge-KI: Verarbeiten Daten in geprüften Hardware-Enklaven oder auf dem Gerät, mit dem die Daten erfasst wurden.

Bei der Schwärzung werden identifizierende Inhalte vor der Speicherung oder dem Training entfernt. Computer-Vision-Pipelines verpixeln Gesichter und Nummernschilder in Straßenbildern für die Verkehrsanalyse in der Smart City. Datensätze zur medizinischen Bildanalyse entfernen Patientenkennungen aus DICOM-Kopfzeilen und Gesichtsmerkmale aus Kopfaufnahmen. Auf der Ultralytics Platform zeigt die Aktion Gesichter verpixeln erkannte Gesichter in Beispielbildern in der Vorschau an und ersetzt anschließend ihre Pixel in jedem Bild eines Datensatzes. Ein Datensatz kann so eingestellt werden, dass Gesichter in jedem neuen Upload automatisch verpixelt werden.

Datensicherheit ist eine der Anforderungen des Datenschutzes: Verschlüsselung und Zugriffskontrollen schützen personenbezogene Daten vor unbefugtem Zugriff. Selbst eine vollkommen sichere Datenbank kann jedoch gegen Datenschutzgesetze verstoßen, wenn sie Daten enthält, die ohne Rechtsgrundlage erhoben oder länger als für ihren Zweck nötig aufbewahrt werden.