AI Ethics

Die KI-Ethik wendet moralische Grundsätze auf das Design, die Entwicklung und den Einsatz künstlicher Intelligenz (KI) an. Sie fragt, welche Systeme entwickelt werden sollten, wie sie sich verhalten sollten und wer für ihre Auswirkungen verantwortlich ist. Im Mittelpunkt stehen Fairness, Datenschutz, Transparenz, Sicherheit, Verantwortlichkeit und menschliche Aufsicht. Das Fachgebiet greift auf Philosophie, Recht, Sozialwissenschaften und Technik zurück. In der Praxis beeinflusst KI-Ethik, wie Teams Daten erfassen, Modelle evaluieren und entscheiden, welche Produkte auf den Markt kommen. Sie bildet auch eine Grundlage für Vorschriften wie das EU-KI-Gesetz und Kaliforniens KI-Gesetze.

Grundprinzipien#

Internationale Rahmenwerke kommen auf eine ähnliche Reihe von Grundsätzen. Die OECD-Grundsätze für künstliche Intelligenz, die 2019 verabschiedet und 2024 aktualisiert wurden, waren der erste zwischenstaatliche Standard für KI; die UNESCO- Empfehlung zur Ethik der künstlichen Intelligenz wurde 2021 von allen 193 Mitgliedstaaten verabschiedet; und das NIST-Rahmenwerk für das Risikomanagement von KI (2023) macht aus ähnlichen Werten messbare Merkmale vertrauenswürdiger KI, anhand derer Organisationen diese bewerten können:

• Fairness und Nichtdiskriminierung: Systeme sollten Menschen nicht aufgrund ihrer Hautfarbe, ihres Geschlechts, ihres Alters oder anderer geschützter Merkmale schlechter behandeln oder benachteiligen. Voreingenommenheit bei KI entsteht meist durch nicht repräsentative Daten oder Annotationen, und Fairness bei KI liefert die Kennzahlen, mit denen sich diese prüfen lässt.
• Datenschutz und Datenverwaltung: Personenbezogene Daten sollten rechtmäßig, gegebenenfalls mit Einwilligung, erhoben und nur so weit verarbeitet werden, wie es der Zweck erfordert. Verfahren wie differenzielle Privatsphäre und föderiertes Lernen verringern, wie viele Informationen ein Modell preisgibt oder zentralisiert. Bei der Videoanalyse kann Datenschutz durch Technikgestaltung bedeuten, Personen vor dem Speichern des Videomaterials zu anonymisieren: Die Ultralytics-Lösung zum Verpixeln von Objekten führt YOLO26-Erkennung auf jedem Einzelbild aus und verpixelt jedes erkannte Objekt, etwa jede Person, direkt im Bild.
• Transparenz und Erklärbarkeit: Menschen sollten wissen, wann sie mit einem KI-System zu tun haben, und erfahren können, wie es entwickelt wurde – das ist Gegenstand der Transparenz bei KI. Entscheidungen, die sie betreffen, sollten sich mit Methoden der erklärbaren KI (XAI) nachvollziehbar machen lassen.
• Sicherheit und Robustheit: Systeme sollten unter den Bedingungen ihres Einsatzes zuverlässig funktionieren, Manipulationen wie Adversarial-Angriffen widerstehen und im Fehlerfall sicher reagieren.
• Rechenschaftspflicht und menschliche Aufsicht: Eine namentlich benannte Person oder Organisation ist für die Ergebnisse jedes Systems verantwortlich, und Menschen können das System überwachen, übersteuern oder abschalten.

Von Grundsätzen zum Gesetz#

Das EU-KI-Gesetz setzt diese Grundsätze in nach Risiken abgestufte Pflichten um. Es trat im August 2024 in Kraft; die Verbote unzulässiger Praktiken gelten seit dem 2. Februar 2025 und die Transparenzpflichten seit dem 2. August 2026. Nach der Änderung durch das Digital Omnibus von 2026 gelten die Anforderungen für Hochrisikoanwendungen aus Anhang III, etwa bei Einstellungen, Kreditwürdigkeitsprüfungen und im Bildungswesen, ab dem 2. Dezember 2027. Das Gesetz ordnet jede KI-Anwendung nach den dadurch ausgelösten Pflichten ein:

Mehrere Verbote betreffen Computer Vision unmittelbar: das wahllose Sammeln von Gesichtsbildern aus dem Internet oder aus Überwachungskameras zum Aufbau von Erkennungsdatenbanken, die Emotionserkennung an Arbeitsplätzen und in Schulen, die biometrische Kategorisierung zur Ableitung von Merkmalen wie ethnischer Zugehörigkeit oder politischer Meinung sowie – mit eng begrenzten Ausnahmen – die biometrische Fernidentifizierung in Echtzeit an öffentlichen Orten zur Strafverfolgung. Organisationen können ihre Verfahren zum Management von KI außerdem nach ISO/IEC 42001 zertifizieren lassen, einem 2023 veröffentlichten internationalen Standard.

KI-Ethik und verwandte Begriffe#

• KI-Sicherheit: Bezieht sich darauf, Unfälle, Missbrauch und Kontrollverlust zu verhindern, wenn Systeme leistungsfähiger werden. Die KI-Ethik stellt auch die Frage, ob ein System überhaupt existieren sollte und wem es dient.
• KI-Governance: Die Richtlinien, Prozesse und Gesetze, mit denen Organisationen und Regierungen ethische Grundsätze in die Praxis umsetzen.
• Verantwortungsvolle KI: Der Begriff, den Unternehmen üblicherweise für ihre eigene Praxis der KI-Ethik verwenden; weitgehend ein Synonym.
• Algorithmische Voreingenommenheit: Ein konkretes ethisches Problem innerhalb des umfassenderen Fachgebiets: systematische Fehler, die zu unfairen Ergebnissen führen.

Ethische Fragen bei Computer Vision#

• Gesundheitswesen: Bei der Analyse medizinischer Bilder kann ein Modell, das mit Scannern und Patientinnen und Patienten eines einzelnen Krankenhauses validiert wurde, Befunde bei Bevölkerungsgruppen übersehen, die es nie gesehen hat. Deshalb fordern Ethikrahmenwerke eine getrennte Auswertung verschiedener Gruppen und die Aufsicht durch medizinisches Fachpersonal.
• Synthetische Medien: Deepfakes ermöglichen Betrug, Belästigung und Desinformation; das EU-KI-Gesetz verpflichtet Anbieter dazu, sie offenzulegen.
• Emotionserkennung: 2022 stellte Microsoft Azure-Face-Funktionen ein, die emotionale Zustände und Merkmale wie Geschlecht und Alter ableiteten. Als Grund nannte das Unternehmen den fehlenden wissenschaftlichen Konsens darüber, wie Emotionen zu definieren sind, sowie Zweifel daran, dass sich Schlussfolgerungen aus Gesichtsausdrücken auf verschiedene Regionen und Bevölkerungsgruppen übertragen lassen.
• Einwilligung und Herkunft von Datensätzen: Viele Datensätze mit Gesichtern und Personen wurden ohne Wissen der abgebildeten Menschen zusammengetragen; Microsoft nahm 2019 seinen Datensatz MS-Celeb-1M mit rund 10 Millionen Fotos von 100.000 Personen offline.
• Gesichtserkennung und Überwachung: Im Juni 2020 stellte IBM sein Angebot zur allgemeinen Gesichtserkennung ein, und Amazon setzte den Einsatz seines Rekognition-Dienstes durch die Polizei aus. Dieses Moratorium verlängerte das Unternehmen später auf unbestimmte Zeit. Im September 2024 verhängte die niederländische Datenschutzbehörde gegen Clearview AI eine Geldbuße von 30,5 Millionen Euro, weil das Unternehmen eine Datenbank mit Milliarden von aus dem Internet gesammelten Gesichtsfotos aufgebaut hatte.