Bias in AI

Verzerrungen in der KI bezeichnen systematische Fehler, Vorurteile oder unbegründete Annahmen, die in Systeme der Künstlichen Intelligenz (AI) eingebettet sind und zu unfairen, ungerechten oder diskriminierenden Ergebnissen führen. Im Gegensatz zu zufälligen Fehlern, die unvorhersehbar sind, zeigen sich Verzerrungen in einer konsistenten Verschiebung der Ergebnisse zugunsten oder zum Nachteil bestimmter Gruppen, oft aufgrund sensibler Merkmale wie ethnischer Zugehörigkeit, Geschlecht, Alter oder sozioökonomischem Status. Da Modelle des Maschinellen Lernens (ML) zunehmend in kritischen Einsatzbereichen eingesetzt werden – von der Diagnostik mit KI im Gesundheitswesen bis zur Kreditvergabe –, ist die Erkennung und Eindämmung dieser Verzerrungen zu einem entscheidenden Bestandteil der KI-Ethik und von Sicherheitsprotokollen geworden.

Quellen und Ursprünge von Verzerrungen#

Verzerrungen werden nur selten absichtlich eingeführt. Stattdessen gelangen sie in verschiedenen Phasen des Entwicklungslebenszyklus in Systeme und spiegeln dabei häufig historische Ungleichheiten oder Mängel bei der Datenerfassung wider.

• Verzerrungen in Datensätzen: Dies ist die häufigste Ursache und tritt auf, wenn die Trainingsdaten die Bevölkerung in der realen Welt nicht angemessen repräsentieren. Wird beispielsweise ein Computersehen-Modell (CV) hauptsächlich mit Bildern aus westlichen Ländern trainiert, erkennt es möglicherweise kulturelle Kontexte oder Objekte aus anderen Regionen nicht zuverlässig – ein Phänomen, das häufig mit Auswahlverzerrungen in Verbindung steht.
• Algorithmische Verzerrungen: Selbst bei perfekten Daten kann das Modelldesign Ungerechtigkeit verursachen. Bestimmte Optimierungsalgorithmen priorisieren globale Metriken für die Genauigkeit, wodurch die Leistung bei kleineren, unterrepräsentierten Untergruppen unbeabsichtigt zugunsten einer Maximierung des Gesamtergebnisses beeinträchtigt werden kann.
• Kognitive und historische Verzerrungen: Menschliche Vorurteile können während der Datenannotation in Ground-Truth-Labels einfließen. Wenn menschliche Annotatoren unbewusste Vorurteile haben, lernt das Modell, diese subjektiven Einschätzungen zu reproduzieren, und automatisiert damit faktisch bestehende gesellschaftliche Ungleichheiten.

Auswirkungen in der realen Welt#

Die Folgen von Verzerrungen in der KI können tiefgreifend sein und die Rechte und Sicherheit einzelner Menschen beeinträchtigen.

• Unterschiede bei der Gesichtsanalyse: Frühere Versionen der Technologie zur Gesichtserkennung wiesen für Frauen und People of Color deutlich höhere Fehlerraten auf. Organisationen wie die Algorithmic Justice League haben aufgezeigt, dass diese Systeme, die häufig im Sicherheitsbereich eingesetzt werden, aufgrund nicht repräsentativer Trainingsdatensätze zu Fehlidentifizierungen und ungerechtfertigten Beschuldigungen führen können.
• Medizinische Diagnostik: Bei der Analyse medizinischer Bilder können Modelle, die überwiegend mit Daten von hellhäutigen Patienten trainiert wurden, Schwierigkeiten haben, Hautkrankheiten bei dunkleren Hauttypen zu erkennen. Diese Ungleichheit kann zu verspäteten Diagnosen und einer ungleichen Versorgungsqualität führen und Forderungen nach vielfältigeren biomedizinischen Datensätzen verstärken.

Strategien zur Reduzierung#

Die Bekämpfung von Verzerrungen erfordert einen proaktiven Ansatz während der gesamten Modelltrainings- und Bereitstellungspipeline.

1. Vielfältige Datenaufbereitung: Die Nutzung von Werkzeugen wie der Ultralytics Platform ermöglicht es Teams, die Verteilung eines Datensatzes zu visualisieren und Lücken bei der Repräsentation zu erkennen, bevor das Training beginnt.

2. Fairness-orientierte Tests: Anstatt sich ausschließlich auf aggregierte Metriken zu verlassen, sollten Entwickler eine detaillierte Modellevaluierung für verschiedene demografische Teilgruppen durchführen, um eine gleichberechtigte Leistung sicherzustellen.

3. Interpretierbarkeit: Die Implementierung von Techniken der erklärbaren KI (XAI) hilft Beteiligten zu verstehen, warum ein Modell eine Entscheidung getroffen hat. Dadurch lassen sich diskriminierende Logik oder die Verwendung von Proxyvariablen leichter erkennen (z. B. die Verwendung einer Postleitzahl als Ersatzmerkmal für die ethnische Zugehörigkeit).

Verwandte Konzepte unterscheiden#

Es ist wichtig, „Verzerrungen in der KI“ von anderen technischen Verwendungen des Begriffs „Bias“ zu unterscheiden.

• Im Vergleich zur Bias-Varianz-Abwägung: Im statistischen Lernen bezeichnet dies den Fehler, der entsteht, wenn ein reales Problem durch ein vereinfachtes Modell angenähert wird (Underfitting). Es handelt sich um ein mathematisches Konzept zur Modellkomplexität, das sich von dem durch „Verzerrungen in der KI“ bezeichneten gesellschaftlichen Vorurteil unterscheidet.
• Im Vergleich zu Modellgewichten und Biases: In einem neuronalen Netz ist ein „Bias“-Term ein lernbarer Parameter (ähnlich dem Achsenabschnitt in einer linearen Gleichung), der eine Verschiebung der Aktivierungsfunktion ermöglicht. Dies ist eine grundlegende mathematische Komponente und kein ethischer Mangel.
• Im Vergleich zu Fairness in der KI: Während sich Verzerrung auf das Vorhandensein eines Vorurteils oder Fehlers bezieht, ist Fairness das Ziel beziehungsweise die Gesamtheit der Korrekturmaßnahmen, die zur Beseitigung dieser Verzerrung eingesetzt werden.

Technisches Beispiel: Evaluierung der Leistung von Untergruppen#

Um Verzerrungen zu erkennen, testen Entwickler ihre Modelle häufig mit spezifischen „Herausforderungs“-Datensätzen, die Minderheitengruppen repräsentieren. Das folgende Beispiel zeigt, wie du YOLO26 verwenden kannst, um die Leistung bei einer bestimmten Teilmenge der Daten zu überprüfen.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model
model = YOLO("yolo26n.pt")

# Validate the model on a specific dataset split designed to test
# performance on an underrepresented environment (e.g., 'night_time.yaml')
metrics = model.val(data="night_time_data.yaml")

# Analyze specific metrics to check for performance degradation
print(f"mAP50-95 on challenge set: {metrics.box.map}")

Standards wie das NIST-Risikomanagementrahmenwerk für KI und Vorschriften wie das EU-KI-Gesetz schreiben solche Prüfungen auf Verzerrungen zunehmend vor, um die Entwicklung verantwortungsvoller KI sicherzustellen.