Algorithmic Bias

Algorithmische Verzerrung bezeichnet systematische und wiederholbare Fehler in einem Computersystem, die zu unfairen Ergebnissen führen, etwa indem eine beliebige Nutzergruppe gegenüber anderen bevorzugt wird. Im Kontext der künstlichen Intelligenz (AI) tritt dieses Phänomen auf, wenn ein maschinelles Lernmodell (ML) Ergebnisse erzeugt, die bestimmte demografische Gruppen oder Szenarien dauerhaft benachteiligen. Im Gegensatz zu zufälligen Fehlern, die unvorhersehbares Rauschen darstellen, spiegelt algorithmische Verzerrung einen strukturellen Mangel in der Entwicklung, dem Training oder der Bereitstellung des Modells wider. Die Beseitigung solcher Verzerrungen ist ein grundlegender Bestandteil der KI-Ethik und entscheidend, um Vertrauen in automatisierte Entscheidungssysteme aufzubauen.

Ursprünge und Mechanismen#

Verzerrungen können auf verschiedene Weise in KI-Systeme gelangen. Die häufigste Ursache sind nicht repräsentative Trainingsdaten. Wenn ein Modell für maschinelles Sehen (CV) hauptsächlich mit Bildern aus einer geografischen Region trainiert wird, hat es möglicherweise Schwierigkeiten, Objekte oder Szenen aus anderen Teilen der Welt zu erkennen. Dies wird häufig als Datenverzerrung bezeichnet. Allerdings kann auch der Algorithmus selbst – die mathematische Logik, die die Daten verarbeitet – Verzerrungen einführen. Beispielsweise kann ein Optimierungsalgorithmus, der die allgemeine Genauigkeit maximieren soll, die Leistung bei kleineren, unterrepräsentierten Gruppen verringern, um eine höhere Gesamtbewertung zu erreichen.

Anwendungen und Folgen in der Praxis#

Die Auswirkungen algorithmischer Verzerrungen sind in verschiedenen Branchen erheblich, insbesondere dort, wo automatisierte Systeme Entscheidungen mit weitreichenden Folgen treffen.

• Medizinische Diagnostik: Im Bereich KI im Gesundheitswesen werden Modelle eingesetzt, um Krankheiten anhand medizinischer Bildgebung zu erkennen. Studien haben gezeigt, dass einige Algorithmen Hautkrebs bei dunkleren Hauttönen weniger genau diagnostizierten, weil die für das Training verwendeten Datensätze von Patienten mit hellerer Haut dominiert wurden. Diese Ungleichheit verdeutlicht, wie wichtig eine vielfältige Analyse medizinischer Bilder ist, um eine gleichbleibend hohe Versorgungsqualität sicherzustellen.
• Einstellung und Personalbeschaffung: Viele Unternehmen verwenden automatisierte Werkzeuge, um Lebensläufe zu filtern. Ein bekannter historischer Fall betraf ein Personalbeschaffungswerkzeug, das lernte, Lebensläufe mit dem Wort „women's“ abzuwerten, weil es mit Lebensläufen aus einem Jahrzehnt trainiert worden war, die überwiegend von Männern eingereicht wurden. Dies veranschaulicht, wie historische Verzerrungen durch prädiktive Modellierung festgeschrieben werden können.
• Gesichtsanalyse: Frühe Versionen kommerzieller Software zur Gesichtserkennung zeigten deutlich höhere Fehlerraten bei Frauen und Menschen anderer Hautfarbe. Organisationen wie die Algorithmic Justice League waren maßgeblich daran beteiligt, diese Unterschiede sichtbar zu machen und sich für gerechtere Technologien einzusetzen.

Verwandte Konzepte unterscheiden#

Um Verzerrungen wirksam zu vermindern, ist es hilfreich, „algorithmische Verzerrung“ von verwandten Begriffen im Bereich der verantwortungsvollen KI zu unterscheiden.

• Im Vergleich zur Datenverzerrung: Datenverzerrung bezeichnet speziell Mängel in den Eingabedaten, etwa Fehler bei der Stichprobenauswahl oder Inkonsistenzen bei der Kennzeichnung. Algorithmische Verzerrung ist das umfassendere Ergebnis und schließt Fehler ein, die aus den Daten, der Modellarchitektur oder der Zielfunktion entstehen.
• Im Vergleich zu Fairness in der KI: Fairness in der KI ist die proaktive Disziplin und umfasst Strategien zur Vermeidung und Korrektur algorithmischer Verzerrungen. Die Verzerrung ist das Problem, Fairness ist das Ziel.
• Im Vergleich zur Modelldrift: Manchmal ist ein Modell während des Trainings unverzerrt, wird jedoch im Laufe der Zeit verzerrt, wenn sich die Daten aus der realen Welt verändern. Dies wird als Datendrift bezeichnet und erfordert eine kontinuierliche Modellüberwachung, um entsprechende Veränderungen zu erkennen.

Strategien zur Reduzierung#

Entwickler können algorithmische Verzerrungen durch gründliche Tests und vielfältige Trainingsstrategien reduzieren. Verfahren wie Datenerweiterung können dabei helfen, Datensätze auszugleichen, indem Variationen unterrepräsentierter Beispiele erzeugt werden. Darüber hinaus sorgt die Orientierung an Rahmenwerken wie dem NIST-Rahmenwerk für das Risikomanagement von KI für einen strukturierten Ansatz zur Risikoerkennung.

Das folgende Beispiel zeigt, wie du während des Trainings mit dem hochmodernen Ultralytics YOLO26 eine Datenerweiterung anwendest. Durch verstärkte geometrische Erweiterungen wie Spiegelungen oder Skalierungen lernt das Modell, besser zu generalisieren, wodurch sich möglicherweise Verzerrungen zugunsten bestimmter Objektausrichtungen oder -positionen reduzieren lassen.

from ultralytics import YOLO

# Load the YOLO26 model, the new standard for speed and accuracy
model = YOLO("yolo26n.pt")

# Train with increased augmentation to improve generalization
# 'fliplr' (flip left-right) and 'scale' help the model see diverse variations
results = model.train(
    data="coco8.yaml",
    epochs=50,
    fliplr=0.5,  # 50% probability of horizontal flip
    scale=0.5,  # +/- 50% image scaling
)

Werkzeuge wie IBMs AI Fairness 360 und das What-If Tool von Google ermöglichen es Ingenieuren, ihre Modelle auf Unterschiede zwischen verschiedenen Gruppen zu prüfen. Die Verwendung synthetischer Daten kann ebenfalls dazu beitragen, Lücken in Trainingsdatensätzen zu schließen, wenn Daten aus der realen Welt nur begrenzt verfügbar sind. Für eine optimierte Datensatzverwaltung und das Training in der Cloud bietet die Ultralytics Platform Werkzeuge zur Visualisierung von Datenverteilungen und zur frühzeitigen Erkennung potenzieller Ungleichgewichte. Letztlich erfordert Transparenz in der KI eine Kombination aus technischen Lösungen, vielfältigen Entwicklungsteams und der kontinuierlichen Bewertung von Precision und Recall über alle demografischen Gruppen der Nutzenden hinweg.