Fairness in KI

Fairness in KI ist ein multidisziplinäres Feld, das sich dafür einsetzt, dass Systeme der künstlichen Intelligenz keine ungerechten Ergebnisse für verschiedene Einzelpersonen oder Gruppen erzeugen oder aufrechterhalten. Es umfasst die Entwicklung und den Einsatz von Modellen, die alle Benutzer gleich behandeln, unabhängig von ihrem demografischen Hintergrund, wie z. B. Rasse, Geschlecht, Alter oder andere geschützte Merkmale. Das Erreichen von Fairness ist eine entscheidende Komponente beim Aufbau vertrauenswürdiger und verantwortungsvoller KI-Systeme, die der Gesellschaft als Ganzes zugute kommen. Das Streben nach Fairness geht über die Modellgenauigkeit hinaus und konzentriert sich stattdessen auf die gesellschaftlichen Auswirkungen und ethischen Implikationen von KI-gesteuerten Entscheidungen.

Wie sich Fairness von verwandten Konzepten unterscheidet

Obwohl oft synonym verwendet, haben Fairness und verwandte Begriffe unterschiedliche Bedeutungen:

• KI-Ethik: Dies ist ein breites Feld, das alle ethischen Überlegungen im Zusammenhang mit künstlicher Intelligenz umfasst, einschließlich Datenschutz, Verantwortlichkeit und Transparenz in der KI. Fairness ist ein Kernprinzip innerhalb des größeren Rahmens der KI-Ethik.
• Bias in KI: Bias bezieht sich auf systematische Fehler oder Vorurteile in den Ausgaben eines KI-Systems, die oft auf verzerrten Trainingsdaten oder fehlerhaften Algorithmen beruhen. Fairness ist das proaktive Ziel, diesen Bias zu identifizieren und zu mindern, um diskriminierende Ergebnisse zu verhindern.
• Algorithmische Verzerrung (Bias): Dies ist eine spezifische Art von Verzerrung, die vom Algorithmus selbst ausgeht, wobei seine Logik von Natur aus bestimmte Gruppen bevorzugen kann. Fairness-Initiativen zielen darauf ab, algorithmische Verzerrungen durch spezielle Techniken während der Entwicklung und Evaluierung zu korrigieren.

Anwendungen von KI-Fairness in der realen Welt

Die Implementierung von Fairness ist in risikoreichen Anwendungen unerlässlich, in denen KI-Entscheidungen das Leben von Menschen erheblich beeinflussen können. Zwei prominente Beispiele sind:

1. Gerechte Finanzdienstleistungen: KI-Modelle werden häufig verwendet, um die Kreditwürdigkeit für Kredite zu beurteilen. Ein unfair gestaltetes Modell könnte qualifizierten Antragstellern aus Minderheitengruppen aufgrund historischer Verzerrungen in den Kreditdaten häufiger Kredite verweigern als anderen. Ein faires KI-System wird so konzipiert und getestet, dass sichergestellt ist, dass seine Kreditempfehlungen nicht mit schutzwürdigen Merkmalen korrelieren, wodurch ein gleichberechtigter Zugang zu finanziellen Möglichkeiten gefördert wird, wie er von Institutionen wie dem Weltwirtschaftsforum befürwortet wird.
2. Unvoreingenommene Einstellungstools: Unternehmen setzen zunehmend KI ein, um Lebensläufe zu prüfen und vielversprechende Kandidaten zu identifizieren. Wenn ein Modell jedoch mit historischen Einstellungsdaten trainiert wird, die vergangene Vorurteile am Arbeitsplatz widerspiegeln, kann es Bewerberinnen oder Bewerber mit nicht-traditionellen Namen unfair benachteiligen. Um dem entgegenzuwirken, implementieren Entwickler Fairness-Beschränkungen und führen Audits durch, um sicherzustellen, dass das Tool alle Kandidaten ausschließlich auf der Grundlage von Fähigkeiten und Qualifikationen bewertet, wie von Organisationen wie der Society for Human Resource Management (SHRM) untersucht.

Fairness in KI-Systemen erreichen

Das Erreichen von Fairness ist ein fortlaufender Prozess, der einen ganzheitlichen Ansatz über den gesamten KI-Lebenszyklus hinweg erfordert. Zu den wichtigsten Strategien gehören:

• Sorgfältiger Umgang mit Daten: Eine rigorose Datenerfassung und -annotation ist grundlegend für die Erstellung vielfältiger und repräsentativer Datensätze. Techniken wie Data Augmentation können helfen, unterrepräsentierte Gruppen auszugleichen, und Frameworks wie Datenblätter für Datensätze fördern die Transparenz.
• Fairness-Aware Algorithmen: Entwicklung oder Anpassung von Machine-Learning (ML)-Algorithmen, um Fairness-Beschränkungen explizit während des Modelltrainings zu berücksichtigen. Dies stellt sicher, dass das Modell sowohl Leistung als auch Gleichheit optimiert.
• Strenge Evaluierung: Die Durchführung einer gründlichen Modellbewertung unter Verwendung spezifischer Fairness-Metriken ist entscheidend, um Leistungsunterschiede zwischen verschiedenen Untergruppen zu beurteilen. Tools wie Googles What-If Tool und IBMs AI Fairness 360 bieten Funktionen zur Erkennung und Minderung von Verzerrungen.
• Laufende Überwachung: Die kontinuierliche Überwachung der Modellleistung und -fairness nach der Bereitstellung ist erforderlich, um auftretende Probleme oder Data Drift zu erkennen und zu beheben, die im Laufe der Zeit neue Verzerrungen verursachen könnten.

Plattformen wie Ultralytics HUB bieten Werkzeuge für das Training von benutzerdefinierten Modellen und die Verwaltung, die es Entwicklern ermöglichen, Datensätze sorgfältig zu kuratieren und Modelle wie Ultralytics YOLO11 auf ihre Leistung in verschiedenen Gruppen zu bewerten. Dies unterstützt die Entwicklung von gerechteren Computer Vision (CV)-Lösungen. Die Einhaltung ethischer Richtlinien von Organisationen wie der Partnership on AI und die Befolgung staatlicher Rahmenwerke wie des NIST AI Risk Management Framework sind ebenfalls wichtige Schritte. Die Forschungsgemeinschaft treibt diese Themen weiterhin auf Veranstaltungen wie der ACM Conference on Fairness, Accountability, and Transparency (FAccT) voran.