Fairness in der KI

Fairness in der KI ist ein multidisziplinäres Gebiet, das sicherstellen soll, dass Systeme der künstlichen Intelligenz keine ungerechten Ergebnisse für verschiedene Personen oder Gruppen schaffen oder aufrechterhalten. Es geht um die Entwicklung und den Einsatz von Modellen, die alle Nutzer gleich behandeln, unabhängig von ihrem demografischen Hintergrund, wie Ethnie, Geschlecht, Alter oder anderen geschützten Merkmalen. Die Verwirklichung von Fairness ist eine entscheidende Komponente bei der Entwicklung vertrauenswürdiger und verantwortungsvoller KI-Systeme, die der Gesellschaft als Ganzes zugute kommen. Das Streben nach Fairness geht über die Modellgenauigkeit hinaus und konzentriert sich stattdessen auf die gesellschaftlichen Auswirkungen und ethischen Implikationen von KI-gesteuerten Entscheidungen.

Wie sich Fairness von verwandten Konzepten unterscheidet

Obwohl sie oft synonym verwendet werden, haben Fairness und verwandte Begriffe unterschiedliche Bedeutungen:

• KI-Ethik: Dies ist ein weites Feld, das alle ethischen Überlegungen im Zusammenhang mit künstlicher Intelligenz umfasst, einschließlich Datenschutz, Verantwortlichkeit und Transparenz in der KI. Fairness ist ein zentraler Grundsatz innerhalb des größeren Rahmens der KI-Ethik.
• Voreingenommenheit in der KI: Voreingenommenheit bezieht sich auf systematische Fehler oder Vorurteile in den Ergebnissen eines KI-Systems, die häufig auf verzerrte Trainingsdaten oder fehlerhafte Algorithmen zurückzuführen sind. Fairness ist das proaktive Ziel, diese Voreingenommenheit zu erkennen und abzuschwächen, um diskriminierende Ergebnisse zu verhindern.
• Algorithmische Voreingenommenheit: Dies ist eine besondere Art der Voreingenommenheit, die vom Algorithmus selbst ausgeht, dessen Logik bestimmte Gruppen begünstigen kann. Fairness-Initiativen zielen darauf ab, algorithmische Verzerrungen durch spezielle Techniken während der Entwicklung und Bewertung zu korrigieren.

Reale Anwendungen von AI Fairness

Die Umsetzung von Fairness ist bei Anwendungen, bei denen es um viel geht und bei denen KI-Entscheidungen erhebliche Auswirkungen auf das Leben von Menschen haben können, unerlässlich. Zwei prominente Beispiele hierfür sind:

1. Equitable Financial Services: KI-Modelle werden häufig zur Bewertung der Kreditwürdigkeit für Darlehen eingesetzt. Ein unfaires Modell könnte qualifizierten Antragstellern, die einer Minderheit angehören, aufgrund historischer Verzerrungen in den Kreditvergabedaten zu einem höheren Prozentsatz als anderen einen Kredit verweigern. Ein faires KI-System wird entwickelt und getestet, um sicherzustellen, dass seine Kreditvergabeempfehlungen nicht mit geschützten Merkmalen korreliert sind, und fördert so den gleichberechtigten Zugang zu finanziellen Möglichkeiten, wie er von Institutionen wie dem Weltwirtschaftsforum befürwortet wird.
2. Unvoreingenommene Einstellungstools: Unternehmen setzen zunehmend KI ein, um Lebensläufe zu prüfen und vielversprechende Kandidaten zu identifizieren. Wenn ein Modell jedoch auf der Grundlage historischer Einstellungsdaten trainiert wurde, die frühere Vorurteile am Arbeitsplatz widerspiegeln, kann es weibliche Bewerber oder Bewerber mit nicht traditionellen Namen ungerechtfertigt benachteiligen. Um dem entgegenzuwirken, implementieren die Entwickler Fairness-Beschränkungen und führen Audits durch, um sicherzustellen, dass das Tool alle Bewerber ausschließlich auf der Grundlage ihrer Fähigkeiten und Qualifikationen bewertet, wie es von Organisationen wie der Society for Human Resource Management (SHRM) untersucht wurde.

Fairness in KI-Systemen erreichen

Das Erreichen von Fairness ist ein fortlaufender Prozess, der einen ganzheitlichen Ansatz über den gesamten KI-Lebenszyklus hinweg erfordert. Zu den wichtigsten Strategien gehören:

• Sorgfältige Datenverarbeitung: Strenge Verfahren zur Datenerfassung und -kommentierung sind für die Erstellung vielfältiger und repräsentativer Datensätze von grundlegender Bedeutung. Techniken wie die Datenerweiterung können dazu beitragen, unterrepräsentierte Gruppen auszugleichen, und Rahmenwerke wie "Datasheets for Datasets" fördern die Transparenz.
• Fairness-bewusste Algorithmen: Entwicklung oder Anpassung von Algorithmen des maschinellen Lernens (ML) zur ausdrücklichen Berücksichtigung von Fairness-Beschränkungen während der Modellschulung. Dadurch wird sichergestellt, dass das Modell sowohl für Leistung als auch für Gerechtigkeit optimiert wird.
• Strenge Bewertung: Eine gründliche Modellbewertung anhand spezifischer Fairness-Metriken ist entscheidend, um Leistungsunterschiede zwischen verschiedenen Untergruppen zu bewerten. Tools wie das What-If-Tool von Google und AI Fairness 360 von IBM bieten Funktionen zur Erkennung und Abschwächung von Verzerrungen.
• Laufende Überwachung: Eine kontinuierliche Überwachung der Modellleistung und der Fairness nach der Einführung ist notwendig, um aufkommende Probleme oder Datenabweichungen, die im Laufe der Zeit zu neuen Verzerrungen führen könnten, zu erkennen und zu beheben.

Plattformen wie Ultralytics HUB bieten Tools für das Training und die Verwaltung von benutzerdefinierten Modellen, die es Entwicklern ermöglichen, Datensätze sorgfältig zu kuratieren und Modelle wie Ultralytics YOLO11 auf ihre Leistung in verschiedenen Gruppen zu bewerten. Dies unterstützt die Entwicklung gerechterer Computer-Vision-Lösungen (CV). Die Einhaltung der ethischen Richtlinien von Organisationen wie der Partnership on AI und die Befolgung von staatlichen Rahmenwerken wie dem NIST AI Risk Management Framework sind ebenfalls wichtige Schritte. Die Forschungsgemeinschaft treibt diese Themen auf Veranstaltungen wie der ACM Conference on Fairness, Accountability, and Transparency (FAccT) weiter voran.