Fairness in AI

Yapay zekâda adalet, bir modelin karar ve hatalarının ırk, cinsiyet, yaş veya engellilik gibi hassas özellikler nedeniyle insanları sistematik olarak dezavantajlı duruma düşürmemesi gerekliliğidir; bu gereklilik, onu ölçmek ve uygulamak için kullanılan metrikleri ve yöntemleri de kapsar. Yapay zekâda yanlılık sorunu ifade eder: temsili olmayan eğitim verilerinden (veri kümesi yanlılığı) veya modelleme ve dağıtım tercihlerinden (algoritmik yanlılık) kaynaklanabilen sistematik sapma. Adalet, bir sistemin karşılaması beklenen ölçüttür; şeffaflık ve hesap verebilirliğin yanı sıra yapay zekâ etiğinin temel ilkelerinden biridir ve aynı anda tümü karşılanamayan birkaç biçimsel tanımı vardır.

Adaleti Ölçme#

Grup adaleti metrikleri, bir modelin davranışını hassas bir özellikle tanımlanan gruplar arasında karşılaştırır:

• Demografik eşitlik: Her grup, kredi onayı veya mülakat daveti gibi olumlu kararları aynı oranda alır.
• Eşitlenmiş olasılıklar: Her grup aynı doğru pozitif oranına ve aynı yanlış pozitif oranına sahiptir. Moritz Hardt, Eric Price ve Nathan Srebro bu kavramı 2016'da, yalnızca doğru pozitif oranını eşitleyen daha zayıf eşit fırsat kavramıyla birlikte tanımladı.
• Gruplar arasında kalibrasyon: 0.7 olarak tahmin edilen bir puan, her grupta aynı %70 sonuç oranına karşılık gelir.
• Bireysel adalet: Birbirine benzeyen bireyler benzer tahminler alır; Cynthia Dwork ve çalışma arkadaşları bu tanımı 2012'de biçimsel olarak ortaya koydu.

Aşağıdaki kod parçası, temel oranları farklı iki grupta kusursuz doğruluk sağlayan bir modeli puanlar:

import numpy as np

# Outcomes and a sensitive attribute for 10 applicants; group A has a higher base rate
y_true = np.array([1, 1, 1, 1, 0, 1, 1, 0, 0, 0])
group = np.array(["A"] * 5 + ["B"] * 5)

# A perfectly accurate model predicts every outcome correctly
y_pred = y_true.copy()

for g in ("A", "B"):
    in_group = group == g
    selection_rate = y_pred[in_group].mean()
    tpr = y_pred[in_group & (y_true == 1)].mean()  # true positive rate
    fpr = y_pred[in_group & (y_true == 0)].mean()  # false positive rate
    print(f"group {g}: selection rate {selection_rate:.0%}, TPR {tpr:.0%}, FPR {fpr:.0%}")

Model, her iki grupta da %100 doğru pozitif oranı ve %0 yanlış pozitif oranı sağlayarak eşitlenmiş olasılıkları karşılar, ancak A grubunun %80'ine ve B grubunun %40'ına onay verdiği için demografik eşitliği ihlal eder. Seçim oranlarını eşitlemek, en az bir grupta yanlış kararlar verilmesini gerektirir.

Adalet Tanımları Neden Çelişir?#

Jon Kleinberg, Sendhil Mullainathan ve Manish Raghavan 2016'da, Alexandra Chouldechova ise 2017'de şunu kanıtladı: Grupların temel oranları farklı olduğunda, kusursuz tahmin gibi uç durumlar haricinde bir sınıflandırıcı her grup için kalibre edilip aynı yanlış pozitif ve yanlış negatif oranlarına da sahip olamaz. COMPAS mükerrer suç işleme aracı bu çelişkiyi uygulamada gösterir. ProPublica, 2016'da yeniden suç işlemeyen Siyah sanıkların yüksek riskli olarak etiketlenme olasılığının beyaz sanıklara göre neredeyse iki kat fazla olduğunu bildirdi. Aracın geliştiricisi ise puanların her iki grup için de eşit şekilde kalibre edildiğini gösterdi. Her iki analiz de doğruydu; bu nedenle belirli bir uygulama için adalet metriği seçmek, teknik olduğu kadar bir politika kararıdır.

Bilgisayarlı Görüde Adalet#

Joy Buolamwini ve Timnit Gebru'nun (2018) gerçekleştirdiği Gender Shades çalışması, üç ticari cinsiyet sınıflandırıcısını denetledi ve koyu tenli kadınlardaki hata oranlarının %34,7'ye kadar çıkarken açık tenli erkeklerde en fazla %0,8 olduğunu buldu. Benzer farklar, yüz tanımadan açık ten renginin ağırlıkta olduğu dermatoloji veri kümeleriyle eğitilen cilt hastalıklarına yönelik tıbbi görüntü analizi modellerine kadar, eğitim görüntülerinde grupların yeterince temsil edilmediği her yerde görülür. Bu nedenle bir bilgisayarlı görü denetimi, ilgili her alt grup için kesinliği ve duyarlılığı ayrı ayrı raporlar ve bunları bir model kartına kaydeder; çünkü tek bir genel doğruluk değeri, başarısız olan bir alt grubu gizleyebilir.

Azaltma Stratejileri#

Müdahaleler, değiştirdikleri makine öğrenimi hattının aşamasına göre gruplandırılır. Ön işleme yöntemleri temsili veri toplar, hedefli veri artırma veya sentetik veri ile boşlukları doldurur ve az temsil edilen grupların ağırlığını artırmak için örnekleri yeniden ağırlıklandırır. Ultralytics YOLO sınıflar için de aynı yeniden ağırlıklandırmayı sunar: cls_pw eğitim bağımsız değişkenini varsayılan 0 değerinin üzerine çıkarmak, her sınıfın kaybını o sınıfın ters sıklığının bu kuvvete yükseltilmiş değeriyle ağırlıklandırır; böylece nadir sınıflar eğitimde daha fazla ağırlık taşır.

İşleme sırasındaki yöntemler, kayıp fonksiyonuna adalet kısıtları ya da ceza terimleri ekler veya en kötü performans gösteren grubun kaybını en aza indirmek için dağılımsal olarak sağlam optimizasyon kullanır. İşlem sonrası yöntemler, eğitimden sonra karar eşiklerini gruplara göre ayarlar; Hardt ve çalışma arkadaşlarının eşitlenmiş olasılıklara ulaşmak için önerdiği yaklaşım budur.

Fairlearn gibi açık kaynaklı araç takımları ve IBM AI Fairness 360, bu metrikleri ve azaltma yöntemlerini uygular. Mevzuat da bu ölçümlerin yapılmasını giderek daha fazla zorunlu kılıyor: AB Yapay Zekâ Yasası, yüksek riskli sistem sağlayıcılarının eğitim verilerini olası yanlılıklar açısından incelemesini gerektiriyor; New York Belediye Yasası 144 ise Temmuz 2023'ten bu yana otomatik işe alım araçlarının yıllık bağımsız yanlılık denetimlerini zorunlu kılıyor.