Algorithmic Bias

Algoritmik önyargı, bir kullanıcı grubunu diğerlerine kıyasla keyfi biçimde ayrıcalıklı kılmak gibi adaletsiz sonuçlar oluşturan, bir bilgisayar sistemindeki sistematik ve tekrarlanabilir hataları ifade eder. Yapay Zeka (AI) bağlamında bu olgu, bir Makine Öğrenimi (ML) modelinin belirli demografik gruplara veya senaryolara karşı sürekli olarak çarpık sonuçlar üretmesiyle ortaya çıkar. Öngörülemeyen gürültü oluşturan rastgele hataların aksine algoritmik önyargı, modelin tasarlanma, eğitilme veya dağıtılma biçimindeki yapısal bir kusuru yansıtır. Bu önyargıları ele almak, Yapay Zeka Etiği alanının temel bir unsurudur ve otomatik karar verme sistemlerine güven oluşturmak için kritik öneme sahiptir.

Kökenler ve Mekanizmalar#

Önyargı, AI sistemlerine çeşitli yollarla sızabilir. En yaygın kaynak, temsili olmayan eğitim verileridir. Bir bilgisayarlı görü (CV) modeli öncelikle tek bir coğrafi bölgeden alınan görüntülerle eğitilirse dünyanın diğer bölgelerindeki nesneleri veya sahneleri tanımakta zorlanabilir. Bu durum genellikle veri kümesi önyargısı olarak adlandırılır. Ancak matematiksel olarak verileri işleyen mantık olan algoritmanın kendisi de önyargı oluşturabilir. Örneğin, genel doğruluğu en üst düzeye çıkarmak için tasarlanmış bir optimizasyon algoritması, daha yüksek bir toplam puan elde etmek amacıyla daha küçük ve yeterince temsil edilmeyen alt gruplardaki performanstan ödün verebilir.

Gerçek Dünya Uygulamaları ve Sonuçları#

Algoritmik önyargının etkisi, özellikle otomatik sistemlerin yüksek riskli kararlar aldığı çeşitli sektörlerde önemlidir.

• Sağlık Tanıları: Sağlık hizmetlerinde AI alanında modeller, tıbbi görüntülerden hastalıkları tespit etmek için kullanılır. Araştırmalar, eğitim için kullanılan [veri kümelerinin](https://ultralytics-translation-1.invalid açık tenli hastaların ağırlıkta olduğu durumlarda bazı algoritmaların koyu ten tonlarında cilt kanserini teşhis etmede daha az doğru olduğunu göstermiştir. Bu farklılık, eşit kalitede sağlık hizmeti sunulmasını güvence altına almak için çeşitli tıbbi görüntü analizine duyulan ihtiyacı ortaya koyar.
• İşe Alım ve Personel Seçimi: Birçok şirket özgeçmişleri filtrelemek için otomatik araçlar kullanır. Dikkat çeken tarihsel bir örnekte, çoğunlukla erkekler tarafından sunulan on yıllık özgeçmişlerle eğitildiği için "women's" kelimesini içeren özgeçmişleri cezalandırmayı öğrenen bir işe alım aracı kullanılmıştır. Bu örnek, tarihsel önyargıların tahmine dayalı modelleme yoluyla nasıl kodlanabileceğini gösterir.
• Yüz Analizi: Ticari yüz tanıma yazılımlarının ilk sürümleri, kadınlarda ve beyaz olmayan kişilerde önemli ölçüde daha yüksek hata oranları sergilemiştir. Algorithmic Justice League gibi kuruluşlar, bu farklılıkları vurgulamada ve daha adil bir teknoloji için savunuculuk yapmada kilit rol oynamıştır.

İlişkili Kavramları Ayırt Etme#

Önyargıyı etkili biçimde azaltmak için, sorumlu AI alanındaki "Algoritmik Önyargı" ile ilişkili terimleri birbirinden ayırmak yararlıdır.

• Veri Kümesi Önyargısına kıyasla: Veri kümesi önyargısı, örnekleme hataları veya etiketleme tutarsızlıkları gibi girdi verilerindeki kusurları ifade eder. Algoritmik önyargı ise verilerden, model mimarisinden veya amaç fonksiyonundan kaynaklanan hataları kapsayan daha geniş bir sonuçtur.
• AI'da Adalete kıyasla: AI'da adalet, algoritmik önyargıyı önlemek ve düzeltmek için kullanılan proaktif bir disiplin ve stratejiler bütünüdür. Önyargı sorunsa adalet hedeftir.
• Model Kaymasına kıyasla: Bazen bir model eğitim sırasında önyargısız olabilir, ancak gerçek dünya verileri değiştikçe zaman içinde önyargılı hale gelebilir. Bu durum veri kayması olarak bilinir ve bunu tespit etmek için sürekli model izleme gerekir.

Azaltma Stratejileri#

Geliştiriciler, titiz testler ve çeşitli eğitim stratejileri uygulayarak algoritmik önyargıyı azaltabilir. Veri artırma gibi teknikler, yeterince temsil edilmeyen örneklerin varyasyonlarını oluşturarak veri kümelerinin dengelenmesine yardımcı olabilir. Ayrıca NIST AI Risk Yönetimi Çerçevesi gibi çerçevelere uymak, riskleri belirlemek için yapılandırılmış bir yaklaşım sağlar.

Aşağıdaki örnek, son teknoloji Ultralytics YOLO26 ile eğitim sırasında veri artırmanın nasıl uygulanacağını gösterir. Çevirme veya ölçekleme gibi geometrik artırmaları artırarak model, belirli nesne yönelimlerine veya konumlarına yönelik önyargıyı potansiyel olarak azaltacak şekilde daha iyi genelleme yapmayı öğrenir.

from ultralytics import YOLO

# Load the YOLO26 model, the new standard for speed and accuracy
model = YOLO("yolo26n.pt")

# Train with increased augmentation to improve generalization
# 'fliplr' (flip left-right) and 'scale' help the model see diverse variations
results = model.train(
    data="coco8.yaml",
    epochs=50,
    fliplr=0.5,  # 50% probability of horizontal flip
    scale=0.5,  # +/- 50% image scaling
)

IBM'in AI Fairness 360'ı ve Google'ın What-If Tool'u gibi araçlar, mühendislerin farklı alt gruplar arasındaki farklılıkları tespit etmek için modellerini denetlemesine olanak tanır. Sentetik verilerin kullanılması, gerçek dünya verilerinin yetersiz olduğu eğitim kümelerindeki boşlukların doldurulmasına da yardımcı olabilir. Kolaylaştırılmış veri kümesi yönetimi ve bulut eğitimi için Ultralytics Platformu, veri dağılımlarını görselleştirmek ve olası dengesizlikleri erkenden belirlemek üzere araçlar sunar. Sonuç olarak AI'da şeffaflığın sağlanması; teknik çözümlerin, çeşitli geliştirme ekiplerinin ve tüm kullanıcı demografileri genelinde kesinlik ile duyarlılığın sürekli değerlendirilmesinin bir bileşimini gerektirir.