Algorithmic Bias

Algoritmik önyargı, bir bilgisayar sisteminde haksız sonuçlar yaratan, örneğin belirli bir kullanıcı grubunu diğerlerine göre kayıran sistematik ve tekrarlanabilir hataları ifade eder. Yapay Zeka (AI) bağlamında bu durum, bir Makine Öğrenmesi (ML) modelinin belirli demografik özelliklere veya senaryolara karşı sürekli olarak yanlı sonuçlar üretmesiyle ortaya çıkar. Tahmin edilemeyen gürültüden oluşan rastgele hataların aksine, algoritmik önyargı, modelin nasıl tasarlandığı, eğitildiği veya dağıtıldığı konusundaki yapısal bir kusuru yansıtır. Bu önyargıları ele almak, Yapay Zeka Etiği konusunun temel bir parçasıdır ve otomatik karar verme sistemlerine duyulan güveni inşa etmek için esastır.

Link to this sectionKökenler ve Mekanizmalar#

Bias can infiltrate AI systems through several avenues. The most common source is unrepresentative training data. If a computer vision (CV) model is trained primarily on images from one geographic region, it may struggle to recognize objects or scenes from other parts of the world. This is often referred to as dataset bias. However, the algorithm itself—the mathematical logic processing the data—can also introduce bias. For example, an optimization algorithm designed to maximize overall accuracy might sacrifice performance on smaller, underrepresented subgroups to achieve a higher total score.

Link to this sectionGerçek Dünya Uygulamaları ve Sonuçları#

Algoritmik önyargının etkisi, özellikle otomatik sistemlerin yüksek riskli kararlar aldığı çeşitli sektörlerde oldukça önemlidir.

• Sağlık Tanılamaları: Sağlıkta Yapay Zeka alanında, modeller tıbbi görüntülemeden hastalıkları tespit etmek için kullanılır. Çalışmalar, bazı algoritmaların eğitim için kullanılan veri setleri açık tenli hastaların ağırlıkta olması nedeniyle koyu ten tonlarında cilt kanserini teşhis etmede daha az doğru sonuç verdiğini göstermiştir. Bu eşitsizlik, eşit bakım kalitesi sağlamak için çeşitli tıbbi görüntü analizi verilerine duyulan ihtiyacı vurgular.
• İşe Alım ve İstihdam: Birçok şirket özgeçmişleri filtrelemek için otomatik araçlar kullanır. Tarihsel bir vaka, ağırlıklı olarak erkekler tarafından sunulan on yıllık özgeçmişlerle eğitildiği için "kadınlar" kelimesini içeren özgeçmişleri cezalandırmayı öğrenen bir işe alım aracını içeriyordu. Bu durum, tarihsel önyargıların tahminleyici modelleme yoluyla nasıl kodlanabileceğini göstermektedir.
• Yüz Analizi: Ticari yüz tanıma yazılımının ilk sürümleri, kadınlar ve beyaz olmayan insanlar için önemli ölçüde daha yüksek hata oranları sergilemiştir. Algorithmic Justice League gibi kuruluşlar, bu eşitsizlikleri vurgulama ve daha adil bir teknoloji için savunuculuk yapma konusunda kilit bir rol oynamıştır.

Link to this sectionİlgili Kavramları Ayırt Etme#

Önyargıyı etkili bir şekilde azaltmak için "Algoritmik Önyargı" kavramını sorumlu yapay zeka alanındaki ilgili terimlerden ayırmak faydalıdır.

• vs. Veri Seti Önyargısı: Veri seti önyargısı, örnekleme hataları veya etiketleme tutarsızlıkları gibi girdi verilerindeki kusurları ifade eder. Algoritmik önyargı ise verilerden, model mimarisinden veya amaç fonksiyonundan kaynaklanan hataları kapsayan daha geniş sonuçtur.
• vs. Yapay Zekada Adalet: Yapay zekada adalet, algoritmik önyargıyı önlemek ve düzeltmek için kullanılan proaktif disiplin ve stratejiler bütünüdür. Önyargı sorun ise, adalet de hedeftir.
• vs. Model Kayması: Bazen bir model eğitim sırasında önyargısızdır ancak gerçek dünya verileri değiştikçe zamanla önyargılı hale gelir. Bu, veri kayması olarak bilinir ve tespit edilmesi için sürekli model izleme gerektirir.

Link to this sectionAzaltma Stratejileri#

Geliştiriciler, titiz testler ve çeşitli eğitim stratejileri uygulayarak algoritmik önyargıyı azaltabilirler. Veri artırma gibi teknikler, yeterince temsil edilmeyen örneklerin varyasyonlarını oluşturarak veri setlerini dengelemeye yardımcı olabilir. Ayrıca, NIST AI Risk Yönetimi Çerçevesi gibi çerçevelere bağlı kalmak, riskleri belirlemek için yapılandırılmış bir yaklaşım sağlar.

Aşağıdaki örnek, son teknoloji ürünü Ultralytics YOLO26 ile eğitim sırasında veri artırmanın nasıl uygulanacağını göstermektedir. Döndürme veya ölçeklendirme gibi geometrik artırmaları artırarak, model daha iyi genelleme yapmayı öğrenir ve bu da belirli nesne yönelimlerine veya konumlarına yönelik önyargıyı potansiyel olarak azaltır.

from ultralytics import YOLO

# Load the YOLO26 model, the new standard for speed and accuracy
model = YOLO("yolo26n.pt")

# Train with increased augmentation to improve generalization
# 'fliplr' (flip left-right) and 'scale' help the model see diverse variations
results = model.train(
    data="coco8.yaml",
    epochs=50,
    fliplr=0.5,  # 50% probability of horizontal flip
    scale=0.5,  # +/- 50% image scaling
)

IBM'in AI Fairness 360 ve Google'ın What-If Aracı gibi araçlar, mühendislerin modellerini farklı alt gruplardaki eşitsizlikler açısından denetlemelerine olanak tanır. Sentetik veri kullanmak, gerçek dünya verilerinin kıt olduğu eğitim setlerindeki boşlukları doldurmaya da yardımcı olabilir. Optimize edilmiş veri seti yönetimi ve bulut eğitimi için Ultralytics Platform, veri dağılımlarını görselleştirmek ve potansiyel dengesizlikleri erkenden tespit etmek için araçlar sunar. Sonuç olarak, yapay zekada şeffaflık sağlamak; teknik çözümlerin, çeşitli geliştirme ekiplerinin ve tüm kullanıcı demografilerinde hassasiyet ve hatırlama oranlarının sürekli değerlendirilmesinin bir kombinasyonunu gerektirir.