Bias in AI

Yapay Zekada Yanlılık, Yapay Zeka (AI) sistemlerine yerleşmiş, adaletsiz, eşitsiz veya ayrımcı sonuçlara yol açan sistematik hataları, önyargıları veya haksız varsayımları ifade eder. Öngörülemez olan rastgele hataların aksine, yanlılık, genellikle ırk, cinsiyet, yaş veya sosyoekonomik durum gibi hassas özelliklere dayalı olarak belirli grupların lehine veya aleyhine sonuçların tutarlı bir şekilde çarpıtılması olarak kendini gösterir. Makine Öğrenimi (ML) modelleri, sağlık hizmetlerinde yapay zeka teşhislerinden finansal kredilendirmeye kadar yüksek riskli ortamlarda giderek daha fazla kullanıldıkça, bu yanlılıkları tanımlamak ve azaltmak, Yapay Zeka Etiği ve güvenlik protokollerinin kritik bir bileşeni haline gelmiştir.

Link to this sectionYanlılığın Kaynakları ve Kökenleri#

Yanlılık nadiren kasıtlı olarak dahil edilir; bunun yerine, genellikle geçmişteki eşitsizlikleri veya veri toplama sürecindeki kusurları yansıtarak geliştirme yaşam döngüsünün çeşitli aşamalarında sistemlere sızar.

• Veri Kümesi Yanlılığı: Bu, en yaygın kaynaktır ve eğitim verileri gerçek dünya popülasyonunu doğru bir şekilde temsil etmediğinde ortaya çıkar. Örneğin, bir Bilgisayarlı Görü (CV) modeli öncelikli olarak Batı ülkelerinden alınan görüntülerle eğitilirse, diğer bölgelerden gelen kültürel bağlamları veya nesneleri tanımayabilir; bu durum genellikle seçilim yanlılığı ile ilişkilendirilen bir olgudur.
• Algoritmik Yanlılık: Kusursuz verilerle bile modelin tasarımı adaletsizliğe yol açabilir. Belirli optimizasyon algoritmaları, genel doğruluk metriklerine öncelik verir; bu da toplam puanı en üst düzeye çıkarmak için daha küçük, yeterince temsil edilmeyen alt gruplardaki performansı istemeden feda edebilir.
• Cognitive and Historical Bias: Human prejudices can be encoded into ground truth labels during data labeling. If human annotators harbor unconscious biases, the model will learn to replicate these subjective judgments, effectively automating existing societal disparities.

Link to this sectionGerçek Dünyadaki Etkileri#

Yapay zekadaki yanlılığın sonuçları, bireysel hakları ve güvenliği etkileyerek oldukça derin olabilir.

• Yüz Analizi Farklılıkları: Yüz tanıma teknolojisinin ilk sürümleri, kadınlar ve beyaz olmayan insanlar için önemli ölçüde daha yüksek hata oranları sergiledi. Algorithmic Justice League gibi kuruluşlar, güvenlikte sıklıkla kullanılan bu sistemlerin, temsil yeteneği olmayan eğitim kümeleri nedeniyle yanlış tanımlamalara ve haksız suçlamalara nasıl yol açabileceğini vurgulamıştır.
• Sağlık Hizmetleri Teşhisi: Tıbbi görüntü analizi alanında, ağırlıklı olarak açık tenli hastalar üzerinde eğitilen modeller, koyu ten tonlarındaki cilt rahatsızlıklarını tespit etmekte zorlanabilir. Bu farklılık, gecikmiş teşhislere ve eşitsiz bakım kalitesine yol açarak daha çeşitli biyomedikal veri kümeleri için çağrıların yapılmasına neden olmaktadır.

Link to this sectionAzaltma Stratejileri#

Yanlılığı ele almak, model eğitimi ve dağıtım hattı boyunca proaktif bir yaklaşım gerektirir.

1. Çeşitli Veri Kürasyonu: Ultralytics Platform gibi araçları kullanmak, ekiplerin eğitim başlamadan önce veri kümesi dağılımını görselleştirmesine ve temsildeki boşlukları belirlemesine olanak tanır.

2. Adillik Odaklı Test: Geliştiriciler, yalnızca toplu metrikler yerine, adil bir performans sağlamak için farklı demografik dilimler genelinde ayrıntılı model değerlendirmesi yapmalıdır.

3. Yorumlanabilirlik: Açıklanabilir Yapay Zeka (XAI) tekniklerini uygulamak, paydaşların bir modelin neden bir karar verdiğini anlamasına yardımcı olur, böylece ayrımcı mantığı veya vekil değişkenlere (örneğin, ırk vekili olarak posta kodu kullanmak gibi) güvenmeyi tespit etmeyi kolaylaştırır.

Link to this sectionİlgili Kavramları Ayırt Etme#

"Yapay Zekada Yanlılık" terimini "yanlılık" sözcüğünün diğer teknik kullanımlarından ayırmak önemlidir.

• vs. Yanlılık-Varyans Değiş-Tokuşu: İstatistiksel öğrenmede bu, gerçek dünyadaki bir sorunu basitleştirilmiş bir modelle (yetersiz öğrenme) tahmin etmenin getirdiği hatayı ifade eder. Bu, model karmaşıklığıyla ilgili matematiksel bir kavramdır ve "Yapay Zekada Yanlılık"ın ima ettiği toplumsal önyargıdan farklıdır.
• vs. Model Ağırlıkları ve Yanlılıkları: Bir yapay sinir ağında, bir "yanlılık" terimi, aktivasyon fonksiyonunun kaydırılmasını sağlayan öğrenilebilir bir parametredir (doğrusal bir denklemdeki kesişim noktası gibi). Bu, etik bir kusur değil, temel bir matematiksel bileşendir.
• vs. Yapay Zekada Adillik: Yanlılık önyargının veya hatanın varlığını ifade ederken, adillik hedeftir ya da bu yanlılığı ortadan kaldırmak için uygulanan düzeltici önlemler bütünüdür.

Link to this sectionTeknik Örnek: Alt Grup Performansını Değerlendirme#

Yanlılığı tespit etmek için geliştiriciler genellikle modellerini azınlık gruplarını temsil eden özel "zorluk" veri kümelerinde test ederler. Aşağıdaki örnek, belirli bir veri alt kümesindeki performansı doğrulamak için YOLO26 kullanımını göstermektedir.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model
model = YOLO("yolo26n.pt")

# Validate the model on a specific dataset split designed to test
# performance on an underrepresented environment (e.g., 'night_time.yaml')
metrics = model.val(data="night_time_data.yaml")

# Analyze specific metrics to check for performance degradation
print(f"mAP50-95 on challenge set: {metrics.box.map}")

NIST Yapay Zeka Risk Yönetimi Çerçevesi gibi standartlar ve AB Yapay Zeka Yasası gibi düzenlemeler, Sorumlu Yapay Zeka geliştirmeyi sağlamak için bu tür yanlılık denetimlerini giderek daha fazla zorunlu kılmaktadır.