Yapay Zekada Yanlılık

Yapay zekada önyargı, sistematik hataları veya önyargıları ifade eder. Yapay Zeka (AI) sistemi haksız, adaletsiz veya ayrımcı sonuçlara yol açabilir. Rastgele hataların aksine, bu önyargılar tutarlıdır ve tekrarlanabilir, genellikle keyfi bir kullanıcı grubuna veya veri girdilerine diğerlerine göre ayrıcalık tanır. Kuruluşlar giderek daha fazla Makine Öğrenimini (ML) kritik öneme sahip karar alma süreçlerinde, önyargının tanınması ve ele alınması, karar alma süreçlerinin temel dayanaklarından biri haline gelmiştir. Yapay Zeka Etiği. Bu sorunların hafifletilmemesi şunlara yol açabilir arasında değişen uygulamalarda çarpık sonuçlar Sağlık teşhisinde yapay zekadan otomasyona finansal kredilendirme.

Yapay Zeka Sistemlerinde Önyargı Kaynakları

Önyargı, yapay zeka sistemlerine geliştirme yaşam döngüsünün birçok aşamasında sızabilir. Bu kökenleri anlamak sağlam ve eşitlikçi modeller oluşturmak için gereklidir.

• Veri Seti Önyargısı: Bu en çok yaygın kaynak, aşağıdaki durumlarda ortaya çıkar modeli öğretmek için kullanılan eğitim verileri gerçek dünya nüfusunu doğru bir şekilde temsil eder. Örneğin, eğer bir görüntü sınıflandırma modeli eğitilir Öncelikle Batı ülkelerinden gelen görüntülerle, diğer bölgelerdeki nesneleri veya sahneleri tanımakta zorlanabilir. genellikle seçim yanlılığıyla bağlantılı bir olgudur.
• Algoritmik Ö nyargı: Bazen, Algoritmanın matematiksel tasarımı mevcut eşitsizlikleri artırabilir. Kesin optimizasyon algoritmaları öncelik verebilir yetersiz temsil edilenler pahasına genel doğruluk alt grupları, geçerli azınlık nüfuslarını temsil eden "aykırı değerleri" etkili bir şekilde göz ardı etmektedir.
• Bilişsel ve İnsani Önyargı: Mühendislerin çalışma sırasında yaptıkları öznel seçimler veri etiketleme veya özellik seçimi istemeden insan önyargılarını sisteme kodlar.

Gerçek Dünya Uygulamaları ve Çıkarımlar

Yapay zeka önyargısının sonuçları, kullanılan çeşitli teknolojilerde gözlemlenebilir.

1. Yüz Tanıma Eşitsizlikleri: Ticari yüz tanıma sistemleri tarihsel olarak kadınları ve beyaz olmayan kişileri tanımlarken daha yüksek hata oranları göstermiştir. Gibi araştırma projeleri Toplumsal Cinsiyet Gölgeleri Temsili olmayan veri setleri, belirli demografik gruplar için düşük performansa yol açarak daha iyi performans çağrılarına neden olmaktadır. veri gizliliği ve kapsayıcılık standartları.
2. Kestirimci Polislik ve Yeniden Suç İşleme: Suçun yeniden işlenmesini tahmin etmek için kullanılan algoritmalar ırksal önyargı sergilemekle eleştirilmiştir. Bu gibi soruşturmalar COMPAS'ın ProPublica analizi bazı modellerin azınlık sanıkları yanlışlıkla yüksek riskli olarak işaretleme olasılığının daha yüksek olduğunu ortaya koymuştur. toplumsal eşitsizlikleri yansıtan tarihsel tutuklama verilerine dayanmanın tehlikeleri.

Etki Azaltma Stratejileri ve Araçları

Önyargının ele alınması, aşağıdaki gibi bilinen proaktif bir yaklaşım gerektirir Yapay zekada adalet. Geliştiriciler çeşitli yöntemler kullanabilir önyargıyı detect etmek ve azaltmak için teknikler.

• Veri Artırımı: Model genellemesini iyileştirmek için etkili bir yöntem veri artırımı. Yapay olarak üreterek Mevcut veri noktalarının varyasyonları -örneğin görüntüleri çevirme, döndürme veya renk dengesini ayarlama- geliştiriciler gibi modelleri ortaya çıkarabilir Ultralytics YOLO11 daha geniş bir giriş aralığı.
• Algoritmik Denetim: Modellerin düzenli olarak çeşitli karşılaştırma ölçütlerine göre test edilmesi çok önemlidir. Aşağıdaki gibi araçlar IBM'in AI Fairness 360 ve Microsoft'un Fairlearn 'i model performansını değerlendirmek için metrikler sağlar farklı alt gruplar.
• Şeffaflık: Evlat Edinme Açıklanabilir Yapay Zeka (XAI) uygulamaları yardımcı olur Paydaşlar bir modelin neden belirli tahminlerde bulunduğunu anlayarak ayrımcı tahminleri tespit etmeyi kolaylaştırır. Mantık.

Kod Örneği: Büyütme ile Genelleştirmenin Geliştirilmesi

Aşağıdaki Python kod parçacığı, eğitim sırasında veri artırımının nasıl uygulanacağını göstermektedir ultralytics paketi. Bu, modelin belirli değişikliklere karşı değişmez hale gelmesine yardımcı olarak potansiyel olarak Belirli görsel özelliklere aşırı uyum.

from ultralytics import YOLO

# Load the YOLO11 model
model = YOLO("yolo11n.pt")

# Train with data augmentation enabled
# 'fliplr' (flip left-right) and 'hsv_h' (hue adjustment) increase data diversity
results = model.train(
    data="coco8.yaml",
    epochs=5,
    fliplr=0.5,  # Apply horizontal flip with 50% probability
    hsv_h=0.015,  # Adjust image hue fraction
)

İlgili Terimleri Ayırt Etme

"Yapay Zeka'da Önyargı" kavramını yakından ilişkili sözlük terimlerinden ayırmak faydalı olacaktır:

• Yapay Zekada Önyargı ve Algoritmik Önyargı: "Yapay zekada önyargı", tüm adaletsizlik kaynaklarını (veri, insan ve sistemik) kapsayan şemsiye bir terimdir. "Algoritmik önyargı" özellikle modelin hesaplama prosedürleri tarafından ortaya konan önyargıya atıfta bulunur veya amaç fonksiyonları.
• Yapay Zekada Önyargı ve Veri Seti Önyargısı: "Veri seti önyargısı", eğitimin toplanması ve iyileştirilmesinden kaynaklanan belirli bir YZ önyargısı nedenidir malzeme. Tamamen adil bir algoritma, önyargılı bir veri setinden öğrenirse yine de "Yapay Zekada Önyargı" sergileyebilir.

gibi çerçevelere bağlı kalarak NIST Yapay Zeka Risk Yönetimi Çerçevesi, geliştiriciler şunları yapabilir inşa etmek için çalışmak Sorumlu Yapay Zeka herkese eşit şekilde hizmet veren sistemler.