Fairness in AI

Yapay Zekada Adil Olma, Yapay Zeka (AI) sistemlerinin herhangi bir bireye veya gruba karşı önyargı veya ayrımcılık olmaksızın eşitlikçi bir şekilde çalışmasını sağlamak için kullanılan çerçeveyi ve teknikler bütününü ifade eder. Otomatik karar verme süreçleri kritik sektörlere giderek daha fazla entegre oldukça, adil olmanın temel amacı modellerin ırk, cinsiyet, yaş veya sosyoekonomik durum gibi hassas niteliklere dayalı çarpık sonuçlar üretmesini önlemektir. Bu kavram, temel insan haklarını korumak amacıyla EU AI Act gibi yeni ortaya çıkan düzenlemeler tarafından sıklıkla zorunlu tutulan, sorumlu yapay zeka geliştirmenin merkezi bir direğidir.

Link to this sectionAdil Olmayı İlgili Kavramlardan Ayırma#

Günlük konuşmalarda genellikle birbirinin yerine kullanılsa da, Yapay Zekada Adil Olma kavramı teknik alanda ilgili terimlere kıyasla farklı bir tanıma sahiptir.

• Yapay Zekada Önyargı: Bu, bir modelin çıktısındaki sistematik hatayı veya önyargıyı temsil eder. Önyargı, genellikle temsil edici olmayan Eğitim Verilerinden kaynaklanan ve çözülmesi gereken sorunken, adil olma bu önyargıyı azaltmak için uygulanan hedef ve metodolojidir.
• Yapay Zeka Etiği: Bu, teknolojinin ahlaki sonuçlarını yöneten kapsayıcı felsefi alandır. Adil olma, Veri Gizliliği ve hesap verebilirlik gibi diğer ilkelerle birlikte yer alan, etiğin ölçülebilir ve belirli bir bileşenidir.
• Algoritmik Önyargı: Bu, özellikle algoritmanın matematiksel optimizasyonunun kendisi tarafından ortaya konan adaletsizliği ifade eder. Adil olma girişimleri, bu matematiksel eğilimleri düzeltmek için özel Optimizasyon Algoritmaları kullanır.

Link to this sectionGerçek Dünya Uygulamaları ve Örnekleri#

Adil olmanın uygulanması, algoritmik kararların insan fırsatları ve refahı üzerinde somut etkilere sahip olduğu "yüksek riskli" ortamlarda kritiktir.

• Eşitlikçi Sağlık Tanıları: Sağlıkta Yapay Zeka alanında bilgisayarlı görü modelleri, cilt kanseri gibi durumların teşhisine yardımcı olur. Adil bir model, farklı cilt tonlarında tutarlı Doğruluk sağlamalıdır. Bir model yalnızca daha açık tenli kişiler üzerinde eğitilirse Veri Seti Önyargısı sergiler ve bu durum daha koyu tenli hastalar için yanlış teşhislere yol açabilir. Araştırmacılar, bu eşitsizlikleri denetlemek ve düzeltmek için Tıbbi Görüntü Analizi kıyaslamalarını kullanırlar.
• Önyargısız İşe Alım ve İstihdam: Birçok şirket, özgeçmişleri elemek için Tahminleyici Modelleme kullanır. Adil olma kısıtlamaları olmaksızın bir model, istihdamdaki boşlukları veya belirli demografilerle ilişkilendirilen özel eğitim geçmişlerini cezalandırmak gibi geçmişten gelen önyargıları öğrenebilir. Fairlearn gibi araçlar, geliştiricilerin sistemin demografik vekiller yerine becerileri değerlendirdiğinden emin olmak için farklı gruplar arasındaki performans eşitsizliklerini değerlendirmelerine olanak tanır.

Link to this sectionAdil Olmayı Başarmak İçin Stratejiler#

Adil yapay zeka sistemleri oluşturmak, veri toplamadan dağıtıma kadar tüm Makine Öğrenimi (ML) yaşam döngüsü boyunca proaktif bir yaklaşım gerektirir.

• Çeşitli Veri Toplama: Adil olmayı sağlamanın en etkili yolu kapsayıcı veri setleri oluşturmaktır. Titiz Veri Toplama ve Etiketleme protokolleri, modelin gerçekliğin çarpık bir görünümünü öğrenmesini engeller. Ultralytics Platform üzerindeki araçlar, ekiplerin süreç içerisinde temsil edilmeyen grupları erkenden tanımlamak için sınıf dağılımlarını görselleştirmelerine yardımcı olur.
• Algoritmik Azaltma: Veri Artırma gibi teknikler, veri setlerini yapay olarak dengelemek için kullanılabilir. Örneğin, bir görüntü veri setindeki aydınlatma koşullarını veya arka planları değiştirmek, bir modelin farklı ortamlarda daha iyi genelleme yapmasına yardımcı olabilir.
• Granular Evaluation: Relying on a single global metric can hide discrimination. Teams should use detailed Model Evaluation to measure Precision and Recall for specific subgroups.
• Şeffaflık ve Açıklanabilirlik: Açıklanabilir Yapay Zeka (XAI) tekniklerini uygulamak, paydaşların bir kararın neden alındığını anlamalarını sağlar. NIST AI Risk Management Framework gibi kuruluşlar tarafından savunulan bu "cam kutu" yaklaşımı, ayrımcı mantığı fark etmeyi ve düzeltmeyi kolaylaştırır.

Link to this sectionTeknik Uygulama#

Adil olmayı sağlamak genellikle modellerin tutarlı çalıştığını doğrulamak için farklı girdiler üzerinde test edilmesini içerir. Aşağıda Ultralytics YOLO26 modelini kullanan basit bir örnek bulunmaktadır. Gerçek bir adil olma denetiminde, geliştiriciler bu çıkarım döngüsünü özel olarak seçilmiş "adil olma test seti" üzerinde çalıştırırlar; bu, Nesne Algılama özelliğinin tüm vakalar için eşit derecede iyi çalıştığından emin olmak amacıyla çeşitli senaryoları ve demografileri temsil etmek için özel olarak seçilmiş bir görüntü koleksiyonudur.

from ultralytics import YOLO

# Load the YOLO26 model (latest state-of-the-art model)
model = YOLO("yolo26n.pt")

# List of images representing diverse scenarios for fairness testing
# These would be images specifically currated to test underrepresented groups
test_images = ["diverse_group_1.jpg", "low_light_scenario.jpg", "unusual_angle.jpg"]

# Run inference to check if detection consistency holds across different inputs
results = model(test_images)

# Analyze results to ensure high confidence detections across all samples
for result in results:
    result.show()  # Visualize detection to manually inspect for bias

Adil olmayı önceliklendirerek kuruluşlar yalnızca GDPR gibi yasal standartlara uyum sağlamakla kalmaz, aynı zamanda küresel nüfus için daha sağlam, güvenilir ve itimat edilir sistemler inşa ederler. Bu, güçlü teknolojilerin bir bütün olarak toplumun yararına olmasını sağlayarak Yapay Zeka Güvenliği ile ilgili daha geniş hedeflerle uyum içerisindedir.