Yapay Zekada Yanlılık

Yapay zekada yanlılık, bir Yapay Zeka (AI) sisteminin çıktısındaki sistematik hataları veya önyargıları ifade eder. Bu yanlılıklar, genellikle belirli grupları veya popülasyonları dezavantajlı duruma düşüren adaletsiz, eşitsiz veya ayrımcı sonuçlara yol açabilir. Yapay zeka sistemleri sağlık hizmetleri ve finans gibi kritik sektörlere daha fazla entegre oldukça, yanlılığı anlamak ve azaltmak, sorumlu yapay zeka geliştirme alanında merkezi bir zorluk haline gelmiştir. Yanlılık, ara sıra meydana gelen rastgele bir hata değildir; verilerdeki veya algoritmada yatan kusurları yansıtan, çarpık sonuçların tekrarlanabilir bir modelidir.

Yapay Zeka Yanlılığının Kaynakları

YZ yanlılığı, model geliştirme yaşam döngüsü boyunca birden çok kaynaktan kaynaklanabilir. En yaygın kaynaklar şunlardır:

• Veri Kümesi Yanlılığı (Dataset Bias): Bu, AI yanlılığının en yaygın kaynağıdır. Eğitim verileri gerçek dünyayı veya hedef popülasyonu temsil etmediğinde ortaya çıkar. Örneğin, ağırlıklı olarak erkeklerin hakim olduğu bir sektörden elde edilen geçmiş veriler üzerinde eğitilmiş bir işe alım aracı için bir veri kümesi, erkek adayları tercih etmeyi öğrenebilir. Bu, örnekleme yanlılığı (verilerin rastgele toplanmaması), seçim yanlılığı (verilerin ortamı temsil etmemesi) veya ölçüm yanlılığı (tutarsız veri etiketleme) olarak kendini gösterebilir. Dengeli ve çeşitli veri kümeleri oluşturmak, çok önemli bir ilk adımdır.
• Algoritmik Yanlılık: Bu yanlılık, yapay zeka algoritmasının kendisinden kaynaklanır. Bazı algoritmalar, verilerde bulunan küçük yanlılıkları doğal olarak güçlendirebilir veya tasarımları, haksız sonuçlar yaratan bir şekilde belirli özelliklere diğerlerinden daha fazla öncelik verebilir. Örneğin, bir kayıp fonksiyonu seçimi, bir modelin farklı alt gruplar için hataları nasıl cezalandıracağını etkileyebilir.
• İnsan Tarafından Yönlendirme: Yapay zeka sistemlerinin geliştiricileri, veri etiketleyicileri ve kullanıcıları, kendi bilişsel önyargılarını istemeden yapay zeka modeline dahil edebilirler. Bu kişisel ve toplumsal önyargılar, sorunların nasıl çerçevelendiğini, verilerin nasıl toplandığını ve etiketlendiğini ve modelin sonuçlarının nasıl yorumlandığını etkileyebilir.

Gerçek Dünya Örnekleri

1. Yüz Tanıma Teknolojisi: Birçok ticari yüz tanıma sistemi, tarihsel olarak, yetersiz temsil edilen demografik gruplardan, özellikle kadınlardan ve renkli insanlardan bireyleri tanımlarken daha yüksek hata oranları göstermiştir. NIST gibi kurumlar tarafından yapılan araştırmalar bu eşitsizlikleri göstermiştir ve bu eşitsizlikler genellikle ağırlıklı olarak beyaz, erkek yüzlerini içeren eğitim veri kümelerinden kaynaklanmaktadır.
2. Otomatik İşe Alma Araçları: İyi bilinen bir örnek, Amazon tarafından geliştirilen ve içinde "kadın" kelimesini içeren özgeçmişleri cezalandırdığı ve yalnızca kadınların gittiği iki üniversiteden mezun olanları düşürdüğü tespit edilen deneysel bir işe alım aracıdır. Model, bu önyargıları, teknoloji endüstrisindeki erkek egemenliğini yansıtan 10 yıllık bir süre boyunca gönderilen geçmiş işe alım verilerinden öğrenmiştir. Amazon sonuç olarak projeyi terk etti.

Yapay Zekadaki Yanlılık ve İlgili Terimler

Yapay zeka yanlılığını (AI bias) ilgili kavramlardan ayırmak önemlidir:

• Algoritmik Yanlılık - Yapay Zeka Yanlılığı Karşılaştırması: Algoritmik yanlılık, modelin mimarisinden veya matematiksel formülasyonundan kaynaklanan belirli bir tür yapay zeka yanlılığıdır. Yapay zeka yanlılığı, verilerden ve insan müdahalesinden kaynaklanan yanlılıkları da içeren daha geniş bir terimdir.
• Veri Kümesi Yanlılığı - Yapay Zeka Yanlılığı Karşılaştırması: Veri kümesi yanlılığı, Yapay Zeka yanlılığının temel nedenidir. Tasarımında tamamen adil olan bir algoritma, dengesiz veya önyargılı veriler üzerinde eğitilirse yine de yanlı sonuçlar üretebilir.
• Yapay Zekada Adalet - Yapay Zeka Yanlılığı Karşılaştırması: Yapay Zekada Adalet, yapay zeka yanlılığını ele almaya adanmış bir alandır. Yanlılık sorun teşkil ederken, adalet, eşit sonuçları tanımlamak, ölçmek ve teşvik etmek için kullanılan ilkeleri, metrikleri ve teknikleri içerir.

Yapay Zeka Yanlılığını Ele Alma

Yapay zeka önyargısını azaltmak, yapay zeka geliştirme yaşam döngüsü boyunca çok yönlü bir yaklaşım gerektiren devam eden bir süreçtir:

• Veri Derleme ve Artırma: Çeşitli ve temsili veri kümelerini aktif olarak toplayın. Farklı gruplar arasında temsili dengelemek için veri artırma ve potansiyel olarak sentetik veri üretimi gibi teknikleri kullanın. Çeşitli veri kaynakları için Ultralytics Veri Kümeleri koleksiyonu gibi kaynakları keşfedin.
• Adalet Metrikleri ve Denetimi: Model değerlendirmesi sırasında uygun metrikleri kullanarak adaleti tanımlayın ve ölçün. Modelleri, dağıtımdan önce ve sonra farklı alt gruplar arasında yanlı performans açısından düzenli olarak denetleyin. Fairlearn ve AI Fairness 360 gibi araç setleri bu süreçte yardımcı olabilir.
• Şeffaflık ve Açıklanabilirlik: Model davranışını anlamak ve potansiyel önyargı kaynaklarını belirlemek için Açıklanabilir Yapay Zeka (XAI) tekniklerini kullanın. XAI kavramları hakkında daha fazla bilgi edinin. Veri Kümeleri için Veri Sayfaları ve Model Kartları gibi çerçeveler kullanarak veri kümelerini ve modelleri belgelemek de şeffaflığı artırır.
• Etik Çerçeveler ve Yönetişim: Geliştirme ve uygulamaya rehberlik etmek için Yapay Zeka Etiği yönergeleri ve yönetişim yapıları uygulayın ve NIST Yapay Zeka Risk Yönetimi Çerçevesi gibi çerçevelere başvurun.

Ultralytics HUB gibi platformlar, dikkatli veri kümesi yönetimini sağlayarak, özel model eğitimini kolaylaştırarak ve Ultralytics YOLO model performansının izlenmesine izin vererek daha adil AI sistemlerinin geliştirilmesini destekleyen araçlar sağlar. Genellikle ACM FAccT konferansı gibi forumlarda tartışılan farkındalık oluşturmak ve adalet ilkelerini yerleştirmek, toplumun eşit şekilde yararlandığı teknolojiler yaratmak için çok önemlidir.