Yapay Zeka'da Önyargı

YZ'de önyargı, bir Yapay Zeka (YZ) sisteminin çıktısındaki sistematik hataları veya önyargıları ifade eder. Bu önyargılar, genellikle belirli grupları veya popülasyonları dezavantajlı hale getiren haksız, adaletsiz veya ayrımcı sonuçlara yol açabilir. YZ sistemleri sağlık ve finans gibi kritik sektörlere daha entegre hale geldikçe, önyargıyı anlamak ve azaltmak, sorumlu YZ geliştirmede merkezi bir zorluk haline gelmiştir. Önyargı, ara sıra meydana gelen rastgele hatalarla ilgili değildir; veri veya algoritmadaki temel kusurları yansıtan tekrarlanabilir bir çarpık sonuç modelidir.

Ai Önyargı Kaynakları

Yapay zeka önyargısı, model geliştirme yaşam döngüsü boyunca birden fazla kaynaktan ortaya çıkabilir. En yaygın kaynaklar şunlardır:

• Veri Seti Önyargısı: Bu, yapay zeka önyargısının en yaygın kaynağıdır. Eğitim verileri gerçek dünyayı veya hedef popülasyonu temsil etmediğinde ortaya çıkar. Örneğin, öncelikle erkek egemen bir sektörden gelen geçmiş verilerle eğitilen bir işe alım aracı için bir veri kümesi, erkek adayları tercih etmeyi öğrenebilir. Bu durum örnekleme yanlılığı (verilerin rastgele toplanmaması), seçim yanlılığı (verilerin ortamı temsil etmemesi) veya ölçüm yanlılığı (tutarsız veri etiketleme) olarak ortaya çıkabilir. Dengeli ve çeşitlilik içeren veri setleri oluşturmak çok önemli bir ilk adımdır.
• Algoritmik Ö nyargı: Bu önyargı, YZ algoritmasının kendisinden kaynaklanır. Bazı algoritmalar, verilerde bulunan küçük önyargıları doğal olarak artırabilir veya tasarımları, adil olmayan sonuçlar yaratacak şekilde belirli özellikleri diğerlerine göre önceliklendirebilir. Örneğin bir kayıp fonksiyonunun seçimi, bir modelin farklı alt gruplar için hataları nasıl cezalandırdığını etkileyebilir.
• İnsan Önyargısı: YZ sistemlerinin geliştiricileri, veri açıklayıcıları ve kullanıcıları istemeden de olsa kendi bilişsel önyargılarını YZ modeline dahil edebilirler. Bu kişisel ve toplumsal önyargılar, sorunların nasıl çerçevelendirildiğini, verilerin nasıl toplandığını ve açıklandığını ve modelin sonuçlarının nasıl yorumlandığını etkileyebilir.

Gerçek Dünyadan Örnekler

1. Yüz Tanıma Teknolojisi: Birçok ticari yüz tanıma sistemi, özellikle kadınlar ve beyaz olmayan kişiler olmak üzere, yeterince temsil edilmeyen demografik gruplardan bireyleri tanımlarken tarihsel olarak daha yüksek hata oranları göstermiştir. NIST gibi kurumlar tarafından yapılan araştırmalar, çoğunlukla beyaz, erkek yüzleri içeren eğitim veri kümelerinden kaynaklanan bu eşitsizlikleri ortaya koymuştur.
2. Otomatik İşe Alım Araçları: İyi bilinen bir örnek, Amazon tarafından geliştirilen ve "kadın" kelimesini içeren özgeçmişleri cezalandırdığı ve tamamı kadınlardan oluşan iki üniversiteden mezun olanların notunu düşürdüğü tespit edilen deneysel bir işe alım aracıdır. Model bu önyargıları, teknoloji sektöründeki erkek egemenliğini yansıtan 10 yıllık bir dönem boyunca sunulan geçmiş işe alım verilerinden öğrenmiştir. Amazon nihayetinde projeden vazgeçti.

Ai'de Önyargı Vs. İlgili Terimler

YZ önyargısını ilgili kavramlardan ayırt etmek önemlidir:

• Algoritmik Önyargı ve YZ Önyargısı: Algoritmik önyargı, modelin mimarisinden veya matematiksel formülasyonundan kaynaklanan belirli bir YZ önyargısı türüdür. YZ önyargısı, verilerden ve insan müdahalesinden kaynaklanan önyargıları da içeren daha geniş bir şemsiye terimdir.
• Veri Seti Önyargısı ve Yapay Zeka Önyargısı: Veri seti önyargısı, yapay zeka önyargısının birincil nedenidir. Tasarımında tamamen adil olan bir algoritma, dengesiz veya önyargılı veriler üzerinde eğitilirse yine de önyargılı sonuçlar üretebilir.
• YZ'de Adalet ve YZ Önyargısı: YZ ' de adalet, YZ önyargısını ele almaya adanmış bir alandır. Önyargı bir sorun olsa da adalet, adil sonuçları tanımlamak, ölçmek ve teşvik etmek için kullanılan ilkeleri, ölçütleri ve teknikleri içerir.

Ai Önyargısının Ele Alınması

YZ önyargısının azaltılması, YZ geliştirme yaşam döngüsü boyunca çok yönlü bir yaklaşım gerektiren devam eden bir süreçtir:

• Veri İyileştirme ve Artırma: Çeşitli ve temsili veri kümelerini aktif olarak toplayın. Farklı gruplar arasındaki temsili dengelemek için veri artırımı ve potansiyel olarak sentetik veri üretimi gibi tekniklerden yararlanın. Çeşitli veri kaynakları için Ultralytics Veri Kümeleri koleksiyonu gibi kaynakları keşfedin.
• Adillik Ölçütleri ve Denetim: Model değerlendirmesi sırasında uygun metrikleri kullanarak adaleti tanımlayın ve ölçün. Dağıtımdan önce ve sonra farklı alt gruplarda önyargılı performans için modelleri düzenli olarak denetleyin. Fairlearn ve AI Fairness 360 gibi araç setleri bu süreçte yardımcı olabilir.
• Şeffaflık ve Açıklanabilirlik: Model davranışını anlamak ve potansiyel önyargı kaynaklarını belirlemek için Açıklanabilir Yapay Zeka (XAI) tekniklerini kullanın. XAI kavramları hakkında daha fazla bilgi edinin. Veri Setleri için Veri Sayfaları ve Model Kartları gibi çerçeveler kullanarak veri setlerini ve modelleri belgelemek de şeffaflığı artırır.
• Etik Çerçeveler ve Yönetişim: Geliştirme ve dağıtıma rehberlik etmek için NIST YZ Risk Yönetimi Çerçevesi gibi çerçeveleri referans alan güçlü YZ Etik yönergeleri ve yönetişim yapıları uygulayın.

Ultralytics HUB gibi platformlar, dikkatli veri seti yönetimi sağlayarak, özel model eğitimini kolaylaştırarak ve Ultralytics YOLO model performansının izlenmesine izin vererek daha adil yapay zeka sistemlerinin geliştirilmesini destekleyen araçlar sağlar. ACM FAccT konferansı gibi forumlarda sık sık tartışılan adalet ilkeleri konusunda farkındalık yaratmak ve bu ilkeleri yerleştirmek, topluma adil bir şekilde fayda sağlayan teknolojiler yaratmak için çok önemlidir.