Yapay Zekada Önyargı

Ai Önyargı Kaynakları

YZ önyargısı, YZ'nin doğasında var olan bir özellik değildir, ancak bu sistemleri oluşturmak için kullanılan insan süreçlerinden ve verilerden kaynaklanmaktadır. Kökenlerini anlamak, azaltmanın anahtarıdır:

• Veri Seti Yanlılığı: Bu en yaygın kaynaktır ve eğitim için kullanılan veriler gerçek dünya nüfusunu veya modelin uygulanacağı bağlamı temsil etmediğinde ortaya çıkar. Buna tarihsel yanlılık (geçmiş toplumsal önyargıları yansıtan), ölçüm yanlılığı (gruplar arasında tutarsız veri toplama), temsil yanlılığı (belirli grupları eksik örnekleme) ve açıklamaların öznel bakış açılarını yansıttığı veri etiketleme sorunları dahildir. Veri kümesi yanlılığının etkisini anlamak, görsel yapay zeka için çok önemlidir.
• Algoritmik Ö nyargı: Önyargı, bir algoritmanın belirli bir grubu istemeden dezavantajlı hale getiren bir metrik için optimizasyon yapması veya model tasarımının herkes için geçerli olmayan varsayımlarda bulunması gibi algoritmanın kendisi tarafından ortaya çıkarılabilir. Örneğin, belirli optimizasyon seçenekleri, azınlık alt grupları için adalet pahasına genel doğruluğa öncelik verebilir.
• İnsan Önyargısı: Geliştiricilerin ve kullanıcıların kendi bilinçli veya bilinçsiz önyargıları, model tasarımını, veri seçimini, sonuçların yorumlanmasını ve dağıtım kararlarını etkileyerek YZ yaşam döngüsüne adaletsizliği yerleştirebilir.

Gerçek Dünya Örnekleri

Yapay zekada önyargı, bazen ciddi sonuçları olan çeşitli uygulamalarda ortaya çıkabilir:

• Yüz Tanıma Sistemleri: NIST tarafından yapılan kapsamlı testler de dahil olmak üzere çok sayıda çalışma, bazı yüz tanıma teknolojilerinin belirli demografik gruplardan (örneğin, daha koyu tenli kadınlar) bireyler için diğerlerine (örneğin, daha açık tenli erkekler) kıyasla önemli ölçüde daha düşük doğruluk oranları sergilediğini göstermiştir. Bu eşitsizlik genellikle temsili olmayan eğitim veri setlerinden kaynaklanır ve telefon kilidinin açılmasından kolluk kuvvetlerine kadar çeşitli uygulamalarda yanlış tanımlamaya ve eşit olmayan muameleye yol açabilir. Algoritmik Adalet Birliği gibi kuruluşlar bu tür önyargıları vurgulamak ve bunlarla mücadele etmek için aktif olarak çalışmaktadır.
• Sağlık Hizmetlerinde Yapay Zeka: Tıbbi görüntü analizi veya hasta riskini tahmin etme gibi görevler için kullanılan yapay zeka modelleri, geçmiş sağlık verilerinden önyargıları miras alabilir. Bir teşhis aracı öncelikle bir nüfus grubundan gelen veriler üzerinde eğitilirse, yeterince temsil edilmeyen gruplar için daha az doğru performans gösterebilir ve potansiyel olarak gecikmiş teşhislere veya uygunsuz tedavi önerilerine yol açabilir. Araştırmalar, adaletin etkin bir şekilde dikkate alınmaması halinde klinik algoritmalarda önyargı risklerinin altını çizmektedir.

Ai'de Önyargıyı İlgili Kavramlardan Ayırt Etmek

Öncelikle adalet ve etik sonuçlarla ilgili olan Yapay Zeka'da Önyargı'yı makine öğrenimindeki (ML) diğer ilgili kavramlardan ayırmak önemlidir:

• Veri Seti Önyargısı: YZ önyargısının birincil kaynağı olsa da, veri seti önyargısı özellikle verilerin kendisinin temsil edici olmayan doğasına atıfta bulunur. YZ önyargısı, veri kümesi önyargısından, algoritmik seçimlerden veya insan faktörlerinden kaynaklanabilen sistematik adaletsizliğin daha geniş bir sonucudur.
• Algoritmik Yan lılık: Bu, yalnızca verilerden kaynaklanan yanlılığın aksine, özellikle modelin tasarımı veya optimizasyon süreci tarafından ortaya konan yanlılığı ifade eder. Bu, genel yapay zeka önyargısına katkıda bulunan bir başka potansiyel kaynaktır.
• Bias-Variance Tradeoff: Bu, ML'de model basitliği (yüksek bias, potansiyel olarak yetersiz uyuma yol açar) ve model karmaşıklığı (yüksek varyans, potansiyel olarak aşırı uyuma yol açar) arasındaki gerilimi tanımlayan temel bir istatistiksel kavramdır. Burada "önyargı" kullanılırken, yapay zeka önyargısının etik veya adil sonuçlarından farklı olarak, aşırı basit varsayımlardan kaynaklanan model hatasına atıfta bulunulmaktadır.

Ai Önyargısının Ele Alınması

YZ önyargısının azaltılması, YZ geliştirme yaşam döngüsü boyunca çok yönlü bir yaklaşım gerektiren devam eden bir süreçtir:

• Veri İyileştirme ve Artırma: Çeşitli ve temsili veri kümelerini aktif olarak toplayın. Farklı gruplar arasındaki temsili dengelemek için veri artırımı ve potansiyel olarak sentetik veri üretimi gibi tekniklerden yararlanın. Çeşitli veri kaynakları için Ultralytics Veri Kümeleri koleksiyonu gibi kaynakları keşfedin.
• Adillik Ölçütleri ve Denetim: Model değerlendirmesi sırasında uygun metrikleri kullanarak adaleti tanımlayın ve ölçün. Dağıtımdan önce ve sonra farklı alt gruplar arasında önyargılı performans için modelleri düzenli olarak denetleyin.
• Algoritma Seçimi ve Modifikasyonu: Önyargıya daha az eğilimli algoritmalar seçin veya mevcut olanları adalet kısıtlamalarını içerecek şekilde değiştirin.
• Şeffaflık ve Açıklanabilirlik: Model davranışını anlamak ve potansiyel önyargı kaynaklarını belirlemek için Açıklanabilir Yapay Zeka (XAI) tekniklerini kullanın. XAI kavramları hakkında daha fazla bilgi edinin.
• Etik Çerçeveler ve Yönetişim: Geliştirme ve dağıtıma rehberlik etmek için NIST YZ Risk Yönetimi Çerçevesi gibi çerçeveleri referans alan güçlü YZ Etik yönergeleri ve yönetişim yapıları uygulayın.

Ultralytics HUB gibi platformlar, dikkatli veri kümesi yönetimi sağlayarak, özel model eğitimini kolaylaştırarak ve verilerin izlenmesine olanak tanıyarak daha adil yapay zeka sistemlerinin geliştirilmesini destekleyen araçlar sağlar. Ultralytics YOLO model performansı. Farkındalık yaratmak ve YZ 'de Adalet ilkelerini yerleştirmek (genellikle ACM FAccT konferansı gibi forumlarda tartışılır), sorumlu YZ gelişimine yaklaşmak ve topluma eşit şekilde fayda sağlayan teknoloji yaratmak için çok önemlidir.