Görsel Yapay Zekâ sistemlerinde yapay zekâ yanlılığını ve veri kümesi yanlılığını anlama

Yapay zekâ (AI) modelleri sorunları çözme biçimimizi değiştiriyor, ancak kusursuz değiller. Otonom araçlardan sağlık hizmetlerindeki tanı araçlarına kadar verileri yorumlaması ve kararlar alması için yapay zekâya güveniyoruz. Peki verinin kendisi kusurluysa ne olur?

Yapay zekâdaki önyargı, çoğu zaman kimse fark etmeden modellerde ortaya çıkan tutarsızlık örüntülerini ifade eder. Bu önyargılar, modellerin hatalı, tutarsız ve hatta zararlı tahminler yapmasına neden olabilir. Bilgisayarlı görüde önyargının kaynağı genellikle tek bir temel unsurdur: veri kümesi. Modeli eğitmek için kullanılan veriler dengesiz veya temsil gücü yetersizse model de bu eksiklikleri yansıtır.

Veri kümesi yanlılığının nasıl oluştuğuna, bilgisayarlı görü modellerini nasıl etkilediğine ve geliştiricilerin veri kümesi yanlılığını tespit edip önlemek için atabileceği adımlara daha yakından bakalım. Ayrıca Ultralytics YOLO11 gibi modellerin, daha iyi genelleme yapan, yani yeni ve daha önce görülmemiş verilerde iyi performans gösteren ve herkese daha eşit hizmet sunan daha adil yapay zekâ sistemleri oluşturma çabalarını nasıl destekleyebileceğini de göstereceğiz.

Yapay zekâ önyargısı nedir ve neden önemlidir?#

Yapay zekâ önyargısı, bir yapay zekâ sisteminde çarpık veya hatalı sonuçlara yol açan tutarlı hataları ifade eder. Daha basit anlatımla model, bir tür görsel girdiyi diğerlerine tercih etmeye başlar; bu da modelin adil olma durumunu etkiler. Bunun nedeni modelin daha iyi performans göstermesi değil, eğitilme biçimidir.

Bu durum, modellerin görsel verilerden öğrendiği bilgisayarlı görü alanında özellikle yaygındır. Bir veri kümesinde çoğunlukla tek tür nesne, sahne veya kişi bulunuyorsa model yalnızca bu örneklerde işe yarayan örüntüleri öğrenir.

Çoğunlukla büyük şehirlerde çekilmiş trafik görüntüleriyle eğitilmiş bir model düşün. Kırsal bir alanda kullanıldığında alışılmadık yol düzenlerini yanlış sınıflandırabilir veya daha önce hiç görmediği araç türlerini tespit edemeyebilir. Yapay zekâ önyargısı işte böyle ortaya çıkar. Doğruluğun düşmesine ve genelleme yeteneğinin sınırlanmasına yol açar. Genelleme, bir modelin yeni veya çeşitli girdilerde iyi performans gösterme becerisidir.

Sağlık veya güvenlik gibi doğruluğun çok önemli olduğu uygulamalarda bu hatalar yalnızca can sıkıcı değildir; tehlikeli de olabilir. Önyargıyı ele almak performans, güvenilirlik ve güvenlikle ilgilidir.

Veri kümesi önyargısı model davranışını nasıl etkiler?#

Veri kümesi önyargısından söz ederken bir modeli eğitmek için kullanılan verilerdeki dengesizliği veya sınırlılığı kastediyoruz. Eğitim verileri, modellemesi amaçlanan gerçek dünyadaki çeşitliliği yeterince yansıtmadığında veri kümesi önyargısı ortaya çıkar.

Bilgisayarlı görü modelleri dünyayı anlamaz; örüntüleri anlar. Gördükleri tek köpek görüntüleri arka bahçelerdeki golden retriever'lardan ibaretse karlı bir patikadaki husky'yi tanımayabilirler.

Şekil 1. Kaynak verileri yeniden ağırlıklandırmak, model doğruluğunun artırılmasına yardımcı olur.

Bu, veri kümesi önyargısının yol açtığı temel zorluklardan birini ortaya koyar. Model, anlayışını kendisine gösterilenlere göre oluşturur. Eğitim verileri gerçek dünyadaki çeşitliliği yansıtmıyorsa modelin davranışı dar kapsamlı ve alışılmadık koşullarda daha etkisiz hâle gelir.

Görüntü sınıflandırıcıları, her iki veri kümesi de aynı görev için oluşturulmuş olsa bile, eğitildikleri veri kümesinden farklı bir veri kümesi üzerinde test edildiklerinde genellikle çok daha kötü performans gösterir. Işıklandırma, arka plan veya kamera açısındaki küçük değişiklikler doğrulukta belirgin düşüşlere neden olabilir. Bu durum, veri kümesi önyargısının bir modelin genelleme yeteneğini ne kadar kolay etkileyebileceğini gösterir.

Bunlar uç durumlar değil. Veri hattının en az model mimarisi kadar önemli olduğunun göstergeleri.

Yapay zekâ eğitim verilerindeki önyargı türleri#

Önyargı, geliştirme sürecinde; çoğunlukla veri toplama, etiketleme veya düzenleme aşamalarında, fark edilmesi zor biçimlerde ortaya çıkabilir. Aşağıda eğitim verilerini etkileyebilecek üç temel önyargı türü yer alıyor:

Seçim önyargısı#

Veri kümesi, gerçek dünyadaki kullanımda görülen çeşitliliği temsil etmediğinde seçim önyargısı oluşabilir. Yalnızca açık ve gündüz çekilmiş görüntülerle eğitilen bir yaya algılama modeli gece veya sisli havada iyi performans göstermez. Dolayısıyla seçim sürecinde kritik örnekler gözden kaçmıştır.

Şekil 2. Çeşitlilik içermeyen bir alt kümenin seçildiği seçim önyargısının görsel temsili.

Bu önyargı, verilerin toplanma biçimi nedeniyle veri kümesinin gerçek dünyadaki senaryoların tamamını yansıtmaması sonucunda ortaya çıkar. Veriler ideal veya elverişli koşullarda toplandığında sıkça görülür ve modelin farklı ortamlardaki performansını sınırlar. Daha çeşitli ortamları kapsayacak şekilde veri toplama çalışmalarını genişletmek bu tür önyargıyı azaltmaya yardımcı olur.

İçeriğin belirli konumlara, dillere veya sosyoekonomik bağlamlara doğru belirgin biçimde çarpık olabildiği çevrimiçi kaynaklardan oluşturulan veri kümelerinde de görülebilir. Veri kümesini çeşitlendirmek için bilinçli bir çaba gösterilmezse model bu sınırlamaları devralır.

Etiket önyargısı#

Etiket önyargısı, insan açıklama ekleyicilerin yanlış veya tutarsız etiketler uygulamasıyla ortaya çıkar. Yanlış bir etiket önemsiz görünebilir; ancak bu sık sık yaşanırsa model yanlış ilişkileri öğrenmeye başlar.

Tutarsız etiketleme, özellikle nesne algılama gibi karmaşık görevlerde modelin eğitim sırasında kafasını karıştırabilir. Örneğin bir açıklama ekleyici bir aracı "otomobil" olarak etiketlerken başka biri benzer bir aracı "kamyon" olarak etiketleyebilir. Bu tutarsızlıklar, modelin güvenilir örüntüler öğrenme yeteneğini etkiler ve çıkarım sırasındaki doğruluğun düşmesine yol açar.

Şekil 3. Veri hattı önyargısı, gerçek dünyadaki dengesizliklerden kaynaklanır.

Etiket önyargısı, belirsiz açıklama ekleme yönergelerinden veya aynı verinin farklı yorumlanmasından da kaynaklanabilir. İyi belgelenmiş etiketleme standartları oluşturmak ve kalite kontrol denetimleri yapmak bu zorlukları önemli ölçüde azaltabilir.

Etiketleyicilere sürekli eğitim vermek ve birden fazla etiketleyicinin her örneği incelediği uzlaşı etiketlemesini kullanmak, etiket önyargısını en aza indirip veri kümesinin kalitesini artırmaya yönelik iki etkili stratejidir.

Temsil önyargısı#

Temsil önyargısı çoğu zaman toplumdaki daha geniş eşitsizlikleri yansıtır. Daha varlıklı veya bağlantı olanakları daha iyi bölgelerde toplanan veriler, yeterince temsil edilmeyen toplulukların veya ortamların çeşitliliğini yansıtamayabilir. Bu önyargıyı ele almak için göz ardı edilmiş grupların ve bağlamların bilinçli biçimde veri kümesine dâhil edilmesi gerekir.

Belirli gruplar veya sınıflar veri kümesinde yeterince temsil edilmediğinde temsil önyargısı ortaya çıkar. Bunlara demografik gruplar, nesne kategorileri veya çevresel koşullar dâhil olabilir. Bir model yalnızca tek bir ten rengi, tek bir nesne türü veya tek bir arka plan biçimi görürse tahminleri bu dengesizliği yansıtır.

Bazı gruplar veya kategoriler diğerlerinden çok daha az sayıda yer aldığında bu tür önyargıyı gözlemleyebiliriz. Bu durum modelin tahminlerini veri kümesindeki baskın örneklere doğru çarpıtabilir. Örneğin ağırlıklı olarak tek bir demografik grupla eğitilen bir yüz tanıma modeli, tüm kullanıcılar için doğru performans göstermekte zorlanabilir. Veri çeşitliliğiyle ilgili olan seçim önyargısının aksine temsil önyargısı, gruplar arasındaki dengeyle ilgilidir.

Çeşitlilik denetimleri ve hedefli veri genişletme stratejileri, ilgili tüm demografik grupların ve kategorilerin eğitim veri kümesinde gerektiği gibi temsil edilmesini sağlamaya yardımcı olabilir.

Veri kümesi önyargısını tespit etme ve azaltma yolları#

Gerçek dünya uygulamalarında yapay zekâ önyargısı, birkaç yanlış tahminden ibaret değildir. Bazı insanlar için iyi çalışan, ancak herkes için çalışmayan sistemlere yol açabilir.

Otomotiv yapay zekâsında algılama modelleri, farklı yaya grupları için tutarsız performans gösterebilir ve yeterince temsil edilmeyen kişiler için güvenlik sonuçlarının kötüleşmesine yol açabilir. Sorun modelin niyeti değil, modelin eğitildiği görsel girdilerdir. Tarımda bile nesne algılamadaki önyargı, farklı ışık veya hava koşullarında ürünlerin hatalı tanımlanmasına neden olabilir. Bunlar, modellerin sınırlı veya dengesiz veri kümeleriyle eğitilmesinin yaygın sonuçlarıdır.

Yapay zekâ önyargısını düzeltmek, önce nereye bakacağını bilmekle başlar. Eğitim kümen önemli örnekleri içermiyorsa veya dar bir aralığı aşırı temsil ediyorsa modelin bu eksiklikleri yansıtacaktır. Bu nedenle yapay zekâda önyargıyı tespit etmek, her geliştirme hattında kritik bir adımdır.

Şekil 4. Yapay zekâ önyargısını azaltma ve adaleti iyileştirmeye yönelik temel adımlar.

Veri kümeni analiz ederek başla. Sınıflar, ortamlar, ışıklandırma, nesne ölçekleri ve demografik gruplar arasındaki dağılıma bak. Bir kategori baskınsa modelin diğer kategorilerde muhtemelen düşük performans gösterecektir.

Ardından performansa bak. Model belirli ortamlarda veya belirli nesne türlerinde daha kötü mü çalışıyor? Öyleyse bu, öğrenilmiş bir önyargının işaretidir ve genellikle kaynağı verilerdir.

Dilime göre değerlendirme kritik önemdedir. Bir model ortalamada %90 doğruluk bildirebilir, ancak belirli bir grup veya koşulda yalnızca %60 doğruluğa ulaşabilir. Bu dilimleri incelemezsen bunu asla bilemezsin.

Eğitim ve değerlendirme sırasında adalet ölçütlerinden yararlanmak da güçlü bir araçtır. Bu ölçütler standart doğruluk puanlarının ötesine geçerek modelin farklı veri alt kümelerinde nasıl davrandığını değerlendirir. Aksi takdirde fark edilmeyebilecek kör noktaları ortaya çıkarmaya yardımcı olurlar.

Veri kümesinin içeriğinde ve model testlerinde şeffaflık, daha iyi modeller ortaya çıkarır.

Veri çeşitliliği ve artırma yoluyla adaleti iyileştirme#

Önyargıyı belirledikten sonraki adım, aradaki farkı kapatmaktır. Bunu yapmanın en etkili yollarından biri, yapay zekâ modellerindeki veri çeşitliliğini artırmaktır. Bu, farklı topluluklardan alınmış tıbbi görüntüler veya alışılmadık çevresel koşullar gibi, yeterince temsil edilmeyen senaryolardan daha fazla örnek toplamak anlamına gelir.

Daha fazla veri eklemek, özellikle çeşitliliği artırdığında yararlı olabilir. Ancak adaleti iyileştirmek, doğru türde örnekleri toplamaya da bağlıdır. Bu örnekler, modelinin karşılaşması muhtemel gerçek dünyadaki çeşitliliği yansıtmalıdır.

Veri artırma da değerli bir stratejidir. Görüntüleri çevirme ve döndürme, ışıklandırmayı ayarlama ve nesneleri ölçeklendirme, farklı gerçek dünya koşullarını taklit etmeye yardımcı olabilir. Artırma, veri kümesinin çeşitliliğini artırmanın yanı sıra modelin görünüm, ışıklandırma ve bağlam değişikliklerine karşı daha dayanıklı olmasını sağlar.

Modern eğitim hatlarının çoğunda artırma varsayılan olarak yer alır; ancak görev özelindeki gereksinimlere göre ayarlamalara odaklanmak gibi stratejik kullanım, artırmayı adalet açısından etkili kılar.

Boşlukları doldurmak için sentetik veri kullanımı#

Sentetik veri, gerçek dünya örneklerini taklit eden yapay olarak oluşturulmuş veridir. Bazı senaryolar gerçek dünyada yakalanamayacak kadar nadir veya hassas olduğunda yararlı bir araç olabilir.

Örneğin makinelerdeki nadir kusurları veya trafikteki uç durum ihlallerini tespit eden bir model geliştiriyorsan bu durumları sentetik verilerle simüle edebilirsin. Böylece modelin, eğitim kümesinde sık karşılaşmayabileceği olaylardan öğrenme fırsatı olur.

Araştırmalar, eğitime hedefli sentetik veri eklemenin veri kümesi önyargısını azaltabileceğini ve demografik gruplar ile ortamlar genelinde performansı iyileştirebileceğini ortaya koymuştur.

Sentetik veriler, gerçek dünya örnekleriyle birlikte kullanıldığında en iyi performansı gösterir. Veri kümeni tamamlar; onun yerini almaz.

Ultralytics YOLO11 etik yapay zekâyı nasıl destekler?#

Önyargısız yapay zekâ modelleri oluşturmak, kullandığın araçlara da bağlıdır. Ultralytics YOLO11 esnek, ince ayar yapması kolay ve yüksek ölçüde uyarlanabilir olacak şekilde tasarlanmıştır; bu özellikleri onu veri kümesi önyargısını azaltmak için güçlü bir seçenek hâline getirir.

Ultralytics YOLO11, modelin genelleme yeteneğini artırıp aşırı öğrenmeyi azaltmak için çeşitli görüntü bağlamları ve harmanlanmış örnekler sunan gelişmiş veri artırma tekniklerini model eğitilirken destekler.

Ultralytics YOLO11 ayrıca daha etkili özellik çıkarımı için geliştirilmiş bir omurga ve boyun mimarisine sahiptir. Bu iyileştirme, modelin ince ayrıntıları algılama yeteneğini artırır. Bu özellik, standart modellerin zorlanabileceği, yeterince temsil edilmeyen veya uç durum senaryolarında kritik önemdedir.

Ultralytics YOLO11’i yeniden eğitmek ve uç ile bulut ortamlarında kullanıma sunmak kolay olduğu için ekipler performans boşluklarını belirleyebilir ve sahada önyargı tespit edildiğinde modeli hızla güncelleyebilir.

Adil yapay zekâ tek seferlik bir hedef değildir. Değerlendirme, öğrenme ve ayarlama döngüsüdür. Ultralytics YOLO11 gibi araçlar bu döngünün daha hızlı ve verimli ilerlemesine yardımcı olur.

Önemli çıkarımlar#

Yapay zekâ önyargısı, adaletten performansa kadar her şeyi etkiler. Bilgisayarlı görüdeki önyargı çoğunlukla veri kümelerinin toplanma, etiketlenme ve dengelenme biçiminden kaynaklanır. Neyse ki bunu tespit etmenin ve azaltmanın kanıtlanmış yolları vardır.

Verilerini denetleyerek ve model performansını farklı senaryolarda test ederek başla. Daha iyi eğitim kapsamı oluşturmak için hedefli veri toplama, artırma ve sentetik verilerden yararlan.

Ultralytics YOLO11; özel modelleri eğitmeyi, güçlü artırma tekniklerini uygulamayı ve önyargı bulunduğunda hızlıca karşılık vermeyi kolaylaştırarak bu iş akışını destekler.

Adil yapay zekâ oluşturmak yalnızca yapılması gereken doğru şey değildir. Aynı zamanda daha akıllı ve güvenilir sistemler kurmanın da yoludur.

Büyüyen topluluğumuza katıl! Yapay zekâ hakkında daha fazla bilgi edinmek için GitHub depomuzu keşfet. Kendi bilgisayarlı görü projene başlamaya hazır mısın? Lisanslama seçeneklerimize göz at. Çözüm sayfalarımızı ziyaret ederek üretimde yapay zekâyı ve tarımda görsel yapay zekâyı keşfet!