Vision AI sistemlerinde yapay zekâ yanlılığını ve veri kümesi yanlılığını anlama

Yapay zekâ (AI) modelleri sorunları çözme biçimimizi değiştiriyor, ancak kusursuz değiller. Kendi kendine giden otomobillerden sağlık hizmetlerindeki tanı araçlarına kadar verileri yorumlamak ve karar vermek için yapay zekâya güveniyoruz. Peki ya verilerin kendisi kusurluysa?

Yapay zekâda yanlılık, çoğu zaman kimse fark etmeden modellerde gelişen tutarsızlık örüntülerini ifade eder. Bu yanlılıklar, modellerin hatalı, tutarsız ve hatta zararlı tahminler yapmasına neden olabilir. Bilgisayarlı görüde yanlılığın kaynağı genellikle tek bir temel noktaya dayanır: veri kümesi. Modeli eğitmek için kullanılan veriler dengesiz veya temsil gücü düşükse model bu eksiklikleri yansıtır.

Veri kümesi yanlılığının nasıl oluştuğuna, bilgisayarlı görü modellerini nasıl etkilediğine ve geliştiricilerin bunu tespit edip önlemek için atabileceği adımlara daha yakından bakalım. Ayrıca Ultralytics YOLO11 gibi modellerin, yeni ve daha önce görülmemiş verilerde iyi performans gösteren ve herkese daha eşit hizmet eden, başka bir deyişle daha iyi genelleyen daha adil yapay zekâ sistemleri oluşturma çalışmalarını nasıl destekleyebileceğini göstereceğiz.

Yapay zekâ yanlılığı nedir ve neden önemlidir?#

Yapay zekâ yanlılığı, bir yapay zekâ sisteminde çarpık veya hatalı sonuçlara yol açan sistematik hataları ifade eder. Daha basit bir ifadeyle model, bir tür görsel girdiyi diğerlerine tercih etmeye başlar. Bu durum, daha iyi performans gösterdiği için değil, eğitilme biçimi nedeniyle modelin adil olma düzeyini etkiler.

Bu durum, modellerin görsel verilerden öğrendiği bilgisayarlı görü alanında özellikle yaygın olabilir. Bir veri kümesi çoğunlukla tek bir nesne, sahne veya kişi türünü içeriyorsa model yalnızca bu örnekler için iyi çalışan örüntüler öğrenir.

Büyük şehirlerden alınan trafik görüntüleriyle ağırlıklı olarak eğitilmiş bir model düşün. Kırsal bir bölgede kullanıma alındığında alışılmadık yol düzenlerini yanlış sınıflandırabilir veya daha önce hiç görmediği araç türlerini algılayamayabilir. Yapay zekâ yanlılığı işte böyle ortaya çıkar. Bu durum, daha düşük doğruluğa ve sınırlı genellemeye yol açar; genelleme, bir modelin yeni veya çeşitli girdilerde iyi performans gösterebilme yeteneğidir.

Sağlık veya güvenlik gibi doğruluğun kritik olduğu uygulamalarda bu hatalar yalnızca can sıkıcı değildir; tehlikeli de olabilir. Yanlılığı ele almak; performans, güvenilirlik ve güvenlikle ilgilidir.

Veri kümesi yanlılığı model davranışını nasıl etkiler?#

Veri kümesi yanlılığından söz ederken bir modeli eğitmek için kullanılan verilerdeki dengesizliği veya sınırlılığı kastediyoruz. Veri kümesi yanlılığı, eğitim verileri modellemesi amaçlanan gerçek dünyadaki çeşitliliği yeterince yansıtmadığında ortaya çıkar.

Bilgisayarlı görü modelleri dünyayı anlamaz. Örüntüleri anlar. Gördükleri tek köpek görüntüleri arka bahçelerdeki golden retriever'larsa karlı bir patikadaki husky'yi tanımayabilirler.

Şekil 1. Kaynak verileri yeniden ağırlıklandırmak, daha iyi model doğruluğu elde edilmesine yardımcı olur.

Bu, veri kümesi yanlılığının neden olduğu temel zorluklardan birini ortaya koyar. Model, anlayışını kendisine gösterilenlere göre oluşturur. Eğitim verileri gerçek dünyadaki çeşitliliği yansıtmıyorsa modelin davranışı alışılmadık koşullarda dar kapsamlı ve daha az etkili hâle gelir.

Görüntü sınıflandırıcıları, her iki veri kümesi de aynı görev için oluşturulmuş olsa bile, eğitildikleri veri kümesinden farklı bir veri kümesinde test edildiklerinde genellikle belirgin ölçüde daha kötü performans gösterir. Aydınlatmadaki, arka planlardaki veya kamera açılarındaki küçük değişiklikler doğrulukta fark edilir düşüşlere yol açabilir. Bu durum, veri kümesi yanlılığının bir modelin genelleme yeteneğini ne kadar kolay etkileyebileceğini gösterir.

Bunlar uç durumlar değildir. Veri işleme hattının model mimarin kadar önemli olduğunun göstergeleridir.

Yapay zekâ eğitim verilerindeki yanlılık türleri#

Yanlılık, geliştirme sürecinde genellikle veri toplama, etiketleme veya seçme aşamalarında kendini ince şekillerde gösterebilir. Aşağıda eğitim verilerini etkileyebilecek üç temel yanlılık türü yer alıyor:

Seçim yanlılığı#

Seçim yanlılığı, veri kümesi gerçek dünyadaki kullanımda görülen çeşitliliği temsil etmediğinde ortaya çıkabilir. Yaya algılama modeli yalnızca açık havada, gündüz çekilmiş görüntülerle eğitilirse gece veya sisli havada iyi performans gösteremez. Dolayısıyla seçim süreci kritik örnekleri gözden kaçırmıştır.

Şekil 2. Yalnızca çeşitlilik içermeyen bir alt kümenin seçildiği seçim yanlılığının görsel gösterimi.

Bu yanlılık, verilerin toplanma biçimi nedeniyle veri kümesi gerçek dünyadaki senaryoların tamamını kapsamadığında ortaya çıkar. Örneğin, yalnızca açık havada, gündüz çekilmiş görüntülerle eğitilen bir yaya algılama modeli sis, kar veya düşük ışıkta başarısız olabilir. Bu durum genellikle veriler ideal veya uygun koşullarda toplandığında meydana gelir ve modelin çeşitli ortamlarda performans gösterme yeteneğini sınırlar. Toplama çalışmalarını daha çeşitli ortamları kapsayacak şekilde genişletmek bu tür yanlılığın azaltılmasına yardımcı olur.

Bu durum, içeriğin belirli konumlara, dillere veya sosyoekonomik bağlamlara büyük ölçüde kayabildiği çevrim içi kaynaklardan oluşturulan veri kümelerinde de ortaya çıkabilir. Veri kümesini çeşitlendirmek için bilinçli bir çaba gösterilmezse model bu sınırlılıkları devralır.

Etiket yanlılığı#

Etiket yanlılığı, insan anotatörler hatalı veya tutarsız etiketler uyguladığında ortaya çıkar. Yanlış bir etiket zararsız görünebilir, ancak bu sık gerçekleşirse model yanlış ilişkileri öğrenmeye başlar.

Tutarsız etiketleme, özellikle nesne algılama gibi karmaşık görevlerde eğitim sırasında modelin kafasını karıştırabilir. Örneğin, bir anotatör bir aracı "car" olarak etiketlerken başka bir anotatör benzer bir aracı "truck" olarak etiketleyebilir. Bu tutarsızlıklar modelin güvenilir örüntüler öğrenme yeteneğini etkileyerek çıkarım sırasındaki doğruluğun azalmasına yol açar.

Şekil 3. Veri işleme hatlarındaki yanlılık, gerçek dünyadaki dengesizliklerden kaynaklanır.

Etiket yanlılığı, belirsiz anotasyon yönergelerinden veya aynı verinin farklı yorumlanmasından da kaynaklanabilir. İyi belgelenmiş etiketleme standartları oluşturmak ve kalite kontrol denetimleri gerçekleştirmek bu zorlukları önemli ölçüde azaltabilir.

Anotatörlere sürekli eğitim vermek ve birden fazla anotatörün her örneği incelediği uzlaşı etiketlemesini kullanmak, etiket yanlılığını en aza indirmek ve veri kümesi kalitesini artırmak için iki etkili stratejidir.

Temsil yanlılığı#

Temsil yanlılığı çoğu zaman daha geniş toplumsal eşitsizlikleri yansıtır. Daha varlıklı veya bağlantılı bölgelerde toplanan veriler, yeterince temsil edilmeyen toplulukların veya ortamların çeşitliliğini yansıtamayabilir. Bu yanlılığı ele almak, gözden kaçan grupların ve bağlamların kasıtlı olarak dahil edilmesini gerektirir.

Temsil yanlılığı, belirli gruplar veya sınıflar veri kümesinde yeterince temsil edilmediğinde ortaya çıkar. Bunlar demografik grupları, nesne kategorilerini veya çevresel koşulları içerebilir. Bir model yalnızca tek bir cilt tonu, tek bir nesne türü veya tek bir arka plan stili görürse tahminleri bu dengesizliği yansıtır.

Belirli gruplar veya kategoriler diğerlerine kıyasla çok daha az sayıda dahil edildiğinde bu tür yanlılığı gözlemleyebiliriz. Bu durum, modelin tahminlerini veri kümesindeki baskın örneklere doğru çarpıtabilir. Örneğin, ağırlıklı olarak tek bir demografik grupla eğitilen bir yüz tanıma modeli tüm kullanıcılar arasında doğru performans göstermekte zorlanabilir. Veri çeşitliliğiyle bağlantılı olan seçim yanlılığından farklı olarak temsil yanlılığı, gruplar arasındaki dengeyle ilgilidir.

Çeşitlilik denetimleri ve hedefli veri genişletme stratejileri, ilgili tüm demografik grupların ve kategorilerin eğitim veri kümesi genelinde uygun şekilde temsil edilmesini sağlamaya yardımcı olabilir.

Veri kümesi yanlılığı nasıl tespit edilir ve azaltılır?#

Gerçek dünya kullanımlarında yapay zekâ yanlılığı yalnızca birkaç hatalı tahmin anlamına gelmez. Bazı insanlar için iyi çalışan, ancak herkes için çalışmayan sistemlere yol açabilir.

Otomotiv yapay zekâsında algılama modelleri, farklı yaya gruplarında tutarsız performans göstererek yeterince temsil edilmeyen kişiler için daha düşük güvenlik sonuçlarına yol açabilir. Sorun modelin amacı değildir. Sorun, modelin eğitildiği görsel girdilerdir. Tarımda bile nesne algılamadaki yanlılık, farklı aydınlatma veya hava koşullarında ürünlerin kötü tanımlanması anlamına gelebilir. Bunlar, modellerin sınırlı veya dengesiz veri kümeleriyle eğitilmesinin yaygın sonuçlarıdır.

Yapay zekâ yanlılığını düzeltmek, nereye bakacağını bilmekle başlar. Eğitim kümen önemli örnekleri içermiyorsa veya dar bir aralığı aşırı temsil ediyorsa modelin bu eksiklikleri yansıtacaktır. Bu nedenle yapay zekâda yanlılık tespiti her geliştirme hattında kritik bir adımdır.

Şekil 4. Yapay zekâ yanlılığını azaltmanın ve adaleti artırmanın temel adımları.

Veri kümeni analiz ederek başla. Sınıflar, ortamlar, aydınlatma, nesne ölçekleri ve demografik gruplar arasındaki dağılıma bak. Bir kategori baskınsa modelin diğerlerinde muhtemelen düşük performans gösterecektir.

Ardından performansa bak. Model belirli ayarlarda veya belirli nesne türlerinde daha kötü mü performans gösteriyor? Öyleyse bu, öğrenilmiş yanlılığın bir işaretidir ve genellikle kaynağı verilere dayanır.

Kesit düzeyinde değerlendirme kritik öneme sahiptir. Bir model ortalama %90 doğruluk bildirebilir, ancak belirli bir grup veya koşulda yalnızca %60 doğruluk elde edebilir. Bu kesitleri kontrol etmezsen bunu asla bilemezdin.

Eğitim ve değerlendirme sırasında adalet metriklerini kullanmak başka bir güçlü araçtır. Bu metrikler standart doğruluk puanlarının ötesine geçer ve modelin farklı veri alt kümelerindeki davranışını değerlendirir. Aksi takdirde fark edilmeyebilecek kör noktaların ortaya çıkarılmasına yardımcı olurlar.

Veri kümesi bileşimi ve model testlerindeki şeffaflık daha iyi modeller ortaya çıkarır.

Veri çeşitliliği ve artırmayla adaleti geliştirme#

Yanlılığı belirledikten sonra sıradaki adım açığı kapatmaktır. Bunu yapmanın en etkili yollarından biri yapay zekâ modellerindeki veri çeşitliliğini artırmaktır. Bu, farklı topluluklardan alınmış tıbbi görüntüler veya alışılmadık çevresel koşullar gibi yeterince temsil edilmeyen senaryolardan daha fazla örnek toplamak anlamına gelir.

Özellikle çeşitliliği artırıyorsa daha fazla veri eklemek değerli olabilir. Ancak adaleti geliştirmek, doğru türde örnekleri toplamaya da bağlıdır. Bu örnekler modelinin karşılaşması muhtemel gerçek dünya çeşitliliğini yansıtmalıdır.

Veri artırma başka bir değerli stratejidir. Nesneleri çevirmek, döndürmek, aydınlatmayı ayarlamak ve ölçeklendirmek farklı gerçek dünya koşullarının benzetilmesine yardımcı olabilir. Artırma, veri kümesi çeşitliliğini artırmanın yanı sıra modelin görünüm, aydınlatma ve bağlam değişikliklerine karşı daha dayanıklı olmasına da yardımcı olur.

Modern eğitim hatlarının çoğu varsayılan olarak artırmayı içerir, ancak görev gereksinimlerine göre ayarlamaya odaklanmak gibi stratejik kullanım, bunu adalet açısından etkili kılan unsurdur.

Eksikleri tamamlamak için sentetik veri kullanma#

Sentetik veri, gerçek dünya örneklerini taklit eden yapay olarak oluşturulmuş verileri ifade eder. Belirli senaryoların gerçek ortamda yakalanamayacak kadar nadir veya hassas olduğu durumlarda yararlı bir araç olabilir.

Örneğin, makinelerdeki nadir kusurları veya uç durumdaki trafik ihlallerini algılayan bir model geliştiriyorsan bu durumları sentetik veri kullanarak simüle edebilirsin. Böylece modelin, eğitim kümesinde sık karşılaşmayabileceği olaylardan öğrenme fırsatı elde eder.

Çalışmalar, eğitim sürecine hedefli sentetik veri eklemenin veri kümesi yanlılığını azaltabileceğini ve demografik gruplar ile ortamlar genelinde performansı artırabileceğini göstermiştir.

Sentetik veri, gerçek dünya örnekleriyle birlikte kullanıldığında en iyi sonucu verir. Veri kümeni tamamlar; onun yerini almaz.

Ultralytics YOLO11 etik yapay zekâyı nasıl destekler?#

Yanlılık içermeyen yapay zekâ modelleri oluşturmak, kullandığın araçlara da bağlıdır. Ultralytics YOLO11 esnek, ince ayar yapması kolay ve son derece uyarlanabilir olacak şekilde tasarlanmıştır; bu da onu veri kümesi yanlılığını azaltmak için güçlü bir seçenek hâline getirir.

Ultralytics YOLO11, model eğitilirken gelişmiş veri artırma tekniklerini destekler; bu teknikler modelin genellemesini geliştirmek ve aşırı öğrenmeyi azaltmak için çeşitli görüntü bağlamları ve harmanlanmış örnekler sunar.

Ultralytics YOLO11 ayrıca daha etkili özellik çıkarımı için geliştirilmiş bir omurga ve boyun mimarisine sahiptir. Bu yükseltme, modelin ince ayrıntıları algılama yeteneğini güçlendirir; bu da standart modellerin zorlanabileceği yeterince temsil edilmeyen veya uç durum senaryolarında kritik önem taşır.

Ultralytics YOLO11'in uç ve bulut ortamlarında yeniden eğitilmesi ve dağıtılması kolay olduğundan ekipler performans açıklarını belirleyebilir ve sahada yanlılık keşfedildiğinde modeli hızla güncelleyebilir.

Adil yapay zekâ tek seferlik bir hedef değildir. Bu, değerlendirme, öğrenme ve ayarlama döngüsüdür. Ultralytics YOLO11 gibi araçlar bu döngünün daha hızlı ve verimli hâle gelmesine yardımcı olur.

Önemli çıkarımlar#

Yapay zekâ yanlılığı adaletten performansa kadar her şeyi etkiler. Bilgisayarlı görüdeki yanlılık çoğu zaman veri kümelerinin toplanma, etiketlenme ve dengelenme biçiminden kaynaklanır. Neyse ki bunu tespit etmenin ve azaltmanın kanıtlanmış yolları vardır.

Verilerini denetleyerek ve model performansını farklı senaryolarda test ederek başla. Daha iyi eğitim kapsamı oluşturmak için hedefli veri toplama, artırma ve sentetik veri kullan.

Ultralytics YOLO11; özel modelleri eğitmeyi, güçlü artırma tekniklerini uygulamayı ve yanlılık bulunduğunda hızlı yanıt vermeyi kolaylaştırarak bu iş akışını destekler.

Adil yapay zekâ oluşturmak yalnızca yapılması gereken doğru şey değildir. Aynı zamanda daha akıllı ve güvenilir sistemler oluşturmanın yoludur.

Büyüyen topluluğumuza katıl! Yapay zekâ hakkında daha fazla bilgi edinmek için GitHub depomuzu incele. Kendi bilgisayarlı görü projene başlamaya hazır mısın? Lisanslama seçeneklerimize göz at. Çözümler sayfalarımızı ziyaret ederek üretimde yapay zekâyı ve tarımda görüntü yapay zekâsını keşfet!