Görüntüleme Yapay Zekası sistemlerinde Yapay Zeka yanlılığını ve veri seti yanlılığını anlama
Veri seti yanlılığının bilgisayarlı görü modellerini nasıl etkilediğini ve Ultralytics YOLO11'in akıllı veri artırma ve esnek eğitim araçlarıyla yanlılığı azaltmaya nasıl yardımcı olduğunu öğren.
Yapay zeka (AI) modelleri problem çözme biçimimizi değiştiriyor ancak mükemmel değiller. Otonom araçlardan sağlık sektöründeki teşhis araçlarına kadar verileri yorumlamak ve kararlar almak için yapay zekaya güveniyoruz. Peki verinin kendisi kusurlu olduğunda ne olur?
Yapay zekada önyargı, genellikle kimse fark etmeden modellerde ortaya çıkan tutarsızlık desenlerini ifade eder. Bu önyargılar, modellerin yanlış, tutarsız ve hatta zararlı tahminler yapmasına neden olabilir. Bilgisayarlı görüde önyargı genellikle tek bir temel kaynağa dayanır: veri kümesi. Modeli eğitmek için kullanılan veriler dengesiz veya temsil yeteneğinden yoksunsa model bu boşlukları yansıtacaktır.
Veri kümesi önyargısının nasıl oluştuğuna, bilgisayarlı görü modellerini nasıl etkilediğine ve geliştiricilerin bunu tespit etmek ve önlemek için atabileceği adımlara daha yakından bakalım. Ayrıca Ultralytics YOLO11 gibi modellerin, yeni ve görülmemiş verilerde iyi performans gösteren ve herkese daha eşit şekilde hizmet eden, yani daha iyi genelleme yapan daha adil yapay zeka sistemleri oluşturma çabalarını nasıl destekleyebileceğini göstereceğiz.
Yapay zeka yanlılığı nedir ve neden önemlidir?#
Yapay zeka önyargısı, yapay zeka sisteminde yamuk veya yanlış sonuçlarla sonuçlanan tutarlı hataları ifade eder. Daha basit bir ifadeyle model, görsel girdilerin bir türünü diğerlerine tercih etmeye başlar; bu da modelin adaletini daha iyi performans gösterdiği için değil, nasıl eğitildiği nedeniyle etkiler.
Bu durum, özellikle modellerin görsel verilerden öğrendiği bilgisayarlı görü alanında yaygın olabilir. Bir veri kümesi çoğunlukla tek bir nesne, sahne veya kişi türünü içeriyorsa, model sadece bu vakalar için iyi çalışan kalıpları öğrenir.
Büyük şehirlerden gelen trafik görüntüleriyle çoğunlukla eğitilmiş bir model hayal et. Kırsal bir alanda devreye alınırsa olağandışı yol düzenlerini yanlış sınıflandırabilir veya daha önce hiç görmediği araç türlerini algılamayabilir. Bu, çalışırken yapay zeka önyargısıdır. Daha düşük doğruluğa ve modelin yeni veya çeşitli girdilerde iyi performans gösterme yeteneğini ifade eden sınırlı genellemeye yol açar.
Sağlık veya güvenlik gibi doğruluğun esas olduğu uygulamalarda, bu hatalar sadece sinir bozucu değil, aynı zamanda tehlikeli olabilir. Yanlılığı ele almak, performans, güvenilirlik ve emniyet ile ilgilidir.
Veri kümesi yanlılığı model davranışını nasıl etkiler#
Veri kümesi yanlılığından bahsettiğimizde, bir modeli eğitmek için kullanılan verilerdeki dengesizliği veya sınırlamayı kastediyoruz. Veri kümesi yanlılığı, eğitim verileri modellemesi amaçlanan gerçek dünya çeşitliliğini yeterince yansıtmadığında ortaya çıkar.
Bilgisayarlı görü modelleri dünyayı anlamaz. Onlar kalıpları anlarlar. Gördükleri tek köpek görüntüleri arka bahçelerdeki golden retriever'lar ise, karlı bir yolda bir husky'yi tanıyamayabilirler.
Şek 1. Kaynak verilerin yeniden ağırlıklandırılması daha iyi model doğruluğu elde edilmesine yardımcı olur.
Bu, veri kümesi önyargısının neden olduğu ana zorluklardan birini vurgulamaktadır. Model anlayışını kendisine gösterilenlere dayanarak kurar. Bu eğitim verileri gerçek dünya çeşitliliğini yansıtmazsa modelin davranışı daralır ve aşina olunmayan koşullarda daha az etkili hale gelir.
Görüntü sınıflandırıcılar, her iki veri kümesi de aynı görev için oluşturulmuş olsa bile, eğitildiklerinden farklı bir veri kümesinde test edildiklerinde genellikle önemli ölçüde daha kötü performans gösterirler. Aydınlatma, arka planlar veya kamera açılarındaki küçük değişiklikler, doğrulukta gözle görülür düşüşlere yol açabilir. Bu, veri kümesi yanlılığının bir modelin genelleme yeteneğini ne kadar kolay etkileyebileceğini gösterir.
Bunlar uç durumlar değildir. Bunlar, veri hattının model mimarin kadar önemli olduğunun işaretleridir.
Yapay zeka eğitim verilerindeki yanlılık türleri#
Yanlılık, geliştirme sürecinde, genellikle veri toplama, etiketleme veya kürasyon sırasında ince yollarla görülebilir. Aşağıda, eğitim verilerini etkileyebilecek üç ana yanlılık türü yer almaktadır:
Seçim yanlılığı#
Seçim yanlılığı, veri kümesi gerçek dünya kullanımında görülen çeşitliliği temsil etmediğinde ortaya çıkabilir. Bir yaya algılama modeli yalnızca açık, gündüz çekilmiş görüntüler üzerinde eğitilirse, gece veya sisli havalarda iyi performans göstermez. Dolayısıyla seçim süreci, kritik durumları kaçırmıştır.
Şek 2. Yalnızca çeşitli olmayan bir alt kümenin seçildiği seçim önyargısının görsel bir gösterimi.
Bu yanlılık, veri toplama biçimi nedeniyle veri kümesi tüm gerçek dünya senaryolarını kapsamadığında ortaya çıkar. Örneğin, sadece açık, gündüz görüntüleri üzerinde eğitilmiş bir yaya algılama modeli sis, kar veya düşük ışıkta başarısız olabilir. Bu durum genellikle veriler ideal veya uygun koşullar altında toplandığında gerçekleşir ve modelin çeşitli ortamlarda performans gösterme yeteneğini sınırlar. Toplama çalışmalarını daha çeşitli ortamları içerecek şekilde genişletmek, bu tür yanlılıkları azaltmaya yardımcı olur.
Ayrıca, içeriğin belirli konumlara, dillere veya sosyoekonomik bağlamlara doğru büyük ölçüde çarpıtılmış olabileceği çevrimiçi kaynaklardan oluşturulan veri kümelerinde de ortaya çıkabilir. Veri kümesini çeşitlendirmek için kasıtlı bir çaba gösterilmezse, model bu sınırlamaları miras alacaktır.
Etiket yanlılığı#
Etiket önyargısı, insan etiketleyiciler yanlış veya tutarsız etiketler uyguladığında ortaya çıkar. Yanlış bir etiket zararsız görünebilir ancak bu sık sık gerçekleşirse model yanlış ilişkilendirmeleri öğrenmeye başlar.
Tutarsız etiketleme, özellikle nesne algılama gibi karmaşık görevlerde eğitim sırasında modelin kafasını karıştırabilir. Örneğin, bir etiketleyici bir aracı "araba" olarak etiketlerken, diğeri benzer bir aracı "kamyon" olarak etiketleyebilir. Bu tutarsızlıklar, modelin güvenilir kalıpları öğrenme yeteneğini etkiler ve çıkarım sırasında doğruluğun düşmesine yol açar.
Şek 3. Veri hatlarındaki önyargı gerçek dünya dengesizliklerinden kaynaklanır.
Etiket yanlılığı, belirsiz etiketleme yönergelerinden veya aynı verilerin farklı yorumlanmasından da kaynaklanabilir. İyi belgelenmiş etiketleme standartları oluşturmak ve kalite kontrol kontrolleri yapmak, bu zorlukları önemli ölçüde azaltabilir.
Etiketleyiciler için devam eden eğitim ve her örneği birden fazla etiketleyicinin gözden geçirdiği fikir birliği etiketlemesinin kullanılması, etiket yanlılığını en aza indirmek ve veri kümesi kalitesini iyileştirmek için iki etkili stratejidir.
Temsil yanlılığı#
Temsil önyargısı genellikle daha geniş toplumsal eşitsizlikleri yansıtır. Daha zengin veya daha fazla bağlantıya sahip bölgelerde toplanan veriler, daha az temsil edilen popülasyonların veya ortamların çeşitliliğini yakalayamayabilir. Bu önyargıyı ele almak, göz ardı edilen grupların ve bağlamların kasıtlı olarak dahil edilmesini gerektirir.
Temsil yanlılığı, belirli gruplar veya sınıflar veri kümesinde yeterince temsil edilmediğinde ortaya çıkar. Bunlar demografik grupları, nesne kategorilerini veya çevresel koşulları içerebilir. Bir model yalnızca tek bir cilt tonu, tek bir nesne türü veya tek bir arka plan stili görürse, tahminleri bu dengesizliği yansıtacaktır.
Bu tür bir yanlılığı, belirli gruplar veya kategoriler diğerlerinden çok daha küçük miktarlarda dahil edildiğinde gözlemleyebiliriz. Bu, modelin tahminlerini veri kümesindeki baskın örneklere doğru çarpıtabilir. Örneğin, birincil olarak tek bir demografik üzerinde eğitilmiş bir yüz tanıma modeli, tüm kullanıcılar arasında doğru performans göstermekte zorlanabilir. Veri çeşitliliği ile bağlantılı olan seçim yanlılığının aksine, temsil yanlılığı gruplar arasındaki dengeyle ilgilidir.
Çeşitlilik denetimleri ve hedeflenmiş veri genişletme stratejileri, tüm ilgili demografilerin ve kategorilerin eğitim veri kümesi boyunca uygun şekilde temsil edilmesini sağlamaya yardımcı olabilir.
Veri kümesi yanlılığı nasıl tespit edilir ve azaltılır#
Gerçek dünya dağıtımlarında, yapay zeka yanlılığı sadece birkaç yanlış tahmin anlamına gelmez. Bazı insanlar için iyi çalışan ancak herkes için çalışmayan sistemlerle sonuçlanabilir.
Otomotiv yapay zekasında algılama modelleri yaya grupları arasında tutarsız performans gösterebilir ve bu da yeterince temsil edilmeyen bireyler için daha düşük güvenlik sonuçlarına yol açabilir. Sorun modelin niyeti değildir. Eğitildiği görsel girdilerdir. Tarımda bile nesne tespitindeki önyargı, ekinlerin farklı aydınlatma veya hava koşullarında zayıf bir şekilde tanımlanması anlamına gelebilir. Bunlar, sınırlı veya dengesiz veri kümeleri üzerinde model eğitmenin yaygın sonuçlarıdır.
Yapay zeka önyargısını düzeltmek nereye bakacağını bilmekle başlar. Eğitim setinde önemli örnekler eksikse veya dar bir yelpazeyi aşırı temsil ediyorsa modeliniz bu boşlukları yansıtacaktır. Bu nedenle yapay zekada önyargı tespiti her geliştirme hattında kritik bir adımdır.
Şek 4. Yapay zeka önyargısını azaltmak ve adaleti iyileştirmek için temel adımlar.
Veri kümeni analiz ederek başla. Sınıflar, ortamlar, aydınlatma, nesne ölçekleri ve demografiler genelindeki dağılıma bak. Bir kategori baskınsa, modelin büyük olasılıkla diğerlerinde düşük performans gösterecektir.
Ardından, performansa bak. Model belirli ayarlarda veya belirli nesne türleri için daha mı kötü performans gösteriyor? Eğer öyleyse, bu öğrenilmiş bir yanlılığın işaretidir ve genellikle verilere geri döner.
Dilim düzeyinde değerlendirme anahtardır. Bir model ortalamada %90 doğruluk bildirebilir ancak belirli bir grup veya koşulda sadece %60 performans gösterebilir. Bu dilimleri kontrol etmeden, bunu asla bilemezsin.
Eğitim ve değerlendirme sırasında adalet metriklerini kullanmak bir diğer güçlü araçtır. Bu metrikler standart doğruluk puanlarının ötesine geçer ve modelin verilerin farklı alt kümeleri arasında nasıl davrandığını değerlendirir. Aksi takdirde fark edilmeyecek kör noktaların ortaya çıkmasına yardımcı olurlar.
Veri kümesi kompozisyonu ve model testindeki şeffaflık, daha iyi modellere yol açar.
Veri çeşitliliği ve artırma yoluyla adaleti iyileştirme#
Önyargıyı belirledikten sonraki adım aradaki boşluğu kapatmaktır. Bunu yapmanın en etkili yollarından biri, yapay zeka modellerinde veri çeşitliliğini artırmaktır. Bu, ister farklı popülasyonlardan tıbbi görüntüler ister olağandışı çevre koşulları olsun, yeterince temsil edilmeyen senaryolardan daha fazla örnek toplamak anlamına gelir.
Daha fazla veri eklemek, özellikle çeşitliliği artırdığında değerli olabilir. Ancak, adaleti iyileştirmek aynı zamanda doğru türde örnekleri toplamaya da bağlıdır. Bunlar, modelinin karşılaşması muhtemel gerçek dünya çeşitliliğini yansıtmalıdır.
Veri artırma bir diğer değerli stratejidir. Döndürme, çevirme, aydınlatmayı ayarlama ve nesneleri ölçeklendirme, farklı gerçek dünya koşullarını simüle etmeye yardımcı olabilir. Artırma, sadece veri kümesi çeşitliliğini artırmakla kalmaz, aynı zamanda modelin görünüm, aydınlatma ve bağlamdaki değişikliklere karşı daha sağlam hale gelmesine de yardımcı olur.
Modern eğitim hatlarının çoğu varsayılan olarak arttırma içerir ancak göreve özel ihtiyaçlara göre ayarlamaya odaklanmak gibi stratejik kullanım, onu adalet açısından etkili kılan şeydir.
Boşlukları doldurmak için sentetik verileri kullanma#
Sentetik veriler, gerçek dünya örneklerini taklit eden yapay olarak oluşturulmuş verileri ifade eder. Belirli senaryolar çok nadir veya doğal ortamda yakalanamayacak kadar hassas olduğunda yardımcı bir araç olabilir.
Örneğin, makinelerdeki nadir kusurları veya uç durumdaki trafik ihlallerini tespit etmek için bir model oluşturuyorsan, bu vakaları sentetik veriler kullanarak simüle edebilirsin. Bu, modeline eğitim kümenizde sık sık karşılaşmayabileceği olaylardan öğrenme fırsatı verir.
Çalışmalar, eğitime hedeflenmiş sentetik veriler eklemenin veri kümesi önyargısını azaltabileceğini ve demografik gruplar ile ortamlarda performansı artırabileceğini bulmuştur.
Sentetik veriler, gerçek dünya örnekleriyle eşleştirildiğinde en iyi performansı gösterir. Veri kümeni tamamlar; onun yerini almaz.
Ultralytics YOLO11 etik yapay zekayı nasıl destekler#
Önyargısız yapay zeka modelleri inşa etmek aynı zamanda kullandığın araçlara da bağlıdır. Ultralytics YOLO11 esnek, ince ayarı kolay ve yüksek düzeyde uyarlanabilir olacak şekilde tasarlanmıştır; bu da onu veri seti önyargısını azaltmak için güçlü bir seçenek haline getirir.
Ultralytics YOLO11, modeli eğitirken gelişmiş veri artırma tekniklerini destekler; bu, modelin genelleştirilmesini iyileştirmek ve aşırı öğrenmeyi azaltmak için çeşitli görüntü bağlamları ve harmanlanmış örnekler sunar.
Ultralytics YOLO11 ayrıca daha etkili özellik çıkarımı için iyileştirilmiş bir omurga ve boyun mimarisine sahiptir. Bu güncelleme, modelin standart modellerin zorlanabileceği az temsil edilen veya uç durum senaryolarında çok önemli olan ince ayrıntıları tespit etme yeteneğini geliştirir.
Ultralytics YOLO11 uç ve bulut ortamlarında yeniden eğitilip dağıtılabildiği için ekipler, sahada önyargı keşfedildiğinde performans boşluklarını belirleyebilir ve modeli hızlı bir şekilde güncelleyebilir.
Adil yapay zeka tek seferlik bir hedef değildir. Bu bir değerlendirme, öğrenme ve ayarlama döngüsüdür. Ultralytics YOLO11 gibi araçlar bu döngüyü daha hızlı ve daha verimli hale getirmeye yardımcı olur.
Öne çıkanlar#
Yapay zeka yanlılığı, adaletten performansa kadar her şeyi etkiler. Bilgisayarlı görü yanlılığı genellikle veri kümelerinin toplanma, etiketlenme ve dengelenme biçiminden kaynaklanır. Neyse ki, bunu tespit etmenin ve azaltmanın kanıtlanmış yolları vardır.
Verilerini denetleyerek ve model performansını farklı senaryolar genelinde test ederek başla. Daha iyi eğitim kapsamı oluşturmak için hedeflenmiş veri toplama, artırma ve sentetik veriler kullan.
Ultralytics YOLO11, özel modelleri eğitmeni, güçlü veri artırma teknikleri uygulamayı ve önyargı tespit edildiğinde hızlı bir şekilde yanıt vermeyi kolaylaştırarak bu iş akışını destekler.
Adil YZ inşa etmek sadece yapılması gereken doğru şey değildir. Aynı zamanda daha akıllı, daha güvenilir sistemler kurmanın yoludur.
Büyüyen topluluğumuza katıl! Yapay zeka hakkında daha fazla bilgi edinmek için GitHub depomuzu keşfet. Kendi bilgisayarlı görü projelerine başlamaya hazır mısın? Lisanslama seçeneklerimize göz at. Çözüm sayfalarımızı ziyaret ederek üretimde yapay zeka ve tarımda görü yapay zekası hakkında bilgi edin!
