Active Learning

Aktif öğrenme, modelin bir kişinin sırada hangi etiketsiz örnekleri etiketlemesi gerektiğini seçtiği bir makine öğrenimi yaklaşımıdır. Ekip, verilerden rastgele bir örnek seçip etiketlemek yerine küçük bir etiketli kümede model eğitir, modeli kullanarak büyük bir etiketsiz örnek havuzunu puanlar, en bilgilendirici örnekleri etiketleyicilere gönderir, genişletilmiş kümede modeli yeniden eğitir ve bu işlemi tekrarlar. Etiketleri sağlayan kişiye oracle denir. Amaç, mümkün olduğunca az etiketle hedeflenen doğruluğa ulaşmaktır. Bu, taramaları okuyan radyologlar gibi uzmanların etiketlemesi gerektiğinde veya otonom araç filosunun her gün kaydettiği video gibi havuzun tamamını etiketlemek mümkün olmadığında özellikle önemlidir.

Aktif Öğrenme Döngüsü Nasıl Çalışır#

Bilgisayarlı görü projelerinde genellikle, puanlanmayı bekleyen sabit bir etiketsiz görüntü koleksiyonunun bulunduğu havuz tabanlı aktif öğrenme kullanılır. Her tur dört adımdan oluşur:

1. Eğit: Şimdiye kadar toplanan etiketli örneklerle, örneğin bir nesne algılama modeli eğit.
2. Puanla: Modeli etiketsiz havuzdaki örneklerde çalıştır ve her örneğe bilgilendiricilik puanı ver.
3. Sorgula: En yüksek puanlı grubu veri etiketleme için etiketleyicilere gönder.
4. Güncelle: Yeni etiketleri eğitim verilerine ekle ve modeli yeniden eğit.

Etiketleme bütçesi bittiğinde veya sabit bir doğrulama kümesindeki doğruluk artmayı bıraktığında döngü sona erer. Her turu, aynı sayıda rastgele seçilmiş etiketle eğitilen bir modelle karşılaştırmak, seçimin işe yarayıp yaramadığını gösterir.

Sorgu Stratejileri#

Sorgu stratejisi, neyin bilgilendirici sayılacağını belirler:

• Belirsizlik örneklemesi: Modelin en az emin olduğu örnekleri seçer. Bu, en yüksek puanlı sınıfın en düşük güven değeri, en yüksek puanlı iki sınıf arasındaki en küçük fark veya tahmin edilen sınıf dağılımının en yüksek entropisiyle ölçülebilir.
• Komiteye göre sorgulama: Birkaç model eğitir ve en çok fikir ayrılığı yaşadıkları örnekleri seçer. Monte Carlo dropout, tek bir ağdan düşük maliyetli bir komite oluşturur.
• Çeşitlilik örneklemesi: Bir grup art arda çekilmiş video karesi gibi birbirinin kopyası sayılabilecek örneklerle dolmasın diye, gömme uzayını kapsayan örnekleri seçer. Çekirdek küme yaklaşımı, toplu seçimde CNN'ler için birçok belirsizlik sezgisinin etkisiz olduğunu saptadıktan sonra grup seçimini bu şekilde ele alır.
• Hibrit stratejiler: Her iki sinyali birleştirir. BADGE, elle ayarlanmış ağırlıklar kullanmadan gradyan gömme uzayında hem belirsiz hem de çeşitli örnekleri seçer.

Algılayıcılar her görüntü için çok sayıda kutu üretir; bu nedenle kutu puanlarını görüntü başına tek bir puanda birleştirmek gerekir. Örneğin her algılamanın güven değeri ortalaması alınabilir. Aşağıdaki komut dosyası, önceden eğitilmiş bir YOLO26 modeliyle küçük bir havuzu ortalama algılama güvenine göre sıralar ve önce güvenin en düşük olduğu görüntüyü sorgular:

from ultralytics import YOLO

# Model trained on the current labeled set
model = YOLO("yolo26n.pt")

# Unlabeled pool, usually thousands of images
pool = ["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"]
results = model(pool, conf=0.1)

# Least-confidence sampling: score each image by its mean detection confidence
scores = {}
for image, result in zip(pool, results):
    if len(result.boxes):
        scores[image] = result.boxes.conf.mean().item()

# Query the lowest-scoring images first, within a labeling budget of one image
query = sorted(scores, key=scores.get)[:1]
print(f"Label next: {query}")

Düşük conf=0.1 eşiği, modelin emin olmadığı kutular oldukları için zayıf algılamaları puana dâhil eder. Ultralytics Platform içindeki açıklama düzenleyicisi, döngünün geri kalanını tamamlar: Akıllı modu kendi ince ayarlı YOLO modellerini yükler; böylece yeniden eğitilen her model, etiketleyicilerin düzeltmesi için sıradaki sorgulanan grubu önceden etiketler.

Uygulamadaki Tuzaklar#

• Soğuk başlangıç: Birkaç düzine örnekle eğitilen modelin belirsizlik puanları güvenilir değildir; bu nedenle ilk turlarda genellikle rastgele veya çeşitliliğe dayalı seçim yapılır.
• Tekrarlı gruplar: En belirsiz k görüntüyü birbirinden bağımsız seçmek, birbirine çok benzeyen görüntü kümelerinin gelmesine yol açar. Çeşitlilik ve hibrit stratejiler bu sorunu ele alır.
• Örnekleme yanlılığı: Zor örnekler aşırı temsil edildiği için etiketli küme gerçek veri dağılımından uzaklaşır. Puanların tarafsız kalması için doğrulama ve test kümeleri havuzun tamamından rastgele seçilir.
• Aykırı değerler: Bozuk, bulanık veya etki alanı dışındaki görüntüler her model için belirsiz görünür ve filtrelenmezlerse etiketleme bütçesini boşa harcayabilir.

Aktif Öğrenme ve İlgili Terimler#

• Yarı denetimli öğrenme: Etiketsiz verilerden de yararlanır; ancak belirsiz tahminler için bir kişiye danışmak yerine model, güven duyduğu tahminlere kendi sözde etiketlerini atar. Bu iki yaklaşım çoğu zaman birlikte kullanılır.
• Müfredat öğrenmesi: Eğitim sırasında önceden etiketlenmiş örnekleri kolaydan zora doğru sıralar. Aktif öğrenme ise hangi örneklerin etiketleneceğine karar verir.
• Zor negatif örnek madenciliği: Etiketlenmiş negatif örnekler arasından modelin en çok yanıldığı örnekleri seçer ve bunlarla daha fazla eğitim yapar. Mevcut etiketleri kullanır, yeni etiket eklemez.
• Veri çarkı: Dağıtımdaki modellerin bir sonraki modeli geliştiren yeni verileri ortaya çıkardığı üretim döngüsü. Aktif öğrenme, bu döngüde yaygın olarak kullanılan bir seçim adımıdır.