Odak Kaybı

Odak Kaybı, makinede aşırı sınıf dengesizliği sorununu ele almak için tasarlanmış özel bir amaç fonksiyonudur öğrenme eğitimi, özellikle de bilgisayarla görme alanında. Birçok nesne algılama senaryosunda, nesne sayısı Arka plan örnekleri (negatifler), ilgilenilen nesnelerin (pozitifler) sayısını çok aşar. Standart kayıp fonksiyonları classify kolay olan bu arka plan örneklerinin çokluğu karşısında bunalır ve modelin daha zor, olumlu örnekleri öğrenir. Odak Kaybı, kaybı dinamik olarak ölçeklendirerek bu durumu hafifletir. Tahminin güvenirliği, kolay örnekleri etkili bir şekilde aşağı ağırlıklandırır ve modeli eğitimine odaklanmaya zorlar sert negatifler ve yanlış sınıflandırılmış nesneler üzerindeki çabalar.

Sınıf Dengesizliğinin Ele Alınması

Odak Kaybının arkasındaki birincil motivasyon gibi tek aşamalı nesne dedektörleri RetinaNet'in ilk sürümleri ve modern mimariler gibi Ultralytics YOLO11. Bu sistemlerde, dedektör bir görüntü ve binlerce aday konum üretir. Bir görüntünün çoğu genellikle arka plan olduğu için arka plan-nesne oranı genellikle 1000:1 veya daha yüksek olabilir.

Müdahale edilmediği takdirde, çok sayıda arka plan örneğinden kaynaklanan küçük hataların kümülatif etkisi sırasında gradyan güncellemelerine hakimdir. geriye yayılım. Bu neden olur basitçe önceliklendirmek için optimizasyon algoritması nüanslı özelliklerini öğrenmek yerine, genel hatayı en aza indirmek için her şeyi arka plan olarak sınıflandırmak gerçek nesneler. Odak Kaybı, modelin halihazırda sahip olduğu örneklerin cezasını azaltmak için standart kayıp eğrisini yeniden şekillendirir hakkında emin olmak, böylece Zorlu vakaları ayarlamak için model ağırlıkları.

Mekanizma ve İşlevsellik

Odak Kaybı standardın bir uzantısıdır İkili sınıflandırmada kullanılan Çapraz Entropi Kaybı. Bu doğru sınıfa olan güven arttıkça kayıp katkısını azaltan bir modülasyon faktörü getirmektedir. Bir model "kolay" bir örnekle karşılaştığında - örneğin doğru olarak tanımladığı açık bir gökyüzü parçası gibi yüksek olasılıkla arka plan - modüle edici faktör kaybı sıfıra yaklaştırır. Tersine, "zor" için Modelin tahmininin yanlış veya belirsiz olduğu örneklerde kayıp önemli olmaya devam etmektedir.

Bu davranış, genellikle gama olarak gösterilen bir odaklama parametresi tarafından kontrol edilir. Veri bilimciler bu parametreyi ayarlayarak kayıp fonksiyonunun iyi sınıflandırılmış örneklere ne kadar agresif bir şekilde ağırlık vereceğini ayarlayabilir. Bu, daha istikrarlı bir oldukça dengesiz eğitim verileri üzerinde eğitim, lider nadir sınıflar için daha yüksek doğruluk ve geri çağırma.

Gerçek Dünya Uygulamaları

Dengesizlikle başa çıkma yeteneği, Focal Loss'u güvenlik açısından kritik ve yüksek hassasiyetli ortamlarda gerekli kılar.

• Otonom Sürüş: Bu bağlamda otonom araçlar, bir görüş sistemi şunları yapmalıdır yayaları, bisikletlileri ve trafik işaretlerini detect eder. Tipik bir video akışında, piksellerin büyük çoğunluğu yol, gökyüzü veya binalar, kritik engeller ise seyrek olarak görünür. Odak Kaybı, algı sisteminin aşağıdakileri göz ardı etmesine yardımcı olur bol miktarda yol yüzeyi verisi ve potansiyel olarak tehlikeli durumları belirlemeye odaklanmak seyrek olarak görünen dinamik nesneler ancak için yüksek önem taşımaktadır. Otomotiv çözümlerinde yapay zeka.
• Tıbbi Teşhis: İçinde tıbbi görüntü analizi, tanımlama Tümör veya kırık gibi anomaliler, klasik bir samanlıkta iğne aramak sorunudur. Sağlıklı bir beyin taraması neredeyse tamamen sağlıklı dokudan oluşur ve tümör hacmin çok küçük bir kısmını kaplar. Odak Kaybının Kullanılması Sağlık hizmetlerinde yapay zeka modelleri az sayıdaki kişiden öğrenecek Patolojiyi temsil eden pikseller, çok sayıda sağlıklı doku tarafından önyargılı hale getirilmeden teşhis araçlarının hassasiyeti.

Ultralytics ile Uygulama

Bu ultralytics kütüphanesi, Focal Loss'un kolayca entegre edilebilen sağlam bir uygulamasını sağlar özel eğitim boru hatları. Aşağıdaki örnekte kayıp fonksiyonunun nasıl başlatılacağı ve Tahmin logitleri ve temel gerçek etiketleri arasındaki hata.

import torch
from ultralytics.utils.loss import FocalLoss

# Initialize Focal Loss with a gamma of 1.5
criterion = FocalLoss(gamma=1.5)

# Example: Prediction logits (before activation) and Ground Truth labels (0 or 1)
preds = torch.tensor([[0.1], [2.5], [-1.0]], requires_grad=True)
targets = torch.tensor([[0.0], [1.0], [1.0]])

# Compute the loss
loss = criterion(preds, targets)
print(f"Focal Loss value: {loss.item():.4f}")

Diğer Kavramlarla İlişkisi

Odak Kaybını, kayıp fonksiyonu alanındaki ilgili terimlerden ayırmak faydalı olacaktır:

• Odak Kaybı ve Çapraz Antropi: Çapraz Antropi Kaybı tüm örneklere eşit davranan temel işlev. Odak Kaybı, Çapraz Entropi'ye şu özellikleri ekleyerek sıkı sıkıya bağlıdır dengesizliği gidermek için modüle edici faktör. Odaklama parametresi (gama) 0 olarak ayarlanırsa, Odak Kaybı etkili bir şekilde standart Çapraz Entropi'ye geri döner.
• Odak Kaybı ve IoU Kay bı: Odak Kaybı sınıflandırmayı ele alırken (nesne nedir?), gibi fonksiyonlar Birlik Üzerinden Kesişim (IoU) ve varyantlarıGIoU, CIoU) lokalizasyonu (nesne nerede?) ele alır. Gibi modern dedektörler YOLO11 tipik olarak bileşik bir kayıp fonksiyonu kullanarak Sınıf tahmini için Odak Kaybı ve sınıf tahmini için IoU kaybı sınırlayıcı kutu regresyonu.
• Odak Kaybı ve Varifokal Kayıp: Varifokal Kayıp bir pozitif ve negatif örnekleri asimetrik olarak ele alan daha ileri bir evrim. IoU skorunu olumlu ve olumsuz yönleri tartmak için kullanır. Örnekler, daha yüksek lokalizasyon doğruluğuna sahip olanlara öncelik verirken, standart Odak Kaybı tüm pozitifleri ele alır Aynı şekilde.