Focal Loss

Focal Loss, ciddi sınıf dengesizliği sorununu çözmek için öncelikle derin öğrenmede kullanılan özelleşmiş bir amaç fonksiyonudur. Nesne tespiti gibi birçok bilgisayarlı görü görevinde, arka plan örneklerinin sayısı (negatif örnekler), ilgi çekici nesnelerden (pozitif örnekler) önemli ölçüde fazladır. Yaygın olarak kullanılan Cross-Entropy Loss gibi standart yöntemler tüm hatalara eşit davranır ve bu durum genellikle modelin, sınıflandırılması kolay arka plan verilerinin saf hacmi altında ezilmesine neden olur. Focal Loss, bu kolay örneklerin ağırlığını azaltmak için standart kayıp hesaplamasını değiştirerek optimization algorithm bileşenini öğrenme kapasitesini "zor" örneklere (model performansı için çok önemli olan nadir ve sınıflandırılması zor nesnelere) odaklanmaya zorlar.

Odaklanma Mekanizması#

Focal Loss'un temel yeniliği, modelin güvenine dayanarak her örneğe atanan cezayı dinamik olarak ölçeklendirme yeteneğinde yatar. Tipik bir supervised learning senaryosunda, bir dedektör bir görüntüdeki binlerce aday konumu değerlendirebilir. Bu konumların çoğunda nesne bulunmadığından, standart bir loss function bu kolay negatiflerden birçok küçük hata sinyali toplar ve bu sinyaller birkaç pozitif örneğin değerli sinyalini bastırabilir.

Focal Loss, doğru sınıfa olan güven arttıkça kayıp katkısını azaltan bir modülasyon faktörü sunar. Bu, bir modelin arka plan yamasının gerçekten arka plan olduğundan halihazırda %99 emin olması durumunda, o yama için kaybın sıfıra yakın bir seviyeye düşürüldüğü anlamına gelir. Sonuç olarak, model weights öncelikli olarak yanlış sınıflandırılmış örnekler veya modelin belirsiz olduğu örnekler temel alınarak güncellenir. Bu hedefli yaklaşım, YOLO26 gibi one-stage object detectors modellerini karmaşık örnekleme aşamalarına gerek kalmadan yüksek doğruluk elde edecek şekilde eğitmek için esastır.

Gerçek Dünya Uygulamaları#

Dengesiz training data verilerini yönetmek, güvenlik ve hassasiyetin çok önemli olduğu ortamlarda güvenilir yapay zeka sistemleri devreye sokmak için kritik önem taşır.

• AI in Healthcare: medical image analysis gibi alanlarda, patolojileri tanımlamak genellikle samanlıkta iğne aramaya benzer. Örneğin, küçük lezyonlar aranan bir MR taramasında, sağlıklı doku piksellerin %99'undan fazlasını oluşturabilir. Standart bir model her yerde "sağlıklı" tahmini yaparak basit doğruluğu en üst düzeye çıkarabilir ve kritik teşhisi kaçırabilir. Focal Loss, sistemin bol miktardaki sağlıklı dokudan gelen sinyali bastırmasını ve anormalliklerin ince özelliklerini öğrenmeye öncelik vermesini sağlayarak hayat kurtaran tespitler için recall oranını artırır.
• Autonomous Vehicles: Sürücüsüz arabalar için algılama sistemleri; binalar, yollar ve gökyüzünden oluşan karmaşık arka planlar önünde yayalar veya bisikletliler gibi savunmasız yol kullanıcılarını tespit etmelidir. Arka planın öğrenilmesi kolay olsa da küçük veya uzak engeller önemli bir zorluk oluşturur. Focal Loss kullanarak AI in automotive uygulamaları, algılama yığınının tespiti zor bu nesneleri göz ardı etmemesini sağlayabilir ve tehlikeler görsel alanın yalnızca çok küçük bir kısmını kaplasa bile güvenlik standartlarını korur.

Ultralytics ile Uygulama#

ultralytics kütüphanesi, son teknoloji modelleri desteklemek için gelişmiş kayıp fonksiyonlarının optimize edilmiş uygulamalarını içerir. Ultralytics Platform en iyi eğitim için bu hiperparametreleri otomatik olarak yapılandırırken, geliştiriciler özel araştırmalar için bu bileşenlere doğrudan da erişebilir.

Aşağıdaki örnek, ultralytics yardımcı paketini kullanarak Focal Loss'un nasıl başlatılacağını ve bir tahmin seti için hatanın nasıl hesaplanacağını göstermektedir.

import torch
from ultralytics.utils.loss import FocalLoss

# Initialize Focal Loss.
# The 'gamma' parameter controls the focusing strength (higher = more focus on hard examples).
criterion = FocalLoss(gamma=1.5)

# Example: Model predictions (logits) and binary Ground Truth labels
# requires_grad=True simulates model outputs that need backpropagation
predictions = torch.tensor([[0.8], [-1.5], [0.1]], requires_grad=True)
targets = torch.tensor([[1.0], [0.0], [1.0]])

# Calculate the loss value
loss = criterion(predictions, targets)
print(f"Computed Focal Loss: {loss.item():.4f}")

İlgili Kavramlardan Ayrımı#

Focal Loss'un daha geniş hata ölçümü yelpazesinde nerede yer aldığını anlamak, belirli bilgisayarlı görü görevleri için doğru stratejiyi seçmeye yardımcı olur.

• Focal Loss vs. Cross-Entropy Loss: Cross-Entropy, tahminleri logaritmik hataya göre cezalandıran, sınıflandırma için temel metriktir. Focal Loss kesinlikle Cross-Entropy'nin bir uzantısıdır; odaklanma parametresi sıfıra ayarlanırsa matematiksel olarak standart Cross-Entropy'ye geri döner. Temel fark, Focal Loss'un kolay negatiflerin ağırlığını otomatik olarak azaltma yeteneğidir ve bu da onu COCO gibi dengesiz veri setleri için üstün kılar.
• Focal Loss vs. IoU Loss: Focal Loss sınıflandırma için tasarlanmışken (bir nesnenin ne olduğunu belirleme), IoU Loss yerelleştirme için kullanılır (bir nesnenin nerede olduğunu belirleme). Modern dedektörler, sınıf olasılıkları için Focal Loss ile bounding box regresyonu için IoU tabanlı metrikleri birleştiren bileşik bir kayıp fonksiyonu kullanır.
• Focal Loss vs. Dice Loss: Dice Loss, özellikle image segmentation görevlerinde dengesizliği ele almak için kullanılan başka bir tekniktir. Focal Loss güvene dayalı olarak bireysel pikseller veya örnekler üzerinde çalışırken, Dice Loss tahmin edilen ve gerçek zemin (ground truth) bölgeleri arasındaki örtüşmeyi küresel olarak optimize eder. Her ikisinin de karmaşık segmentation workflows içinde birlikte kullanılması yaygındır.