Etiket Düzeltme

Etiket Düzeltme, özellikle sınıflandırma görevlerinde, makine öğrenimi modellerinin eğitimi sırasında kullanılan bir düzenlileştirme tekniğidir. Modelin doğru sınıfa 1.0 tam olasılığını atamasını engelleyerek modelin aşırı güven sorununu ele alır. Etiket Düzeltme, "sert" etiketler (doğru sınıfın 1 ve diğerlerinin 0 olduğu) kullanmak yerine, olasılık kütlesinin küçük bir bölümünü diğer sınıflara dağıtan "yumuşak" etiketler oluşturur. Bu, modeli tahminleri konusunda daha az emin olmaya teşvik eder, bu da daha iyi genellemeye ve görülmemiş veriler üzerinde gelişmiş performansa yol açabilir. Bu teknik, yüksek performanslı modellerde dikkat çekici bir şekilde kullanılmıştır ve Etiket Düzeltme Ne Zaman Yardımcı Olur? gibi makalelerde ayrıntılı olarak açıklanmıştır.

Etiket Düzeltme Nasıl Çalışır

Tipik bir denetimli öğrenme sınıflandırma probleminde, eğitim verileri, girdilerden ve bunlara karşılık gelen doğru etiketlerden oluşur. Örneğin, bir görüntü sınıflandırma görevinde, bir kedi resmi, [kedi, köpek, kuş] sınıfları için tek sıcak kodlanmış bir vektör gibi "kedi" etiketine sahip olacaktır. Kayıp fonksiyonu hesaplanırken, modelin tahmini bu kesin hedeften ne kadar uzak olduğuna bağlı olarak cezalandırılır.

Etiket Düzeltme bu hedefi değiştirir. Doğru sınıf için hedef olasılığı biraz azaltır (örneğin, 0.9'a) ve kalan küçük olasılığı (bu durumda 0.1) yanlış sınıflar arasında eşit olarak dağıtır. Yani, yeni "yumuşak" hedef [0.9, 0.05, 0.05] gibi görünebilir. Bu küçük değişiklik, bir sinir ağının son logit katmanını bir sınıf için aşırı büyük değerler üretmekten caydırır, bu da aşırı öğrenmeyi önlemeye yardımcı olur. Bu süreç, Ultralytics HUB gibi platformlar kullanılarak model eğitimi sırasında yönetilebilir.

Etiket Düzeltmenin (Label Smoothing) Faydaları

Etiket Düzeltmenin temel avantajı, model kalibrasyonunu iyileştirmesidir. İyi kalibre edilmiş bir modelin tahmin edilen güvenilirlik puanları, doğruluk olasılığını daha doğru bir şekilde yansıtır. Bu, modelin kesinliğinin anlaşılmasının önemli olduğu tıbbi görüntü analizi gibi uygulamalar için çok önemlidir. Aşırı güveni önleyerek, herhangi bir makine öğrenimi projesinin temel hedefi olan modelin yeni verilere genelleme yeteneğini de geliştirir. Bu genellikle doğrulukta hafif bir artışla sonuçlanır. Daha iyi genelleme, gerçek zamanlı çıkarım ve nihai model dağıtımı için daha sağlam modellere yol açar.

Gerçek Dünya Uygulamaları

Etiket Düzeltme, çeşitli son teknoloji modellerde uygulanan basit ama etkili bir tekniktir.

1. Büyük Ölçekli Görüntü Sınıflandırması: ImageNet gibi büyük veri kümelerinde görüntü sınıflandırma görevleri için eğitilmiş Ultralytics YOLO gibi modeller genellikle Etiket Düzeltme kullanır. Bu veri kümeleri bazen veri etiketleme işleminden gelen gürültülü veya yanlış etiketler içerebilir. Etiket Düzeltme, modeli bu etiket gürültüsüne karşı daha sağlam hale getirir ve potansiyel olarak yanlış etiketler hakkında aşırı derecede kendinden emin olmayı öğrenmesini engeller. Projeleriniz için çeşitli sınıflandırma veri kümelerini keşfedebilirsiniz.
2. Doğal Dil İşleme (DDİ): Makine çevirisi gibi görevlerde, tek bir ifade için birden çok geçerli çeviri olabilir. Transformer gibi modellerde kullanılan Etiket Düzeltme (Label Smoothing), modelin kelime dağarcığında tek bir doğru kelimeye 1.0 olasılık atamasını engelleyerek, diğer kelimelerin de uygun olabileceğini kabul eder. Bu kavram, modern DDİ'de temeldir ve Stanford DDİ Grubu gibi kurumlardan gelen kaynaklarda tartışılmaktadır.

Etiket Düzeltme ve İlgili Kavramlar

Etiket Düzleştirmeyi (Label Smoothing) diğer düzenlileştirme tekniklerinden ayırmak önemlidir.

• Kesin Etiketler: Bu, modelin mutlak kesinlikle (doğru sınıf için %100) eğitildiği standart yaklaşımdır. Etiket Düzeltme, buna doğrudan bir alternatiftir.
• Veri Artırımı (Data Augmentation): Bu, mevcut verilere dönüşümler uygulayarak yeni eğitim örnekleri oluşturan başka bir düzenlileştirme tekniğidir. Veri kümesi çeşitliliğini artırırken, Etiket Düzeltme (Label Smoothing) hedef değerlerin kendilerini değiştirir. Ultralytics belgeleri içinde YOLO veri artırma kılavuzlarını bulabilirsiniz.
• Dropout: Bu yöntem, karmaşık ortak uyumları önlemek için her eğitim adımında nöronların bir kısmını rastgele devre dışı bırakır. Etiket Düzeltme (Label Smoothing) kayıp hesaplamasını değiştirirken, bu yöntem eğitim sırasında modelin mimarisini değiştirir. Dropout hakkında daha derinlemesine bir inceleme GeeksforGeeks'in konuyla ilgili makalesinde bulunabilir.
• Bilgi Damıtımı (Knowledge Distillation): Bu teknikte, daha küçük bir "öğrenci" modeli, daha büyük, önceden eğitilmiş bir "öğretmen" model tarafından üretilen yumuşak etiketler kullanılarak eğitilir. Yumuşak etiketleri kullanmasına rağmen, bu etiketlerin kaynağı, Etiket Düzeltme'de olduğu gibi, gerçek etiketlere uygulanan basit bir sezgisel yöntem değil, başka bir modelin tahminleridir. Orijinal Bir Sinir Ağında Bilgiyi Damıtmak makalesi bu kavramın temel bir anlayışını sunar.