MixUp
MixUp, aşırı öğrenmeyi azaltmak için eğitim örneklerini ve bunların hedeflerini harmanlar. Sınıflandırma için yumuşak sınıf etiketleri oluşturur ve tespit için kutuları korur.
MixUp, iki eğitim örneğini tek bir örnekte harmanlayan ve hedeflerini birleştiren bir veri artırma tekniğidir. Görüntü sınıflandırmada aynı oran her iki harmanlama için de kullanılır: Bir görüntü piksel harmanlamasının %70'ini oluşturuyorsa, o görüntünün sınıfı hedef ağırlığının %70'ini alır. Bu ara örneklerle eğitim, modelin tahminlerinin örnekler arasında kademeli olarak değişmesini teşvik eder.
MixUp Nasıl Çalışır#
Standart MixUp, alpha ile parametreleştirilmiş simetrik bir Beta dağılımından sıfır ile bir arasında bir ağırlık seçer. Değer 1'in altındaysa seçimler uç değerlere eğilimlidir; bu nedenle genellikle bir görüntü baskın olur. Değer 1 olduğunda, eşit genişlikteki aralıkların seçilme olasılığı eşittir. Değer 1'in üzerindeyse seçimler 0,5 çevresinde yoğunlaşarak daha dengeli harmanlamalar oluşturur. Harmanlama oranı, her örneğin katkı miktarını belirler; varsa ayrı bir uygulama olasılığı, dönüşümün ne sıklıkla çalışacağını belirler.
Hongyi Zhang, Moustapha Cissé, Yann N. Dauphin ve David Lopez-Paz, bu tekniği ilk olarak 2017'de yayımlanan ve ICLR 2018'de sunulan mixup: Ampirik Risk Minimizasyonunun Ötesinde çalışmasında tanıttı. Ön etkinleştirmeli bir ResNet-18 ve 0.0001 ağırlık azaltma kullanılan 200 epokluk CIFAR-10 deneylerinde, alpha=1 ile MixUp, son 10 epoktaki medyan test hatasını %5,53'ten %4,24'e düşürdü.
Görüntü Sınıflandırma için MixUp#
Bir görüntü sınıflandırma etiketi genellikle tam sayı sınıf kimliği olarak saklanır. MixUp bunun yerine sınıf vektörlerini birleştirir: Görüntüler farklı sınıflardan geldiğinde sonuç, toplamı bire eşit iki ağırlıktan oluşan bir yumuşak hedef olur. Her iki görüntü de aynı sınıfa ait olduğunda, o sınıf tam ağırlığını korur. Çapraz entropi kaybı ile yumuşak hedefi kullanmak, aynı harmanlanmış görüntü tahminine karşı her özgün etiket için kaybı hesaplayıp iki kaybın ağırlıklı toplamını almaya eşdeğerdir.
Torchvision'ın toplu MixUp dönüşümü, bir toplu iş genelinde ortak bir harmanlama ağırlığı uygular. Örnekte, scikit-image'ın örnek koleksiyonundaki kedi ve kahve görüntüleri kullanılır.
import torch
from skimage import data
from torchvision.transforms import v2
resize = v2.Resize((128, 128))
to_image = v2.ToImage()
cat = resize(to_image(data.chelsea()))
coffee = resize(to_image(data.coffee()))
images = torch.stack((cat, coffee)).float() / 255
labels = torch.tensor([0, 1])
mixup = v2.MixUp(alpha=1.0, num_classes=2)
mixed_images, mixed_targets = mixup(images, labels)
print(mixed_targets)Yazdırılan her satır, harmanlanmış bir görüntü için kedi ve kahve ağırlıklarını gösterir. Bu toplu işte dönüşüm iki görüntünün rollerini tersine çevirdiğinden, ağırlıklar satırlar arasında yer değiştirir.
Nesne Tespiti Harmanlanmış Etiketleri Nasıl Ele Alır#
Bir nesne tespiti hedefi, her nesne için bir sınırlayıcı kutu ve bir sınıf içerir. İki kutunun ortalamasını almak, ortaya çıkan kutuyu nesnelerin arasına yerleştirebilir. Ultralytics YOLO'nun MixUp dönüşümü, görüntüleri harmanlarken her iki kutu kümesini ve sınıf kimliklerini ayrı hedefler olarak korur. mixup ayarı, dönüşümün ne sıklıkla çalışacağını belirler ve varsayılan değeri 0.0'tür; piksel oranı Beta(32, 32) dağılımından ayrı olarak örneklenir ve neredeyse dengeli harmanlamalar elde edilir. Ayrıca close_mosaic eğitim kesim noktası devreye girdiğinde MixUp'ı kapatır.
MixUp Diğer Artırma Yöntemleriyle Nasıl Karşılaştırılır#
MixUp, modelin aksi takdirde ezberleyebileceği örnek bileşimleri üzerinde eğitim yaparak düzenlileştirme sağlar. Tam görüntü harmanlama, üçüncü bir sınıfı andıran örüntüler de oluşturabilir. Bir MNIST deneyinde, el yazısıyla yazılmış 1 ve 5 rakamlarının harmanı 8'e benziyordu; oysa hedef, 1'e %53 ve 5'e %47 ağırlık veriyordu. Böylece görüntü, hedef ağırlığı sıfır olan bir sınıfa ilişkin görsel kanıt sundu.
- CutMix, dikdörtgen bir bölgeyi başka bir görüntüden alınan yamayla değiştirir. Sınıflandırmada hedef ağırlıkları, her görüntünün katkıda bulunduğu alanı izler.
- Mosaic, birden çok görüntüyü tek bir tuval üzerinde düzenler ve açıklamalarını yeni yerleşime göre yeniden eşler.
- Etiket yumuşatma, girdiyi değiştirmeden hedef ağırlığının bir kısmını sınıflar arasında yeniden dağıtır.
Manifold Mixup, interpolasyonu ham girdilerden ağın gizli katmanlarından birine taşır. Gizli aktivasyonlar ve sınıf hedefleri için yine aynı harmanlama ağırlığını kullanır.














