Distributionally Robust Optimization

Dağılımsal olarak sağlam optimizasyon (DRO), tek başına eğitim dağılımı yerine, makul veri dağılımlarından oluşan bir kümedeki en kötü dağılım altında beklenen kaybı en aza indiren bir eğitim ve karar verme yaklaşımıdır. Ampirik risk minimizasyonu (ERM) olarak bilinen standart eğitim, gelecekteki verilerin eğitim verilerine benzeyeceğini varsayar ve ortalama kaybı en aza indirir. DRO, gerçek verilerin sınırlandırılabilir biçimlerde farklı olacağını varsayar ve bu sınır içindeki en zor duruma göre optimizasyon yapar. Ortaya çıkan modeller, eğitim sırasında gündüz görüntüleri gece görüntülerinden çok daha fazla olan bir kamera gibi koşullar değiştiğinde daha istikrarlı performans karşılığında ortalama doğruluktan biraz ödün verir.

Belirsizlik Kümeleri#

DRO'nun güvence altına aldığı dağılımlar kümesine belirsizlik kümesi ya da kararsızlık kümesi denir; kümenin biçimi, modelin ne tür bir sağlamlık kazanacağını belirler:

• Iraksama topları: Eğitim verilerinden belirli bir KL veya ki-kare ıraksaması içinde kalan tüm dağılımları kapsar. Bu dağılımlara göre optimizasyon, en yüksek kayba sahip eğitim örneklerinin ağırlığını artırır; böylece model, en zor örneklerini görmezden gelemez. Koşullu riske maruz kalma adı verilen yakından ilişkili bir amaç, örnek başına kayıpların yalnızca en kötü bölümünün ortalamasını alır.
• Wasserstein topları: Girdi uzayında olasılık kütlesinin sınırlı bir mesafe taşınmasıyla erişilebilen dağılımları kapsar. Mesafe, ne kadar kütlenin ne kadar uzağa taşındığını ölçtüğünden bu kümeler girdilerin kendisindeki küçük bozulmaları kapsar.
• Grup karışımları: Gündüz ve gece görüntüleri ya da farklı hastanelerden alınan taramalar gibi bilinen alt popülasyonların her türlü yeniden ağırlıklandırmasını kapsar. Böylece en kötü durum, en kötü gruptan ibaret olur.

Wasserstein DRO, yakındaki en kötü durum girdilerine göre optimizasyon yapan hasmane saldırılara karşı hasmane eğitimle yakından ilişkilidir. Kümenin boyutu, DRO'nun temel hiperparametresidir: Büyük bir küme, modeli gerçekçi olmayan verilere hazırlar ve tipik doğruluğunu düşürür; küçük bir küme ise dağıtım sırasında önemli olan değişimleri kaçırır.

Grup DRO#

Shiori Sagawa, Pang Wei Koh, Tatsunori Hashimoto ve Percy Liang'ın 2020'de yayımlanan çalışmalarında tanıttığı Group DRO, derin öğrenmede en yaygın kullanılan biçimdir. Tüm örneklerdeki ortalama kayıp yerine performansı en kötü grubun kaybını en aza indirir. Uygulamada, gruptan gruba aktarılan bir ağırlık her grup için tutulur; o sırada en yüksek kayba sahip grupların ağırlığı artırılır ve grup ağırlıklı kayıp üzerinden geri yayılım yapılır:

import torch

# Per-image losses from one training batch and the condition each image came from
losses = torch.tensor([0.20, 0.30, 0.25, 0.90, 1.10, 0.15])
groups = torch.tensor([0, 0, 0, 1, 1, 0])  # 0 = daytime, 1 = nighttime
group_losses = torch.stack([losses[groups == g].mean() for g in (0, 1)])

# Empirical risk minimization optimizes the average loss over all images
print(f"ERM loss: {losses.mean():.2f}, daytime loss: {group_losses[0]:.2f}, nighttime loss: {group_losses[1]:.2f}")

# Group DRO shifts its group weights toward high-loss groups with an exponentiated-gradient step
group_weights = torch.tensor([0.5, 0.5])  # carried over from earlier batches
group_weights = group_weights * torch.exp(1.0 * group_losses)  # step size 1.0
group_weights = group_weights / group_weights.sum()
dro_loss = (group_weights * group_losses).sum()  # the loss that is backpropagated
print(f"Group weights: day {group_weights[0]:.2f}, night {group_weights[1]:.2f}, group DRO loss: {dro_loss:.2f}")

0,48'lik ortalama kayıp sağlıklı görünse de, gece görüntülerindeki ortalama kayıp 1,00 iken gündüz görüntülerinde bu değer 0,22'dir. Tek bir güncelleme, grup ağırlıklarını gündüz için 0,32'ye, gece için 0,68'e taşır; böylece geri yayılan kayıp 0,76'ya çıkar ve gradyanın büyük bölümü gece görüntülerinden gelir. Çok sayıda yığın boyunca ağırlık, geride kalan gruba doğru akmaya devam eder.

Group DRO, kestirme öğrenmeye doğrudan bir çözümdür. Waterbirds kıyaslamasında, eğitim su kuşlarının çoğu su arka planları önünde gösterildiğinden standart eğitim arka planı öğrenir ve kara üzerinde fotoğraflanan su kuşlarında başarısız olur. Güçlü düzenlileştirme kullanıldığında araştırmacılar, en kötü grup test doğruluğunu ERM'deki %21,3'ten grup DRO'da %84,6'ya çıkardı; ortalama doğruluk da %95,7'den %96,6'ya yükseldi. Düzenlileştirme önemlidir; çünkü büyük bir ağ her grubun eğitim kaybını sıfıra indirebilir ve DRO amacına öncelik verecek bir şey bırakmayabilir.

Group DRO, her eğitim örneğinin hangi grupta olduğunu bilmeyi gerektirir. Gruplar bilinmiyorsa bunların yerine ki-kare ıraksama topu kullanılabilir: Tatsunori Hashimoto ve çalışma arkadaşları, 2018'de böyle bir top üzerindeki en kötü durum kaybını en aza indirmenin, kime ait olduğu bilinmese bile yeterince büyük her alt popülasyonu koruduğunu gösterdi.

En Kötü Grupları Bulma#

Önemli gruplar çoğu zaman hatalardan keşfedilir. Kaydedilmiş bir veri kümesi sürümüyle eğitilmiş YOLO26 nesne algılama modelleri için Ultralytics Platform, doğrulama görüntülerini görüntü başına F1 skoruna göre sıralayan görüntü başına tanılamalar ekler; F1 ile görüntü boyutu, en-boy oranı ve örnek sayısı arasındaki ilişkiyi bulur ve en zayıf görüntülerde en sık görünen sınıfları listeler. Birlikte ele alındığında bu tanılamalar, tek bir ortalama kesinlik (mAP) değerini toplanabilecek, fazla örneklenebilecek veya ağırlıklandırılabilecek aday gruplara ayırır.

DRO'nun bilgisayarlı görünün çok ötesinde kullanım alanları da vardır:

• Alt popülasyonlar arasında adalet: Gruplar demografik özelliklere göre tanımlandığında, en kötü grubun kaybını en aza indirmek performans farklarını doğrudan azaltır.
• Gerçek dünyadaki dağılım kayması: Stanford'un WILDS kıyaslaması, farklı hastanelerden alınan doku görüntüleri ve farklı bölgelerden ve yıllardan alınan uydu görüntüleri gibi kaymalar karşısında modelleri test eder ve standart temel yöntemleri arasında grup DRO'ya da yer verir.
• Yöneylem araştırması: DRO; enerji şebekesi planlaması, tedarik zinciri planlaması ve portföy seçimi gibi alanlarda uygulanır. Bu alanlarda kararlar belirsiz talep veya fiyatlarla karşılaşır ve yalnızca geçmiş ortalamaya göre ayarlanmış bir plan, sıra dışı bir yılda ağır biçimde başarısız olabilir.

DRO, Veri Artırma ve Kayma İzleme#

Veri artırma ile DRO aynı probleme zıt yönlerden yaklaşır. Veri artırma, eğitim görüntülerinin sentetik çeşitlemeleriyle modelin gördüklerini genişletirken DRO, nadir ama gerçek çeşitlemelerin daha fazla ağırlık taşıması için amacı değiştirir. Bu yöntemler iyi birleşir: Veri artırma çeşitli örnekler sağlar, DRO amacı da bunların en zorlarının ortalamada kaybolmamasını sağlar. Alan uyarlama üçüncü bir yol izleyerek etiketlenmemiş verilerle bilinen tek bir hedef dağılıma uyum sağlar. Dağıtımdan sonra veri kaymasını izlemek, hiçbir belirsizlik kümesinin öngörmediği değişimleri ortaya çıkarır; bu yeni koşullar da toplanıp ağırlıklandırılacak sonraki gruplar hâline gelir.