Distributionally Robust Optimization

Dağılımsal dayanıklı optimizasyon (DRO), verisinin arkasındaki olasılık dağılımı belirsiz olduğunda bir modeli eğitmenin veya bir karar seçmenin bir yoludur. Yalnızca ortalama eğitim örneği için optimize etmek yerine, DRO bir dizi makul dağılımı dikkate alır ve bu setteki en zorlu koşul altında iyi performans gösteren bir çözüm arar. Sezgi pratiktir: Eğitim sırasında bir kamera gündüz görüntüsünü gece görüntüsünden çok daha fazla görürse, güçlü bir ortalama performans karanlıktan sonraki zayıf sonuçları gizleyebilir.

Dağılımsal Dayanıklı Optimizasyon Nasıl Çalışır?#

Sıradan eğitim beklenen kaybı en aza indirir: varsayılan bir veri dağılımı altında tahmin hataları için ortalama ceza. DRO'da, bilinmeyen gerçek dünyadaki dağılım, mevcut veriler göz önüne alındığında makul kabul edilen bir dağılım koleksiyonu olan bir belirsizlik kümesi ile temsil edilir. Eğitim daha sonra bu setteki dağılımlar arasındaki en yüksek beklenen kaybı en aza indirir. Bu, bir modelin karşılaşabileceği her değişikliğe karşı değil, belirtilen belirsizlik türlerine karşı koruma sağlar.

Belirsizlik kümesi "dayanıklı" kelimesinin ne anlama geldiğini belirler. Gece görüntüleri gündüz görüntülerinden daha fazla olmak gibi bilinen grupların oranlarının değişmesine izin verebilir. Alternatif olarak, gözlemlenen dağılımın seçilen bir istatistiksel mesafesi içindeki dağılımları içerebilir. Bir Wasserstein mesafesi, kabaca, bir dağılımı diğerine dönüştürmek için ne kadar olasılık kütlesinin ne kadar ve ne kadar uzağa hareket etmesi gerektiğini ölçer; SciPy’s Wasserstein distance documentation sezgisel bir tek boyutlu açıklama verir. Verilerden belirsizlik tanımları oluşturma konusunda daha fazla bağlam Cornell guide to data-driven robust optimization tarafından sağlanır.

Daha büyük bir belirsizlik kümesi daha fazla varyasyona hazırlanır ancak tipik koşullar altında performanstan ödün verebilir. Çok küçük bir küme ise önemli olan değişimleri kaçırabilir. Kapsamını seçmek bu nedenle yalnızca uygun bir matematiksel ortamı değil, muhtemel dağıtım koşullarının bilinmesini gerektirir.

DRO İlgili Yaklaşımlardan Nasıl Farklıdır?#

DRO iki tanıdık fikrin arasında yer alır. Geleneksel robust optimization, belirli bir uç girdiyi en kötü durum olarak potansiyel olarak ele alarak belirsiz girdilerin zorlu değerlerine hazırlanır. DRO bunun yerine en kötü makul olasılık dağılımı altındaki beklenen sonucu dikkate alır. Sıradan ampirik eğitim ise gözlemlenen dağılımı ortalama kayıpsızlığının temel taşı olarak ele alır.

Ayrıca data augmentation uygulamasından da farklıdır. Artırma, daha koyu veya döndürülmüş görüntüler gibi değiştirilmiş eğitim örnekleri oluşturur; kendi başına bir belirsizlik kümesi üzerinde optimize etmez. Bu varyasyonlar makul bir şekilde dağıtım koşullarını temsil ettiğinde DRO, artırmayı tamamlayabilir. Benzer şekilde, data drift zaman içinde verilerde gözlenen bir değişikliği tanımlar. DRO dağıtımdan önce seçilen değişiklikleri öngörürken, sapma izleme sonrasında aslında ne olduğunu kontrol eder. Hiçbir yaklaşım diğerinin yerini almaz.

Bilgisayarlı Görüde Neden Önemlidir?#

Araçları ve yayaları tanımlayan bir yol kamerası object detection sistemini ele alalım. Görüntülerine net gündüz sahneleri hakim olabilirken, yağmurlu geceler nadir ancak önemlidir. Bir DRO hedefi, belgelenmiş aydınlatma ve hava koşullarının farklı karışımlarını makul olarak ele alabilir ve bir modelin zorlu koşulları ihmal ederek iyi bir genel puan elde etmesini caydırabilir. Ancak, hem verilerden hem de seçilen belirsizlik kümesinden uzak tehlikelerin tanınmasını garanti edemez.

manufacturing defect detection sürecinde kameralar ve aydınlatma üretim hatları arasında değişiklik gösterebilir. Yalnızca ortalama denetim doğruluğuyla seçilen bir model, daha az temsil edilen bir hattan kaynaklanan kusurları kaçırabilir. Bu hatlar grup olarak tanımlanırsa, grup tabanlı dayanıklı bir hedef, oranları eğitim örneğinden farklı olduğunda performansı vurgulayabilir. Bu, dataset bias ile ilgilidir, ancak DRO yanlış etiketleri onarmaz veya asla kaydedilmemiş kusur örnekleri oluşturmaz.

Her iki uygulama için de, yeni sitelere aktarımı değerlendirirken aynı kameradan veya siteden ilgili görüntüleri bir arada tut. Group-aware cross-validation, hem eğitim hem de doğrulama verilerinde neredeyse aynı sahneler göründüğü için güçlü görünen bir değerlendirmeden kaçınmaya yardımcı olur.

Pratik Bir Ultralytics İş Akışı#

Mantıklı bir başlangıç noktası, özel bir DRO hedefini dikkate almadan önce olağan bir eğitim ve doğrulama taban çizgisi oluşturmaktır. Belgelenen Ultralytics YOLO26 training workflow, yerleşik COCO8 gösterim veri kümesini kullanan bu kısa örneği destekler:

from ultralytics import YOLO

# Load pretrained detection weights.
model = YOLO("yolo26n.pt")

# Train a small baseline on the built-in example dataset.
model.train(data="coco8.yaml", epochs=3)

# Evaluate on the dataset's validation split.
metrics = model.val(data="coco8.yaml")
print(metrics.box.map)

Çıktı, bir DRO puanı veya dayanıklılığın kanıtı değil, genel algılama ortalama duyarlılığıdır (mAP). COCO8, gerçek dağıtım koşullarında performansı tahmin etmek için değil, iş akışını uygulamak için kullanışlıdır. Gerçek bir proje için, temsili, ayrı ayrı etiketlenmiş koşullar hazırlayın; ilgili her bir ayrı tutulan sette YOLO validation mode kullanın ve hem genel hem de koşula özel sonuçları karşılaştırın.

Gerçek bir DRO hedefi uygulamak, belirsizlik kümesini tanımlamayı ve eğitim kaybının nasıl optimize edildiğini değiştirmeyi gerektirir. Belgelenen custom trainer workflow uzantı noktaları sunar, ancak yukarıdaki taban çizgisi kodu DRO uygulamaz. Bulut açıklamasını, eğitimini ve dağıtımını yöneten ekipler, bu daha geniş iş akışını organize etmek için Ultralytics Platform kullanabilir.

Doğru Korumayı Seçme ve Kontrol Etme#

Somut bir soruyla başla: Hangi kaymalar makul ve hangi hatalara neden olurlar? İlgili kameralardan, sitelerden veya koşullardan örnekler topla; bağımsız test gruplarını koru; ve en kötü koşul sonuçlarını ortalamanın yanında karşılaştır. Google’s guidance on generalization neden temsil etmeyen bir eğitim setinin yanıltabileceğini açıklarken, NIST AI Risk Management Framework’s measurement guidance bağlama uygun değerlendirmeyi vurgular.

Dağıtımdan sonra monitor changes between training and serving data. DRO, belirsizlik kümesi güvenilir belirsizliği yansıttığında en faydalıdır; sağlam veri toplamanın, dikkatli değerlendirmenin veya sürekli izlemenin yerini almaz.