Distributionally Robust Optimization

L’ottimizzazione robusta distribuzionale (DRO) è un approccio all’addestramento e al processo decisionale che minimizza la perdita attesa rispetto alla distribuzione peggiore di un insieme di distribuzioni dei dati plausibili, anziché considerare soltanto la distribuzione di addestramento. L’addestramento standard, noto come minimizzazione del rischio empirico (ERM), presume che i dati futuri assomiglino ai dati di addestramento e minimizza la perdita media. DRO presume che i dati reali differiscano entro limiti definiti e ottimizza per il caso più difficile all’interno di tali limiti. I modelli risultanti rinunciano a una piccola parte dell’accuratezza media per mantenere prestazioni più stabili al variare delle condizioni, per esempio quando durante l’addestramento una fotocamera ha acquisito molti più filmati diurni che notturni.

Insiemi di ambiguità#

L'insieme di distribuzioni contro cui la DRO protegge si chiama insieme di ambiguità, o insieme di incertezza, e la sua forma determina il tipo di robustezza che il modello acquisisce:

• Sfere di divergenza: Contengono ogni distribuzione entro una divergenza KL o chi quadrato fissa dai dati di addestramento. Ottimizzare rispetto a queste sfere aumenta il peso degli esempi di addestramento con la perdita più alta, così il modello non può ignorare i campioni più difficili. Un obiettivo strettamente correlato, il valore condizionale a rischio, calcola la media solo sulla frazione peggiore delle perdite per esempio.
• Sfere di Wasserstein: Contengono distribuzioni ottenibili spostando una quantità limitata di massa di probabilità nello spazio degli input. Poiché la distanza misura quanta massa viene spostata e di quanto, questi insiemi includono piccole perturbazioni degli input stessi.
• Miscele di gruppi: Contengono qualsiasi ripesatura di sottopopolazioni note, come immagini diurne e notturne o scansioni provenienti da ospedali diversi. Il caso peggiore corrisponde quindi semplicemente al gruppo peggiore.

La DRO di Wasserstein è strettamente legata all’addestramento avversario contro gli attacchi avversari, che ottimizza anch’esso per gli input vicini nel caso peggiore. La dimensione dell’insieme è il principale iperparametro della DRO: un insieme ampio prepara il modello a dati irrealistici e riduce la sua accuratezza tipica, mentre uno piccolo non coglie i cambiamenti importanti in fase di distribuzione.

Group DRO#

La DRO di gruppo, introdotta da Shiori Sagawa, Pang Wei Koh, Tatsunori Hashimoto e Percy Liang in un lavoro pubblicato nel 2020, è la forma più utilizzata nel deep learning. Minimizza la perdita del gruppo con le prestazioni peggiori, anziché la perdita media su tutti gli esempi. In pratica, mantiene un peso per ciascun gruppo, aggiornato da un batch all’altro, aumenta il peso dei gruppi con la perdita attualmente più alta e retropropaga la perdita ponderata per gruppo:

import torch

# Per-image losses from one training batch and the condition each image came from
losses = torch.tensor([0.20, 0.30, 0.25, 0.90, 1.10, 0.15])
groups = torch.tensor([0, 0, 0, 1, 1, 0])  # 0 = daytime, 1 = nighttime
group_losses = torch.stack([losses[groups == g].mean() for g in (0, 1)])

# Empirical risk minimization optimizes the average loss over all images
print(f"ERM loss: {losses.mean():.2f}, daytime loss: {group_losses[0]:.2f}, nighttime loss: {group_losses[1]:.2f}")

# Group DRO shifts its group weights toward high-loss groups with an exponentiated-gradient step
group_weights = torch.tensor([0.5, 0.5])  # carried over from earlier batches
group_weights = group_weights * torch.exp(1.0 * group_losses)  # step size 1.0
group_weights = group_weights / group_weights.sum()
dro_loss = (group_weights * group_losses).sum()  # the loss that is backpropagated
print(f"Group weights: day {group_weights[0]:.2f}, night {group_weights[1]:.2f}, group DRO loss: {dro_loss:.2f}")

La perdita media di 0.48 sembra buona, ma le due immagini notturne hanno una media di 1.00 contro 0.22 per quelle diurne. Un aggiornamento sposta i pesi dei gruppi da 0.50 ciascuno a 0.32 per il giorno e 0.68 per la notte, quindi la perdita retropropagata sale a 0.76 e il suo gradiente proviene principalmente dalle immagini notturne. Nel corso di molti batch, il peso continua a spostarsi verso il gruppo che resta indietro.

La DRO di gruppo è un rimedio diretto all’apprendimento di scorciatoie. Nel benchmark Waterbirds, la maggior parte delle foto di addestramento degli uccelli acquatici mostra sfondi d’acqua, perciò l’addestramento standard impara lo sfondo e fallisce con gli uccelli acquatici fotografati sulla terraferma. Con una regolarizzazione efficace, gli autori hanno aumentato l’accuratezza sul gruppo peggiore nei test dal 21.3% con ERM all’84.6% con la DRO di gruppo; anche l’accuratezza media è salita dal 95.7% al 96.6%. La regolarizzazione è importante perché una rete grande può portare a zero la perdita di addestramento di ogni gruppo, lasciando all’obiettivo DRO niente da privilegiare.

La DRO di gruppo richiede di conoscere il gruppo di ogni esempio di addestramento. Quando i gruppi sono ignoti, una sfera di divergenza chi quadrato può sostituirli: nel 2018 Tatsunori Hashimoto e i colleghi mostrarono che minimizzare la perdita nel caso peggiore su una sfera di questo tipo protegge qualsiasi sottopopolazione sufficientemente ampia senza sapere chi ne fa parte.

Individuare i gruppi peggiori#

I gruppi importanti spesso emergono dall’analisi degli errori. Per i modelli di rilevamento degli oggetti YOLO26 addestrati su una versione salvata del dataset, Ultralytics Platform aggiunge diagnostiche per immagine che ordinano le immagini di validazione in base al punteggio F1 per immagine, correlano F1 con le dimensioni dell’immagine, il rapporto d’aspetto e il numero di istanze, e indicano le classi che compaiono più spesso nelle immagini con i risultati peggiori. Nel complesso, scompongono un singolo valore di precisione media (mAP) in gruppi candidati da raccogliere, sovracampionare o ponderare.

La DRO trova applicazione anche ben oltre la visione:

• Equità tra sottopopolazioni: Quando i gruppi sono definiti da attributi demografici, minimizzare la perdita del gruppo peggiore riduce direttamente le disparità di prestazione.
• Cambiamento di distribuzione nel mondo reale: Il benchmark WILDS di Stanford valuta i modelli su cambiamenti quali immagini di tessuti provenienti da ospedali diversi e immagini satellitari di regioni e anni differenti; include la DRO di gruppo tra le baseline standard.
• Ricerca operativa: La DRO viene applicata alla pianificazione della rete elettrica, alla gestione della catena di approvvigionamento e alla selezione di portafoglio, dove le decisioni devono fare i conti con prezzi o domanda incerti e un piano basato soltanto sulla media storica può fallire gravemente in un anno anomalo.

DRO, augmentation e monitoraggio del drift#

L’aumento dei dati e la DRO affrontano lo stesso problema da prospettive opposte. L’aumento amplia ciò che il modello vede con variazioni sintetiche delle immagini di addestramento, mentre la DRO modifica l’obiettivo affinché le variazioni rare ma reali abbiano più peso. I due approcci si combinano bene: l’aumento fornisce esempi vari, mentre un obiettivo DRO impedisce che quelli più difficili vengano diluiti nella media. L’adattamento di dominio segue una terza strada, adattandosi a una singola distribuzione di destinazione nota tramite dati non etichettati provenienti da essa. Dopo la distribuzione, il monitoraggio del drift dei dati rivela i cambiamenti non previsti da alcun insieme di ambiguità; queste nuove condizioni diventano i gruppi successivi da raccogliere e ponderare.