Normalizing Flows

I normalizing flows sono modelli di generative AI che apprendono una mappatura invertibile tra una semplice distribuzione di probabilità, di solito rumore gaussiano, e una complessa distribuzione di dati. A differenza di molti modelli generativi, possono sia creare campioni che calcolare in modo efficiente le verosimiglianze esatte dei dati. Questo li rende utili per la stima della densità, la modellazione dell'incertezza e l'apprendimento di spazi latenti strutturati, come spiegato nella recensione fondamentale sui normalizing flows. (arxiv.org)

Come funzionano i Normalizing Flows#

Un flusso applica una sequenza di trasformazioni reversibili tramite reti neurali:

1. Campiona un punto da una semplice distribuzione di base.
2. Trasformalo attraverso diversi strati invertibili.
3. Traccia come ogni strato espande o contrae la densità di probabilità utilizzando il suo determinante Jacobiano.
4. Inverti le trasformazioni durante il calcolo della probabilità dei dati osservati.

Il tutorial sui normalizing flows di Pyro fornisce esempi pratici di campionamento e valutazione della densità. Sebbene il nome sembri simile, i normalizing flows non sono la stessa cosa della normalizzazione delle feature o della batch normalization. Qui, "normalizzare" significa trasformare una distribuzione complessa in una standard.

I progetti tradizionali richiedono layer invertibili attentamente strutturati. La recente ricerca sui Free-form Flows attenua questa restrizione, mentre un'analisi di universalità del 2024 sui flussi basati su accoppiamento spiega perché i layer di coupling affine rimangono efficaci. (proceedings.mlr.press)

Applicazioni nel mondo reale#

• Rilevamento delle anomalie industriali: Un flusso può modellare gli embedding da prodotti privi di difetti e segnalare campioni improbabili durante l'ispezione visiva. Tuttavia, la sola verosimiglianza non è sempre un punteggio out-of-distribution affidabile, come dimostrato dalla ricerca NeurIPS sui fallimenti della verosimiglianza dei flussi. Valuta i risultati con metriche specifiche per il task e dati anomali rappresentativi. (proceedings.neurips.cc)
• Imaging medico: Il modello di flusso a ultrasuoni transcranici del 2024 utilizza i normalizing flows per una ricostruzione più rapida e una stima dell'incertezza. Tecniche simili possono supportare l'analisi di immagini mediche in cui le previsioni richiedono intervalli di confidenza. (proceedings.mlr.press)
• Dati sintetici e calibrazione: I flussi possono generare dati sintetici strutturati o modellare gli errori di previsione. Il lavoro del 2024 sui normalizing flows per la regressione conforme dimostra intervalli di incertezza più adattivi. I dati visivi generati possono essere annotati, addestrati e distribuiti tramite la piattaforma Ultralytics. (proceedings.mlr.press)

Normalizing Flows vs. Metodi Correlati#

Il Flow matching di solito addestra un campo di velocità continuo con un obiettivo di regressione, come descritto in dettaglio nella guida al Flow Matching di Meta. I normalizing flows tradizionali pongono invece l'accento su trasformazioni invertibili e ottimizzazione diretta della verosimiglianza. I Rectified flow cercano percorsi di trasporto più rettilinei, mentre i diffusion models generano dati tramite denoising iterativo. I normalizing flows differiscono anche dai Generative Flow Networks, che apprendono policy per la costruzione di oggetti discreti, e dai GANs, che di solito non forniscono verosimiglianze esatte. (ai.meta.com)

Sviluppi recenti e migliori pratiche#

Le architetture basate su Transformer hanno rinnovato l'interesse per i flussi. Lo studio TarFlow del 2025 ha riportato una generazione di immagini competitiva rispetto agli approcci di diffusione, mentre Jet ha modernizzato i flussi di accoppiamento con i Vision Transformers. Nel 2026, l'addestramento di flussi basato su regressione ha collegato i normalizing flows con obiettivi in stile flow-matching, e SESaMo ha incorporato simmetrie fisiche esatte. (proceedings.mlr.press)

Per le applicazioni di visione, un approccio pratico consiste nel modellare gli embedding di alto livello piuttosto che i pixel grezzi:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
embeddings = model.embed("https://ultralytics.com/images/bus.jpg")
print(embeddings[0].shape)

Questi embedding di Ultralytics YOLO26 possono diventare input per un flusso addestrato separatamente per la stima della densità o il punteggio delle anomalie. Usa un'attenta preelaborazione dei dati e valuta la verosimiglianza insieme alle prestazioni a valle anziché considerarla una misura di qualità completa.