Normalizing Flows

Les normalizing flows sont des modèles d'IA générative qui apprennent une correspondance inversible entre une distribution de probabilité simple, généralement un bruit gaussien, et une distribution de données complexe. Contrairement à de nombreux modèles génératifs, ils peuvent à la fois créer des échantillons et calculer efficacement les vraisemblances exactes des données. Cela les rend utiles pour l'estimation de la densité, la modélisation de l'incertitude et l'apprentissage d'espaces latents structurés, comme l'explique la revue fondamentale sur les normalizing flows. (arxiv.org)

Comment fonctionnent les Normalizing Flows#

Un flux applique une séquence de transformations par réseau de neurones réversibles :

1. Échantillonner un point à partir d'une distribution de base simple.
2. Le transformer à travers plusieurs couches inversibles.
3. Suivre la façon dont chaque couche dilate ou contracte la densité de probabilité en utilisant son déterminant jacobien.
4. Inverser les transformations lors du calcul de la probabilité des données observées.

Le tutoriel sur les normalizing flows de Pyro fournit des exemples pratiques d'échantillonnage et d'évaluation de la densité. Bien que le nom semble similaire, les normalizing flows ne sont pas identiques à la normalisation des caractéristiques ou à la normalisation par lots. Ici, « normaliser » signifie transformer une distribution complexe en une distribution standard.

Les conceptions traditionnelles nécessitent des couches inversibles soigneusement structurées. Des recherches récentes sur les Free-form Flows assouplissent cette restriction, tandis qu'une analyse de l'universalité des flux basés sur le couplage de 2024 explique pourquoi les couches de couplage affine restent efficaces. (proceedings.mlr.press)

Applications concrètes#

• Détection d'anomalies industrielles : Un flux peut modéliser des représentations (embeddings) provenant de produits sans défauts et signaler les échantillons improbables lors de l'inspection visuelle. Cependant, la vraisemblance à elle seule n'est pas toujours un score hors distribution fiable, comme le montre la recherche de NeurIPS sur les échecs de vraisemblance des flux. Valide les résultats avec des métriques spécifiques à la tâche et des données anormales représentatives. (proceedings.neurips.cc)
• Imagerie médicale : Le modèle de flux ultrasonore transcrânien de 2024 utilise des normalizing flows pour une reconstruction plus rapide et une estimation de l'incertitude. Des techniques similaires peuvent prendre en charge l'analyse d'images médicales lorsque les prédictions nécessitent des plages de confiance. (proceedings.mlr.press)
• Données synthétiques et étalonnage : Les flux peuvent générer des données synthétiques structurées ou modéliser des erreurs de prédiction. Les travaux de 2024 sur les normalizing flows pour la régression conforme démontrent des intervalles d'incertitude plus adaptatifs. Les données de vision générées peuvent être annotées, entraînées et déployées via la plateforme Ultralytics. (proceedings.mlr.press)

Normalizing Flows vs méthodes associées#

Le Flow matching entraîne généralement un champ de vitesse continu avec un objectif de régression, comme détaillé dans le guide Flow Matching de Meta. Les normalizing flows traditionnels privilégient plutôt les transformations inversibles et l'optimisation directe de la vraisemblance. Le Rectified flow recherche des chemins de transport plus rectilignes, tandis que les modèles de diffusion génèrent des données par débruitage itératif. Les normalizing flows diffèrent également des Generative Flow Networks, qui apprennent des politiques pour construire des objets discrets, et des GANs, qui ne fournissent généralement pas de vraisemblances exactes. (ai.meta.com)

Développements récents et meilleures pratiques#

Les architectures basées sur les Transformers ont renouvelé l'intérêt pour les flux. L'étude TarFlow de 2025 a rapporté une génération d'images compétitive par rapport aux approches de diffusion, tandis que Jet a modernisé les flux de couplage avec des Vision Transformers. En 2026, l'entraînement de flux basé sur la régression a relié les normalizing flows à des objectifs de type flow-matching, et SESaMo a intégré des symétries physiques exactes. (proceedings.mlr.press)

Pour les applications de vision, une approche pratique consiste à modéliser des plongements (embeddings) de haut niveau plutôt que des pixels bruts :

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
embeddings = model.embed("https://ultralytics.com/images/bus.jpg")
print(embeddings[0].shape)

Ces représentations (embeddings) Ultralytics YOLO26 peuvent servir d'entrées à un flux entraîné séparément pour l'estimation de la densité ou le calcul de scores d'anomalie. Utilise un prétraitement des données minutieux et évalue la vraisemblance en même temps que les performances en aval plutôt que de la traiter comme une mesure de qualité complète.