Causal Representation Learning

L’apprentissage des représentations causales (CRL) est une approche d’apprentissage automatique qui vise à convertir des observations complexes, telles que des images, des vidéos, des contenus audio ou des relevés de capteurs, en variables de haut niveau reflétant la manière dont le système sous-jacent produit des relations de cause à effet. Au lieu d’apprendre des caractéristiques qui prédisent simplement des étiquettes, le CRL cherche à obtenir des représentations correspondant à des facteurs significatifs, tels que la position d’un objet, l’éclairage, l’état d’une machine ou l’action d’un être humain.

L’objectif est de permettre aux modèles de raisonner sur ce qui pourrait se produire lorsqu’un facteur change, plutôt que de s’appuyer uniquement sur les corrélations observées pendant l’entraînement. Cela combine l’apprentissage classique des représentations par plongements avec des concepts issus de l’inférence causale, afin d’aider les systèmes d’IA à se généraliser à différents environnements et à prendre en charge les interventions, les questions contrefactuelles et la prise de décision.

Fonctionnement de l’apprentissage des représentations causales#

Un réseau neuronal projette normalement une entrée de grande dimension dans un espace latent interne. Comme l’explique l’introduction de Google aux plongements en apprentissage automatique, ces vecteurs compacts peuvent préserver des relations utiles tout en réduisant la complexité de l’entrée. Cependant, un plongement ordinaire peut mélanger des propriétés causales avec des motifs fortuits.

Par exemple, un classificateur d’animaux sauvages pourrait associer la neige aux loups, car la plupart des images de loups de son jeu d’entraînement présentent des arrière-plans enneigés. Une représentation causale devrait séparer l’identité de l’animal des conditions d’arrière-plan, afin de permettre au modèle de reconnaître les loups dans des forêts ou des prairies.

Le CRL repose généralement sur trois objectifs liés :

• Récupérer des variables latentes significatives : la représentation doit capturer les facteurs sous-jacents qui génèrent les observations, et pas seulement des raccourcis prédictifs pratiques.
• Modéliser la structure causale : les relations entre les variables peuvent être exprimées au moyen d’un graphe orienté, conformément aux principes décrits dans les cadres de modèles causaux.
• Rester stable lors des interventions : la modification d’un facteur doit produire un changement approprié et localisé dans la représentation. La documentation de DoWhy sur les interventions illustre la différence entre les interventions et le simple conditionnement sur des données observées.

Une intervention définit activement une variable, par exemple en modifiant la vitesse d’un robot. Une question contrefactuelle demande plutôt ce qui se serait produit dans une autre configuration, par exemple si une collision aurait eu lieu si le robot s’était déplacé plus lentement.

Concepts connexes et principales différences#

Le CRL recoupe plusieurs concepts de l’apprentissage automatique, mais possède un objectif distinct.

• L’apprentissage contrastif apprend des représentations en rapprochant les exemples associés et en séparant ceux qui ne le sont pas. Il peut contribuer au CRL, mais la similarité seule ne suffit pas à établir une causalité.
• L’apprentissage auto-supervisé crée des signaux d’entraînement à partir de données non étiquetées. Le CRL peut utiliser ces signaux tout en ajoutant des hypothèses sur les interventions, les environnements, le temps ou la structure causale.
• L’inférence causale estime généralement les effets entre des variables déjà définies, telles que le traitement, l’âge et la guérison. Le CRL découvre d’abord des variables causales utiles à partir d’entrées perceptuelles brutes. Cette distinction est fondamentale pour la présentation plus large de l’apprentissage des représentations causales.
• L’apprentissage de représentations factorisées cherche à attribuer des dimensions latentes distinctes à des facteurs indépendants. Une représentation factorisée n’est pas nécessairement causale, car les facteurs séparés peuvent tout de même omettre la direction de leur influence ou leur réponse à une intervention.
• La découverte causale recherche les relations entre les variables. Le CRL apprend en outre les variables elles-mêmes. Les structures candidates doivent être testées lorsque cela est possible, comme indiqué dans la réfutation de graphes avec DoWhy.

Dans le CRL multivue, différentes caméras ou différents capteurs observent le même système depuis des perspectives distinctes. L’observabilité partielle signifie que chaque vue ne révèle que certains facteurs causaux. Les configurations multidomaines non appariées sont plus difficiles, car les observations provenant de différents environnements ne correspondent pas instance par instance.

Applications concrètes#

Robotique autonome : un robot d’entrepôt reçoit des données de caméra, de profondeur et de mouvement contenant des informations sur la position des obstacles, l’éclairage, la texture du sol et ses propres déplacements. Une représentation causale peut séparer les facteurs contrôlables, tels que la direction, des facteurs environnementaux, tels que les ombres. L’entraînement avec la randomisation de domaine peut exposer le système à des variations contrôlées, tandis que la structure causale aide à déterminer quels changements doivent influencer les décisions de navigation.

Inspection industrielle : un détecteur de défauts peut associer à tort une ligne de production, un angle de caméra ou la couleur d’un matériau à des produits défectueux. Le CRL peut aider à isoler le type de défaut, les réglages de la machine et l’éclairage en tant que facteurs distincts. Cela réduit l’apprentissage de raccourcis lorsque l’équipement ou les usines changent et facilite l’analyse visant à déterminer si la température ou la pression du procédé a contribué à un défaut, plutôt que de simplement apparaître en même temps que celui-ci.

Flux de travail pratique et limites#

Ultralytics YOLO peut générer des représentations visuelles standard que les développeurs peuvent examiner avant de concevoir un pipeline distinct d’apprentissage causal :

from ultralytics import YOLO

# Load a pretrained image classification model
model = YOLO("yolo26n-cls.pt")

# Generate an ordinary visual representation
source = "https://ultralytics.com/images/bus.jpg"
embeddings = model.embed(source)

# Inspect the selected image embedding
embedding = embeddings[0]
print(embedding.shape)

Ce workflow documenté d’Ultralytics YOLO26 extrait un plongement, mais ne rend pas la représentation causale à lui seul. Établir la causalité nécessite des données, des hypothèses, des interventions, plusieurs environnements ou des éléments temporels adaptés.

Les praticiens doivent faire varier les facteurs parasites supposés, évaluer les performances sur différents domaines et auditer le biais des jeux de données. L’Ultralytics Platform peut prendre en charge l’annotation des jeux de données, l’entraînement, le déploiement et la gestion contrôlée des versions des jeux de données. Après le déploiement, une surveillance continue du modèle est essentielle, car une précision de validation stable ne garantit pas la validité causale. L’évaluation doit également suivre les recommandations du NIST sur la validité et la robustesse de l’IA et inclure des contrôles par sous-groupes, tels que ceux présentés dans le guide de Google pour identifier les biais des jeux de données.