Causal Representation Learning

L'apprentissage de représentation causale (CRL) est une approche d'apprentissage automatique qui vise à convertir des observations complexes — telles que des images, des vidéos, des flux audio ou des lectures de capteurs — en variables de haut niveau qui reflètent la manière dont le système sous-jacent produit des relations de cause à effet. Au lieu d'apprendre des fonctionnalités qui prédisent simplement des étiquettes, le CRL recherche des représentations correspondant à des facteurs significatifs tels que la position de l'objet, l'éclairage, l'état de la machine ou l'action humaine.

L'objectif est d'amener les modèles à raisonner sur ce qui pourrait se produire lorsqu'un facteur change, plutôt que de s'appuyer uniquement sur les corrélations observées pendant l'entraînement. Cela combine l' apprentissage de représentation classique par intégrations avec des idées issues de l' inférence causale, ce qui aide les systèmes d'IA à généraliser à travers les environnements et à prendre en charge les interventions, les questions contrefactuelles et la prise de décision.

Comment fonctionne l'apprentissage de représentation causale#

Un réseau de neurones mappe normalement une entrée de haute dimension dans un espace latent interne. Comme l'explique l'introduction aux intégrations d'apprentissage automatique de Google, ces vecteurs compacts peuvent préserver des relations utiles tout en réduisant la complexité des entrées. Cependant, une intégration ordinaire peut mélanger des propriétés causales avec des motifs accidentels.

Par exemple, un classificateur de la faune sauvage pourrait associer la neige aux loups parce que la plupart des images de loups dans son jeu d'entraînement ont des arrière-plans enneigés. Une représentation causale doit séparer l'identité de l'animal des conditions d'arrière-plan, permettant au modèle de reconnaître les loups dans les forêts ou les prairies.

Le CRL implique généralement trois objectifs connectés :

• Récupérer des variables latentes significatives : La représentation doit capturer les facteurs sous-jacents qui génèrent les observations, et pas seulement des raccourcis prédictifs pratiques.
• Modéliser la structure causale : Les relations entre les variables peuvent être exprimées par le biais d'un graphe dirigé, en suivant les principes décrits dans les cadres de modèles causaux.
• Rester stable face aux interventions : Le changement d'un facteur doit produire un changement approprié et localisé dans la représentation. La documentation sur l'intervention DoWhy illustre la différence entre les interventions et le simple conditionnement sur des données observées.

Une intervention définit activement une variable, telle que la modification de la vitesse d'un robot. Une question contrefactuelle demande plutôt ce qui se serait produit dans un contexte différent, par exemple si une collision aurait eu lieu si le robot s'était déplacé plus lentement.

Concepts associés et différences clés#

Le CRL chevauche plusieurs idées d'apprentissage automatique mais possède un objectif distinct.

• L' apprentissage contrastif apprend des représentations en rapprochant les exemples apparentés et en séparant ceux qui ne le sont pas. Il peut soutenir le CRL, mais la similarité seule n'établit pas la causalité.
• L' apprentissage auto-supervisé crée des signaux d'entraînement à partir de données non étiquetées. Le CRL peut utiliser ces signaux tout en y ajoutant des hypothèses concernant les interventions, les environnements, le temps ou la structure causale.
• L'inférence causale estime généralement les effets entre des variables déjà définies, telles que le traitement, l'âge et la guérison. Le CRL découvre d'abord des variables causales utiles à partir de données perceptuelles brutes. Cette distinction est centrale pour l'aperçu général de l'apprentissage de représentation causale.
• L'apprentissage de représentation désenchevêtrée essaie d'attribuer des dimensions latentes séparées à des facteurs indépendants. Une représentation désenchevêtrée n'est pas nécessairement causale, car les facteurs séparés peuvent encore omettre leur direction d'influence ou leur réponse à l'intervention.
• La découverte causale recherche des relations entre les variables. Le CRL apprend en plus les variables elles-mêmes. Les structures candidates doivent être testées lorsque cela est possible, comme décrit dans la réfutation de graphe DoWhy.

Dans le CRL multi-vue, différentes caméras ou capteurs observent le même système sous différentes perspectives. L'observabilité partielle signifie que chaque vue ne révèle que certains facteurs causaux. Les contextes multi-domaines non appariés sont plus difficiles car les observations provenant d'environnements différents ne correspondent pas instance par instance.

Applications concrètes#

Robotique autonome : Un robot d'entrepôt reçoit des données de caméra, de profondeur et de mouvement contenant des informations sur la position des obstacles, l'éclairage, la texture du sol et son propre déplacement. Une représentation causale peut séparer les facteurs contrôlables, tels que la direction, des facteurs environnementaux, tels que les ombres. L'entraînement avec la randomisation de domaine peut exposer le système à une variation contrôlée, tandis que la structure causale aide à déterminer quels changements doivent affecter les décisions de navigation.

Inspection de fabrication : Un détecteur de défauts peut associer à tort une ligne de production, un angle de caméra ou la couleur d'un matériau à des produits défectueux. Le CRL peut aider à isoler le type de défaut, les réglages de la machine et l'éclairage en tant que facteurs distincts. Cela réduit l'apprentissage par raccourcis lorsque l'équipement ou les usines changent, et facilite la recherche pour déterminer si la température ou la pression du processus a contribué à un défaut au lieu de simplement apparaître à ses côtés.

Flux de travail pratique et limitations#

Ultralytics YOLO peut générer des intégrations visuelles standard que tu peux inspecter avant de concevoir un pipeline d'apprentissage causal séparé :

from ultralytics import YOLO

# Load a pretrained image classification model
model = YOLO("yolo26n-cls.pt")

# Generate an ordinary visual representation
source = "https://ultralytics.com/images/bus.jpg"
embeddings = model.embed(source)

# Inspect the selected image embedding
embedding = embeddings[0]
print(embedding.shape)

Ce flux de travail documenté Ultralytics YOLO26 extrait une intégration, mais il ne rend pas la représentation causale en soi. L'établissement de la causalité nécessite des données adaptées, des hypothèses, des interventions, de multiples environnements ou des preuves temporelles.

Tu dois varier les facteurs de nuisance suspectés, évaluer les performances à travers les domaines et auditer le biais du jeu de données. La Plateforme Ultralytics peut t'aider pour l'annotation de jeux de données, l'entraînement, le déploiement et le versioning contrôlé des jeux de données. Après le déploiement, la surveillance continue du modèle est essentielle, car une précision de validation stable ne garantit pas la validité causale. L'évaluation doit également suivre les directives plus larges du NIST sur la validité et la robustesse de l'IA et inclure des vérifications de sous-groupes telles que celles décrites dans le guide d'identification des biais de jeux de données de Google.