Causal Representation Learning

L'apprendimento di rappresentazioni causali (CRL) è un approccio di apprendimento automatico che mira a convertire osservazioni complesse, come immagini, video, audio o letture di sensori, in variabili di alto livello che riflettono il modo in cui il sistema sottostante produce relazioni di causa-effetto. Invece di apprendere caratteristiche che si limitano a prevedere le etichette, il CRL cerca rappresentazioni corrispondenti a fattori significativi, come la posizione di un oggetto, l'illuminazione, lo stato di una macchina o un'azione umana.

L'obiettivo è fare in modo che i modelli ragionino su ciò che potrebbe accadere quando cambia un fattore, invece di basarsi solo sulle correlazioni osservate durante l'addestramento. Questo combina il tradizionale apprendimento delle rappresentazioni tramite embedding con idee tratte dall'inferenza causale, aiutando i sistemi di intelligenza artificiale a generalizzare tra ambienti diversi e a supportare interventi, domande controfattuali e processi decisionali.

Come funziona l'apprendimento di rappresentazioni causali#

Una rete neurale normalmente mappa un input ad alta dimensionalità in uno spazio latente interno. Come illustrato nell'introduzione di Google agli embedding nell'apprendimento automatico, questi vettori compatti possono preservare relazioni utili riducendo al contempo la complessità dell'input. Tuttavia, un embedding ordinario può mescolare proprietà causali e schemi accidentali.

Ad esempio, un classificatore di fauna selvatica potrebbe associare la neve ai lupi perché la maggior parte delle immagini di lupi nel suo set di addestramento presenta sfondi innevati. Una rappresentazione causale dovrebbe separare l'identità dell'animale dalle condizioni dello sfondo, consentendo al modello di riconoscere i lupi nelle foreste o nelle praterie.

Il CRL prevede generalmente tre obiettivi connessi:

• Recuperare variabili latenti significative: la rappresentazione dovrebbe catturare i fattori sottostanti che generano le osservazioni, non solo scorciatoie predittive convenienti.
• Modellare la struttura causale: le relazioni tra le variabili possono essere espresse tramite un grafo orientato, seguendo i principi descritti nei framework dei modelli causali.
• Rimanere stabile durante gli interventi: la modifica di un fattore dovrebbe produrre un cambiamento appropriato e localizzato nella rappresentazione. La documentazione sugli interventi di DoWhy illustra in che modo gli interventi differiscono dalla semplice condizionatura sui dati osservati.

Un intervento imposta attivamente una variabile, ad esempio modificando la velocità di un robot. Un controfattuale, invece, chiede che cosa sarebbe successo in una condizione diversa, ad esempio se si fosse verificata una collisione nel caso in cui il robot si fosse mosso più lentamente.

Concetti correlati e differenze chiave#

Il CRL presenta elementi in comune con diverse idee dell'apprendimento automatico, ma ha un obiettivo distinto.

• Apprendimento contrastivo apprende rappresentazioni avvicinando gli esempi correlati e separando quelli non correlati. Può supportare il CRL, ma la sola similarità non stabilisce la causalità.
• Apprendimento auto-supervisionato crea segnali di addestramento a partire da dati senza etichette. Il CRL può utilizzare questi segnali aggiungendo ipotesi su interventi, ambienti, tempo o struttura causale.
• Inferenza causale di solito stima gli effetti tra variabili già definite, come trattamento, età e recupero. Il CRL individua innanzitutto variabili causali utili a partire da input percettivi grezzi. Questa distinzione è fondamentale per la più ampia panoramica sull'apprendimento di rappresentazioni causali.
• Apprendimento di rappresentazioni disaccoppiate cerca di assegnare dimensioni latenti separate a fattori indipendenti. Una rappresentazione disaccoppiata non è necessariamente causale, perché i fattori separati potrebbero comunque non includere la direzione della loro influenza o la loro risposta a un intervento.
• La scoperta causale ricerca le relazioni tra le variabili. Il CRL apprende inoltre le variabili stesse. Le strutture candidate dovrebbero essere testate quando possibile, come descritto nella confutazione dei grafi di DoWhy.

Nel CRL multi-view, diverse videocamere o sensori osservano lo stesso sistema da prospettive differenti. L'osservabilità parziale significa che ogni visuale rivela solo alcuni fattori causali. Le configurazioni multi-dominio non appaiate sono più difficili perché le osservazioni provenienti da ambienti diversi non corrispondono istanza per istanza.

Applicazioni nel mondo reale#

Robotica autonoma: un robot da magazzino riceve dati provenienti da videocamera, profondità e movimento, contenenti informazioni sulla posizione degli ostacoli, sull'illuminazione, sulla trama del pavimento e sui propri movimenti. Una rappresentazione causale può separare i fattori controllabili, come la sterzata, dai fattori ambientali, come le ombre. L'addestramento con la randomizzazione del dominio può esporre il sistema a variazioni controllate, mentre la struttura causale aiuta a determinare quali cambiamenti dovrebbero influire sulle decisioni di navigazione.

Ispezione nella produzione: un rilevatore di difetti potrebbe associare erroneamente una linea di produzione, l'angolazione della videocamera o il colore del materiale ai prodotti difettosi. Il CRL può aiutare a isolare il tipo di difetto, le impostazioni della macchina e l'illuminazione come fattori distinti. Questo riduce l'apprendimento di scorciatoie quando cambiano le apparecchiature o gli stabilimenti e facilita l'analisi per verificare se la temperatura o la pressione del processo abbiano contribuito a un difetto, invece di comparire semplicemente insieme ad esso.

Flusso di lavoro pratico e limitazioni#

Ultralytics YOLO può generare embedding visivi standard che gli sviluppatori possono esaminare prima di progettare una pipeline separata per l'apprendimento causale:

from ultralytics import YOLO

# Load a pretrained image classification model
model = YOLO("yolo26n-cls.pt")

# Generate an ordinary visual representation
source = "https://ultralytics.com/images/bus.jpg"
embeddings = model.embed(source)

# Inspect the selected image embedding
embedding = embeddings[0]
print(embedding.shape)

Questo flusso di lavoro documentato di Ultralytics YOLO26 estrae un embedding, ma non rende di per sé causale la rappresentazione. Stabilire la causalità richiede dati adeguati, ipotesi, interventi, ambienti multipli o evidenze temporali.

Chi opera in questo ambito dovrebbe variare i fattori di disturbo sospetti, valutare le prestazioni tra domini diversi e verificare la presenza di bias nei dataset. La Ultralytics Platform può supportare l'annotazione dei dataset, l'addestramento, la distribuzione e il controllo delle versioni dei dataset. Dopo la distribuzione, il monitoraggio continuo del modello è essenziale, perché un'accuratezza di validazione stabile non garantisce la validità causale. La valutazione dovrebbe inoltre seguire le più ampie linee guida di NIST sulla validità e la robustezza dell'intelligenza artificiale e includere controlli per sottogruppi, come quelli descritti nella guida di Google per identificare i bias nei dataset.