Catastrophic Forgetting

La dimenticanza catastrofica, spesso definita anche interferenza catastrofica, è un fenomeno ampiamente studiato nel machine learning in cui una rete neurale artificiale perde improvvisamente le informazioni apprese in precedenza quando apprende nuovi compiti. Quando un modello viene addestrato in sequenza per adattarsi a un nuovo dataset, gli algoritmi di ottimizzazione che utilizzano la retropropagazione aggiornano i pesi del modello. Questo processo sovrascrive spesso inavvertitamente le rappresentazioni matematiche necessarie per i compiti precedenti. Di conseguenza, un sistema di intelligenza artificiale altamente ottimizzato per il suo scopo originale può subire un grave calo delle prestazioni nei compiti iniziali se viene addestrato esclusivamente su nuovi dati senza contromisure specifiche.

Perché si verifica la dimenticanza catastrofica#

Nel deep learning, la conoscenza di un modello è distribuita in una rete di neuroni interconnessi. Durante il fine-tuning, le funzioni di ottimizzazione come la discesa stocastica del gradiente regolano queste connessioni per ridurre al minimo l'errore sui nuovi dati. Se il nuovo dataset di addestramento non contiene esempi delle classi originali, il processo di ottimizzazione sposta i pesi verso la distribuzione dei nuovi dati, cancellando di fatto la «memoria» della vecchia distribuzione. Studi recenti sul cambiamento strutturale indicano che questo collasso interno limita fondamentalmente la capacità delle moderne reti neurali di raggiungere un apprendimento permanente simile a quello umano fin dall'uso iniziale.

Distinguere i concetti correlati#

È fondamentale distinguere la dimenticanza catastrofica da altri concetti di intelligenza artificiale:

• Dimenticanza catastrofica vs. collasso del modello: mentre la dimenticanza si verifica a causa dell'apprendimento incrementale di nuovi compiti, il collasso del modello è un degrado graduale delle prestazioni nello stesso compito, quando un modello viene addestrato ricorsivamente su dati sintetici generati da altri modelli di intelligenza artificiale.
• Dimenticanza catastrofica vs. apprendimento continuo: l'apprendimento continuo è la metodologia di ricerca generale volta a risolvere la dimenticanza catastrofica. Gli algoritmi di apprendimento continuo tentano di consentire ai modelli di acquisire nuove conoscenze in sequenza senza dimenticare quelle precedenti.

Esempi nel mondo reale#

La dimenticanza catastrofica rappresenta una sfida significativa in diversi ambiti dell'intelligenza artificiale che operano in ambienti dinamici del mondo reale:

• Sistemi autonomi: nelle pipeline di percezione dei veicoli autonomi, un sistema di visione artificiale inizialmente addestrato a riconoscere i pedoni e i segnali stradali standard potrebbe essere sottoposto a fine-tuning per riconoscere nuovi segnali di lavori stradali specifici di una determinata regione. Senza misure di sicurezza, il sistema potrebbe improvvisamente avere difficoltà a rilevare i pedoni in modo affidabile, creando un grave rischio per la sicurezza.
• Intelligenza artificiale linguistica e cognitiva: quando si personalizzano modelli linguistici di grandi dimensioni per compiti specifici di un dominio, come la diagnostica medica, il modello potrebbe dimenticare il proprio allineamento conversazionale o le capacità di ragionamento generali. Una recente analisi comparativa sugli LLM mostra che il fine-tuning standard su testi altamente specializzati spesso indebolisce il precedente allineamento alla sicurezza, facendo perdere ai modelli le loro principali capacità di seguire le istruzioni.

Superare la dimenticanza catastrofica#

Gli ingegneri dell'intelligenza artificiale utilizzano diverse strategie per mitigare questo problema e mantenere un equilibrio ottimale nel dilemma tra plasticità e stabilità:

• Riproduzione e fusione dei dataset: il metodo più affidabile consiste nel combinare un sottoinsieme dei dati di addestramento originali con i nuovi dati. Strumenti come Ultralytics Platform semplificano la gestione e il controllo delle versioni dei dataset combinati, per garantire che le classi originali vengano effettivamente riproposte durante l'addestramento.
• Consolidamento elastico dei pesi (EWC): questa tecnica di regolarizzazione limita gli aggiornamenti dei parametri che erano fondamentali per i compiti precedenti. Identificando e preservando questi pesi chiave, i modelli riducono la dimenticanza, come evidenziato in esperimenti recenti sul superamento della dimenticanza nelle reti.
• Fine-tuning efficiente in termini di parametri (PEFT): metodi come adattamento a basso rango (LoRA) bloccano i pesi preaddestrati di base e inseriscono nella rete piccole matrici addestrabili, impedendo che la conoscenza di base venga sovrascritta.
• Blocco dei layer: nei cicli di addestramento più brevi, il blocco dei layer backbone e neck garantisce che gli estrattori di caratteristiche fondamentali rimangano intatti.
• Ottimizzazione senza gradiente: framework innovativi hanno recentemente dimostrato che anche i metodi basati sul passaggio forward possono mitigare efficacemente la dimenticanza negli ambienti in cui gli aggiornamenti basati sui gradienti sono soggetti a limitazioni.

Esempio di implementazione nella visione artificiale#

Quando adatti Ultralytics YOLO a un nuovo compito di rilevamento degli oggetti, il blocco dei layer è un approccio efficace e accessibile. L'esempio seguente mostra come addestrare un modello Ultralytics YOLO26 su un nuovo dataset prevenendo la dimenticanza catastrofica mediante il blocco dei primi 10 layer.

from ultralytics import YOLO

# Load a pretrained Ultralytics YOLO26 model
model = YOLO("yolo26n.pt")

# Train on a combined dataset while freezing core backbone layers
# The 'freeze=10' argument prevents catastrophic forgetting of foundational visual features
results = model.train(data="combined_dataset.yaml", epochs=20, freeze=10, lr0=0.001)

# Evaluate the model to ensure it retains performance on old and new tasks
metrics = model.val()