Catastrophic Forgetting

Il catastrophic forgetting, spesso chiamato catastrophic interference, è un fenomeno ampiamente studiato nel machine learning in cui una rete neurale artificiale perde bruscamente le informazioni apprese in precedenza durante l'apprendimento di nuovi compiti. Quando un modello viene sottoposto a un addestramento sequenziale per adattarsi a un nuovo dataset, gli algoritmi di ottimizzazione che utilizzano la backpropagation aggiornano i model weights. Questo processo spesso sovrascrive involontariamente le rappresentazioni matematiche richieste per i compiti precedenti. Di conseguenza, un sistema AI altamente ottimizzato per il suo scopo originale potrebbe subire un grave degrado delle prestazioni su quei compiti iniziali se viene addestrato esclusivamente su nuovi dati senza contromisure specifiche.

Link to this sectionPerché si verifica il Catastrophic Forgetting#

Nel deep learning, la conoscenza di un modello è archiviata attraverso una rete distribuita di neuroni interconnessi. Durante il fine-tuning, funzioni di ottimizzazione come Stochastic Gradient Descent regolano queste connessioni per ridurre al minimo l'errore sui nuovi dati. Se il nuovo dataset di addestramento non contiene esempi delle classi originali, il processo di ottimizzazione sposta i pesi verso la nuova distribuzione dei dati, cancellando effettivamente la "memoria" della vecchia distribuzione. Recenti studi sullo spostamento strutturale indicano che questo collasso interno limita fondamentalmente la capacità delle moderne neural networks di ottenere un lifelong learning simile a quello umano in modo immediato.

Link to this sectionDifferenziare concetti correlati#

È fondamentale distinguere il catastrophic forgetting da altri concetti di AI:

• Catastrophic Forgetting vs. Model Collapse: Mentre il forgetting si verifica a causa dell'apprendimento incrementale di nuovi compiti, il model collapse è un degrado graduale delle prestazioni sullo stesso compito quando un modello si addestra ricorsivamente su dati sintetici generati da altri modelli AI.
• Catastrophic Forgetting vs. Continual Learning: Il Continual learning è la metodologia di ricerca globale mirata a risolvere il catastrophic forgetting. Gli algoritmi di Continual learning tentano di consentire ai modelli di acquisire sequenzialmente nuove conoscenze senza dimenticare.

Link to this sectionEsempi dal mondo reale#

Il catastrophic forgetting rappresenta una sfida significativa in vari domini AI operanti in dynamic real-world environments:

• Autonomous Systems: Nelle pipeline di percezione per veicoli autonomi, un sistema di computer vision inizialmente addestrato per riconoscere pedoni e segnali stradali standard potrebbe essere sottoposto a fine-tuning per riconoscere nuovi segnali di cantiere specifici per una regione. Senza tutele, il sistema potrebbe improvvisamente avere difficoltà a rilevare i pedoni in modo affidabile, creando un grave rischio per la sicurezza.
• Language and Cognitive AI: Quando personalizzi modelli linguistici di grandi dimensioni per compiti specifici del dominio, come la diagnostica medica, il modello potrebbe dimenticare il suo allineamento conversazionale o le sue capacità di ragionamento generale. Una recente comparative analysis on LLMs mostra che il fine-tuning standard su testi altamente specializzati spesso erode il precedente safety alignment, causando la perdita delle capacità primarie di seguire le istruzioni da parte dei modelli.

Link to this sectionSuperare il Catastrophic Forgetting#

Gli ingegneri AI utilizzano diverse strategie per mitigare questo problema e mantenere un plasticity-stability dilemma ottimale:

• Dataset Replay and Merging: Il metodo più affidabile consiste nel mescolare un sottoinsieme dei training data originali con i nuovi dati. Strumenti come la Ultralytics Platform semplificano la gestione e il versionamento dei dataset combinati per garantire che le classi originali vengano riprodotte efficacemente durante l'addestramento.
• Elastic Weight Consolidation (EWC): Questa tecnica di regolarizzazione limita gli aggiornamenti ai parametri cruciali per i vecchi compiti. Identificando e preservando questi pesi chiave, i modelli riducono il forgetting, come evidenziato in recent experiments on overcoming network forgetting.
• Parameter-Efficient Fine-Tuning (PEFT): Metodi come Low-Rank Adaptation (LoRA) bloccano i pesi pre-addestrati principali e iniettano piccole matrici addestrabili nella rete, impedendo che la conoscenza di base venga sovrascritta.
• Freezing Layers: In cicli di addestramento più brevi, bloccare i layer del backbone e del neck garantisce che gli estrattori di caratteristiche principali rimangano intatti.
• Gradient-Free Optimization: Nuovi framework hanno recentemente dimostrato che i metodi basati su forward pass possono anche mitigare il forgetting in modo efficiente in ambienti in cui gli aggiornamenti del gradiente sono limitati.

Link to this sectionEsempio di implementazione nella Vision AI#

Quando adatti Ultralytics YOLO per un nuovo compito di object detection, bloccare i layer è un approccio efficace e accessibile. Il seguente esempio dimostra come addestrare un modello Ultralytics YOLO26 su un nuovo dataset prevenendo il catastrophic forgetting bloccando i primi 10 layer.

from ultralytics import YOLO

# Load a pretrained Ultralytics YOLO26 model
model = YOLO("yolo26n.pt")

# Train on a combined dataset while freezing core backbone layers
# The 'freeze=10' argument prevents catastrophic forgetting of foundational visual features
results = model.train(data="combined_dataset.yaml", epochs=20, freeze=10, lr0=0.001)

# Evaluate the model to ensure it retains performance on old and new tasks
metrics = model.val()