Continual Learning

L’apprendimento continuo (CL), spesso chiamato apprendimento permanente, descrive la capacità di un modello di intelligenza artificiale di apprendere in sequenza nuovi compiti o acquisire nuove conoscenze nel tempo senza dimenticare le informazioni apprese in precedenza. A differenza delle pipeline tradizionali di apprendimento automatico, in cui i modelli vengono addestrati una volta su un set di dati statico e poi distribuiti, l’apprendimento continuo imita la capacità umana di adattarsi a nuovi ambienti e imparare costantemente da nuove esperienze. La sfida principale in questo campo è superare l’oblio catastrofico, un fenomeno per cui l’addestramento di una rete neurale su nuovi dati ne compromette drasticamente le prestazioni sui compiti precedenti, perché i pesi ottimizzati per i vecchi compiti vengono sovrascritti.

Perché è importante l’apprendimento continuo#

Negli ambienti dinamici del mondo reale, le distribuzioni dei dati raramente rimangono statiche. Per esempio, un sistema di percezione visiva a bordo di un veicolo autonomo deve adattarsi ai cambi di stagione, alle nuove norme del traffico o alla conformazione di città diverse senza perdere la capacità di riconoscere i segnali stradali di base appresa durante l’addestramento iniziale. Il riaddestramento da zero su un set di dati cumulativo è spesso costoso dal punto di vista computazionale e poco pratico a causa dei limiti di archiviazione o dei problemi di privacy. L’apprendimento continuo affronta queste difficoltà consentendo ai modelli di aggiornarsi in modo incrementale, rendendoli più efficienti e scalabili per le applicazioni di IA edge, in cui le risorse sono limitate.

Applicazioni nel mondo reale#

• Robotica e sistemi autonomi: i robot impiegati in ambienti non strutturati devono manipolare oggetti mai incontrati prima o spostarsi su terreni nuovi. Con l’apprendimento continuo, un robot può padroneggiare una specifica attività di produzione e imparare in seguito a gestire una diversa linea di prodotti senza dover reimpostare l’intero sistema, favorendo così pipeline flessibili per l'innovazione nell’industria 4.0.
• Diagnostica per immagini mediche: i dati sanitari cambiano con l’emergere di nuove malattie o con l’evoluzione dei protocolli di imaging. Un sistema di IA che assiste i radiologi può usare l’apprendimento continuo per integrare nuove patologie, come un nuovo ceppo virale individuato nelle radiografie, mantenendo al contempo un’elevata accuratezza nel rilevare condizioni comuni come polmonite o fratture. Questa capacità è essenziale per mantenere aggiornati i sistemi di diagnostica sanitaria senza compromettere la sicurezza dei pazienti quando si applicano protocolli consolidati.

Strategie chiave nell’apprendimento continuo#

Per ridurre l’oblio catastrofico, i ricercatori adottano diverse strategie. I metodi di regolarizzazione aggiungono vincoli alla funzione di perdita per evitare cambiamenti significativi nei pesi importanti individuati nei compiti precedenti. I metodi basati sulla ripetizione conservano un piccolo sottoinsieme di dati precedenti (o generano campioni sintetici usando l'IA generativa) e li combinano con i nuovi dati durante l’addestramento. Infine, l’isolamento dei parametri assegna sottoinsiemi specifici dei parametri del modello a compiti diversi, così che gli aggiornamenti per un nuovo compito non interferiscano con i parametri ottimizzati per quelli precedenti. I progressi del 2024 e del 2025 si sono concentrati sull’uso di modelli visione-linguaggio per identificare meglio quali caratteristiche sono generiche e quali specifiche del compito.

Apprendimento continuo vs. apprendimento per trasferimento#

È importante distinguere l’apprendimento continuo dall'apprendimento per trasferimento. Nell’apprendimento per trasferimento, un modello preaddestrato costituisce il punto di partenza per risolvere un compito specifico nuovo e di solito le prestazioni sul compito originale non sono rilevanti. L’obiettivo è massimizzare le prestazioni nel dominio di destinazione. Al contrario, l’apprendimento continuo mira a ottenere buone prestazioni sia sul nuovo compito sia su tutti quelli precedenti. Analogamente, mentre l'apprendimento attivo si concentra sulla selezione dei punti dati più informativi da etichettare per l’addestramento, l’apprendimento continuo si concentra sul processo di aggiornamento del modello nel tempo.

Aggiornare un modello YOLO#

Anche se l’apprendimento continuo vero e proprio richiede modifiche architetturali specifiche, gli utenti possono simulare questo flusso di lavoro perfezionando i modelli su nuovi dati mescolati a un buffer di dati precedenti. La Ultralytics Platform semplifica la gestione di questi set di dati e il controllo delle versioni dei modelli. Di seguito trovi un esempio di come aggiornare un modello usando l’API Python:

from ultralytics import YOLO

# Carica un modello precedentemente addestrato su 'dataset_v1.yaml'
model = YOLO("yolo26n-v1.pt")

# Addestra il modello su un nuovo set di dati che contiene campioni nuovi e precedenti
# Questo aiuta a ridurre l’oblio catastrofico «ripetendo» i dati precedenti
results = model.train(
    data="dataset_v2_combined.yaml",
    epochs=50,
    imgsz=640,
    lr0=0.001,  # Riduci il tasso di apprendimento per il perfezionamento
)

Sfide e sviluppi futuri#

Nonostante i progressi, l’apprendimento continuo resta un campo di ricerca attivo. È difficile determinare il compromesso tra plasticità e stabilità ottimale, bilanciando la capacità di apprendere cose nuove (plasticità) con quella di conservare quelle già apprese (stabilità). Inoltre, per valutare questi sistemi servono metriche delle prestazioni solide, che tengano conto sia del trasferimento in avanti (velocità di apprendimento dei nuovi compiti) sia del trasferimento all’indietro (impatto sui compiti precedenti). Con l’aumento delle dimensioni dei modelli fondazionali, metodi efficienti di adattamento continuo come l’adattamento a basso rango (LoRA) diventano fondamentali per personalizzare sistemi su larga scala senza riaddestrarli completamente.