Licenza YOLO
Torna al glossario di Ultralytics

Continual Learning

L'apprendimento continuo, o apprendimento permanente, addestra un modello su un flusso di nuovi compiti o dati senza fargli dimenticare quelli precedenti. Scopri il replay, EWC e il codice.

L'apprendimento continuo, detto anche apprendimento permanente o incrementale, addestra un modello su una sequenza di attività o su un flusso di dati in evoluzione, preservando quanto appreso in precedenza. Il fine-tuning standard su nuovi dati sovrascrive i pesi del modello usati per le attività precedenti, facendo crollare le prestazioni su di esse: un problema noto come dimenticanza catastrofica. I metodi di apprendimento continuo bilanciano la plasticità, cioè la capacità di apprendere cose nuove, e la stabilità, cioè la capacità di mantenere le conoscenze precedenti: un compromesso chiamato dilemma stabilità-plasticità, presente sia nelle reti neurali sia nel cervello biologico.

Perché è importante l’apprendimento continuo#

I modelli distribuiti devono gestire dati in continua evoluzione: nuove classi di oggetti, nuovo hardware delle telecamere, variazioni stagionali dell'illuminazione o una graduale deriva dei dati. La soluzione più semplice consiste nel riaddestrare da zero sul dataset cumulativo completo, ma il costo aumenta a ogni aggiornamento e i dati meno recenti potrebbero non essere disponibili a causa di limiti di archiviazione, licenze o norme sulla privacy dei dati. L'apprendimento continuo aggiorna invece il modello in modo incrementale, una scelta adatta ai dispositivi con AI perimetrica e alle pipeline di operazioni di apprendimento automatico che riaddestrano i modelli distribuiti a intervalli programmati.

Tipi di apprendimento continuo#

Van de Ven, Tuytelaars e Tolias distinguono tre scenari. Nell'apprendimento incrementale per attività, al modello viene indicata l'attività a cui appartiene ogni input e può essere usata una testa di output distinta per ciascuna attività. Nell'apprendimento incrementale per dominio, le classi restano uguali mentre cambia la distribuzione degli input, come quando un rilevatore passa da riprese diurne a riprese notturne. Nell'apprendimento incrementale per classi, continuano ad arrivare nuove classi e il modello deve distinguere tutte quelle osservate finora senza sapere da quale attività proviene un input; per questo è lo scenario più difficile dei tre.

Strategie per prevenire la dimenticanza#

  • Replay: Il modello conserva un piccolo buffer di esempi passati, oppure ne genera di sintetici con un modello generativo, e li mescola a ogni nuovo ciclo di addestramento.
  • Consolidamento elastico dei pesi: Metodi di regolarizzazione come EWC aggiungono alla funzione di perdita una penalità per la modifica dei pesi importanti per le attività precedenti, stimandone l'importanza tramite l'informazione di Fisher.
  • Isolamento dei parametri: Ogni attività usa parametri propri, tramite backbone congelati, teste specifiche per attività o adattatori come LoRA, così gli aggiornamenti per una nuova attività non possono sovrascrivere quelli precedenti.
  • Distillazione della conoscenza: Le uscite del modello precedente su nuovi dati fungono da obiettivi morbidi mentre il modello apprende la nuova attività; questo approccio è noto come apprendimento senza dimenticare.

Il frammento di codice seguente esegue un esperimento incrementale per classi in PyTorch: una piccola rete apprende le cifre scritte a mano da 0 a 4, poi quelle da 5 a 9, con e senza un buffer di replay di 100 immagini memorizzate dalla prima attività.

import torch
from sklearn.datasets import load_digits
from torch import nn

X, y = load_digits(return_X_y=True)
X, y = torch.tensor(X / 16, dtype=torch.float32), torch.tensor(y)
task_a, task_b = torch.where(y < 5)[0], torch.where(y >= 5)[0]  # digits 0-4, then digits 5-9

for replay in [0, 100]:
    torch.manual_seed(0)
    model = nn.Sequential(nn.Linear(64, 64), nn.ReLU(), nn.Linear(64, 10))
    optimizer = torch.optim.Adam(model.parameters(), lr=0.01)
    # Train on task A, then on task B plus a replay buffer of stored task A images
    for task in [task_a, torch.cat([task_b, task_a[:replay]])]:
        for _ in range(200):
            optimizer.zero_grad()
            nn.functional.cross_entropy(model(X[task]), y[task]).backward()
            optimizer.step()
    accuracy = (model(X[task_a]).argmax(1) == y[task_a]).float().mean()
    print(f"Replay buffer of {replay} images: digits 0-4 accuracy after learning 5-9 = {accuracy:.0%}")

Senza replay, la rete dimentica completamente le cifre da 0 a 4 e, dopo aver appreso quelle da 5 a 9, ottiene lo 0% su quelle iniziali. Riprodurre 100 immagini memorizzate, circa l'11% delle 901 immagini della prima attività, mantiene la precisione al 70%. Ultralytics YOLO26 supporta la strategia di isolamento dei parametri di questo insieme di tecniche tramite l'argomento di addestramento freeze, che blocca i primi N layer o i moduli specificati per nome mentre il modello esegue il fine-tuning sui nuovi dati.

Questioni aperte#

La valutazione dell'apprendimento continuo richiede più di un singolo punteggio: le metriche di prestazione devono essere monitorate su ogni attività precedente dopo ciascun aggiornamento, misurando sia il trasferimento all'indietro, cioè l'effetto del nuovo apprendimento sulle attività precedenti, sia il trasferimento in avanti, cioè il modo in cui le conoscenze precedenti accelerano quelle nuove. L'addestramento continuo prolungato presenta anche un problema meno evidente della dimenticanza. Dohare et al. hanno mostrato che i metodi standard di apprendimento profondo perdono gradualmente plasticità, cioè la capacità di apprendere qualcosa di nuovo, nel corso di lunghe sequenze di attività basate su ImageNet e problemi di apprendimento per rinforzo; hanno inoltre dimostrato che la retropropagazione continua, che reinizializza casualmente una piccola frazione delle unità usate di rado, la mantiene indefinitamente.

Applicazioni nel mondo reale#

  • Robotica: Un robot su una linea di produzione può imparare a gestire una nuova variante di prodotto senza un ciclo completo di riaddestramento, mantenendo le competenze sui componenti che già sa maneggiare.
  • Analisi delle immagini mediche: Gli ospedali cambiano scanner e protocolli di imaging e nel tempo emergono nuove scoperte. Gli aggiornamenti incrementali per dominio permettono a un modello diagnostico di adattarsi alle nuove immagini mantenendo la precisione sulle patologie già note.
  • Modelli linguistici di grandi dimensioni: Il preaddestramento continuo su testi più recenti aggiorna le conoscenze del modello e gli adattatori efficienti in termini di parametri aggiungono nuove competenze senza riaddestrare il modello completo.
  • Apprendimento per trasferimento: L'apprendimento per trasferimento riutilizza un modello preaddestrato come punto di partenza per una nuova attività e valuta il risultato solo su quella. L'apprendimento continuo viene valutato sulla nuova attività e su tutte quelle precedenti.
  • Apprendimento online: L'apprendimento online aggiorna un modello un esempio o un mini-batch alla volta man mano che arrivano i dati, di solito per una singola attività, e non deve necessariamente occuparsi della dimenticanza.
  • Apprendimento curricolare: L'apprendimento curricolare ordina dal facile al difficile gli esempi di un'unica attività fissa, mentre l'apprendimento continuo affronta una sequenza di attività o distribuzioni diverse.
  • Disapprendimento automatico: Il disapprendimento segue la direzione opposta e rimuove deliberatamente da un modello l'influenza di specifici dati di addestramento, per esempio per soddisfare le richieste di cancellazione previste dal diritto all'oblio del GDPR.

Esplora le soluzioni

La visione artificiale nello sport

La visione artificiale nello sport

Scopri come Ultralytics YOLO alimenta la computer vision nello sport con il tracciamento di giocatori e palloni, l'analisi delle prestazioni, gli approfondimenti per gli allenatori e la riabilitazione degli atleti.
Scopri di più
Computer vision per immagini aeree

Computer vision per immagini aeree

Trasforma immagini aeree e riprese da drone in informazioni utili in tempo reale per agricoltura, acquacoltura, conservazione e analisi geospaziale con Ultralytics YOLO.
Scopri di più
Computer vision nel settore aerospaziale

Computer vision nel settore aerospaziale

Applica la visione artificiale nel settore aerospaziale con Ultralytics YOLO per l'ispezione degli aeromobili, il rilevamento di FOD sulle piste, le operazioni di terra aeroportuali e il rilevamento di difetti nei materiali compositi.
Scopri di più
Visione artificiale nella sicurezza

Visione artificiale nella sicurezza

Proteggi ogni sito con i modelli Ultralytics YOLO. L'IA visiva alimenta il monitoraggio perimetrale, il rilevamento delle minacce, il riconoscimento delle targhe e la sicurezza sul lavoro.
Scopri di più
Visione artificiale nella robotica

Visione artificiale nella robotica

Dai più potenza alle macchine intelligenti con i modelli Ultralytics YOLO. Nell'ambito della robotica, l'IA visiva alimenta la navigazione autonoma, la percezione, il tracciamento degli oggetti e il controllo in tempo reale.
Scopri di più
Visione artificiale nella logistica

Visione artificiale nella logistica

Semplifica la logistica con i modelli Ultralytics YOLO. L'IA per la visione consente l'ispezione dei pacchi, la selezione, il tracciamento dei veicoli e il monitoraggio della sicurezza nei magazzini in tempo reale.
Scopri di più
Visione artificiale nel commercio al dettaglio

Visione artificiale nel commercio al dettaglio

Ripensa il commercio al dettaglio con i modelli Ultralytics YOLO. L'IA per la visione consente di tracciare le scorte, monitorare gli scaffali, gestire le code e ottenere informazioni più approfondite sui clienti.
Scopri di più
Visione artificiale in ambito sanitario

Visione artificiale in ambito sanitario

Crea soluzioni sanitarie con i modelli Ultralytics YOLO. In ambito sanitario, l'IA per la visione consente di elaborare più rapidamente le immagini mediche, migliorare la diagnostica e monitorare i pazienti.
Scopri di più
Computer vision nella produzione

Computer vision nella produzione

Ottimizza la produzione con i modelli Ultralytics YOLO. La visione basata sull'IA migliora il controllo qualità, il rilevamento dei difetti, la conformità ai requisiti sui DPI e l'automazione delle linee di assemblaggio.
Scopri di più
Computer vision nel settore automobilistico

Computer vision nel settore automobilistico

Applica la computer vision al settore automobilistico con i modelli Ultralytics YOLO. La visione basata sull'IA migliora la sicurezza stradale, i sistemi di assistenza alla guida e l'automazione dei veicoli, per strade più intelligenti.
Scopri di più
Visione artificiale in agricoltura

Visione artificiale in agricoltura

Porta l'IA visiva nell'agricoltura intelligente con i modelli Ultralytics YOLO. Gestisci il monitoraggio delle colture, il tracciamento del bestiame e l'agricoltura di precisione per ottenere raccolti più abbondanti e intelligenti.
Scopri di più

Costruiamo insieme il futuro dell'IA!

Inizia il tuo percorso verso il futuro del machine learning