Active Learning

L’apprendimento attivo è un approccio di apprendimento automatico in cui il modello sceglie quali esempi senza etichetta una persona dovrebbe etichettare successivamente. Invece di etichettare un campione casuale dei dati, un team addestra un modello su un piccolo insieme etichettato, lo usa per assegnare punteggi a un ampio insieme di esempi senza etichetta, invia ai revisori quelli più informativi, riaddestra il modello sull’insieme ampliato e ripete il processo. La persona che fornisce le etichette è detta oracolo. L’obiettivo è raggiungere un’accuratezza prestabilita con il minor numero possibile di etichette, un aspetto importante quando l’etichettatura richiede esperti, come i radiologi che leggono le scansioni, o quando l’insieme di dati è troppo grande per essere etichettato per intero, come i video registrati ogni giorno da una flotta di veicoli autonomi.

Come funziona il ciclo di apprendimento attivo#

I progetti di visione artificiale usano di solito l’apprendimento attivo basato su pool, in cui una raccolta fissa di immagini senza etichetta attende di ricevere un punteggio. Ogni iterazione prevede quattro passaggi:

1. Addestramento: addestra un modello, ad esempio un modello di rilevamento degli oggetti, sugli esempi etichettati raccolti fino a quel momento.
2. Assegnazione dei punteggi: esegui il modello sull’insieme senza etichetta e assegna a ogni esempio un punteggio di informatività.
3. Selezione: invia agli annotatori il gruppo con i punteggi più alti per l’etichettatura dei dati.
4. Aggiornamento: aggiungi le nuove etichette ai dati di addestramento e riaddestra il modello.

Il ciclo termina quando si esaurisce il budget per l’etichettatura o l’accuratezza su un set di convalida fisso smette di migliorare. Confrontare ogni iterazione con un modello addestrato sullo stesso numero di etichette scelte casualmente mostra se la selezione è efficace.

Strategie di selezione#

La strategia di selezione determina cosa si considera informativo:

• Campionamento per incertezza: sceglie gli esempi su cui il modello è meno sicuro, misurandoli tramite la confidenza più bassa della classe principale, il margine minimo tra le due classi principali o la massima entropia della distribuzione delle classi previste.
• Selezione tramite comitato: addestra diversi modelli e sceglie gli esempi su cui non sono d’accordo. Il dropout Monte Carlo permette di ottenere un comitato economico da un’unica rete.
• Campionamento per diversità: sceglie esempi che coprono lo spazio degli embedding, evitando che un gruppo si riempia di quasi duplicati, come fotogrammi consecutivi di un video. L’approccio core-set formula così la selezione dei gruppi, dopo aver rilevato che molte euristiche basate sull’incertezza non erano efficaci per le CNN in questo contesto.
• Strategie ibride: combinano entrambi i segnali. BADGE seleziona esempi sia incerti sia diversificati nello spazio degli embedding dei gradienti, senza pesi regolati manualmente.

I rilevatori producono molti riquadri per immagine, quindi i punteggi dei riquadri devono essere combinati in un unico punteggio per immagine, ad esempio facendo la media della confidenza di ogni rilevamento. Lo script qui sotto ordina un piccolo insieme in base alla confidenza media dei rilevamenti con un modello YOLO26 preaddestrato e seleziona per prima l’immagine meno sicura:

from ultralytics import YOLO

# Model trained on the current labeled set
model = YOLO("yolo26n.pt")

# Unlabeled pool, usually thousands of images
pool = ["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"]
results = model(pool, conf=0.1)

# Least-confidence sampling: score each image by its mean detection confidence
scores = {}
for image, result in zip(pool, results):
    if len(result.boxes):
        scores[image] = result.boxes.conf.mean().item()

# Query the lowest-scoring images first, within a labeling budget of one image
query = sorted(scores, key=scores.get)[:1]
print(f"Label next: {query}")

La soglia bassa conf=0.1 mantiene nel punteggio i rilevamenti deboli, poiché sono quelli di cui il modello è meno sicuro. L’editor di annotazione della piattaforma Ultralytics completa il ciclo: la modalità Smart carica i tuoi modelli YOLO ottimizzati, così ogni modello riaddestrato pre-etichetta il gruppo selezionato successivamente, che gli annotatori possono correggere.

Problemi pratici#

• Avvio a freddo: i punteggi di incertezza di un modello addestrato su poche decine di esempi sono inaffidabili, quindi i primi cicli usano spesso una selezione casuale o basata sulla diversità. Anche i modelli visione-linguaggio possono pre-etichettare un primo batch partendo dai soli nomi delle classi, e la classifica VLM confronta la precisione con cui annotano dataset di rilevamento del mondo reale.
• Gruppi ridondanti: scegliere indipendentemente le immagini con maggiore incertezza tende a restituire gruppi di immagini quasi identiche; è il problema che le strategie di diversità e ibride cercano di affrontare.
• Bias di campionamento: l’insieme etichettato si discosta dalla distribuzione reale dei dati perché sovrarappresenta i casi difficili; per mantenere imparziali i punteggi, gli insiemi di convalida e test vengono quindi estratti casualmente dall’intero insieme.
• Valori anomali: immagini danneggiate, sfocate o fuori dominio sembrano incerte a qualsiasi modello e possono sprecare il budget per l’etichettatura se non vengono filtrate.

Apprendimento attivo e termini correlati#

• Apprendimento semisupervisionato: usa anch’esso dati senza etichetta, ma il modello assegna pseudo-etichette alle proprie previsioni sicure invece di chiedere a una persona di esaminare quelle incerte. I due approcci vengono spesso combinati.
• Apprendimento curricolare: ordina durante l’addestramento gli esempi già etichettati dal più semplice al più difficile. L’apprendimento attivo decide quali esempi vengono etichettati.
• Estrazione dei negativi difficili: seleziona i negativi etichettati che il modello classifica peggio e li usa maggiormente nell’addestramento. Opera su etichette esistenti e non ne aggiunge di nuove.
• Volano dei dati: un ciclo di produzione in cui i modelli distribuiti fanno emergere nuovi dati che migliorano il modello successivo. L’apprendimento attivo è una fase di selezione comune al suo interno.