Active Learning

L'apprendimento attivo è una metodologia di training specializzata nel machine learning (ML) in cui un algoritmo di apprendimento può interrogare interattivamente un utente o un'altra fonte di informazioni (un "oracolo") per etichettare nuovi punti dati. L'idea centrale è che se un modello può scegliere i dati da cui apprende, può ottenere una maggiore precisione con una quantità significativamente inferiore di dati di training. Questo è particolarmente prezioso nei domini in cui l'etichettatura dei dati è costosa, richiede molto tempo o richiede conoscenze specialistiche. Invece di etichettare un intero set di dati contemporaneamente, l'apprendimento attivo dà la priorità ai campioni più "informativi" per l'etichettatura, rendendo il processo di training del modello molto più efficiente.

Come Funziona l'Active Learning

Il processo di active learning è ciclico e spesso descritto come un flusso di lavoro human-in-the-loop. In genere segue questi passaggi:

1. Training iniziale del modello: Un modello, come un rilevatore Ultralytics YOLO11, viene prima addestrato su un piccolo dataset inizialmente etichettato.
2. Interrogazione di dati non etichettati: Il modello parzialmente addestrato viene quindi utilizzato per fare previsioni su un ampio insieme di dati non etichettati. Sulla base di queste previsioni, il modello seleziona un sottoinsieme di campioni su cui è più "incerto".
3. Annotazione umana: Questi campioni incerti vengono presentati a un esperto umano (l'oracolo), che fornisce le etichette corrette.
4. Data Augmentation: I nuovi campioni etichettati vengono aggiunti al set di training.
5. Retraining: Il modello viene riaddestrato sul dataset aggiornato e più ampio. Questo ciclo si ripete finché le prestazioni del modello non raggiungono una soglia desiderata o il budget per l'etichettatura non si esaurisce.

La chiave di questo processo risiede nella strategia di query. Le strategie comuni includono l'uncertainty sampling (selezione di istanze su cui il modello è meno sicuro), il query-by-committee (utilizzo di più modelli e selezione di istanze su cui non sono d'accordo) o la stima della variazione prevista del modello. Una buona panoramica di questi è disponibile in questo sondaggio sull'Active Learning.

Applicazioni nel mondo reale

L'apprendimento attivo è molto efficace in settori specializzati in cui l'annotazione da parte di esperti rappresenta un collo di bottiglia.

• Analisi di immagini mediche: Quando si addestra un'AI per rilevare malattie come il cancro da scansioni mediche, potrebbero essere disponibili milioni di immagini, ma solo una quantità limitata di tempo di un radiologo. Invece di fargli etichettare immagini casuali, un sistema di active learning può individuare i casi più ambigui o rari da rivedere. Questo concentra lo sforzo dell'esperto dove è più necessario, accelerando lo sviluppo di un modello altamente accurato per attività come il rilevamento di tumori cerebrali. La ricerca in questo settore mostra riduzioni significative nello sforzo di etichettatura, come dettagliato in studi come questo sulla segmentazione di immagini biomediche.
• Guida autonoma: I sistemi di percezione nei veicoli autonomi devono essere addestrati su dataset vasti e diversificati che coprono innumerevoli scenari di guida. L'active learning può identificare "casi limite" dai dati di guida raccolti, come un pedone parzialmente nascosto da un ostacolo o condizioni meteorologiche insolite, con cui l'attuale modello di object detection ha difficoltà. Dando la priorità all'annotazione di queste scene impegnative, gli sviluppatori possono migliorare più efficacemente la robustezza e la sicurezza del modello.

Apprendimento attivo vs. Concetti correlati

È importante distinguere l'Active Learning da altri paradigmi di apprendimento che utilizzano anche dati non etichettati:

• Apprendimento semi-supervisionato: Utilizza sia dati etichettati che non etichettati contemporaneamente durante il training. A differenza dell'apprendimento attivo, in genere utilizza tutti i dati non etichettati disponibili passivamente, piuttosto che interrogare selettivamente istanze specifiche per le etichette.
• Apprendimento auto-supervisionato: Apprende rappresentazioni da dati non etichettati creando attività pretestuose (ad esempio, prevedere una parte mascherata di un'immagine). Non richiede l'annotazione umana durante la sua fase di pre-training, mentre l'apprendimento attivo si basa su un oracolo per le etichette. DeepMind ha esplorato ampiamente quest'area.
• Apprendimento per Rinforzo: Apprende per tentativi ed errori attraverso interazioni con un ambiente, ricevendo ricompense o penalità per le azioni. Non prevede la richiesta di etichette esplicite come nell'Active Learning.
• Apprendimento Federato (Federated Learning): Si concentra sull'addestramento di modelli su dispositivi decentralizzati mantenendo i dati in locale, affrontando principalmente i problemi di privacy dei dati. L'apprendimento attivo (Active Learning) si concentra sull'acquisizione efficiente di etichette. Queste tecniche possono talvolta essere combinate.

Strumenti e implementazione

L'implementazione dell'Active Learning spesso comporta l'integrazione di modelli ML con strumenti di annotazione e la gestione del flusso di lavoro dei dati. Framework come scikit-learn offrono alcune funzionalità, mentre librerie specializzate esistono per attività specifiche. Software di annotazione come Label Studio possono essere integrati nelle pipeline di active learning, consentendo agli annotatori di fornire etichette per i campioni interrogati. La gestione efficace dei set di dati in evoluzione e dei modelli addestrati è fondamentale e piattaforme come Ultralytics HUB forniscono l'infrastruttura per organizzare queste risorse durante tutto il ciclo di vita dello sviluppo. Esplora il repository GitHub di Ultralytics per ulteriori informazioni sull'implementazione di tecniche ML avanzate.