Richiamo

Nell'apprendimento automatico, un callback è uno script o una funzione automatizzata che viene eseguita in momenti specifici del processo di addestramento di un modello. Si tratta di un insieme di istruzioni che il framework di addestramento segue in fasi predefinite, come all'inizio o alla fine di un'epoca, di un batch di addestramento o dell'intera sessione di addestramento. Le callback sono un potente meccanismo che consente agli sviluppatori di monitorare, controllare e automatizzare vari aspetti dell'addestramento senza dover modificare il codice principale del modello o del ciclo di addestramento. Sono strumenti essenziali per costruire pipeline di apprendimento automatico (ML) efficienti e robuste.

Come funzionano i callback

Quando si addestra un rete neurale (NN)il processo prevede l'iterazione su un set di dati per più epoche. Un ciclo di addestramento gestisce questo processo, che comprende l'alimentazione dei dati al modello, il calcolo dei valori di funzione di perditae l'aggiornamento del pesi del modello attraverso retropropagazione. I callback si agganciano a questo ciclo in occasione di eventi specifici. Ad esempio, un on_epoch_end eseguirà il suo codice esattamente dopo il completamento di ogni epoca. Ciò consente di effettuare interventi dinamici, come la regolazione del parametro tasso di apprendimentosalvare la versione migliore di un modello o interrompere anticipatamente l'addestramento se le prestazioni si fermano. Questa automazione è una parte fondamentale di un sistema ben strutturato. flusso di lavoro dell'apprendimento automatico.

Esempi nella pratica

I callback sono ampiamente utilizzati in diversi compiti di computer vision (CV) per migliorare i risultati della formazione.

1. Salvataggio del miglior modello di rilevamento degli oggetti: Quando si addestra un modello Ultralytics YOLO per il rilevamento degli oggetti, si può utilizzare un callback ModelCheckpoint. Questo callback monitora la precisione media (mAP) sul set di dati di convalida. Salva i pesi del modello in un file solo quando il punteggio mAP migliora rispetto al punteggio migliore salvato in precedenza, assicurando la conservazione del modello più accurato. È possibile vedere le prestazioni dei diversi modelli nella nostra pagina di confronto dei modelli.
2. Prevenire l'overfitting nella classificazione delle immagini: Immaginiamo di addestrare un modello per la classificazione delle immagini su un dataset complesso come ImageNet. È possibile configurare un callback EarlyStopping per monitorare la perdita di validazione. Se la perdita di validazione non diminuisce per un determinato numero di epoche, il callback interrompe automaticamente l'addestramento. In questo modo si evita che il modello si adatti eccessivamente ai dati di addestramento, risparmiando tempo di addestramento e costi computazionali significativi. Per saperne di più sui compiti di classificazione delle immagini e su come implementarli.

Callback e altri concetti

È utile distinguere i callback dai termini correlati:

• Funzioni: Sebbene il callback sia un tipo di funzione, la sua caratteristica distintiva è che viene passato come argomento a un'altra funzione (il ciclo di addestramento) e viene invocato internamente da tale funzione in un momento specifico. Una funzione standard è in genere chiamata direttamente dal programmatore.
• Ganci: Nell'ingegneria del software, un gancio è un termine più generale per indicare un punto del codice che consente di inserire una logica personalizzata. I callback nei framework per l'apprendimento automatico sono un'implementazione specifica del concetto di hook, adattato agli eventi del ciclo di vita di un modello.
• Regolazione degli iperparametri: È il processo di ricerca degli iperparametri ottimali (come il tasso di apprendimento o la dimensione del batch) per un modello. I callback possono aiutare nella regolazione degli iperparametri, ad esempio implementando uno scheduler del tasso di apprendimento, ma non sono il processo di regolazione in sé. Il processo di regolazione è una procedura di ricerca o di ottimizzazione di livello superiore.

Vantaggi dell'uso dei callback

L'integrazione dei callback nel processo di formazione offre diversi vantaggi significativi:

• Automazione: Le callback automatizzano le attività ripetitive come il salvataggio dei modelli, la registrazione delle metriche con strumenti come TensorBoard e la regolazione dei parametri, riducendo la necessità di interventi manuali durante i lunghi cicli di formazione.
• Flessibilità e personalizzazione: Permettono agli sviluppatori di inserire una logica personalizzata nel ciclo di addestramento senza modificare il codice del framework principale, consentendo comportamenti di addestramento altamente personalizzati. Ciò è particolarmente utile per esperimenti complessi o per l'implementazione di tecniche di addestramento avanzate.
• Efficienza: Callback come l'arresto anticipato e la regolazione dinamica del tasso di apprendimento possono rendere la formazione più efficiente, risparmiando risorse computazionali e potenzialmente accelerando la convergenza del modello.
• Approfondimento e monitoraggio: Forniscono una visione approfondita delle dinamiche di formazione, consentendo una registrazione dettagliata e la visualizzazione delle metriche nel tempo, che è fondamentale per la valutazione del modello.
• Riproducibilità: Standardizzando le azioni intraprese durante l'addestramento (ad esempio, i criteri di salvataggio, le condizioni di arresto), le callback contribuiscono a rendere più riproducibili gli esperimenti di apprendimento automatico.

Framework come Keras e PyTorch Lightning offrono ampie raccolte di callback integrati e interfacce semplici per la creazione di callback personalizzati. Ultralytics sfrutta le callback anche internamente alle sue pipeline di addestramento, contribuendo alla robustezza e alla facilità d'uso di strumenti come Ultralytics YOLO11 e la piattaforma Ultralytics HUB. La consultazione della documentazione di Ultralytics può fornire esempi più specifici relativi all'addestramento del modello YOLO.