Callback

En apprentissage automatique, un callback est un script ou une fonction automatisée qui est exécutée à des moments précis pendant le processus d'entraînement d'un modèle. Considérez-le comme un ensemble d'instructions que le framework d'entraînement suit à des étapes prédéfinies, comme au début ou à la fin d'une époque, d'un lot d'entraînement ou de l'ensemble de la session d'entraînement. Les callbacks fournissent un mécanisme puissant permettant aux développeurs de surveiller, de contrôler et d'automatiser divers aspects de l'entraînement sans avoir à modifier le code de base du modèle ou de la boucle d'entraînement. Ce sont des outils essentiels pour construire des pipelines d'apprentissage automatique (ML) efficaces et robustes.

Comment fonctionnent les rappels

Lorsque vous entraînez un réseau neuronal (RN), le processus implique d'itérer sur un ensemble de données pendant plusieurs époques. Une boucle d'entraînement gère ce processus, qui comprend l'alimentation des données au modèle, le calcul de la fonction de perte, et la mise à jour du poids du modèle par rétropropagation. Les callbacks s'intègrent à cette boucle lors d'événements spécifiques. Par exemple, un on_epoch_end Le callback exécutera son code précisément après chaque fin d'epoch. Cela permet des interventions dynamiques, telles que l'ajustement du taux d'apprentissage, l'enregistrement de la meilleure version d'un modèle ou l'arrêt précoce de l'entraînement si les performances se stabilisent. Cette automatisation est un élément clé d'un flux de travail d'apprentissage automatique.

Exemples d'application

Les callbacks sont largement utilisés dans diverses tâches de vision par ordinateur (CV) pour améliorer les résultats de l'entraînement.

1. Sauvegarde du meilleur modèle de détection d'objets : Lors de l'entraînement d'un modèle Ultralytics YOLO pour la détection d'objets, vous pouvez utiliser un callback ModelCheckpoint. Ce callback surveille la précision moyenne moyenne (mAP) sur l'ensemble de données de validation. Il enregistre les poids du modèle dans un fichier uniquement lorsque le score mAP s'améliore par rapport au meilleur score enregistré précédemment, garantissant ainsi que vous conservez le modèle le plus précis. Vous pouvez voir comment différents modèles fonctionnent sur notre page de comparaison des modèles.
2. Prévention du surapprentissage dans la classification d'images : Imaginez que vous entraînez un modèle de classification d'images sur un ensemble de données complexe comme ImageNet. Un callback EarlyStopping peut être configuré pour surveiller la perte de validation. Si la perte de validation ne diminue pas pendant un nombre défini d'epochs, le callback arrête automatiquement l'entraînement. Cela empêche le modèle de surapprendre les données d'entraînement et permet d'économiser un temps d'entraînement et des coûts de calcul considérables. Vous pouvez en apprendre davantage sur les tâches de classification d'images et sur la manière de les mettre en œuvre.

Callbacks vs. Autres concepts

Il est utile de distinguer les rappels (callbacks) des termes connexes :

• Fonctions : Bien qu'un callback soit un type de fonction, sa caractéristique déterminante est qu'il est passé en argument à une autre fonction (la boucle d'entraînement) et est invoqué en interne par cette fonction à un moment précis. Une fonction standard est généralement appelée directement par le programmeur.
• Hooks : En génie logiciel, un hook est un terme plus général désignant un endroit dans le code qui permet d'insérer une logique personnalisée. Les callbacks dans les frameworks d'apprentissage automatique sont une implémentation spécifique du concept de hook, adaptés aux événements du cycle de vie de l'entraînement d'un modèle.
• Réglage des hyperparamètres : Il s'agit du processus de recherche des hyperparamètres optimaux (tels que le taux d'apprentissage ou la taille du lot) pour un modèle. Les rappels peuvent aider au réglage des hyperparamètres, par exemple, en mettant en œuvre un planificateur de taux d'apprentissage, mais ils ne sont pas le processus de réglage lui-même. Le processus de réglage est une procédure de recherche ou d'optimisation de niveau supérieur.

Avantages de l'utilisation des Callbacks

L'intégration de callbacks dans le processus d'entraînement offre plusieurs avantages significatifs :

• Automatisation : Les rappels automatisent les tâches répétitives telles que l'enregistrement des modèles, la journalisation des métriques avec des outils tels que TensorBoard et l'ajustement des paramètres, réduisant ainsi le besoin d'intervention manuelle pendant les longues séries d'entraînement.
• Flexibilité et personnalisation : Ils permettent aux développeurs d'insérer une logique personnalisée dans la boucle d'entraînement sans modifier le code du cadre de base, ce qui permet des comportements d'entraînement hautement personnalisés. Ceci est particulièrement utile pour les expériences complexes ou la mise en œuvre de techniques d'entraînement avancées.
• Efficacité : Les callbacks comme l'arrêt précoce et l'ajustement dynamique du taux d'apprentissage peuvent rendre l'entraînement plus efficace en économisant des ressources de calcul et en accélérant potentiellement la convergence du modèle.
• Aperçu et surveillance : Ils fournissent des informations approfondies sur la dynamique de l'entraînement en permettant une journalisation et une visualisation détaillées des métriques au fil du temps, ce qui est essentiel pour l'évaluation du modèle.
• Reproductibilité : En standardisant les actions entreprises pendant l'entraînement (par exemple, en enregistrant les critères, les conditions d'arrêt), les callbacks contribuent à des expériences d'apprentissage automatique plus reproductibles.

Les frameworks comme Keras et PyTorch Lightning offrent de vastes collections de fonctions de rappel intégrées et des interfaces simples pour en créer des personnalisées. Ultralytics exploite également les fonctions de rappel en interne dans ses pipelines d'entraînement, contribuant ainsi à la robustesse et à la convivialité d'outils tels que Ultralytics YOLO11 et la plateforme Ultralytics HUB. La consultation de la documentation Ultralytics peut fournir des exemples plus spécifiques liés à l'entraînement des modèles YOLO.