Apprentissage Actif

L'apprentissage actif est une méthodologie d'entraînement spécialisée dans le domaine de l'apprentissage automatique (AA) où un algorithme d'apprentissage peut interagir avec un utilisateur ou une autre source d'information (un "oracle") pour étiqueter de nouveaux points de données. L'idée principale est que si un modèle peut choisir les données à partir desquelles il apprend, il peut atteindre une plus grande précision avec beaucoup moins de données d'entraînement. Ceci est particulièrement utile dans les domaines où l'étiquetage des données est coûteux, prend du temps ou nécessite des connaissances d'expert. Au lieu d'étiqueter un ensemble de données entier en une seule fois, l'apprentissage actif priorise les échantillons les plus "informatifs" pour l'étiquetage, ce qui rend le processus d'entraînement du modèle beaucoup plus efficace.

Comment fonctionne l'apprentissage actif

Le processus d'apprentissage actif est cyclique et souvent décrit comme un flux de travail humain dans la boucle. Il suit généralement ces étapes :

1. Entraînement initial du modèle : Un modèle, tel qu'un détecteur Ultralytics YOLO11, est d'abord entraîné sur un petit ensemble de données initialement étiqueté.
2. Interrogation de données non étiquetées : Le modèle partiellement entraîné est ensuite utilisé pour faire des prédictions sur un grand ensemble de données non étiquetées. Sur la base de ces prédictions, le modèle sélectionne un sous-ensemble d'échantillons sur lesquels il est le plus "incertain".
3. Annotation humaine : Ces échantillons incertains sont présentés à un expert humain (l'oracle), qui fournit les étiquettes correctes.
4. Augmentation de l'ensemble de données : Les échantillons nouvellement étiquetés sont ajoutés à l'ensemble d'entraînement.
5. Réentraînement : Le modèle est réentraîné sur l'ensemble de données mis à jour et plus volumineux. Ce cycle se répète jusqu'à ce que les performances du modèle atteignent un seuil souhaité ou que le budget d'étiquetage soit épuisé.

La clé de ce processus réside dans la stratégie de requête. Les stratégies courantes incluent l'échantillonnage d'incertitude (sélection des instances sur lesquelles le modèle est le moins sûr), la requête par comité (utilisation de plusieurs modèles et sélection des instances sur lesquelles ils sont en désaccord) ou l'estimation du changement de modèle attendu. Un bon aperçu de ces stratégies peut être trouvé dans cette enquête sur l'apprentissage actif.

Applications concrètes

L'apprentissage actif est très efficace dans les domaines spécialisés où l'annotation par des experts constitue un goulot d'étranglement.

• Analyse d'images médicales : Lors de l'entraînement d'une IA pour détecter des maladies comme le cancer à partir d'images médicales, il peut y avoir des millions d'images disponibles, mais seulement un temps limité de radiologue. Au lieu de leur faire étiqueter des images aléatoires, un système d'apprentissage actif peut identifier les cas les plus ambigus ou les plus rares à examiner. Cela concentre l'effort de l'expert là où il est le plus nécessaire, accélérant ainsi le développement d'un modèle très précis pour des tâches telles que la détection de tumeurs cérébrales. Les recherches dans ce domaine montrent des réductions significatives de l'effort d'étiquetage, comme le détaillent des études comme celle-ci sur la segmentation d'images biomédicales.
• Conduite autonome : Les systèmes de perception des véhicules autonomes doivent être entraînés sur des ensembles de données vastes et diversifiés couvrant d'innombrables scénarios de conduite. L'apprentissage actif peut identifier les "cas limites" à partir des données de conduite collectées : par exemple, un piéton partiellement caché par un obstacle ou des conditions météorologiques inhabituelles : avec lesquels le modèle de détection d'objets actuel a des difficultés. En donnant la priorité à l'annotation de ces scènes difficiles, les développeurs peuvent améliorer plus efficacement la robustesse et la sécurité du modèle.

Apprentissage actif vs. Concepts connexes

Il est important de distinguer l'apprentissage actif des autres paradigmes d'apprentissage qui utilisent également des données non étiquetées :

• Apprentissage semi-supervisé : Utilise simultanément des données étiquetées et non étiquetées pendant l'entraînement. Contrairement à l'apprentissage actif, il utilise généralement toutes les données non étiquetées disponibles de manière passive, plutôt que d'interroger sélectivement des instances spécifiques pour obtenir des étiquettes.
• Apprentissage Auto-Supervisé : Apprend les représentations à partir de données non étiquetées en créant des tâches prétextes (par exemple, prédire une partie masquée d'une image). Il ne nécessite pas d'annotation humaine pendant sa phase de pré-entraînement, tandis que l'apprentissage actif s'appuie sur un oracle pour les étiquettes. DeepMind a exploré ce domaine de manière approfondie.
• Apprentissage par renforcement : Apprend par essais et erreurs grâce aux interactions avec un environnement, en recevant des récompenses ou des pénalités pour les actions. Il ne s’agit pas d’interroger pour obtenir des étiquettes explicites comme l’apprentissage actif.
• Apprentissage fédéré: Se concentre sur l'entraînement de modèles sur des appareils décentralisés tout en conservant les données en local, répondant principalement aux préoccupations relatives à la confidentialité des données. L'apprentissage actif se concentre sur l'acquisition efficace d'étiquettes. Ces techniques peuvent parfois être combinées.

Outils et implémentation

La mise en œuvre de l'apprentissage actif implique souvent l'intégration de modèles de ML avec des outils d'annotation et la gestion du flux de travail des données. Des frameworks comme scikit-learn offrent certaines fonctionnalités, tandis que des bibliothèques spécialisées existent pour des tâches spécifiques. Les logiciels d'annotation tels que Label Studio peuvent être intégrés dans des pipelines d'apprentissage actif, permettant aux annotateurs de fournir des étiquettes pour les échantillons interrogés. Une gestion efficace des ensembles de données en évolution et des modèles entraînés est cruciale, et des plateformes comme Ultralytics HUB fournissent une infrastructure pour organiser ces actifs tout au long du cycle de développement. Explorez le dépôt GitHub d'Ultralytics pour plus d'informations sur la mise en œuvre de techniques avancées de ML.