Continual Learning

L'apprentissage continu (CL), souvent appelé apprentissage tout au long de la vie, décrit la capacité d'un modèle d'intelligence artificielle à apprendre séquentiellement de nouvelles tâches ou à acquérir de nouvelles connaissances au fil du temps sans oublier les informations précédemment apprises. Contrairement aux pipelines d'apprentissage automatique traditionnels, où les modèles sont entraînés une seule fois sur un jeu de données statique puis déployés, l'apprentissage continu imite la capacité humaine à s'adapter à de nouveaux environnements et à apprendre de nouvelles expériences en continu. Le défi principal dans ce domaine est de surmonter l'oubli catastrophique, un phénomène où l'entraînement d'un réseau de neurones sur de nouvelles données entraîne une dégradation drastique de ses performances sur les anciennes tâches, car les poids optimisés pour ces dernières sont écrasés.

Link to this sectionPourquoi l'apprentissage continu est-il important#

Dans les environnements réels dynamiques, les distributions de données restent rarement statiques. Par exemple, un système de perception visuelle sur un véhicule autonome doit s'adapter aux changements de saison, aux nouvelles réglementations routières ou aux différentes configurations urbaines sans perdre la capacité de reconnaître les panneaux de signalisation de base appris lors de son entraînement initial. Un réentraînement complet à partir de zéro sur un jeu de données cumulatif est souvent coûteux en calcul et peu pratique en raison des contraintes de stockage ou des préoccupations liées à la confidentialité. L'apprentissage continu résout ces problèmes en permettant aux modèles d'être mis à jour de manière incrémentale, les rendant plus efficaces et évolutifs pour les applications d'IA en périphérie où les ressources sont limitées.

Link to this sectionApplications concrètes#

• Robotique et systèmes autonomes : Les robots déployés dans des environnements non structurés doivent manipuler des objets inédits ou naviguer sur de nouveaux terrains. Grâce à l'apprentissage continu, un robot peut maîtriser une tâche de fabrication spécifique, puis apprendre à gérer une gamme de produits différente sans avoir besoin d'une réinitialisation complète du système, soutenant ainsi efficacement les pipelines d'innovation de l'industrie 4.0.
• Diagnostic par imagerie médicale : Les données de santé évoluent à mesure que de nouvelles maladies apparaissent ou que les protocoles d'imagerie changent. Un système d'IA assistant les radiologues peut utiliser l'apprentissage continu pour intégrer de nouvelles pathologies, comme une nouvelle souche de virus observée sur des radiographies, tout en conservant une grande précision dans la détection d'affections courantes telles que les pneumonies ou les fractures. Cette capacité est essentielle pour maintenir des diagnostics de santé à jour sans compromettre la sécurité des patients sur les protocoles établis.

Link to this sectionStratégies clés de l'apprentissage continu#

Pour atténuer l'oubli catastrophique, les chercheurs emploient plusieurs stratégies. Les méthodes de régularisation ajoutent des contraintes à la fonction de perte pour empêcher des changements importants sur les poids identifiés comme cruciaux lors des tâches précédentes. Les méthodes de rejeu stockent un petit sous-ensemble de données précédentes (ou génèrent des échantillons synthétiques via l'IA générative) et les mélangent aux nouvelles données lors de l'entraînement. Enfin, l'isolation des paramètres dédie des sous-ensembles spécifiques des paramètres du modèle à différentes tâches, garantissant que les mises à jour pour une nouvelle tâche n'interfèrent pas avec les paramètres optimisés pour les tâches précédentes. Les avancées récentes en 2024 et 2025 se sont concentrées sur l'utilisation de modèles de vision-langage pour mieux identifier quels traits sont génériques et lesquels sont spécifiques à une tâche.

Link to this sectionApprentissage continu vs Apprentissage par transfert#

Il est important de distinguer l'apprentissage continu de l'apprentissage par transfert. Dans l'apprentissage par transfert, un modèle pré-entraîné sert de point de départ pour résoudre une nouvelle tâche spécifique, et la performance sur la tâche initiale est généralement sans importance. L'objectif est de maximiser la performance dans le domaine cible. À l'inverse, l'objectif de l'apprentissage continu est d'obtenir de bons résultats à la fois sur la nouvelle tâche et sur toutes les tâches précédentes. De même, tandis que l'apprentissage actif se concentre sur la sélection des points de données les plus informatifs à étiqueter pour l'entraînement, l'apprentissage continu se concentre sur le processus de mise à jour du modèle lui-même au fil du temps.

Link to this sectionMise à jour d'un modèle YOLO#

Bien que le véritable apprentissage continu nécessite des ajustements architecturaux spécialisés, tu peux simuler ce flux de travail en ajustant (fine-tuning) des modèles sur de nouvelles données mélangées à un tampon de données anciennes. La plateforme Ultralytics simplifie la gestion de ces jeux de données et le versionnage des modèles. Voici un exemple de la façon dont tu pourrais aborder la mise à jour d'un modèle en utilisant l'API Python :

from ultralytics import YOLO

# Load a model previously trained on 'dataset_v1.yaml'
model = YOLO("yolo26n-v1.pt")

# Train the model on a new dataset containing new and old samples
# This helps mitigate catastrophic forgetting by "replaying" old data
results = model.train(
    data="dataset_v2_combined.yaml",
    epochs=50,
    imgsz=640,
    lr0=0.001,  # Lower learning rate for fine-tuning
)

Link to this sectionDéfis et orientations futures#

Malgré les progrès, l'apprentissage continu demeure un domaine de recherche actif. Déterminer le dilemme plasticité-stabilité optimal — équilibrer la capacité à apprendre de nouvelles choses (plasticité) et la capacité à retenir les anciennes (stabilité) — est difficile. De plus, l'évaluation de ces systèmes nécessite des métriques de performance robustes qui prennent en compte à la fois le transfert vers l'avant (vitesse d'apprentissage sur de nouvelles tâches) et le transfert vers l'arrière (impact sur les anciennes tâches). À mesure que les modèles de fondation deviennent plus volumineux, des méthodes d'adaptation continue efficaces comme la Low-Rank Adaptation (LoRA) deviennent cruciales pour personnaliser des systèmes à grande échelle sans réentraînement complet.