Continual Learning

L’apprentissage continu (CL), souvent appelé apprentissage tout au long de la vie, désigne la capacité d’un modèle d’intelligence artificielle à apprendre successivement de nouvelles tâches ou à acquérir de nouvelles connaissances au fil du temps, sans oublier les informations déjà apprises. Contrairement aux pipelines traditionnels d’apprentissage automatique, où les modèles sont entraînés une fois sur un jeu de données statique puis déployés, l’apprentissage continu imite la capacité humaine à s’adapter à de nouveaux environnements et à apprendre continuellement de nouvelles expériences. Le principal défi dans ce domaine est de surmonter l’oubli catastrophique, un phénomène où l’entraînement d’un réseau neuronal sur de nouvelles données dégrade considérablement ses performances sur les tâches précédentes, parce que les poids optimisés pour ces anciennes tâches sont écrasés.

Pourquoi l’apprentissage continu est important#

Dans les environnements réels dynamiques, les distributions de données restent rarement statiques. Par exemple, un système de perception visuelle à bord d’un véhicule autonome doit s’adapter aux changements de saison, aux nouvelles règles de circulation ou aux plans de différentes villes, sans perdre sa capacité à reconnaître les panneaux routiers de base appris lors de son entraînement initial. Un réentraînement à partir de zéro sur un jeu de données cumulatif est souvent coûteux en calcul et peu pratique en raison des contraintes de stockage ou des problèmes de confidentialité. L’apprentissage continu répond à ces difficultés en permettant la mise à jour incrémentielle des modèles, ce qui les rend plus efficaces et évolutifs pour les applications d’IA en périphérie, où les ressources sont limitées.

Applications concrètes#

• Robotique et systèmes autonomes : Les robots déployés dans des environnements non structurés doivent manipuler de nouveaux objets ou parcourir des terrains inconnus. Grâce à l’apprentissage continu, un robot peut maîtriser une tâche de fabrication précise, puis apprendre à manipuler une autre gamme de produits sans devoir réinitialiser tout le système, favorisant ainsi des pipelines d’innovation de l’industrie 4.0 flexibles.
• Diagnostic par imagerie médicale : Les données de santé évoluent avec l’apparition de nouvelles maladies ou les changements de protocoles d’imagerie. Un système d’IA qui assiste les radiologues peut recourir à l’apprentissage continu pour intégrer de nouvelles pathologies, comme une nouvelle souche virale visible sur des radiographies, tout en conservant une grande précision dans la détection d’affections courantes comme la pneumonie ou les fractures. Cette capacité est essentielle pour maintenir des diagnostics médicaux à jour sans compromettre la sécurité des patients lorsque les protocoles établis sont appliqués.

Principales stratégies d’apprentissage continu#

Pour atténuer l’oubli catastrophique, les chercheurs utilisent plusieurs stratégies. Les méthodes de régularisation ajoutent des contraintes à la fonction de perte afin d’éviter des changements importants aux poids jugés essentiels lors des tâches précédentes. Les méthodes de rejeu conservent un petit sous-ensemble des données précédentes (ou génèrent des échantillons synthétiques à l’aide de l’IA générative) et les mélangent aux nouvelles données pendant l’entraînement. Enfin, l’isolation des paramètres réserve des sous-ensembles précis des paramètres du modèle à différentes tâches, garantissant que les mises à jour d’une nouvelle tâche n’interfèrent pas avec les paramètres optimisés pour les tâches précédentes. Les avancées récentes de 2024 et 2025 visent à utiliser les modèles de langage et de vision pour mieux déterminer quelles caractéristiques sont génériques et lesquelles sont propres à une tâche.

Apprentissage continu vs apprentissage par transfert#

Il est important de distinguer l’apprentissage continu de l’apprentissage par transfert. Dans l’apprentissage par transfert, un modèle préentraîné sert de point de départ pour résoudre une tâche précise nouvelle, et ses performances sur la tâche d’origine sont généralement sans importance. L’objectif est de maximiser les performances dans le domaine cible. À l’inverse, l’apprentissage continu vise à obtenir de bonnes performances sur la nouvelle tâche et sur toutes les tâches précédentes. De même, alors que l’apprentissage actif vise à sélectionner les points de données les plus informatifs à annoter pour l’entraînement, l’apprentissage continu se concentre sur le processus de mise à jour du modèle au fil du temps.

Mise à jour d’un modèle YOLO#

Bien que l’apprentissage continu véritable nécessite des ajustements architecturaux spécialisés, les utilisateurs peuvent simuler ce flux de travail en affinant les modèles sur de nouvelles données mélangées à un tampon de données anciennes. La plateforme Ultralytics simplifie la gestion de ces jeux de données et le contrôle des versions des modèles. Voici un exemple de mise à jour d’un modèle à l’aide de l’API Python :

from ultralytics import YOLO

# Charger un modèle précédemment entraîné sur 'dataset_v1.yaml'
model = YOLO("yolo26n-v1.pt")

# Entraîner le modèle sur un nouveau jeu de données contenant des échantillons nouveaux et anciens
# Cela aide à atténuer l’oubli catastrophique en « rejouant » les anciennes données
results = model.train(
    data="dataset_v2_combined.yaml",
    epochs=50,
    imgsz=640,
    lr0=0.001,  # Taux d’apprentissage plus faible pour l’ajustement fin
)

Défis et orientations futures#

Malgré les progrès, l’apprentissage continu demeure un domaine de recherche actif. Il est difficile de déterminer le dilemme plasticité-stabilité optimal — trouver l’équilibre entre la capacité à apprendre de nouvelles choses (plasticité) et celle à retenir les anciennes (stabilité). De plus, l’évaluation de ces systèmes nécessite des mesures de performance robustes qui tiennent compte du transfert prospectif (vitesse d’apprentissage des nouvelles tâches) et du transfert rétrospectif (incidence sur les anciennes tâches). À mesure que les modèles de fondation prennent de l’ampleur, des méthodes d’adaptation continue efficaces comme l’adaptation de bas rang (LoRA) deviennent essentielles pour personnaliser les systèmes à grande échelle sans réentraînement complet.