Catastrophic Forgetting

L'oubli catastrophique, souvent appelé interférence catastrophique, est un phénomène largement étudié dans le domaine de l'apprentissage automatique où un réseau de neurones artificiel perd brusquement des informations apprises précédemment lors de l'acquisition de nouvelles tâches. Lorsqu'un modèle subit un entraînement séquentiel pour s'adapter à un nouveau jeu de données, les algorithmes d'optimisation utilisant la rétropropagation mettent à jour les poids du modèle. Ce processus écrase souvent par inadvertance les représentations mathématiques nécessaires aux tâches précédentes. Par conséquent, un système d'IA hautement optimisé pour sa fonction initiale peut subir une dégradation sévère de ses performances sur ces tâches premières s'il est entraîné exclusivement sur de nouvelles données sans mesures correctives spécifiques.

Link to this sectionPourquoi l'oubli catastrophique se produit-il ?#

En apprentissage profond, les connaissances d'un modèle sont stockées à travers un réseau distribué de neurones interconnectés. Lors du fine-tuning, des fonctions d'optimisation comme la Stochastic Gradient Descent ajustent ces connexions pour minimiser l'erreur sur les nouvelles données. Si le nouveau jeu de données d'entraînement ne contient pas d'exemples des classes originales, le processus d'optimisation déplace les poids vers la nouvelle distribution de données, effaçant effectivement la « mémoire » de l'ancienne distribution. Des études récentes sur le changement structurel indiquent que cet effondrement interne limite fondamentalement la capacité des réseaux de neurones modernes à atteindre un apprentissage tout au long de la vie prêt à l'emploi.

Link to this sectionDifférencier les concepts associés#

Il est crucial de distinguer l'oubli catastrophique d'autres concepts d'IA :

• Oubli catastrophique vs Effondrement de modèle : Alors que l'oubli se produit en raison de l'apprentissage incrémental de nouvelles tâches, l'effondrement de modèle est une dégradation progressive des performances sur une même tâche lorsqu'un modèle s'entraîne de manière récursive sur des données synthétiques générées par d'autres modèles d'IA.
• Oubli catastrophique vs Apprentissage continu : L'apprentissage continu est la méthodologie de recherche globale visant à résoudre l'oubli catastrophique. Les algorithmes d'apprentissage continu tentent de permettre aux modèles d'acquérir séquentiellement de nouvelles connaissances sans oublier.

Link to this sectionExemples concrets#

L'oubli catastrophique pose un défi significatif dans divers domaines de l'IA opérant dans des environnements dynamiques réels :

• Systèmes autonomes : Dans les pipelines de perception pour les véhicules autonomes, un système de vision par ordinateur initialement entraîné pour reconnaître les piétons et les panneaux de signalisation standards pourrait être fine-tuné pour reconnaître de nouveaux panneaux de chantier spécifiques à une région. Sans garde-fous, le système pourrait soudainement avoir des difficultés à détecter de manière fiable les piétons, créant un risque de sécurité majeur.
• Langage et IA cognitive : Lors de la personnalisation de grands modèles de langage pour des tâches spécifiques à un domaine, comme les diagnostics médicaux, le modèle pourrait oublier son alignement conversationnel ou ses compétences de raisonnement général. Une analyse comparative récente sur les LLM montre que le fine-tuning standard sur des textes hautement spécialisés érode souvent l'alignement de sécurité préalable, amenant les modèles à perdre leurs capacités de suivi d'instructions primaires.

Link to this sectionSurmonter l'oubli catastrophique#

Les ingénieurs en IA utilisent plusieurs stratégies pour atténuer ce problème et maintenir un dilemme plasticité-stabilité optimal :

• Replay et fusion de jeux de données : La méthode la plus fiable consiste à mélanger un sous-ensemble des données d'entraînement originales avec les nouvelles données. Des outils comme la plateforme Ultralytics facilitent la gestion et le versionnage des jeux de données combinés pour garantir que les classes originales sont effectivement rejouées pendant l'entraînement.
• Elastic Weight Consolidation (EWC) : Cette technique de régularisation limite les mises à jour des paramètres qui étaient cruciaux pour les anciennes tâches. En identifiant et en préservant ces poids clés, les modèles réduisent l'oubli, comme le soulignent des expériences récentes sur la résolution de l'oubli des réseaux.
• Fine-Tuning efficace en termes de paramètres (PEFT) : Des méthodes comme Low-Rank Adaptation (LoRA) figent les poids pré-entraînés de base et injectent de petites matrices entraînables dans le réseau, empêchant ainsi l'écrasement des connaissances de base.
• Figeage de couches : Dans les cycles d'entraînement plus courts, le figeage des couches backbone et neck garantit que les extracteurs de caractéristiques de base restent intacts.
• Optimisation sans gradient : De nouveaux frameworks ont récemment démontré que les méthodes basées sur le passage direct (forward pass) peuvent également atténuer l'oubli efficacement dans des environnements où les mises à jour de gradient sont contraintes.

Link to this sectionExemple d'implémentation en Vision AI#

Lors de l'adaptation d'Ultralytics YOLO pour une nouvelle tâche de détection d'objets, le figeage des couches est une approche efficace et accessible. L'exemple suivant montre comment entraîner un modèle Ultralytics YOLO26 sur un nouveau jeu de données tout en empêchant l'oubli catastrophique en figeant les 10 premières couches.

from ultralytics import YOLO

# Load a pretrained Ultralytics YOLO26 model
model = YOLO("yolo26n.pt")

# Train on a combined dataset while freezing core backbone layers
# The 'freeze=10' argument prevents catastrophic forgetting of foundational visual features
results = model.train(data="combined_dataset.yaml", epochs=20, freeze=10, lr0=0.001)

# Evaluate the model to ensure it retains performance on old and new tasks
metrics = model.val()