Catastrophic Forgetting

Katastrophales Vergessen, häufig als catastrophic interference bezeichnet, ist ein weit erforschtes Phänomen im machine learning, bei dem ein künstliches neuronales Netz beim Erlernen neuer Aufgaben abrupt bereits erlerntes Wissen verliert. Wenn ein Modell ein sequentielles Training durchläuft, um sich an einen neuen Datensatz anzupassen, aktualisieren Optimierungsalgorithmen mittels backpropagation die model weights. Dieser Prozess überschreibt oft unbeabsichtigt die mathematischen Repräsentationen, die für frühere Aufgaben erforderlich waren. Folglich kann ein für seinen ursprünglichen Zweck hochoptimiertes KI-System bei diesen anfänglichen Aufgaben eine starke Leistungsverschlechterung erfahren, wenn es ohne spezifische Gegenmaßnahmen ausschließlich mit neuen Daten trainiert wird.

Link to this sectionWarum katastrophales Vergessen auftritt#

Im deep learning ist das Wissen eines Modells über ein verteiltes Netzwerk aus miteinander verbundenen Neuronen gespeichert. Während des fine-tuning passen Optimierungsfunktionen wie Stochastic Gradient Descent diese Verbindungen an, um den Fehler bei den neuen Daten zu minimieren. Wenn der neue Trainingsdatensatz keine Beispiele der ursprünglichen Klassen enthält, verschiebt der Optimierungsprozess die Gewichte in Richtung der neuen Datenverteilung, wodurch das „Gedächtnis“ der alten Verteilung effektiv gelöscht wird. Aktuelle Studien zu strukturellen Verschiebungen deuten darauf hin, dass dieser interne Zusammenbruch die Fähigkeit moderner neural networks grundlegend einschränkt, lebenslanges Lernen (lifelong learning) von Haus aus zu erreichen.

Link to this sectionUnterscheidung verwandter Konzepte#

Es ist entscheidend, katastrophales Vergessen von anderen KI-Konzepten abzugrenzen:

• Katastrophales Vergessen vs. Modellkollaps: Während Vergessen durch das inkrementelle Erlernen neuer Aufgaben auftritt, ist Modellkollaps eine schleichende Verschlechterung der Leistung bei derselben Aufgabe, wenn ein Modell rekursiv mit synthetischen Daten trainiert wird, die von anderen KI-Modellen generiert wurden.
• Katastrophales Vergessen vs. Continual Learning: Continual Learning ist die übergeordnete Forschungsmethodik, die darauf abzielt, katastrophales Vergessen zu lösen. Algorithmen für Continual Learning versuchen, Modellen zu ermöglichen, sequentiell neues Wissen zu erwerben, ohne das alte zu vergessen.

Link to this sectionBeispiele aus der Praxis#

Katastrophales Vergessen stellt eine bedeutende Herausforderung in verschiedenen KI-Bereichen dar, die in dynamischen realen Umgebungen operieren:

• Autonome Systeme: In Wahrnehmungspipelines für autonome Fahrzeuge könnte ein computer vision-System, das ursprünglich darauf trainiert wurde, Fußgänger und Standardverkehrsschilder zu erkennen, für die Erkennung neuer, regionsspezifischer Baustellenschilder feinabgestimmt werden. Ohne Schutzmaßnahmen könnte das System plötzlich Schwierigkeiten haben, Fußgänger zuverlässig zu erkennen, was ein schwerwiegendes Sicherheitsrisiko darstellt.
• Sprach- und kognitive KI: Bei der Anpassung großer Sprachmodelle für domänenspezifische Aufgaben – wie medizinische Diagnostik – könnte das Modell seine Konversationsanpassung oder allgemeine logische Fähigkeiten vergessen. Eine aktuelle vergleichende Analyse zu LLMs zeigt, dass standardmäßiges Fine-Tuning mit hochspezialisierten Texten oft frühere Sicherheitsausrichtungen erodiert, wodurch Modelle ihre grundlegenden Fähigkeiten zur Befolgung von Anweisungen verlieren.

Link to this sectionKatastrophales Vergessen überwinden#

KI-Ingenieure nutzen verschiedene Strategien, um dieses Problem zu entschärfen und ein optimales Plastizitäts-Stabilitäts-Dilemma aufrechtzuerhalten:

• Dataset Replay und Merging: Die zuverlässigste Methode ist das Mischen einer Teilmenge der ursprünglichen training data mit den neuen Daten. Tools wie die Ultralytics Platform optimieren die Verwaltung und Versionierung kombinierter Datensätze, um sicherzustellen, dass ursprüngliche Klassen während des Trainings effektiv wiederholt werden.
• Elastic Weight Consolidation (EWC): Diese Regularisierungstechnik begrenzt Aktualisierungen von Parametern, die für alte Aufgaben entscheidend waren. Durch das Identifizieren und Bewahren dieser Schlüsselgewichte reduzieren Modelle das Vergessen, wie in aktuellen Experimenten zur Überwindung des Netzwerk-Vergessens hervorgehoben wird.
• Parameter-Efficient Fine-Tuning (PEFT): Methoden wie Low-Rank Adaptation (LoRA) frieren die grundlegenden vortrainierten Gewichte ein und fügen kleine, trainierbare Matrizen in das Netzwerk ein, wodurch verhindert wird, dass das Basiswissen überschrieben wird.
• Freezing Layers: Bei kürzeren Trainingsläufen stellt das Einfrieren der Backbone- und Neck-Layer sicher, dass die Kern-Merkmalsextraktoren intakt bleiben.
• Gradient-Free Optimization: Neuartige Frameworks haben kürzlich gezeigt, dass Methoden, die auf Forward-Pass-Berechnungen basieren, das Vergessen ebenfalls effizient in Umgebungen mindern können, in denen Gradientenaktualisierungen eingeschränkt sind.

Link to this sectionImplementierungsbeispiel in der Vision-KI#

Wenn du Ultralytics YOLO für eine neue object detection-Aufgabe anpasst, ist das Einfrieren von Layern ein effektiver und zugänglicher Ansatz. Das folgende Beispiel zeigt, wie du ein Ultralytics YOLO26-Modell auf einem neuen Datensatz trainierst und dabei katastrophales Vergessen verhinderst, indem du die ersten 10 Layer einfrierst.

from ultralytics import YOLO

# Load a pretrained Ultralytics YOLO26 model
model = YOLO("yolo26n.pt")

# Train on a combined dataset while freezing core backbone layers
# The 'freeze=10' argument prevents catastrophic forgetting of foundational visual features
results = model.train(data="combined_dataset.yaml", epochs=20, freeze=10, lr0=0.001)

# Evaluate the model to ensure it retains performance on old and new tasks
metrics = model.val()