Catastrophic Forgetting

Katastrophales Vergessen, häufig auch als katastrophale Interferenz bezeichnet, ist ein umfassend untersuchtes Phänomen des maschinellen Lernens, bei dem ein künstliches neuronales Netzwerk zuvor gelernte Informationen abrupt verliert, sobald es neue Aufgaben erlernt. Wenn ein Modell sequenziell trainiert wird, um sich an einen neuen Datensatz anzupassen, aktualisieren Optimierungsalgorithmen mithilfe der Rückpropagation die Modellgewichte. Dabei werden die mathematischen Repräsentationen, die für frühere Aufgaben erforderlich sind, häufig unbeabsichtigt überschrieben. Folglich kann ein KI-System, das ursprünglich hochgradig für seinen vorgesehenen Zweck optimiert wurde, bei diesen ursprünglichen Aufgaben erhebliche Leistungseinbußen erleiden, wenn es ausschließlich mit neuen Daten und ohne spezielle Gegenmaßnahmen trainiert wird.

Warum katastrophales Vergessen auftritt#

Beim Deep Learning ist das Wissen eines Modells über ein verteiltes Netzwerk miteinander verbundener Neuronen gespeichert. Während des Feinabstimmens passen Optimierungsfunktionen wie der stochastische Gradientenabstieg diese Verbindungen an, um den Fehler bei den neuen Daten zu minimieren. Wenn der neue Trainingsdatensatz keine Beispiele der ursprünglichen Klassen enthält, verschiebt der Optimierungsprozess die Gewichte in Richtung der Verteilung der neuen Daten und löscht dadurch effektiv das „Gedächtnis“ der alten Verteilung. Aktuelle Studien zur strukturellen Verschiebung zeigen, dass dieser interne Zusammenbruch die Fähigkeit moderner neuronaler Netzwerke, ohne zusätzliche Maßnahmen menschenähnliches lebenslanges Lernen zu erreichen, grundlegend einschränkt.

Abgrenzung verwandter Konzepte#

Es ist entscheidend, katastrophales Vergessen von anderen KI-Konzepten abzugrenzen:

• Katastrophales Vergessen vs. Modellkollaps: Während Vergessen durch das schrittweise Erlernen neuer Aufgaben entsteht, ist der Modellkollaps eine allmähliche Verschlechterung der Leistung bei derselben Aufgabe, wenn ein Modell wiederholt mit synthetischen Daten trainiert wird, die von anderen KI-Modellen erzeugt wurden.
• Katastrophales Vergessen vs. kontinuierliches Lernen: Kontinuierliches Lernen ist die übergeordnete Forschungsmethodik zur Lösung des Problems des katastrophalen Vergessens. Algorithmen für kontinuierliches Lernen sollen es Modellen ermöglichen, sequenziell neues Wissen zu erwerben, ohne bereits Gelerntes zu vergessen.

Beispiele aus der Praxis#

Katastrophales Vergessen stellt in verschiedenen KI-Bereichen, die in dynamischen Umgebungen der realen Welt eingesetzt werden, eine erhebliche Herausforderung dar:

• Autonome Systeme: In Wahrnehmungspipelines autonomer Fahrzeuge könnte ein zunächst zum Erkennen von Fußgängern und standardisierten Verkehrsschildern trainiertes Computer-Vision-System so feinabgestimmt werden, dass es neue, regionsspezifische Baustellenschilder erkennt. Ohne Schutzmaßnahmen könnte das System plötzlich Schwierigkeiten haben, Fußgänger zuverlässig zu erkennen, wodurch ein erhebliches Sicherheitsrisiko entsteht.
• Sprach- und kognitive KI: Bei der Anpassung großer Sprachmodelle an domänenspezifische Aufgaben, etwa medizinische Diagnosen, könnte das Modell seine Ausrichtung im Dialog oder seine allgemeinen Fähigkeiten zum logischen Schlussfolgern vergessen. Eine aktuelle vergleichende Analyse von LLMs zeigt, dass standardmäßiges Feinabstimmen mit hochspezialisierten Texten häufig die bisherige Sicherheitsausrichtung schwächt, sodass Modelle ihre grundlegenden Fähigkeiten zur Befolgung von Anweisungen verlieren.

Katastrophales Vergessen überwinden#

KI-Ingenieure setzen verschiedene Strategien ein, um dieses Problem zu mindern und ein optimales Plastizitäts-Stabilitäts-Dilemma aufrechtzuerhalten:

• Wiederholung und Zusammenführung von Datensätzen: Die zuverlässigste Methode besteht darin, eine Teilmenge der ursprünglichen Trainingsdaten mit den neuen Daten zu mischen. Tools wie die Ultralytics Platform vereinfachen die Verwaltung und Versionierung kombinierter Datensätze, damit die ursprünglichen Klassen während des Trainings effektiv wiederholt einbezogen werden.
• Elastische Gewichtskonsolidierung (EWC): Diese Regularisierungstechnik begrenzt Aktualisierungen an Parametern, die für alte Aufgaben entscheidend waren. Indem diese wichtigen Gewichte identifiziert und bewahrt werden, verringern Modelle das Vergessen, wie aktuelle Experimente zur Überwindung des Vergessens in Netzwerken gezeigt haben.
• Parameterschonendes Feinabstimmen (PEFT): Methoden wie die Anpassung mit niedrigem Rang (LoRA) frieren die vortrainierten Kerngewichte ein und fügen kleine, trainierbare Matrizen in das Netzwerk ein, sodass das Grundwissen nicht überschrieben wird.
• Einfrieren von Schichten: Bei kürzeren Trainingsläufen stellt das Einfrieren der Backbone- und Neck-Schichten sicher, dass die grundlegenden Merkmalsextraktoren intakt bleiben.
• Gradientenfreie Optimierung: Neue Frameworks haben kürzlich gezeigt, dass auf dem Forward Pass basierende Methoden das Vergessen auch in Umgebungen effizient mindern können, in denen Gradientenaktualisierungen eingeschränkt sind.

Implementierungsbeispiel für visuelle KI#

Bei der Anpassung von Ultralytics YOLO an eine neue Aufgabe zur Objekterkennung ist das Einfrieren von Schichten ein effektiver und leicht zugänglicher Ansatz. Das folgende Beispiel zeigt, wie ein Ultralytics YOLO26-Modell mit einem neuen Datensatz trainiert wird, während katastrophales Vergessen verhindert wird, indem die ersten 10 Schichten eingefroren werden.

from ultralytics import YOLO

# Load a pretrained Ultralytics YOLO26 model
model = YOLO("yolo26n.pt")

# Train on a combined dataset while freezing core backbone layers
# The 'freeze=10' argument prevents catastrophic forgetting of foundational visual features
results = model.train(data="combined_dataset.yaml", epochs=20, freeze=10, lr0=0.001)

# Evaluate the model to ensure it retains performance on old and new tasks
metrics = model.val()