YOLO lizenzieren
Zurück zum Ultralytics-Glossar

Continual Learning

Kontinuierliches Lernen, auch lebenslanges Lernen genannt, trainiert ein Modell mit einer Folge neuer Aufgaben oder Daten, ohne dass es frühere Fähigkeiten vergisst. Hier geht es um Replay, EWC und Code.

Kontinuierliches Lernen, auch lebenslanges oder inkrementelles Lernen genannt, trainiert ein Modell anhand einer Folge von Aufgaben oder eines sich verändernden Datenstroms und erhält dabei zuvor Gelerntes. Beim standardmäßigen Feintuning mit neuen Daten werden die Modellgewichte, die für frühere Aufgaben wichtig waren, überschrieben. Dadurch bricht die Leistung bei diesen Aufgaben ein – ein als katastrophales Vergessen bekanntes Problem. Methoden des kontinuierlichen Lernens wägen Plastizität – die Fähigkeit, Neues zu lernen – gegen Stabilität – die Fähigkeit, altes Wissen zu bewahren – ab. Dieser Zielkonflikt wird sowohl bei neuronalen Netzen als auch bei biologischen Gehirnen als Stabilitäts-Plastizitäts-Dilemma bezeichnet.

Warum kontinuierliches Lernen wichtig ist#

Eingesetzte Modelle sind ständig wechselnden Daten ausgesetzt: neuen Objektklassen, neuer Kamerahardware, saisonalen Lichtverhältnissen oder allmählicher Datenverschiebung. Die einfachste Lösung ist, das Modell mit dem gesamten kumulierten Datensatz von Grund auf neu zu trainieren. Doch die Kosten steigen mit jeder Aktualisierung, und ältere Daten sind aufgrund von Speicherbeschränkungen, Lizenzen oder Datenschutz möglicherweise nicht verfügbar. Kontinuierliches Lernen aktualisiert das Modell stattdessen schrittweise. Das eignet sich für Edge-KI-Geräte und MLOps-Pipelines, die eingesetzte Modelle planmäßig nachtrainieren.

Arten des kontinuierlichen Lernens#

Van de Ven, Tuytelaars und Tolias unterscheiden drei Szenarien. Beim aufgabeninkrementellen Lernen wird dem Modell mitgeteilt, zu welcher Aufgabe jede Eingabe gehört. Es kann für jede Aufgabe einen eigenen Ausgabekopf verwenden. Beim domäneninkrementellen Lernen bleiben die Klassen gleich, während sich die Eingabeverteilung verschiebt – etwa wenn ein Detektor von Aufnahmen bei Tag auf Nachtaufnahmen umgestellt wird. Beim klasseninkrementellen Lernen kommen ständig neue Klassen hinzu. Das Modell muss alle bisher gesehenen Klassen unterscheiden können, ohne zu wissen, zu welcher Aufgabe eine Eingabe gehört. Damit ist dies das schwierigste der drei Szenarien.

Strategien gegen das Vergessen#

  • Wiederholung: Das Modell speichert einen kleinen Puffer früherer Beispiele oder erzeugt mithilfe eines generativen Modells synthetische Beispiele. Diese werden in jede neue Trainingsrunde eingemischt.
  • Elastische Gewichtskonsolidierung: Regularisierungsmethoden wie EWC bestrafen im Loss Veränderungen an Gewichten, die für frühere Aufgaben wichtig waren. Ihre Bedeutung wird anhand der Fisher-Information geschätzt.
  • Parameterisolation: Jede Aufgabe erhält eigene Parameter, etwa durch eingefrorene Backbones, aufgabenspezifische Köpfe oder Adapter wie LoRA. So können Aktualisierungen für eine neue Aufgabe keine alten überschreiben.
  • Wissensdestillation: Die Ausgaben des vorherigen Modells für neue Daten dienen als weiche Zielwerte, während das Modell die neue Aufgabe lernt. Dieser Ansatz wird als Lernen ohne Vergessen bezeichnet.

Der folgende Codeausschnitt führt ein klasseninkrementelles Experiment in PyTorch durch: Ein kleines Netzwerk lernt zunächst handgeschriebene Ziffern von 0 bis 4 und anschließend Ziffern von 5 bis 9 – jeweils mit und ohne einen Wiederholungspuffer aus 100 gespeicherten Bildern der ersten Aufgabe.

import torch
from sklearn.datasets import load_digits
from torch import nn

X, y = load_digits(return_X_y=True)
X, y = torch.tensor(X / 16, dtype=torch.float32), torch.tensor(y)
task_a, task_b = torch.where(y < 5)[0], torch.where(y >= 5)[0]  # digits 0-4, then digits 5-9

for replay in [0, 100]:
    torch.manual_seed(0)
    model = nn.Sequential(nn.Linear(64, 64), nn.ReLU(), nn.Linear(64, 10))
    optimizer = torch.optim.Adam(model.parameters(), lr=0.01)
    # Train on task A, then on task B plus a replay buffer of stored task A images
    for task in [task_a, torch.cat([task_b, task_a[:replay]])]:
        for _ in range(200):
            optimizer.zero_grad()
            nn.functional.cross_entropy(model(X[task]), y[task]).backward()
            optimizer.step()
    accuracy = (model(X[task_a]).argmax(1) == y[task_a]).float().mean()
    print(f"Replay buffer of {replay} images: digits 0-4 accuracy after learning 5-9 = {accuracy:.0%}")

Ohne Wiederholung vergisst das Netzwerk die Ziffern von 0 bis 4 vollständig und erzielt nach dem Lernen der Ziffern von 5 bis 9 eine Genauigkeit von 0 % für sie. Die Wiederholung von 100 gespeicherten Bildern, etwa 11 % der 901 Bilder aus der ersten Aufgabe, hält diese Genauigkeit bei 70 %. Ultralytics YOLO26 unterstützt die Parameterisolation mit dem Trainingsargument freeze Trainingsargument. Damit werden die ersten N Ebenen oder benannte Module gesperrt, während das Modell mit neuen Daten feinabgestimmt wird.

Offene Herausforderungen#

Zur Bewertung eines kontinuierlich lernenden Modells reicht eine einzelne Kennzahl nicht aus: Leistungskennzahlen müssen nach jeder Aktualisierung für alle früheren Aufgaben erfasst werden. Gemessen werden sollten sowohl der Rückwärtstransfer – wie sich neues Lernen auf frühere Aufgaben auswirkt – als auch der Vorwärtstransfer – wie altes Wissen das Lernen neuer Aufgaben beschleunigt. Langes kontinuierliches Training bringt noch ein weniger auffälliges Problem als das Vergessen mit sich. Dohare et al. zeigten, dass gängige Methoden des Deep Learning über lange Folgen von auf ImageNet basierenden Aufgaben und Problemen des bestärkenden Lernens allmählich ihre Plastizität verlieren, also die Fähigkeit, überhaupt noch Neues zu lernen. Kontinuierliche Backpropagation, bei der ein kleiner Anteil selten genutzter Einheiten zufällig neu initialisiert wird, erhält diese Fähigkeit unbegrenzt.

Anwendungen in der Praxis#

  • Robotik: Ein Roboter in einer Fertigungslinie kann lernen, eine neue Produktvariante zu handhaben, ohne vollständig neu trainiert zu werden, und behält dabei seine Fähigkeiten für die Teile, die er bereits verarbeitet.
  • Medizinische Bildanalyse: Krankenhäuser wechseln Scanner und Bildgebungsprotokolle, und mit der Zeit kommen neue Erkenntnisse hinzu. Domäneninkrementelle Aktualisierungen ermöglichen es einem Diagnosemodell, sich an neue Bilder anzupassen und gleichzeitig seine Genauigkeit bei etablierten Krankheitsbildern zu bewahren.
  • Große Sprachmodelle: Kontinuierliches Vortraining mit neueren Texten hält das Wissen eines Modells aktuell. Parametereffiziente Adapter fügen neue Fähigkeiten hinzu, ohne das gesamte Modell neu zu trainieren.
  • Transferlernen: Beim Transferlernen wird ein vortrainiertes Modell als Ausgangspunkt für eine neue Aufgabe wiederverwendet. Der Erfolg wird allein anhand dieser Aufgabe bewertet. Kontinuierliches Lernen wird sowohl anhand der neuen als auch aller früheren Aufgaben bewertet.
  • Online-Lernen: Beim Online-Lernen wird ein Modell mit jedem einzelnen Beispiel oder Mini-Batch aktualisiert, während neue Daten eintreffen. Dies geschieht üblicherweise für eine einzelne Aufgabe und muss das Vergessen nicht berücksichtigen.
  • Curriculum-Lernen: Beim Curriculum-Lernen werden die Beispiele einer einzelnen, festgelegten Aufgabe von leicht bis schwer geordnet. Kontinuierliches Lernen befasst sich dagegen mit einer Folge verschiedener Aufgaben oder Datenverteilungen.
  • Maschinelles Verlernen: Beim Verlernen geht es in die entgegengesetzte Richtung: Der Einfluss bestimmter Trainingsdaten auf ein Modell wird gezielt entfernt, beispielsweise um Löschanfragen gemäß dem Recht auf Vergessenwerden der DSGVO zu erfüllen.

Lösungen entdecken

Computer Vision im Sport

Computer Vision im Sport

Entdecke, wie Ultralytics YOLO die Sportbildanalyse voranbringt – mit Spieler- und Ballverfolgung, Leistungsanalysen, Erkenntnissen für das Coaching und der Rehabilitation von Athleten.
Mehr erfahren
Computer Vision für Luftbilder

Computer Vision für Luftbilder

Verwandle Drohnen- und Luftbilder mit Ultralytics YOLO in Echtzeit-Erkenntnisse für Landwirtschaft, Aquakultur, Naturschutz und Geodatenanalyse.
Mehr erfahren
Computer Vision in der Luft- und Raumfahrt

Computer Vision in der Luft- und Raumfahrt

Setze Computer Vision in der Luft- und Raumfahrt mit Ultralytics YOLO ein – für Flugzeuginspektionen, die Erkennung von Fremdkörpern auf Start- und Landebahnen, den Bodenbetrieb am Flughafen und die Erkennung von Verbundwerkstofffehlern.
Mehr erfahren
Computer Vision im Sicherheitsbereich

Computer Vision im Sicherheitsbereich

Schütze jeden Standort mit Ultralytics YOLO-Modellen. Vision-KI ermöglicht die Überwachung von Grundstücksgrenzen, die Erkennung von Bedrohungen, die Kennzeichenerkennung und die Sicherheit am Arbeitsplatz.
Mehr erfahren
Computer Vision in der Robotik

Computer Vision in der Robotik

Mach Maschinen mit Ultralytics YOLO-Modellen leistungsfähiger. Vision-KI in der Robotik ermöglicht autonome Navigation, Wahrnehmung, Objektverfolgung und Steuerung in Echtzeit.
Mehr erfahren
Bildverarbeitung in der Logistik

Bildverarbeitung in der Logistik

Optimiere die Logistik mit Ultralytics YOLO-Modellen. Vision AI ermöglicht die Paketprüfung, Sortierung und Fahrzeugverfolgung sowie die Sicherheitsüberwachung von Lagerhäusern in Echtzeit.
Mehr erfahren
Bildverarbeitung im Einzelhandel

Bildverarbeitung im Einzelhandel

Gestalte den Einzelhandel mit Ultralytics YOLO-Modellen neu. Vision AI ermöglicht Bestandsverfolgung, Regalüberwachung und Warteschlangenmanagement und liefert bessere Einblicke in das Kundenverhalten.
Mehr erfahren
Bildverarbeitung im Gesundheitswesen

Bildverarbeitung im Gesundheitswesen

Entwickle Lösungen für das Gesundheitswesen mit Ultralytics YOLO-Modellen. Vision AI ermöglicht im Gesundheitswesen schnellere medizinische Bildgebung, bessere Diagnostik und die Überwachung von Patienten.
Mehr erfahren
Computer Vision in der Fertigung

Computer Vision in der Fertigung

Optimiere die Fertigung mit Ultralytics-YOLO-Modellen. Vision AI ermöglicht Qualitätskontrolle, Fehlererkennung, die Überprüfung der Einhaltung von Vorgaben zu persönlicher Schutzausrüstung und die Automatisierung von Montagelinien.
Mehr erfahren
Computer Vision in der Automobilbranche

Computer Vision in der Automobilbranche

Setze Computer Vision in der Automobilbranche mit Ultralytics-YOLO-Modellen ein. Vision AI verbessert die Verkehrssicherheit, Fahrerassistenz und Fahrzeugautomatisierung – für intelligentere Straßen.
Mehr erfahren
Computer Vision in der Landwirtschaft

Computer Vision in der Landwirtschaft

Setze mit Ultralytics YOLO-Modellen KI für Bildverarbeitung in der intelligenten Landwirtschaft ein. Ermögliche die Überwachung von Nutzpflanzen, die Verfolgung von Nutztieren und Präzisionslandwirtschaft für höhere und nachhaltigere Erträge.
Mehr erfahren

Lass uns gemeinsam die Zukunft der KI gestalten!

Starte deine Reise in die Zukunft des maschinellen Lernens