Online Learning

Online-Lernen ist ein Ansatz des maschinellen Lernens, bei dem ein Modell schrittweise aktualisiert wird, sobald neue Beispiele eintreffen, anstatt einmalig mit einem festen Datensatz trainiert zu werden. Der Begriff bezeichnet Streaming- oder sequenzielle Modellaktualisierungen – nicht internetbasierte Bildung. Ein Online-Lernverfahren kann Vorhersagen treffen, Feedback empfangen und sich nach jedem Beispiel oder kleinen Batch aktualisieren, wie in der Definition von Online-Lernen in scikit-learn beschrieben. Dadurch eignet es sich besonders, wenn Daten kontinuierlich eintreffen, zu umfangreich für den Speicher sind oder sich im Laufe der Zeit verändern. (scikit-learn.org)

So funktioniert Online-Lernen#

Ein typischer Ablauf ist:

1. Das Modell empfängt neue Eingabedaten und erstellt eine Vorhersage.
2. Ein Label oder ein Feedbacksignal wird verfügbar.
3. Der Verlust wird berechnet und die Modellparameter werden aktualisiert.
4. Die Leistung wird gemessen, bevor das nächste Beispiel verarbeitet wird.

Bibliotheken wie River für maschinelles Lernen mit Datenströmen implementieren diesen Ablauf aus Vorhersage und anschließendem Lernen mit Methoden wie predict_one() und learn_one(). Neuronale Netze können dasselbe Prinzip über wiederholte PyTorch-Optimierungsschritte nutzen, obwohl tiefe Modelle aus Gründen der Recheneffizienz üblicherweise mit kleinen Batches aktualisiert werden. (docs.pytorch.org)

Online-Lernen ist besonders wertvoll bei Konzeptdrift, bei der sich die Beziehung zwischen Eingaben und Ausgaben verändert. Beispiele sind saisonale Verkehrsmuster, verändertes Kundenverhalten, neue Fertigungsfehler oder Kameras, die unter anderen Lichtverhältnissen installiert werden. Eine Untersuchung wiederkehrender Konzeptdrift aus dem Jahr 2024 hebt hervor, dass wiederkehrende Bedingungen wie Wetter und Tageszeit von Systemen erkannt werden müssen, damit sie sich an zuvor beobachtete Verteilungen anpassen können. (ijcai.org)

Online-Lernen in der Computer Vision#

Ultralytics YOLO führt während der Inferenz keine unkontrollierten, bildweisen Gewichtsaktualisierungen durch. Stattdessen können Teams sicheres Online-Lernen annähern, indem sie regelmäßig ein Feinabstimmung-Training mit kleinen Batches auf aktuellen gelabelten Daten durchführen, die mit älteren Beispielen kombiniert werden:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")
model.train(data="coco8.yaml", epochs=3, imgsz=640, lr0=0.001)

Dieses ausführbare Beispiel verwendet Ultralytics YOLO26 und den dokumentierten YOLO-Trainingsmodus, um eine kleine Aktualisierung mit geringer Lernrate durchzuführen. In einer Produktionsumgebung würde coco8.yaml durch einen versionierten Datensatz ersetzt, der aktuelle und erneut verwendete Beispiele enthält.

Konkrete Anwendungen sind unter anderem:

• Visuelle Prüfung in der Fertigung: Modelle werden aktualisiert, wenn neue Produkte, Materialien oder Fehlertypen auftreten.
• Wahrnehmung autonomer Fahrzeuge: Erkennungssysteme passen sich an veränderte Straßen, Wetterbedingungen, Kamerabedingungen und Objektverteilungen an.
• Bestandsverwaltung im Einzelhandel: Modelle lernen neue Verpackungen und saisonale Produkte, ohne dass ein vollständiges erneutes Training erforderlich ist.

Verwandte Konzepte und wichtige Unterschiede#

Continual Learning ist umfassender: Es zielt darauf ab, über Aufgaben oder Domänen hinweg zu lernen und dabei früheres Wissen zu bewahren. Online-Lernen beschreibt, wann und wie häufig Aktualisierungen erfolgen. Active Learning wählt dagegen die informativsten Beispiele für die Kennzeichnung durch Menschen aus, während Transfer Learning vortrainiertes Wissen an eine Zielaufgabe anpasst.

Eine große gemeinsame Herausforderung ist das katastrophale Vergessen. Zu den aktuellen Forschungsarbeiten gehören die kontinuierliche Anpassung zur Testzeit BECoTTA aus dem Jahr 2024, die Minimierung der nach Rang geordneten Entropie aus dem Jahr 2025 und die Methode zur Stabilität und Plastizität PLASTIC aus dem Jahr 2026, die eine effiziente Anpassung ohne Modellkollaps oder den Verlust früherer Fähigkeiten untersuchen. (proceedings.mlr.press)

Aktuelle Best Practices#

• Datenverteilung überwachen: Verfolge Eingabeverteilungen, Konfidenz, Genauigkeit und Klassenhäufigkeit.
• Replay-Daten bewahren: Kombiniere repräsentative historische Beispiele mit neuen Daten, um das Vergessen zu verringern.
• Vor der Bereitstellung validieren: Vergleiche aktualisierte Modelle mit stabilen Holdout- und Testdatensätzen aus aktuellen Daten.
• Den vollständigen Ablauf versionieren: Verwende Ultralytics Platform, um Annotation, Datensätze, Training, Bereitstellung und Überwachung zu verwalten.
• Nicht gelabelte Drift erkennen: Wenn Labels verspätet eintreffen, überwache Merkmalsverteilungen und das Vorhersageverhalten, anstatt auf Genauigkeitsmessungen zu warten. (dfki.de)