Semi-Supervised Learning

Semiüberwachtes Lernen (SSL) ist ein strategisches Paradigma im Bereich des maschinellen Lernens (ML), das eine Brücke zwischen zwei traditionellen Trainingsmethoden bildet. Während sich überwachtes Lernen vollständig auf vollständig annotierte Datensätze stützt und unüberwachtes Lernen versucht, Muster in Daten ohne Markierungen zu finden, kombiniert SSL eine kleine Menge gelabelter Daten mit einer deutlich größeren Menge ungelabelter Daten. Dieser Ansatz ist besonders in realen Szenarien der Computer Vision (CV) wertvoll, in denen das Sammeln von Rohbildern – etwa Videoaufnahmen von Überwachungskameras oder Satelliten – vergleichsweise kostengünstig ist, die Datenkennzeichnung durch menschliche Fachkräfte jedoch teuer, langsam und arbeitsintensiv ist. Durch die effektive Nutzung der in den ungelabelten Beispielen verborgenen Struktur kann SSL die Modellgenauigkeit und Generalisierungsfähigkeit deutlich verbessern, ohne ein umfassendes Annotierungsbudget zu erfordern.

Zentrale Mechanismen des semiüberwachten Lernens#

Das Hauptziel von SSL besteht darin, die in der kleinen Gruppe gelabelter Beispiele enthaltenen Informationen auf die größere ungelabelte Gruppe zu übertragen. Dadurch kann das neuronale Netzwerk Entscheidungsgrenzen erlernen, die durch Bereiche mit geringer Datendichte verlaufen, was zu einer robusteren Klassifizierung oder Erkennung führt.

Zwei verbreitete Techniken bilden die Grundlage der meisten Workflows für semiüberwachtes Lernen:

• Pseudo-Labeling: Bei dieser Methode wird zunächst ein Modell mit den begrenzt verfügbaren gelabelten Daten trainiert. Anschließend wird es verwendet, um Inferenzen für die ungelabelten Daten durchzuführen. Vorhersagen, die einen bestimmten Schwellenwert für die Konfidenz überschreiten, werden als „Pseudo-Labels“ oder Ground Truth behandelt. Diese zuverlässigen Vorhersagen werden zu den Trainingsdaten hinzugefügt und das Modell wird erneut trainiert, wodurch sich seine Leistung schrittweise verbessert.
• Konsistenzregularisierung: Diese Technik basiert auf Datenerweiterung. Die Idee besteht darin, dass ein Modell für ein Bild und eine leicht veränderte (erweiterte) Version desselben Bildes ähnliche Vorhersagen ausgeben sollte. Indem der Unterschied zwischen den Vorhersagen der ursprünglichen und der erweiterten Version minimiert wird, lernt das Modell, sich auf die wesentlichen Merkmale des Objekts statt auf Rauschen zu konzentrieren, und verbessert dadurch seine Fähigkeit, mit Überanpassung umzugehen.

Praktische Umsetzung mit YOLO#

Das folgende Python-Beispiel zeigt einen einfachen Workflow für Pseudo-Labeling mit dem Paket ultralytics. Dabei trainieren wir ein YOLO26-Modell mit einem kleinen Datensatz und verwenden es anschließend, um Labels für ein Verzeichnis mit ungelabelten Bildern zu erzeugen.

from ultralytics import YOLO

# Load the latest YOLO26 model
model = YOLO("yolo26n.pt")

# Train initially on a small available labeled dataset
model.train(data="coco8.yaml", epochs=10)

# Run inference on unlabeled data to generate pseudo-labels
# Setting save_txt=True saves the detections as text files for future training
results = model.predict(source="./unlabeled_images", save_txt=True, conf=0.85)

Anwendungen in der Praxis#

Semiüberwachtes Lernen verändert Branchen, in denen Daten reichlich vorhanden, Fachkenntnisse jedoch knapp sind.

• Medizinische Bildgebung: Im Bereich der KI im Gesundheitswesen gehört die Erfassung von Aufnahmen (Röntgenbildern, MRTs) zum Standard, doch die Annotation jedes Pixels für die Tumorerkennung durch einen fachärztlich qualifizierten Radiologen ist unerschwinglich teuer. Mit SSL können Forschende leistungsstarke Modelle anhand nur eines Bruchteils der von Fachleuten annotierten Fälle trainieren und Tausende archivierter Aufnahmen nutzen, um das Verständnis des Modells für biologische Strukturen zu verfeinern.
• Autonomes Fahren: Unternehmen für selbstfahrende Fahrzeuge sammeln täglich Petabytes an Videodaten aus Fahrzeugflotten. Die Kennzeichnung jedes Frames für Objekterkennung und semantische Segmentierung ist unmöglich. Mithilfe von SSL kann das System aus dem überwiegenden Teil der ungelabelten Fahrstunden lernen und dadurch komplexe Straßenumgebungen, Wetterbedingungen und seltene Grenzfälle besser verstehen.

Verwandte Konzepte unterscheiden#

Für die effektive Bereitstellung von KI-Lösungen ist es entscheidend zu verstehen, wie sich SSL von ähnlichen Strategien unterscheidet:

• vs. Active Learning: Beide Verfahren befassen sich mit ungelabelten Daten, unterscheiden sich jedoch in ihrem Ansatz zur Kennzeichnung. SSL weist anhand von Modellvorhersagen automatisch Labels zu. Active Learning identifiziert dagegen die „verwirrendsten“ oder unsichersten Datenpunkte und fordert ausdrücklich eine Person in der Verarbeitungsschleife auf, diese zu kennzeichnen. Dadurch wird die Zeit der betreffenden Person effizient genutzt, anstatt sie vollständig zu ersetzen.
• vs. Transfer Learning: Beim Transfer Learning wird ein Modell, das auf einem umfangreichen externen Datensatz wie ImageNet vortrainiert wurde, übernommen und für die jeweilige Aufgabe feinabgestimmt. SSL konzentriert sich dagegen darauf, während des Trainingsprozesses selbst den ungelabelten Teil der Verteilung des jeweiligen eigenen Datensatzes zu nutzen.
• vs. Self-Supervised Learning: Obwohl die Bezeichnungen ähnlich sind, bezieht sich Self-Supervised Learning häufig auf „Pretext-Aufgaben“ (etwa das Lösen eines Puzzles aus Bildausschnitten), bei denen die Daten ohne externe Labels eigene Lernsignale erzeugen. SSL setzt dagegen ausdrücklich eine kleinere Menge verifizierter Labels voraus, die den Prozess steuern.

Werkzeuge und Zukunftsperspektiven#

Mit zunehmender Größe von Deep-Learning (DL)-Modellen wird die effiziente Datennutzung immer wichtiger. Moderne Frameworks wie PyTorch und TensorFlow stellen das Rechen-Backend für diese fortgeschrittenen Trainingsschleifen bereit. Darüber hinaus vereinfachen Werkzeuge wie die Ultralytics Platform den Lebenszyklus der Datensatzverwaltung. Durch Funktionen wie die automatische Annotation können Teams Workflows für semiüberwachtes Lernen leichter umsetzen und Rohdaten schnell in produktionsbereite Modellgewichte umwandeln. Diese Entwicklung im Bereich MLOps sorgt dafür, dass die Einstiegshürden für die Erstellung hochpräziser Bildverarbeitungssysteme weiter sinken.