Curriculum Learning

Curriculum Learning ist eine Trainingsstrategie des maschinellen Lernens, bei der Beispiele in einer sinnvollen Reihenfolge – meist von einfach bis schwierig – statt gleichverteilt zufällig präsentiert werden. Wie ein Lehrplan ermöglicht es einem neuronalen Netz, zunächst anhand sauberer Beispiele allgemeine, einfache Muster zu lernen, bevor es mit mehrdeutigen, unübersichtlichen oder verrauschten Beispielen konfrontiert wird. Bengio et al. formulierten die Idee 2009 für Deep Learning. Sie argumentierten, dass ein einfacher Einstieg die Optimierung einer nicht konvexen Verlustfunktion zu besseren Minima lenkt, und berichteten von deutlichen Verbesserungen bei der Generalisierung für Aufgaben zur Formerkennung und Sprachmodellierung.

So funktioniert Curriculum Learning#

Ein Curriculum benötigt zwei Komponenten, die Hacohen und Weinshall Bewertungsfunktion und Taktfunktion nennen. Die Bewertungsfunktion stuft Trainingsdaten nach Schwierigkeit ein. Dafür nutzt sie menschliche Heuristiken wie Objektgröße, Verdeckung oder Satzlänge, die Konfidenz eines vortrainierten Lehrermodells oder den Verlust des zu trainierenden Modells. Die Taktfunktion bestimmt, wie schnell schwierigere Beispiele in den Trainingspool aufgenommen werden. Man kann etwa mit den einfachsten 20 % beginnen und den Anteil schrittweise auf den gesamten Datensatz erhöhen. Der folgende Ausschnitt bewertet einen Beispieldatensatz mit einem Lehrermodell und trainiert ein Schülermodell mit einem wachsenden Pool, der mit den einfachsten Beispielen beginnt, und scikit-learn:

import numpy as np
from sklearn.datasets import make_classification
from sklearn.linear_model import LogisticRegression, SGDClassifier

# A toy dataset with 10% flipped labels, so some samples are genuinely hard
X, y = make_classification(n_samples=2000, n_features=20, flip_y=0.1, random_state=0)

# Scoring function: a teacher's confidence in each true label, sorted easiest first
teacher = LogisticRegression(max_iter=1000).fit(X, y)
confidence = teacher.predict_proba(X)[np.arange(len(y)), y]
order = np.argsort(-confidence)

# Pacing function: start with the easiest 20% and add 20% more each epoch
student = SGDClassifier(random_state=0)
for epoch in range(5):
    pool = order[: int((0.2 + 0.2 * epoch) * len(order))]
    student.partial_fit(X[pool], y[pool], classes=[0, 1])
    print(f"Epoch {epoch}: {len(pool)} samples, mean teacher confidence {confidence[pool].mean():.2f}")

Der Pool wächst von 400 auf 2.000 Stichproben. Sobald die schwierigsten 20 % der Stichproben in der letzten Epoche dazukommen, fällt die mittlere Konfidenz des Lehrermodells von 0.99 auf 0.89.

Beim selbstgesteuerten Lernen entfällt ein Lehrermodell: Das Modell erstellt anhand seines aktuellen Verlusts selbst ein Curriculum. Dies ist eine der wichtigsten Curriculum-Familien in der Übersicht von Soviany et al.. In jeder Runde kommen die Stichproben, die das Modell bereits gut bewältigt, in den Trainingspool. Der Verlustschwellenwert steigt, bis alle Stichproben enthalten sind.

Wann Curriculum Learning hilft#

Curricula helfen seltener, als man vermuten könnte. In Tausenden von Trainingsläufen fanden Wu, Dyer und Neyshabur bei gängigen Bild-Benchmarks nur geringe Vorteile: Zufällig angeordnete Daten in einem wachsenden Pool schnitten ebenso gut ab wie eine Reihenfolge von einfachen zu schwierigen Beispielen. Verbesserungen zeigten sich bei begrenztem Trainingszeitbudget oder verrauschten Labels – also in den Situationen, in denen Praktiker Curricula am häufigsten einsetzen.

Anwendungen in der Praxis#

Beim bestärkenden Lernen für die Robotik wird der Schwierigkeitsgrad der Aufgabe erhöht, während sich der Agent verbessert. OpenAI brachte einer Roboterhand bei, einen Zauberwürfel zu lösen, und nutzte dafür automatische Domänenrandomisierung. Jedes Mal, wenn die Policy im aktuellen Bereich gut genug abschnitt, wurden die Bereiche der simulierten Physik und des Erscheinungsbilds erweitert.

In der Computer Vision kann ein Curriculum für die Objekterkennung mit großen, unverdeckten Objekten beginnen und später kleine, dicht gedrängte oder schlecht beleuchtete Szenen einbeziehen. Auch das Training von Ultralytics YOLO26 verlagert im Laufe der Zeit seine Schwerpunkte: Der End-to-End-Verlust verschiebt in jeder Epoche das Gewicht vom dichten One-to-Many-Kopf zum One-to-One-Kopf, den nms=False verwendet. Außerdem deaktiviert close_mosaic=10 in den letzten 10 Epochen Mosaic, MixUp, CutMix und Copy-Paste-Augmentierung, damit das Training mit Bildern endet, die echten Eingaben ähneln. Bei der medizinischen Bildanalyse kann das Training mit Aufnahmen beginnen, bei denen sich die fachkundigen Annotierenden einig sind, und später mehrdeutige Fälle einbeziehen. Das eignet sich für Situationen mit verrauschten Labels, in denen Curricula am meisten helfen.

Curriculum Learning und verwandte Konzepte#

• Kontinuierliches Lernen: Beim kontinuierlichen Lernen kommen im Laufe der Zeit neue Aufgaben oder Datenverteilungen hinzu. Dabei darf das Modell ältere nicht vergessen. Curriculum Learning ordnet die Daten einer einzelnen, festgelegten Aufgabe neu.
• Aktives Lernen: Beim aktiven Lernen wird ausgewählt, welche ungelabelten Beispiele zum Labeln geschickt werden. Curriculum Learning ordnet bereits gelabelte Beispiele.
• Transferlernen: Beim Transferlernen wird zunächst auf einem großen, allgemeinen Datensatz vortrainiert und anschließend auf einer anderen Zielaufgabe feinabgestimmt. Die Aufgabe selbst ändert sich also zwischen den Phasen.
• Mining schwieriger Negativbeispiele: Beim Mining schwieriger Beispiele liegt der Schwerpunkt auf den Beispielen, bei denen das Modell die größten Fehler macht – also das Gegenteil eines Curriculums, das mit einfachen Beispielen beginnt. Beim Online-Mining schwieriger Beispiele (OHEM) für Fast-R-CNN-Detektoren wird nur durch die Regionsvorschläge mit dem höchsten Verlust in jedem Bild der Backpropagation-Schritt ausgeführt.