Rückruf

Beim maschinellen Lernen ist ein Callback ein automatisiertes Skript oder eine Funktion, die an bestimmten Punkten während des Trainingsprozesses eines Modells ausgeführt wird. Man kann es sich als eine Reihe von Anweisungen vorstellen, denen das Trainingsframework in vordefinierten Phasen folgt, z. B. am Anfang oder Ende einer Epoche, eines Trainingsstapels oder der gesamten Trainingssitzung. Rückrufe bieten Entwicklern einen leistungsstarken Mechanismus zur Überwachung, Steuerung und Automatisierung verschiedener Aspekte des Trainings, ohne dass der Kerncode des Modells oder der Trainingsschleife geändert werden muss. Sie sind wichtige Werkzeuge für den Aufbau effizienter und robuster Pipelines für maschinelles Lernen (ML).

Wie Rückrufe funktionieren

Wenn Sie einen Neuronales Netz (NN)beinhaltet der Prozess die Iteration über eine Datensatz für mehrere Epochen. Eine Trainingsschleife verwaltet diesen Prozess, der die Eingabe von Daten in das Modell, die Berechnung der Verlustfunktionund die Aktualisierung der Modellgewichte über Backpropagation. Rückrufe schalten sich bei bestimmten Ereignissen in diese Schleife ein. Zum Beispiel kann ein on_epoch_end Callback wird seinen Code genau nach Abschluss jeder Epoche ausführen. Dies ermöglicht dynamische Eingriffe, wie zum Beispiel die Anpassung der LernrateSo kann die beste Version eines Modells gespeichert oder das Training vorzeitig abgebrochen werden, wenn die Leistung nachlässt. Diese Automatisierung ist ein wesentlicher Bestandteil eines gut strukturierten Machine-Learning-Workflow.

Beispiele aus der Praxis

Rückrufe sind bei verschiedenen Bildverarbeitungsaufgaben (CV) weit verbreitet, um die Trainingsergebnisse zu verbessern.

1. Speichern des besten Objekterkennungsmodells: Wenn Sie ein Ultralytics YOLO-Modell für die Objekterkennung trainieren, können Sie einen ModelCheckpoint-Callback verwenden. Dieser Callback überwacht die mittlere durchschnittliche Präzision (mAP) auf dem Validierungsdatensatz. Er speichert die Gewichtungen des Modells nur dann in einer Datei, wenn sich die mAP-Punktzahl im Vergleich zur zuvor gespeicherten besten Punktzahl verbessert, um sicherzustellen, dass Sie das genaueste Modell beibehalten. Auf unserer Modellvergleichsseite können Sie sehen, wie verschiedene Modelle abschneiden.
2. Verhinderung von Überanpassung bei der Bildklassifizierung: Stellen Sie sich vor, Sie trainieren ein Modell zur Bildklassifizierung auf einem komplexen Datensatz wie ImageNet. Ein EarlyStopping-Callback kann zur Überwachung des Validierungsverlusts konfiguriert werden. Wenn der Validierungsverlust für eine bestimmte Anzahl von Epochen nicht abnimmt, stoppt der Callback automatisch das Training. Dadurch wird verhindert, dass sich das Modell zu stark an die Trainingsdaten anpasst, und es werden erhebliche Trainingszeit und Rechenkosten eingespart. Sie können mehr über Bildklassifizierungsaufgaben und deren Implementierung erfahren.

Rückrufe vs. andere Konzepte

Es ist hilfreich, Rückrufe von verwandten Begriffen zu unterscheiden:

• Funktionen: Ein Rückruf ist zwar eine Art von Funktion, sein definierendes Merkmal ist jedoch, dass er als Argument an eine andere Funktion (die Trainingsschleife) übergeben und von dieser Funktion zu einem bestimmten Zeitpunkt intern aufgerufen wird. Eine Standardfunktion wird normalerweise direkt vom Programmierer aufgerufen.
• Hooks: In der Softwaretechnik ist ein Hook ein allgemeinerer Begriff für eine Stelle im Code, die das Einfügen einer benutzerdefinierten Logik ermöglicht. Rückrufe in Frameworks für maschinelles Lernen sind eine spezielle Umsetzung des Hook-Konzepts, die auf die Ereignisse im Trainingslebenszyklus eines Modells zugeschnitten ist.
• Abstimmung der Hyperparameter: Hierbei handelt es sich um den Prozess der Suche nach den optimalen Hyperparametern (wie Lernrate oder Stapelgröße) für ein Modell. Rückrufe können bei der Abstimmung von Hyperparametern helfen, z. B. durch die Implementierung eines Lernratenplaners, aber sie sind nicht der Abstimmungsprozess selbst. Der Abstimmungsprozess ist ein übergeordnetes Such- oder Optimierungsverfahren.

Vorteile der Verwendung von Rückrufen

Die Integration von Rückrufen in den Ausbildungsprozess bietet mehrere bedeutende Vorteile:

• Automatisierung: Callbacks automatisieren sich wiederholende Aufgaben wie das Speichern von Modellen, das Protokollieren von Metriken mit Tools wie TensorBoard und das Anpassen von Parametern, wodurch der Bedarf an manuellen Eingriffen bei langen Trainingsläufen reduziert wird.
• Flexibilität und Anpassungsfähigkeit: Sie ermöglichen es Entwicklern, benutzerdefinierte Logik in die Trainingsschleife einzufügen, ohne den Kerncode des Frameworks zu ändern, und ermöglichen so ein hochgradig maßgeschneidertes Trainingsverhalten. Dies ist besonders nützlich für komplexe Experimente oder die Implementierung fortgeschrittener Trainingstechniken.
• Effizienz: Rückrufe wie Early Stopping und dynamische Lernratenanpassung können das Training effizienter machen, indem sie Rechenressourcen einsparen und die Konvergenz des Modells möglicherweise beschleunigen.
• Einblicke und Überwachung: Sie bieten tiefe Einblicke in die Trainingsdynamik, indem sie eine detaillierte Protokollierung und Visualisierung von Metriken im Zeitverlauf ermöglichen, was für die Modellevaluierung entscheidend ist.
• Reproduzierbarkeit: Durch die Standardisierung von Aktionen, die während des Trainings durchgeführt werden (z. B. Speicherkriterien, Abbruchbedingungen), tragen Rückrufe zu besser reproduzierbaren Experimenten des maschinellen Lernens bei.

Frameworks wie Keras und PyTorch Lightning bieten umfangreiche Sammlungen integrierter Rückrufe und unkomplizierte Schnittstellen für die Erstellung benutzerdefinierter Rückrufe. Ultralytics setzt Callbacks auch intern in seinen Schulungspipelines ein und trägt so zur Robustheit und Benutzerfreundlichkeit von Tools wie Ultralytics YOLO11 und der Ultralytics HUB-Plattform bei. In der Ultralytics-Dokumentation finden Sie genauere Beispiele für die YOLO-Modellschulung.