Weights & Biases

Weights & Biases (W&B oder wandb, nach dem Namen des Python-Pakets) ist eine Entwicklerplattform für Betrieb von Systemen des maschinellen Lernens (MLOps), die Trainingsläufe von Modellen protokolliert, visualisiert und vergleicht. Mit wenigen Zeilen in einem PyTorch- oder anderen Trainingsskript werden die Konfiguration eines Laufs, etwa Lernrate und Stapelgröße, sowie Messwerte, GPU-Statistiken und Ausgabedateien an ein gehostetes Dashboard gesendet. Dort vergleichen Teams Experimente, reproduzieren Ergebnisse und verfolgen, welche Daten und Einstellungen ein Modell hervorgebracht haben. Neben der Experimentverfolgung bietet W&B die Abstimmung von Hyperparametern, die Versionierung von Datensätzen und Modellen, eine Modellregistrierung sowie mit dem Produkt Weave die Nachverfolgung und Auswertung von Anwendungen mit großen Sprachmodellen (LLMs). Der GPU-Cloud-Anbieter CoreWeave schloss im Mai 2025 die Übernahme von Weights & Biases ab. Die W&B-Dokumentation ist jetzt auf der Dokumentationswebsite von CoreWeave zu finden.

Kernfunktionen#

• Experimente: wandb.init() startet einen Lauf und speichert dessen Konfiguration. wandb.log() protokolliert Messwerte, Bilder und Tabellen bei jedem Schritt. Das SDK erfasst außerdem Systemmesswerte wie GPU-Auslastung und Speicherverbrauch, wodurch Engpässe beim Laden von Daten sichtbar werden.
• Sweeps: Automatisierte Hyperparametersuchen mit Grid-, Zufalls- oder Bayes'schen Methoden. Agenten führen Versuche parallel auf vielen Rechnern aus und können schwache Läufe bei Bedarf frühzeitig beenden.
• Artefakte: Versionierte Datensätze, Modellprüfpunkte und andere Dateien mit Herkunftsdiagrammen, die zeigen, welcher Lauf welche Version verwendet oder erstellt hat.
• Registrierung: Ein kuratierter Katalog freigegebener Modell- und Datensatzversionen, die Teams für die Bereitstellung vorbereiten.
• Berichte: Teilbare Dokumente, die aktuelle Diagramme aus Trainingsläufen mit schriftlichen Analysen verbinden.
• Weave: Nachverfolgung, Auswertung und Kostenüberwachung für Anwendungen mit LLMs und Agenten.

Bei einem Sweep sind Suche und Training getrennt: Ein Controller verwaltet den Suchstatus und schlägt Konfigurationen vor. Eine beliebige Anzahl von Agenten ruft diese Konfigurationen ab, trainiert Modelle und meldet den Zielmesswert zurück.

W&B mit Ultralytics YOLO verwenden#

Ultralytics YOLO enthält eine integrierte W&B-Integration, die standardmäßig deaktiviert ist. Sobald sie in den Ultralytics-Einstellungen aktiviert wurde, protokolliert jeder Trainingslauf die vollständige Argumentliste, die Verluste und Lernraten pro Epoche, Validierungsmetriken wie Präzision, Recall und mittlere durchschnittliche Präzision (mAP) sowie die gespeicherten Diagramme. Am Ende lädt der Lauf best.pt als Modellartefakt sowie interaktive Präzisions-Recall- und Konfidenzkurven hoch. Diese best.pt-Artefakte lassen sich später für Vorhersagen, den Export oder die Bereitstellung in die Ultralytics Platform importieren.

import os

from ultralytics import YOLO, settings

# Lokal ohne API-Schlüssel protokollieren; später mit „wandb sync“ hochladen oder „wandb login“ ausführen und diese Zeile auskommentieren
os.environ["WANDB_MODE"] = "offline"

# Den integrierten W&B-Callback aktivieren (benötigt „pip install wandb“; Einstellung wird in der Ultralytics-Einstellungsdatei gespeichert)
settings.update({"wandb": True})

# project und name werden zu den W&B-Projekt- und Laufnamen
model = YOLO("yolo26n.pt")
model.train(data="coco8.yaml", epochs=5, project="yolo26-experiments", name="baseline")

Trainingsläufe, die denselben Wert für project und unterschiedliche Werte für name haben, werden nebeneinander in einem W&B-Projekt angezeigt. So lassen sich Läufe mit unterschiedlichen Modellgrößen, Bildgrößen oder Einstellungen für die Datenerweiterung in einem Dashboard vergleichen.

W&B und verwandte Begriffe#

• Modellgewichte und Biases: Der Name der Plattform bezieht sich auf die lernbaren Parameter eines neuronalen Netzes. Gewichte skalieren die Eingaben jedes Neurons, Biases verschieben seine Ausgabe vor der Aktivierungsfunktion, und die Backpropagation aktualisiert beide. Die Plattform kann ihre Verteilungen und Gradienten während des Trainings protokollieren.
• MLflow: Eine quelloffene Plattform zur Verfolgung, Paketierung und Registrierung von Modellen, die Teams häufig selbst hosten. W&B ist in erster Linie ein verwalteter Dienst, bietet Unternehmen aber auch selbst gehostete Optionen.
• TensorBoard: Ein lokales Visualisierungswerkzeug für Trainingsprotokolle aus PyTorch und TensorFlow. Im Gegensatz zu W&B bietet es keine gehosteten Funktionen für die Zusammenarbeit, Sweeps oder Modellregistrierung.