Weights & Biases

Weights & Biases (W&B, или wandb — название его пакета Python) — платформа для разработчиков в области операций машинного обучения (MLOps), которая записывает, визуализирует и сравнивает запуски обучения моделей. Несколько строк в скрипте обучения на PyTorch или другой платформе отправляют конфигурацию каждого запуска, например скорость обучения и размер пакета, вместе с метриками, статистикой GPU и выходными файлами на размещённую в облаке панель. Там команды сравнивают эксперименты, воспроизводят результаты и отслеживают, какие данные и настройки использовались для создания модели. Помимо отслеживания экспериментов, W&B предлагает подбор гиперпараметров, версионирование наборов данных и моделей, реестр моделей, а также трассировку и оценку приложений на основе больших языковых моделей (LLM) через продукт Weave. Облачный провайдер GPU CoreWeave завершил приобретение Weights & Biases в мае 2025 года, и теперь документация W&B размещена на сайте документации CoreWeave.

Основные возможности#

• Эксперименты: wandb.init() запускает эксперимент и сохраняет его конфигурацию, а wandb.log() записывает метрики, изображения и таблицы на каждом шаге. SDK также собирает системные метрики, например загрузку и использование памяти GPU, что позволяет выявлять узкие места при загрузке данных.
• Подбор гиперпараметров: автоматический поиск гиперпараметров с помощью сеточного, случайного или байесовского методов. Агенты параллельно выполняют испытания на множестве машин; при необходимости слабые запуски можно досрочно останавливать.
• Артефакты: Версионируемые наборы данных, контрольные точки моделей и другие файлы с графами происхождения, показывающими, какой запуск использовал или создал каждую версию.
• Реестр: Курируемый каталог утверждённых версий моделей и наборов данных, которые команды продвигают к развёртыванию.
• Отчёты: Документы для совместного использования, объединяющие актуальные графики запусков и письменный анализ.
• Weave: Трассировка, оценка и учёт стоимости приложений на основе LLM и агентов.

В процессе sweep поиск отделён от обучения: контроллер хранит состояние поиска и предлагает конфигурации, а любое количество агентов получает эти конфигурации, обучает модели и отправляет обратно целевую метрику.

Использование W&B с Ultralytics YOLO#

В Ultralytics YOLO встроена интеграция с W&B, отключённая по умолчанию. После её включения в настройках Ultralytics каждый запуск обучения записывает полный список аргументов, потери и скорости обучения по эпохам, метрики проверки, такие как прецизионность, полнота и средняя точность (mAP), а также сохранённые графики. В конце запуска загружается best.pt как артефакт модели вместе с интерактивными кривыми «прецизионность–полнота» и уверенности. Затем эти артефакты best.pt можно импортировать в Ultralytics Platform для предсказания, экспорта или развёртывания.

import os

from ultralytics import YOLO, settings

# # Записывай логи локально без ключа API; загрузи их позже командой "wandb sync" либо выполни "wandb login" и убери эту строку
os.environ["WANDB_MODE"] = "offline"

# # Включи встроенный callback W&B (требуется "pip install wandb"; настройка сохранена в файле настроек Ultralytics)
settings.update({"wandb": True})

# # project и name становятся названиями проекта и запуска в W&B
model = YOLO("yolo26n.pt")
model.train(data="coco8.yaml", epochs=5, project="yolo26-experiments", name="baseline")

Запуски обучения с одинаковым project и разными значениями name отображаются рядом в одном проекте W&B. Так можно сравнить на одной панели запуски с моделями разного размера, изображениями разного разрешения или разными настройками аугментации.

W&B и связанные понятия#

• Веса модели и смещения: название платформы отсылает к обучаемым параметрам нейронной сети. Веса масштабируют входные данные каждого нейрона, смещения сдвигают его выход перед функцией активации, а обратное распространение ошибки обновляет и те и другие. Платформа может записывать распределения их значений и градиенты во время обучения.
• MLflow: Платформа с открытым исходным кодом для отслеживания, упаковки и регистрации моделей, которую команды часто размещают самостоятельно. W&B — в первую очередь управляемый сервис, но для предприятий доступны варианты с самостоятельным размещением.
• TensorBoard: Локальный инструмент визуализации журналов обучения PyTorch и TensorFlow без облачных средств совместной работы, sweep-поиска и реестра W&B.