Batch Size

В области machine learning и особенно deep learning Batch Size означает количество обучающих примеров, используемых за одну итерацию обучения модели. Вместо того чтобы передавать весь training data в нейронную сеть сразу — что часто вычислительно невозможно из-за ограничений памяти, — датасет делится на более мелкие подмножества, называемые батчами. Модель обрабатывает один батч, вычисляет ошибку и обновляет свои внутренние model weights посредством backpropagation перед переходом к следующему батчу. Этот гиперпараметр играет ключевую роль в определении как скорости обучения, так и стабильности процесса обучения.

Динамика обучения с использованием пакетов#

Выбор размера батча коренным образом меняет то, как алгоритм оптимизации, обычно являющийся вариантом stochastic gradient descent, навигирует по ландшафту потерь.

• Малые размеры пакета: Использование небольшого количества (например, 8 или 16) приводит к «зашумленным» обновлениям. Хотя оценка градиента менее точна для набора данных в целом, этот шум иногда помогает модели избежать локальных минимумов, что потенциально ведет к лучшей обобщающей способности. Однако меньшие пакеты требуют большего количества обновлений за эпоху, что может сделать обучение более медленным по настенным часам из-за накладных расходов.
• Большие размеры батча: Больший батч (например, 128 или 256) обеспечивает более точную оценку градиента, что приводит к более плавной сходимости loss function. Это позволяет осуществлять массивную параллелизацию на современном оборудовании, значительно ускоряя вычисления. Однако, если батч слишком велик, модель может застрять в острых, субоптимальных минимумах, что приведет к overfitting и снижению способности обобщать новые данные.

Влияние на оборудование и память#

Практикам часто приходится выбирать размер батча исходя из аппаратных ограничений, а не из чисто теоретических предпочтений. Модели deep learning, особенно крупные архитектуры вроде transformers или передовых сверточных сетей, хранятся в VRAM GPU.

При использовании NVIDIA CUDA для ускорения в VRAM должны умещаться параметры модели, батч входных данных и промежуточные выходные активации, необходимые для расчета градиента. Если размер батча превышает доступную память, обучение завершится аварийно с ошибкой «Out of Memory» (OOM). Такие методы, как обучение в режиме mixed precision, часто применяются для снижения потребления памяти, позволяя использовать большие размеры батча на том же оборудовании.

Разграничение похожих концепций#

Для эффективной настройки обучения важно отличать размер пакета от других временных терминов в цикле обучения.

• Batch Size vs. Epoch: Эпоха представляет собой один полный проход по всему обучающему датасету. Размер батча определяет, на сколько частей данные разбиваются внутри этой эпохи. Например, если у тебя есть 1000 изображений и размер батча равен 100, то для завершения одной эпохи потребуется 10 итераций.
• Batch Size vs. Iteration: Итерация (или шаг) — это процесс обработки одного батча и обновления весов. Общее количество итераций при обучении равно количеству батчей в эпохе, умноженному на общее количество эпох.
• Batch Size vs. Batch Normalization: Несмотря на схожие названия, Batch Normalization — это специфический тип слоя, который нормализует входные данные слоя на основе среднего значения и дисперсии текущего батча. Этот метод сильно зависит от размера батча; если размер батча слишком мал (например, 2), статистические оценки становятся ненадежными, что потенциально ухудшает производительность.

Реальные приложения#

Регулировка размера пакета — это рутинная необходимость при развертывании решений компьютерного зрения в различных отраслях.

1. Высокоточная медицинская визуализация: В области AI in healthcare практики часто работают с трехмерными объемными данными, такими как МРТ или КТ-сканы. Эти файлы невероятно плотные и ресурсоемкие по памяти. Чтобы выполнять такие задачи, как medical image analysis или сложная image segmentation, не допуская сбоев системы, инженеры часто уменьшают размер батча до очень малого числа, иногда даже до батча, равного 1. Здесь приоритетом является обработка деталей высокого разрешения, а не сырая скорость обучения.

2. Промышленный контроль качества: И наоборот, в AI in manufacturing скорость имеет первостепенное значение. Автоматизированные системы, проверяющие продукцию на конвейере, должны обрабатывать тысячи изображений в час. Во время inference инженеры могут объединять поступающие с камер потоки в более крупные батчи, чтобы максимизировать использование устройств edge AI и обеспечить высокую пропускную способность для обнаружения дефектов в реальном времени.

Настройка размера пакета в Python#

При использовании Ultralytics Python package установка размера батча не вызывает трудностей. Ты можешь указать фиксированное целое число или использовать динамическую настройку batch=-1, которая задействует функцию AutoBatch feature для автоматического расчета максимального размера батча, с которым твое оборудование справится без сбоев.

Следующий пример демонстрирует, как обучить YOLO26 model — последний стандарт скорости и точности — с использованием определенной настройки батча.

from ultralytics import YOLO

# Load the YOLO26n model (nano version for speed)
model = YOLO("yolo26n.pt")

# Train on the COCO8 dataset
# batch=16 is manually set.
# Alternatively, use batch=-1 for auto-tuning based on available GPU memory.
results = model.train(data="coco8.yaml", epochs=5, batch=16)

Для управления крупномасштабными экспериментами и визуализации того, как разные размеры батча влияют на твои метрики обучения, такие инструменты, как Ultralytics Platform, предоставляют комплексную среду для логирования и сравнения запусков. Правильная hyperparameter tuning размера батча часто является финальным шагом для извлечения максимальной производительности из твоей модели.