Batch Size

了解批大小（batch size）如何影响机器学习的训练速度和准确性。探索硬件约束并使用 AutoBatch 优化 Ultralytics YOLO26。

In the realm of machine learning and particularly deep learning, Batch Size refers to the number of training examples utilized in one iteration of model training. Rather than feeding the entire training data into the neural network at once—which is often computationally impossible due to memory constraints—the dataset is divided into smaller subsets called batches. The model processes one batch, calculates the error, and updates its internal model weights via backpropagation before moving on to the next batch. This hyperparameter plays a pivotal role in determining both the speed of training and the stability of the learning process.

Link to this section批次训练的动态机制#

Batch Size的选择从根本上改变了优化算法（通常是随机梯度下降的变体）在损失函数空间中的导航方式。

小Batch Size： 使用较小的数字（例如 8 或 16）会导致“噪声”更新。虽然这对整个数据集的梯度估计不够精确，但这种噪声有时可以帮助模型逃离局部最小值，从而可能获得更好的泛化能力。然而，较小的批次意味着每个 epoch 需要更多的更新次数，由于开销原因，这在挂钟时间（wall-clock time）上可能会使训练变慢。
大Batch Size： 较大的批次（例如 128 或 256）能提供更准确的梯度估计，从而使损失函数实现更平滑的收敛。它允许在现代硬件上进行大规模并行处理，显著加快计算速度。但是，如果批次过大，模型可能会陷入尖锐的次优最小值，导致过拟合并降低对新数据的泛化能力。

Link to this section硬件和内存的影响#

从业者通常必须根据硬件限制而非纯粹的理论偏好来选择Batch Size。深度学习模型，尤其是像 Transformer 或高级卷积网络这样的大型架构，会被存储在 GPU 的 VRAM 中。

当使用 NVIDIA CUDA 进行加速时，VRAM 必须容纳模型参数、输入数据批次以及梯度计算所需的中间激活输出。如果Batch Size超过了可用内存，训练将会崩溃并报“内存不足”（OOM）错误。诸如混合精度训练等技术经常被用来减少内存使用量，从而允许在同一硬件上使用更大的Batch Size。

Link to this section区分相关概念#

为了有效地配置训练，必须将Batch Size与训练循环中的其他时间术语区分开来。

Batch Size 与 Epoch 的区别： 一个 epoch 代表对整个训练数据集进行了一次完整的遍历。Batch Size决定了数据在该 epoch 之内被分割成了多少个块。例如，如果你有 1,000 张图像且Batch Size为 100，则需要 10 次迭代才能完成一个 epoch。
Batch Size 与 Iteration 的区别： 迭代（或步）是指处理一个批次并更新权重的过程。训练中的总迭代次数等于每个 epoch 的批次数乘以总的 epoch 数。
Batch Size 与 Batch Normalization 的区别： 虽然它们名字里都有 Batch，但 Batch Normalization 是一种特定的层类型，它根据当前批次的均值和方差来标准化层输入。该技术非常依赖Batch Size；如果Batch Size过小（例如 2），统计估计值就会变得不可靠，从而可能降低性能。

Link to this section实际应用#

在各行各业部署计算机视觉解决方案时，调整Batch Size是一项常规必要工作。

高保真医学影像： 在医疗 AI 领域，从业者经常处理 3D 体积数据，如 MRI 或 CT 扫描。这些文件非常密集且占用内存。为了在不导致系统崩溃的情况下执行医学图像分析或复杂的图像分割任务，工程师通常会将Batch Size减小到一个非常小的数字，有时甚至是一个大小为 1 的批次。在这里，优先级是处理高分辨率细节，而不是原始的训练速度。
工业质量控制： 相反，在制造业 AI 中，速度至关重要。检查传送带上产品的自动化系统需要每小时处理数千张图像。在推理过程中，工程师可能会将传入的摄像头数据流聚合为更大的批次，以最大限度地利用边缘 AI 设备，从而确保实时缺陷检测的高吞吐量。

Link to this section在 Python 中配置 Batch Size#

使用 Ultralytics Python 软件包时，设置Batch Size非常简单。你可以指定一个固定的整数，或者使用动态的 batch=-1 设置，它会利用 AutoBatch 功能自动计算你的硬件可以安全处理的最大Batch Size。

The following example demonstrates how to train a YOLO26 model—the latest standard for speed and accuracy—using a specific batch setting.

from ultralytics import YOLO

# Load the YOLO26n model (nano version for speed)
model = YOLO("yolo26n.pt")

# Train on the COCO8 dataset
# batch=16 is manually set.
# Alternatively, use batch=-1 for auto-tuning based on available GPU memory.
results = model.train(data="coco8.yaml", epochs=5, batch=16)

对于管理大规模实验并可视化不同Batch Size如何影响你的训练指标，诸如 Ultralytics Platform 等工具提供了全面的环境来记录和比较运行结果。对Batch Size进行适当的超参数调优通常是从模型中榨取最佳性能的最后一步。