Batch Size

No âmbito do machine learning e particularmente do deep learning, Batch Size refere-se ao número de exemplos de treino utilizados numa iteração do treino de modelos. Em vez de alimentar toda a training data na rede neural de uma só vez — o que muitas vezes é computacionalmente impossível devido a restrições de memória —, o conjunto de dados é dividido em subconjuntos mais pequenos chamados lotes. O modelo processa um lote, calcula o erro e atualiza os seus model weights internos através de backpropagation antes de passar para o lote seguinte. Este hiperparâmetro desempenha um papel fundamental na determinação tanto da velocidade de treino como da estabilidade do processo de aprendizagem.

A Dinâmica do Treino com Lotes#

A escolha do batch size altera fundamentalmente a forma como o algoritmo de otimização, tipicamente uma variante do stochastic gradient descent, navega pelo espaço de perda.

• Tamanhos de Lote Pequenos: Usar um número pequeno (por exemplo, 8 ou 16) resulta em atualizações "ruidosas". Embora a estimativa do gradiente seja menos precisa para o conjunto de dados como um todo, este ruído pode, por vezes, ajudar o modelo a escapar a mínimos locais, conduzindo potencialmente a uma melhor generalização. No entanto, lotes mais pequenos requerem mais atualizações por época, o que pode tornar o treino mais lento em termos de tempo de relógio devido à sobrecarga.
• Large Batch Sizes: Um lote maior (por exemplo, 128 ou 256) fornece uma estimativa mais precisa do gradiente, levando a uma convergência mais suave da loss function. Permite paralelização massiva em hardware moderno, acelerando significativamente o cálculo. No entanto, se o lote for demasiado grande, o modelo pode estabilizar em mínimos agudos e subótimos, levando a overfitting e a uma capacidade reduzida de generalização para novos dados.

Implicações de Hardware e Memória#

Os profissionais devem frequentemente selecionar um batch size com base em limitações de hardware e não puramente por preferência teórica. Os modelos de deep learning, especialmente arquiteturas grandes como transformers ou redes convolucionais avançadas, são armazenados na VRAM de uma GPU.

Ao utilizar NVIDIA CUDA para aceleração, a VRAM deve conter os parâmetros do modelo, o lote de dados de entrada e as saídas de ativação intermediárias necessárias para o cálculo do gradiente. Se o batch size exceder a memória disponível, o treino falhará com um erro "Out of Memory" (OOM). Técnicas como o treino em mixed precision são frequentemente empregues para reduzir o uso de memória, permitindo batch sizes maiores no mesmo hardware.

Distinguindo Conceitos Relacionados#

Para configurar o treino de forma eficaz, é essencial distinguir o tamanho do lote de outros termos temporais no ciclo de treino.

• Batch Size vs. Epoch: Uma época representa uma passagem completa por todo o conjunto de dados de treino. O batch size determina em quantos pedaços os dados são divididos dentro dessa época. Por exemplo, se tiver 1.000 imagens e um batch size de 100, serão necessárias 10 iterações para concluir uma época.
• Batch Size vs. Iteration: Uma iteração (ou passo) é o ato de processar um lote e atualizar os pesos. O número total de iterações no treino é o número de lotes por época multiplicado pelo número total de épocas.
• Batch Size vs. Batch Normalization: Embora partilhem um nome, a Batch Normalization é um tipo de camada específica que normaliza as entradas da camada com base na média e na variância do lote atual. Esta técnica depende fortemente do batch size; se o batch size for demasiado pequeno (por exemplo, 2), as estimativas estatísticas tornam-se pouco fiáveis, degradando potencialmente o desempenho.

Aplicações no Mundo Real#

Ajustar o tamanho do lote é uma necessidade rotineira ao implementar soluções de visão computacional em várias indústrias.

1. High-Fidelity Medical Imaging: No campo de AI in healthcare, os profissionais trabalham frequentemente com dados volumétricos 3D, tais como exames de ressonância magnética (MRI) ou tomografia computorizada (CT). Estes ficheiros são incrivelmente densos e exigem muita memória. Para realizar tarefas como medical image analysis ou image segmentation complexa sem crashar o sistema, os engenheiros reduzem frequentemente o batch size para um número muito pequeno, por vezes até um lote de 1. Aqui, a prioridade é o processamento de detalhes de alta resolução em vez da velocidade de treino em bruto.

2. Industrial Quality Control: Inversamente, em AI in manufacturing, a velocidade é primordial. Os sistemas automatizados que inspecionam produtos numa linha de montagem precisam de processar milhares de imagens por hora. Durante a inference, os engenheiros podem agregar feeds de câmaras recebidos em lotes maiores para maximizar a utilização de dispositivos edge AI, garantindo um elevado rendimento para a deteção de defeitos em tempo real.

Configurar o Tamanho do Lote em Python#

Ao utilizar o Ultralytics Python package, definir o batch size é simples. Pode especificar um número inteiro fixo ou utilizar a configuração dinâmica batch=-1, que utiliza a AutoBatch feature para calcular automaticamente o batch size máximo que o seu hardware consegue suportar em segurança.

O exemplo seguinte demonstra como treinar um YOLO26 model — o padrão mais recente em velocidade e precisão — utilizando uma configuração de lote específica.

from ultralytics import YOLO

# Load the YOLO26n model (nano version for speed)
model = YOLO("yolo26n.pt")

# Train on the COCO8 dataset
# batch=16 is manually set.
# Alternatively, use batch=-1 for auto-tuning based on available GPU memory.
results = model.train(data="coco8.yaml", epochs=5, batch=16)

Para gerir experiências em grande escala e visualizar como diferentes batch sizes afetam as suas métricas de treino, ferramentas como a Ultralytics Platform fornecem um ambiente abrangente para registar e comparar execuções. A correta hyperparameter tuning do batch size é frequentemente o passo final para extrair o melhor desempenho do seu modelo.