Batch Size

In the realm of machine learning and particularly deep learning, Batch Size refers to the number of training examples utilized in one iteration of model training. Rather than feeding the entire training data into the neural network at once—which is often computationally impossible due to memory constraints—the dataset is divided into smaller subsets called batches. The model processes one batch, calculates the error, and updates its internal model weights via backpropagation before moving on to the next batch. This hyperparameter plays a pivotal role in determining both the speed of training and the stability of the learning process.

Link to this sectionBatch ile Eğitim Dinamikleri#

Batch size seçimi, optimizasyon algoritmasının, genellikle stokastik gradyan inişi varyantının, kayıp alanında nasıl gezineceğini temelden değiştirir.

• Küçük Batch Size'lar: Az sayıda (örneğin 8 veya 16) kullanmak "gürültülü" güncellemelere yol açar. Gradyan tahmini veri setinin bütünü için daha az doğru olsa da, bu gürültü bazen modelin yerel minimumlardan kurtulmasına yardımcı olarak daha iyi genelleştirmeye yol açabilir. Ancak, daha küçük batch'ler epoch başına daha fazla güncelleme gerektirir, bu da ek yük nedeniyle duvar saati süresi açısından eğitimi yavaşlatabilir.
• Büyük Batch Size'lar: Daha büyük bir batch (örneğin 128 veya 256), gradyanın daha doğru bir tahminini sağlar ve kayıp fonksiyonunun daha pürüzsüz yakınsamasını sağlar. Modern donanımlarda büyük ölçekli paralelleştirmeye izin vererek hesaplamayı önemli ölçüde hızlandırır. Ancak batch çok büyükse, model keskin, optimal olmayan minimumlara yerleşebilir, bu da overfitting durumuna ve yeni verilere genelleme yeteneğinin azalmasına yol açabilir.

Link to this sectionDonanım ve Bellek Etkileri#

Uygulayıcılar genellikle batch size'ı teorik bir tercihten ziyade donanım sınırlamalarına göre seçmek zorundadır. Derin öğrenme modelleri, özellikle Transformer'lar veya gelişmiş evrişimli ağlar gibi büyük mimariler, bir GPU'nin VRAM'inde depolanır.

Hızlandırma için NVIDIA CUDA kullanılırken, VRAM model parametrelerini, girdi verisi batch'ini ve gradyan hesaplaması için gereken ara aktivasyon çıktılarını tutmalıdır. Eğer batch size mevcut belleği aşarsa, eğitim "Out of Memory" (OOM) hatası ile çöker. Karma hassasiyetli eğitim gibi teknikler, bellek kullanımını azaltmak için sıklıkla kullanılır ve aynı donanımda daha büyük batch size'lara olanak tanır.

Link to this sectionİlgili Kavramları Ayırt Etme#

Eğitimi etkili bir şekilde yapılandırmak için batch size'ı eğitim döngüsündeki diğer zamansal terimlerden ayırt etmek önemlidir.

• Batch Size ve Epoch: Bir epoch, tüm eğitim veri setinin üzerinden bir tam geçişi temsil eder. Batch size, verilerin bu epoch içinde kaç parçaya bölüneceğini belirler. Örneğin, 1.000 görüntünüz ve 100 batch size'ınız varsa, bir epoch'u tamamlamak 10 yineleme sürecektir.
• Batch Size ve Yineleme: Bir yineleme (veya adım), bir batch'i işleme ve ağırlıkları güncelleme eylemidir. Eğitimdeki toplam yineleme sayısı, epoch başına düşen batch sayısı ile toplam epoch sayısının çarpımıdır.
• Batch Size ve Batch Normalization: İsimleri benzer olsa da, Batch Normalization, katman girdilerini mevcut batch'in ortalama ve varyansına göre normalleştiren özel bir katman türüdür. Bu teknik büyük ölçüde batch size'a dayanır; batch size çok küçükse (örneğin 2), istatistiksel tahminler güvenilmez hale gelir ve potansiyel olarak performansı düşürür.

Link to this sectionGerçek Dünya Uygulamaları#

Batch size'ı ayarlamak, bilgisayarlı görü çözümlerini çeşitli endüstrilerde devreye alırken rutin bir gerekliliktir.

1. Yüksek Doğruluklu Tıbbi Görüntüleme: Sağlıkta Yapay Zeka alanında, uygulayıcılar genellikle MRI veya CT taramaları gibi 3D hacimsel verilerle çalışırlar. Bu dosyalar inanılmaz derecede yoğun ve bellek yoğundur. Tıbbi görüntü analizi veya karmaşık görüntü segmentasyonu gibi görevleri sistemi çökertmeden gerçekleştirmek için mühendisler genellikle batch size'ı çok küçük bir sayıya, hatta bazen 1'e düşürürler. Burada öncelik, ham eğitim hızından ziyade yüksek çözünürlüklü detayları işlemektir.

2. Endüstriyel Kalite Kontrol: Tersine, üretimde Yapay Zeka alanında hız her şeydir. Konveyör bandındaki ürünleri inceleyen otomatik sistemlerin saatte binlerce görüntüyü işlemesi gerekir. Çıkarım sırasında mühendisler, uç yapay zeka cihazlarının kullanımını maksimize etmek ve gerçek zamanlı kusur tespiti için yüksek verimlilik sağlamak amacıyla gelen kamera akışlarını daha büyük batch'lerde toplayabilirler.

Link to this sectionPython ile Batch Size Yapılandırma#

When using the Ultralytics Python package, setting the batch size is straightforward. You can specify a fixed integer or use the dynamic batch=-1 setting, which utilizes the AutoBatch feature to automatically calculate the maximum batch size your hardware can safely handle.

The following example demonstrates how to train a YOLO26 model—the latest standard for speed and accuracy—using a specific batch setting.

from ultralytics import YOLO

# Load the YOLO26n model (nano version for speed)
model = YOLO("yolo26n.pt")

# Train on the COCO8 dataset
# batch=16 is manually set.
# Alternatively, use batch=-1 for auto-tuning based on available GPU memory.
results = model.train(data="coco8.yaml", epochs=5, batch=16)

Büyük ölçekli deneyleri yönetmek ve farklı batch size'ların eğitim metriklerinizi nasıl etkilediğini görselleştirmek için Ultralytics Platform gibi araçlar, çalıştırmaları kaydetmek ve karşılaştırmak için kapsamlı bir ortam sağlar. Batch size'ın doğru hiperparametre ayarı, modelinizden en iyi performansı almak için genellikle son adımdır.