Hyperparameter Tuning

Hiperparametre ayarı, bir machine learning (ML) modelinin eğitim sürecini yöneten dış yapılandırma değişkenlerini optimize etme yinelemeli sürecidir. Eğitim sırasında verilerden öğrenilen ağırlıklar ve sapmalar gibi iç parametrelerin aksine, hiperparametreler öğrenme süreci başlamadan önce veri bilimci veya mühendis tarafından belirlenir. Bu ayarlar modelin yapısını ve algoritmanın davranışını kontrol ederek, performansı hassas bir şekilde ayarlayan "düğmeler ve kadranlar" görevi görür. Bu değerlerin ideal kombinasyonunu bulmak, accuracy ve verimlilik gibi metrikleri en üst düzeye çıkarmak için çok önemlidir ve genellikle sıradan bir model ile son teknoloji bir çözüm arasındaki farkı yaratır.

Temel Kavramlar ve Teknikler#

Olası tüm hiperparametre kombinasyonlarının koleksiyonu, yüksek boyutlu bir arama uzayı oluşturur. Uzmanlar, loss function değerini en aza indiren en uygun yapılandırmayı bulmak için bu uzayda gezinmek üzere çeşitli stratejiler kullanır.

• Grid Search: Bu kapsamlı yöntem, modeli bir ızgara içerisindeki belirtilen her parametre kombinasyonu için değerlendirir. Kapsamlı olmasına rağmen, hesaplama açısından maliyetlidir ve birçok değişkenle uğraşırken curse of dimensionality sorunundan muzdariptir.
• Random Search: Her kombinasyonu test etmek yerine, bu teknik hiperparametrelerin rastgele kombinasyonlarını seçer. Araştırmalar, en etkili parametreler için arama uzayını daha verimli keşfettiğinden, bunun genellikle grid search yönteminden daha verimli olduğunu göstermektedir.
• Bayesian Optimization: Bu olasılıksal yaklaşım, geçmiş değerlendirmelere dayanarak hangi hiperparametrelerin en iyi sonuçları vereceğini tahmin etmek için bir vekil model oluşturur ve aramayı en umut vadeden alanlara odaklar.
• Evolutionary Algorithms: Biyolojik evrimden ilham alan bu yöntem, nesiller boyunca bir yapılandırma popülasyonunu evrimleştirmek için mutasyon ve çaprazlama gibi mekanizmalar kullanır. Bu, ultralytics kütüphanesinin YOLO26 gibi modern mimarileri optimize etmek için kullandığı birincil yöntemdir.

Hiperparametre Ayarlama ve Model Eğitimi#

MLOps yaşam döngüsünde farklı aşamaları temsil ettikleri için ayar (tuning) ile eğitimi (training) birbirinden ayırmak esastır:

• Model Training: Algoritmanın, backpropagation yoluyla iç parametreleri öğrenmek için training data üzerinde yineleme yaptığı süreçtir. Amaç, eğitim setindeki hatayı en aza indirmektir.
• Hyperparameter Tuning: Eğitim başlamadan önce learning rate, batch size ve momentum gibi operasyonel ayarları seçme meta sürecidir. Amaç, overfitting durumunu önlemek için validation data üzerindeki performansı en üst düzeye çıkarmaktır.

Gerçek Dünya Uygulamaları#

Etkin bir şekilde ayarlanmış modeller, karmaşık ortamlarda sağlam çözümler dağıtmak için kritiktir.

Hassas Tarım#

AI in Agriculture alanında, otonom dronlar yabani otları ve mahsul hastalıklarını belirlemek için computer vision kullanır. Bu modeller genellikle sınırlı pil ömrüne sahip uç cihazlarda çalışır. Mühendisler, data augmentation hattını ve giriş çözünürlüğünü optimize etmek için hiperparametre ayarını kullanır; böylece modelin yüksek inference speeds ile yalnızca yabani otları püskürtmek için gereken hassasiyeti dengelemesini sağlayarak kimyasal kullanımını azaltır.

Tıbbi Teşhis#

AI in Healthcare için, özellikle medical image analysis alanında, yanlış negatif sonucun ciddi sonuçları olabilir. MRI taramalarındaki anormallikleri tespit etmek üzere modeller eğitilirken, uygulayıcılar sınıf ağırlığı ve odaklı kayıp ile ilgili hiperparametreleri yoğun bir şekilde ayarlar. Bu ayar, recall değerini maksimize ederek en hafif patoloji belirtilerinin bile insan incelemesi için işaretlenmesini sağlar ve erken teşhise önemli ölçüde yardımcı olur.

Ultralytics ile Otomatik Ayarlama#

ultralytics kütüphanesi, genetik algoritmalar kullanan yerleşik bir tuner dahil ederek optimizasyonu basitleştirir. Bu, kullanıcıların manuel deneme-yanılma olmaksızın özel veri setleri için en iyi hiperparametreleri otomatik olarak aramasına olanak tanır. Büyük ölçekli operasyonlar için ekipler, veri setlerini yönetmek ve buluttaki bu ayar deneylerini görselleştirmek için Ultralytics Platform gücünden yararlanabilir.

Aşağıdaki örnek, bir YOLO26 modeli için hiperparametre ayarının nasıl başlatılacağını göstermektedir. Tuner, Mean Average Precision (mAP) değerini en üst düzeye çıkarmak için birkaç yineleme boyunca hiperparametrelerde mutasyon gerçekleştirecektir.

from ultralytics import YOLO

# Initialize a YOLO26 model (using the 'nano' weight for speed)
model = YOLO("yolo26n.pt")

# Start tuning hyperparameters on the COCO8 dataset
# The tuner runs for 30 epochs per iteration, evolving parameters like lr0 and momentum
model.tune(data="coco8.yaml", epochs=30, iterations=100, optimizer="AdamW", plots=False)

Bu süreci otomatize ederek geliştiriciler, sistemin belirli bir görev için mümkün olan en iyi performansı elde etmek üzere kendi kendini optimize ettiği Automated Machine Learning (AutoML) kavramına daha yaklaşabilirler.