Model Ensemble

Bir Model Ensemble, makine öğrenmesinde, birden fazla bireysel modelin tahminlerinin birleştirilerek tek başına herhangi bir modelin ulaşabileceğinden genellikle daha doğru ve sağlam olan nihai bir çıktı üretmesini sağlayan stratejik bir yaklaşımdır. Tek bir bireyden daha iyi bir karara varmak için müzakere eden bir uzmanlar komitesine çok benzer şekilde, model ensemble, hataları hafifletmek için çeşitli mimarilerin güçlü yönlerinden yararlanır. Bu teknik, karmaşık görevlerde performansı artırmak, overfitting riskini azaltmak ve istatistiksel modellemede bulunan doğuştan gelen bias-variance tradeoff durumunu yönetmek için yaygın olarak kullanılır.

Ensembling Mekanikleri#

Bir model ensemble'ının arkasındaki temel ilke "çeşitlilik"tir. Birden fazla modeli —genellikle "temel öğreniciler" veya "zayıf öğreniciler" olarak adlandırılır— farklı training data alt kümelerinde eğiterek veya farklı algoritmalar kullanarak, ensemble bir modelin yaptığı hataların diğerleri tarafından düzeltilme olasılığını garanti eder. deep learning bağlamında bu durum genellikle çıkarım sırasında birden fazla neural networks bileşeninin paralel olarak çalıştırılmasını içerir.

Bu tahminleri birleştirmek için yaygın yöntemler şunlardır:

• Oylama (Voting): Modellerin çoğunluğu tarafından seçilen sınıfın nihai tahmin haline geldiği image classification süreçlerinde kullanılır.
• Ortalamayı Alma (Averaging): Genellikle regresyon görevlerinde kullanılır; burada gürültüyü düzeltmek için sayısal çıktılar ortalanır.
• Ağırlıklı Birleşim (Weighted Fusion): object detection alanında, Ağırlıklı Kutu Birleşimi (WBF) gibi teknikler, farklı dedektörlerden gelen sınırlayıcı kutuları confidence skorlarına göre birleştirir.

Gerçek Dünya Uygulamaları#

Model ensemble'ları, accuracy en üst düzeye çıkarmanın çok önemli olduğu ve bilgi işlem kaynaklarının birden fazla modelin çalıştırılmasına izin verdiği yüksek riskli ortamlarda esastır.

1. Tıbbi Teşhis (Medical Diagnostics): medical image analysis alanında, bir teşhisi kaçırmanın ciddi sonuçları olabilir. Radyologlar genellikle standart bir Convolutional Neural Network (CNN) modelini bir Vision Transformer (ViT) ile birleştiren ensemble'lar kullanır. CNN yerel doku analizinde başarılı olurken, ViT küresel bağlamı yakalar ve sistemin tümörleri tek başına iki mimariden de daha yüksek hassasiyetle tespit etmesini sağlar.

2. Otonom Sürüş (Autonomous Driving): autonomous vehicles içindeki algılama sistemleri arıza emniyetli olmak zorundadır. Mühendisler sıklıkla bir algılama modelleri ensemble'ı konuşlandırır; örneğin, YOLO26 modelinin gerçek zamanlı hızını RT-DETR modelinin transformatör tabanlı doğruluğuyla birleştirirler. Bu, yayaların veya engellerin, bir model parlama veya gölgeler gibi belirli ışık koşullarıyla mücadele etse bile tespit edilmesini sağlar.

Python ile Ensemble'ları Uygulama#

Karmaşık ensemble stratejileri Scikit-learn gibi kütüphaneler kullanılarak oluşturulabilse de, bilgisayarlı görü için basitçe birden fazla model yükleyerek ve aynı girdiyi işleyerek temel bir çıkarım ensemble'ı oluşturabilirsin. Aşağıdaki örnek, aynı görüntü üzerinde tahminler üretmek için iki farklı Ultralytics YOLO modelinin nasıl yükleneceğini gösterir.

from ultralytics import YOLO

# Load two different model variants to create a diverse ensemble
model_a = YOLO("yolo26n.pt")  # Nano model (Speed focused)
model_b = YOLO("yolo26s.pt")  # Small model (Higher accuracy)

# Perform inference on an image with both models
# In production, results are typically merged programmatically
results_a = model_a("https://ultralytics.com/images/bus.jpg")
results_b = model_b("https://ultralytics.com/images/bus.jpg")

print(f"Model A detected {len(results_a[0].boxes)} objects.")
print(f"Model B detected {len(results_b[0].boxes)} objects.")

Model Ensemble ile Uzmanların Karışımı (Mixture of Experts) Karşılaştırması#

Standart bir model ensemble'ını, modern Large Language Model (LLM) araştırmalarında sıklıkla karşılaşılan Mixture of Experts (MoE) kavramından ayırmak faydalıdır.

• Model Ensemble: Tipik olarak her girdi için koleksiyondaki her modele sorgu gönderir ve sonuçları toplar. Bu, mean average precision (mAP) gibi metrikleri en üst düzeye çıkarır ancak inference latency süresini ve hesaplama maliyetini önemli ölçüde artırır. Kaliteye yönelik kaba kuvvet yaklaşımıdır.
• Uzmanlar Karışımı (Mixture of Experts): Verileri yalnızca mevcut girdi için en uygun olan birkaç belirli "uzman" alt modele yönlendirmek için bir "gating network" kullanır. Bu, her belirteç için her parametreyi çalıştırmanın hesaplama cezası olmaksızın foundation models ölçeğinde büyük bir ölçeklenebilirlik sağlar.

Avantajlar ve Hususlar#

Bir model ensemble kullanmanın birincil avantajı performanstaki artıştır. Ensemble'lar, tek modellerin kaçırdığı karmaşık kalıpları modelleyebildikleri için Kaggle competitions gibi veri bilimi yarışmalarında sıklıkla liderlik tablosuna hakim olurlar. Ancak bunun bir bedeli vardır: ensemble'ları devreye almak daha fazla bellek ve işlem gücü gerektirir.

Bu kaynak taleplerini verimli bir şekilde yönetmek isteyen ekipler için Ultralytics Platform, farklı model mimarilerini eğitmek, izlemek ve kıyaslamak için araçlar sunar. Geliştiriciler, performans metriklerini kolayca karşılaştırarak, bir ensemble'dan elde edilen doğruluk kazancının, edge AI senaryolarında devreye alma için gereken ek altyapıyı haklı çıkarıp çıkarmadığına karar verebilir.