Model Ensemble

Bir Model Ensemble, birden fazla bireysel modelden gelen tahminlerin birleştirilerek, tek bir modelin tek başına elde edebileceğinden genellikle daha doğru ve sağlam bir nihai çıktı üretildiği, makine öğrenimindeki stratejik bir yaklaşımdır. Tıpkı tek bir bireyden daha iyi bir karara varmak için görüşen bir uzmanlar komitesi gibi, bir model ensemble, hataları azaltmak için farklı mimarilerin güçlü yönlerinden yararlanır. Bu teknik, karmaşık görevlerde performansı artırmak, overfitting riskini azaltmak ve istatistiksel modellemede bulunan doğal bias-variance tradeoff ile başa çıkmak için yaygın olarak kullanılır.

Link to this sectionEnsembling Mekanikleri#

Bir model ensemble'ın arkasındaki temel prensip "çeşitlilik"tir. Genellikle "temel öğreniciler" veya "zayıf öğreniciler" olarak adlandırılan birden fazla modeli, training data'nın farklı alt kümeleri üzerinde eğiterek veya farklı algoritmalar kullanarak, ensemble, bir modelin yaptığı hataların diğerleri tarafından düzeltilmesini sağlar. deep learning bağlamında bu, genellikle çıkarım sırasında birden fazla neural networks çalıştırmayı içerir.

Bu tahminleri birleştirmek için yaygın yöntemler şunlardır:

• Oylama (Voting): Modellerin çoğunluğu tarafından seçilen sınıfın nihai tahmin haline geldiği image classification'da kullanılır.
• Ortalamayı Alma (Averaging): Genellikle regresyon görevlerinde kullanılır; burada gürültüyü düzeltmek için sayısal çıktılar ortalanır.
• Ağırlıklı Füzyon (Weighted Fusion): object detection'da, Weighted Box Fusion (WBF) gibi teknikler, farklı dedektörlerden gelen sınırlayıcı kutuları (bounding box) confidence skorlarına göre birleştirir.

Link to this sectionGerçek Dünya Uygulamaları#

Model ensemble'lar, accuracy maksimizasyonunun çok önemli olduğu ve hesaplama kaynaklarının birden fazla model çalıştırmaya izin verdiği yüksek riskli ortamlarda elzemdir.

1. Tıbbi Teşhis: medical image analysis'ta, bir teşhisi kaçırmak ciddi sonuçlar doğurabilir. Radyologlar genellikle standart bir Convolutional Neural Network (CNN) ile bir Vision Transformer (ViT) birleştiren ensemble'lar kullanır. CNN yerel doku analizinde başarılıyken, ViT küresel bağlamı yakalar ve sistemin tümörleri her iki mimariden de daha yüksek hassasiyetle tespit etmesini sağlar.

2. Otonom Sürüş: autonomous vehicles'taki algılama sistemleri hataya karşı güvenli olmalıdır. Mühendisler sıklıkla bir tespit modelleri ensemble'ı kullanırlar; örneğin, YOLO26'nın gerçek zamanlı hızını RT-DETR'in transformer tabanlı doğruluğu ile birleştirmek gibi. Bu, bir model parlama veya gölge gibi belirli aydınlatma koşullarında zorlansa bile yayaların veya engellerin tespit edilmesini sağlar.

Link to this sectionPython ile Ensemble'ları Uygulama#

Karmaşık ensemble stratejileri Scikit-learn gibi kütüphaneler kullanılarak oluşturulabilse de, bilgisayarlı görü için temel bir çıkarım ensemble'ını sadece birden fazla model yükleyip aynı girdiyi işleyerek oluşturabilirsin. Aşağıdaki örnek, aynı görüntü üzerinde tahmin üretmek için iki farklı Ultralytics YOLO modelinin nasıl yükleneceğini göstermektedir.

from ultralytics import YOLO

# Load two different model variants to create a diverse ensemble
model_a = YOLO("yolo26n.pt")  # Nano model (Speed focused)
model_b = YOLO("yolo26s.pt")  # Small model (Higher accuracy)

# Perform inference on an image with both models
# In production, results are typically merged programmatically
results_a = model_a("https://ultralytics.com/images/bus.jpg")
results_b = model_b("https://ultralytics.com/images/bus.jpg")

print(f"Model A detected {len(results_a[0].boxes)} objects.")
print(f"Model B detected {len(results_b[0].boxes)} objects.")

Link to this sectionModel Ensemble ile Uzmanların Karışımı (Mixture of Experts) Karşılaştırması#

It is helpful to differentiate a standard model ensemble from a Mixture of Experts (MoE), a term often seen in modern Large Language Model (LLM) research.

• Model Ensemble: Tipik olarak her girdi için koleksiyondaki her modele sorgu gönderir ve sonuçları toplar. Bu, mean average precision (mAP) gibi metrikleri maksimize eder ancak inference latency'yi ve hesaplama maliyetini önemli ölçüde artırır. Kalite için bir kaba kuvvet (brute-force) yaklaşımıdır.
• Uzmanların Karışımı (Mixture of Experts): Veriyi yalnızca mevcut girdi için en uygun olan birkaç özel "uzman" alt modele yönlendirmek için bir "gating network" kullanır. Bu, her token için her parametreyi çalıştırmanın hesaplama maliyeti olmadan foundation models'da devasa ölçeklenebilirlik sağlar.

Link to this sectionAvantajlar ve Hususlar#

Bir model ensemble kullanmanın birincil avantajı performanstaki artıştır. Ensemble'lar, Kaggle competitions gibi veri bilimi yarışmalarındaki liderlik tablolarına sıklıkla hakim olurlar çünkü tekil modellerin kaçırdığı karmaşık kalıpları modelleyebilirler. Ancak bunun bir bedeli vardır: ensemble'ları dağıtmak daha fazla bellek ve hesaplama gücü gerektirir.

Bu kaynak taleplerini verimli bir şekilde yönetmek isteyen ekipler için, Ultralytics Platform, farklı model mimarilerini eğitmek, izlemek ve karşılaştırmak için araçlar sunar. Performans metriklerini kolayca karşılaştırarak, geliştiriciler bir ensemble'dan elde edilen doğruluk kazanımının edge AI senaryolarında dağıtım için gereken ekstra altyapıya değip değmeyeceğine karar verebilirler.