Model Merging

Model merging is an innovative technique in machine learning (ML) that combines the learned parameters (weights) of multiple pre-trained models into a single, unified model. Unlike traditional multi-model setups, merging directly fuses the model weights in parameter space. This allows practitioners to combine the specialized knowledge of several models fine-tuned on different tasks or datasets without incurring the memory and computational costs of running multiple models simultaneously.

Model merging, ağırlıkları doğrudan işlemler uygulayarak tek bir ağın mimari ayak izini korur. Bu, özellikle inference latency değerini düşürmenin ve belleği korumanın kritik olduğu uç cihazlara gelişmiş computer vision (CV) boru hatları dağıtırken değerlidir.

Model Birleştirmeyi Ayırt Etme#

Model merging kavramını Model Ensemble ve Transfer Learning gibi ilgili kavramlardan ayırmak faydalıdır.

• Model Birleştirme ile Model Topluluğu: Bir model topluluğu, bireysel ağları ayrı tutar, çıkarsama sırasında her birini çalıştırır ve çıktılarını ortalar. Bu doğruluğu artırır ancak hesaplama yükünü katlar. Model birleştirme, gerçek ağırlıkları çıkarsamadan önce birleştirir ve sonuçta ekstra çalışma zamanı hesaplaması gerektirmeyen tek bir model ortaya çıkar.
• Model Merging vs. Transfer Learning: Transfer learning, bir taban modeli alıp yeni bir veri kümesi üzerinde eğitmeye devam etmeyi içerir. Model merging ek bir fine-tuning gerektirmez; önceden eğitilmiş modelleri birleştirmek için matematiksel işlemler kullanır.

Yaygın Teknikler#

Araştırmacılar, son academic research on arXiv içinde incelendiği gibi, ağın temel yeteneklerini yok etmeden ağırlıkları etkili bir şekilde birleştirmek için birkaç yöntem geliştirmiştir.

• Weight Averaging: Aynı mimariyi paylaşan birden fazla modelin ağırlıklarının ortalamasını alan en basit yöntem.
• Görev Aritmetiği (Task Arithmetic): "Görev vektörlerinin" (ince ayar yapılmış bir model ile temel modeli arasındaki fark) belirli davranışları birleştirmek veya kaldırmak için toplandığı veya çıkarıldığı bir tekniktir.
• TIES-Birleştirme: Gereksiz değerleri kırparak ve modeller arasında tutarlı işaretler seçerek parametre girişimini çözen, çeşitli görevlerde performansı koruyan gelişmiş bir yaklaşımdır.

Gerçek Dünya Uygulamaları#

Model birleştirme, sıfırdan yeniden eğitme yapmadan genelleştirilmiş sistemler oluşturmak için oldukça etkilidir.

• Autonomous Vehicles: Otonom bir araç, bir Ultralytics YOLO26 taban modeli kullanabilir. Mühendisler, ince yaya hareketlerini tespit etmek için bir model sürümünü ve karmaşık yol işaretlerini okumak için diğerini bağımsız olarak eğitebilirler. Bu iki modeli birleştirmek, çıkarsama süresini iki katına çıkarmadan her iki görevi de aynı anda yerine getiren tek ve son derece yetenekli bir dedektör oluşturur.
• AI in Healthcare: Tıbbi görüntülemede, farklı araştırma hastaneleri katı veri gizliliği yasaları nedeniyle modelleri özel yerel veri kümeleri üzerinde (örneğin biri MRI taramaları ve biri CT taramaları için) ince ayar yapabilir. Modelleri güvenli bir şekilde birleştirerek araştırmacılar, çeşitli veri dağılımlarından yararlanan kapsamlı bir teşhis aracı oluşturabilirler.

Örnek: Basit Ağırlık Ortalaması#

PyTorch kullanarak kolayca temel model merging işlemi gerçekleştirebilirsin. Aşağıdaki örnek, aynı yapıya sahip iki modelin durum sözlüklerinin ortalamasının nasıl alınacağını gösterir.

import torch

# Load the weights (state dicts) from two identical architectures
weights_a = torch.load("yolo26_task1.pt")["model"].state_dict()
weights_b = torch.load("yolo26_task2.pt")["model"].state_dict()

# Perform simple weight averaging
merged_weights = {k: (weights_a[k] + weights_b[k]) / 2.0 for k in weights_a.keys()}

# Save the newly merged model weights
torch.save({"model": merged_weights}, "yolo26_merged.pt")

Veri kümesi etiketleme, eğitim ve dağıtımın karmaşık iş akışlarını basitleştirmek isteyen ekipler için Ultralytics Platform, uçtan uca vizyon yapay zeka projelerini zahmetsizce yönetmek için sezgisel bir arayüz sağlar.