Task Vectors

Task vektörleri, yeni bir yetenek elde etmek için ince ayar (fine-tuning) sırasında bir neural network's ağırlıklarında yapılan belirli değişiklikleri temsil eder. Bir foundational base model parametrelerini ince ayar yapılmış bir modelin parametrelerinden çıkararak araştırmacılar, ağırlık uzayında o belirli görev için öğrenilen davranışı özetleyen yönlü bir vektör izole edebilir. Bu yaklaşım, geliştiricilerin ek eğitim işlem gücüne ihtiyaç duymadan model davranışlarını yönlendirmek, değiştirmek veya birleştirmek için arithmetic operations on model parameters gerçekleştirmesine olanak tanır.

Görev Vektörleri Transfer Öğrenmeden Nasıl Ayrılır?#

transfer learning kavramı, mevcut bilgisini uyarlamak için bir modeli yeni bir veri kümesi üzerinde sırayla eğitmeyi içerirken, task vektörleri eğitim sonrasında doğrudan modelin yapısal ağırlıkları üzerinde çalışır. Yeni bir alanı öğrenmek için gradyanları yeniden eğitmek yerine, task vektörlerini kullanan weight space interpolation, uygulayıcıların bağımsız olarak eğitilmiş birden fazla modelin ağırlık farklarını doğrusal olarak birleştirmesine olanak tanır. Bu, sıfır vuruşlu (zero-shot) model merging özelliğini etkinleştirerek tek bir modelin, computational overhead during training tipik maliyeti olmaksızın birden fazla yeteneği aynı anda devralmasını sağlar.

Gerçek Dünya Uygulamaları#

deep learning modellerini cebirsel olarak manipüle etme yeteneği, modern AI boru hatlarında birkaç etkili uygulamaya yol açmıştır:

• Multi-Task Model Merging: Mühendisler, object detection için optimize edilmiş bir task vektörünü image segmentation için eğitilmiş başka bir vektörle birleştirebilir. Bir Ultralytics YOLO26 temel modeline uygulandığında bu, her iki görevde de aynı anda üstün performans gösteren ve orijinal ince ayarların her birinin güçlü yönlerini koruyan çift amaçlı bir mimari oluşturur.
• Machine Unlearning and AI Safety: Bir model önyargılı veya tehlikeli çıktılar sergilerse, araştırmacılar bu belirli istenmeyen davranışı temsil eden bir task vektörü hesaplayabilir. Bu vektörü modelin ağırlıklarından çıkararak davranışı etkili bir şekilde "silebilir" ve gelişmiş AI safety ile sağlam AI ethics standartlarına büyük katkıda bulunabilirler.
• Domain Adaptation in Computer Vision: Modelleri belirli ortamlara uyarlarken —gündüzden geceye geçiş gibi real-time inference— task vektörleri, kullanıcıların uyarlama miktarını ölçeklendirmesine olanak tanır. Vektörün bir kısmını uygulamak (örneğin 0.5'lik bir ölçeklendirme faktörü), her iki alanda da iyi performans gösteren dengeli bir model üretebilir.

PyTorch İçinde Görev Vektörleriyle Çalışmak#

Bir task vector oluşturmak ve uygulamak, PyTorch state dictionary öğesine erişmeyi ve bunu işlemeyi gerektirir. Aşağıdaki örnek, fine-tuned yapılmış bir Ultralytics YOLO26 modelinden bir task vector'ün nasıl çıkarılacağını ve belirli bir ölçeklendirme faktörüyle taban modele nasıl geri uygulanacağını göstermektedir.

from ultralytics import YOLO

# Load the state dictionaries for the base and fine-tuned models
base_weights = YOLO("yolo26n.pt").model.state_dict()
tuned_weights = YOLO("yolo26n-custom.pt").model.state_dict()

# Calculate the task vector (tuned weights minus base weights)
task_vector = {k: tuned_weights[k] - base_weights[k] for k in base_weights.keys()}

# Apply the task vector to the base model using a 0.5 scaling factor
for k in base_weights.keys():
    base_weights[k] += 0.5 * task_vector[k]

Ağırlık Manipülasyonunun Geleceği#

large language models ve devasa vizyon transformer'ları gibi mimariler parametre sayısında büyüdükçe, her küçük ayar için onları yeniden eğitmek ekonomik olarak imkansız hale gelir. Task vektörleri, eğitim sonrası model optimization için matematiksel olarak zarif bir alternatif sunar. Tüm çok gigabaytlık modeller yerine hafif task vektörlerini paylaşarak, AI topluluğu open-source collaboration in AI hızlandırabilir. Özel task vektörleriniz iyileştirildikten sonra, Ultralytics Platform kullanımı sonraki model deployment ve izleme süreçlerini basitleştirerek optimize edilmiş ağırlıklarınızın doğrudan üretime hazır uç noktalara dönüşmesini sağlar.