Task Vectors

Görev vektörleri, yeni bir yetenek kazanmak için ince ayar (fine-tuning) sırasında bir sinir ağının ağırlıklarında yapılan özel değişiklikleri temsil eder. Araştırmacılar, temel bir modelin parametrelerini, ince ayar yapılmış bir modelinkilerden çıkararak, ağırlık uzayında o belirli görev için öğrenilmiş davranışı özetleyen yönlü bir vektörü izole edebilirler. Bu yaklaşım, geliştiricilerin ek bir eğitim hesaplama maliyeti gerektirmeden model davranışlarını yönlendirmek, değiştirmek veya birleştirmek için model parametreleri üzerinde basit aritmetik işlemler uygulamasına olanak tanır.

Link to this sectionGörev Vektörleri Transfer Öğrenmeden Nasıl Ayrılır?#

Transfer öğrenme kavramı, bir modelin mevcut bilgisini uyarlamak için yeni bir veri kümesi üzerinde sıralı olarak eğitilmesini içerirken, görev vektörleri eğitim sonrasında doğrudan modelin yapısal ağırlıkları üzerinde çalışır. Yeni bir alan öğrenmek için gradyanları yeniden eğitmek yerine, görev vektörlerini kullanarak ağırlık uzayı interpolasyonu yapmak, uygulayıcıların birbirinden bağımsız eğitilmiş birden fazla modelden gelen ağırlık farklarını doğrusal olarak birleştirmesine olanak tanır. Bu durum, sıfır örnekli (zero-shot) model birleştirmeyi mümkün kılar ve tek bir modelin, eğitim sırasındaki tipik hesaplama yükü olmadan birden fazla yeteneği aynı anda devralmasını sağlar.

Link to this sectionGerçek Dünya Uygulamaları#

Derin öğrenme modellerini cebirsel olarak manipüle edebilme yeteneği, modern yapay zeka süreçlerinde birçok etkili uygulamaya yol açmıştır:

• Çok Görevli Model Birleştirme: Mühendisler, nesne algılama için optimize edilmiş bir görev vektörünü, görüntü segmentasyonu için eğitilmiş başka bir vektörle birleştirebilirler. Bu, bir Ultralytics YOLO26 temel modeline uygulandığında, her iki orijinal ince ayarın güçlü yönlerini koruyarak her iki görevde de aynı anda başarılı olan çift amaçlı bir mimari oluşturur.
• Makine Unutma ve Yapay Zeka Güvenliği: Bir model önyargılı veya tehlikeli çıktılar sergiliyorsa, araştırmacılar bu belirli istenmeyen davranışı temsil eden bir görev vektörü hesaplayabilirler. Bu vektörü modelin ağırlıklarından çıkararak, davranışı etkili bir şekilde "silebilir" ve böylece gelişmiş yapay zeka güvenliğine ve sağlam yapay zeka etiği standartlarına büyük katkıda bulunabilirler.
• Bilgisayarlı Görüde Alan Uyarlaması: Modelleri gündüzden geceye gerçek zamanlı çıkarım gibi belirli ortamlar için uyarlarken, görev vektörleri kullanıcıların uyarlama büyüklüğünü ölçeklendirmesine olanak tanır. Vektörün bir kısmını (örneğin 0,5'lik bir ölçeklendirme faktörü) uygulamak, her iki alanda da iyi performans gösteren dengeli bir model elde edilmesini sağlayabilir.

Link to this sectionPyTorch İçinde Görev Vektörleriyle Çalışmak#

Bir görev vektörü oluşturmak ve uygulamak, PyTorch durum sözlüğüne erişmeyi ve onu manipüle etmeyi gerektirir. Aşağıdaki örnek, ince ayar yapılmış bir YOLO26 modelinden nasıl görev vektörü çıkarılacağını ve belirli bir ölçeklendirme faktörüyle temel modele nasıl geri uygulanacağını göstermektedir.

from ultralytics import YOLO

# Load the state dictionaries for the base and fine-tuned models
base_weights = YOLO("yolo26n.pt").model.state_dict()
tuned_weights = YOLO("yolo26n-custom.pt").model.state_dict()

# Calculate the task vector (tuned weights minus base weights)
task_vector = {k: tuned_weights[k] - base_weights[k] for k in base_weights.keys()}

# Apply the task vector to the base model using a 0.5 scaling factor
for k in base_weights.keys():
    base_weights[k] += 0.5 * task_vector[k]

Link to this sectionAğırlık Manipülasyonunun Geleceği#

Büyük dil modelleri ve devasa vision transformer'lar gibi mimariler parametre sayısı bakımından büyüdükçe, bunları her küçük ayar için yeniden eğitmek ekonomik olarak imkansız hale gelir. Görev vektörleri, eğitim sonrası model optimizasyonu için matematiksel olarak zarif bir alternatif sunar. Yapay zeka topluluğu, çok gigabaytlık modellerin tamamı yerine hafif görev vektörlerini paylaşarak yapay zekada açık kaynak iş birliğini hızlandırabilir. Özel görev vektörlerini geliştirdikten sonra, Ultralytics Platform kullanmak, sonraki model dağıtım ve izleme süreçlerini basitleştirerek optimize edilmiş ağırlıklarınızın doğrudan üretime hazır uç noktalara dönüştürülmesini sağlar.