Task Vectors

Görev vektörleri, yeni bir yetenek kazandırmak için ince ayar sırasında sinir ağının ağırlıklarında yapılan belirli değişiklikleri temsil eder. Araştırmacılar, temel modelin parametrelerini ince ayarlı modelinkilerden çıkararak ağırlık uzayında, belirli göreve ilişkin öğrenilmiş davranışı kodlayan yönlü bir vektörü yalıtabilir. Bu yaklaşım, geliştiricilerin ek eğitim hesaplaması gerektirmeden model davranışlarını yönlendirmek, değiştirmek veya birleştirmek için model parametreleri üzerinde aritmetik işlemler uygulamasını sağlar.

Görev Vektörlerini Aktarım Öğreniminden Ayıran Özellikler#

Aktarım öğrenimi kavramı, mevcut bilgisini uyarlamak için bir modelin yeni bir veri kümesinde art arda eğitilmesini içerirken görev vektörleri, modelin eğitim sonrası yapısal ağırlıkları üzerinde doğrudan işlem yapar. Yeni bir alanı öğrenmek için gradyanları yeniden eğitmek yerine, görev vektörleriyle yapılan ağırlık uzayı enterpolasyonu, uygulayıcıların bağımsız olarak eğitilmiş birden fazla modelin ağırlık farklarını doğrusal biçimde birleştirmesini sağlar. Bu, sıfır örnekli model birleştirmeyi mümkün kılar ve tek bir modelin tipik eğitim sırasındaki hesaplama yüküne katlanmadan aynı anda birden fazla yeteneği edinmesini sağlar.

Gerçek Dünya Uygulamaları#

Derin öğrenme modellerini cebirsel olarak değiştirebilme olanağı, modern yapay zeka işlem hatlarında çeşitli etkili uygulamaların önünü açtı:

• Çoklu Görev Model Birleştirme: Mühendisler, farklı veri kümelerinde eğitilmiş iki nesne tespiti modeli gibi aynı temel modele ince ayar yapılarak elde edilen görev vektörlerini birleştirebilir. Görev vektörleri yalnızca aynı mimariler arasında birleştirilebildiğinden, bir tespit ince ayarı görüntü segmentasyonu ince ayarıyla birleştirilemez. Bu yaklaşım bir Ultralytics YOLO26 temel modeline uygulandığında, özgün ince ayarların her birinin güçlü yönlerini devralan tek bir model ortaya çıkar.
• Makineyle Unutma ve Yapay Zekâ Güvenliği: Bir model yanlı veya tehlikeli çıktılar verirse araştırmacılar, bu istenmeyen davranışı temsil eden bir görev vektörü hesaplayabilir. Bu vektörü modelin ağırlıklarından çıkararak davranışı etkili bir şekilde "silebilir" ve yapay zekâ güvenliği ile sağlam yapay zekâ etiği standartlarının iyileştirilmesine önemli ölçüde katkıda bulunabilirler.
• Bilgisayarlı Görüde Alan Uyarlama: Modelleri gündüzden geceye gerçek zamanlı çıkarım gibi belirli ortamlara uyarlarken görev vektörleri, kullanıcıların uyarlamanın büyüklüğünü ayarlamasına olanak tanır. Vektörün bir bölümünü uygulamak (ör. 0,5 ölçekleme katsayısı), her iki alanda da iyi performans gösteren dengeli bir model ortaya çıkarabilir.

PyTorch'ta Görev Vektörleriyle Çalışma#

Bir görev vektörü oluşturmak ve uygulamak için PyTorch durum sözlüğüne erişmek ve bu sözlüğü değiştirmek gerekir. Aşağıdaki örnek, ince ayarı yapılmış bir Ultralytics YOLO26 modelinden görev vektörünün nasıl çıkarılacağını ve belirli bir ölçekleme katsayısıyla temel modele nasıl uygulanacağını gösteriyor.

from ultralytics import YOLO

# Temel modelin ve ince ayarlı modellerin durum sözlüklerini yükle
base_weights = YOLO("yolo26n.pt").model.state_dict()
tuned_weights = YOLO("yolo26n-custom.pt").model.state_dict()

# Görev vektörünü hesapla (ince ayarlı ağırlıklar eksi temel ağırlıklar); tamsayı arabelleklerini atla
task_vector = {k: tuned_weights[k] - base_weights[k] for k in base_weights if base_weights[k].is_floating_point()}

# Görev vektörünü 0.5 ölçekleme katsayısıyla temel modele uygula
for k, delta in task_vector.items():
    base_weights[k] += 0.5 * delta

Ağırlık Manipülasyonunun Geleceği#

Büyük dil modelleri ve devasa görü Transformer'ları gibi mimarilerin parametre sayısı arttıkça, her küçük değişiklik için yeniden eğitim yapmak ekonomik açıdan sürdürülemez hâle geliyor. Görev vektörleri, eğitim sonrası model optimizasyonu için matematiksel açıdan zarif bir alternatif sunar. Yapay zeka topluluğu, çok gigabaytlık modellerin tamamı yerine hafif görev vektörlerini paylaşarak yapay zekada açık kaynak iş birliğini hızlandırabilir. Özel görev vektörlerin iyileştirildikten sonra Ultralytics Platformu, sonraki model dağıtımı ve izleme süreçlerini kolaylaştırarak optimize edilmiş ağırlıklarının doğrudan üretime hazır uç noktalara aktarılmasını sağlar.