Steering Vectors

Steering vectors represent meaningful, mathematical directions within the hidden activation space of a neural network that correspond to high-level concepts, such as "politeness," "truthfulness," or specific visual features. By artificially injecting or subtracting these vectors from the model's internal states during the forward pass, developers can predictably control and alter the model's behavior without updating any underlying weights. This technique, fundamentally rooted in Activation Engineering, provides zero-cost, inference-time control over deep learning systems ranging from large language models to vision architectures.

Link to this sectionYönlendirme Vektörleri Nasıl Çalışır?#

Bir yönlendirme vektörü oluşturmak için araştırmacılar genellikle Karşıt Aktivasyon Ekleme (CAA) adı verilen bir yöntem kullanırlar. Bu, modele "yardımcı" olması istenen bir istem ile "zararlı" olması istenen bir istem gibi bir dizi karşıt veri çiftinin ağ üzerinden geçirilmesini içerir. Bu çiftler arasındaki aktivasyon fonksiyonu çıktılarının farkı, tensör uzayında o kavramı temsil eden belirli geometrik yönü izole etmek için birden fazla örnek üzerinde ortalaması alınır.

Gerçek zamanlı çıkarım sırasında bu vektör, basit PyTorch tensör toplama işlemi kullanılarak belirli katmanlardaki gizli durumlara eklenir veya çıkarılır. Vektörün gücünü ölçeklendirmek, uygulayıcıların enjekte edilen davranışın yoğunluğunu hassas bir şekilde ayarlamasına olanak tanır.

Link to this sectionYönlendirme Vektörlerini İlgili Kavramlardan Ayırma#

Yönlendirme vektörlerinin daha geniş makine öğrenimi ortamına nasıl oturduğunu anlamak, onları benzer metodolojilerden ayırt etmeyi gerektirir:

• Görev Vektörleri: Görev vektörleri, yetenekleri birleştirmek için eğitim sonrası gerçek model ağırlıklarını değiştirerek ağırlık uzayında çalışırken, yönlendirme vektörleri çalışma zamanında kesinlikle aktivasyon uzayında çalışır ve orijinal ağırlıklara tamamen dokunulmadan bırakılır.
• Temsil Mühendisliği (RepE): RepE, Center for AI Safety gibi kuruluşlar tarafından yoğun bir şekilde araştırılan, içsel bilişsel durumları okuma ve kontrol etme konusundaki kapsamlı metodolojik çerçevedir. Yönlendirme vektörleri, RepE'nin kontrol aşamasında kullanılan özel matematiksel araçlardır.
• İstem Mühendisliği: İstem oluşturma, kullanıcının girdi metnini veya görüntüsünü değiştirerek davranışı yönlendirmeye çalışır. Yönlendirme vektörleri ise girdi darboğazını aşarak modelin içsel bilişsel işleyişini doğrudan manipüle eder.
• İnce Ayar: İnsan Geri Bildirimli Pekiştirmeli Öğrenme (RLHF) gibi geleneksel hizalama yöntemleri, modeli gradyan inişi yoluyla kalıcı olarak değiştirir ve bu da genellikle Ultralytics Platform gibi bulut araçlarıyla yönetilen ağır hesaplama gerektirir. Yönlendirme vektörleri ise bu hesaplama yükünden tamamen kaçınır.

Link to this sectionYapay Zekada Gerçek Dünya Uygulamaları#

Modelleri dinamik olarak yönlendirme yeteneği, modern yapay zeka boru hatlarında önemli ilerlemelerin önünü açmıştır:

• Yapay Zeka Güvenliğini Artırma: Mühendisler, "reddetme" veya "zararsızlık" ile ilişkili yönlendirme vektörünü izole ederek modelleri kötü niyetli talimatları reddetmeye zorlayabilirler. OpenAI'ın hizalama araştırmaları ve Anthropic'in yorumlanabilirlik çalışmaları tarafından desteklenen belirli özellikleri yönlendirmek, bir yapay zekanın konuşma kişiliğini kökten değiştirebilir ve katı güvenlik önlemleri sağlayabilir.
• Akıl Yürütme Modellerini Kontrol Etme: Gelişmiş düşünme mimarileri üzerine yapılan son çalışmalar, yönlendirme vektörlerinin içsel akıl yürütme zincirlerini modüle edebileceğini göstermektedir. Uygulayıcılar, karmaşık problem çözme sırasında modelin belirsizlik ifade etme veya hatalardan geri dönme eğilimini artırabilirler.
• Yapay Zeka Önyargısını Azaltma: Geliştiriciler, belirli bir toplumsal önyargıyı temsil eden vektörü çıkararak, üretim sırasında bu yönü çıkartabilirler. Bu, yeniden eğitime gerek kalmadan önyargıyı etkili bir şekilde nötralize eder ve adaleti iyileştirirken aynı zamanda LLM'lerde halüsinasyon olasılığını azaltır.
• Bilgisayarlı Görü Sistemlerini Yönlendirme: Görüntü modellerinde yönlendirme vektörleri, ağın kritik hedeflere olan duyarlılığını yapay olarak artırmak için özellik haritalarına uygulanabilir. Örneğin, bir nesne algılama modeli, olumsuz hava koşullarında yayaları bulmaya öncelik verecek şekilde yönlendirilebilir.

Link to this sectionPyTorch ile Yönlendirme Vektörlerini Uygulama#

Aşağıda, ileri besleme sırasında bir Ultralytics YOLO26 modeline aktivasyon yönlendirme müdahalesi uygulamanın çalıştırılabilir bir örneği bulunmaktadır. PyTorch ileri kancalarını kullanarak, özel vektörleri doğrudan gizli katmanlara enjekte edebilirsin.

import torch
from ultralytics import YOLO

# Load the recommended Ultralytics YOLO26 model for state-of-the-art vision tasks
model = YOLO("yolo26n.pt")


# Define a hook function to steer the internal activations
def steer_activations_hook(module, input, output):
    # Create a steering vector matching the output shape (for demonstration purposes)
    # In practice, this vector is pre-computed via Contrastive Activation Addition (CAA)
    steering_vector = torch.ones_like(output) * 0.1

    # Add the steering vector to the model's hidden states to alter behavior at inference
    return output + steering_vector


# Attach the hook to a middle layer (e.g., layer index 5) to inject the vector
handle = model.model.model[5].register_forward_hook(steer_activations_hook)

# Run inference on an image with the dynamically steered activations
results = model("https://ultralytics.com/images/bus.jpg")

# Remove the hook to restore the model to its original unsteered state
handle.remove()