Steering Vectors

Steering vectors represent meaningful, mathematical directions within the hidden activation space of a neural network that correspond to high-level concepts, such as "politeness," "truthfulness," or specific visual features. By artificially injecting or subtracting these vectors from the model's internal states during the forward pass, developers can predictably control and alter the model's behavior without updating any underlying weights. This technique, fundamentally rooted in Activation Engineering, provides zero-cost, inference-time control over deep learning systems ranging from large language models to vision architectures.

Link to this sectionYönlendirme Vektörleri Nasıl Çalışır?#

To create a steering vector, researchers typically use a method called Contrastive Activation Addition (CAA). This involves passing a set of contrastive data pairs—such as a prompt asking the model to be "helpful" versus one asking it to be "harmful"—through the network. The difference in the activation function outputs between these pairs is averaged across multiple samples to isolate the specific geometric direction representing that concept in the tensor space.

Gerçek zamanlı çıkarım sırasında bu vektör, basit PyTorch tensör toplama işlemi kullanılarak belirli katmanlardaki gizli durumlara eklenir veya bunlardan çıkarılır. Vektörün gücünü ölçeklendirmek, uygulayıcıların enjekte edilen davranışın yoğunluğunu hassas bir şekilde ayarlamasına olanak tanır.

Link to this sectionYönlendirme Vektörlerini İlgili Kavramlardan Ayırma#

Yönlendirme vektörlerinin daha geniş makine öğrenimi ekosistemine nasıl oturduğunu anlamak, onları benzer metodolojilerden ayırt etmeyi gerektirir:

• Görev Vektörleri: Görev vektörleri yetenekleri birleştirmek için eğitim sonrası gerçek model ağırlıklarını değiştirerek ağırlık uzayında çalışırken, yönlendirme vektörleri çalışma zamanında tamamen aktivasyon uzayında çalışır ve orijinal ağırlıklara hiçbir şekilde dokunmaz.
• Temsil Mühendisliği (RepE): RepE, Center for AI Safety gibi kuruluşlar tarafından yoğun bir şekilde araştırılan, iç bilişsel durumları okuma ve kontrol etmeye yönelik kapsayıcı metodolojik çerçevedir. Yönlendirme vektörleri, RepE'nin kontrol aşamasında kullanılan özel matematiksel araçlardır.
• İstem Mühendisliği: İstem mühendisliği, kullanıcının girdi metnini veya görselini değiştirerek davranışı yönlendirmeye çalışır. Yönlendirme vektörleri ise girdi darboğazını aşarak modelin iç bilişsel işleme süreçlerini doğrudan manipüle eder.
• İnce Ayar (Fine-Tuning): İnsan Geri Bildirimiyle Pekiştirmeli Öğrenme (RLHF) gibi geleneksel uyumlaştırma yöntemleri, gradyan inişi yoluyla modeli kalıcı olarak değiştirir ve Ultralytics Platform gibi bulut araçlarıyla yönetilen yoğun hesaplama gücü gerektirir. Yönlendirme vektörleri bu hesaplama yükünden tamamen kaçınır.

Link to this sectionYapay Zekada Gerçek Dünya Uygulamaları#

Modelleri dinamik olarak yönlendirebilme yeteneği, modern yapay zeka hatlarında önemli ilerlemelerin kapısını açmıştır:

• Yapay Zeka Güvenliğini Artırma: Mühendisler, "reddetme" veya "zararsızlık" ile ilişkili yönlendirme vektörünü izole ederek modelleri kötü niyetli talimatları reddetmeye zorlayabilirler. OpenAI'ın uyumlaştırma araştırmaları ve Anthropic'in yorumlanabilirlik çalışmaları tarafından desteklenen bu yöntemle, belirli özellikleri yönlendirmek bir yapay zekanın konuşma kişiliğini büyük ölçüde değiştirebilir ve katı güvenlik önlemleri sağlayabilir.
• Akıl Yürütme Modellerini Kontrol Etme: Gelişmiş düşünme mimarileri üzerine yapılan son çalışmalar, yönlendirme vektörlerinin iç akıl yürütme zincirlerini modüle edebildiğini göstermektedir. Uygulayıcılar, karmaşık problem çözme sırasında modelin belirsizlik ifade etme veya hatalardan geri dönme eğilimini artırabilirler.
• Yapay Zeka Önyargısını Azaltma: Geliştiriciler, belirli bir toplumsal önyargıyı temsil eden vektörü çıkararak, üretim sırasında bu yönü çıkartabilirler. Bu, modeli yeniden eğitmeden önyargıyı etkili bir şekilde nötralize eder ve adaleti iyileştirirken, aynı zamanda LLM'lerde halüsinasyon olasılığını da azaltır.
• Bilgisayarlı Görü Sistemlerini Yönlendirme: Görüntü modellerinde yönlendirme vektörleri, ağın kritik hedeflere karşı hassasiyetini yapay olarak artırmak için özellik haritalarına uygulanabilir. Örneğin, bir nesne algılama modeli, olumsuz hava koşullarında yayaları bulmaya öncelik verecek şekilde yönlendirilebilir.

Link to this sectionPyTorch ile Yönlendirme Vektörlerini Uygulama#

Aşağıda, bir ileri geçiş sırasında Ultralytics YOLO26 modeline bir aktivasyon yönlendirme müdahalesi uygulamanın çalıştırılabilir bir örneği bulunmaktadır. PyTorch ileri kancalarını kullanarak, özel vektörleri doğrudan gizli katmanlara enjekte edebilirsiniz.

import torch
from ultralytics import YOLO

# Load the recommended Ultralytics YOLO26 model for state-of-the-art vision tasks
model = YOLO("yolo26n.pt")


# Define a hook function to steer the internal activations
def steer_activations_hook(module, input, output):
    # Create a steering vector matching the output shape (for demonstration purposes)
    # In practice, this vector is pre-computed via Contrastive Activation Addition (CAA)
    steering_vector = torch.ones_like(output) * 0.1

    # Add the steering vector to the model's hidden states to alter behavior at inference
    return output + steering_vector


# Attach the hook to a middle layer (e.g., layer index 5) to inject the vector
handle = model.model.model[5].register_forward_hook(steer_activations_hook)

# Run inference on an image with the dynamically steered activations
results = model("https://ultralytics.com/images/bus.jpg")

# Remove the hook to restore the model to its original unsteered state
handle.remove()