Steering Vectors

Steering vectors represent meaningful, mathematical directions within the hidden activation space of a neural network that correspond to high-level concepts, such as "politeness," "truthfulness," or specific visual features. By artificially injecting or subtracting these vectors from the model's internal states during the forward pass, developers can predictably control and alter the model's behavior without updating any underlying weights. This technique, fundamentally rooted in Activation Engineering, provides zero-cost, inference-time control over deep learning systems ranging from large language models to vision architectures.

Link to this sectionSteering Vectorsの仕組み#

Steering vectorを作成するために、研究者は通常Contrastive Activation Addition（CAA）と呼ばれる手法を用います。これには、モデルに対して「役に立つ」ように求めるプロンプトと、「有害」であるように求めるプロンプトなど、対照的なデータペアをネットワークに入力するプロセスが含まれます。これらのペア間におけるactivation function出力の差を複数のサンプル間で平均化することで、tensor spaceにおいてその概念を表す特定の幾何学的な方向性を抽出します。

real-time inferenceの間、このベクトルは単純なPyTorch tensor additionを用いて、特定の層の隠れ状態に対して加算または減算されます。ベクトルの強さをスケーリングすることで、適用する挙動の強度を細かく調整できます。

Link to this sectionSteering Vectorsと関連概念の差異#

Steering vectorsがより広範なmachine learningの領域でどのように位置付けられるかを理解するには、類似の技術と区別する必要があります。

• Task Vectors: Task vectorsは、学習後に実際のmodel weightsを修正して能力を統合することでウェイト空間で動作しますが、steering vectorsはランタイム中のアクティベーション空間でのみ動作し、元のウェイトには一切触れません。
• Representation Engineering (RepE): RepEは、内部の認知状態を読み取り、制御するための包括的な方法論フレームワークであり、Center for AI Safetyのような組織によって精力的に研究されています。Steering vectorsは、RepEの制御フェーズ内で利用される特定の数学的ツールです。
• Prompt Engineering: プロンプトエンジニアリングは、ユーザーの入力テキストや画像を修正することで挙動を導こうとします。一方、steering vectorsは入力のボトルネックをバイパスし、モデルの内部的な認知処理を直接操作します。
• Fine-Tuning: 人間のフィードバックによる強化学習（RLHF）のような従来のアライメント手法は、勾配降下法を通じてモデルを恒久的に変更するため、Ultralytics Platformのようなクラウドツールで管理されるような大規模な計算リソースを必要とします。Steering vectorsは、このような計算上のオーバーヘッドを完全に回避します。

Link to this sectionAIにおける実用的な応用#

モデルを動的に制御する能力は、現代のartificial intelligenceパイプライン全体において重要な進歩をもたらしました。

• Enhancing AI Safety: 「拒否」や「無害さ」に関連するsteering vectorを抽出することで、エンジニアはモデルが悪意のある指示を拒否するように強制できます。OpenAI's alignment researchやAnthropicの解釈可能性研究に裏打ちされた特定の機能の制御は、AIの会話のペルソナを劇的に変化させ、厳格な安全性ガイドラインを確保することを可能にします。
• Controlling Reasoning Models: 高度な思考アーキテクチャに関する最近の研究では、steering vectorsが内部の推論チェーンを調整できることが実証されています。実務者は、複雑な問題解決の過程で、モデルが不確実性を表現したり、エラーを遡って修正したりする傾向を強化することが可能です。
• Mitigating AI Bias: 特定の社会的なバイアスを表すベクトルを抽出することで、開発者は生成中にこの方向成分を差し引くことができます。これにより、再学習なしでバイアスを効果的に中和し、公平性を向上させると同時に、hallucination in LLMsが発生する可能性を低減できます。
• Steering Computer Vision Systems: 視覚モデルにおいて、steering vectorsをフィーチャーマップに適用することで、ネットワークの重要なターゲットに対する感度を人為的に高めることができます。例えば、object detectionモデルを、悪天候下で歩行者を見つけることを優先するように制御することが可能です。

Link to this sectionPyTorchによるSteering Vectorsの適用#

以下は、フォワードパス実行中にUltralytics YOLO26モデルに対してアクティベーション制御介入を行う実行可能な例です。PyTorch forward hooksを利用することで、隠れ層にカスタムベクトルを直接注入できます。

import torch
from ultralytics import YOLO

# Load the recommended Ultralytics YOLO26 model for state-of-the-art vision tasks
model = YOLO("yolo26n.pt")


# Define a hook function to steer the internal activations
def steer_activations_hook(module, input, output):
    # Create a steering vector matching the output shape (for demonstration purposes)
    # In practice, this vector is pre-computed via Contrastive Activation Addition (CAA)
    steering_vector = torch.ones_like(output) * 0.1

    # Add the steering vector to the model's hidden states to alter behavior at inference
    return output + steering_vector


# Attach the hook to a middle layer (e.g., layer index 5) to inject the vector
handle = model.model.model[5].register_forward_hook(steer_activations_hook)

# Run inference on an image with the dynamically steered activations
results = model("https://ultralytics.com/images/bus.jpg")

# Remove the hook to restore the model to its original unsteered state
handle.remove()