Steering Vectors

Steering vectors represent meaningful, mathematical directions within the hidden activation space of a neural network that correspond to high-level concepts, such as "politeness," "truthfulness," or specific visual features. By artificially injecting or subtracting these vectors from the model's internal states during the forward pass, developers can predictably control and alter the model's behavior without updating any underlying weights. This technique, fundamentally rooted in Activation Engineering, provides zero-cost, inference-time control over deep learning systems ranging from large language models to vision architectures.

Link to this sectionSteering Vectorsの仕組み#

To create a steering vector, researchers typically use a method called Contrastive Activation Addition (CAA). This involves passing a set of contrastive data pairs—such as a prompt asking the model to be "helpful" versus one asking it to be "harmful"—through the network. The difference in the activation function outputs between these pairs is averaged across multiple samples to isolate the specific geometric direction representing that concept in the tensor space.

リアルタイム推論中、このベクトルは単純なPyTorchテンソル加算を使用して特定の層の隠れ状態に対して加算または減算されます。ベクトルの強度をスケーリングすることで、実務者は注入された挙動の度合いを微調整できます。

Link to this sectionSteering Vectorsと関連概念の区別#

Steering vectorsがより広範な機械学習の状況においてどのように位置付けられるかを理解するには、類似の手法と区別する必要があります。

• Task Vectors: Task vectorsは学習後の実際のモデル重みを修正して能力をマージする重み空間で動作しますが、Steering vectorsはランタイムにおいて厳密に活性化空間で動作し、元の重みには一切手を加えません。
• Representation Engineering (RepE): RepEは、内部の認知状態を読み取り、制御するための包括的な方法論的フレームワークであり、Center for AI Safetyのような組織によって深く研究されています。Steering vectorsは、RepEの制御フェーズ内で利用される具体的な数学的ツールです。
• プロンプトエンジニアリング: プロンプトエンジニアリングは、ユーザーの入力テキストや画像を修正することで挙動を誘導しようとします。Steering vectorsは入力のボトルネックを回避し、モデルの内部的な認知処理を直接操作します。
• ファインチューニング: 人間のフィードバックによる強化学習（RLHF）のような従来のアライメント手法は、勾配降下法を通じてモデルを恒久的に変更するため、Ultralytics Platformのようなクラウドツールで管理されることが多い多大な計算リソースを必要とします。Steering vectorsは、この計算オーバーヘッドを完全に回避します。

Link to this sectionAIにおける現実世界の応用#

モデルを動的に操る能力は、現代の人工知能パイプライン全体で重要な進歩をもたらしました。

• AIの安全性向上: 「拒否」や「無害さ」に関連するSteering vectorを分離することで、エンジニアはモデルに悪意のある指示を拒否させることができます。OpenAIのアライメント研究やAnthropicの解釈可能性に関する研究に裏打ちされ、特定の機能を操作することで、AIの会話の人格を劇的に変化させ、厳格な安全ガイドレールを保証できます。
• 推論モデルの制御: 高度な思考アーキテクチャに関する最近の研究は、Steering vectorsが内部の推論チェーンを変調できることを示しています。実務者は、複雑な問題解決の過程で、モデルが不確実性を表現したり、エラーを修正（バックトラック）したりする傾向を高めることができます。
• AIバイアスの緩和: 特定の社会的バイアスを表すベクトルを抽出することで、生成中にこの方向性を減算できます。これにより、再学習なしでバイアスを効果的に中和して公平性を向上させると同時に、LLMにおけるハルシネーションの可能性を低減できます。
• コンピュータビジョンシステムの操作: ビジョンモデルにおいて、Steering vectorsは特徴マップに適用され、重要なターゲットに対するネットワークの感度を人為的に高めることができます。例えば、物体検出モデルを操作して、悪天候下での歩行者の発見を優先させることが可能です。

Link to this sectionPyTorchでSteering Vectorsを適用する#

以下は、フォワードパス中にUltralytics YOLO26モデルに対して活性化ステアリング介入を適用する実行可能な例です。PyTorch forward hooksを利用することで、カスタムベクトルを隠れ層に直接注入できます。

import torch
from ultralytics import YOLO

# Load the recommended Ultralytics YOLO26 model for state-of-the-art vision tasks
model = YOLO("yolo26n.pt")


# Define a hook function to steer the internal activations
def steer_activations_hook(module, input, output):
    # Create a steering vector matching the output shape (for demonstration purposes)
    # In practice, this vector is pre-computed via Contrastive Activation Addition (CAA)
    steering_vector = torch.ones_like(output) * 0.1

    # Add the steering vector to the model's hidden states to alter behavior at inference
    return output + steering_vector


# Attach the hook to a middle layer (e.g., layer index 5) to inject the vector
handle = model.model.model[5].register_forward_hook(steer_activations_hook)

# Run inference on an image with the dynamically steered activations
results = model("https://ultralytics.com/images/bus.jpg")

# Remove the hook to restore the model to its original unsteered state
handle.remove()