Steering Vectors

Vetores de direcionamento representam direções matemáticas significativas dentro do espaço de ativação oculto de uma neural network que correspondem a conceitos de alto nível, como "polidez", "veracidade" ou características visuais específicas. Ao injetar ou subtrair artificialmente esses vetores dos estados internos do modelo durante a passagem direta (forward pass), os desenvolvedores podem controlar e alterar previsivelmente o comportamento do modelo sem atualizar quaisquer pesos subjacentes. Essa técnica, fundamentalmente enraizada na Activation Engineering, oferece controle de custo zero em tempo de inferência sobre sistemas de deep learning, variando de large language models a arquiteturas de visão.

Link to this sectionComo Funcionam os Vetores de Direcionamento#

Para criar um vetor de direcionamento, os pesquisadores normalmente usam um método chamado Contrastive Activation Addition (CAA). Isso envolve passar um conjunto de pares de dados contrastantes — como um prompt pedindo ao modelo para ser "útil" versus um pedindo para ser "prejudicial" — através da rede. A diferença nas saídas da activation function entre esses pares é calculada pela média entre várias amostras para isolar a direção geométrica específica que representa esse conceito no tensor space.

Durante a real-time inference, este vetor é adicionado ou subtraído dos estados ocultos em camadas específicas usando uma simples PyTorch tensor addition. Escalonar a força do vetor permite que os profissionais ajustem a intensidade do comportamento injetado.

Link to this sectionDiferenciando Vetores de Direcionamento de Conceitos Relacionados#

Entender como os vetores de direcionamento se encaixam no panorama mais amplo do machine learning exige distingui-los de metodologias semelhantes:

• Task Vectors: Enquanto os task vectors operam no espaço de pesos ao modificar os model weights reais após o treinamento para mesclar capacidades, os vetores de direcionamento operam estritamente no espaço de ativação em tempo de execução, deixando os pesos originais completamente intocados.
• Representation Engineering (RepE): RepE é a estrutura metodológica abrangente de leitura e controle de estados cognitivos internos, amplamente pesquisada por organizações como o Center for AI Safety. Os vetores de direcionamento são as ferramentas matemáticas específicas utilizadas dentro da fase de controle do RepE.
• Prompt Engineering: O prompting tenta guiar o comportamento modificando o texto ou a imagem de entrada do usuário. Os vetores de direcionamento contornam o gargalo de entrada, manipulando diretamente o processamento cognitivo interno do modelo.
• Fine-Tuning: Métodos de alinhamento tradicionais, como o Reinforcement Learning from Human Feedback (RLHF), alteram permanentemente o modelo via gradiente descendente, exigindo computação pesada que muitas vezes é gerenciada via ferramentas de nuvem como a Ultralytics Platform. Os vetores de direcionamento evitam totalmente essa sobrecarga computacional.

Link to this sectionAplicações no Mundo Real em IA#

A capacidade de direcionar modelos dinamicamente desbloqueou avanços significativos em pipelines modernos de artificial intelligence:

• Enhancing AI Safety: Ao isolar o vetor de direcionamento associado à "recusa" ou "inofensividade", os engenheiros podem forçar os modelos a rejeitar instruções maliciosas. Com o apoio da OpenAI's alignment research e dos estudos de interpretabilidade da Anthropic, direcionar recursos específicos pode alterar drasticamente a persona conversacional de uma IA e garantir salvaguardas de segurança estritas.
• Controlling Reasoning Models: Estudos recentes sobre arquiteturas de pensamento avançadas demonstram que os vetores de direcionamento podem modular cadeias de raciocínio interno. Os profissionais podem aumentar a tendência de um modelo expressar incerteza ou voltar atrás em erros durante a resolução de problemas complexos.
• Mitigating AI Bias: Ao extrair o vetor que representa um viés social específico, os desenvolvedores podem subtrair essa direção durante a geração. Isso efetivamente neutraliza o viés e melhora a imparcialidade sem retreinamento, reduzindo simultaneamente a probabilidade de hallucination in LLMs.
• Steering Computer Vision Systems: Em modelos de visão, os vetores de direcionamento podem ser aplicados a mapas de características para aumentar artificialmente a sensibilidade da rede a alvos críticos. Por exemplo, um modelo de object detection pode ser direcionado para priorizar a localização de pedestres em condições climáticas adversas.

Link to this sectionAplicando Vetores de Direcionamento com PyTorch#

Abaixo está um exemplo executável de como aplicar uma intervenção de direcionamento de ativação a um modelo Ultralytics YOLO26 durante uma passagem direta. Ao utilizar PyTorch forward hooks, você pode injetar vetores personalizados diretamente nas camadas ocultas.

import torch
from ultralytics import YOLO

# Load the recommended Ultralytics YOLO26 model for state-of-the-art vision tasks
model = YOLO("yolo26n.pt")


# Define a hook function to steer the internal activations
def steer_activations_hook(module, input, output):
    # Create a steering vector matching the output shape (for demonstration purposes)
    # In practice, this vector is pre-computed via Contrastive Activation Addition (CAA)
    steering_vector = torch.ones_like(output) * 0.1

    # Add the steering vector to the model's hidden states to alter behavior at inference
    return output + steering_vector


# Attach the hook to a middle layer (e.g., layer index 5) to inject the vector
handle = model.model.model[5].register_forward_hook(steer_activations_hook)

# Run inference on an image with the dynamically steered activations
results = model("https://ultralytics.com/images/bus.jpg")

# Remove the hook to restore the model to its original unsteered state
handle.remove()