Steering Vectors

Vetores de direcionamento representam direções matemáticas significativas dentro do espaço de ativação oculto de uma rede neural que correspondem a conceitos de alto nível, como "polidez", "veracidade" ou características visuais específicas. Ao injetar ou subtrair artificialmente esses vetores dos estados internos do modelo durante a passagem direta (forward pass), os desenvolvedores podem controlar e alterar de forma previsível o comportamento do modelo sem atualizar nenhum peso subjacente. Essa técnica, fundamentalmente enraizada na Engenharia de Ativação, oferece controle sem custo adicional, durante a inferência, sobre sistemas de aprendizado profundo que variam de modelos de linguagem grandes a arquiteturas de visão.

Link to this sectionComo Funcionam os Vetores de Direcionamento#

Para criar um vetor de direcionamento, pesquisadores normalmente usam um método chamado Adição de Ativação Contrastiva (CAA). Isso envolve passar um conjunto de pares de dados contrastivos—como um prompt pedindo ao modelo para ser "útil" versus um pedindo para ser "prejudicial"—através da rede. A diferença nas saídas da função de ativação entre esses pares é calculada pela média entre várias amostras para isolar a direção geométrica específica que representa aquele conceito no espaço de tensores.

Durante a inferência em tempo real, esse vetor é adicionado ou subtraído dos estados ocultos em camadas específicas usando uma simples adição de tensores PyTorch. Escalar a força do vetor permite aos profissionais ajustar a intensidade do comportamento injetado.

Link to this sectionDiferenciando Vetores de Direcionamento de Conceitos Relacionados#

Entender como os vetores de direcionamento se encaixam no panorama mais amplo do aprendizado de máquina exige distingui-los de metodologias semelhantes:

• Vetores de Tarefa: Enquanto vetores de tarefa operam no espaço de pesos modificando os pesos do modelo reais após o treinamento para mesclar capacidades, os vetores de direcionamento operam estritamente no espaço de ativação durante a execução, deixando os pesos originais completamente intactos.
• Engenharia de Representação (RepE): A RepE é o arcabouço metodológico abrangente de leitura e controle de estados cognitivos internos, intensamente pesquisado por organizações como o Center for AI Safety. Os vetores de direcionamento são as ferramentas matemáticas específicas utilizadas dentro da fase de controle da RepE.
• Engenharia de Prompt: A criação de prompts tenta guiar o comportamento modificando o texto ou imagem de entrada do usuário. Os vetores de direcionamento contornam o gargalo da entrada, manipulando diretamente o processamento cognitivo interno do modelo.
• Ajuste Fino (Fine-Tuning): Métodos de alinhamento tradicionais, como o Aprendizado por Reforço com Feedback Humano (RLHF), alteram permanentemente o modelo via gradiente descendente, exigindo computação pesada que é frequentemente gerenciada através de ferramentas em nuvem como a Plataforma Ultralytics. Os vetores de direcionamento evitam totalmente essa sobrecarga computacional.

Link to this sectionAplicações no Mundo Real em IA#

A capacidade de direcionar modelos dinamicamente desbloqueou avanços significativos em todos os pipelines modernos de inteligência artificial:

• Aprimorando a Segurança da IA: Ao isolar o vetor de direcionamento associado a "recusa" ou "inofensividade", engenheiros podem forçar modelos a rejeitar instruções maliciosas. Com o apoio da pesquisa de alinhamento da OpenAI e dos estudos de interpretabilidade da Anthropic, o direcionamento de recursos específicos pode alterar drasticamente a personalidade conversacional de uma IA e garantir diretrizes de segurança rígidas.
• Controlando Modelos de Raciocínio: Estudos recentes sobre arquiteturas de pensamento avançado demonstram que vetores de direcionamento podem modular cadeias de raciocínio internas. Os profissionais podem aumentar a tendência de um modelo de expressar incerteza ou voltar atrás em erros durante a resolução de problemas complexos.
• Mitigando o Viés da IA: Ao extrair o vetor que representa um viés social específico, os desenvolvedores podem subtrair essa direção durante a geração. Isso neutraliza efetivamente o viés e melhora a imparcialidade sem retreinamento, reduzindo simultaneamente a probabilidade de alucinação em LLMs.
• Direcionando Sistemas de Visão Computacional: Em modelos de visão, vetores de direcionamento podem ser aplicados a mapas de características para aumentar artificialmente a sensibilidade da rede a alvos críticos. Por exemplo, um modelo de detecção de objetos pode ser direcionado para priorizar a localização de pedestres em condições climáticas adversas.

Link to this sectionAplicando Vetores de Direcionamento com PyTorch#

Abaixo está um exemplo executável de como aplicar uma intervenção de direcionamento de ativação a um modelo Ultralytics YOLO26 durante uma passagem direta. Ao utilizar hooks de passagem direta do PyTorch, você pode injetar vetores personalizados diretamente nas camadas ocultas.

import torch
from ultralytics import YOLO

# Load the recommended Ultralytics YOLO26 model for state-of-the-art vision tasks
model = YOLO("yolo26n.pt")


# Define a hook function to steer the internal activations
def steer_activations_hook(module, input, output):
    # Create a steering vector matching the output shape (for demonstration purposes)
    # In practice, this vector is pre-computed via Contrastive Activation Addition (CAA)
    steering_vector = torch.ones_like(output) * 0.1

    # Add the steering vector to the model's hidden states to alter behavior at inference
    return output + steering_vector


# Attach the hook to a middle layer (e.g., layer index 5) to inject the vector
handle = model.model.model[5].register_forward_hook(steer_activations_hook)

# Run inference on an image with the dynamically steered activations
results = model("https://ultralytics.com/images/bus.jpg")

# Remove the hook to restore the model to its original unsteered state
handle.remove()