Context Engineering

Engenharia de contexto é a prática de decidir quais informações entram na janela de contexto de um modelo em cada etapa de uma aplicação de IA: instruções, exemplos, documentos recuperados, definições de ferramentas, resultados de ferramentas, memória e histórico da conversa, além de quanto incluir de cada item, em que ordem e o que deixar de fora. O termo se difundiu em meados de 2025, quando agentes de IA começaram a executar tarefas com dezenas ou centenas de etapas. Andrej Karpathy chamou isso de «a arte e a ciência delicadas de preencher a janela de contexto com as informações certas para a próxima etapa», e o artigo Effective Context Engineering for AI Agents da Anthropic descreve a prática como selecionar «o conjunto ideal de tokens» durante a inferência. A engenharia de prompts, que consiste em escrever as próprias instruções, é apenas uma parte dela.

Por que o contexto precisa de engenharia#

Um modelo de linguagem grande (LLM) só conhece os dados com que foi treinado e o que está no seu contexto; por isso, a falta de contexto produz respostas genéricas ou alucinações. Contexto em excesso também causa problemas. A precisão diminui à medida que as entradas aumentam, um efeito chamado degradação do contexto, e o estudo Lost in the Middle constatou que os modelos usam melhor as informações no início ou no fim de uma entrada longa e pior no meio. A Anthropic descreve o contexto como um orçamento de atenção com retornos decrescentes, em que cada token adicional consome parte dele. Cada token também aumenta o custo e a latência de inferência. O problema se torna mais agudo com um agente, porque cada etapa acrescenta chamadas de ferramentas e os respetivos resultados; assim, o contexto cresce a cada ação, independentemente de o novo material continuar ou não a ser relevante.

Estratégias principais#

A visão geral de engenharia de contexto da LangChain agrupa as técnicas em quatro estratégias, que correspondem aos métodos de longo prazo descritos pela Anthropic:

• Escrever: Guarda informações fora da janela de contexto, num bloco de notas, num ficheiro de notas ou na memória de longo prazo, para que persistam mesmo depois de a conversa avançar. A Anthropic chama a isso tomada estruturada de notas.
• Selecionar: Inclui apenas o que a etapa atual precisa, como trechos relevantes, memórias ou descrições de ferramentas. A Anthropic descreve agentes que mantêm referências leves, como caminhos de ficheiros ou consultas, e carregam o conteúdo apenas quando necessário.
• Comprimir: Mantém apenas os tokens necessários para a tarefa, resumindo ou eliminando o que for supérfluo. A compactação resume um contexto quase cheio e continua numa janela nova com base nesse resumo.
• Isolar: Divide o trabalho entre subagentes com janelas de contexto limpas, que devolvem resultados condensados a um agente coordenador, ou mantém dados volumosos numa sandbox ou num objeto de estado, em vez de os colocar no contexto.

A ordem e a estabilidade são tão importantes quanto o conteúdo. O cache de prompts reutiliza apenas um prefixo idêntico; por isso, os contextos costumam começar com instruções fixas e definições de ferramentas, deixando o material variável para o fim. Uma análise de mais de 1.400 artigos de Lingrui Mei e colegas organiza a área em recuperação e geração de contexto, processamento de contexto e gestão de contexto, implementadas em geração aumentada por recuperação, sistemas de memória, raciocínio integrado a ferramentas e sistemas multiagente.

Ferramentas, protocolos e competências#

Grande parte do contexto de um agente vem das ferramentas, e o Model Context Protocol (MCP), apresentado pela Anthropic em novembro de 2024 e posteriormente doado a uma fundação da Linux Foundation, padroniza a forma como as aplicações disponibilizam ferramentas e dados aos modelos. As definições das ferramentas também fazem parte do contexto: cada ferramenta que um agente pode chamar ocupa tokens em todas as solicitações; por isso, alguns agentes só carregam as definições das ferramentas quando a tarefa exige. As competências de agente aplicam a mesma ideia às instruções, agrupando orientações e ficheiros de referência em pastas que o agente carrega apenas quando uma tarefa exige.

As competências de agente da Ultralytics usam este design para agentes de programação que trabalham com Ultralytics YOLO. As competências são carregadas apenas quando é solicitada uma tarefa relevante; uma competência de encaminhamento yolo associa cada solicitação à etapa do ciclo de vida correspondente, como conjuntos de dados, treinamento ou exportação; e os factos que dependem da versão, como nomes de pesos, argumentos de treinamento e formatos de exportação, ficam em catálogos fundamentados numa versão ultralytics fixada, com cada competência a instruir o agente a confiar no pacote instalado quando houver divergências.

Engenharia de contexto e termos relacionados#

• Engenharia de prompts: Diz respeito à forma de redigir instruções e exemplos. A engenharia de contexto gere também todo o restante conteúdo que chega ao modelo, ao longo de cada etapa de uma aplicação.
• Enriquecimento de prompts: Adiciona dados a uma única solicitação antes de ela chegar ao modelo; é uma das operações de seleção da engenharia de contexto.
• Janela de contexto: O comprimento máximo de entrada do modelo, que define o orçamento. A engenharia de contexto decide como gastá-lo, e uma janela maior não elimina essa necessidade, pois a precisão diminui à medida que a janela se enche.
• Ajuste fino: Altera o que o modelo sabe ao atualizar os seus pesos. A engenharia de contexto altera o que o modelo vê no momento da inferência e deixa os pesos intactos.