Context Engineering

L’ingénierie du contexte consiste à décider quelles informations intégrer à la fenêtre de contexte d’un modèle à chaque étape d’une application d’IA : les instructions, les exemples, les documents récupérés, les définitions d’outils, les résultats des outils, la mémoire et l’historique des conversations, ainsi que la quantité de chaque élément à inclure, leur ordre et ce qu’il faut laisser de côté. Le terme s’est répandu à la mi-2025, lorsque les agents d’IA ont commencé à exécuter des tâches comportant des dizaines ou des centaines d’étapes. Andrej Karpathy l’a qualifiée d’« art et science délicats consistant à remplir la fenêtre de contexte avec juste les bonnes informations pour l’étape suivante », et l’article d’Anthropic Effective Context Engineering for AI Agents la décrit comme la sélection de « l’ensemble optimal de jetons » pendant l’inférence. La conception de prompts, c’est-à-dire la rédaction des instructions elles-mêmes, n’en est qu’une composante.

Pourquoi le contexte nécessite une ingénierie#

Un grand modèle de langage (LLM) ne connaît que ses données d’entraînement et ce qui figure dans son contexte ; un contexte manquant produit donc des réponses génériques ou des hallucinations. Un contexte trop volumineux pose également problème. La précision diminue à mesure que les entrées s’allongent, un phénomène appelé dégradation du contexte, et l’étude Lost in the Middle a montré que les modèles utilisent mieux les informations au début ou à la fin d’une longue entrée et moins bien celles du milieu. Anthropic décrit le contexte comme un budget d’attention aux rendements décroissants, chaque jeton supplémentaire le réduisant. Chaque jeton ajoute également du coût et de la latence d’inférence. Le problème devient aigu avec un agent, car chaque étape ajoute des appels d’outils et leurs résultats : le contexte s’enrichit donc à chaque action, que le nouveau contenu reste pertinent ou non.

Stratégies principales#

La vue d’ensemble de l’ingénierie du contexte de LangChain regroupe les techniques en quatre stratégies, qui correspondent aux méthodes à long terme décrites par Anthropic :

• Écrire : enregistrer les informations en dehors de la fenêtre de contexte, dans un bloc-notes, un fichier de notes ou une mémoire à long terme, afin qu’elles restent disponibles après la suite de la conversation. Anthropic appelle cela la prise de notes structurée.
• Sélectionner : n’ajouter que ce dont l’étape actuelle a besoin, par exemple des passages, des souvenirs ou des descriptions d’outils pertinents. Anthropic décrit des agents qui conservent des références légères, comme des chemins de fichiers ou des requêtes, puis chargent le contenu juste à temps.
• Compresser : ne conserver que les jetons nécessaires à la tâche, en résumant ou en élaguant le contenu. La compaction résume un contexte presque plein, puis poursuit dans une nouvelle fenêtre à partir de ce résumé.
• Isoler : répartir le travail entre des sous-agents dotés de fenêtres de contexte indépendantes, qui renvoient des résultats condensés à un agent principal, ou conserver les données volumineuses dans un bac à sable ou un objet d’état plutôt que dans le contexte.

L’ordre et la stabilité comptent autant que le contenu. La mise en cache des prompts ne réutilise qu’un préfixe identique ; les contextes sont donc généralement organisés avec les instructions fixes et les définitions d’outils en premier, puis le contenu variable. Une étude de plus de 1 400 articles menée par Lingrui Mei et ses collègues organise le domaine autour de la récupération et de la génération du contexte, de son traitement et de sa gestion, mises en œuvre dans la génération augmentée par récupération, les systèmes de mémoire, le raisonnement intégré aux outils et les systèmes multi-agents.

Outils, protocoles et compétences#

Une grande partie du contexte d’un agent provient des outils, et le protocole de contexte des modèles (MCP), présenté par Anthropic en novembre 2024 puis donné à une fondation de la Linux Foundation, standardise la manière dont les applications exposent les outils et les données aux modèles. Les définitions d’outils font aussi partie du contexte : chaque outil qu’un agent peut appeler consomme des jetons dans chaque requête ; certains agents ne chargent donc les définitions d’outils que lorsqu’une tâche le nécessite. Les compétences d’agent appliquent la même idée aux instructions en regroupant des conseils et des fichiers de référence dans des dossiers que l’agent ne charge que lorsqu’une tâche l’exige.

Les compétences d’agent Ultralytics appliquent cette conception aux agents de programmation qui utilisent Ultralytics YOLO. Les compétences ne se chargent que lorsqu’une tâche pertinente est demandée ; une compétence de routage yolo associe chaque requête à l’étape du cycle de vie concernée, comme les jeux de données, l’entraînement ou l’export, et les informations sensibles à la version, telles que les noms des poids, les arguments d’entraînement et les formats d’export, figurent dans des catalogues référencés par rapport à une version ultralytics figée. Chaque compétence indique à l’agent de se fier au package installé si les deux diffèrent.

Ingénierie du contexte et termes associés#

• Conception de prompts : concerne la formulation des instructions et des exemples. L’ingénierie du contexte gère aussi tout le reste des éléments transmis au modèle, à chaque étape d’une application.
• Enrichissement de prompt : ajoute des données à une requête unique avant qu’elle parvienne au modèle ; c’est l’une des opérations de sélection de l’ingénierie du contexte.
• Fenêtre de contexte : longueur maximale des entrées acceptée par le modèle, qui détermine le budget disponible. L’ingénierie du contexte décide de la manière de le dépenser. Une fenêtre plus grande ne supprime pas ce besoin, car la précision diminue à mesure qu’elle se remplit.
• Ajustement fin : modifie ce que le modèle sait en mettant à jour ses poids. L’ingénierie du contexte modifie ce que le modèle voit au moment de l’inférence, sans toucher aux poids.