Context Window

Une fenêtre de contexte désigne l'étendue maximale des données d'entrée — comme des caractères de texte, des segments audio ou des images vidéo — qu'un modèle de machine learning peut traiter et prendre en compte simultanément pendant son fonctionnement. Dans le domaine de l'intelligence artificielle (AI), ce concept est comparable à une mémoire à court terme et détermine la quantité d'informations que le système peut « voir » ou se rappeler à un instant donné. Pour les modèles de traitement automatique du langage naturel (NLP) comme les Transformers, la fenêtre se mesure en tokens et définit la longueur de l'historique de conversation que l'AI peut conserver. En vision par ordinateur (CV), le contexte est souvent temporel ou spatial, ce qui permet au modèle de comprendre le mouvement et la continuité au fil d'une séquence d'images.

Applications concrètes#

L'utilité pratique d'une fenêtre de contexte va bien au-delà de la simple mise en mémoire tampon des données et joue un rôle essentiel dans divers domaines avancés :

• AI conversationnelle et chatbots : Dans l'architecture des chatbots et des assistants virtuels modernes, la fenêtre de contexte sert de tampon pour l'historique de conversation. Une fenêtre plus grande permet à l'agent de se rappeler des détails précis mentionnés plus tôt dans un long dialogue, évitant ainsi la frustration de devoir répéter les informations.
• Suivi d'objets vidéo : Pour les tâches de vision, le contexte est souvent temporel. Les algorithmes de suivi d'objets doivent mémoriser la position et l'apparence d'une entité au fil de plusieurs images afin de préserver son identité, notamment lors des occultations. Les derniers modèles Ultralytics YOLO26 exploitent un traitement efficace pour maintenir une grande précision dans les tâches de suivi en utilisant efficacement ce contexte temporel.
• Analyse des séries temporelles financières : Les stratégies d'investissement reposent souvent sur une modélisation prédictive qui examine les données historiques du marché. Ici, la fenêtre de contexte définit le nombre de points de données passés (par exemple, les cours des actions sur les 30 derniers jours) que le modèle prend en compte pour prévoir les tendances futures, une technique essentielle à la finance quantitative.

Distinction entre concepts connexes#

Pour implémenter correctement des solutions d'AI, il est utile de distinguer la fenêtre de contexte des termes similaires du glossaire :

• Fenêtre de contexte et champ réceptif : Bien que les deux termes décrivent l'étendue des données d'entrée, le « champ réceptif » est propre aux réseaux neuronaux convolutifs (CNNs) et désigne la zone spatiale d'une image qui influence une seule carte de caractéristiques. À l'inverse, la « fenêtre de contexte » désigne généralement une étendue séquentielle ou temporelle dans des flux de données.
• Fenêtre de contexte et tokenisation : La fenêtre de contexte est un conteneur fixe, tandis que la tokenisation est la méthode qui permet de le remplir. Le texte ou les données sont décomposés en tokens, et l'efficacité du tokenizer détermine la quantité réelle d'informations qui peut tenir dans la fenêtre. Les tokenizers efficaces basés sur les sous-mots peuvent faire tenir davantage de sens dans une fenêtre de même taille que les méthodes fondées sur les caractères.
• Fenêtre de contexte par rapport à la taille de lot : la taille de lot détermine le nombre d’échantillons indépendants traités en parallèle pendant l’entraînement du modèle, tandis que la fenêtre de contexte détermine la longueur ou la taille d’un échantillon unique le long de sa dimension séquentielle.

Exemple : contexte temporel en vision#

Bien qu'il soit souvent abordé dans le contexte du texte, le contexte est essentiel pour les tâches de vision où l'historique joue un rôle. L'extrait Python suivant utilise le package ultralytics pour effectuer un suivi d'objets. Ici, le modèle conserve un « contexte » des identités des objets au fil des images vidéo afin de garantir qu'une voiture détectée dans l'image 1 soit reconnue comme la même voiture dans l'image 10.

from ultralytics import YOLO

# Load the YOLO26n model (latest generation)
model = YOLO("yolo26n.pt")

# Perform object tracking on a video file
# The tracker uses temporal context to preserve object IDs across frames
results = model.track(source="path/to/video.mp4", show=True)

Défis et perspectives d’avenir#

La gestion des fenêtres de contexte implique un compromis constant entre les performances et les ressources. Une fenêtre trop courte peut provoquer une « amnésie du modèle », lorsque l'AI perd le fil du récit ou de la trajectoire d'un objet. Cependant, les fenêtres excessivement grandes augmentent la latence d'inférence et la consommation mémoire, ce qui rend l'inférence en temps réel difficile sur les appareils d'AI en périphérie.

Pour y remédier, les développeurs utilisent des stratégies comme la génération augmentée par récupération (RAG), qui permet à un modèle de récupérer des informations pertinentes depuis une base de données vectorielle externe plutôt que de tout conserver dans sa fenêtre de contexte immédiate. De plus, des outils comme la plateforme Ultralytics aident les équipes à gérer de grands jeux de données et à surveiller les performances des déploiements afin d'optimiser la gestion du contexte par les modèles dans les environnements de production. Des frameworks comme PyTorch continuent d'évoluer et offrent une meilleure prise en charge des mécanismes d'attention parcimonieux, qui permettent d'utiliser des fenêtres de contexte massives avec des coûts de calcul linéaires plutôt que quadratiques. Les innovations en matière d'architecture des modèles, comme celles observées dans la transition vers les capacités de bout en bout de YOLO26, continuent d'affiner le traitement du contexte visuel pour une efficacité maximale.