Context Engineering

Context Engineering ist die Praxis, bei jedem Schritt einer KI-Anwendung festzulegen, welche Informationen in das Kontextfenster eines Modells gelangen: Anweisungen, Beispiele, abgerufene Dokumente, Tooldefinitionen, Toolergebnisse, Speicher und Gesprächsverlauf sowie die Menge der einzelnen Informationen, ihre Reihenfolge und das, was weggelassen wird. Der Begriff verbreitete sich Mitte 2025, als KI-Agenten Aufgaben mit Dutzenden oder Hunderten von Schritten ausführten. Andrej Karpathy bezeichnete es als „die feine Kunst und Wissenschaft, das Kontextfenster mit genau den richtigen Informationen für den nächsten Schritt zu füllen“, und Anthropic beschreibt es in Effective Context Engineering for AI Agents als das Zusammenstellen „der optimalen Menge an Tokens“ während der Inferenz. Prompt Engineering, also das Verfassen der Anweisungen selbst, ist ein Teil davon.

Warum Kontext Engineering erfordert#

Ein Large Language Model (LLM) kennt nur seine Trainingsdaten und die Inhalte seines Kontexts. Fehlender Kontext führt daher zu allgemeinen Antworten oder Halluzinationen. Zu viel Kontext ist ebenfalls problematisch. Die Genauigkeit sinkt mit zunehmender Eingabelänge – ein Effekt, der als Kontextverschleiß bezeichnet wird. Die Studie Lost in the Middle ergab, dass Modelle Informationen am Anfang oder Ende einer langen Eingabe am besten und in der Mitte am schlechtesten nutzen. Anthropic beschreibt den Kontext als Aufmerksamkeitsbudget mit abnehmendem Grenznutzen, das jedes hinzugefügte Token weiter aufbraucht. Jedes Token erhöht zudem die Kosten und die Inferenzlatenz. Bei einem Agenten wird das Problem besonders akut, weil jeder Schritt Toolaufrufe und deren Ergebnisse anhängt. Der Kontext wächst also mit jeder Aktion, unabhängig davon, ob das neue Material noch relevant ist.

Zentrale Strategien#

Die Übersicht zu Context Engineering von LangChain ordnet die Techniken vier Strategien zu, die den von Anthropic beschriebenen Methoden für lange Abläufe entsprechen:

• Schreiben: Informationen außerhalb des Kontextfensters speichern, etwa in einem Notizbereich, einer Notizdatei oder einem Langzeitspeicher, damit sie erhalten bleiben, wenn das Gespräch weitergeht. Anthropic bezeichnet dies als strukturiertes Notieren.
• Auswählen: Nur das einbeziehen, was der aktuelle Schritt benötigt, etwa relevante Textpassagen, Erinnerungen oder Toolbeschreibungen. Anthropic beschreibt Agenten, die schlanke Verweise wie Dateipfade oder Abfragen speichern und die Inhalte bei Bedarf laden.
• Komprimieren: Nur die für die Aufgabe benötigten Tokens beibehalten, indem Inhalte zusammengefasst oder gekürzt werden. Bei der Kompaktierung wird ein nahezu volles Kontextfenster zusammengefasst und die Arbeit in einem neuen Fenster mit dieser Zusammenfassung fortgesetzt.
• Abschirmen: Die Arbeit auf Unteragenten mit separaten Kontextfenstern aufteilen, die verdichtete Ergebnisse an einen leitenden Agenten zurückgeben, oder umfangreiche Daten statt im Kontext in einer Sandbox oder einem Zustandsobjekt speichern.

Auch Reihenfolge und Stabilität sind ebenso wichtig wie der Inhalt. Beim Prompt-Caching wird nur ein identischer Präfix wiederverwendet. Deshalb stehen in Kontexten meist zuerst unveränderliche Anweisungen und Tooldefinitionen und zuletzt veränderliche Inhalte. Eine Übersicht über mehr als 1.400 Forschungsarbeiten von Lingrui Mei und Kollegen gliedert das Gebiet in Kontextabruf und -generierung, Kontextverarbeitung und Kontextverwaltung. Diese Bereiche kommen in Retrieval-Augmented Generation, Speichersystemen, toolgestütztem Schlussfolgern und Multiagentensystemen zum Einsatz.

Tools, Protokolle und Fähigkeiten#

Ein großer Teil des Kontexts eines Agenten stammt aus Tools. Das von Anthropic im November 2024 eingeführte Model Context Protocol (MCP), das später einer Stiftung unter dem Dach der Linux Foundation übergeben wurde, standardisiert, wie Anwendungen Tools und Daten für Modelle verfügbar machen. Auch Tooldefinitionen gehören zum Kontext: Jedes Tool, das ein Agent aufrufen kann, belegt bei jeder Anfrage Tokens. Daher laden manche Agenten Tooldefinitionen erst, wenn eine Aufgabe sie benötigt. Agentenfähigkeiten nutzen dieselbe Idee für Anweisungen und bündeln Anleitungen sowie Referenzdateien in Ordnern, die ein Agent nur bei Bedarf lädt.

Ultralytics Agent Skills nutzen dieses Konzept für Programmieragenten, die mit Ultralytics YOLO arbeiten. Die Skills werden nur geladen, wenn eine passende Aufgabe angefordert wird. Ein Router-Skill namens yolo ordnet jede Anfrage der betreffenden Phase des Lebenszyklus zu, etwa Datensätzen, Training oder Export. Versionsabhängige Angaben wie Gewichtsnamen, Trainingsargumente und Exportformate stehen in Katalogen, die anhand eines festgelegten Releases ultralytics erstellt wurden. Jeder Skill weist den Agenten an, dem installierten Paket zu vertrauen, falls es Abweichungen gibt.

Context Engineering und verwandte Begriffe#

• Prompt Engineering: Befasst sich damit, wie Anweisungen und Beispiele formuliert werden. Context Engineering verwaltet auch alles andere, was in jeder Phase einer Anwendung an das Modell gelangt.
• Prompt-Anreicherung: Fügt einer einzelnen Anfrage Daten hinzu, bevor sie das Modell erreicht. Dies ist eine der Auswahloperationen im Context Engineering.
• Kontextfenster: Die maximale Eingabelänge des Modells, die das Budget festlegt. Context Engineering bestimmt, wie dieses Budget genutzt wird. Ein größeres Fenster macht Context Engineering nicht überflüssig, denn die Genauigkeit sinkt, wenn sich das Fenster füllt.
• Feinabstimmung: Verändert das Wissen des Modells, indem seine Gewichte aktualisiert werden. Context Engineering verändert, was das Modell zur Inferenzzeit sieht, und lässt die Gewichte unverändert.