Prompt Chaining

Prompt Chaining teilt eine Aufgabe in eine Folge von Aufrufen eines großen Sprachmodells (LLM) oder eines anderen Modells auf. Dabei wird jeder Prompt aus der Ausgabe des vorherigen Aufrufs erstellt. Statt eines langen Prompts, der eine Support-E-Mail lesen, die Bestellnummer finden, die Bestellung prüfen und eine Antwort formulieren muss, führt eine Kette für jeden Schritt einen separaten, enger gefassten Prompt aus. Gewöhnlicher Code reicht die Ergebnisse weiter und prüft sie zwischendurch. Jede Zwischenausgabe lässt sich einzeln prüfen, testen und korrigieren. Tongshuang Wu, Michael Terry und Carrie Cai untersuchten dieses Verfahren in AI Chains, vorgestellt auf der CHI 2022. In einer Nutzerstudie mit 20 Personen verbesserte Chaining die Ergebnisqualität sowie das Gefühl der Teilnehmenden, die Abläufe seien transparent und kontrollierbar.

So funktioniert eine Prompt-Kette#

Eine Kette ist ein festes Programm. Die Entwickler legen die Schritte, ihre Reihenfolge und die Prompt-Vorlage für jeden Schritt fest. Der Code überträgt Daten zwischen den Schritten, häufig als JSON, dessen Parsebarkeit ein Schema für strukturierte Ausgaben garantiert. Anthropic ordnet Prompt Chaining in seinem Leitfaden Building Effective Agents als Workflow ein: Der Ablauf eines solchen Systems ist im Code festgelegt. Der Leitfaden beschreibt außerdem programmatische Prüfungen, sogenannte Gates, zwischen den Schritten, die sicherstellen, dass der Prozess weiterhin planmäßig verläuft. Zu den Beispielen zählen das Verfassen und anschließende Übersetzen von Marketingtexten sowie das Erstellen eines Entwurfs, dessen Prüfung anhand von Kriterien und erst danach das Schreiben des Dokuments. Der Kompromiss: Latenz gegen Genauigkeit. Jeder Aufruf lässt sich leichter korrekt ausführen, aber jeder Schritt fügt einen zusätzlichen Umlauf hinzu.

Gates sind wichtig, weil sich Fehler aufschaukeln. Ein falscher Wert, der im ersten Schritt extrahiert wird, wird im dritten Schritt zu einer scheinbar sicheren Tatsache. Deshalb prüfen Ketten in der Regel Formate, Wertebereiche oder Pflichtfelder, bevor sie etwas weitergeben. Längere Ketten ergänzen Schleifen wie die oben gezeigte, bei denen ein Schritt mit der Fehlermeldung im Prompt erneut ausgeführt wird. Möglich ist auch ein Routing-Schritt, bei dem ein erster Aufruf die Anfrage klassifiziert und der Code den passenden Prompt auswählt. Frameworks wie LangChain bieten Bausteine zum Zusammenstellen von Ketten. Viele Ketten im Produktivbetrieb bestehen jedoch aus wenigen Funktionsaufrufen in einfachem Python.

Anwendungen in der Praxis#

• Codegenerierung: AlphaCodium verkettet Problemanalyse, Testgenerierung, Entwurf einer Lösung und testgetriebene Fehlerbehebung. Bei Validierungsaufgaben aus CodeContests erhöhte es GPT-4s Passrate bei @5 von 19 % mit einem einzelnen direkten Prompt auf 44 %.
• Dokumentenverarbeitung: Rechnungs- und Vertrags-Pipelines extrahieren Felder mit einem Aufruf, prüfen sie im Code und erstellen in einem weiteren Aufruf Zusammenfassungen oder E-Mails aus den validierten Feldern.
• Retrieval-Augmented Generation (RAG): Ein erster Aufruf formuliert die Frage des Nutzers als Suchanfrage um. Der Abruf erfolgt im Code anhand einer Vektordatenbank, und ein zweiter Aufruf beantwortet die Frage anhand der abgerufenen Passagen.
• Kennzeichenerkennung: Ein YOLO-Modell erkennt Nummernschilder in Videobildern. Jedes ausgeschnittene Nummernschild wird an GPT-4o mini übergeben, das die Zeichen als Text ausliest. Das Sprachmodell sieht dadurch ausschließlich Nummernschilder.

Ultralytics Platform Agents erstellt solche Ketten auf einer visuellen Arbeitsfläche. Die Vorlage „YOLO → VLM Monitor“ führt YOLO26 auf einem Bild aus, übergibt die Erkennungen an einen Gate-Block, der nur dann fortfährt, wenn mindestens eine Person gefunden wurde, und sendet das Bild samt den Ergebnissen der vorherigen Schritte in einem LLM-Block an ein Bild-Sprach-Modell. Dieselbe Kette in Python, bis zum Prompt für den zweiten Link:

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

# Link 1: detect objects and list their class names
results = model("https://ultralytics.com/images/bus.jpg")
result = results[0]
names = [result.names[int(c)] for c in result.boxes.cls]

# Gate: call the language model only when a person is present
if "person" in names:
    # Link 2: build the next prompt from link 1's output
    prompt = f"Objects detected: {', '.join(names)}. In one sentence, describe what the people are doing."
    print(prompt)

Der ausgegebene Prompt überträgt die Ergebnisse der Objekterkennung an den nächsten Aufruf. Ein Bild ohne Personen wird nie an diesen Aufruf weitergegeben.

Prompt Chaining und verwandte Konzepte#

• Chain-of-Thought-Prompting: Fordert einen einzelnen Modellaufruf auf, seine Denkschritte aufzuschreiben. Bei einer Prompt-Kette verteilen sich die Schritte auf mehrere Aufrufe, zwischen denen Code ausgeführt wird.
• KI-Agenten und ReAct-Prompting: Das Modell wählt seine nächste Aktion und entscheidet, wann es fertig ist. Bei einer Kette legt der Entwickler die Schritte im Voraus fest. Dadurch lassen sich Ketten leichter testen und ihre Kosten besser vorhersehen.
• Agentische Workflows: Die übergeordnete Familie von LLM-Systemen, die aus mehreren Schritten und Werkzeugen bestehen. Dazu gehört Chaining ebenso wie Routing, parallele Aufrufe und Orchestrator-Worker-Konfigurationen.
• Prompt Engineering: Das Erstellen einzelner Prompts. Chaining ist eine Designentscheidung darüber, wie viele Prompts verwendet werden und wie Daten zwischen ihnen fließen.