ReAct Prompting
Beim ReAct-Prompting wechselt ein LLM zwischen Schlussfolgerungsschritten und Aktionen wie Suchanfragen oder Werkzeugaufrufen. Es liest jedes Ergebnis, bevor es über den nächsten Schritt entscheidet.
ReAct, kurz für Schlussfolgern und Handeln, lässt ein großes Sprachmodell (LLM) zwischen dem Formulieren eines Gedankens zur Aufgabe, einer Handlung wie einer Suche oder einem Werkzeugaufruf und dem Lesen der daraus resultierenden Beobachtung wechseln. Dieser Ablauf wird wiederholt, bis das Modell antworten kann. Die Schlussfolgerungen planen und verfolgen die Handlungen; die Handlungen liefern Fakten von außerhalb des Modells. So beruhen Antworten auf abgerufenen Belegen statt allein auf dem Gedächtnis. Shunyu Yao und seine Kolleginnen und Kollegen an der Princeton University und Google Research stellten das Verfahren in ReAct: Schlussfolgern und Handeln in Sprachmodellen verbinden vor, das auf der ICLR 2023 präsentiert wurde. Mit nur einem oder zwei Beispielen in der Eingabeaufforderung übertraf ReAct Verfahren des Imitationslernens und des bestärkenden Lernens, die mit weitaus mehr Daten trainiert wurden: Die absolute Erfolgsquote lag bei den Haushaltsaufgaben von ALFWorld und dem Online-Einkaufsbenchmark WebShop um 34 beziehungsweise 10 Prozentpunkte höher. Heutige KI-Agenten, die Werkzeuge verwenden, folgen demselben Ablauf.
So funktioniert ReAct#
Eine ReAct-Eingabeaufforderung ist eine Few-Shot-Eingabeaufforderung mit einigen Beispielabläufen. Jeder Ablauf besteht aus einer Frage, auf die abwechselnd Zeilen mit Gedanken, Aktionen und Beobachtungen folgen. Bei einer neuen Frage formuliert das Modell einen Gedanken und eine Aktion und hält dann an. Steuerungscode liest die Aktion aus, führt das passende Werkzeug aus, fügt das Ergebnis als nächste Beobachtung hinzu und ruft das Modell mit dem erweiterten Protokoll erneut auf. Für die Beantwortung von Fragen stellte die Arbeit dem Modell eine minimale Wikipedia-Schnittstelle mit drei Aktionen bereit: search[entity] gibt die ersten Sätze einer Seite zurück, lookup[string] liefert den nächsten Satz auf der aktuellen Seite, der eine Zeichenfolge enthält, und finish[answer] beendet die Aufgabe.
Ein ReAct-Ablauf#
Dieses Beispiel aus der Eingabeaufforderung der Arbeit für HotpotQA, einen Fragebeantwortungs-Datensatz, bei dem Fakten aus mehreren Wikipedia-Seiten kombiniert werden müssen, zeigt, wie der Ablauf eine erste Suche korrigiert, die die Antwort nicht enthält:
Question: What is the elevation range for the area that the eastern sector of the Colorado orogeny extends into?
Thought 1: I need to search Colorado orogeny, find the area that the eastern sector of the Colorado orogeny extends into, then find the elevation range of the area.
Action 1: Search[Colorado orogeny]
Observation 1: The Colorado orogeny was an episode of mountain building (an orogeny) in Colorado and surrounding areas.
Thought 2: It does not mention the eastern sector. So I need to look up eastern sector.
Action 2: Lookup[eastern sector]
Observation 2: (Result 1 / 1) The eastern sector extends into the High Plains and is called the Central Plains orogeny.
Thought 3: The eastern sector of Colorado orogeny extends into the High Plains. So I need to search High Plains and find its elevation range.
Action 3: Search[High Plains]
Observation 3: High Plains refers to one of two distinct land regions:
Thought 4: I need to instead search High Plains (United States).
Action 4: Search[High Plains (United States)]
Observation 4: The High Plains are a subregion of the Great Plains. From east to west, the High Plains rise in elevation from around 1,800 to 7,000 ft (550 to 2,130 m).
Thought 5: High Plains rise in elevation from around 1,800 to 7,000 ft, so the answer is 1,800 to 7,000 ft.
Action 5: Finish[1,800 to 7,000 ft]Gedanke 2 bemerkt, dass der Seite die benötigte Information fehlt, und wechselt zu einer gezielten Suche. Gedanke 4 löst eine mehrdeutige Suche auf. Diese beiden Korrekturen wären mit einer festen Abfolge von Suchanfragen nicht möglich.
Ergebnisse und Grenzen#
Verankerung der Schlussfolgerungen in Beobachtungen verringert vor allem erfundene Fakten. In der Fehleranalyse der Arbeit zu HotpotQA mit PaLM-540B verursachten Halluzinationen 56 % der Fehler bei Gedankenketten, aber keinen einzigen Fehler bei ReAct. Die Falsch-Positiv-Rate lag bei Gedankenketten bei 14 %, bei ReAct dagegen bei 6 %. Der Ablauf hat jedoch eine eigene Fehlerquelle: Suchen ohne nützliche Ergebnisse verursachten 23 % der ReAct-Fehler, weil eine leere Beobachtung die anschließenden Schlussfolgerungen aus der Bahn wirft. Bei HotpotQA erreichte ReAct allein eine exakte Trefferquote von 27,4 % gegenüber 29,4 % für Gedankenketten. Bei der Faktenprüfungsaufgabe Fever lag ReAct mit einer Genauigkeit von 60,9 % vor den 56,3 % der Vergleichsmethode. Das beste HotpotQA-Ergebnis von 35,1 % wurde durch die Kombination beider Verfahren erzielt: Wenn ReAct innerhalb einer festgelegten Anzahl von Schritten keine Antwort fand, wurde auf selbstkonsistente Gedankenkettenschlüsse zurückgegriffen.
ReAct in modernen Agenten#
Aktuelle LLM-APIs integrieren den Handlungsschritt mithilfe von Funktionsaufrufen in das Modell: Statt einer Textzeile gibt das Modell einen strukturierten Werkzeugaufruf aus, die Anwendung führt ihn aus und gibt das Ergebnis zurück. Der Ablauf bleibt derselbe Zyklus aus Gedanke, Aktion und Beobachtung. Die Werkzeuge reichen weit über Suchfunktionen hinaus und umfassen Codeausführung, Datenbanken, Browser in Agenten zur Computerbedienung sowie Dienste, die über das Model Context Protocol (MCP) bereitgestellt werden. Bei agentischem RAG entscheidet der Agent selbst, wann und wonach er sucht, statt vor der Texterzeugung einmalig Informationen abzurufen. Da ein Agent auf gelesene Texte reagiert, sind ReAct-Systeme durch Werkzeugergebnisse dem Risiko einer Prompt-Injection ausgesetzt. Deshalb werden Werkzeugberechtigungen eng begrenzt und riskante Aktionen häufig in isolierten Umgebungen ausgeführt.
„Ask AI“ in Ultralytics Platform AutoTrain arbeitet auf diese Weise mit Werkzeugen: Das System führt ul cloud-Befehle über die Platform CLI aus, um Datensätze zu finden, Trainingsläufe zu starten, abgeschlossene Modelle zu vergleichen und zu exportieren oder ein Modell bereitzustellen. Die Antwort stützt sich auf die Ergebnisse dieser Befehle.
ReAct und verwandte Verfahren#
- Gedankenkettenschlüsse: Das Modell schließt in einem einzigen Durchgang aus seinem eigenen Wissen, ohne Fakten während der Antwort überprüfen zu können. ReAct ergänzt Aktionen, die zwischen den Schlussfolgerungsschritten neue Informationen abrufen.
- Verkettung von Eingabeaufforderungen: Die Entwicklerin oder der Entwickler legt die Abfolge der Modellaufrufe im Code fest. Bei ReAct wählt das Modell anhand seiner bisherigen Beobachtungen jeweils die nächste Aktion aus.
- Gedankenbaum (ToT): Durchsucht mehrere mögliche Schlussfolgerungspfade und geht bei schwachen Pfaden zurück, ohne auf eine externe Umgebung einzuwirken. ReAct folgt einem Pfad, stützt ihn aber auf Beobachtungen.
- Reasoning-Modelle: Diese Modelle werden darauf trainiert, vor einer Antwort ausführliche Schlussfolgerungen zu formulieren. Viele aktuelle Systeme rufen außerdem zwischen Schlussfolgerungsschritten Werkzeuge auf und integrieren so den ReAct-Ablauf direkt in das Modell.










