Prompt Enrichment

Prompt-Anreicherung bezeichnet das automatische Ergänzen der Anfrage eines Nutzers um Informationen, bevor diese ein KI-Modell erreicht. Der Anwendungscode zwischen Nutzer und Modell ergänzt Angaben, die der Nutzer nicht eingegeben hat: Kontodaten, passende Dokumente, Live-Daten aus Werkzeugen, ausgearbeitete Beispiele oder eine ausführlichere Fassung der Anfrage selbst. Ein Kunde fragt: „Warum wird meine Kamera nicht mehr erkannt?“ Er gibt sieben Wörter ein, und das große Sprachmodell (LLM) erhält diese sieben Wörter zusammen mit Angaben zum Gerät des Kunden, zur Softwareversion und zum Hilfeartikel, der genau dieses Problem behandelt. Der Begriff dient als Oberbegriff für mehrere Verfahren, von denen Retrieval-Augmented Generation (RAG) das bekannteste ist.

Was die Anreicherung ergänzt#

• Nutzer- und Sitzungsdaten: Profilfelder, Tarif, Sprache, Standort, aktuelles Datum oder die Seite, die der Nutzer gerade aufgerufen hat. Diese Informationen stammen aus den eigenen Datensätzen der Anwendung.
• Abgerufenes Wissen: Passagen, die durch die Suche in einer Dokumentsammlung oder einem Wissensgraphen nach Texten gefunden werden, die mit der Anfrage zusammenhängen.
• Ergebnisse von Werkzeugen: Für diese Anfrage abgerufene Werte, etwa der Bestellstatus aus einer API, eine Datenbankzeile oder die Ausgabe eines anderen Modells.
• Ausgewählte Beispiele: Few-Shot-Beispiele, die für jede Anfrage ausgewählt werden, weil sie der Eingabe ähneln, statt bei jeder Anfrage dieselbe feste Menge zu verwenden.
• Umformulierte Anfragen: Ein Modell erweitert eine knappe Anfrage, bevor sie verwendet wird. Bei HyDE lässt Luyu Gao und Kollegen ein LLM eine hypothetische Antwort verfassen und verwendet dann die Einbettung dieses Dokuments, um echte Dokumente abzurufen. Dieses Verfahren schnitt besser ab als derselbe unüberwachte Abruf, wenn dieser nur die Frage erhielt.

Das folgende Beispiel reichert eine Supportanfrage mit Kontodaten und dem relevantesten Hilfeartikel an. Der Artikel wird anhand der TF-IDF-Ähnlichkeit mit scikit-learn abgerufen:

from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.metrics.pairwise import cosine_similarity

# Context the user never typed: their account record and the help center's articles
account = {"plan": "Pro", "device": "USB webcam", "app_version": "2.3"}
articles = [
    "Version 2.4 fixes USB webcams that are not detected after a system update.",
    "Pro plans include ten concurrent video streams per workspace.",
    "Invoices are available on the billing page as soon as a payment succeeds.",
]
question = "Why is my camera not detected anymore?"

# Retrieve the article most similar to the question
vectorizer = TfidfVectorizer().fit([*articles, question])
scores = cosine_similarity(vectorizer.transform([question]), vectorizer.transform(articles))[0]
best = articles[scores.argmax()]

# Assemble the enriched prompt the model actually receives
profile = ", ".join(f"{key}: {value}" for key, value in account.items())
prompt = f"Customer profile: {profile}\nRelevant article: {best}\nQuestion: {question}"
print(prompt)

Es gibt Folgendes aus:

Customer profile: plan: Pro, device: USB webcam, app_version: 2.3
Relevant article: Version 2.4 fixes USB webcams that are not detected after a system update.
Question: Why is my camera not detected anymore?

In der Frage des Nutzers werden weder eine Webcam noch eine Version oder ein Update erwähnt. Trotzdem enthält der angereicherte Prompt alles, was für die Antwort „update from 2.3 to 2.4“ nötig ist. Produktivsysteme rufen Inhalte gewöhnlich mit dichten Einbettungen aus einer Vektordatenbank oder mithilfe einer hybriden Suche ab. Der Zusammenstellungsschritt bleibt jedoch derselbe.

Anreicherung in der Praxis#

2023 beschrieb GitHub, wie die Funktion benachbarte Tabs von Copilot in den geöffneten Dateien eines Entwicklers nach Snippets sucht, die dem Code um den Cursor ähneln, und diese zum Prompt hinzufügt. Dadurch stieg die relative Häufigkeit, mit der Nutzer Copilot-Vorschläge annahmen, um 5 %. Chatbots für den Kundensupport reichern jede Gesprächsrunde mit Konto- und Bestelldaten an. KI-Agenten ergänzen jeden Schritt um die Ergebnisse ihrer vorherigen Werkzeugaufrufe.

Bildverarbeitungs-Pipelines reichern Prompts mit den Ergebnissen eines Detektors an. In Ultralytics Platform Agents sendet ein LLM-Block jedes Bild zusammen mit den Ergebnissen der vorangehenden Blöcke an das ausgewählte Bild-Sprach-Modell, etwa mit den Erkennungen von YOLO26. Ein einmal verfasster Prompt wird so für jedes Bild, das der Workflow verarbeitet, um neue Ergebnisse der Objekterkennung ergänzt.

Anreicherung verursacht Kosten. Jeder hinzugefügte Abschnitt verbraucht Tokens, was den Preis und die Inferenzlatenz erhöht. Irrelevanter oder übermäßiger Kontext verringert die Genauigkeit. Dieser Effekt wird als Kontextverfall bezeichnet. Abgerufene Webseiten und Dokumente können außerdem Angriffe durch Prompt Injection enthalten. Werden personenbezogene Daten zu einem Prompt hinzugefügt, entstehen zudem Fragen des Datenschutzes, da diese Daten an den Betreiber des Modells gesendet werden.

Prompt-Anreicherung und verwandte Begriffe#

• Retrieval-Augmented Generation (RAG): Eine Form der Anreicherung, bei der eine externe Dokumentsammlung durchsucht wird. Anreicherung umfasst auch Daten, für die keine Suche nötig ist, etwa den Tarif eines Nutzers oder das aktuelle Datum.
• Prompt Engineering: Eine Person entwirft die Prompt-Vorlage. Bei der Anreicherung wird diese Vorlage zur Laufzeit mit anfragespezifischen Daten gefüllt.
• Context Engineering: Verwaltet alles im Kontext eines Modells über eine Anwendung hinweg, einschließlich der Frage, was in jedem Schritt ergänzt, komprimiert oder entfernt werden soll. Anreicherung ist der Teil, bei dem Inhalte hinzugefügt werden.
• Grounding: Verknüpft die Ausgabe eines Modells mit überprüfbaren Quellen. Bei der Anreicherung werden diese Quellen im Prompt bereitgestellt.
• Prompt-Komprimierung: Verkürzt einen Prompt, indem Tokens mit geringem Informationsgehalt entfernt werden. Sie kommt oft nach der Anreicherung zum Einsatz, wenn der hinzugefügte Kontext lang ist.