Zeitnahe Abstimmung

Prompt-Tuning ist eine leistungsstarke und effiziente Technik zur Anpassung großer vortrainierter Modelle, wie z.B. Large Language Models (LLMs), an neue Aufgaben, ohne die Gewichte des ursprünglichen Modells zu verändern. Es handelt sich dabei um eine Form der parameter-effizienten Feinabstimmung (PEFT), bei der die Milliarden von Parametern des Basismodells eingefroren bleiben und stattdessen ein kleiner Satz aufgabenspezifischer "Soft Prompts" erlernt wird. Bei diesen Soft Prompts handelt es sich nicht um menschenlesbaren Text, sondern um lernfähige Einbettungen, die der Eingabe vorangestellt werden und das eingefrorene Modell dazu anleiten, die gewünschte Ausgabe für eine bestimmte nachgelagerte Aufgabe zu erzeugen. Dieser Ansatz reduziert die Rechenkosten und den Speicherbedarf für die aufgabenspezifische Anpassung drastisch, wie in der ursprünglichen Google AI-Forschungsarbeit dokumentiert.

Die Kernidee besteht darin, nur einige Tausend oder Millionen zusätzlicher Parameter (den Soft Prompt) pro Aufgabe zu trainieren, anstatt das gesamte Modell, das Milliarden von Parametern haben könnte, neu zu trainieren oder fein abzustimmen. Auf diese Weise ist es möglich, viele spezialisierte "Prompt-Module" für ein einziges vortrainiertes Modell zu erstellen, die jeweils auf eine andere Aufgabe zugeschnitten sind, ohne vollständige Modellkopien zu erstellen. Diese Methode trägt auch dazu bei, das katastrophale Vergessen zu verhindern, bei dem ein Modell zuvor gelernte Informationen vergisst, wenn es für eine neue Aufgabe trainiert wird.

Anwendungen in der realen Welt

Prompt Tuning ermöglicht die Anpassung leistungsfähiger Basismodelle für eine Vielzahl von Spezialanwendungen.

• Maßgeschneiderte Stimmungsanalyse: Ein Unternehmen möchte das Kundenfeedback für seine spezifischen Produkte analysieren. Ein allgemeines Sentiment-Analysemodell versteht möglicherweise den branchenspezifischen Jargon nicht. Mithilfe von Prompt-Tuning kann das Unternehmen ein großes Modell wie BERT anpassen, indem es einen kleinen Satz von Soft-Prompts auf seine eigenen gelabelten Kundenrezensionen trainiert. Das daraus resultierende Modell kann das Feedback genau klassifizieren, ohne dass ein komplettes Modelltraining erforderlich ist, und liefert so differenziertere Erkenntnisse.
• Spezialisierte medizinische Chatbots: Eine Organisation des Gesundheitswesens möchte einen Chatbot entwickeln, der Patientenfragen zu bestimmten medizinischen Problemen beantwortet. Das vollständige Training eines großen medizinischen LLM ist ressourcenintensiv. Stattdessen kann ein Prompt-Tuning auf einem vortrainierten Modell wie GPT-4 verwendet werden. Durch das Trainieren eines aufgabenspezifischen Prompts auf einem kuratierten medizinischen Datensatz lernt der Chatbot, genaue, kontextbezogene Antworten für diesen Bereich zu geben, wodurch leistungsstarke KI im Gesundheitswesen leichter zugänglich wird.

Prompt-Tuning vs. verwandte Konzepte

Es ist wichtig, Prompt Tuning von ähnlichen Techniken zu unterscheiden:

• Feinabstimmung: Bei dieser Methode wird ein großer Teil oder sogar alle Parameter eines vorab trainierten Modells auf einem neuen Datensatz aktualisiert. Sie ist rechenintensiver, kann aber manchmal eine höhere Leistung erzielen, indem die internen Darstellungen des Modells tiefgreifend angepasst werden. Tipps zur Modellschulung umfassen oft Aspekte der Feinabstimmung.
• Schnelles Engineering: Hierbei geht es um die manuelle Erstellung effektiver textbasierter Prompts (Hard Prompts) zur Steuerung eines eingefrorenen, vorab trainierten Modells. Dabei werden Anweisungen und Beispiele im Eingabetext selbst erstellt, ohne dass neue Parameter trainiert werden müssen. Techniken wie Gedankenketten-Prompts fallen unter diese Kategorie.
• Prompt-Anreicherung: Bei dieser Technik wird die Eingabeaufforderung eines Benutzers automatisch durch Hinzufügen von Kontext erweitert, z. B. mit Retrieval-Augmented Generation (RAG), bevor sie an das KI-Modell gesendet wird. Im Gegensatz zum Prompt-Tuning wird die Eingabeanfrage verfeinert, ohne dass neue Parameter trainiert werden.
• LoRA (Low-Rank Adaptation): Eine weitere PEFT-Technik, die kleine, trainierbare Low-Rank-Matrizen in bestehende Schichten (wie den Aufmerksamkeitsmechanismus) des vortrainierten Modells injiziert. Sie aktualisiert verschiedene Teile des Modells im Vergleich zu Prompt Tuning, das sich ausschließlich auf die Einbettung der Eingaben konzentriert. Beide sind häufig in Bibliotheken wie der Hugging Face PEFT-Bibliothek zu finden.

Prompt Tuning wird zwar vorwiegend auf LLMs in der natürlichen Sprachverarbeitung (NLP) angewandt, doch das Kernprinzip der effizienten Anpassung ist für die gesamte künstliche Intelligenz (KI) relevant. Während im Bereich der Computer Vision (CV) die vollständige Feinabstimmung von Modellen wie Ultralytics YOLO auf benutzerdefinierten Datensätzen für Aufgaben wie die Objekterkennung üblich ist, gewinnen PEFT-Methoden immer mehr an Bedeutung, insbesondere für große multimodale Modelle. Plattformen wie Ultralytics HUB rationalisieren den Prozess der Schulung und des Einsatzes verschiedener KI-Modelle und könnten in Zukunft solche effizienten Techniken einbeziehen.