Chain of Verification (CoVe)

Die Verifikationskette (CoVe) ist eine fortschrittliche Technik des Prompt-Engineerings, die dazu entwickelt wurde, Ungenauigkeiten und sachliche Fehler in den Ausgaben großer Sprachmodelle (LLMs) zu reduzieren. Mit zunehmender Komplexität von Systemen der künstlichen Intelligenz bleibt ihre Tendenz, selbstbewusst falsche Informationen zu erzeugen – ein Phänomen, das als Halluzination von LLMs bekannt ist – eine erhebliche Herausforderung. CoVe begegnet diesem Problem, indem das Modell gezwungen wird, seine ersten Antworten systematisch auf Fakten zu prüfen, bevor es dem Benutzer eine endgültige Antwort präsentiert. Dieser Mechanismus zur Selbstkorrektur verbessert die Zuverlässigkeit von Anwendungen der generativen KI in verschiedenen Branchen erheblich.

So funktioniert der Verifikationsprozess#

Die CoVe-Methodik unterteilt den Generierungsprozess in vier klar abgegrenzte, aufeinanderfolgende Schritte. Dieser strukturierte Ansatz entspricht menschlichen Arbeitsabläufen zur Faktenprüfung und wird von führenden KI-Organisationen aktiv erforscht, um die Sicherheit von KI-Systemen und ihre Ausrichtung zu verbessern.

• Erste Antwort entwerfen: Das Modell erstellt eine grundlegende Antwort auf die Anfrage des Benutzers. Dieser Entwurf kann ungeprüfte oder halluzinierte Behauptungen enthalten.
• Verifikationsfragen planen: Das Modell analysiert seinen eigenen Entwurf und erstellt eine Liste spezifischer, gezielter Fragen, mit denen die im Ausgangstext enthaltenen sachlichen Behauptungen überprüft werden sollen.
• Unabhängige Überprüfungen durchführen: Das Modell beantwortet die Verifikationsfragen unabhängig, ohne sich auf den Kontext des ursprünglichen Entwurfs zu stützen. Dadurch wird verhindert, dass das Modell lediglich seine eigenen Verzerrungen oder vorherigen Fehler bestätigt.
• Endgültige verifizierte Ausgabe erstellen: Mithilfe der neu überprüften Fakten überarbeitet das Modell den ersten Entwurf, entfernt Ungenauigkeiten und präsentiert eine präzisierte, wahrheitsgemäße Antwort.

CoVe von verwandten Techniken unterscheiden#

Obwohl CoVe häufig mit Chain-of-Thought-Prompting verglichen wird, verfolgen beide unterschiedliche Ziele. Chain-of-Thought ermutigt ein Modell, seinen Lösungsweg zu „zeigen“, indem es komplexe logische Überlegungen in einzelne Schritte aufteilt, um ein Problem zu lösen. Im Gegensatz dazu zielt die Verifikationskette speziell auf die sachliche Genauigkeit ab, indem sie Behauptungen prüft und überarbeitet, nachdem ein Entwurf erstellt wurde. Außerdem kann CoVe mit Pipelines zur retrieval-gestützten Generierung (RAG) kombiniert werden, bei denen der Verifikationsschritt verlässliche Daten aus einer externen Vektordatenbank abruft, anstatt sich ausschließlich auf die internen Gewichtungen des Modells zu stützen.

Anwendungen in der Praxis#

CoVe ist in Bereichen, in denen sachliche Genauigkeit entscheidend ist, besonders nützlich. Durch die Integration dieser Schleife zur Selbstüberprüfung können Entwickler Systemen der künstlichen Intelligenz auch Aufgaben mit höheren Risiken anvertrauen.

• Medizinische Assistenten und Gesundheitsassistenten: Wenn eine KI Symptome von Patienten oder medizinische Fachliteratur zusammenfasst, stellt CoVe sicher, dass das System Arzneimittelwechselwirkungen, Dosierungen und diagnostische Kriterien anhand etablierter medizinischer Erkenntnisse überprüft, bevor es Empfehlungen gibt.
• Automatisierte Berichterstattung in der Industrie: In intelligenten Fabriken kann ein LLM einen zusammenfassenden Bericht auf Grundlage von Protokollen visueller Inspektionen erstellen. Durch die Kombination von CoVe mit Modellen für Computer Vision kann das Sprachmodell das Bildverarbeitungssystem abfragen, um zu überprüfen, ob ein bestimmter Fehler tatsächlich an der Fertigungslinie erkannt wurde, bevor es den täglichen Wartungsbericht abschließt.

Verifikation mit Vision-Modellen verankern#

Um den Schritt „Durchführen“ von CoVe zu verbessern, können Entwickler maßgebliche Machine-Learning-Modelle nach verlässlichen Referenzdaten abfragen. Mit Ultralytics YOLO26 für die Objekterkennung kann ein LLM beispielsweise physische Aussagen über ein Bild überprüfen. Teams können diese Datensätze effizient verwalten und diese Vision-Modelle mit der intuitiven Ultralytics Platform bereitstellen.

Das folgende Python-Beispiel zeigt, wie du das Paket ultralytics verwenden kannst, um eine verifizierte Objektliste zu extrahieren, die als faktische Grundlage für ein LLM dienen kann, das einen Schritt der Verifikationskette ausführt.

from ultralytics import YOLO

# Load the YOLO26n model to act as a factual verification source
model = YOLO("yolo26n.pt")

# Run inference on an image to get ground-truth detections
results = model("https://ultralytics.com/images/bus.jpg")

# Extract the class names of actually detected objects for CoVe grounding
detected_objects = [model.names[int(c)] for c in results[0].boxes.cls]

# Pass this factual list to the LLM during its verification execution step
print(f"CoVe Ground Truth Facts: {detected_objects}")
# Output example: ['bus', 'person', 'person', 'person', 'person']

Durch die Integration deterministischer Ausgaben leistungsstarker Vision-Frameworks wie PyTorch in die CoVe-Pipeline können Entwickler generative Fehler drastisch reduzieren und robuste, vertrauenswürdige Anwendungen für multimodale KI entwickeln.