Verifizierungskette (CoVe)

Chain of Verification (CoVe) ist eine fortschrittliche Methode zur Verbesserung der Informationsverarbeitung , die Ungenauigkeiten und sachliche Fehler in den Ausgaben großer Sprachmodelle (LLMs) reduziert. Mit zunehmender Komplexität von KI-Systemen stellt deren Tendenz, falsche Informationen selbstsicher zu generieren – ein Phänomen, das als LLM-Halluzination bekannt ist – weiterhin eine große Herausforderung dar. CoVe begegnet diesem Problem, indem das Modell gezwungen wird, seine eigenen ersten Antworten systematisch auf ihren Wahrheitsgehalt zu überprüfen, bevor dem Benutzer eine endgültige Antwort präsentiert wird. Dieser Selbstkorrekturmechanismus verbessert die Zuverlässigkeit generativer KI- Anwendungen in verschiedenen Branchen erheblich.

So funktioniert der Verifizierungsprozess

Die CoVe-Methodik unterteilt den Generierungsprozess in vier klar voneinander abgegrenzte, aufeinanderfolgende Schritte. Dieser strukturierte Ansatz spiegelt die Arbeitsabläufe menschlicher Faktenprüfung wider und wird von führenden KI-Organisationen aktiv erforscht, um die Sicherheit und Ausrichtung von KI zu verbessern.

• Entwurf einer ersten Antwort : Das Modell generiert eine Basisantwort auf die Anfrage des Nutzers. Dieser Entwurf kann unbestätigte oder erfundene Behauptungen enthalten.
• Planüberprüfungsfragen : Das Modell analysiert seinen eigenen Entwurf und generiert eine Liste spezifischer, zielgerichteter Fragen, die dazu dienen, die im ursprünglichen Text aufgestellten Tatsachenbehauptungen zu überprüfen.
• Unabhängige Überprüfungen durchführen : Das Modell beantwortet die Verifizierungsfragen selbstständig, ohne auf den Kontext des ursprünglichen Entwurfs zurückzugreifen. Dadurch wird verhindert, dass das Modell lediglich seine eigenen Verzerrungen oder früheren Fehler bestätigt.
• Generierung des endgültigen, verifizierten Ergebnisses : Anhand der neu verifizierten Fakten überarbeitet das Modell den ursprünglichen Entwurf, beseitigt Ungenauigkeiten und präsentiert eine präzisere, wahrheitsgemäße Antwort.

Abgrenzung von CoVe von verwandten Techniken

Obwohl CoVe häufig mit Chain-of-Thought Prompting verglichen wird, verfolgen die beiden Ansätze unterschiedliche Ziele. Chain-of-Thought ermutigt ein Modell, seine Vorgehensweise offenzulegen, indem komplexe logische Schlussfolgerungen in schrittweise Komponenten zerlegt werden, um ein Problem zu lösen. Chain of Verification hingegen zielt speziell auf die faktische Richtigkeit ab, indem Aussagen nach der Erstellung eines Entwurfs geprüft und überarbeitet werden. Darüber hinaus kann CoVe mit Retrieval-Augmented Generation (RAG) -Pipelines kombiniert werden, bei denen der Verifizierungsschritt Referenzdaten aus einer externen Vektordatenbank abruft, anstatt sich ausschließlich auf die internen Gewichtungen des Modells zu verlassen.

Anwendungsfälle in der Praxis

CoVe ist besonders vorteilhaft in Bereichen, in denen faktische Genauigkeit entscheidend ist. Durch die Integration dieser Selbstprüfungsschleife können Entwickler KI- Systeme auch mit anspruchsvolleren Aufgaben betrauen.

• Medizinische und Gesundheitsassistenten : Wenn eine KI Patientensymptome oder medizinische Literatur zusammenfasst, stellt CoVe sicher, dass das System Wechselwirkungen zwischen Medikamenten, Dosierungen und Diagnosekriterien anhand etablierter medizinischer Kenntnisse überprüft, bevor es Empfehlungen ausspricht.
• Automatisierte industrielle Berichterstattung : In intelligenten Fabriken kann ein Sprachmodell (LLM) auf Basis visueller Inspektionsprotokolle einen zusammenfassenden Bericht erstellen. Durch die Kombination von CoVe mit Computer-Vision- Modellen kann das Sprachmodell das Bildverarbeitungssystem abfragen, um zu überprüfen, ob ein bestimmter Defekt tatsächlich in der Montagelinie erkannt wurde, bevor der tägliche Wartungsbericht fertiggestellt wird.

Erdungsprüfung mit Bildverarbeitungsmodellen

Um den „Ausführen“-Schritt von CoVe zu optimieren, können Entwickler maßgebliche Machine-Learning- Modelle nach Referenzdaten abfragen. Beispielsweise kann ein LLM mithilfe von Ultralytics YOLO26 zur Objekterkennung physikalische Aussagen zu einem Bild überprüfen. Teams können diese Datensätze effizient verwalten und die Bildverarbeitungsmodelle über die intuitive Ultralytics -Plattform bereitstellen.

Das folgende Python zeigt, wie man die ultralytics Paket zum Extrahieren einer verifizierten Liste von Objekten, die als faktische Grundlage für einen LLM dienen kann, der einen Chain-of-Verification-Schritt ausführt.

from ultralytics import YOLO

# Load the YOLO26n model to act as a factual verification source
model = YOLO("yolo26n.pt")

# Run inference on an image to get ground-truth detections
results = model("https://ultralytics.com/images/bus.jpg")

# Extract the class names of actually detected objects for CoVe grounding
detected_objects = [model.names[int(c)] for c in results[0].boxes.cls]

# Pass this factual list to the LLM during its verification execution step
print(f"CoVe Ground Truth Facts: {detected_objects}")
# Output example: ['bus', 'person', 'person', 'person', 'person']

Durch die Integration deterministischer Ausgaben von leistungsstarken Bildverarbeitungsframeworks wie PyTorch in die CoVe-Pipeline können Entwickler generative Fehler drastisch reduzieren und robuste, vertrauenswürdige multimodale KI- Anwendungen erstellen.