Chain of Verification (CoVe)

La chaîne de vérification (CoVe) est une technique avancée d’ingénierie des prompts conçue pour réduire les inexactitudes et les erreurs factuelles dans les résultats des grands modèles de langage (LLMs). À mesure que les systèmes d’intelligence artificielle deviennent plus complexes, leur tendance à générer avec assurance de fausses informations — un phénomène connu sous le nom d’hallucination des LLM — reste un défi majeur. CoVe y remédie en obligeant le modèle à vérifier systématiquement les faits de ses réponses initiales avant de présenter une réponse finale à l’utilisateur. Ce mécanisme d’autocorrection améliore considérablement la fiabilité des applications d’IA générative dans divers secteurs.

Fonctionnement du processus de vérification#

La méthodologie CoVe décompose le processus de génération en quatre étapes distinctes et séquentielles. Cette approche structurée s’inspire des workflows humains de vérification des faits et fait l’objet de recherches actives par les principales organisations spécialisées en IA afin d’améliorer la sécurité de l’IA et l’alignement.

• Rédiger une première réponse : Le modèle génère une réponse de base à la question de l’utilisateur. Cette ébauche peut contenir des affirmations non vérifiées ou issues d’hallucinations.
• Planifier les questions de vérification : Le modèle analyse sa propre ébauche et génère une liste de questions spécifiques et ciblées, conçues pour vérifier les affirmations factuelles formulées dans le texte initial.
• Effectuer des vérifications indépendantes : Le modèle répond indépendamment aux questions de vérification, sans s’appuyer sur le contexte de l’ébauche originale. Cela empêche le modèle de simplement confirmer ses propres biais ou ses erreurs précédentes.
• Générer le résultat final vérifié : En s’appuyant sur les faits nouvellement vérifiés, le modèle révise l’ébauche initiale, supprime les inexactitudes et présente une réponse affinée et fidèle.

Différencier CoVe des techniques connexes#

Bien que CoVe soit souvent comparée au prompting par chaîne de pensée, ces deux techniques ont des objectifs différents. Le prompting par chaîne de pensée encourage un modèle à « montrer son raisonnement » en décomposant un raisonnement logique complexe en étapes successives pour résoudre un problème. À l’inverse, la chaîne de vérification cible spécifiquement l’exactitude factuelle en auditant et en révisant les affirmations une fois l’ébauche produite. De plus, CoVe peut être associée à des pipelines de génération augmentée par récupération (RAG), dans lesquels l’étape de vérification extrait des données de référence fiables depuis une base de données vectorielle externe, plutôt que de s’appuyer uniquement sur les poids internes du modèle.

Applications concrètes#

CoVe est particulièrement utile dans les domaines où l’exactitude factuelle est essentielle. En intégrant cette boucle d’auto-vérification, les développeurs peuvent faire davantage confiance aux systèmes d’intelligence artificielle pour des tâches à enjeux élevés.

• Assistants médicaux et de santé : Lorsqu’une IA résume les symptômes d’un patient ou de la littérature médicale, CoVe garantit que le système vérifie les interactions médicamenteuses, les posologies et les critères diagnostiques par rapport aux connaissances médicales établies avant de fournir des recommandations.
• Rapports industriels automatisés : Dans les usines intelligentes, un LLM peut générer un rapport de synthèse à partir de journaux d’inspection visuelle. En combinant CoVe avec des modèles de vision par ordinateur, le modèle de langage peut interroger le système de vision afin de vérifier qu’un défaut spécifique a réellement été détecté sur la chaîne d’assemblage avant de finaliser le rapport de maintenance quotidien.

Ancrer la vérification avec des modèles de vision#

Pour améliorer l’étape « Execute » de CoVe, les développeurs peuvent interroger des modèles d’apprentissage automatique faisant autorité afin d’obtenir des données de référence fiables. Par exemple, en utilisant Ultralytics YOLO26 pour la détection d’objets, un LLM peut vérifier des affirmations physiques concernant une image. Les équipes peuvent gérer efficacement ces jeux de données et déployer ces modèles de vision à l’aide de l’intuitive Ultralytics Platform.

L’exemple Python suivant montre comment utiliser le package ultralytics pour extraire une liste vérifiée d’objets, qui peut servir de source d’ancrage factuel pour un LLM exécutant une étape de chaîne de vérification.

from ultralytics import YOLO

# Load the YOLO26n model to act as a factual verification source
model = YOLO("yolo26n.pt")

# Run inference on an image to get ground-truth detections
results = model("https://ultralytics.com/images/bus.jpg")

# Extract the class names of actually detected objects for CoVe grounding
detected_objects = [model.names[int(c)] for c in results[0].boxes.cls]

# Pass this factual list to the LLM during its verification execution step
print(f"CoVe Ground Truth Facts: {detected_objects}")
# Output example: ['bus', 'person', 'person', 'person', 'person']

En intégrant les sorties déterministes de frameworks de vision haute performance comme PyTorch dans le pipeline CoVe, les développeurs peuvent réduire considérablement les erreurs génératives et créer des applications d’IA multimodale robustes et fiables.