Chain of Verification (CoVe)

La Catena di verifica (CoVe) è una tecnica avanzata di prompt engineering progettata per ridurre le imprecisioni e gli errori fattuali negli output dei grandi modelli linguistici (LLMs). Con l'aumentare della complessità dei sistemi di intelligenza artificiale, la loro tendenza a generare con sicurezza informazioni false — un fenomeno noto come allucinazione degli LLM — rimane una sfida significativa. CoVe affronta questo problema costringendo il modello a verificare sistematicamente i fatti contenuti nelle proprie risposte iniziali prima di presentare una risposta finale all'utente. Questo meccanismo di autocorrezione migliora significativamente l'affidabilità delle applicazioni di IA generativa in diversi settori.

Come funziona il processo di verifica#

La metodologia CoVe suddivide il processo di generazione in quattro fasi distinte e sequenziali. Questo approccio strutturato rispecchia i flussi di lavoro umani per la verifica dei fatti ed è oggetto di ricerca attiva da parte delle principali organizzazioni di IA per migliorare la sicurezza dell'IA e l'allineamento.

• Redigi una risposta iniziale: Il modello genera una risposta di base alla richiesta dell'utente. Questa bozza può contenere affermazioni non verificate o allucinate.
• Pianifica le domande di verifica: Il modello analizza la propria bozza e genera un elenco di domande specifiche e mirate progettate per verificare le affermazioni fattuali presenti nel testo iniziale.
• Esegui verifiche indipendenti: Il modello risponde alle domande di verifica in modo indipendente, senza basarsi sul contesto della bozza originale. In questo modo si impedisce al modello di limitarsi a confermare i propri pregiudizi o gli errori precedenti.
• Genera l'output finale verificato: Utilizzando i fatti verificati di recente, il modello rivede la bozza iniziale, rimuove le imprecisioni e presenta una risposta perfezionata e veritiera.

Differenze tra CoVe e le tecniche correlate#

Sebbene CoVe venga spesso confrontata con il prompting Chain-of-Thought, le due tecniche hanno scopi diversi. Il Chain-of-Thought incoraggia un modello a "mostrare il proprio procedimento", scomponendo il ragionamento logico complesso in componenti passo dopo passo per risolvere un problema. Al contrario, la Chain of Verification mira specificamente all'accuratezza fattuale, verificando e rivedendo le affermazioni dopo la produzione di una bozza. Inoltre, CoVe può essere abbinata a pipeline di generazione aumentata dal recupero (RAG), in cui la fase di verifica recupera dati di riferimento da un'database vettoriale esterno invece di basarsi esclusivamente sui pesi interni del modello.

Applicazioni nel mondo reale#

CoVe è particolarmente utile nei settori in cui l'accuratezza fattuale è fondamentale. Integrando questo ciclo di autocontrollo, gli sviluppatori possono affidare ai sistemi di intelligenza artificiale attività a maggiore criticità con più fiducia.

• Assistenti medici e sanitari: Quando un sistema di IA riassume i sintomi di un paziente o la letteratura medica, CoVe garantisce che il sistema verifichi le interazioni farmacologiche, i dosaggi e i criteri diagnostici rispetto alle conoscenze mediche consolidate prima di fornire raccomandazioni.
• Report industriali automatizzati: Nelle fabbriche intelligenti, un LLM potrebbe generare un report riepilogativo basato sui registri delle ispezioni visive. Combinando CoVe con modelli di computer vision, il modello linguistico può interrogare il sistema di visione per verificare se un difetto specifico sia stato effettivamente rilevato sulla linea di assemblaggio prima di finalizzare il report giornaliero di manutenzione.

Verifica con ancoraggio tramite modelli di visione#

Per potenziare la fase "Esegui" di CoVe, gli sviluppatori possono interrogare autorevoli modelli di machine learning per ottenere dati di riferimento. Ad esempio, utilizzando Ultralytics YOLO26 per il rilevamento degli oggetti, un LLM può verificare affermazioni fisiche relative a un'immagine. I team possono gestire in modo efficiente questi dataset e distribuire questi modelli di visione utilizzando l'intuitiva Ultralytics Platform.

Il seguente esempio in Python mostra come utilizzare il pacchetto ultralytics per estrarre un elenco verificato di oggetti, che può fungere da fonte di ancoraggio fattuale per un LLM che esegue una fase della Chain of Verification.

from ultralytics import YOLO

# Load the YOLO26n model to act as a factual verification source
model = YOLO("yolo26n.pt")

# Run inference on an image to get ground-truth detections
results = model("https://ultralytics.com/images/bus.jpg")

# Extract the class names of actually detected objects for CoVe grounding
detected_objects = [model.names[int(c)] for c in results[0].boxes.cls]

# Pass this factual list to the LLM during its verification execution step
print(f"CoVe Ground Truth Facts: {detected_objects}")
# Output example: ['bus', 'person', 'person', 'person', 'person']

Integrando gli output deterministici di framework di visione ad alte prestazioni come PyTorch nella pipeline CoVe, gli sviluppatori possono ridurre drasticamente gli errori generativi e creare applicazioni di IA multimodale solide e affidabili.