Chain of Verification (CoVe)

A Cadeia de Verificação (CoVe) é uma técnica avançada de engenharia de prompt projetada para reduzir imprecisões e erros factuais nas respostas de Grandes Modelos de Linguagem (LLMs). À medida que os sistemas de inteligência artificial se tornam mais complexos, sua tendência de gerar informações falsas com confiança — um fenômeno conhecido como alucinação de LLM — continua sendo um desafio significativo. A CoVe aborda isso forçando o modelo a verificar sistematicamente seus próprios fatos antes de apresentar uma resposta final ao usuário. Esse mecanismo de autocorreção melhora significativamente a confiabilidade de aplicações de IA generativa em diversos setores.

Link to this sectionComo funciona o processo de verificação#

A metodologia CoVe divide o processo de geração em quatro etapas sequenciais distintas. Essa abordagem estruturada reflete os fluxos de trabalho de verificação de fatos humanos e é pesquisada ativamente pelas principais organizações de IA para melhorar a segurança em IA e o alinhamento.

• Rascunhe uma Resposta Inicial: O modelo gera uma resposta base para a consulta do usuário. Este rascunho pode conter alegações não verificadas ou alucinadas.
• Planeje Perguntas de Verificação: O modelo analisa seu próprio rascunho e gera uma lista de perguntas específicas e direcionadas, criadas para verificar as alegações factuais feitas no texto inicial.
• Execute Verificações Independentes: O modelo responde às perguntas de verificação de forma independente, sem depender do contexto do rascunho original. Isso evita que o modelo simplesmente confirme seus próprios vieses ou erros anteriores.
• Gere a Resposta Final Verificada: Usando os fatos recém-verificados, o modelo revisa o rascunho inicial, removendo imprecisões e apresentando uma resposta refinada e verdadeira.

Link to this sectionDiferenciando a CoVe de técnicas relacionadas#

Embora a CoVe seja frequentemente comparada ao Prompt de Cadeia de Pensamento (Chain-of-Thought), ambos servem a propósitos diferentes. A Cadeia de Pensamento incentiva um modelo a "mostrar seu trabalho", dividindo o raciocínio lógico complexo em componentes passo a passo para resolver um problema. Em contraste, a Cadeia de Verificação foca especificamente na precisão factual, auditando e revisando alegações após a produção de um rascunho. Além disso, a CoVe pode ser combinada com pipelines de Geração Aumentada por Recuperação (RAG), onde a etapa de verificação extrai dados de verdade absoluta (ground-truth) de um banco de dados vetorial externo, em vez de depender apenas dos pesos internos do modelo.

Link to this sectionAplicações no Mundo Real#

A CoVe é altamente benéfica em domínios onde a precisão factual é crítica. Ao integrar esse loop de autoverificação, os desenvolvedores podem confiar sistemas de inteligência artificial para tarefas de maior risco.

• Assistentes Médicos e de Saúde: Quando uma IA resume sintomas de pacientes ou literatura médica, a CoVe garante que o sistema verifique interações medicamentosas, dosagens e critérios de diagnóstico com base no conhecimento médico estabelecido antes de fornecer recomendações.
• Relatórios Industriais Automatizados: Em fábricas inteligentes, um LLM pode gerar um relatório de resumo com base em logs de inspeção visual. Ao combinar a CoVe com modelos de visão computacional, o modelo de linguagem pode consultar o sistema de visão para verificar se um defeito específico foi realmente detectado na linha de montagem antes de finalizar o relatório diário de manutenção.

Link to this sectionFundamentando a verificação com modelos de visão#

Para aprimorar a etapa "Executar" da CoVe, os desenvolvedores podem consultar modelos de aprendizado de máquina autoritativos para obter dados de verdade absoluta. Por exemplo, usando o Ultralytics YOLO26 para detecção de objetos, um LLM pode verificar alegações físicas sobre uma imagem. As equipes podem gerenciar esses datasets com eficiência e implantar esses modelos de visão usando a intuitiva Plataforma Ultralytics.

O exemplo a seguir em Python demonstra como usar o pacote ultralytics para extrair uma lista verificada de objetos, que pode servir como fonte de fundamentação factual para um LLM que executa uma etapa da Cadeia de Verificação.

from ultralytics import YOLO

# Load the YOLO26n model to act as a factual verification source
model = YOLO("yolo26n.pt")

# Run inference on an image to get ground-truth detections
results = model("https://ultralytics.com/images/bus.jpg")

# Extract the class names of actually detected objects for CoVe grounding
detected_objects = [model.names[int(c)] for c in results[0].boxes.cls]

# Pass this factual list to the LLM during its verification execution step
print(f"CoVe Ground Truth Facts: {detected_objects}")
# Output example: ['bus', 'person', 'person', 'person', 'person']

Ao integrar saídas determinísticas de frameworks de visão de alto desempenho como o PyTorch ao pipeline da CoVe, os desenvolvedores podem reduzir drasticamente os erros generativos e construir aplicações de IA multimodal robustas e confiáveis.