Chain of Verification (CoVe)

La cadena de verificación (CoVe) es una técnica avanzada de ingeniería de prompts diseñada para reducir las imprecisiones y los errores fácticos en las respuestas de los modelos de lenguaje de gran tamaño (LLM). A medida que los sistemas de inteligencia artificial se vuelven más complejos, su tendencia a generar información falsa con seguridad —un fenómeno conocido como alucinación de los LLM— sigue siendo un desafío importante. CoVe aborda este problema obligando al modelo a comprobar sistemáticamente los hechos de sus respuestas iniciales antes de presentar una respuesta final al usuario. Este mecanismo de autocorrección mejora significativamente la fiabilidad de las aplicaciones de IA generativa en diversos sectores.

Cómo funciona el proceso de verificación#

La metodología CoVe divide el proceso de generación en cuatro pasos distintos y secuenciales. Este enfoque estructurado refleja los flujos de trabajo humanos de verificación de hechos y es objeto de una investigación activa por parte de organizaciones líderes de IA para mejorar la seguridad de la IA y la alineación.

• Redactar una respuesta inicial: El modelo genera una respuesta inicial a la consulta del usuario. Este borrador puede contener afirmaciones no verificadas o alucinadas.
• Planificar las preguntas de verificación: El modelo analiza su propio borrador y genera una lista de preguntas específicas y dirigidas, diseñadas para verificar las afirmaciones fácticas realizadas en el texto inicial.
• Realizar verificaciones independientes: El modelo responde a las preguntas de verificación de forma independiente, sin basarse en el contexto del borrador original. Esto evita que el modelo se limite a confirmar sus propios sesgos o errores anteriores.
• Generar el resultado final verificado: Mediante los hechos recién verificados, el modelo revisa el borrador inicial, elimina las imprecisiones y presenta una respuesta refinada y veraz.

Diferencias entre CoVe y técnicas relacionadas#

Aunque CoVe se compara a menudo con el prompting de cadena de pensamiento, ambos tienen objetivos distintos. La cadena de pensamiento anima al modelo a «mostrar su razonamiento» desglosando el razonamiento lógico complejo en componentes paso a paso para resolver un problema. En cambio, la cadena de verificación se centra específicamente en la precisión fáctica mediante la auditoría y revisión de las afirmaciones una vez producido el borrador. Además, CoVe puede combinarse con canalizaciones de generación aumentada por recuperación (RAG), en las que el paso de verificación obtiene datos de referencia verídicos de una base de datos vectorial externa, en lugar de depender únicamente de los pesos internos del modelo.

Aplicaciones en el mundo real#

CoVe resulta especialmente beneficioso en ámbitos en los que la precisión fáctica es fundamental. Al integrar este ciclo de autocontrol, los desarrolladores pueden confiar en los sistemas de inteligencia artificial para tareas de mayor riesgo.

• Asistentes médicos y sanitarios: Cuando una IA resume los síntomas de un paciente o la literatura médica, CoVe garantiza que el sistema verifique las interacciones entre medicamentos, las dosis y los criterios diagnósticos con respecto a conocimientos médicos consolidados antes de ofrecer recomendaciones.
• Informes industriales automatizados: En las fábricas inteligentes, un LLM podría generar un informe resumido a partir de los registros de inspección visual. Al combinar CoVe con modelos de visión artificial, el modelo de lenguaje puede consultar el sistema de visión para verificar si realmente se detectó un defecto concreto en la línea de montaje antes de finalizar el informe diario de mantenimiento.

Verificación fundamentada con modelos de visión#

Para mejorar el paso «Ejecutar» de CoVe, los desarrolladores pueden consultar modelos autorizados de aprendizaje automático para obtener datos de referencia verídicos. Por ejemplo, mediante Ultralytics YOLO26 para la detección de objetos, un LLM puede verificar afirmaciones físicas sobre una imagen. Los equipos pueden gestionar estos conjuntos de datos y desplegar estos modelos de visión de forma eficiente mediante la intuitiva Ultralytics Platform.

El siguiente ejemplo de Python muestra cómo utilizar el paquete ultralytics para extraer una lista verificada de objetos, que puede actuar como fuente de fundamentación fáctica para un LLM que ejecuta un paso de cadena de verificación.

from ultralytics import YOLO

# Load the YOLO26n model to act as a factual verification source
model = YOLO("yolo26n.pt")

# Run inference on an image to get ground-truth detections
results = model("https://ultralytics.com/images/bus.jpg")

# Extract the class names of actually detected objects for CoVe grounding
detected_objects = [model.names[int(c)] for c in results[0].boxes.cls]

# Pass this factual list to the LLM during its verification execution step
print(f"CoVe Ground Truth Facts: {detected_objects}")
# Output example: ['bus', 'person', 'person', 'person', 'person']

Al integrar resultados deterministas de frameworks de visión de alto rendimiento como PyTorch en la canalización de CoVe, los desarrolladores pueden reducir drásticamente los errores generativos y crear aplicaciones sólidas y fiables de IA multimodal.