Chain of Verification (CoVe)

Chuỗi xác minh (CoVe) là một kỹ thuật kỹ thuật thiết kế prompt nâng cao, được thiết kế để giảm sự thiếu chính xác và các lỗi thực tế trong đầu ra của Mô hình ngôn ngữ lớn (LLMs). Khi các hệ thống trí tuệ nhân tạo trở nên phức tạp hơn, xu hướng tự tin tạo ra thông tin sai lệch—một hiện tượng được gọi là ảo giác LLM—vẫn là một thách thức đáng kể. CoVe giải quyết vấn đề này bằng cách buộc model phải kiểm chứng thực tế một cách có hệ thống các phản hồi ban đầu của chính nó trước khi đưa ra câu trả lời cuối cùng cho người dùng. Cơ chế tự hiệu chỉnh này cải thiện đáng kể độ tin cậy của các ứng dụng AI tạo sinh trong nhiều ngành khác nhau.

Quy trình xác minh hoạt động như thế nào#

Phương pháp CoVe chia quy trình tạo sinh thành bốn bước riêng biệt, được thực hiện tuần tự. Cách tiếp cận có cấu trúc này mô phỏng các workflow kiểm chứng thực tế của con người và đang được các tổ chức AI hàng đầu tích cực nghiên cứu để cải thiện an toàn AI và sự phù hợp với mục tiêu.

• Soạn phản hồi ban đầu: Model tạo ra một câu trả lời cơ sở cho truy vấn của người dùng. Bản nháp này có thể chứa các nhận định chưa được xác minh hoặc do ảo giác tạo ra.
• Lập kế hoạch cho các câu hỏi xác minh: Model phân tích bản nháp của chính nó và tạo một danh sách các câu hỏi cụ thể, có trọng tâm, nhằm xác minh những nhận định thực tế được đưa ra trong văn bản ban đầu.
• Thực hiện các bước xác minh độc lập: Model trả lời các câu hỏi xác minh một cách độc lập, không dựa vào ngữ cảnh của bản nháp ban đầu. Điều này ngăn model chỉ đơn giản xác nhận các thiên kiến hoặc sai lầm trước đó của chính nó.
• Tạo đầu ra cuối cùng đã được xác minh: Sử dụng các dữ kiện mới được xác minh, model chỉnh sửa bản nháp ban đầu, loại bỏ những điểm thiếu chính xác và đưa ra một phản hồi tinh gọn, trung thực.

Phân biệt CoVe với các kỹ thuật liên quan#

Mặc dù CoVe thường được so sánh với Prompting Chuỗi suy nghĩ, hai kỹ thuật này phục vụ các mục đích khác nhau. Prompting Chuỗi suy nghĩ khuyến khích model “trình bày cách thực hiện” bằng cách phân rã quá trình suy luận logic phức tạp thành các thành phần từng bước để giải quyết một vấn đề. Ngược lại, Chuỗi xác minh tập trung cụ thể vào độ chính xác thực tế bằng cách kiểm tra và chỉnh sửa các nhận định sau khi bản nháp được tạo. Ngoài ra, CoVe có thể được kết hợp với các pipeline Sinh tăng cường truy xuất (RAG), trong đó bước xác minh lấy dữ liệu ground truth từ một cơ sở dữ liệu vector bên ngoài thay vì chỉ dựa vào các trọng số nội bộ của model.

Các ứng dụng trong thực tế#

CoVe mang lại nhiều lợi ích trong các lĩnh vực mà độ chính xác thực tế đóng vai trò then chốt. Bằng cách tích hợp vòng lặp tự kiểm tra này, developer có thể tin cậy các hệ thống trí tuệ nhân tạo khi thực hiện những tác vụ có mức độ rủi ro cao hơn.

• Trợ lý y tế và chăm sóc sức khỏe: Khi AI tóm tắt các triệu chứng của bệnh nhân hoặc tài liệu y khoa, CoVe đảm bảo hệ thống xác minh tương tác thuốc, liều lượng và tiêu chí chẩn đoán dựa trên kiến thức y khoa đã được thiết lập trước khi đưa ra khuyến nghị.
• Báo cáo công nghiệp tự động: Trong các nhà máy thông minh, một LLM có thể tạo báo cáo tóm tắt dựa trên nhật ký kiểm tra trực quan. Bằng cách kết hợp CoVe với các model thị giác máy tính, mô hình ngôn ngữ có thể truy vấn hệ thống thị giác để xác minh liệu một lỗi cụ thể có thực sự được phát hiện trên dây chuyền lắp ráp hay không trước khi hoàn thiện báo cáo bảo trì hằng ngày.

Grounding cho việc xác minh bằng các model thị giác#

Để nâng cao bước “Thực hiện” của CoVe, developer có thể truy vấn các model machine learning có thẩm quyền để lấy dữ liệu ground truth. Ví dụ, khi sử dụng Ultralytics YOLO26 cho phát hiện đối tượng, một LLM có thể xác minh các nhận định về mặt vật lý trong một hình ảnh. Các team có thể quản lý hiệu quả những dataset này và triển khai các model thị giác bằng Ultralytics Platform trực quan.

Ví dụ Python sau đây minh họa cách sử dụng package ultralytics để trích xuất một danh sách đối tượng đã được xác minh, danh sách này có thể đóng vai trò là nguồn grounding thực tế cho một LLM đang thực hiện bước Chuỗi xác minh.

from ultralytics import YOLO

# Load the YOLO26n model to act as a factual verification source
model = YOLO("yolo26n.pt")

# Run inference on an image to get ground-truth detections
results = model("https://ultralytics.com/images/bus.jpg")

# Extract the class names of actually detected objects for CoVe grounding
detected_objects = [model.names[int(c)] for c in results[0].boxes.cls]

# Pass this factual list to the LLM during its verification execution step
print(f"CoVe Ground Truth Facts: {detected_objects}")
# Output example: ['bus', 'person', 'person', 'person', 'person']

Bằng cách tích hợp các đầu ra tất định từ những framework thị giác hiệu năng cao như PyTorch vào pipeline CoVe, developer có thể giảm đáng kể các lỗi tạo sinh và xây dựng các ứng dụng AI đa phương thức mạnh mẽ, đáng tin cậy.