Chain of Verification (CoVe)

سلسلة التحقّق (CoVe) هي تقنية متقدمة في هندسة المطالبات صُممت للحد من حالات عدم الدقة والأخطاء الواقعية في مخرجات نماذج اللغة الكبيرة (LLMs). ومع ازدياد تعقيد أنظمة الذكاء الاصطناعي، يظل ميلها إلى توليد معلومات زائفة بثقة—وهي ظاهرة تُعرف باسم هلوسة LLM—تحديًا كبيرًا. تعالج CoVe هذه المشكلة من خلال إجبار النموذج على التحقّق المنهجي من صحة استجاباته الأولية قبل تقديم إجابة نهائية للمستخدم. وتحسّن آلية التصحيح الذاتي هذه بدرجة كبيرة موثوقية تطبيقات الذكاء الاصطناعي التوليدي في مختلف القطاعات.

كيفية عمل عملية التحقّق#

تقسّم منهجية CoVe عملية التوليد إلى أربع خطوات متسلسلة ومتميزة. ويحاكي هذا النهج المنظّم عمليات التحقّق البشري من الحقائق، وتُجري أبحاثًا نشطة حوله مؤسسات رائدة في مجال الذكاء الاصطناعي لتحسين سلامة الذكاء الاصطناعي ومواءمته.

• صياغة استجابة أولية: يولّد النموذج إجابة أساسية عن استفسار المستخدم. وقد تتضمن هذه المسودة ادعاءات غير مُتحقَّق منها أو هلوسات.
• التخطيط لأسئلة التحقّق: يحلل النموذج مسودته الخاصة ويولّد قائمة من الأسئلة المحددة والموجّهة المصممة للتحقق من صحة الادعاءات الواقعية الواردة في النص الأولي.
• تنفيذ عمليات تحقّق مستقلة: يجيب النموذج عن أسئلة التحقّق بشكل مستقل، من دون الاعتماد على سياق المسودة الأصلية. ويمنع ذلك النموذج من مجرد تأكيد تحيزاته أو أخطائه السابقة.
• توليد المخرجات النهائية التي تم التحقّق منها: باستخدام الحقائق التي تم التحقّق منها حديثًا، يراجع النموذج المسودة الأولية، ويزيل أوجه عدم الدقة، ويقدّم استجابة منقحة وصادقة.

تمييز CoVe عن التقنيات ذات الصلة#

رغم أن CoVe تُقارَن غالبًا بـ الاستحثاث بسلسلة الأفكار، فإن لكل منهما غرضًا مختلفًا. يشجّع الاستحثاث بسلسلة الأفكار النموذجَ على "إظهار خطوات عمله" من خلال تفكيك الاستدلال المنطقي المعقد إلى مكوّنات خطوة بخطوة لحل مشكلة ما. وعلى النقيض من ذلك، تستهدف سلسلة التحقّق الدقة الواقعية تحديدًا، وذلك من خلال تدقيق الادعاءات ومراجعتها بعد إنتاج المسودة. بالإضافة إلى ذلك، يمكن دمج CoVe مع مسارات التوليد المعزَّز بالاسترجاع (RAG)، حيث تستخرج خطوة التحقّق بيانات الحقيقة المرجعية من قاعدة بيانات متجهية خارجية بدلًا من الاعتماد حصريًا على الأوزان الداخلية للنموذج.

التطبيقات الواقعية#

تعود CoVe بفائدة كبيرة في المجالات التي تكون فيها الدقة الواقعية بالغة الأهمية. ومن خلال دمج حلقة التحقّق الذاتي هذه، يمكن للمطورين الوثوق بأنظمة الذكاء الاصطناعي في المهام الأعلى خطورة.

• المساعدون الطبيون ومساعدو الرعاية الصحية: عندما يلخّص نظام ذكاء اصطناعي أعراض المرضى أو الأدبيات الطبية، تضمن CoVe أن يتحقق النظام من التفاعلات الدوائية والجرعات ومعايير التشخيص مقابل المعارف الطبية الراسخة قبل تقديم التوصيات.
• إعداد التقارير الصناعية المؤتمتة: في المصانع الذكية، قد يولّد LLM تقريرًا موجزًا استنادًا إلى سجلات الفحص البصري. ومن خلال دمج CoVe مع نماذج الرؤية الحاسوبية، يمكن للنموذج اللغوي الاستعلام من نظام الرؤية للتحقق مما إذا كان قد تم بالفعل اكتشاف عيب محدد على خط التجميع قبل إتمام تقرير الصيانة اليومي.

إسناد التحقّق بالاستناد إلى نماذج الرؤية#

لتعزيز خطوة "التنفيذ" في CoVe، يمكن للمطورين الاستعلام من نماذج التعلّم الآلي الموثوقة للحصول على بيانات الحقيقة المرجعية. فعلى سبيل المثال، باستخدام Ultralytics YOLO26 في اكتشاف الكائنات، يمكن لـ LLM التحقق من الادعاءات المادية المتعلقة بصورة ما. ويمكن للفرق إدارة مجموعات البيانات هذه بكفاءة ونشر نماذج الرؤية هذه باستخدام منصة Ultralytics سهلة الاستخدام.

يوضح مثال Python التالي كيفية استخدام الحزمة ultralytics لاستخراج قائمة موثَّقة من الكائنات، والتي يمكن أن تكون مصدرًا للإسناد الواقعي لـ LLM أثناء تنفيذ خطوة سلسلة التحقّق.

from ultralytics import YOLO

# Load the YOLO26n model to act as a factual verification source
model = YOLO("yolo26n.pt")

# Run inference on an image to get ground-truth detections
results = model("https://ultralytics.com/images/bus.jpg")

# Extract the class names of actually detected objects for CoVe grounding
detected_objects = [model.names[int(c)] for c in results[0].boxes.cls]

# Pass this factual list to the LLM during its verification execution step
print(f"CoVe Ground Truth Facts: {detected_objects}")
# Output example: ['bus', 'person', 'person', 'person', 'person']

من خلال دمج المخرجات الحتمية من أطر الرؤية عالية الأداء مثل PyTorch في مسار CoVe، يمكن للمطورين تقليل أخطاء التوليد بدرجة كبيرة وبناء تطبيقات قوية وموثوقة لـ الذكاء الاصطناعي متعدد الوسائط.