Chain of Verification (CoVe)

سلسلة التحقق (CoVe) هي تقنية متقدمة في هندسة الأوامر صُممت لتقليل عدم الدقة والأخطاء الواقعية في مخرجات نماذج اللغات الكبيرة (LLMs). مع ازدياد تعقيد أنظمة الذكاء الاصطناعي، يظل ميلها لتوليد معلومات خاطئة بثقة — وهي ظاهرة تُعرف باسم هلوسة LLM — تحدياً كبيراً. تعالج CoVe هذا الأمر بإجبار النموذج على التحقق منهجياً من حقائق استجاباته الأولية قبل تقديم إجابة نهائية للمستخدم. تعمل آلية التصحيح الذاتي هذه على تحسين موثوقية تطبيقات الذكاء الاصطناعي التوليدي بشكل كبير عبر مختلف الصناعات.

Link to this sectionكيف تعمل عملية التحقق#

تفكك منهجية CoVe عملية التوليد إلى أربع خطوات متسلسلة ومتميزة. يعكس هذا النهج الهيكلي سير عمل التحقق من الحقائق لدى البشر، وتجري الأبحاث بنشاط من قبل منظمات الذكاء الاصطناعي الرائدة لتحسين سلامة الذكاء الاصطناعي والمواءمة.

• صياغة استجابة أولية: يقوم النموذج بإنشاء إجابة أساسية لاستعلام المستخدم. قد تحتوي هذه المسودة على ادعاءات غير مؤكدة أو مهلوسة.
• تخطيط أسئلة التحقق: يحلل النموذج مسودته الخاصة ويقوم بإنشاء قائمة بأسئلة محددة وموجهة مصممة للتحقق من الادعاءات الواقعية الواردة في النص الأولي.
• تنفيذ عمليات تحقق مستقلة: يجيب النموذج على أسئلة التحقق بشكل مستقل، دون الاعتماد على سياق المسودة الأصلية. هذا يمنع النموذج من مجرد تأكيد تحيزاته الخاصة أو أخطائه السابقة.
• توليد المخرج النهائي المُتحقق منه: باستخدام الحقائق التي تم التحقق منها حديثاً، يقوم النموذج بمراجعة المسودة الأولية، وإزالة عدم الدقة وتقديم استجابة دقيقة ومنقحة.

Link to this sectionالتمييز بين CoVe والتقنيات ذات الصلة#

بينما تتم مقارنة CoVe غالباً بـ سلسلة الأفكار (Chain-of-Thought)، فإن كلاً منهما يخدم أغراضاً مختلفة. تشجع سلسلة الأفكار النموذج على "إظهار عمله" من خلال تقسيم التفكير المنطقي المعقد إلى مكونات خطوة بخطوة لحل مشكلة ما. على النقيض من ذلك، تستهدف سلسلة التحقق (CoVe) الدقة الواقعية على وجه التحديد من خلال تدقيق ومراجعة الادعاءات بعد إنتاج المسودة. بالإضافة إلى ذلك، يمكن إقران CoVe بخطوط أنابيب التوليد المعزز بالاسترجاع (RAG)، حيث تسحب خطوة التحقق بيانات الحقيقة الأرضية (ground-truth) من قاعدة بيانات متجهة خارجية بدلاً من الاعتماد فقط على الأوزان الداخلية للنموذج.

Link to this sectionتطبيقات العالم الحقيقي#

تعد CoVe مفيدة للغاية في المجالات التي تكون فيها الدقة الواقعية أمراً بالغ الأهمية. ومن خلال دمج حلقة الفحص الذاتي هذه، يمكن للمطورين الوثوق بأنظمة الذكاء الاصطناعي في المهام ذات المخاطر العالية.

• مساعدو الطب والرعاية الصحية: عندما يلخص الذكاء الاصطناعي أعراض المرضى أو الأدبيات الطبية، تضمن CoVe أن يقوم النظام بالتحقق من التفاعلات الدوائية، والجرعات، ومعايير التشخيص مقابل المعرفة الطبية الراسخة قبل تقديم التوصيات.
• التقارير الصناعية المؤتمتة: في المصانع الذكية، قد يقوم LLM بإنشاء تقرير ملخص بناءً على سجلات الفحص البصري. من خلال الجمع بين CoVe ونماذج رؤية الحاسوب، يمكن للنموذج اللغوي الاستعلام عن نظام الرؤية للتحقق مما إذا كان قد تم بالفعل اكتشاف عيب معين على خط التجميع قبل الانتهاء من تقرير الصيانة اليومي.

Link to this sectionتأسيس التحقق مع نماذج الرؤية#

لتعزيز خطوة "التنفيذ" في CoVe، يمكن للمطورين الاستعلام عن نماذج تعلم الآلة موثوقة للحصول على بيانات الحقيقة الأرضية (ground-truth). على سبيل المثال، باستخدام Ultralytics YOLO26 لـ كشف الأشياء، يمكن لـ LLM التحقق من الادعاءات المادية حول صورة ما. يمكن للفرق إدارة مجموعات البيانات هذه بكفاءة ونشر نماذج الرؤية هذه باستخدام منصة Ultralytics البديهية.

يوضح مثال Python التالي كيفية استخدام حزمة ultralytics لاستخراج قائمة مؤكدة من الكائنات، والتي يمكن أن تكون بمثابة مصدر تأريض واقعي لـ LLM يقوم بتنفيذ خطوة سلسلة التحقق.

from ultralytics import YOLO

# Load the YOLO26n model to act as a factual verification source
model = YOLO("yolo26n.pt")

# Run inference on an image to get ground-truth detections
results = model("https://ultralytics.com/images/bus.jpg")

# Extract the class names of actually detected objects for CoVe grounding
detected_objects = [model.names[int(c)] for c in results[0].boxes.cls]

# Pass this factual list to the LLM during its verification execution step
print(f"CoVe Ground Truth Facts: {detected_objects}")
# Output example: ['bus', 'person', 'person', 'person', 'person']

من خلال دمج المخرجات الحتمية من أطر عمل الرؤية عالية الأداء مثل PyTorch في خط أنابيب CoVe، يمكن للمطورين تقليل أخطاء التوليد بشكل كبير وبناء تطبيقات ذكاء اصطناعي متعدد الوسائط قوية وجديرة بالثقة.