AI Debate
في مناظرات الذكاء الاصطناعي، يتجادل نموذجان حول إجابتين متعارضتين، ثم يختار محكّم أضعف النموذج الفائز. آلية عمل المقترح الصادر عام 2018، وما توصلت إليه التجارب، وحدوده.
مناظرة الذكاء الاصطناعي أسلوب من سلامة الذكاء الاصطناعي، يتجادل فيه نظامان من الذكاء الاصطناعي حول إجابتين متنافستين عن سؤال، بينما يقرر حكم، يكون عادةً شخصًا أو نموذجًا أضعف، أي الطرفين قدم الحجة الأقوى. اقترح جيفري إيرفينغ وبول كريستيانو وداريو أمودي هذا الأسلوب في OpenAI ضمن ورقة عام 2018 AI Safety via Debate باعتباره شكلًا من أشكال الرقابة القابلة للتوسع، أي وسيلة تتيح للبشر الإشراف على أنظمة الذكاء الاصطناعي في مهام يصعب عليهم التحقق منها مباشرةً. ويستند إلى فكرة أن اكتشاف الخلل في حجة أسهل من الوصول إلى الإجابة الصحيحة، وأن لدى الخصم دافعًا قويًا للإشارة إلى الخلل.
آلية المناظرة#
يُطرح سؤال أو إجراء مقترح على وكيلي ذكاء اصطناعي. ويتناوبان على الإدلاء بعبارات قصيرة لعدد ثابت من الجولات، محاولَين إقناع الحكم، ويصبح حكمه هو المكافأة. اللعبة محصلتها صفر، لذا فإن تدريب الوكيلين عبر اللعب الذاتي باستخدام التعلم المعزز يدفع كلًا منهما إلى كشف أخطاء الآخر. وإذا كان دحض الكذب أسهل من الدفاع عنه، تكون الاستراتيجية الرابحة هي قول الحقيقة.
صاغت الورقة الأصلية الحجة بدقة من خلال تشبيهها بنظرية التعقيد الحسابي. ففي ظل اللعب الأمثل، تتيح المناظرة لحكم محدود بزمن كثير الحدود الإجابة عن أي سؤال في الفئة PSPACE، بينما لا يتجاوز الحكم المباشر على إجابة واحدة الفئة NP. واستخدمت التجربة الأولى الصور: تناوب وكيلان على كشف وحدات بكسل من رقم MNIST أمام مصنف صور متناثر لا يرى أي شيء آخر؛ ودافع أحدهما عن الرقم الصحيح والآخر عن رقم خاطئ. رفعت المناظرة دقة الحكم من 59.4% إلى 88.9% عند كشف 6 وحدات بكسل، ومن 48.2% إلى 85.2% عند كشف 4.
تجارب باستخدام نماذج اللغة#
اختبرت تجارب لاحقة المناظرة باستخدام نماذج اللغة الكبيرة (LLMs). ففي دراسة عام 2024 بعنوان Debating with More Persuasive LLMs Leads to More Truthful Answers، قادها أكبير خان، جادل نموذجان خبيران قادران على قراءة قصة طويلة حول إجابتين مختلفتين عن سؤال لفهم المقروء، بينما اختار الحكام، الذين لم يتمكنوا من رؤية القصة، أحد الطرفين. رفعت المناظرة الدقة إلى 76% لدى الحكام من النماذج و88% لدى الحكام من البشر، مقارنةً بخطوط أساس ساذجة بلغت 48% و60%. أدى تحسين قدرة المتناظرين على الإقناع إلى زيادة دقة الحكام، وهو الاتجاه الذي تحتاج إليه المناظرة. وفُحصت الاقتباسات من القصة آليًا ووُسمت بأنها أصلية، كي لا يتمكن أحد المتناظرين من اختلاق الأدلة. ويشكّل هذا التفاوت في المعلومات، حيث يرى المتناظرون مصدرًا لا يراه الحكم، الطريقة التي تحاكي بها معظم تجارب المناظرة نموذجًا مستقبليًا يعرف أكثر من المشرف عليه.
قارنت دراسة أكبر من Google DeepMind أجراها زاكاري كنتون وزملاؤه، بعنوان On Scalable Oversight with Weak LLMs Judging Strong LLMs، المناظرة بالاستشارة، حيث يدافع نظام ذكاء اصطناعي واحد عن إجابة محددة، عبر مهام عديدة. تفوقت المناظرة على الاستشارة في كل مهمة عندما أُسند إلى المستشار جانب عشوائي، كما تفوقت على حكم يجيب مباشرةً في مهام الإجابة عن الأسئلة بالاقتطاف مع تفاوت المعلومات، بينما كانت النتائج مختلطة في المهام التي لا تتضمن ذلك التفاوت.
تكتسب الأدلة القابلة للتحقق الأهمية نفسها عندما تدور المناظرة حول صورة، كما في الإجابة عن الأسئلة المرئية. يوفّر كاشف الأجسام مثل Ultralytics YOLO26 مربعات وحدودًا وتسميات للفئات يستطيع الحكم التحقق من الادعاءات بمقارنتها بها، مثل «يوجد شخصان داخل الممر المحدد»، بالطريقة نفسها التي يرسّخ بها التحقق من الاقتباسات مناظرةً حول النص.
مقارنة بأساليب الإشراف الأخرى#
- التعلم المعزز من التغذية الراجعة البشرية (RLHF): يقيّم المقيّمون المخرجات مباشرةً، وينجح ذلك ما دام الناس يستطيعون تمييز الإجابات الجيدة من الرديئة. تستهدف المناظرة الحالات التي يعجزون فيها عن ذلك.
- مناظرة متعددة الوكلاء للاستدلال: أسلوب يُطبّق وقت الاستدلال، تقترح فيه عدة نسخ من النموذج إجابات، وتقرأ ردود بعضها بعضًا، ثم تنقحها على مدى بضع جولات. يحسّن هذا الأسلوب الدقة الحسابية والواقعية من دون حكم مدرّب، ويميزه تبادل الحجج عن التجميع الذي يدمج التنبؤات المستقلة.
- الذكاء الاصطناعي الدستوري: ينتقد النموذج المخرجات وينقحها وفق مبادئ مكتوبة، مستبدلًا كثيرًا من الوسم البشري بتغذية راجعة من الذكاء الاصطناعي. وفي المناظرة، يأتي النقد من خصم لديه حافز لاكتشاف الأخطاء.
- الاختبار الهجومي لأنظمة الذكاء الاصطناعي: يفحص خصوم بشريون أو آليون نظامًا مكتملًا بحثًا عن الإخفاقات. أما في المناظرة، فيأتي الضغط العدائي من المتناظر المنافس ضمن كل إجابة.
- المواءمة الفائقة: أجندة البحث الأوسع لمواءمة أنظمة تتجاوز قدرات المشرفين عليها. والمناظرة إحدى الطرق المرشحة ضمنها، إلى جانب أساليب مثل نمذجة المكافآت التكرارية والتعميم من الضعيف إلى القوي.
نقاط الضعف المعروفة#
لدى الحكام تحيزاتهم الخاصة. فقد تتغلب نبرة الثقة وطول الإجابة وطلاقتها على صحتها، كما يميل الحكام من النماذج إلى التملّق للذكاء الاصطناعي. وعندما يكون المتناظران نسختين من النموذج نفسه، قد يتشاركان المفاهيم الخاطئة نفسها، فلا يثير أي منهما خطأً وتمر هلوسة دون اعتراض. كما أن المناظرة مكلفة، إذ يحتاج كل سؤال إلى عدة جولات من التوليد في سياق طويل، إضافةً إلى التحكيم.
أكثر الإخفاقات دراسةً هو الحجة المموّهة. إذ يستطيع متناظر مخادع بناء سلسلة استدلال طويلة تكون إحدى خطواتها خاطئة ويصعب اكتشافها. وقد يعلم المتناظر الصادق أن الاستنتاج خاطئ، من دون أن يتمكن من تحديد الخطوة المعيبة ضمن الجولات المسموح بها، فلا يكون لدى الحكم عندئذ أساس لاتخاذ قرار. وقد كشفت تجارب بشرية أجراها بيث بارنز وبول كريستيانو عام 2020 هذه المشكلة. وفي عام 2025، اقترح جوناه براون-كوهين وجيفري إيرفينغ وجورجيوس بيليوراس مناظرة المبرهن والمقدّر، حيث يقسم أحد نظامَي الذكاء الاصطناعي حجته إلى ادعاءات فرعية، ويحدد الآخر احتمالًا لكل منها، لجعل اللعب النزيه الاستراتيجية الرابحة حتى عندما يصعب العثور على الخلل.
