Constitutional AI

الذكاء الاصطناعي الدستوري (CAI) أسلوب طورته Anthropic لتدريب نموذج لغوي على تجنب الضرر، عبر تزويده بمجموعة مكتوبة من المبادئ تُسمى الدستور، بدلًا من التسميات البشرية التي تصنّف مخرجات فردية على أنها ضارة. وقد قُدّم في ورقة ديسمبر 2022 الذكاء الاصطناعي الدستوري: السلامة من ملاحظات الذكاء الاصطناعي، ويجعل النموذج ينتقد استجاباته وينقحها وفق تلك المبادئ، ثم يستخدم أحكام الذكاء الاصطناعي بشأن الاستجابة الأكثر التزامًا بها بوصفها بيانات تفضيل لـالتعلّم المعزز. ومع ذلك، استخدمت الورقة التسميات البشرية لتقييم مدى الإفادة، واستبدلتها في تقييم تجنب الضرر فقط. وتدرّب Anthropic نماذج Claude باستخدام أساليب قائمة على الدستور منذ عام 2023.

آلية عمل الذكاء الاصطناعي الدستوري#

يبدأ التدريب بنموذج سبق ضبطه بدقة ليكون مفيدًا، ويمر بمرحلتين:

1. المرحلة الخاضعة للإشراف: يجيب النموذج عن مطالبات اختبار أمان صُممت لاستثارة إجابات ضارة. ثم يُطلب منه نقد إجابته بالاستناد إلى مبدأ يُختار عشوائيًا من الدستور، وإعادة صياغة الإجابة لمعالجة النقد، في جولة واحدة أو أكثر. ويُضبط النموذج بدقة باستخدام الصياغات النهائية.
2. مرحلة التعلّم بالتعزيز: ينشئ النموذج المضبوط بدقة أزواجًا من الإجابات، ويُقيّم نموذج تغذية راجعة، طُلب منه الاستناد إلى مبدأ، أي الإجابتين أفضل، مع إمكانية الاستدلال خطوة بخطوة أولًا. ثم يوفر نموذج تفضيل مدرّب على هذه التصنيفات الصادرة عن الذكاء الاصطناعي، والممزوجة بتصنيفات بشرية للإفادة، المكافأة اللازمة للتعلّم بالتعزيز. وأطلقت الورقة على هذه المرحلة اسم التعلّم بالتعزيز من التغذية الراجعة للذكاء الاصطناعي (RLAIF).

كانت النماذج الناتجة أقل إضرارًا من النماذج المدرّبة على تصنيفات بشرية لتجنب الضرر، عند مستوى مماثل من الإفادة، كما كانت أقل مراوغة: فبدلًا من رفض الطلبات الحساسة رفضًا قاطعًا، تعاملت معها وشرحت اعتراضاتها.

محتوى الدستور#

استخدمت ورقة 2022 ستة عشر مبدأً موجزًا للنقد، وستة عشر مبدأً آخر للملاحظات الصادرة عن الذكاء الاصطناعي، وصيغ كل منها كتعليمة، مثل: «أيٌّ من ردود المساعد هذه أقل ضررًا؟ اختر الرد الذي يُرجح أن يقوله شخص حكيم وأخلاقي ومهذب وودود». استند أول ميثاق منشور لـClaude في مايو 2023 إلى مصادر منها الإعلان العالمي لحقوق الإنسان الصادر عن الأمم المتحدة. وفي أكتوبر 2023، أجرت Anthropic ومشروع Collective Intelligence تجربة لإشراك الجمهور، اقترح فيها نحو 1,000 أمريكي مبادئ وصوّتوا عليها عبر منصة Polis للمداولات؛ وأظهر نموذج مدرّب على هذا الميثاق العام أداءً مماثلًا لنموذج Anthropic، مع قدر أقل من التحيز عبر تسعة أبعاد اجتماعية.

في يناير 2026، استبدلت Anthropic قائمة القواعد بـدستور Claude أطول بكثير، يشرح المنطق وراء السلوك المطلوب. ويرتب الدستور أربع أولويات: أن يكون آمنًا على نطاق واسع، وأخلاقيًا على نطاق واسع، ومتوافقًا مع إرشادات Anthropic، ومفيدًا بحق؛ كما يُبقي عددًا قليلًا من القيود الصارمة، ويصدر بموجب إهداء CC0 إلى الملكية العامة. ويستخدم Claude نفسه الوثيقة لإنشاء بيانات تدريب اصطناعية، بما فيها محادثات يُطبّق فيها الدستور وترتيبات للاستجابات المرشحة. ويمكن لـالتسمية الذكية في منصة Ultralytics تشغيل نماذج Claude للرؤية من Anthropic، المدرّبة بهذه الأساليب القائمة على الدستور، لإنشاء مسودات صناديق لفئات مجموعة بيانات الكشف، ثم يراجعها المعلّقون ويحفظونها.

الذكاء الاصطناعي الدستوري وRLHF والأساليب ذات الصلة#

• التعلّم بالتعزيز من التغذية الراجعة البشرية (RLHF): يقارن المقيّمون البشريون الإجابات لتدريب نموذج المكافأة. ويحتفظ CAI بسير العمل نفسه، لكنه يستبدل المقارنات البشرية المتعلقة بتجنب الضرر بمقارنات يجريها الذكاء الاصطناعي مسترشدًا بالمبادئ؛ وهذا يعفي المقيّمين من قراءة كميات كبيرة من النصوص الضارة، ويجعل هدف التدريب واضحًا وقابلًا للتحرير. لكن حكم الذكاء الاصطناعي ينطوي على نقاط قصور خاصة به، لذا تؤثر صياغة المبادئ في النتيجة.
• RLAIF عمومًا: أي تعلّم بالتعزيز يستند إلى تصنيفات تفضيل أنشأها الذكاء الاصطناعي. وCAI هو الشكل الموجّه بالدستور، وقد وجدت دراسة من Google عام 2023 أن أداء RLAIF كان مماثلًا لأداء RLHF في التلخيص والحوار.
• تحسين التفضيل المباشر (DPO): طريقة للتعلّم من أزواج التفضيل دون نموذج مكافأة منفصل. ويمكن تدريبها على تصنيفات الذكاء الاصطناعي الموجّهة بالدستور، فضلًا عن التصنيفات البشرية.
• ضوابط أمان الذكاء الاصطناعي: مرشحات تُطبّق حول النموذج وقت الاستدلال. وتجمع مصنفات Anthropic الدستورية بين الفكرتين: إذ يحدد الدستور المحتوى المسموح به والمحظور، وينشئ Claude أمثلة اصطناعية منه، ثم تحظر مصنفات الإدخال والإخراج المدرّبة محاولات كسر قيود النموذج. وفي فبراير 2025، خفضت المصنفات معدل نجاح كسر القيود في الاختبارات الآلية من 86% إلى 4.4%، كما خفض إصدار يناير 2026 تكلفة الحوسبة بنحو 40 ضعفًا مقارنةً بالمصنف الأساسي، مع رفض 0.05% من حركة الإنتاج.