Constitutional AI

الذكاء الاصطناعي الدستوري هو أسلوب لتدريب أنظمة الذكاء الاصطناعي على التوافق مع القيم الإنسانية، وذلك بتزويدها بمجموعة من المبادئ العامة — أي «دستور» — بدلًا من الاعتماد حصرًا على ملاحظات بشرية مكثفة بشأن المخرجات الفردية. ويعلّم هذا النهج نموذج الذكاء الاصطناعي، في جوهره، انتقاد سلوكه ومراجعته ذاتيًا استنادًا إلى مجموعة محددة مسبقًا من القواعد، مثل «كن مفيدًا» و«كن غير ضار» و«تجنّب التمييز». ومن خلال تضمين هذه الإرشادات الأخلاقية مباشرةً في عملية التدريب، يستطيع المطورون إنشاء أنظمة أكثر أمانًا وشفافية وأسهل في التوسّع من الأنظمة المعتمدة على التعلّم بالتعزيز من الملاحظات البشرية (RLHF) اليدوية.

آلية الذكاء الاصطناعي الدستوري#

يكمن الابتكار الأساسي في الذكاء الاصطناعي الدستوري في عملية التدريب المؤلفة من مرحلتين، التي تعمل على أتمتة مواءمة النماذج. وعلى خلاف التعلّم الخاضع للإشراف التقليدي، حيث يتعين على البشر وسم كل استجابة صحيحة، يستخدم الذكاء الاصطناعي الدستوري النموذج نفسه لإنشاء بيانات التدريب.

1. مرحلة التعلّم الخاضع للإشراف: ينشئ النموذج استجابات للمطالبات، ثم ينتقد مخرجاته ذاتيًا استنادًا إلى المبادئ الدستورية. ويُراجع الاستجابة لتتوافق بصورة أفضل مع القواعد. ثم تُستخدم مجموعة البيانات المنقحة هذه لضبط النموذج، وتعليمه اتباع الإرشادات بطبيعته.

2. مرحلة التعلّم بالتعزيز: تحل هذه المرحلة، التي تُسمى غالبًا التعلّم بالتعزيز من ملاحظات الذكاء الاصطناعي (RLAIF)، محل المُصنِّف البشري. ينشئ الذكاء الاصطناعي أزواجًا من الاستجابات ويختار الاستجابة الأكثر التزامًا بالدستور. وتدرّب بيانات التفضيلات هذه نموذج مكافأة، يعزز بعد ذلك السلوكيات المرغوبة باستخدام تقنيات التعلّم بالتعزيز القياسية.

الصلة برؤية الحاسوب#

مع أن الذكاء الاصطناعي الدستوري نشأ في سياق النماذج اللغوية الكبيرة (LLM) التي طورتها مؤسسات مثل Anthropic، فإن مبادئه تزداد أهمية في مهام التعلّم الآلي الأوسع نطاقًا، بما في ذلك الرؤية الحاسوبية (CV).

• توليد الصور الأخلاقي: يمكن تدريب أدوات الذكاء الاصطناعي التوليدي المخصصة لإنشاء الصور تدريبًا «دستوريًا» لرفض المطالبات التي قد تؤدي إلى إنشاء صور عنيفة أو تحض على الكراهية أو تنتهك حقوق الطبع والنشر. ويضمن ذلك أن أوزان النموذج نفسها ترمّز قيود السلامة، مما يمنع إنشاء محتوى مرئي ضار.
• أنظمة الرؤية الحرجة للسلامة: في المركبات ذاتية القيادة، يمكن لنهج «دستوري» أن يحدد قواعد هرمية لاتخاذ القرارات. فعلى سبيل المثال، يمكن لقاعدة تنص على أن «سلامة الإنسان تتقدم على كفاءة حركة المرور» أن توجه النموذج عند تحليل مشاهد الطرق المعقدة، بما يضمن تفسير نتائج اكتشاف الأجسام مع إعطاء الأولوية للسلامة.

تطبيق عمليات التحقق من السياسات في الذكاء الاصطناعي للرؤية#

مع أن التدريب الكامل للذكاء الاصطناعي الدستوري يتضمن حلقات ملاحظات معقدة، يمكن للمطورين تطبيق مفهوم «عمليات التحقق الدستورية» أثناء الاستدلال لتصفية المخرجات استنادًا إلى سياسات السلامة. يوضح المثال التالي استخدام Ultralytics YOLO26 لاكتشاف الأجسام وتطبيق قاعدة سلامة لتصفية الاكتشافات منخفضة الثقة، بما يحاكي دستورًا للموثوقية.

from ultralytics import YOLO

# Load the YOLO26 model (latest stable Ultralytics release)
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")

# Apply a "constitutional" safety check: Only accept high-confidence detections
for result in results:
    # Filter boxes with confidence > 0.5 to ensure reliability
    safe_boxes = [box for box in result.boxes if box.conf > 0.5]

    print(f"Safety Check Passed: {len(safe_boxes)} reliable objects detected.")
    # Further processing would only use 'safe_boxes'

الذكاء الاصطناعي الدستوري في مقابل التعلّم بالتعزيز التقليدي من الملاحظات البشرية#

من المهم التمييز بين الذكاء الاصطناعي الدستوري والتعلّم بالتعزيز القياسي من الملاحظات البشرية (RLHF).

• قابلية التوسّع: يتطلب RLHF كميات هائلة من العمل البشري لتقييم مخرجات النموذج، وهو أمر مكلف وبطيء. ويؤتمت الذكاء الاصطناعي الدستوري هذه العملية باستخدام وكلاء الذكاء الاصطناعي، مما يجعله قابلًا للتوسّع بدرجة كبيرة.
• الشفافية: في RLHF، يتعلم النموذج من «إشارة مكافأة» معتمة، أي درجة، مما يجعل من الصعب معرفة سبب تفضيل سلوك ما. أما في الذكاء الاصطناعي الدستوري، فإن تحفيز سلسلة الأفكار المستخدم أثناء مرحلة النقد يجعل الاستدلال صريحًا وقابلًا للتتبع إلى مبادئ مكتوبة محددة.
• الاتساق: قد يكون المقيمون البشريون غير متسقين أو متحيزين. ويوفر الدستور المكتوب أساسًا ثابتًا لـأخلاقيات الذكاء الاصطناعي، مما يقلل الذاتية في عملية المواءمة.

مستقبل المواءمة#

مع تطور النماذج باتجاه الذكاء الاصطناعي العام (AGI)، تزداد أهمية استراتيجيات المواءمة المتينة مثل الذكاء الاصطناعي الدستوري. وتُعد هذه الأساليب ضرورية للامتثال للمعايير الناشئة الصادرة عن جهات مثل معهد NIST لسلامة الذكاء الاصطناعي.

توفر منصة Ultralytics أدوات لإدارة حوكمة البيانات ومراقبة النماذج، مما يسهّل إنشاء أنظمة ذكاء اصطناعي مسؤولة. ومن خلال دمج هذه الاعتبارات الأخلاقية في دورة حياة تطوير الذكاء الاصطناعي — بدءًا من جمع البيانات وصولًا إلى نشر النماذج — تستطيع المؤسسات الحد من المخاطر وضمان إسهام تقنياتها بصورة إيجابية في المجتمع.