Constitutional AI

الذكاء الاصطناعي الدستوري (Constitutional AI) هو طريقة لتدريب أنظمة الذكاء الاصطناعي لتتوافق مع القيم البشرية من خلال تزويدها بمجموعة من المبادئ عالية المستوى - "دستور" - بدلاً من الاعتماد فقط على التعليقات البشرية المكثفة على المخرجات الفردية. يعلم هذا النهج نموذج الذكاء الاصطناعي أساساً كيفية نقد ومراجعة سلوكه الخاص استناداً إلى مجموعة مسبقة الصنع من القواعد، مثل "كن مفيداً"، و"كن آمنًا"، و"تجنب التمييز". من خلال دمج هذه الإرشادات الأخلاقية مباشرة في عملية التدريب، يمكن للمطورين إنشاء أنظمة تكون أكثر أماناً، وأكثر شفافية، وأسهل في التوسع مقارنة بتلك التي تعتمد على التعلم التعزيزي من التعليقات البشرية (RLHF) اليدوي.

آلية الذكاء الاصطناعي الدستوري#

يكمن الابتكار الأساسي للذكاء الاصطناعي الدستوري في عملية التدريب ذات المرحلتين، والتي تؤتمت عملية محاذاة النماذج. على عكس التعلم الخاضع للإشراف التقليدي، حيث يجب على البشر تصنيف كل استجابة صحيحة، يستخدم الذكاء الاصطناعي الدستوري النموذج نفسه لتوليد بيانات التدريب.

1. مرحلة التعلم الخاضع للإشراف: يولد النموذج استجابات للمطالبات، ثم ينتقد مخرجاته الخاصة بناءً على المبادئ الدستورية. ويقوم بمراجعة الاستجابة لتتوافق بشكل أفضل مع القواعد. تُستخدم مجموعة البيانات المنقحة هذه بعد ذلك لضبط النموذج، مما يعلمه اتباع المبادئ التوجيهية بشكل جوهري.

2. مرحلة التعلم التعزيزي: هذه المرحلة، التي غالباً ما تسمى التعلم التعزيزي من تعليقات الذكاء الاصطناعي (RLAIF)، تحل محل المُصنِّف البشري. يولد الذكاء الاصطناعي أزواجاً من الاستجابات ويختار تلك التي تلتزم بالدستور بشكل أفضل. تدرب بيانات التفصيل هذه نموذج مكافأة، والذي يقوم بدوره بتعزيز السلوكيات المرغوبة عبر تقنيات التعلم التعزيزي القياسية.

العلاقة برؤية الحاسوب#

بينما نشأ الذكاء الاصطناعي الدستوري في سياق نماذج اللغات الكبيرة (LLM) التي طورتها منظمات مثل Anthropic، فإن مبادئه تصبح ذات صلة متزايدة لمهام التعلم الآلي الأوسع، بما في ذلك رؤية الكمبيوتر (CV).

• توليد الصور الأخلاقي: يمكن تدريب أدوات الذكاء الاصطناعي التوليدي لإنشاء الصور "دستورياً" لرفض المطالبات التي قد تولد صوراً عنيفة أو تحريضية على الكراهية أو محمية بحقوق الطبع والنشر. يضمن ذلك أن أوزان النموذج نفسها تفرض قيود السلامة، مما يمنع إنشاء محتوى مرئي ضار.
• أنظمة الرؤية الحرجة للسلامة: في المركبات ذاتية القيادة، يمكن لنهج "دُستوري" تحديد قواعد هرمية لاتخاذ القرار. على سبيل المثال، يمكن لقاعدة تنص على "سلامة الإنسان تتفوق على كفاءة المرور" توجيه النموذج عند تحليل مشاهد الطرق المعقدة، مما يضمن تفسير نتائج اكتشاف الكائنات مع وضع السلامة كأولوية.

تنفيذ فحص السياسات في ذكاء الرؤية الاصطناعي#

بينما يتضمن التدريب الكامل على الذكاء الاصطناعي الدستوري حلقات تغذية راجعة معقدة، يمكن للمطورين تطبيق مفهوم "الفحوصات الدستورية" أثناء inference لتصفية المخرجات بناءً على سياسات الأمان. يوضح المثال التالي استخدام Ultralytics YOLO26 لاكتشاف الكائنات وتطبيق قاعدة أمان لتصفية اكتشافات الثقة المنخفضة، محاكياً دستور موثوقية.

from ultralytics import YOLO

# Load the YOLO26 model (latest stable Ultralytics release)
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")

# Apply a "constitutional" safety check: Only accept high-confidence detections
for result in results:
    # Filter boxes with confidence > 0.5 to ensure reliability
    safe_boxes = [box for box in result.boxes if box.conf > 0.5]

    print(f"Safety Check Passed: {len(safe_boxes)} reliable objects detected.")
    # Further processing would only use 'safe_boxes'

الذكاء الاصطناعي الدستوري مقابل التعلم التعزيزي من التغذية الراجعة البشرية (RLHF) التقليدي#

من المهم التمييز بين الذكاء الاصطناعي الدستوري والتعلم التعزيزي من التعليقات البشرية (RLHF) القياسي.

• قابلية التوسع: يتطلب RLHF كميات هائلة من العمالة البشرية لتقييم مخرجات النموذج، وهي عملية مكلفة وبطيئة. يؤتمت الذكاء الاصطناعي الدستوري هذه العملية باستخدام عملاء الذكاء الاصطناعي، مما يجعله قابلاً للتوسع بدرجة كبيرة.
• الشفافية: في RLHF، يتعلم النموذج من "إشارة مكافأة" مبهمة (درجة)، مما يجعل من الصعب معرفة سبب تفضيل سلوك معين. في الذكاء الاصطناعي الدستوري، يجعل مطالبة سلسلة التفكير المستخدمة أثناء مرحلة النقد السبب صريحاً وقابلاً للتتبع إلى مبادئ مكتوبة محددة.
• الاتساق: قد يكون المُقيّمون البشريون غير متسقين أو متحيزين. يوفر الدستور المكتوب أساساً مستقراً لـأخلاقيات الذكاء الاصطناعي، مما يقلل من الذاتية في عملية المحاذاة.

مستقبل المواءمة#

مع تطور النماذج نحو الذكاء الاصطناعي العام (AGI)، تتزايد أهمية استراتيجيات المحاذاة القوية مثل الذكاء الاصطناعي الدستوري. هذه الطرق ضرورية للامتثال للمعايير الناشئة الصادرة عن جهات مثل معهد أمان الذكاء الاصطناعي التابع للمعهد الوطني للمعايير والتقنية (NIST).

تقدم منصة Ultralytics أدوات لإدارة حوكمة البيانات ومراقبة النموذج، مما يسهل إنشاء أنظمة ذكاء اصطناعي مسؤولة. من خلال دمج هذه الاعتبارات الأخلاقية في دورة حياة تطوير الذكاء الاصطناعي - من جمع البيانات إلى نشر النموذج - يمكن للمؤسسات تخفيف المخاطر وضمان مساهمة تقنياتها بشكل إيجابي في المجتمع.