يهدف الذكاء الاصطناعي الدستوري إلى مواءمة نماذج الذكاء الاصطناعي مع القيم الإنسانية

أصبح الذكاء الاصطناعي (AI) جزءًا أساسيًا من حياتنا اليومية بسرعة. فهو يُدمج في الأدوات المستخدمة في مجالات مثل الرعاية الصحية والتوظيف والتمويل والسلامة العامة. ومع انتشار هذه الأنظمة، تتزايد أيضًا المخاوف بشأن أخلاقياتها وموثوقيتها.

فعلى سبيل المثال، قد تنتج أنظمة الذكاء الاصطناعي التي تُبنى أحيانًا دون مراعاة الإنصاف أو السلامة نتائج متحيزة أو غير موثوقة. ويرجع ذلك إلى أن كثيرًا من النماذج لا تزال تفتقر إلى طريقة واضحة للتعبير عن القيم الإنسانية والاتساق معها.

لمعالجة هذه التحديات، يستكشف الباحثون الآن نهجًا يُعرف باسم الذكاء الاصطناعي الدستوري. وببساطة، يُدخل هذا النهج مجموعة مكتوبة من المبادئ في عملية تدريب النموذج. وتساعد هذه المبادئ النموذج على تقييم سلوكه، والاعتماد بدرجة أقل على الملاحظات البشرية، وتقديم استجابات أكثر أمانًا وأسهل فهمًا.

حتى الآن، استُخدم هذا النهج في الغالب مع النماذج اللغوية الكبيرة (LLMs). لكن البنية نفسها قد تساعد في توجيه أنظمة الرؤية الحاسوبية لاتخاذ قرارات أخلاقية أثناء تحليل البيانات المرئية.

سنستكشف في هذا المقال آلية عمل الذكاء الاصطناعي الدستوري، ونستعرض أمثلة واقعية، ونناقش تطبيقاته المحتملة في أنظمة الرؤية الحاسوبية.

الشكل 1. خصائص الذكاء الاصطناعي الدستوري. الصورة من إعداد المؤلف.

ما الذكاء الاصطناعي الدستوري؟#

الذكاء الاصطناعي الدستوري أسلوب لتدريب النماذج يوجّه سلوكها من خلال تزويدها بمجموعة واضحة من القواعد الأخلاقية. وتعمل هذه القواعد بمثابة مدونة للسلوك. وبدلًا من الاعتماد على النموذج لاستنتاج المقبول، يتبع النموذج مجموعة مكتوبة من المبادئ التي تشكل استجاباته أثناء التدريب.

قدمت Anthropic، وهي شركة أبحاث تركز على سلامة الذكاء الاصطناعي وطورت عائلة نماذج Claude اللغوية الكبيرة، هذا المفهوم بوصفه أسلوبًا لجعل أنظمة الذكاء الاصطناعي أكثر اعتمادًا على الإشراف الذاتي في اتخاذ قراراتها.

بدلًا من الاعتماد حصرًا على الملاحظات البشرية، يتعلم النموذج نقد استجاباته وتنقيحها استنادًا إلى مجموعة محددة مسبقًا من المبادئ. ويشبه هذا النهج النظام القانوني، حيث يرجع القاضي إلى الدستور قبل إصدار الحكم.

في هذه الحالة، يصبح النموذج في آنٍ واحد قاضيًا ومتعلّمًا، مستخدمًا مجموعة القواعد نفسها لمراجعة سلوكه وتنقيحه. وتعزز هذه العملية مواءمة نماذج الذكاء الاصطناعي، وتدعم تطوير أنظمة ذكاء اصطناعي آمنة ومسؤولة.

كيف يعمل الذكاء الاصطناعي الدستوري؟#

يتمثل هدف الذكاء الاصطناعي الدستوري في تعليم نموذج الذكاء الاصطناعي كيفية اتخاذ قرارات آمنة ومنصفة باتباع مجموعة واضحة من القواعد المكتوبة. إليك شرحًا مبسطًا لكيفية عمل هذه العملية:

• صياغة الدستور: تُنشأ قائمة مكتوبة بالمبادئ الأخلاقية التي ينبغي للنموذج اتباعها. ويوضح الدستور ما ينبغي للذكاء الاصطناعي تجنبه والقيم التي ينبغي أن يعكسها.
• التدريب باستخدام أمثلة خاضعة للإشراف: يُعرض على النموذج أمثلة لاستجابات تتبع الدستور. وتساعد هذه الأمثلة الذكاء الاصطناعي على فهم شكل السلوك المقبول.
• التعرّف على الأنماط وتطبيقها: بمرور الوقت، يبدأ النموذج في استيعاب هذه الأنماط. ويتعلم تطبيق القيم نفسها عند الإجابة عن أسئلة جديدة أو التعامل مع مواقف جديدة.
• نقد المخرجات وتنقيحها: يراجع النموذج استجاباته ويعدّلها استنادًا إلى الدستور. وتساعده مرحلة المراجعة الذاتية هذه على التحسن دون الاعتماد على الملاحظات البشرية وحدها.
• إنتاج استجابات متسقة وأكثر أمانًا: يتعلم النموذج من القواعد المتسقة، مما يساعد على الحد من التحيز وتحسين الموثوقية في الاستخدام الواقعي. ويجعل هذا النهج النموذج أكثر اتساقًا مع القيم الإنسانية وأسهل في الحوكمة.

الشكل 2. نظرة عامة على استخدام الذكاء الاصطناعي الدستوري لتدريب النماذج.

المبادئ الأساسية لتصميم ذكاء اصطناعي أخلاقي#

لكي يتبع نموذج الذكاء الاصطناعي قواعد أخلاقية، يجب أولًا تحديد هذه القواعد بوضوح. وفي الذكاء الاصطناعي الدستوري، تستند هذه القواعد إلى مجموعة من المبادئ الأساسية.

على سبيل المثال، إليك أربعة مبادئ تشكل أساسًا متينًا لدستور فعال للذكاء الاصطناعي:

• الشفافية: ينبغي أن يكون فهم كيفية توصل النموذج إلى إجابة أمرًا سهلًا. فإذا استندت الاستجابة إلى حقائق أو تقديرات أو أنماط، فسيكون ذلك واضحًا للمستخدم. وهذا يبني الثقة ويساعد الأشخاص على الحكم على مدى إمكان الاعتماد على مخرجات النموذج.
• المساواة: ينبغي أن تظل الاستجابات متسقة بين المستخدمين المختلفين. ويجب ألا يغيّر النموذج مخرجاته بناءً على اسم الشخص أو خلفيته أو موقعه. وتساعد المساواة على منع التحيز وتعزز المساواة في المعاملة.
• المساءلة: ينبغي وجود طريقة لتتبّع كيفية تدريب النموذج والعوامل التي أثرت في سلوكه. وعند حدوث خلل، ينبغي للفرق أن تتمكن من تحديد السبب ومعالجته. وهذا يدعم الشفافية والمساءلة على المدى الطويل.
• السلامة: ينبغي للنماذج تجنب إنتاج محتوى قد يسبب الضرر. فإذا أدى طلب ما إلى مخرجات تنطوي على مخاطر أو تفتقر إلى السلامة، فعلى النظام إدراك ذلك والتوقف. وهذا يحمي المستخدم وسلامة النظام على حد سواء.

أمثلة على الذكاء الاصطناعي الدستوري في النماذج اللغوية الكبيرة#

انتقل الذكاء الاصطناعي الدستوري من النظرية إلى التطبيق، وبدأ استخدامه تدريجيًا في نماذج كبيرة تتفاعل مع ملايين المستخدمين. ومن أكثر الأمثلة شيوعًا نماذج LLM من OpenAI وAnthropic.

على الرغم من اتباع المؤسستين نهجين مختلفين لإنشاء أنظمة ذكاء اصطناعي أكثر أخلاقية، فإنهما تشتركان في فكرة أساسية: تعليم النموذج اتباع مجموعة مكتوبة من المبادئ التوجيهية. دعونا نلقِ نظرة أقرب على هذه الأمثلة.

نهج OpenAI في الذكاء الاصطناعي الدستوري#

قدّمت OpenAI وثيقة تُسمى Model Spec ضمن عملية تدريب نماذج ChatGPT. وتعمل هذه الوثيقة بمثابة دستور، إذ تحدد الأهداف التي ينبغي للنموذج تحقيقها في استجاباته، بما في ذلك قيم مثل الإفادة والصدق والسلامة. كما تحدد ما يُعد مخرجات ضارة أو مضللة.

استُخدم هذا الإطار لضبط نماذج OpenAI بدقة، من خلال تقييم الاستجابات وفق مدى توافقها مع القواعد. وبمرور الوقت، ساعد ذلك على تشكيل ChatGPT ليصدر مخرجات ضارة أقل ويتوافق بدرجة أكبر مع ما يريده المستخدمون فعلًا.

الشكل 3. مثال على استخدام ChatGPT لـ Model Spec من OpenAI للرد.

نماذج Anthropic للذكاء الاصطناعي الأخلاقي#

استند الدستور الأصلي لـ Claude، الذي استبدلته Anthropic بنسخة جديدة في يناير 2026، إلى مبادئ أخلاقية من مصادر مثل الإعلان العالمي لحقوق الإنسان، وإرشادات المنصات مثل شروط الخدمة لدى Apple، وأبحاث مختبرات ذكاء اصطناعي أخرى. وقد ساعدت هذه المبادئ على ضمان أن تكون ردود Claude آمنة ومنصفة ومتوافقة مع القيم الإنسانية المهمة.

يستخدم Claude أيضًا التعلّم المعزّز من ملاحظات الذكاء الاصطناعي (RLAIF)، حيث يراجع استجاباته ويعدّلها استنادًا إلى هذه الإرشادات الأخلاقية، بدلًا من الاعتماد على الملاحظات البشرية. وتتيح هذه العملية لـ Claude التحسن بمرور الوقت، ليصبح أكثر قابلية للتوسع وأفضل في تقديم إجابات مفيدة وأخلاقية وغير ضارة، حتى في المواقف الصعبة.

الشكل 4. فهم نهج Anthropic في الذكاء الاصطناعي الدستوري.

تطبيق الذكاء الاصطناعي الدستوري على الرؤية الحاسوبية#

نظرًا إلى التأثير الإيجابي للذكاء الاصطناعي الدستوري في سلوك النماذج اللغوية، يبرز سؤال طبيعي: هل يمكن لنهج مماثل أن يساعد الأنظمة القائمة على الرؤية على الاستجابة بإنصاف وأمان أكبر؟

على الرغم من أن نماذج الرؤية الحاسوبية تتعامل مع الصور بدلًا من النصوص، فإن الحاجة إلى التوجيه الأخلاقي لا تقل أهمية. فالإنصاف والتحيز، على سبيل المثال، عاملان أساسيان يجب مراعاتهما، إذ ينبغي تدريب هذه الأنظمة على معاملة الجميع على قدم المساواة وتجنب النتائج الضارة أو غير المنصفة عند تحليل البيانات المرئية.

الشكل 5. تحديات أخلاقية مرتبطة بالرؤية الحاسوبية. الصورة من إعداد المؤلف.

لا يزال استخدام أساليب الذكاء الاصطناعي الدستوري في الرؤية الحاسوبية في مراحله الأولى حاليًا، ولا تزال الأبحاث جارية في هذا المجال.

فعلى سبيل المثال، قدّمت Meta مؤخرًا CLUE، وهو إطار يطبق استدلالًا شبيهًا بالاستدلال الدستوري على مهام سلامة الصور. ويحوّل قواعد السلامة العامة إلى خطوات دقيقة يمكن للذكاء الاصطناعي متعدد الوسائط (أنظمة الذكاء الاصطناعي التي تعالج أنواعًا متعددة من البيانات وتفهمها) اتباعها. ويساعد ذلك النظام على الاستدلال بوضوح أكبر والحد من النتائج الضارة.

كما تجعل CLUE أحكام سلامة الصور أكثر كفاءة من خلال تبسيط القواعد المعقدة، مما يسمح لنماذج الذكاء الاصطناعي بالتصرف بسرعة ودقة دون الحاجة إلى مدخلات بشرية موسعة. وباستخدام مجموعة من المبادئ التوجيهية، تجعل CLUE أنظمة الإشراف على الصور أكثر قابلية للتوسع، مع ضمان نتائج عالية الجودة.

أبرز النقاط#

مع تحمّل أنظمة الذكاء الاصطناعي مسؤوليات أكبر، يتحول التركيز من مجرد ما يمكنها فعله إلى ما ينبغي لها فعله. ويُعد هذا التحول أساسيًا، لأن هذه الأنظمة تُستخدم في مجالات تؤثر مباشرةً في حياة الناس، مثل الرعاية الصحية وإنفاذ القانون والتعليم.

لضمان تصرف أنظمة الذكاء الاصطناعي على نحو ملائم وأخلاقي، فهي تحتاج إلى أساس متين ومتسق. وينبغي أن يعطي هذا الأساس الأولوية للإنصاف والسلامة والثقة.

يمكن لدستور مكتوب أن يوفر هذا الأساس أثناء التدريب، وأن يوجّه عملية اتخاذ النظام للقرارات. كما يمكن أن يمنح المطورين إطارًا لمراجعة سلوك النظام وتعديله بعد نشره، لضمان استمراره في الالتزام بالقيم التي صُمم لدعمها، وتسهيل تكيّفه مع التحديات الجديدة.

انضم إلى مجتمعنا المتنامي اليوم! تعمّق في الذكاء الاصطناعي باستكشاف مستودع GitHub الخاص بنا. هل ترغب في إنشاء مشاريعك الخاصة في الرؤية الحاسوبية؟ تعرّف على خيارات الترخيص المتاحة. تعرّف على كيفية تحسين الرؤية الحاسوبية في الرعاية الصحية للكفاءة، واستكشف أثر الذكاء الاصطناعي في التصنيع بزيارة صفحات حلولنا!