يهدف الذكاء الاصطناعي الدستوري إلى مواءمة نماذج الذكاء الاصطناعي مع القيم الإنسانية

أصبح الذكاء الاصطناعي (AI) جزءاً رئيسياً من حياتنا اليومية بسرعة كبيرة. ويجري دمجه في الأدوات المستخدمة في مجالات مثل الرعاية الصحية، والتوظيف، والتمويل، والسلامة العامة. ومع توسع هذه الأنظمة، تزايدت المخاوف بشأن أخلاقياتها وموثوقيتها.

على سبيل المثال، أحياناً يمكن لأنظمة الذكاء الاصطناعي التي يتم بناؤها دون مراعاة الإنصاف أو السلامة أن تنتج نتائج متحيزة أو غير موثوقة. ويرجع ذلك إلى أن العديد من النماذج لا تزال تفتقر إلى طريقة واضحة لعكس القيم البشرية ومواءمتها.

ولمعالجة هذه التحديات، يستكشف الباحثون الآن نهجاً يُعرف باسم الذكاء الاصطناعي الدستوري. وببساطة، فإنه يقدم مجموعة مكتوبة من المبادئ في عملية تدريب النموذج. تساعد هذه المبادئ النموذج على تقييم سلوكه الخاص، والاعتماد بشكل أقل على التعليقات البشرية، وجعل الاستجابات أكثر أماناً وأسهل للفهم.

حتى الآن، استُخدم هذا النهج في الغالب فيما يتعلق بـ نماذج اللغات الكبيرة (LLMs). ومع ذلك، يمكن للبنية نفسها أن تساعد في توجيه أنظمة الرؤية الحاسوبية لاتخاذ قرارات أخلاقية أثناء تحليل البيانات المرئية.

في هذه المقالة، سنستكشف كيفية عمل الذكاء الاصطناعي الدستوري، ونلقي نظرة على أمثلة من واقع الحياة، ونناقش تطبيقاته المحتملة في أنظمة الرؤية الحاسوبية.

الشكل 1. خصائص الذكاء الاصطناعي الدستوري. الصورة بواسطة المؤلف.

Link to this sectionما هو الذكاء الاصطناعي الدستوري؟#

الذكاء الاصطناعي الدستوري هو أسلوب تدريب النماذج يوجه كيفية تصرف نماذج الذكاء الاصطناعي من خلال توفير مجموعة واضحة من القواعد الأخلاقية. تعمل هذه القواعد كمدونة سلوك. بدلاً من الاعتماد على النموذج لاستنتاج ما هو مقبول، فإنه يتبع مجموعة مكتوبة من المبادئ التي تشكل استجاباته أثناء التدريب.

تم تقديم هذا المفهوم من قبل Anthropic، وهي شركة أبحاث تركز على سلامة الذكاء الاصطناعي والتي طورت عائلة Claude LLM كطريقة لجعل أنظمة الذكاء الاصطناعي أكثر خضوعاً للإشراف الذاتي في اتخاذ قراراتها.

بدلاً من الاعتماد فقط على التعليقات البشرية، يتعلم النموذج نقد وتحسين استجاباته الخاصة بناءً على مجموعة محددة مسبقاً من المبادئ. هذا النهج مشابه للنظام القانوني، حيث يرجع القاضي إلى دستور قبل إصدار حكم.

في هذه الحالة، يصبح النموذج هو القاضي والطالب في آن واحد، ويستخدم مجموعة القواعد نفسها لمراجعة سلوكه وتحسينه. تعزز هذه العملية مواءمة نموذج الذكاء الاصطناعي وتدعم تطوير أنظمة ذكاء اصطناعي آمنة ومسؤولة.

Link to this sectionكيف يعمل الذكاء الاصطناعي الدستوري؟#

الهدف من الذكاء الاصطناعي الدستوري هو تعليم نموذج الذكاء الاصطناعي كيفية اتخاذ قرارات آمنة وعادلة باتباع مجموعة واضحة من القواعد المكتوبة. فيما يلي تحليل بسيط لكيفية عمل هذه العملية:

• تحديد الدستور: يتم إنشاء قائمة مكتوبة من المبادئ الأخلاقية التي يجب على النموذج اتباعها. يوضح الدستور ما يجب على الذكاء الاصطناعي تجنبه والقيم التي يجب أن يعكسها.
• التدريب باستخدام أمثلة خاضعة للإشراف: يتم عرض أمثلة على استجابات تتبع الدستور على النموذج. تساعد هذه الأمثلة الذكاء الاصطناعي على فهم كيف يبدو السلوك المقبول.
• التعرف على الأنماط وتطبيقها: بمرور الوقت، يبدأ النموذج في التقاط هذه الأنماط. ويتعلم تطبيق القيم نفسها عند الإجابة على أسئلة جديدة أو التعامل مع مواقف جديدة.
• نقد المخرجات وتحسينها: يقوم النموذج بمراجعة استجاباته الخاصة وتعديلها بناءً على الدستور. تساعد مرحلة المراجعة الذاتية هذه في تحسينه دون الاعتماد فقط على التعليقات البشرية.
• إنتاج استجابات متوافقة وأكثر أماناً: يتعلم النموذج من قواعد متسقة، مما يساعد في تقليل التحيز وتحسين الموثوقية في الاستخدام الواقعي. يجعل هذا النهج النموذج أكثر مواءمة مع القيم البشرية وأسهل في الإدارة.

الشكل 2. نظرة عامة على استخدام الذكاء الاصطناعي الدستوري لتدريب النماذج.

Link to this sectionالمبادئ الأساسية لتصميم الذكاء الاصطناعي الأخلاقي#

لكي يتبع نموذج الذكاء الاصطناعي قواعد أخلاقية، يجب تحديد تلك القواعد بوضوح أولاً. عندما يتعلق الأمر بالذكاء الاصطناعي الدستوري، تستند هذه القواعد إلى مجموعة من المبادئ الأساسية.

على سبيل المثال، إليك أربعة مبادئ تشكل أساس دستور فعال للذكاء الاصطناعي:

• الشفافية: يجب أن يكون من السهل فهم كيفية وصول النموذج إلى إجابة. إذا كانت الاستجابة مبنية على حقائق، أو تقديرات، أو أنماط، فستكون شفافة للمستخدم. هذا يبني الثقة ويساعد الأشخاص على الحكم فيما إذا كان بإمكانهم الاعتماد على مخرجات النموذج.
• المساواة: يجب أن تظل الاستجابات متسقة عبر مختلف المستخدمين. يجب ألا يغير النموذج مخرجاته بناءً على اسم الشخص، أو خلفيته، أو موقعه. تساعد المساواة في منع التحيز وتعزيز المعاملة المتساوية.
• المساءلة: يجب أن تكون هناك طريقة لتتبع كيفية تدريب النموذج وما الذي أثر على سلوكه. عندما يحدث خطأ ما، يجب أن تكون الفرق قادرة على تحديد السبب وتحسينه. هذا يدعم الشفافية والمساءلة طويلة الأمد.
• السلامة: تحتاج النماذج إلى تجنب إنتاج محتوى يمكن أن يسبب ضرراً. إذا أدى طلب ما إلى مخرجات محفوفة بالمخاطر أو غير آمنة، فيجب على النظام التعرف على ذلك والتوقف. هذا يحمي المستخدم وسلامة النظام.

Link to this sectionأمثلة على الذكاء الاصطناعي الدستوري في نماذج اللغات الكبيرة#

انتقل الذكاء الاصطناعي الدستوري من النظرية إلى الممارسة ويتم استخدامه الآن ببطء في النماذج الكبيرة التي تتفاعل مع ملايين المستخدمين. اثنان من أكثر الأمثلة شيوعاً هما نماذج اللغات الكبيرة من OpenAI و Anthropic.

بينما اتخذت كلتا المنظمتين مناهج مختلفة لإنشاء أنظمة ذكاء اصطناعي أكثر أخلاقية، إلا أنهما تتشاركان فكرة مشتركة: تعليم النموذج اتباع مجموعة من المبادئ التوجيهية المكتوبة. دعونا نلقي نظرة فاحصة على هذه الأمثلة.

Link to this sectionنهج الذكاء الاصطناعي الدستوري من OpenAI#

قدمت OpenAI وثيقة تسمى Model Spec كجزء من عملية التدريب لنماذج ChatGPT الخاصة بها. تعمل هذه الوثيقة مثل الدستور. فهي تحدد ما يجب أن يهدف إليه النموذج في استجاباته، بما في ذلك قيم مثل المساعدة، والصدق، والسلامة. كما أنها تحدد ما يعتبر مخرجات ضارة أو مضللة.

تم استخدام هذا الإطار لضبط نماذج OpenAI من خلال تقييم الاستجابات وفقاً لمدى مطابقتها للقواعد. بمرور الوقت، ساعد هذا في تشكيل ChatGPT بحيث ينتج عدداً أقل من المخرجات الضارة ويتوافق بشكل أفضل مع ما يريده المستخدمون بالفعل.

الشكل 3. مثال على استخدام ChatGPT لـ Model Spec من OpenAI للاستجابة.

Link to this sectionنماذج الذكاء الاصطناعي الأخلاقية من Anthropic#

الدستور الذي يتبعه نموذج Anthropic، Claude، يستند إلى مبادئ أخلاقية من مصادر مثل الإعلان العالمي لحقوق الإنسان، وإرشادات المنصات مثل شروط خدمة Apple، وأبحاث من مختبرات ذكاء اصطناعي أخرى. تساعد هذه المبادئ في ضمان أن تكون استجابات Claude آمنة، وعادلة، ومتوافقة مع القيم البشرية المهمة.

يستخدم Claude أيضاً التعلم التعزيزي من تعليقات الذكاء الاصطناعي (RLAIF)، حيث يقوم بمراجعة وتعديل استجاباته الخاصة بناءً على هذه المبادئ الأخلاقية، بدلاً من الاعتماد على التعليقات البشرية. تمكّن هذه العملية Claude من التحسن بمرور الوقت، مما يجعله أكثر قابلية للتوسع وأفضل في تقديم إجابات مفيدة وأخلاقية وغير ضارة، حتى في المواقف الصعبة.

الشكل 4. فهم نهج Anthropic تجاه الذكاء الاصطناعي الدستوري.

Link to this sectionتطبيق الذكاء الاصطناعي الدستوري على الرؤية الحاسوبية#

نظراً لأن الذكاء الاصطناعي الدستوري يؤثر بشكل إيجابي على كيفية تصرف نماذج اللغات، فإنه يؤدي بشكل طبيعي إلى السؤال: هل يمكن لنهج مماثل أن يساعد الأنظمة القائمة على الرؤية على الاستجابة بشكل أكثر عدلاً وأماناً؟

بينما تعمل نماذج الرؤية الحاسوبية مع الصور بدلاً من النصوص، فإن الحاجة إلى التوجيه الأخلاقي لا تقل أهمية. على سبيل المثال، تعتبر العدالة والتحيز عاملين رئيسيين يجب مراعاتهما، حيث يجب تدريب هذه الأنظمة على معاملة الجميع على قدم المساواة وتجنب النتائج الضارة أو غير العادلة عند تحليل البيانات المرئية.

الشكل 5. التحديات الأخلاقية المتعلقة بالرؤية الحاسوبية. الصورة بواسطة المؤلف.

في الوقت الحالي، لا يزال استخدام أساليب الذكاء الاصطناعي الدستوري في الرؤية الحاسوبية قيد الاستكشاف وهو في مراحله الأولى، مع وجود أبحاث جارية في هذا المجال.

على سبيل المثال، قدمت Meta مؤخراً CLUE، وهو إطار عمل يطبق منطقاً يشبه الدستور على مهام سلامة الصور. إنه يحول قواعد السلامة الواسعة إلى خطوات دقيقة يمكن للذكاء الاصطناعي متعدد الوسائط (أنظمة الذكاء الاصطناعي التي تعالج وتفهم أنواعاً متعددة من البيانات) اتباعها. يساعد هذا النظام على التفكير بشكل أوضح وتقليل النتائج الضارة.

أيضاً، تجعل CLUE أحكام سلامة الصور أكثر كفاءة من خلال تبسيط القواعد المعقدة، مما يسمح لنماذج الذكاء الاصطناعي بالتصرف بسرعة وبدقة دون الحاجة إلى مدخلات بشرية واسعة النطاق. باستخدام مجموعة من المبادئ التوجيهية، تجعل CLUE أنظمة تعديل الصور أكثر قابلية للتوسع مع ضمان نتائج عالية الجودة.

Link to this sectionأبرز النقاط#

مع تولي أنظمة الذكاء الاصطناعي المزيد من المسؤولية، يتحول التركيز من مجرد ما يمكنها القيام به إلى ما يجب عليها القيام به. هذا التحول أساسي لأن هذه الأنظمة تُستخدم في مجالات تؤثر بشكل مباشر على حياة الناس، مثل الرعاية الصحية، وإنفاذ القانون، والتعليم.

لضمان تصرف أنظمة الذكاء الاصطناعي بشكل مناسب وأخلاقي، فإنها تحتاج إلى أساس متين ومتسق. يجب أن يعطي هذا الأساس الأولوية للعدالة، والسلامة، والثقة.

يمكن أن يوفر دستور مكتوب هذا الأساس أثناء التدريب، مما يوجه عملية اتخاذ القرار في النظام. كما يمكن أن يمنح المطورين إطار عمل لمراجعة وتعديل سلوك النظام بعد النشر، مما يضمن استمراره في التوافق مع القيم التي صُمم لدعمها ويسهل التكيف مع ظهور تحديات جديدة.

انضم إلى مجتمعنا المتنامي اليوم! تعمق أكثر في الذكاء الاصطناعي من خلال استكشاف مستودع GitHub الخاص بنا. هل تتطلع لبناء مشاريع الرؤية الحاسوبية الخاصة بك؟ استكشف خيارات الترخيص لدينا. تعلم كيف تعمل الرؤية الحاسوبية في الرعاية الصحية على تحسين الكفاءة واستكشف تأثير الذكاء الاصطناعي في التصنيع من خلال زيارة صفحات الحلول الخاصة بنا!