يهدف الذكاء الاصطناعي الدستوري إلى مواءمة نماذج الذكاء الاصطناعي مع القيم الإنسانية

أصبح الذكاء الاصطناعي (AI) جزءاً رئيسياً من حياتنا اليومية بسرعة كبيرة. ويجري دمجه في الأدوات المستخدمة في مجالات مثل الرعاية الصحية، والتوظيف، والتمويل، والسلامة العامة. ومع توسع هذه الأنظمة، تزايدت المخاوف بشأن أخلاقياتها وموثوقيتها.

على سبيل المثال، أحياناً يمكن لأنظمة الذكاء الاصطناعي التي يتم بناؤها دون مراعاة الإنصاف أو السلامة أن تنتج نتائج متحيزة أو غير موثوقة. ويرجع ذلك إلى أن العديد من النماذج لا تزال تفتقر إلى طريقة واضحة لعكس القيم البشرية ومواءمتها.

لمعالجة هذه التحديات، يستكشف الباحثون الآن نهجاً يُعرف باسم الذكاء الاصطناعي الدستوري. ببساطة، يدمج هذا النهج مجموعة مكتوبة من المبادئ في عملية تدريب النموذج. تساعد هذه المبادئ النموذج على تقييم سلوكه الخاص، والاعتماد بشكل أقل على التغذية الراجعة البشرية، وجعل الردود أكثر أماناً وأسهل في الفهم.

حتى الآن، تم استخدام هذا النهج في الغالب فيما يتعلق بـ نماذج اللغات الكبيرة (LLMs). ومع ذلك، يمكن أن يساعد هيكل مشابه في توجيه نظم رؤية الكمبيوتر لاتخاذ قرارات أخلاقية أثناء تحليل البيانات المرئية.

في هذه المقالة، سنستكشف كيفية عمل الذكاء الاصطناعي الدستوري، ونلقي نظرة على أمثلة من واقع الحياة، ونناقش تطبيقاته المحتملة في أنظمة الرؤية الحاسوبية.

الشكل 1. خصائص الذكاء الاصطناعي الدستوري. الصورة بواسطة المؤلف.

ما هو الذكاء الاصطناعي الدستوري؟#

الذكاء الاصطناعي الدستوري هو طريقة تدريب نماذج توجيه سلوك نماذج الذكاء الاصطناعي من خلال توفير مجموعة واضحة من القواعد الأخلاقية. تعمل هذه القواعد كمدونة سلوك. بدلاً من الاعتماد على النموذج لاستنتاج ما هو مقبول، فهو يتبع مجموعة مكتوبة من المبادئ التي تشكل استجاباته أثناء التدريب.

تم تقديم هذا المفهم من قِبل شركة Anthropic، وهي شركة أبحاث تركز على سلامة الذكاء الاصطناعي وقامت بتطوير عائلة نماذج Claude LLM كطريقة لجعل أنظمة الذكاء الاصطناعي أكثر خضوعاً للإشراف الذاتي في عملية صنع القرار الخاصة بها.

بدلاً من الاعتماد فقط على التعليقات البشرية، يتعلم النموذج نقد وتحسين استجاباته الخاصة بناءً على مجموعة محددة مسبقاً من المبادئ. هذا النهج مشابه للنظام القانوني، حيث يرجع القاضي إلى دستور قبل إصدار حكم.

في هذه الحالة، يصبح النموذج هو القاضي والطالب في نفس الوقت، مستخدماً نفس مجموعة القواعد لمراجعة وتحسين سلوكه الخاص. تقوي هذه العملية محاذاة نماذج الذكاء الاصطناعي وتدعم تطوير أنظمة ذكاء اصطناعي آمنة ومسؤولة.

كيف يعمل الذكاء الاصطناعي الدستوري؟#

الهدف من الذكاء الاصطناعي الدستوري هو تعليم نموذج الذكاء الاصطناعي كيفية اتخاذ قرارات آمنة وعادلة باتباع مجموعة واضحة من القواعد المكتوبة. فيما يلي تحليل بسيط لكيفية عمل هذه العملية:

• تحديد الدستور: يتم إنشاء قائمة مكتوبة من المبادئ الأخلاقية التي يجب على النموذج اتباعها. يوضح الدستور ما يجب على الذكاء الاصطناعي تجنبه والقيم التي يجب أن يعكسها.
• التدريب باستخدام أمثلة خاضعة للإشراف: يُعرض على النموذج استجابات نموذجية تتبع الدستور. تساعد هذه الأمثلة الذكاء الاصطناعي في فهم الشكل الذي يبدو عليه السلوك المقبول.
• التعرف على الأنماط وتطبيقها: بمرور الوقت، يبدأ النموذج في التقاط هذه الأنماط. ويتعلم تطبيق القيم نفسها عند الإجابة على أسئلة جديدة أو التعامل مع مواقف جديدة.
• نقد المخرجات وتحسينها: يقوم النموذج بمراجعة استجاباته الخاصة وتعديلها بناءً على الدستور. تساعد مرحلة المراجعة الذاتية هذه في تحسينه دون الاعتماد فقط على التعليقات البشرية.
• إنتاج استجابات متوافقة وأكثر أماناً: يتعلم النموذج من قواعد متسقة، مما يساعد في تقليل التحيز وتحسين الموثوقية في الاستخدام الواقعي. يجعل هذا النهج النموذج أكثر مواءمة مع القيم البشرية وأسهل في الإدارة.

الشكل 2. نظرة عامة على استخدام الذكاء الاصطناعي الدستوري لتدريب النماذج.

المبادئ الأساسية لتصميم الذكاء الاصطناعي الأخلاقي#

لكي يتبع نموذج الذكاء الاصطناعي القواعد الأخلاقية، يجب تحديد هذه القواعد بوضوح أولاً. عندما يتعلق الأمر بالذكاء الاصطناعي الدستوري، تعتمد هذه القواعد على مجموعة من المبادئ الأساسية.

على سبيل المثال، إليك أربعة مبادئ تشكل أساس دستور فعال للذكاء الاصطناعي:

• الشفافية: يجب أن يكون فهم كيف توصل النموذج إلى الإجابة أمراً سهلاً. إذا كانت الاستجابة قائمة على حقائق، أو تقديرات، أو أنماط، فستكون شفافة للمستخدم. يبني هذا الثقة ويساعد الناس على الحكم فيما إذا كان بإمكانهم الاعتماد على مخرجات النموذج.
• المساواة: يجب أن تظل الاستجابات متسقة عبر مختلف المستخدمين. يجب ألا يغير النموذج مخرجاته بناءً على اسم الشخص، أو خلفيته، أو موقعه. تساعد المساواة في منع التحيز وتعزيز المعاملة المتساوية.
• المساءلة: يجب أن تكون هناك طريقة لتتبع كيفية تدريب النموذج وما الذي أثر على سلوكه. عندما يحدث خطأ ما، يجب أن تكون الفرق قادرة على تحديد السبب وتحسينه. هذا يدعم الشفافية والمساءلة طويلة الأمد.
• السلامة: تحتاج النماذج إلى تجنب إنتاج محتوى يمكن أن يسبب ضرراً. إذا أدى طلب ما إلى مخرجات محفوفة بالمخاطر أو غير آمنة، فيجب على النظام التعرف على ذلك والتوقف. هذا يحمي المستخدم وسلامة النظام.

أمثلة على الذكاء الاصطناعي الدستوري في نماذج اللغات الكبيرة#

انتقل الذكاء الاصطناعي الدستوري من النظري إلى العملي ويتم استخدامه ببطء الآن في النماذج الكبيرة التي تتفاعل مع ملايين المستخدمين. اثنان من الأمثلة الأكثر شيوعاً هما نماذج اللغات الكبيرة من OpenAI وAnthropic.

بينما اتخذت كلتا المنظمتين مناهج مختلفة لإنشاء أنظمة ذكاء اصطناعي أكثر أخلاقية، إلا أنهما تتشاركان فكرة مشتركة: تعليم النموذج اتباع مجموعة من المبادئ التوجيهية المكتوبة. دعونا نلقي نظرة فاحصة على هذه الأمثلة.

نهج الذكاء الاصطناعي الدستوري من OpenAI#

قدمت OpenAI وثيقة تسمى Model Spec كجزء من عملية التدريب لنماذج ChatGPT الخاصة بها. تعمل هذه الوثيقة مثل الدستور. فهي تحدد ما يجب أن يهدف إليه النموذج في استجاباته، بما في ذلك قيم مثل المساعدة، والصدق، والسلامة. كما أنها تحدد ما يعتبر مخرجات ضارة أو مضللة.

تم استخدام هذا الإطار لضبط نماذج OpenAI بدقة من خلال تقييم الاستجابات وفقاً لمدى مطابقتها للقواعد. بمرور الوقت، ساعد ذلك في تشكيل ChatGPT بحيث ينتج مخرجات ضارة أقل ويتوافق بشكل أفضل مع ما يريده المستخدمون بالفعل.

الشكل 3. مثال على استخدام ChatGPT لمواصفات نموذج OpenAI للاستجابة.

نماذج الذكاء الاصطناعي الأخلاقية من Anthropic#

الدستور الذي يتبعه نموذج Anthropic، Claude، يستند إلى مبادئ أخلاقية من مصادر مثل الإعلان العالمي لحقوق الإنسان، وإرشادات المنصات مثل شروط خدمة Apple، وأبحاث من مختبرات ذكاء اصطناعي أخرى. تساعد هذه المبادئ في ضمان أن تكون استجابات Claude آمنة، وعادلة، ومتوافقة مع القيم البشرية المهمة.

يستخدم Claude أيضاً التعلم التعزيزي من تعليقات الذكاء الاصطناعي (RLAIF)، حيث يقوم بمراجعة وتعديل ردوده الخاصة استناداً إلى هذه الإرشادات الأخلاقية، بدلاً من الاعتماد على التغذية الراجعة البشرية. تتيح هذه العملية لـ Claude التحسن بمرور الوقت، مما يجعله أكثر قابلية للتوسع وأفضل في تقديم إجابات مفيدة وأخلاقية وغير ضارة، حتى في المواقف الصعبة.

الشكل 4. فهم نهج Anthropic في الذكاء الاصطناعي الدستوري.

تطبيق الذكاء الاصطناعي الدستوري على الرؤية الحاسوبية#

نظراً لأن الذكاء الاصطناعي الدستوري يؤثر بشكل إيجابي على كيفية تصرف نماذج اللغات، فإنه يؤدي بشكل طبيعي إلى السؤال: هل يمكن لنهج مماثل أن يساعد الأنظمة القائمة على الرؤية على الاستجابة بشكل أكثر عدلاً وأماناً؟

بينما تعمل نماذج رؤية الكمبيوتر مع الصور بدلاً من النصوص، فإن الحاجة إلى التوجيه الأخلاقي لا تقل أهمية. على سبيل المثال، العدالة والتحيز هما عاملان رئيسيان يجب مراعاتهما، حيث يجب تدريب هذه الأنظمة على معاملة الجميع بالتساوي وتجنب النتائج الضارة أو غير العادلة عند تحليل البيانات المرئية.

الشكل 5. التحديات الأخلاقية المتعلقة بالرؤية الحاسوبية. الصورة بواسطة المؤلف.

في الوقت الحالي، لا يزال استخدام أساليب الذكاء الاصطناعي الدستوري في الرؤية الحاسوبية قيد الاستكشاف وهو في مراحله الأولى، مع وجود أبحاث جارية في هذا المجال.

على سبيل المثال، قدمت Meta مؤخراً CLUE، وهو إطار عمل يطبق استدلالاً شبيهًا بالدستور على مهام سلامة الصور. يحول قواعد السلامة الواسعة إلى خطوات دقيقة يمكن للذكاء الاصطناعي متعدد الوسائط (أنظمة الذكاء الاصطناعي التي تعالج وتفهم أنواعاً متعددة من البيانات) اتباعها. يساعد ذلك النظام على الاستدلال بشكل أكثر وضوحاً وتقليل النتائج الضارة.

أيضاً، تجعل CLUE أحكام سلامة الصور أكثر كفاءة من خلال تبسيط القواعد المعقدة، مما يسمح لنماذج الذكاء الاصطناعي بالتصرف بسرعة وبدقة دون الحاجة إلى مدخلات بشرية واسعة النطاق. باستخدام مجموعة من المبادئ التوجيهية، تجعل CLUE أنظمة تعديل الصور أكثر قابلية للتوسع مع ضمان نتائج عالية الجودة.

أبرز النقاط#

مع تولي أنظمة الذكاء الاصطناعي المزيد من المسؤولية، يتحول التركيز من مجرد ما يمكنها القيام به إلى ما يجب عليها القيام به. هذا التحول أساسي لأن هذه الأنظمة تُستخدم في مجالات تؤثر بشكل مباشر على حياة الناس، مثل الرعاية الصحية، وإنفاذ القانون، والتعليم.

لضمان تصرف أنظمة الذكاء الاصطناعي بشكل مناسب وأخلاقي، فإنها تحتاج إلى أساس متين ومتسق. يجب أن يعطي هذا الأساس الأولوية للعدالة، والسلامة، والثقة.

يمكن أن يوفر دستور مكتوب هذا الأساس أثناء التدريب، مما يوجه عملية اتخاذ القرار في النظام. كما يمكن أن يمنح المطورين إطار عمل لمراجعة وتعديل سلوك النظام بعد النشر، مما يضمن استمراره في التوافق مع القيم التي صُمم لدعمها ويسهل التكيف مع ظهور تحديات جديدة.

انضم إلى مجتمعنا المتنامي اليوم! تعمق أكثر في الذكاء الاصطناعي من خلال استكشاف مستودع GitHub الخاص بنا. هل تتطلع إلى بناء مشاريع رؤية الكمبيوتر الخاصة بك؟ استكشف خيارات الترخيص الخاصة بنا. تعرف على كيف تعمل رؤية الكمبيوتر في الرعاية الصحية على تحسين الكفاءة واستكشف تأثير الذكاء الاصطناعي في التصنيع من خلال زيارة صفحات الحلول الخاصة بنا!