يهدف الذكاء الاصطناعي الدستوري إلى مواءمة نماذج الذكاء الاصطناعي مع القيم الإنسانية

أصبح الذكاء الاصطناعي (AI) بسرعة جزءًا أساسيًا من حياتنا اليومية. ويجري دمجه في أدوات تُستخدم في مجالات مثل الرعاية الصحية والتوظيف والتمويل والسلامة العامة. ومع توسع هذه الأنظمة، تثار أيضًا مخاوف بشأن أخلاقياتها وموثوقيتها.

فعلى سبيل المثال، قد تنتج أحيانًا أنظمة الذكاء الاصطناعي المبنية من دون مراعاة الإنصاف أو السلامة نتائج متحيزة أو غير موثوقة. ويرجع ذلك إلى أن العديد من النماذج لا تزال تفتقر إلى طريقة واضحة للتعبير عن القيم الإنسانية والمواءمة معها.

لمعالجة هذه التحديات، يستكشف الباحثون الآن نهجًا يُعرف باسم الذكاء الاصطناعي الدستوري. وببساطة، يُدخل هذا النهج مجموعة مكتوبة من المبادئ في عملية تدريب النموذج. وتساعد هذه المبادئ النموذج على تقييم سلوكه بنفسه، وتقليل اعتماده على الملاحظات البشرية، وجعل الاستجابات أكثر أمانًا وأسهل فهمًا.

حتى الآن، استُخدم هذا النهج في الغالب فيما يتعلق بـنماذج اللغة الكبيرة (LLMs). ومع ذلك، يمكن للبنية نفسها أن تساعد في توجيه أنظمة الرؤية الحاسوبية لاتخاذ قرارات أخلاقية أثناء تحليل البيانات المرئية.

في هذا المقال، سنستكشف كيفية عمل الذكاء الاصطناعي الدستوري، ونستعرض أمثلة واقعية، ونناقش تطبيقاته المحتملة في أنظمة الرؤية الحاسوبية.

الشكل 1. خصائص الذكاء الاصطناعي الدستوري. الصورة من إعداد المؤلف.

ما الذكاء الاصطناعي الدستوري؟#

الذكاء الاصطناعي الدستوري هو أسلوب لـتدريب النماذج يوجّه سلوك نماذج الذكاء الاصطناعي من خلال توفير مجموعة واضحة من القواعد الأخلاقية. وتعمل هذه القواعد كمدونة سلوك. فبدلًا من الاعتماد على النموذج لاستنتاج ما هو مقبول، يتبع النموذج مجموعة مكتوبة من المبادئ التي تشكّل استجاباته أثناء التدريب.

قدّمت Anthropic هذا المفهوم، وهي شركة أبحاث تركز على سلامة الذكاء الاصطناعي وطوّرت عائلة Claude من نماذج اللغة الكبيرة كوسيلة لجعل أنظمة الذكاء الاصطناعي أكثر اعتمادًا على الإشراف الذاتي في اتخاذ قراراتها.

بدلًا من الاعتماد solely على الملاحظات البشرية، يتعلم النموذج نقد استجاباته وتنقيحها بنفسه استنادًا إلى مجموعة محددة مسبقًا من المبادئ. ويشبه هذا النهج نظامًا قانونيًا يرجع فيه القاضي إلى دستور قبل إصدار الحكم.

في هذه الحالة، يصبح النموذج القاضي والمتعلم في آن واحد، مستخدمًا مجموعة القواعد نفسها لمراجعة سلوكه وتنقيحه. وتعزز هذه العملية مواءمة نموذج الذكاء الاصطناعي وتدعم تطوير أنظمة ذكاء اصطناعي آمنة ومسؤولة.

كيف يعمل الذكاء الاصطناعي الدستوري؟#

يتمثل هدف الذكاء الاصطناعي الدستوري في تعليم نموذج الذكاء الاصطناعي كيفية اتخاذ قرارات آمنة ومنصفة من خلال اتباع مجموعة واضحة من القواعد المكتوبة. وفيما يلي شرح مبسط لكيفية عمل هذه العملية:

• تحديد الدستور: تُنشأ قائمة مكتوبة بالمبادئ الأخلاقية التي ينبغي للنموذج اتباعها. ويوضح الدستور ما ينبغي للذكاء الاصطناعي تجنبه والقيم التي ينبغي أن يعكسها.
• التدريب باستخدام أمثلة خاضعة للإشراف: تُعرض على النموذج استجابات نموذجية تتبع الدستور. وتساعد هذه الأمثلة الذكاء الاصطناعي على فهم شكل السلوك المقبول.
• التعرف على الأنماط وتطبيقها: بمرور الوقت، يبدأ النموذج في التقاط هذه الأنماط. ويتعلم تطبيق القيم نفسها عند الإجابة عن أسئلة جديدة أو التعامل مع مواقف جديدة.
• نقد المخرجات وتنقيحها: يراجع النموذج استجاباته بنفسه ويعدّلها استنادًا إلى الدستور. وتساعده مرحلة المراجعة الذاتية هذه على التحسن من دون الاعتماد على الملاحظات البشرية وحدها.
• إنتاج استجابات متوائمة وأكثر أمانًا: يتعلم النموذج من القواعد المتسقة، ما يساعد على تقليل التحيز وتحسين الموثوقية في الاستخدام الواقعي. ويجعل هذا النهج النموذج أكثر مواءمة للقيم الإنسانية وأسهل في الحوكمة.

الشكل 2. نظرة عامة على استخدام الذكاء الاصطناعي الدستوري لتدريب النماذج.

المبادئ الأساسية للتصميم الأخلاقي للذكاء الاصطناعي#

لكي يتبع نموذج الذكاء الاصطناعي القواعد الأخلاقية، يجب تحديد تلك القواعد بوضوح أولًا. وفيما يتعلق بالذكاء الاصطناعي الدستوري، تستند هذه القواعد إلى مجموعة من المبادئ الأساسية.

على سبيل المثال، إليك أربعة مبادئ تشكل أساس دستور فعال للذكاء الاصطناعي:

• الشفافية: ينبغي أن يكون من السهل فهم كيفية وصول النموذج إلى إجابة. فإذا كانت الاستجابة تستند إلى حقائق أو تقديرات أو أنماط، فينبغي أن يكون ذلك شفافًا للمستخدم. وهذا يبني الثقة ويساعد الأشخاص على تقييم مدى إمكانية الاعتماد على مخرجات النموذج.
• المساواة: ينبغي أن تظل الاستجابات متسقة بين المستخدمين المختلفين. ويجب ألا يغير النموذج مخرجاته استنادًا إلى اسم الشخص أو خلفيته أو موقعه. وتساعد المساواة على منع التحيز وتعزيز المعاملة المتساوية.
• المساءلة: ينبغي أن توجد طريقة لتتبع كيفية تدريب النموذج والعوامل التي أثرت في سلوكه. وعندما يحدث خطأ ما، يجب أن تتمكن الفرق من تحديد السبب وتحسينه. ويدعم ذلك الشفافية والمساءلة على المدى الطويل.
• السلامة: يجب أن تتجنب النماذج إنتاج محتوى قد يسبب ضررًا. فإذا أدى طلب ما إلى مخرجات محفوفة بالمخاطر أو غير آمنة، ينبغي للنظام أن يتعرف على ذلك ويتوقف. وهذا يحمي المستخدم وسلامة النظام على حد سواء.

أمثلة على الذكاء الاصطناعي الدستوري في نماذج اللغة الكبيرة#

انتقل الذكاء الاصطناعي الدستوري من النظرية إلى التطبيق، ويُستخدم الآن تدريجيًا في نماذج كبيرة تتفاعل مع ملايين المستخدمين. ومن أكثر الأمثلة شيوعًا نماذج اللغة الكبيرة من OpenAI وAnthropic.

على الرغم من أن المؤسستين اتبعتا نهجين مختلفين لإنشاء أنظمة ذكاء اصطناعي أكثر أخلاقية، فإنهما تشتركان في فكرة أساسية: تعليم النموذج اتباع مجموعة من المبادئ التوجيهية المكتوبة. لنلقِ نظرة أقرب على هذه الأمثلة.

نهج OpenAI في الذكاء الاصطناعي الدستوري#

قدّمت OpenAI وثيقة تُسمى Model Spec ضمن عملية تدريب نماذج ChatGPT. وتعمل هذه الوثيقة كدستور؛ إذ تحدد ما ينبغي للنموذج أن يسعى إليه في استجاباته، بما في ذلك قيم مثل المساعدة والصدق والسلامة. كما تحدد ما يُعد مخرجًا ضارًا أو مضللًا.

استُخدم هذا الإطار لضبط نماذج OpenAI بدقة من خلال تقييم الاستجابات وفقًا لمدى توافقها مع القواعد. وبمرور الوقت، ساعد ذلك في تشكيل ChatGPT بحيث ينتج مخرجات ضارة أقل ويتوافق بصورة أفضل مع ما يريده المستخدمون فعلًا.

الشكل 3. مثال على استخدام ChatGPT لوثيقة Model Spec الخاصة بـOpenAI للرد.

نماذج Anthropic الأخلاقية للذكاء الاصطناعي#

يستند الدستور الذي يتبعه نموذج Anthropic، Claude، إلى مبادئ أخلاقية من مصادر مثل الإعلان العالمي لحقوق الإنسان، وإرشادات المنصات مثل شروط خدمة Apple، وأبحاث مختبرات ذكاء اصطناعي أخرى. وتساعد هذه المبادئ على ضمان أن تكون استجابات Claude آمنة ومنصفة ومتوافقة مع القيم الإنسانية المهمة.

يستخدم Claude أيضًا التعلم المعزز من ملاحظات الذكاء الاصطناعي (RLAIF)، حيث يراجع استجاباته ويعدّلها بنفسه استنادًا إلى هذه الإرشادات الأخلاقية، بدلًا من الاعتماد على الملاحظات البشرية. وتمكّن هذه العملية Claude من التحسن بمرور الوقت، ما يجعله أكثر قابلية للتوسع وأفضل في تقديم إجابات مفيدة وأخلاقية وغير ضارة، حتى في المواقف المعقدة.

الشكل 4. فهم نهج Anthropic في الذكاء الاصطناعي الدستوري.

تطبيق الذكاء الاصطناعي الدستوري على الرؤية الحاسوبية#

بما أن الذكاء الاصطناعي الدستوري يؤثر إيجابًا في سلوك نماذج اللغة، فإنه يقود بطبيعة الحال إلى التساؤل: هل يمكن لنهج مماثل أن يساعد الأنظمة المعتمدة على الرؤية على الاستجابة بإنصاف وأمان أكبر؟

رغم أن نماذج الرؤية الحاسوبية تتعامل مع الصور بدلًا من النصوص، فإن الحاجة إلى التوجيه الأخلاقي لا تقل أهمية. فعلى سبيل المثال، يُعد الإنصاف والتحيز عاملين أساسيين ينبغي مراعاتهما، إذ يجب تدريب هذه الأنظمة على معاملة الجميع بالتساوي وتجنب النتائج الضارة أو غير المنصفة عند تحليل البيانات المرئية.

الشكل 5. التحديات الأخلاقية المتعلقة بالرؤية الحاسوبية. الصورة من إعداد المؤلف.

في الوقت الحالي، لا يزال استخدام أساليب الذكاء الاصطناعي الدستوري في الرؤية الحاسوبية قيد الاستكشاف وفي مراحله المبكرة، مع استمرار الأبحاث في هذا المجال.

فعلى سبيل المثال، قدّمت Meta مؤخرًا CLUE، وهو إطار يطبّق استدلالًا شبيهًا بالاستدلال الدستوري على مهام سلامة الصور. ويحوّل قواعد السلامة العامة إلى خطوات دقيقة يمكن للذكاء الاصطناعي متعدد الوسائط (أنظمة الذكاء الاصطناعي التي تعالج أنواعًا متعددة من البيانات وتفهمها) اتباعها. ويساعد ذلك النظام على الاستدلال بوضوح أكبر وتقليل النتائج الضارة.

كذلك، يجعل CLUE أحكام سلامة الصور أكثر كفاءة من خلال تبسيط القواعد المعقدة، ما يتيح لنماذج الذكاء الاصطناعي التصرف بسرعة ودقة من دون الحاجة إلى مدخلات بشرية مكثفة. وباستخدام مجموعة من المبادئ التوجيهية، يجعل CLUE أنظمة الإشراف على الصور أكثر قابلية للتوسع مع ضمان نتائج عالية الجودة.

أهم النقاط المستخلصة#

مع تولي أنظمة الذكاء الاصطناعي مزيدًا من المسؤوليات، يتحول التركيز من مجرد ما يمكنها فعله إلى ما ينبغي لها فعله. ويُعد هذا التحول أساسيًا، نظرًا إلى استخدام هذه الأنظمة في مجالات تؤثر مباشرةً في حياة الناس، مثل الرعاية الصحية وإنفاذ القانون والتعليم.

ولضمان تصرف أنظمة الذكاء الاصطناعي على نحو مناسب وأخلاقي، فإنها تحتاج إلى أساس متين ومتسق. وينبغي أن يعطي هذا الأساس الأولوية للإنصاف والسلامة والثقة.

يمكن لدستور مكتوب أن يوفر ذلك الأساس أثناء التدريب، وأن يوجّه عملية اتخاذ القرارات في النظام. كما يمكنه أن يمنح المطورين إطارًا لمراجعة سلوك النظام وتعديله بعد النشر، بما يضمن استمرار توافقه مع القيم التي صُمم لدعمها، ويسهّل تكييفه عند ظهور تحديات جديدة.

انضم إلى مجتمعنا المتنامي اليوم! تعمّق في الذكاء الاصطناعي من خلال استكشاف مستودع GitHub الخاص بنا. هل تتطلع إلى بناء مشاريعك الخاصة في الرؤية الحاسوبية؟ استكشف خيارات الترخيص لدينا. تعرّف على كيفية مساهمة الرؤية الحاسوبية في الرعاية الصحية في تحسين الكفاءة، واستكشف تأثير الذكاء الاصطناعي في التصنيع من خلال زيارة صفحات حلولنا!