AI Governance

حوكمة الذكاء الاصطناعي هي مجموعة السياسات والأدوار والعمليات والسجلات التي تستخدمها المؤسسة لتحديد أنظمة الذكاء الاصطناعي التي تبنيها أو تشتريها، والمسؤول عن كل نظام، والأدلة المطلوبة قبل إطلاقه، وكيفية مراقبته وتغييره وإيقافه. وتحدد أخلاقيات الذكاء الاصطناعي القيم التي تريد المؤسسة من أنظمتها احترامها. وتحول الحوكمة تلك القيم إلى صلاحيات لاتخاذ القرار وعمليات تحقق موثقة تنطبق على كل نظام طوال دورة حياته، من مساعد نموذج لغة كبير تشتريه من مورّد إلى نموذج رؤية حاسوبية داخلي على خط إنتاج.

الأطر واللوائح#

تستند معظم برامج الحوكمة إلى عدد قليل من الأطر المرجعية:

• إطار NIST لإدارة مخاطر الذكاء الاصطناعي: إطار أمريكي طوعي صدر في يناير 2023 ونُظّم حول أربع وظائف. تضع وظيفة الحوكمة السياسات والمساءلة، وتحدد وظيفة التوصيف سياق كل نظام واستخدامه المقصود، وتقيّم وظيفة القياس المخاطر بالاختبارات والمقاييس، بينما تحدد وظيفة الإدارة أولويات تلك المخاطر وتعالجها.
• ISO/IEC 42001: نُشر في ديسمبر 2023، وهو أول معيار دولي لنظام إدارة الذكاء الاصطناعي. ويمكن تدقيق المؤسسات واعتمادها وفقًا له، على نحو يشبه تدقيقها واعتمادها في أمن المعلومات وفق ISO/IEC 27001.
• مبادئ منظمة التعاون الاقتصادي والتنمية بشأن الذكاء الاصطناعي: اعتُمدت عام 2019 وحُدّثت عام 2024، وهي أساس كثير من السياسات الوطنية، وتوفر للمبادرات الأخرى مفردات مشتركة.

يطبّق ملف NIST للذكاء الاصطناعي التوليدي، NIST AI 600-1 (يوليو 2024)، إطار إدارة المخاطر على مخاطر مثل الهلوسة وحقن المطالبات.

قانون الذكاء الاصطناعي للاتحاد الأوروبي تشريع قائم على المخاطر دخل حيز النفاذ في أغسطس 2024 ويُطبّق على مراحل. فقد بدأ تطبيق الحظر على ممارسات مثل التقييم الاجتماعي والتعرف على المشاعر في أماكن العمل والمدارس، إلى جانب واجب الإلمام بالذكاء الاصطناعي، منذ 2 فبراير 2025، وبدأت الالتزامات المفروضة على مقدمي نماذج الذكاء الاصطناعي للأغراض العامة منذ 2 أغسطس 2025، كما بدأ تطبيق واجبات الشفافية، مثل الإفصاح عن التزييف العميق، منذ 2 أغسطس 2026. ونقل القانون الرقمي الشامل للذكاء الاصطناعي، النافذ منذ 27 يوليو 2026، متطلبات الأنظمة عالية المخاطر المدرجة في الملحق الثالث، مثل التوظيف وتقييم الجدارة الائتمانية، إلى 2 ديسمبر 2027، ومتطلبات الذكاء الاصطناعي في المنتجات الخاضعة للتنظيم، مثل الأجهزة الطبية والآلات، إلى 2 أغسطس 2028. وتشمل تلك المتطلبات إدارة المخاطر وحوكمة البيانات والتسجيل والإشراف البشري وتقييم المطابقة.

الضوابط الأساسية#

يأتي جرد الأنظمة أولًا، إذ لا تستطيع المؤسسة حوكمة أنظمة لا تعرف بوجودها. ويسجل الجرد الكامل مالك كل نظام والغرض منه ومصادر بياناته وإصدارات النموذج والمورّدين، ويكشف الذكاء الاصطناعي الخفي: الأدوات التي اعتمدتها الفرق من دون مراجعة. أما النماذج المبنية داخليًا، فغالبًا ما يؤدي سجل النماذج دور هذا الجرد.

بعد ذلك، يصنّف تقييم المخاطر الأنظمة إلى مستويات بحسب الغرض والاستقلالية والأشخاص المتأثرين وكلفة الأخطاء. فالنموذج الذي يرتب الوثائق الداخلية يحتاج إلى مراجعة أخف من نموذج يفرز المتقدمين للوظائف أو يتحكم في الآلات، وتحصل المستويات الأعلى على اختبارات وموافقات وإشراف بشري أكثر صرامة.

تجعل الوثائق القرارات قابلة للمراجعة. تسجل بطاقات النماذج الاستخدام المقصود ونتائج التقييم والقيود المعروفة، وتسجل توثيقات مصدر البيانات منشأ بيانات التدريب والترخيص أو الموافقة اللذين جُمعت بموجبهما. وينبغي أن تدخل قابلية إعادة الإنتاج في السجل نفسه: إصدار مجموعة البيانات الدقيق، والنموذج الأساسي، وإصدار الشيفرة، والإعدادات التي بُني عليها كل نموذج مرشح، كي يستطيع المراجع تتبع أي نموذج منشور إلى مدخلاته. وبالنسبة إلى نماذج الرؤية المدرّبة على Ultralytics Platform، يسجل كل تشغيل النموذج الأصلي وإصدار Ultralytics وبيئة المضيف والتزام Git عند الإبلاغ عنه، كما يثبت إصدار مجموعة البيانات المحفوظ الصور والتسميات الدقيقة التي دُرّب عليها.

يوفر الاختبار الأدلة اللازمة للموافقة. إذ تُحدّد عتبات القبول لكل حالة استخدام قبل ورود النتائج، وتشمل الاختبارات الدقة عبر المجموعات الفرعية ذات الصلة لاكتشاف التحيز في الذكاء الاصطناعي، والمتانة أمام المدخلات المتغيرة مثل الإضاءة الخافتة أو زاوية الكاميرا الجديدة، والأمن، وغالبًا عبر الاختبار الهجومي لأنظمة الذكاء الاصطناعي. وتنشر NCSC في المملكة المتحدة والوكالات الشريكة إرشادات لتطوير أنظمة ذكاء اصطناعي آمنة تغطي التصميم والتطوير والنشر والتشغيل.

بعد الإطلاق، يتتبع رصد النماذج الأداء وانجراف البيانات، وتحدد عملية التعامل مع الحوادث من يحق له إيقاف النظام مؤقتًا أو التراجع عنه، بينما تزيل عملية الإيقاف النماذج والبيانات التي لم تعد لازمة. وتربط صلاحيات اتخاذ القرار الضوابط بعضها ببعض: إذ تحدد الحوكمة لكل نظام من يوافق على نشره، ومن يستطيع إيقافه، ومن يقبل المخاطر المتبقية بعد الاختبار.

أوجه اختلاف الحوكمة عن الممارسات ذات الصلة#

• اللوائح: قوانين تفرضها جهات خارجية. أما الحوكمة فهي النظام الداخلي الذي تديره المؤسسة، وهي أيضًا وسيلة المؤسسة لإثبات امتثالها.
• إدارة المخاطر: تحديد مخاطر بعينها وقياسها ومعالجتها. أما الحوكمة فتحدد الجهة التي تنفذ هذا العمل، ومن يقبل المخاطر المتبقية، وكيفية تسجيل القرارات.
• عمليات تعلّم الآلة (MLOps): خطوط أنابيب تدريب النماذج ونشرها وصيانتها. وتحدد الحوكمة بوابات الموافقة والسجلات التي يجب أن تستوفيها خطوط الأنابيب هذه.
• سلامة الذكاء الاصطناعي: الدراسة التقنية لكيفية جعل أنظمة الذكاء الاصطناعي تتصرف على النحو المقصود. وتحدد الحوكمة كيفية تأثير نتائج السلامة في ما يُسمح للمؤسسة بإصداره.