Explainable AI (XAI)

الذكاء الاصطناعي القابل للتفسير (XAI) هو مجموعة من الأساليب التي تجعل مخرجات نماذج الذكاء الاصطناعي (AI) مفهومةً للبشر: أي المدخلات أثرت في التنبؤ، وكيف يتصرف النموذج عمومًا، ومتى تستحق إجاباته الثقة. وتعمل نماذج التعلم العميق (DL) ذات ملايين أو مليارات من المعلمات كصناديق سوداء؛ فهي دقيقة لكنها معتمة، ويوفر XAI للمطورين والمستخدمين والمدققين والجهات التنظيمية نافذةً على آلية عملها. وتُستخدم التفسيرات لتصحيح أخطاء النماذج، وكشف التحيز الخوارزمي، وتبرير القرارات للأشخاص المتأثرين بها، واستيفاء المتطلبات القانونية. وقد ساهم برنامج الذكاء الاصطناعي القابل للتفسير التابع لـ DARPA، الذي أُطلق عام 2017، في شيوع المصطلح.

قابلية التفسير مقابل قابلية الفهم#

غالبًا ما تُستخدم الكلمتان مترادفتين. وعندما يميّز الباحثون بينهما، تكون النماذج القابلة للفهم مفهومةً بحكم تصميمها، مثل النماذج الخطية وأشجار القرار الصغيرة ونماذج عنق الزجاجة المفاهيمية، بينما تنتج أساليب قابلية التفسير تفسيرات لاحقة لنماذج ليست كذلك. وقد جادلت سينثيا رودين في ورقة بحثية نُشرت عام 2019 في مجلة Nature Machine Intelligence بأن القرارات ذات العواقب الكبيرة ينبغي أن تستخدم نماذج قابلة للفهم، إذ قد يسيء التفسير اللاحق تمثيل ما يحسبه النموذج فعليًا.

ثمة مصطلحان مجاوران أوسع نطاقًا أو أعمق دلالة. إذ تشمل الشفافية في الذكاء الاصطناعي الانفتاح بشأن النظام بأكمله، بما في ذلك مصادر بياناته وتصميمه والاستخدام المقصود منه. أما قابلية الفهم الآلي فتعيد هندسة الدوائر الداخلية للشبكة، وهو نهج يُستخدم أساسًا مع النماذج اللغوية الكبيرة.

أنواع التفسيرات#

تختلف التفسيرات في نطاقها ومقدار الوصول الذي تتطلبه. يفسر التفسير المحلي تنبؤًا واحدًا، مثل سبب رفض طلب قرض معين، بينما يصف التفسير الشامل السلوك عبر جميع التنبؤات، مثل تحديد السمات الأهم عمومًا. وتتعامل الأساليب المستقلة عن النموذج معه بوصفه صندوقًا أسود، ولا تستعلم إلا عن مدخلاته ومخرجاته، بينما تستخدم الأساليب الخاصة بالنموذج مكوناته الداخلية، مثل التدرجات أو أوزان الانتباه.

تقنيات XAI الشائعة#

• SHAP (التفسيرات الإضافية القائمة على قيم شابلي): تُسنِد إلى كل ميزة حصةً من التنبؤ باستخدام قيم شابلي المستمدة من نظرية الألعاب التعاونية، بحيث تساوي مساهمات الميزات مجتمعةً تمامًا الفرق بين التنبؤ والقيمة المرجعية.
• LIME (التفسيرات المحلية القابلة للتفسير والمحايدة تجاه النموذج): يُجري تغييرات طفيفة على أحد المدخلات مرات عديدة، ويسجل كيفية تغير التنبؤ، ثم يدرّب نموذجًا بديلًا بسيطًا، مثل نموذج خطي متناثر، يحاكي الصندوق الأسود بالقرب من ذلك المدخل.
• أهمية الميزات بالتبديل: يبدّل ميزة واحدة في كل مرة ويقيس مقدار انخفاض درجة النموذج؛ وهو تفسير شامل يعمل مع أي نموذج.
• التفسيرات المضادة للواقع: تعرض أصغر تغيير في المدخلات من شأنه قلب القرار، مثل مستوى الدخل الذي كان سيُقبل عنده طلب قرض.
• خرائط الأهمية: تبرز وحدات البكسل التي أثرت أكثر من غيرها في مخرجات نموذج الرؤية. وتُرجّح طرائق خريطة تنشيط الفئة (CAM)، مثل Grad-CAM، خرائط ميزات الشبكة وفق تدرجات درجة الفئة المتوقعة لإنتاج خريطة حرارية تقريبية للأدلة.

تدمج Ultralytics YOLO26 طريقة CAM في التنبؤ: يؤدي ضبط visualize=True إلى حفظ خريطة حرارية بطريقة LayerCAM، التي تُرجّح كل موضع من خرائط الميزات الداخلة إلى رأس الكشف وفق تدرجه الموجب الخاص نحو الفئة المتوقعة:

from ultralytics import YOLO

# ⁨تحميل كاشف YOLO26 المدرّب مسبقًا على COCO⁩
model = YOLO("yolo26n.pt")

# ⁨حفظ خريطة حرارية بطريقة LayerCAM تشرح اكتشافات «الشخص» فقط (الفئة 0)⁩
model.predict("https://ultralytics.com/images/bus.jpg", visualize=True, classes=[0])

يُضاف إلى مجلد التشغيل الملف bus_cam.jpg، وهو خريطة حرارية متراكبة على الصورة، حيث تشير الألوان الدافئة إلى وحدات البكسل التي رفعت درجات الأشخاص.

متى تكون التفسيرات مضللة#

قد يبدو التفسير مقنعًا، ومع ذلك يكون خاطئًا بشأن النموذج. في «اختبارات سلامة خرائط الأهمية» (2018)، عشوَأ الباحثون الأوزان المدرّبة لشبكة، ووجدوا أن عدة طرائق شائعة للأهمية أنتجت خرائط تكاد تطابق الخرائط السابقة، ما أظهر أن الخرائط عكست الحواف في صورة الإدخال أكثر مما عكست أي شيء تعلمه النموذج. وأظهرت دراسة في عام 2020 إمكانية تغليف مصنّف متحيز عمدًا بحيث تعرض LIME وSHAP ميزات غير مؤذية، بينما تظل القرارات الأساسية تمييزية. وتعالج المبادئ الأربعة للذكاء الاصطناعي القابل للتفسير الصادرة عن NIST هذه المسألة مباشرةً: يجب أن تكون التفسيرات متاحة وذات معنى لجمهورها وأن تعكس بدقة آلية عمل النظام، كما يجب ألا يعمل النظام إلا ضمن الظروف التي صُمم لها.

التطبيقات والتنظيم#

• تحليل الصور الطبية: تتيح الخرائط الحرارية لاختصاصي الأشعة التأكد من أن النموذج أشار إلى الأشعة السينية بسبب الآفة نفسها، كما تساعد على كشف النماذج التي تعتمد على علامات الماسح الضوئي أو النص المضمّن في الصورة.
• كشف الاختصارات: في ورقة LIME الأصلية، كشفت التفسيرات عن مصنّف معيب عمدًا للتمييز بين كلاب الهاسكي والذئاب، كان يعتمد على الثلج في الخلفية.
• الائتمان والإقراض: بموجب قانون تكافؤ فرص الائتمان، يجب على المقرضين في الولايات المتحدة تزويد مقدمي الطلبات بالأسباب الرئيسية المحددة للرفض، دون استثناء للقرارات التي تتخذها خوارزميات معقدة.

يمنح GDPR الأشخاص الخاضعين للقرارات الآلية حق الحصول على معلومات ذات معنى عن المنطق المتبع. وتشترط المادة 13 من قانون الذكاء الاصطناعي للاتحاد الأوروبي أن تكون الأنظمة عالية المخاطر شفافة بما يكفي لتمكين الجهات الناشرة من تفسير مخرجاتها، كما تمنح المادة 86 الشخص المتأثر بقرار يستند إلى نظام عالي المخاطر الحق في الحصول على تفسيرات واضحة وذات معنى لدور نظام الذكاء الاصطناعي والعناصر الرئيسية للقرار.