Explainable AI (XAI)

يشير الذكاء الاصطناعي القابل للتفسير (XAI) إلى مجموعة شاملة من العمليات والأدوات والأساليب المصممة لجعل مخرجات أنظمة الذكاء الاصطناعي (AI) مفهومة للمستخدمين البشر. ومع تزايد اعتماد المؤسسات على نماذج تعلم الآلة (ML) المعقدة - خاصة في مجال التعلم العميق (DL) - تعمل هذه الأنظمة غالباً كـ "صناديق سوداء". ورغم أن نموذج الصندوق الأسود قد يقدم تنبؤات دقيقة للغاية، إلا أن منطق اتخاذ القرار الداخلي الخاص به يظل غامضاً. يهدف XAI إلى توضيح هذه العملية، مما يساعد أصحاب المصلحة على فهم سبب اتخاذ قرار معين، وهو أمر حيوي لتعزيز الثقة وضمان السلامة والامتثال للوائح التنظيمية.

Link to this sectionأهمية القابلية للتفسير#

يدفع الطلب على الشفافية في اتخاذ القرار الآلي نحو تبني XAI عبر مختلف الصناعات. وتعد الثقة عاملاً أساسياً؛ حيث يقل احتمال اعتماد المستخدمين على النمذجة التنبؤية إذا لم يتمكنوا من التحقق من المنطق الكامن وراءها. وهذا ذو أهمية خاصة في البيئات عالية المخاطر حيث يمكن أن تؤدي الأخطاء إلى عواقب وخيمة.

• الامتثال التنظيمي: تفرض الأطر القانونية الجديدة، مثل قانون الذكاء الاصطناعي للاتحاد الأوروبي واللائحة العامة لحماية البيانات (GDPR)، بشكل متزايد أن توفر أنظمة الذكاء الاصطناعي عالية المخاطر تفسيرات قابلة للفهم لقراراتها.
• أخلاقيات الذكاء الاصطناعي: يُعد تطبيق XAI حجر الزاوية في أخلاقيات الذكاء الاصطناعي. فمن خلال الكشف عن الميزات التي تؤثر على مخرجات النموذج، يمكن للمطورين تحديد وتخفيف التحيز الخوارزمي، مما يضمن عمل النظام بإنصاف عبر فئات سكانية مختلفة.
• تصحيح أخطاء النموذج: بالنسبة للمهندسين، تعتبر القابلية للتفسير ضرورية لـ مراقبة النموذج. فهي تساعد في تشخيص سبب فشل النموذج في حالات استثنائية محددة أو معاناته من انحراف البيانات، مما يسمح بإعادة تدريب أكثر استهدافاً.

Link to this sectionالتقنيات الشائعة في XAI#

توجد تقنيات متنوعة لجعل الشبكات العصبية أكثر شفافية، وعادة ما يتم تصنيفها بناءً على ما إذا كانت مستقلة عن النموذج (قابلة للتطبيق على أي خوارزمية) أو خاصة بالنموذج.

• SHAP (تفسيرات SHapley الإضافية): استناداً إلى نظرية الألعاب التعاونية، تقوم قيم SHAP بتعيين درجة مساهمة لكل ميزة في تنبؤ معين، موضحة مقدار التغيير الذي أحدثه كل مدخل في النتيجة مقارنة بخط الأساس.
• LIME (تفسيرات النموذج المحلي القابل للتفسير المستقل عن النموذج): تقوم هذه الطريقة بتقريب نموذج معقد بآخر أبسط وقابل للتفسير (مثل نموذج خطي) محلياً حول تنبؤ محدد. تساعد LIME في تفسير الحالات الفردية من خلال إحداث اضطرابات في المدخلات ومراقبة التغيرات في المخرجات.
• خرائط التباين (Saliency Maps): تُستخدم هذه التصورات على نطاق واسع في الرؤية الحاسوبية (CV)، وهي تُبرز البكسلات في الصورة التي كان لها التأثير الأكبر على قرار النموذج. تعمل طرق مثل Grad-CAM على إنشاء خرائط حرارية لإظهار المكان الذي "نظر" إليه النموذج لتحديد كائن ما.

Link to this sectionتطبيقات العالم الحقيقي#

يعد الذكاء الاصطناعي القابل للتفسير أمراً بالغ الأهمية في القطاعات التي يكون فيها "السبب" بنفس أهمية "النتيجة".

1. التشخيص في الرعاية الصحية: في تحليل الصور الطبية، لا يكفي أن يقوم الذكاء الاصطناعي ببساطة بتصنيف صورة الأشعة السينية على أنها غير طبيعية. يقوم النظام الممكن بـ XAI بتسليط الضوء على المنطقة المحددة في الرئة أو العظم التي أطلقت التنبيه. هذا الدليل المرئي يسمح لأطباء الأشعة بالتحقق من نتائج النموذج، مما يسهل اعتماد الذكاء الاصطناعي في الرعاية الصحية بشكل أكثر أماناً.

2. الخدمات المالية: عندما تستخدم البنوك الخوارزميات لتسجيل الائتمان، فإن رفض طلب القرض يتطلب تبريراً واضحاً للامتثال لقوانين مثل قانون تكافؤ الفرص الائتمانية. يمكن لأدوات XAI تفكيك الرفض إلى عوامل مفهومة - مثل "نسبة الدين إلى الدخل مرتفعة جداً" - مما يعزز العدالة في الذكاء الاصطناعي ويسمح للمتقدمين بمعالجة المشكلات المحددة.

Link to this sectionالتمييز بين المصطلحات ذات الصلة#

من المفيد التمييز بين XAI والمفاهيم المشابهة في مسرد الذكاء الاصطناعي:

• XAI مقابل الشفافية في الذكاء الاصطناعي: الشفافية مفهوم أوسع يشمل انفتاح النظام بأكمله، بما في ذلك مصادر البيانات وعمليات التطوير. بينما يركز XAI تحديداً على التقنيات المستخدمة لجعل منطق الاستنتاج مفهوماً. قد تتضمن الشفافية نشر أوزان النموذج، في حين يشرح XAI سبب إنتاج هذه الأوزان لنتيجة معينة.
• XAI مقابل القابلية للتفسير (Interpretability): غالباً ما تشير القابلية للتفسير إلى النماذج المفهومة بطبيعتها من خلال تصميمها، مثل أشجار القرار أو الانحدار الخطي. بينما يتضمن XAI عادةً طرقاً لاحقة (post-hoc) يتم تطبيقها على نماذج معقدة وغير قابلة للتفسير مثل الشبكات العصبية التلافيفية (CNN) العميقة.

Link to this sectionمثال برمجي: تصور الاستنتاج للتفسير#

تعتبر الخطوة الأساسية في القابلية للتفسير للرؤية الحاسوبية هي تصور تنبؤات النموذج مباشرة على الصورة. في حين يستخدم XAI المتقدم الخرائط الحرارية، فإن رؤية صناديق التحديد (bounding boxes) ودرجات الثقة توفر رؤية فورية لما اكتشفه النموذج. باستخدام حزمة ultralytics مع نماذج متطورة مثل YOLO26، يمكن للمستخدمين فحص مخرجات الكشف بسهولة.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model (Nano version)
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")

# Visualize the results
# This displays the image with bounding boxes, labels, and confidence scores,
# acting as a basic visual explanation of the model's detection logic.
results[0].show()

يعمل هذا التصور البسيط كفحص منطقي، وهو شكل أساسي من القابلية للتفسير يؤكد أن النموذج ينتبه للكائنات ذات الصلة في المشهد أثناء مهام اكتشاف الكائنات. بالنسبة لسير العمل الأكثر تقدماً الذي يتضمن إدارة مجموعة البيانات وتصور تدريب النموذج، يمكن للمستخدمين الاستفادة من منصة Ultralytics. غالباً ما يوسع الباحثون هذا من خلال الوصول إلى خرائط الميزات الأساسية لإجراء تحليل أعمق كما هو موضح في مبادئ NIST XAI.