Explainable AI (XAI)

يشير الذكاء الاصطناعي القابل للتفسير (XAI) إلى مجموعة شاملة من العمليات والأدوات والأساليب المصممة لجعل مخرجات أنظمة الذكاء الاصطناعي (AI) مفهومة للمستخدمين البشريين. ومع تزايد اعتماد المؤسسات على نماذج التعلّم الآلي (ML) المعقدة—ولا سيما في مجال التعلّم العميق (DL)—غالبًا ما تعمل هذه الأنظمة كـ«صناديق سوداء». ورغم أن نموذج الصندوق الأسود قد يقدم تنبؤات عالية الدقة، يظل منطق اتخاذ القرار الداخلي فيه غامضًا. ويهدف XAI إلى إلقاء الضوء على هذه العملية، ومساعدة أصحاب المصلحة على فهم سبب اتخاذ قرار معين، وهو أمر بالغ الأهمية لتعزيز الثقة وضمان السلامة والامتثال للمتطلبات التنظيمية.

أهمية قابلية التفسير#

يدفع الطلب على الشفافية في اتخاذ القرارات المؤتمت إلى اعتماد XAI في مختلف القطاعات. وتُعد الثقة عاملًا أساسيًا؛ إذ تقل احتمالية اعتماد المستخدمين على النمذجة التنبؤية إذا لم يتمكنوا من التحقق من المنطق الكامن وراءها. وتزداد أهمية ذلك في البيئات عالية المخاطر، حيث قد تترتب على الأخطاء عواقب وخيمة.

• الامتثال للمتطلبات التنظيمية: تفرض الأطر القانونية الجديدة، مثل قانون الذكاء الاصطناعي للاتحاد الأوروبي واللائحة العامة لحماية البيانات (GDPR)، بصورة متزايدة على أنظمة الذكاء الاصطناعي عالية المخاطر تقديم تفسيرات قابلة للفهم لقراراتها.
• الذكاء الاصطناعي الأخلاقي: يُعد تطبيق XAI ركيزة أساسية في أخلاقيات الذكاء الاصطناعي. ومن خلال الكشف عن الميزات التي تؤثر في مخرجات النموذج، يستطيع المطورون تحديد التحيز الخوارزمي والحد منه، بما يضمن عمل النظام بإنصاف بين الفئات السكانية المختلفة.
• تصحيح أخطاء النموذج: بالنسبة إلى المهندسين، تُعد قابلية التفسير ضرورية في مراقبة النموذج. فهي تساعد على تشخيص أسباب فشل النموذج في حالات طرفية محددة أو معاناته من انجراف البيانات، مما يتيح إعادة تدريب أكثر استهدافًا.

التقنيات الشائعة في XAI#

توجد تقنيات متنوعة لجعل الشبكات العصبية أكثر شفافية، وغالبًا ما تُصنَّف وفقًا لكونها مستقلة عن النموذج (قابلة للتطبيق على أي خوارزمية) أو خاصة بنموذج معين.

• SHAP (التفسيرات الإضافية المستندة إلى قيم شابلي): استنادًا إلى نظرية الألعاب التعاونية، تُسند قيم SHAP درجة مساهمة إلى كل ميزة لتنبؤ معين، موضحةً مقدار إزاحة كل مُدخل للنتيجة بعيدًا عن خط الأساس.
• LIME (التفسيرات المحلية القابلة للفهم والمستقلة عن النموذج): تقرّب هذه الطريقة نموذجًا معقدًا بنموذج أبسط قابل للفهم (مثل نموذج خطي) محليًا حول تنبؤ محدد. وتساعد LIME على تفسير الحالات الفردية من خلال تغيير المدخلات ومراقبة التغيرات في المخرجات.
• خرائط البروز: تُستخدم هذه التصورات على نطاق واسع في الرؤية الحاسوبية (CV)، إذ تبرز وحدات البكسل في الصورة التي أثرت بدرجة أكبر في قرار النموذج. وتنشئ أساليب مثل Grad-CAM خرائط حرارية توضح الموضع الذي «نظر» إليه النموذج لتحديد كائن.

التطبيقات الواقعية#

يُعد الذكاء الاصطناعي القابل للتفسير بالغ الأهمية في القطاعات التي لا تقل فيها أهمية «السبب» عن أهمية «النتيجة».

1. التشخيص الطبي: في تحليل الصور الطبية، لا يكفي أن يكتفي الذكاء الاصطناعي بالإشارة إلى أن صورة الأشعة السينية غير طبيعية. إذ يبرز النظام المدعوم بـ XAI المنطقة المحددة من الرئة أو العظم التي أطلقت التنبيه. وتتيح هذه الأدلة المرئية لأطباء الأشعة التحقق من نتائج النموذج، مما يسهل اعتماد الذكاء الاصطناعي في الرعاية الصحية بصورة أكثر أمانًا.

2. الخدمات المالية: عندما تستخدم البنوك خوارزميات لتقييم الجدارة الائتمانية، يتطلب رفض طلب قرض تبريرًا واضحًا للامتثال لقوانين مثل قانون تكافؤ فرص الائتمان. ويمكن لأدوات XAI تفكيك الرفض إلى عوامل مفهومة—مثل «نسبة الدين إلى الدخل مرتفعة جدًا»—مما يعزز الإنصاف في الذكاء الاصطناعي ويتيح لمقدمي الطلبات معالجة المشكلات المحددة.

التمييز بين المصطلحات ذات الصلة#

من المفيد التمييز بين XAI والمفاهيم المشابهة في مسرد الذكاء الاصطناعي:

• XAI مقابل الشفافية في الذكاء الاصطناعي: الشفافية مفهوم أوسع يشمل انفتاح النظام بأكمله، بما في ذلك مصادر البيانات وعمليات التطوير. ويركز XAI تحديدًا على التقنيات المستخدمة لجعل منطق الاستدلال مفهومًا. وقد تتضمن الشفافية نشر أوزان النموذج، في حين يوضح XAI سبب إنتاج تلك الأوزان لنتيجة معينة.
• XAI مقابل قابلية التفسير: تشير قابلية التفسير غالبًا إلى النماذج المفهومة بطبيعتها بحكم تصميمها، مثل أشجار القرار أو الانحدار الخطي. ويتضمن XAI عادةً أساليب لاحقة تُطبَّق على نماذج معقدة غير قابلة للتفسير، مثل الشبكات العصبية الالتفافية (CNN) العميقة.

مثال برمجي: تصور الاستدلال بغرض التفسير#

تتمثل إحدى الخطوات الأساسية في قابلية التفسير للرؤية الحاسوبية في تصور تنبؤات النموذج مباشرةً على الصورة. وبينما يستخدم XAI المتقدم خرائط حرارية، فإن رؤية مربعات الإحاطة ودرجات الثقة توفر فهمًا فوريًا لما اكتشفه النموذج. وباستخدام الحزمة ultralytics مع نماذج متطورة مثل YOLO26، يمكن للمستخدمين فحص مخرجات الكشف بسهولة.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model (Nano version)
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")

# Visualize the results
# This displays the image with bounding boxes, labels, and confidence scores,
# acting as a basic visual explanation of the model's detection logic.
results[0].show()

يعمل هذا التصور البسيط كاختبار سلامة، وهو شكل أساسي من قابلية التفسير يؤكد أن النموذج يركز على الكائنات ذات الصلة في المشهد أثناء مهام كشف الكائنات. وبالنسبة إلى سير العمل الأكثر تقدمًا الذي يتضمن إدارة مجموعات البيانات وتصور تدريب النماذج، يمكن للمستخدمين الاستفادة من منصة Ultralytics. وغالبًا ما يوسّع الباحثون هذا النهج من خلال الوصول إلى خرائط الميزات الأساسية لإجراء تحليل أعمق، كما هو موضح في مبادئ NIST للذكاء الاصطناعي القابل للتفسير.