كل ما تحتاج إلى معرفته عن الذكاء الاصطناعي القابل للتفسير (XAI)

هل سبق أن شاهدت إجابة من أداة الذكاء الاصطناعي (AI) مثل ChatGPT وتساءلت كيف توصلت إلى ذلك الاستنتاج؟ عندئذٍ تكون قد صادفت مشكلة «الصندوق الأسود» في الذكاء الاصطناعي. ويشير هذا المصطلح إلى غياب الوضوح بشأن كيفية معالجة نماذج الذكاء الاصطناعي للبيانات وتحليلها. وحتى مهندسو الذكاء الاصطناعي وعلماؤه الذين يعملون بانتظام على خوارزميات متقدمة قد يجدون صعوبة في فهم آلياتها الداخلية بالكامل. وفي الواقع، لا يفهم قدرات أدوات الذكاء الاصطناعي حقاً سوى 22% من المتخصصين في تقنية المعلومات.

قد يشكل عدم اليقين بشأن كيفية اتخاذ نماذج الذكاء الاصطناعي قراراتها خطراً، خصوصاً في المجالات الحساسة مثل الرؤية الحاسوبية في الرعاية الصحية والذكاء الاصطناعي في القطاع المالي. ومع ذلك، يُحرز تقدم كبير لمواجهة هذه التحديات وتحسين الشفافية.

ويركز الذكاء الاصطناعي القابل للتفسير (XAI) تحديداً على حل هذه المشكلة. وببساطة، هو مجموعة من العمليات والأساليب التي تساعد المستخدمين البشر على فهم نتائج أو مخرجات خوارزميات تعلّم الآلة المعقدة والثقة بها.

يمكن للذكاء الاصطناعي القابل للتفسير مساعدة المطورين على ضمان عمل أنظمة الذكاء الاصطناعي على النحو المتوقع. كما يمكنه مساعدة شركات الذكاء الاصطناعي على استيفاء المعايير التنظيمية. وسنستعرض في هذه المقالة الذكاء الاصطناعي القابل للتفسير ومجموعة واسعة من حالات استخدامه.

أهمية الذكاء الاصطناعي القابل للتفسير#

يُعد التفسير عاملاً أساسياً عند العمل بالذكاء الاصطناعي. وينطبق ذلك بوجه خاص على أحد فروع الذكاء الاصطناعي، وهو الرؤية الحاسوبية، المستخدمة على نطاق واسع في قطاعات مثل الرعاية الصحية. وعند استخدام نماذج الرؤية في هذه القطاعات الحساسة، من المهم أن تكون آليات عمل النموذج شفافة وقابلة للتفسير للجميع.

يساعد تفسير نماذج الرؤية الحاسوبية المستخدمين على فهم كيفية التوصل إلى تنبؤ والمنطق الكامن وراءه. وتزيد الشفافية من ذلك بتوضيح آليات عمل النموذج للجميع، من خلال بيان حدوده بوضوح وضمان استخدام البيانات أخلاقياً. فعلى سبيل المثال، يمكن للرؤية الحاسوبية مساعدة اختصاصيي الأشعة على تحديد المشكلات الصحية في صور الأشعة السينية بكفاءة.

الشكل 1. تحليل صور الأشعة السينية للصدر باستخدام الذكاء الاصطناعي المرئي، مع عرض تصنيفات السل السليم والمرضي والنشط والكامن.

لكن دقة نظام الرؤية وحدها لا تكفي. إذ يجب أن يكون النظام قادراً أيضاً على تفسير قراراته. لنفترض أن النظام يستطيع إظهار أجزاء الصورة التي أدت إلى استنتاجاته؛ عندها ستصبح المخرجات أوضح. ومن شأن هذا المستوى من الشفافية أن يساعد المهنيين الطبيين على التحقق من نتائجهم والتأكد من توافق رعاية المرضى مع المعايير الطبية.

ومن الأسباب الأخرى التي تجعل قابلية التفسير ضرورية أنها تحمّل شركات الذكاء الاصطناعي المسؤولية وتعزز ثقة المستخدمين. فالذكاء الاصطناعي الجدير بالثقة يجعل المستخدمين واثقين من أن ابتكارات الذكاء الاصطناعي تعمل بموثوقية وتتخذ قرارات منصفة وتتعامل مع البيانات بمسؤولية.

أبرز تقنيات الذكاء الاصطناعي القابل للتفسير في الرؤية الحاسوبية#

بعد أن ناقشنا أهمية قابلية التفسير في الرؤية الحاسوبية، لنلقِ نظرة على أبرز تقنيات XAI المستخدمة في الذكاء الاصطناعي المرئي.

خرائط الأهمية#

الشبكات العصبية نماذج مستوحاة من الدماغ البشري، صُممت للتعرف على الأنماط واتخاذ القرارات عبر معالجة البيانات من خلال طبقات مترابطة من العُقد (العصبونات). ويمكن استخدامها لحل مشكلات الرؤية الحاسوبية المعقدة بدقة عالية. وعلى الرغم من هذه الدقة، تظل هذه الشبكات صناديق سوداء بحكم تصميمها.

تُعد خرائط الأهمية إحدى تقنيات الذكاء الاصطناعي القابل للتفسير، ويمكن استخدامها لفهم ما تراه الشبكات العصبية أثناء تحليل الصور. كما يمكن استخدامها لاستكشاف أخطاء النماذج وإصلاحها إذا لم يكن أداؤها كما هو متوقع.

تعمل خرائط الأهمية من خلال التركيز على أجزاء الصورة (البكسلات) التي تحدد تنبؤات النموذج. وتشبه هذه العملية إلى حد كبير الانتشار العكسي، إذ يتتبع النموذج المسار عكسياً من التنبؤات إلى المدخلات. لكننا، بدلاً من تحديث أوزان النموذج بناءً على الأخطاء، ننظر فقط إلى مدى «أهمية» كل بكسل للتنبؤ. وتُعد خرائط الأهمية مفيدة جداً لمهام الرؤية الحاسوبية، مثل تصنيف الصور.

على سبيل المثال، إذا تنبأ نموذج تصنيف الصور بأن صورة ما لكلب، فيمكننا الاطلاع على خريطة الأهمية لفهم سبب اعتقاد النموذج أنها صورة كلب. ويساعدنا ذلك على تحديد البكسلات الأكثر تأثيرًا في المخرجات. وستُبرز خريطة الأهمية جميع البكسلات التي أسهمت في التنبؤ النهائي بأن الصورة لكلب.

الشكل 2. عرض متجاور لصور الإدخال وخرائط الأهمية الخاصة بها.

تحديد مواضع تفعيل الفئات (CAM)#

يُعد تحديد مواضع تفعيل الفئات (CAM) تقنية أخرى من تقنيات XAI تُستخدم لفهم أجزاء الصورة التي تركز عليها الشبكة العصبية عند إصدار تنبؤات تصنيف الصور. وتعمل هذه التقنية بطريقة مشابهة لخرائط الأهمية، لكنها تركز على تحديد السمات المهمة في الصورة بدلًا من بكسلات بعينها. فالـسمات أنماط أو تفاصيل، مثل الأشكال أو الأنسجة، يكتشفها النموذج في الصورة.

تعتمد أساليب مثل خرائط تفعيل الفئات الموزونة بالتدرج (Grad-CAM) وGrad-CAM++ على الفكرة نفسها مع بعض التحسينات.

إليك آلية عمل CAM:

• قبل أن تتخذ الشبكة العصبية قرارها النهائي، تستخدم خطوة تُسمى التجميع المتوسط العام (GAP) لتبسيط المعلومات. تجمع GAP جميع البكسلات في نمط مكتشف وتحسب متوسطًا واحدًا لها، لتنشئ ملخصًا لكل خريطة سمات (تمثيلًا مرئيًا للأنماط المكتشفة).
• ثم يُخصص لكل خريطة سمات وزن يوضح مدى أهميتها للتنبؤ بفئة معينة (مثل «طائر» أو «قطة»).
• لكن أحد قيود CAM هو أنك قد تحتاج إلى إعادة تدريب النموذج لحساب هذه الأوزان، وهو ما قد يستغرق وقتاً طويلاً.

يُحسّن Grad-CAM هذه الطريقة باستخدام التدرجات، وهي إشارات توضّح مدى تأثير كل خريطة سمات في التنبؤ النهائي. وتتفادى هذه الطريقة الحاجة إلى GAP، كما تسهّل معرفة ما يركز عليه النموذج دون إعادة تدريبه. ويخطو Grad-CAM++ خطوة أخرى بالتركيز على التأثيرات الإيجابية فقط، ما يجعل النتائج أوضح. ويمكن لنماذج Ultralytics YOLO حفظ خريطة حرارية مماثلة لتنشيط الفئات لكل صورة عند تشغيل وضع التنبؤ باستخدام visualize=True.

الشكل 3. مقارنة بين CAM وGrad-CAM وGrad-CAM++.

التفسيرات المضادة للواقع#

تُعد التفسيرات المضادة للواقع عنصرًا مهمًا في الذكاء الاصطناعي القابل للتفسير. وتتضمن وصف موقف أو نتيجة من خلال النظر في سيناريوهات أو أحداث بديلة لم تقع، لكنها كان من الممكن أن تقع. ويمكنها توضيح كيف تؤدي التغييرات في متغيرات إدخال محددة إلى نتائج مختلفة، مثل: «لو لم يحدث X، لما وقع Y».

في مجال الذكاء الاصطناعي والرؤية الحاسوبية، يحدد التفسير المضاد للواقع أصغر تغيير مطلوب في مُدخل (مثل صورة أو بيانات) لحمل نموذج الذكاء الاصطناعي على إنتاج نتيجة مختلفة ومحددة. فعلى سبيل المثال، قد يؤدي تغيير لون جسم في صورة إلى تغيير تنبؤ نموذج تصنيف الصور من «قطة» إلى «كلب».

ومن الأمثلة الجيدة الأخرى تغيير زاوية التصوير أو الإضاءة في نظام للتعرف على الوجوه. فقد يدفع ذلك النموذج إلى تحديد هوية شخص مختلف، موضحًا كيف يمكن للتغييرات البسيطة في المدخلات أن تؤثر في تنبؤات النموذج.

أبسط طريقة لإنشاء هذه التفسيرات هي التجربة والخطأ: يمكنك تغيير أجزاء من المُدخل عشوائياً (مثل سمات الصورة أو البيانات) إلى أن يعطيك نموذج الذكاء الاصطناعي النتيجة المطلوبة. وتشمل الأساليب الأخرى مناهج مستقلة عن النموذج تستخدم تقنيات التحسين والبحث للعثور على التغييرات، ومناهج خاصة بالنموذج تعتمد على إعداداته الداخلية أو حساباته لتحديد التغييرات اللازمة.

تطبيقات الذكاء الاصطناعي القابل للتفسير في الرؤية الحاسوبية#

بعد أن استعرضنا ماهية الذكاء الاصطناعي القابل للتفسير وأبرز تقنياته، يمكننا الآن توضيح كيفية استخدامه عملياً. للذكاء الاصطناعي القابل للتفسير تطبيقات متنوعة في مجالات كثيرة. إليك بعض حالات الاستخدام التي تبرز إمكاناته:

• أنظمة الأمن: يمكن استخدام XAI لتعزيز أنظمة الأمن من خلال اكتشاف الصور المحوّرة في وثائق الهوية مثل جوازات السفر ورخص القيادة. ويضمن ذلك أصالة الصور، ويعزز إجراءات التحقق من الهوية، ويمنع الأنشطة الاحتيالية في التطبيقات الحساسة.

الشكل 4. كيفية عمل XAI لاكتشاف الصور المحوّرة.

• القيادة الذاتية: يمكن أن يشكل فهم إمكانات نظام الذكاء الاصطناعي المرئي المدمج في سيارة ذاتية القيادة وحدوده جزءًا مهمًا من اختبار السيارة قبل نشرها على الطرق الفعلية. ويمكن لـXAI مساعدة شركات السيارات على تحديد المشكلات ومعالجتها بوضوح أكبر.
• الأنظمة القانونية: يزداد استخدام أنظمة تحليل المستندات المدعومة بالرؤية في اتخاذ القرارات القضائية. ويسهم الذكاء الاصطناعي القابل للتفسير في تحقيق نتائج منصفة ويتيح التدقيق في الأحكام المؤتمتة. كما يساعد المهنيين القانونيين على فهم كيفية توصل نموذج الذكاء الاصطناعي إلى قراراته.
• مراقبة الحياة البرية: تُستخدم كاميرات الفخ غالبًا لمراقبة الحياة البرية وجمع البيانات عن أنواع الحيوانات. ويمكن استخدام XAI لتفسير كيفية تصنيف الذكاء الاصطناعي لهذه الأنواع في الصور. ويساعد ذلك على جعل جهود الحفاظ على الحياة البرية أكثر موثوقية ودقة.

أبرز النقاط حول الذكاء الاصطناعي القابل للتفسير#

يسهّل الذكاء الاصطناعي القابل للتفسير فهم طريقة عمل أنظمة الذكاء الاصطناعي وأسباب اتخاذها قرارات معينة. وتعزز الشفافية بشأن نماذج الذكاء الاصطناعي الثقة والمساءلة. وفي المجالات الحساسة مثل الرعاية الصحية والأمن والقيادة الذاتية والأنظمة القانونية، يمكن استخدام الذكاء الاصطناعي القابل للتفسير لمساعدة المطورين والمستخدمين على فهم تنبؤات الذكاء الاصطناعي، وتحديد الأخطاء، وضمان الاستخدام العادل والأخلاقي. ومن خلال جعل الذكاء الاصطناعي أكثر شفافية، يردم الذكاء الاصطناعي القابل للتفسير الفجوة بين التكنولوجيا والثقة البشرية، مما يجعله أكثر أماناً وموثوقية في التطبيقات الواقعية.

للمزيد، تفضل بزيارة مستودع GitHub وشارك في مجتمعنا. استكشف تطبيقات الذكاء الاصطناعي في السيارات ذاتية القيادة والزراعة في صفحات الحلول لدينا.