كل ما تحتاج إلى معرفته عن الذكاء الاصطناعي القابل للتفسير (XAI)

هل سبق لك أن رأيت استجابة من أداة ذكاء اصطناعي (AI) مثل ChatGPT وتساءلت كيف توصلت إلى هذا الاستنتاج؟ إذاً، فقد واجهت مشكلة "الصندوق الأسود" في الذكاء الاصطناعي. وهو مصطلح يشير إلى نقص الوضوح بشأن كيفية معالجة نماذج الذكاء الاصطناعي للبيانات وتحليلها. حتى مهندسو وعلماء الذكاء الاصطناعي الذين يعملون بانتظام مع خوارزميات الذكاء الاصطناعي المتطورة قد يجدون صعوبة في فهم آليات عملها الداخلية بشكل كامل. في الواقع، 22% فقط من متخصصي تكنولوجيا المعلومات يفهمون حقاً قدرات أدوات الذكاء الاصطناعي.

يمكن أن تكون حالة عدم اليقين المحيطة بكيفية اتخاذ نماذج الذكاء الاصطناعي للقرارات محفوفة بالمخاطر، خاصة في المجالات الحساسة مثل الرؤية الحاسوبية في الرعاية الصحية والذكاء الاصطناعي في التمويل. ومع ذلك، يتم إحراز تقدم كبير لمعالجة هذه التحديات وتحسين الشفافية.

على وجه الخصوص، يركز الذكاء الاصطناعي القابل للتفسير (XAI) بشكل حصري على حل هذه المشكلة. ببساطة، هو عبارة عن مجموعة من العمليات والأساليب التي تساعد المستخدمين من البشر على فهم والثقة في النتائج أو المخرجات التي تقدمها خوارزميات التعلم الآلي المعقدة.

يمكن أن تساعد XAI المطورين في ضمان أن أنظمة الذكاء الاصطناعي تعمل كما هو متوقع. كما يمكنها مساعدة شركات الذكاء الاصطناعي في تلبية المعايير التنظيمية. في هذه المقالة، سنستكشف الذكاء الاصطناعي القابل للتفسير ومجموعة واسعة من حالات استخدامه. لنبدأ!

Link to this sectionأهمية الذكاء الاصطناعي القابل للتفسير#

تعد قابلية التفسير أمراً أساسياً عند العمل مع الذكاء الاصطناعي. وهذا صحيح بشكل خاص عندما يتعلق الأمر بمجال فرعي من الذكاء الاصطناعي، وهو الرؤية الحاسوبية، والذي يُستخدم على نطاق واسع في تطبيقات في قطاعات مثل الرعاية الصحية. عند استخدام نماذج الرؤية في مثل هذه القطاعات الحساسة، من المهم أن تكون آليات عمل النموذج شفافة وقابلة للتفسير للجميع.

تساعد القابلية للتفسير في نماذج الرؤية الحاسوبية المستخدمين على فهم أفضل لكيفية اتخاذ التنبؤ والمنطق الكامن وراءه. وتضيف الشفافية إلى ذلك من خلال جعل آليات عمل النموذج واضحة للجميع عبر تحديد قيود النموذج بوضوح وضمان استخدام البيانات بشكل أخلاقي. على سبيل المثال، يمكن أن تساعد الرؤية الحاسوبية أطباء الأشعة في تحديد المضاعفات الصحية في صور الأشعة السينية بكفاءة.

الشكل 1. صور أشعة سينية للصدر تم تحليلها باستخدام رؤية الذكاء الاصطناعي توضح تصنيفات السل السليم، والمريض، والنشط، والكامن.

ومع ذلك، فإن نظام الرؤية الذي يتميز بالدقة فقط لا يكفي. يجب أن يكون النظام قادراً أيضاً على تفسير قراراته. لنفترض أن النظام يمكنه إظهار أجزاء الصورة التي أدت إلى استنتاجاته - عندها ستكون أي مخرجات أكثر وضوحاً. مثل هذا المستوى من الشفافية سيساعد المتخصصين الطبيين على التحقق من نتائجهم والتأكد من أن رعاية المرضى تلبي المعايير الطبية.

سبب آخر يجعل قابلية التفسير ضرورية هو أنها تجعل شركات الذكاء الاصطناعي مسؤولة وتبني الثقة لدى المستخدمين. يؤدي الذكاء الاصطناعي الجدير بالثقة إلى شعور المستخدمين بالثقة في أن ابتكارات الذكاء الاصطناعي تعمل بشكل موثوق، وتتخذ قرارات عادلة، وتتعامل مع البيانات بمسؤولية.

Link to this sectionتقنيات الذكاء الاصطناعي القابل للتفسير الرئيسية في الرؤية الحاسوبية#

الآن بعد أن ناقشنا سبب أهمية قابلية التفسير في الرؤية الحاسوبية، دعنا نلقي نظرة على تقنيات XAI الرئيسية المستخدمة في رؤية الذكاء الاصطناعي.

Link to this sectionخرائط البروز (Saliency maps)#

الشبكات العصبية هي نماذج مستوحاة من الدماغ البشري، مصممة للتعرف على الأنماط واتخاذ القرارات عن طريق معالجة البيانات من خلال طبقات مترابطة من العقد (الخلايا العصبية). يمكن استخدامها لحل مشاكل الرؤية الحاسوبية المعقدة بدقة عالية. وحتى مع هذه الدقة، تظل صناديق سوداء بطبيعتها.

خرائط البروز هي تقنية XAI يمكن استخدامها للمساعدة في فهم ما تراه الشبكات العصبية عندما تقوم بتحليل الصور. يمكن استخدامها أيضاً لاستكشاف أخطاء النماذج وإصلاحها في حال عدم أدائها كما هو متوقع.

تعمل خرائط البروز من خلال التركيز على أجزاء الصورة (البكسلات) التي تحدد تنبؤات النموذج. هذه العملية تشبه إلى حد كبير الانتشار العكسي، حيث يتتبع النموذج المسار من التنبؤات وصولاً إلى المدخلات. ولكن بدلاً من تحديث أوزان النموذج بناءً على الأخطاء، نحن ننظر فقط إلى مدى "أهمية" كل بكسل للتنبؤ. تعد خرائط البروز مفيدة جداً لـ مهام الرؤية الحاسوبية مثل تصنيف الصور.

على سبيل المثال، إذا تنبأ نموذج تصنيف الصور بأن صورة ما هي لكلب، يمكننا النظر إلى خريطة البروز الخاصة به لفهم سبب اعتقاد النموذج أنه كلب. يساعدنا هذا في تحديد أي البكسلات تؤثر على المخرجات أكثر من غيرها. ستقوم خريطة البروز بتمييز جميع البكسلات التي ساهمت في التنبؤ النهائي بأن الصورة لكلب.

الشكل 2. عرض جنباً إلى جنب لصور المدخلات وخرائط البروز الخاصة بها.

Link to this sectionرسم خرائط تنشيط الفئة (CAM)#

رسم خرائط تنشيط الفئة هو تقنية XAI أخرى تُستخدم لفهم الأجزاء التي تركز عليها الشبكة العصبية في الصورة عند إجراء تنبؤات تصنيف الصور. تعمل بشكل مشابه لخرائط البروز ولكنها تركز على تحديد الميزات المهمة في الصورة بدلاً من بكسلات محددة. الميزات هي أنماط أو تفاصيل، مثل الأشكال أو القوام، التي يكتشفها النموذج في الصورة.

تعتمد أساليب مثل رسم خرائط تنشيط الفئة المرجحة بالتدرج (Grad-CAM) وGrad-CAM++ على نفس الفكرة، مع بعض التحسينات.

إليك كيفية عمل CAM:

• قبل أن تتخذ الشبكة العصبية قرارها النهائي، تستخدم خطوة تسمى التجميع المتوسط العالمي (GAP) لتبسيط المعلومات. يجمع GAP جميع البكسلات في نمط مكتشف في قيمة متوسطة واحدة، مما يخلق ملخصاً لكل خريطة ميزات (تمثيل مرئي للأنماط المكتشفة).
• يتم بعد ذلك إعطاء كل خريطة ميزات وزناً يوضح مدى أهميتها للتنبؤ بفئة معينة (مثل "طائر" أو "قطة").
• ومع ذلك، أحد قيود CAM هو أنك قد تحتاج إلى إعادة تدريب النموذج لحساب هذه الأوزان، وهو ما قد يستغرق وقتاً طويلاً.

يعمل Grad-CAM على تحسين ذلك باستخدام التدرجات، والتي تشبه الإشارات التي توضح مقدار تأثير كل خريطة ميزات على التنبؤ النهائي. تتجنب هذه الطريقة الحاجة إلى GAP وتجعل من السهل رؤية ما يركز عليه النموذج دون إعادة تدريب. يأخذ Grad-CAM++ هذه الخطوة إلى أبعد من ذلك من خلال التركيز فقط على التأثيرات الإيجابية، مما يجعل النتائج أكثر وضوحاً.

الشكل 3. مقارنة بين CAM وGrad-CAM وGrad-CAM++.

Link to this sectionالتفسيرات المضادة للواقع (Counterfactual explanations)#

تعد التفسيرات المضادة للواقع عنصراً مهماً في الذكاء الاصطناعي القابل للتفسير. يتضمن التفسير المضاد للواقع وصف موقف أو نتيجة من خلال النظر في سيناريوهات أو أحداث بديلة لم تحدث ولكن كان من الممكن أن تحدث. يمكنها توضيح كيف تؤدي التغييرات في متغيرات مدخلات محددة إلى نتائج مختلفة، مثل: "لو لم يحدث X، لما حدث Y."

عندما يتعلق الأمر بالذكاء الاصطناعي والرؤية الحاسوبية، يحدد التفسير المضاد للواقع أصغر تغيير مطلوب في المدخلات (مثل صورة أو بيانات) لجعل نموذج الذكاء الاصطناعي ينتج نتيجة مختلفة ومحددة. على سبيل المثال، قد يؤدي تغيير لون كائن في صورة إلى تغيير تنبؤ نموذج تصنيف الصور من "قطة" إلى "كلب".

مثال جيد آخر هو تغيير الزاوية أو الإضاءة في نظام التعرف على الوجوه. قد يؤدي ذلك إلى قيام النموذج بتحديد فرد مختلف، مما يوضح كيف يمكن للتغييرات الصغيرة في المدخلات التأثير على تنبؤات النموذج.

أبسط طريقة لإنشاء هذه التفسيرات هي التجربة والخطأ: يمكنك تغيير أجزاء من المدخلات بشكل عشوائي (مثل ميزات الصورة أو البيانات) حتى يعطيك نموذج الذكاء الاصطناعي النتيجة المطلوبة. تشمل الطرق الأخرى المناهج المستقلة عن النموذج، والتي تستخدم تقنيات التحسين والبحث للعثور على التغييرات، والمناهج الخاصة بالنموذج، والتي تعتمد على إعدادات أو حسابات داخلية لتحديد التغييرات المطلوبة.

Link to this sectionتطبيقات الذكاء الاصطناعي القابل للتفسير في الرؤية الحاسوبية#

الآن بعد أن استكشفنا ماهية XAI وتقنياتها الرئيسية، يمكننا استعراض كيفية استخدامها في الحياة الواقعية. تمتلك XAI تطبيقات متنوعة عبر العديد من المجالات. دعنا نغوص في بعض حالات الاستخدام التي تسلط الضوء على إمكاناتها:

• أنظمة الأمن: يمكن استخدام XAI لتعزيز الأنظمة الأمنية من خلال اكتشاف الصور المُعدلة في وثائق الهوية مثل جوازات السفر ورخص القيادة. وهذا يضمن صحة الصور، ويعزز عمليات التحقق من الهوية، ويمنع الأنشطة الاحتيالية في التطبيقات الحساسة.

الشكل 4. كيف تعمل XAI لاكتشاف الصور المُعدلة.

• القيادة الذاتية: يمكن أن يكون فهم قدرات وقيود نظام رؤية الذكاء الاصطناعي على متن السيارة ذاتية القيادة جزءاً كبيراً من اختبار السيارة قبل نشرها على الطرق الواقعية. يمكن أن تساعد XAI شركات السيارات في تحديد المشكلات ومعالجتها بشكل أوضح.

• الأنظمة القانونية: تُستخدم أنظمة تحليل المستندات التي تدعمها الرؤية بشكل متزايد في اتخاذ القرارات القضائية. تدعم XAI النتائج العادلة وتسمح بالتدقيق في الأحكام المؤتمتة. كما أنها تساعد المتخصصين القانونيين على فهم كيفية وصول نموذج الذكاء الاصطناعي إلى قراراته.

• مراقبة الحياة البرية: غالباً ما تُستخدم مصائد الكاميرا لمراقبة الحياة البرية وجمع بيانات عن أنواع الحيوانات. يمكن استخدام XAI لتفسير كيفية تصنيف الذكاء الاصطناعي لهذه الأنواع في الصور. وبذلك، يمكن أن تكون جهود الحفاظ على البيئة أكثر موثوقية ودقة.

Link to this sectionالوجبات السريعة الرئيسية حول الذكاء الاصطناعي القابل للتفسير#

يجعل الذكاء الاصطناعي القابل للتفسير فهم كيفية عمل أنظمة الذكاء الاصطناعي وسبب اتخاذها لقرارات معينة أسهل. تبني الشفافية بشأن نماذج الذكاء الاصطناعي الثقة والمساءلة. المعرفة قوة وتساعد على استخدام ابتكارات الذكاء الاصطناعي بشكل أكثر مسؤولية. في المجالات الحساسة مثل الرعاية الصحية، والأمن، والقيادة الذاتية، والأنظمة القانونية، يمكن استخدام XAI لمساعدة المطورين والمستخدمين على فهم تنبؤات الذكاء الاصطناعي، وتحديد الأخطاء، وضمان الاستخدام العادل والأخلاقي. من خلال جعل الذكاء الاصطناعي أكثر شفافية، تسد XAI الفجوة بين التكنولوجيا والثقة البشرية، مما يجعله أكثر أماناً وموثوقية للتطبيقات الواقعية.

لمعرفة المزيد، تفضل بزيارة مستودع GitHub الخاص بنا، وتفاعل مع مجتمعنا. استكشف تطبيقات الذكاء الاصطناعي في السيارات ذاتية القيادة والزراعة على صفحات الحلول الخاصة بنا. 🚀