كل ما تحتاج إلى معرفته عن الذكاء الاصطناعي القابل للتفسير (XAI)

هل رأيت من قبل ردًا من أداة ذكاء اصطناعي (AI) مثل ChatGPT وتساءلت كيف توصلت إلى تلك النتيجة؟ إذن، لقد واجهت معضلة "الصندوق الأسود" للذكاء الاصطناعي. إنه مصطلح يشير إلى نقص الوضوح بشأن كيفية معالجة نماذج الذكاء الاصطناعي للبيانات وتحليلها. حتى مهندسو وعلماء الذكاء الاصطناعي الذين يتعاملون بانتظام مع خوارزميات الذكاء الاصطناعي المتطورة قد يجدون صعوبة في فهم أعمالها الداخلية تمامًا. في الواقع، 22% فقط من محترفي تكنولوجيا المعلومات يفهمون حقًا قدرات أدوات الذكاء الاصطناعي.

يمكن أن تكون حالة عدم اليقين المحيطة بكيفية اتخاذ نماذج الذكاء الاصطناعي للقرارات محفوفة بالمخاطر، لا سيما في المجالات الحيوية مثل رؤية الكمبيوتر في الرعاية الصحية والذكاء الاصطناعي في التمويل. ومع ذلك، يتم إحراز تقدم كبير لمعالجة هذه التحديات وتحسين الشفافية.

على وجه الخصوص، تركز الذكاء الاصطناعي الققابل للتفسير (XAI) حصريًا على حل هذه المشكلة. ببساطة، إنها مجموعة من العمليات والطرق التي تساعد المستخدمين البشريين على فهم نتائج أو مخرجات خوارزميات التعلم الآلي المعقدة والثقة بها.

يمكن أن تساعد XAI المطورين في ضمان عمل أنظمة الذكاء الاصطناعي بالشكل المتوقع. يمكنها أيضًا مساعدة شركات الذكاء الاصطناعي في تلبية المعايير التنظيمية. في هذه المقالة، سنستكشف الذكاء الاصطناعي القابل للتفسير ومجموعة واسعة من حالات الاستخدام الخاصة به. لنبدأ!

أهمية الذكاء الاصطناعي القابل للتفسير#

تعد قابلية التفسير أمرًا أساسيًا عند التعامل مع الذكاء الاصطناعي. يصدق هذا بشكل خاص عندما يتعلق الأمر بالمجال الفرعي للذكاء الاصطناعي، وهو رؤية الكمبيوتر، والذي يُستخدم على نطاق واسع في التطبيقات في قطاعات مثل الرعاية الصحية. عند استخدام نماذج الرؤية في مثل هذه الصناعات الحساسة، من المهم أن تكون أعمال النموذج شفافة وقابلة للتفسير للجميع.

تساعد قابلية التفسير في نماذج رؤية الكمبيوتر المستخدمين على فهم أفضل لكيفية اتخاذ التنبؤ والمنطق الكامن وراءه. وتضيف الشفافية إلى ذلك من خلال جعل أعمال النموذج واضحة للجميع عن طريق تحديد قيود النموذج بوضوح وضمان استخدام البيانات بشكل أخلاقى. على سبيل المثال، يمكن لرؤية الكمبيوتر مساعدة أطباء الأشعة في تحديد مضاعفات الصحة بكفاءة في صور الأشعة السينية.

الشكل 1. أشعة سينية على الصدر تم تحليلها باستخدام رؤية الذكاء الاصطناعي تظهر تصنيفات السل السليم، والمرضي، والنشط، والكامن.

مع ذلك، فإن نظام الرؤية الدقيق وحده لا يكفي. يجب أن يكون النظام قادرًا أيضًا على تفسير قراراته. لنفترض أن النظام يمكنه إظهار أجزاء الصورة التي أدت إلى استنتاجاته - فحينئذٍ تصبح أي مخرجات أكثر وضوحًا. من شأن هذا المستوى من الشفافية أن يساعد المتخصصين الطبيين في التحقق المزدوج من النتائج والتأكد من أن رعاية المريض تلبي المعايير الطبية.

سبب آخر لأهمية قابلية التفسير هو أنها تجعل شركات الذكاء الاصطناعي مسؤولة وتزود الثقة في المستخدمين. يؤدي الذكاء الاصطناعي الجدير بالثقة إلى شعور المستخدمين بالثقة بأن ابتكارات الذكاء الاصطناعي تعمل بشكل موثوق، وتتخذ قرارات عادلة، وتتعامل مع البيانات بطريقة مسؤولة.

تقنيات الذكاء الاصطناعي القابل للتفسير الرئيسية في الرؤية الحاسوبية#

الآن بعد أن ناقشنا سبب أهمية قابلية التفسير في الرؤية الحاسوبية، دعنا نلقي نظرة على تقنيات XAI الرئيسية المستخدمة في رؤية الذكاء الاصطناعي.

خرائط البروز (Saliency maps)#

الشبكات العصبية هي نماذج مستوحاة من الدماغ البشري، مصممة التعرف على الأنماط واتخاذ القرارات عن طريق معالجة البيانات من خلال طبقات مترابطة من العقد (الخلايا العصبية). يمكن استخدامها لحل مشكلات رؤية الكمبيوتر المعقدة بدقة عالية. وحتى مع هذه الدقة، فإنها تظل صناديق سوداء بطبيعتها التصميمية.

خرائط البروز هي تقنية XAI يمكن استخدامها للمساعدة في فهم ما تراه الشبكات العصبية عندما تقوم بتحليل الصور. يمكن استخدامها أيضاً لاستكشاف أخطاء النماذج وإصلاحها في حال عدم أدائها كما هو متوقع.

تعمل خرائط السطوع من خلال التركيز على الأجزاء من الصورة (البكسلات) التي تحدد تنبؤات النموذج. تشبه هذه العملية إلى حد كبير الانتشار العكسي، حيث يتعقب النموذج مرة أخرى من التنبؤات إلى المدخلات. ولكن بدلاً من تحديث أوزان النموذج بناءً على الأخطاء، فإننا ننظر فقط إلى مدى "أهمية" كل بكسل للتنبؤ. خرائط السطوع مفيدة للغاية لمهام رؤية الكمبيوتر مثل تصنيف الصور.

على سبيل المثال، إذا تنبأ نموذج تصنيف الصور بأن صورة ما تخص كلبًا، فيمكننا النظر إلى خريطة السطوع الخاصة بها لفهم سبب اعتقاد النموذج أنه كلب. يساعدنا هذا في تحديد البكسلات التي تؤثر على الناتج أكثر من غيرها. ستسلط خريطة السطوع الضوء على جميع البكسلات التي ساهمت في التنبؤ النهائي بأن الصورة لكلب.

الشكل 2. عرض جنبا إلى جنب لصور المدخلات وخرائط السطوع الخاصة بها.

رسم خرائط تنشيط الفئة (CAM)#

تعيين تنشيط الفئة هو تقنية أخرى من تقنيات XAI المستخدمة لفهم الأجزاء من الصورة التي تركز عليها الشبكة العصبية عند إجراء تنبؤات تصنيف الصور. وهي تعمل بشكل مشابه لخرائط السطوع ولكنها تركز على تحديد الميزات الهامة في الصورة بدلاً من بكسلات معينة. الميزات هي أنماط أو تفاصيل، مثل الأشكال أو الأنسجة، التي يكتشفها النموذج في الصورة.

تعتمد أساليب مثل رسم خرائط تنشيط الفئة المرجحة بالتدرج (Grad-CAM) وGrad-CAM++ على نفس الفكرة، مع بعض التحسينات.

إليك كيفية عمل CAM:

• قبل أن تتخذ الشبكة العصبية قرارها النهائي، تستخدم خطوة تسمى التجميع المتوسط العالمي (GAP) لتبسيط المعلومات. يجمع GAP جميع البكسلات في نمط مكتشف في قيمة متوسطة واحدة، مما يخلق ملخصاً لكل خريطة ميزات (تمثيل مرئي للأنماط المكتشفة).
• يتم بعد ذلك إعطاء كل خريطة ميزات وزناً يوضح مدى أهميتها للتنبؤ بفئة معينة (مثل "طائر" أو "قطة").
• مع ذلك، أحد قيود CAM هو أنك قد تحتاج إلى إعادة تدريب النموذج لحساب هذه الأوزان، وهو ما قد يستغرق وقتًا طويلاً.

يتحسن Grad-CAM في ذلك باستخدام التدرجات، والتي تشبه الإشارات التي توضح مدى تأثير كل خريطة ميزات على التنبؤ النهائي. تتجنب هذه الطريقة الحاجة إلى GAP وتجعل من السهل رؤية ما يركز عليه النموذج دون إعادة التدريب. يأخذ Grad-CAM++ هذا خطوة أخرى إلى الأمام من خلال التركيز فقط على التأثيرات الإيجابية، مما يجعل النتائج أكثر وضوحًا.

الشكل 3. مقارنة بين CAM و Grad-CAM و Grad-CAM++.

التفسيرات المضادة للواقع (Counterfactual explanations)#

تعد التفسيرات المضادة للواقع عنصراً مهماً في الذكاء الاصطناعي القابل للتفسير. يتضمن التفسير المضاد للواقع وصف موقف أو نتيجة من خلال النظر في سيناريوهات أو أحداث بديلة لم تحدث ولكن كان من الممكن أن تحدث. يمكنها توضيح كيف تؤدي التغييرات في متغيرات مدخلات محددة إلى نتائج مختلفة، مثل: "لو لم يحدث X، لما حدث Y."

عندما يتعلق الأمر بالذكاء الاصطناعي ورؤية الكمبيوتر، يحدد التفسير المضاد أصغر تغيير مطلوب في المدخلات (مثل صورة أو بيانات) لجعل نموذج الذكاء الاصطناعي ينتج نتيجة مختلفة ومحددة. على سبيل المثال، يمكن أن يؤدي تغيير لون كائن في صورة إلى تغيير تنبؤ نموذج تصنيف الصور من "قطة" إلى "كلب".

مثال جيد آخر هو تغيير الزاوية أو الإضاءة في نظام التعرف على الوجه. يمكن أن يتسبب ذلك في قيام النموذج بتحديد فرد مختلف، مما يوضح كيف يمكن للتغييرات الصغيرة في المدخلات التأثير على تنبؤات النموذج.

أبسط طريقة لإنشاء هذه التفسيرات هي عن طريق التجربة والخطأ: يمكنك تغيير أجزاء من المدخلات عشوائيًا (مثل ميزات الصورة أو البيانات) حتى يمنحك نموذج الذكاء الاصطناعي النتيجة المرغوبة. تشمل الطرق الأخرى الأساليب المستقلة عن النمارج، والتي تستخدم التحسين وتقنيات البحث للعثور على التغييرات، والأساليب الخاصة بالنموذج، والتي تعتمد على الإعدادات الداخلية أو الحسابات لتحديد التغييرات المطلوبة.

تطبيقات الذكاء الاصطناعي القابل للتفسير في الرؤية الحاسوبية#

الآن بعد أن استكشفنا ماهية XAI وتقنياتها الرئيسية، يمكننا استعراض كيفية استخدامها في الحياة الواقعية. تمتلك XAI تطبيقات متنوعة عبر العديد من المجالات. دعنا نغوص في بعض حالات الاستخدام التي تسلط الضوء على إمكاناتها:

• أنظمة الأمان: يمكن استخدام XAI لتحسين أنظمة الأمان من خلال اكتشاف الصور المحرفة في مستندات الهوية مثل جوازات السفر ورخص القيادة. يضمن ذلك أصالة الصور، ويعزز عمليات التحقق من الهوية، ويمنع الأنشطة الاحتيالية في التطبيقات الحساسة.

الشكل 4. كيف تعمل XAI لاكتشاف الصور المحرفة.

• القيادة الذاتية: يمكن أن يكون فهم قدرات وقيود نظام رؤية الذكاء الاصطناعي على متن سيارة ذاتية القيادة جزءًا كبيرًا من اختبار السيارة قبل نشرها على الطرق الواقعية. يمكن أن تساعد XAI شركات السيارات في تحديد ومعالجة المشكلات بشكل أكثر وضوحًا.

• الأنظمة القانونية: تُستخدم أنظمة تحليل المستندات المدعومة بالرؤية بشكل متزايد في اتخاذ القرارات القضائية. تدعم XAI النتائج العادلة وتسمح بالتدقيق في الأحكام الآلية. كما تساعد المتخصصين القانونيين على فهم كيف يصل نموذج الذكاء الاصطناعي إلى قراراته.

• مراقبة الحياة البرية: غالبًا ما تُستخدم مصائد الكاميرا لمراقبة الحياة البرية وجمع بيانات عن أنواع الحيوانات. يمكن استخدام XAI لشرح كيف يصنف الذكاء الاصطناعي هذه الأنواع في الصور. من خلال القيام بذلك، يمكن أن تصبح جهود الحفاظ على البيئة أكثر موثوقية ودقة.

الوجبات السريعة الرئيسية حول الذكاء الاصطناعي القابل للتفسير#

يجعل الذكاء الاصطناعي القابل للتفسير فهم كيفية عمل أنظمة الذكاء الاصطناعي وسبب اتخاذها لقرارات معينة أسهل. تبني الشفافية بشأن نماذج الذكاء الاصطناعي الثقة والمساءلة. المعرفة قوة وتساعد على استخدام ابتكارات الذكاء الاصطناعي بشكل أكثر مسؤولية. في المجالات الحساسة مثل الرعاية الصحية، والأمن، والقيادة الذاتية، والأنظمة القانونية، يمكن استخدام XAI لمساعدة المطورين والمستخدمين على فهم تنبؤات الذكاء الاصطناعي، وتحديد الأخطاء، وضمان الاستخدام العادل والأخلاقي. من خلال جعل الذكاء الاصطناعي أكثر شفافية، تسد XAI الفجوة بين التكنولوجيا والثقة البشرية، مما يجعله أكثر أماناً وموثوقية للتطبيقات الواقعية.

لمعرفة المزيد، تفضل بزيارة مستودع GitHub الخاص بنا، وتفاعل مع مجتمعنا. استكشف تبيقات الذكاء الاصطناعي في السيارات ذاتية القيادة والزراعة على صفحات الحلول الخاصة بنا. 🚀