كل ما تحتاج إلى معرفته عن الذكاء الاصطناعي القابل للتفسير (XAI)

هل سبق أن رأيت استجابة من أداة الذكاء الاصطناعي (AI) مثل ChatGPT وتساءلت كيف توصلت إلى تلك النتيجة؟ إذن، لقد صادفت مشكلة «الصندوق الأسود» في الذكاء الاصطناعي. ويشير هذا المصطلح إلى غياب الوضوح بشأن كيفية معالجة نماذج الذكاء الاصطناعي للبيانات وتحليلها. وحتى مهندسو وعلماء الذكاء الاصطناعي الذين يعملون بانتظام على خوارزميات الذكاء الاصطناعي المتطورة قد يجدون صعوبة في فهم آليات عملها الداخلية فهمًا كاملًا. وفي الواقع، يفهم 22% فقط من متخصصي تقنية المعلومات قدرات أدوات الذكاء الاصطناعي فهمًا حقيقيًا.

قد يكون عدم اليقين المحيط بكيفية اتخاذ نماذج الذكاء الاصطناعي للقرارات محفوفًا بالمخاطر، ولا سيما في المجالات الحساسة مثل الرؤية الحاسوبية في الرعاية الصحية والذكاء الاصطناعي في القطاع المالي. ومع ذلك، يُحرز تقدم كبير لمعالجة هذه التحديات وتحسين الشفافية.

وعلى وجه الخصوص، يركز الذكاء الاصطناعي القابل للتفسير (XAI) حصريًا على حل هذه المشكلة. وببساطة، هو مجموعة من العمليات والأساليب التي تساعد المستخدمين البشر على فهم النتائج أو المخرجات التي تقدمها خوارزميات التعلّم الآلي المعقدة والثقة بها.

يمكن أن يساعد XAI المطورين على ضمان عمل أنظمة الذكاء الاصطناعي كما هو متوقع. كما يمكنه مساعدة شركات الذكاء الاصطناعي على استيفاء المعايير التنظيمية. في هذه المقالة، سنستكشف الذكاء الاصطناعي القابل للتفسير ومجموعة واسعة من حالات استخدامه. فلنبدأ!

أهمية الذكاء الاصطناعي القابل للتفسير#

تُعد قابلية التفسير أمرًا أساسيًا عند العمل باستخدام الذكاء الاصطناعي. وينطبق ذلك خصوصًا على المجال الفرعي للذكاء الاصطناعي، وهو الرؤية الحاسوبية، المستخدمة على نطاق واسع في تطبيقات قطاعات مثل الرعاية الصحية. عند استخدام نماذج الرؤية في هذه القطاعات الحساسة، من المهم أن تكون آليات عمل النموذج شفافة وقابلة للتفسير للجميع.

تساعد قابلية تفسير نماذج الرؤية الحاسوبية المستخدمين على فهم أفضل لكيفية إجراء تنبؤ ما والمنطق الكامن وراءه. وتضيف الشفافية إلى ذلك من خلال توضيح آليات عمل النموذج للجميع، عبر تحديد حدوده بوضوح وضمان استخدام البيانات استخدامًا أخلاقيًا. فعلى سبيل المثال، يمكن للرؤية الحاسوبية مساعدة أطباء الأشعة على تحديد المضاعفات الصحية بكفاءة في صور الأشعة السينية.

الشكل 1. أشعة سينية للصدر حُللت باستخدام الذكاء الاصطناعي للرؤية، وتُظهر تصنيفات السل لدى الأشخاص الأصحاء والمرضى، وتصنيفي السل النشط والكامن.

ومع ذلك، لا يكفي أن يكون نظام الرؤية دقيقًا فحسب. بل يجب أن يكون النظام قادرًا أيضًا على تفسير قراراته. لنفترض أن النظام يستطيع إظهار أجزاء الصورة التي أدت إلى استنتاجاته، فعندئذ ستكون أي مخرجات أكثر وضوحًا. ومن شأن هذا المستوى من الشفافية أن يساعد المتخصصين الطبيين على التحقق من نتائجهم مرة أخرى والتأكد من أن رعاية المرضى تستوفي المعايير الطبية.

ومن الأسباب الأخرى التي تجعل قابلية التفسير ضرورية أنها تجعل شركات الذكاء الاصطناعي خاضعة للمساءلة وتبني ثقة المستخدمين. ويؤدي الذكاء الاصطناعي الموثوق إلى شعور المستخدمين بالثقة في أن ابتكارات الذكاء الاصطناعي تعمل بصورة موثوقة، وتتخذ قرارات عادلة، وتتعامل مع البيانات بمسؤولية.

أهم تقنيات الذكاء الاصطناعي القابل للتفسير في الرؤية الحاسوبية#

بعد أن ناقشنا أهمية قابلية التفسير في الرؤية الحاسوبية، لنلقِ نظرة على أهم تقنيات XAI المستخدمة في ذكاء الرؤية الاصطناعي.

خرائط البروز#

الشبكات العصبية هي نماذج مستوحاة من الدماغ البشري، صُممت للتعرف على الأنماط واتخاذ القرارات عبر معالجة البيانات من خلال طبقات مترابطة من العُقد (العصبونات). ويمكن استخدامها لحل مشكلات الرؤية الحاسوبية المعقدة بدقة عالية. ومع هذه الدقة، تظل صناديق سوداء بحكم تصميمها.

خرائط البروز هي إحدى تقنيات XAI التي يمكن استخدامها للمساعدة على فهم ما تراه الشبكات العصبية عند تحليلها للصور. كما يمكن استخدامها لاستكشاف أخطاء النماذج وإصلاحها عندما لا تؤدي عملها كما هو متوقع.

تعمل خرائط البروز من خلال التركيز على أجزاء الصورة (وحدات البكسل) التي تحدد تنبؤات النموذج. وتشبه هذه العملية إلى حد كبير الانتشار العكسي، حيث يتتبع النموذج المسار من التنبؤات عائدًا إلى الإدخال. لكن بدلًا من تحديث أوزان النموذج استنادًا إلى الأخطاء، ننظر فقط إلى مدى «أهمية» كل بكسل بالنسبة إلى التنبؤ. وتُعد خرائط البروز مفيدة جدًا في مهام الرؤية الحاسوبية مثل تصنيف الصور.

على سبيل المثال، إذا تنبأ نموذج تصنيف الصور بأن صورة ما لكلب، فيمكننا النظر إلى خريطة البروز الخاصة به لفهم سبب اعتقاد النموذج أنها لكلب. ويساعدنا ذلك على تحديد وحدات البكسل الأكثر تأثيرًا في المخرجات. وستبرز خريطة البروز جميع وحدات البكسل التي أسهمت في التنبؤ النهائي بأن الصورة لكلب.

الشكل 2. عرض جنبًا إلى جنب للصور المُدخلة وخرائط البروز الخاصة بها.

تعيين تنشيط الفئة (CAM)#

يُعد تعيين تنشيط الفئة تقنية أخرى من تقنيات XAI تُستخدم لفهم أجزاء الصورة التي تركز عليها شبكة عصبية عند إجراء تنبؤات تصنيف الصور. وهي تعمل بطريقة مشابهة لخرائط البروز، لكنها تركز على تحديد السمات المهمة في الصورة بدلًا من وحدات بكسل محددة. والسمات هي أنماط أو تفاصيل، مثل الأشكال أو الأنسجة، يكتشفها النموذج في الصورة.

وتبني أساليب مثل تعيين تنشيط الفئة الموزون بالتدرج (Grad-CAM) وGrad-CAM++ على الفكرة نفسها، مع إدخال بعض التحسينات.

إليك كيفية عمل CAM:

• قبل أن تتخذ الشبكة العصبية قرارها النهائي، تستخدم خطوة تُسمى التجميع المتوسط العام (GAP) لتبسيط المعلومات. ويجمع GAP جميع وحدات البكسل في نمط مكتشف في قيمة متوسطة واحدة، مُنشئًا ملخصًا لكل خريطة سمات (تمثيل مرئي للأنماط المكتشفة).
• بعد ذلك، تُمنح كل خريطة سمات وزنًا يوضح مدى أهميتها في التنبؤ بفئة معينة (مثل «طائر» أو «قطة»).
• ومع ذلك، يتمثل أحد قيود CAM في أنك قد تحتاج إلى إعادة تدريب النموذج لحساب هذه الأوزان، وقد يستغرق ذلك وقتًا طويلًا.

يحسن Grad-CAM هذه الطريقة باستخدام التدرجات، وهي أشبه بإشارات توضح مدى تأثير كل خريطة سمات في التنبؤ النهائي. وتتجنب هذه الطريقة الحاجة إلى GAP، وتسهّل رؤية ما يركز عليه النموذج دون إعادة تدريبه. ويخطو Grad-CAM++ خطوة إضافية من خلال التركيز على التأثيرات الإيجابية فقط، ما يجعل النتائج أكثر وضوحًا.

الشكل 3. مقارنة بين CAM وGrad-CAM وGrad-CAM++.

التفسيرات المضادة للواقع#

تُعد التفسيرات المضادة للواقع عنصرًا مهمًا من عناصر الذكاء الاصطناعي القابل للتفسير. ويتضمن التفسير المضاد للواقع وصف موقف أو نتيجة من خلال النظر في سيناريوهات أو أحداث بديلة لم تحدث، لكنها كان من الممكن أن تحدث. ويمكنه توضيح كيف تؤدي التغييرات في متغيرات إدخال محددة إلى نتائج مختلفة، مثل: «لو لم يحدث X، لما حدث Y».

عند الحديث عن الذكاء الاصطناعي والرؤية الحاسوبية، يحدد التفسير المضاد للواقع أصغر تغيير مطلوب في إدخال (مثل صورة أو بيانات) لدفع نموذج ذكاء اصطناعي إلى إنتاج نتيجة مختلفة ومحددة. فعلى سبيل المثال، قد يؤدي تغيير لون كائن في صورة إلى تغيير تنبؤ نموذج تصنيف الصور من «قطة» إلى «كلب».

ومن الأمثلة الجيدة الأخرى تغيير الزاوية أو الإضاءة في نظام للتعرف على الوجوه. وقد يتسبب ذلك في تحديد النموذج لشخص مختلف، موضحًا كيف يمكن للتغييرات الصغيرة في الإدخال أن تؤثر في تنبؤات النموذج.

إن أبسط طريقة لإنشاء هذه التفسيرات هي التجربة والخطأ؛ إذ يمكنك تغيير أجزاء من الإدخال عشوائيًا (مثل سمات الصورة أو البيانات) إلى أن يمنحك نموذج الذكاء الاصطناعي النتيجة المطلوبة. وتشمل الأساليب الأخرى المناهج المستقلة عن النموذج، التي تستخدم تقنيات التحسين والبحث للعثور على التغييرات، والمناهج الخاصة بالنموذج، التي تعتمد على الإعدادات أو الحسابات الداخلية لتحديد التغييرات اللازمة.

تطبيقات الذكاء الاصطناعي القابل للتفسير في الرؤية الحاسوبية#

بعد أن استكشفنا ماهية XAI وتقنياته الأساسية، يمكننا استعراض كيفية استخدامه في الحياة الواقعية. يتمتع XAI بتطبيقات متنوعة في مجالات عديدة. فلنستعرض بعض حالات الاستخدام التي تبرز إمكاناته:

• أنظمة الأمان: يمكن استخدام XAI لتعزيز أنظمة الأمان من خلال اكتشاف الصور المُعدلة في وثائق إثبات الهوية مثل جوازات السفر ورخص القيادة. ويضمن ذلك أصالة الصور، ويعزز عمليات التحقق من الهوية، ويمنع الأنشطة الاحتيالية في التطبيقات الحساسة.

الشكل 4. كيفية عمل XAI لاكتشاف الصور المُعدلة.

• القيادة الذاتية: يمكن أن يشكل فهم قدرات نظام ذكاء الرؤية الاصطناعي الموجود على متن سيارة ذاتية القيادة وحدوده جزءًا كبيرًا من اختبار السيارة قبل نشرها على الطرق الواقعية. ويمكن أن يساعد XAI شركات السيارات على تحديد المشكلات ومعالجتها بوضوح أكبر.

• الأنظمة القانونية: تُستخدم أنظمة تحليل الوثائق المدعومة بالرؤية بصورة متزايدة في اتخاذ القرارات القضائية. ويدعم XAI تحقيق نتائج عادلة، ويتيح التدقيق في الأحكام المؤتمتة. كما يساعد المتخصصين القانونيين على فهم كيفية توصل نموذج الذكاء الاصطناعي إلى قراراته.

• مراقبة الحياة البرية: تُستخدم مصائد الكاميرات غالبًا لمراقبة الحياة البرية وجمع البيانات عن أنواع الحيوانات. ويمكن استخدام XAI لتفسير كيفية تصنيف الذكاء الاصطناعي لهذه الأنواع في الصور. ومن خلال ذلك، يمكن أن تصبح جهود الحفاظ على البيئة أكثر موثوقية ودقة.

أهم النقاط حول الذكاء الاصطناعي القابل للتفسير#

يجعل الذكاء الاصطناعي القابل للتفسير فهم كيفية عمل أنظمة الذكاء الاصطناعي وسبب اتخاذها قرارات معينة أسهل. وتبني الشفافية بشأن نماذج الذكاء الاصطناعي الثقة والمساءلة. فالمعرفة قوة، وتساعد على استخدام ابتكارات الذكاء الاصطناعي بمسؤولية أكبر. وفي المجالات الحيوية مثل الرعاية الصحية والأمان والقيادة الذاتية والأنظمة القانونية، يمكن استخدام XAI لمساعدة المطورين والمستخدمين على فهم تنبؤات الذكاء الاصطناعي، وتحديد الأخطاء، وضمان الاستخدام العادل والأخلاقي. ومن خلال جعل الذكاء الاصطناعي أكثر شفافية، يسد XAI الفجوة بين التقنية والثقة البشرية، مما يجعله أكثر أمانًا وموثوقية للتطبيقات الواقعية.

لمعرفة المزيد، تفضل بزيارة مستودع GitHub الخاص بنا، وتفاعل مع مجتمعنا. واستكشف تطبيقات الذكاء الاصطناعي في السيارات ذاتية القيادة والزراعة في صفحات حلولنا. 🚀