اكتشف الذكاء الاصطناعي القابل للتفسير (XAI): بناء الثقة، وضمان المساءلة، والوفاء باللوائح من خلال رؤى قابلة للتفسير لاتخاذ قرارات أكثر ذكاءً في مجال الذكاء الاصطناعي.
يشمل الذكاء الاصطناعي القابل للتفسير (XAI) الأساليب والتقنيات في مجال الذكاء الاصطناعي (AI) المصممة لجعل القرارات والتنبؤات التي تولدها أنظمة الذكاء الاصطناعي مفهومة للبشر. ومع تزايد تأثير نماذج الذكاء الاصطناعي، وخاصةً النماذج المعقدة مثل الشبكات العصبية للتعلم العميق المستخدمة في الرؤية الحاسوبية، على القرارات الحاسمة، فإن آلياتها الداخلية غالباً ما تشبه"الصناديق السوداء" المبهمة. وتسعى XAI إلى إلقاء الضوء على هذه العمليات، وتقديم رؤى حول كيفية اشتقاق المخرجات، وبالتالي تعزيز الثقة وتمكين المساءلة وتسهيل الرقابة البشرية الفعالة.
ينشأ الطلب على الذكاء الاصطناعي المجهري من الدمج المتزايد للذكاء الاصطناعي في عملية اتخاذ القرارات عالية المخاطر في مختلف القطاعات. في حين أن نماذج الذكاء الاصطناعي، مثل Ultralytics YOLOللكشف عن الأشياء، يمكن أن تحقق دقة ملحوظة، إلا أن فهم سبب توصلها إلى استنتاجات محددة أمر حيوي. هذا النقص في قابلية التفسير يمكن أن يكون عائقاً في مجالات مثل الذكاء الاصطناعي في الرعاية الصحية والذكاء الاصطناعي في مجال التمويل. تشمل الدوافع الرئيسية لاعتماد الذكاء الاصطناعي المجهري ما يلي:
يوفر تطبيق XAI فوائد كبيرة، بما في ذلك زيادة ثقة المستخدم، وتبسيط عمليات التصحيح، وتعزيز النشر المسؤول للذكاء الاصطناعي. تجد تقنيات XAI تطبيقاتها في العديد من المجالات:
توجد طرق مختلفة لتحقيق قابلية التفسير، وغالبًا ما تختلف في نهجها (على سبيل المثال، تفسير التنبؤات الفردية مقابل السلوك العام للنموذج). تتضمن بعض الأساليب الشائعة ما يلي:
وقد أدت المبادرات البحثية مثل برنامج DARPA XAI إلى تقدم كبير في تطوير هذه التقنيات.
من المهم التمييز بين XAI والمصطلحات ذات الصلة:
قد يكون تحقيق قابلية التفسير الهادف أمراً معقداً. فغالباً ما تكون هناك مفاضلة بين أداء النموذج (الدقة) وقابلية التفسير؛ قد تكون النماذج شديدة التعقيد أكثر دقة لكن تفسيرها أصعب، كما نوقش في"تاريخ نماذج الرؤية". بالإضافة إلى ذلك، قد يثير الكشف عن منطق النموذج التفصيلي مخاوف بشأن الملكية الفكرية أو التلاعب العدائي. تعمل منظمات مثل الشراكة حول الذكاء الاصطناعي على تجاوز هذه التحديات الأخلاقية والعملية.
Ultralytics يعزز فهم سلوك النموذج من خلال الأدوات والموارد. تساعد إمكانيات التصور داخل Ultralytics HUB والأدلة التفصيلية في مستنداتUltralytics مثل شرح مقاييس أداءYOLO المستخدمين على تقييم النماذج وتفسيرها مثل Ultralytics YOLOv8.