Saliency Maps

تُعد خرائط البروز أداة مرئية قوية تُستخدم في الذكاء الاصطناعي القابل للتفسير (XAI) لإلقاء الضوء على عمليات اتخاذ القرار الداخلية في الشبكات العصبية المعقدة. وهي تعمل أساسًا كخرائط حرارية، إذ تبرز وحدات البكسل أو المناطق المحددة في صورة الإدخال التي تؤثر بدرجة أكبر في تنبؤ النموذج. ومن خلال الكشف عن «الموضع» الذي ينظر إليه النموذج، تساعد خرائط البروز الباحثين والمهندسين على تفسير سلوك الشبكات العصبية الالتفافية (CNNs) العميقة، بما يضمن أن النظام يتعلم السمات الصحيحة بدلًا من الاعتماد على آثار مجموعة البيانات أو ضوضاء الخلفية. يمكنك قراءة المزيد عن الأسس الرياضية لهذه العملية في صفحة خريطة البروز على ويكيبيديا.

كيفية عمل خرائط البروز#

يعتمد النهج الأساسي لإنشاء خريطة بروز بدرجة كبيرة على الانتشار العكسي والتدرجات عبر طبقات الشبكة. وبدلًا من استخدام هذه التدرجات لتحديث أوزان النموذج أثناء تدريب النموذج، تحسب الخوارزمية تدرج درجة الفئة المتنبأ بها بالنسبة إلى صورة الإدخال نفسها. وكما هو موضح في توثيق autograd في PyTorch، فإن أخذ القيمة المطلقة العظمى لهذه التدرجات عبر قنوات الألوان ينتج خريطة تشير فيها القيم المرتفعة إلى وحدات بكسل تغيّر درجة الناتج تغييرًا جذريًا إذا عُدّلت. وتمتد الأساليب الحديثة بهذا النهج حتى إلى الذكاء الاصطناعي التوليدي، ما يتيح خرائط بروز نماذج الانتشار لتتبع تدرجات الضوضاء.

التطبيقات الواقعية#

نظرًا إلى أنها توفر تحققًا مرئيًا مباشرًا من منطق النموذج، تُعد خرائط البروز بالغة الأهمية في سيناريوهات الرؤية الحاسوبية عالية المخاطر:

• التشخيص الطبي: في الذكاء الاصطناعي في الرعاية الصحية، يُعد التأكد من أن الخوارزمية تكشف ورمًا استنادًا إلى شذوذات حقيقية في الأنسجة الفسيولوجية—وليس إلى علامة مائية لجهاز المسح—أمرًا بالغ الأهمية لسلامة المرضى. وتوفر خرائط البروز هذا الدليل المرئي، كما توضح الدراسات الحديثة حول الاتساق في التصوير الطبي القابل للتفسير.
• الملاحة الذاتية: بالنسبة إلى المركبات ذاتية القيادة التي تتنبأ بزوايا التوجيه أو تحدد إشارات التوقف، يساعد تحليل خرائط البروز المهندسين على تصحيح حالات الفشل من خلال التحقق مما إذا كان النموذج قد ركّز بشكل صحيح على الطريق بدلًا من تشتيته بمناظر محيطة غير ذات صلة.

التمييز بين المصطلحات ذات الصلة#

يوصى بشدة بالتمييز بين خرائط البروز والمفاهيم الأخرى في مسرد الذكاء الاصطناعي لفهم دورها المحدد في التعلم العميق (DL):

• خرائط البروز مقابل تعيين تنشيط الفئة (CAM): بينما تحسب خرائط البروز الأساسية الأهمية على مستوى البكسل الخام، تحلل تقنيات CAM مثل Grad-CAM الأهمية على مستوى خرائط السمات عالية المستوى داخل آخر طبقة التفافية في الشبكة. وتواصل المعايير المرجعية الأحدث تحسين كيفية تقييم التفسيرات المرئية وCAM عبر مجموعات البيانات.
• خرائط البروز مقابل قابلية التفسير الآلية: يُعد رسم خرائط البروز تقنية لاحقة للتدريب تُظهر ببساطة الموضع الذي ينظر إليه النموذج. وعلى النقيض من ذلك، تتعمق قابلية التفسير الآلية في إجراء هندسة عكسية لمعرفة كيفية وسبب احتساب عصبونات محددة أو دوائر خوارزمية لذلك التركيز.
• خرائط البروز مقابل الذكاء الاصطناعي القابل للتفسير (XAI): يُعد XAI المجال الواسع المظلي المكرس لجعل الذكاء الاصطناعي شفافًا، في حين أن خرائط البروز ليست سوى أداة محددة واحدة ضمن مجموعة الأدوات تلك، وغالبًا ما يُسلَّط الضوء عليها بوصفها تقنية لقابلية التفسير في Google Cloud بالغة الأهمية. ويتطور المجال بسرعة، منتقلًا من وحدات البكسل الخام إلى تصنيف للتفسيرات متوافق مع البشر يرسم البيانات المفاهيمية.

استخراج البروز عبر التعليمات البرمجية#

يمكن فهم كيفية إسناد الشبكة العصبية للأهمية برمجيًا باستخدام أطر التعلم العميق مثل PyTorch. يوضح المقتطف التالي الرياضيات الأساسية الكامنة وراء استخراج خريطة بروز أساسية (الإسناد القائم على التدرج) من نموذج تصنيف الصور مُدرَّب مسبقًا.

import torch
from torchvision.models import resnet18

# Load a pre-trained model in evaluation mode
model = resnet18(weights="DEFAULT").eval()

# Create a dummy image tensor and explicitly require gradients
input_image = torch.randn(1, 3, 224, 224, requires_grad=True)

# Forward pass: get predictions for the input image
output = model(input_image)

# Backward pass: compute gradients for the highest scoring class
output[0, output.argmax()].backward()

# Saliency map is the maximum absolute gradient across the 3 color channels
saliency_map, _ = torch.max(input_image.grad.data.abs(), dim=1)
print(f"Generated Saliency Map Shape: {saliency_map.shape}")

بالنسبة إلى سير العمل الأعلى مستوى الذي يتضمن اكتشاف الأجسام أو رسم المربعات المحيطة، تساعد أدوات مثل منصة Ultralytics المطورين على إضافة التعليقات التوضيحية إلى مجموعات البيانات، ومراقبة التجارب، وتصوير مخرجات نماذج مثل Ultralytics YOLO26 المتطور. ومن خلال التقييم المستمر للاستدلالات المرئية إلى جانب نشر النموذج، تستطيع الفرق بناء أنظمة ذكاء اصطناعي أكثر موثوقية وشفافية وتوسيع نطاقها.