Saliency Maps

تُعد خرائط البروز أداة مرئية قوية تُستخدم في الذكاء الاصطناعي القابل للتفسير (XAI) لتسليط الضوء على عمليات صنع القرار الداخلية في الشبكات العصبية المعقدة. تعمل هذه الخرائط في الأساس كخرائط حرارية، حيث تبرز وحدات البكسل أو المناطق المحددة في الصورة المدخلة التي تؤثر بشكل أكبر على تنبؤ النموذج. من خلال الكشف عن "أين" ينظر النموذج، تساعد خرائط البروز الباحثين والمهندسين على تفسير سلوك الشبكات العصبية التلافيفية (CNNs) العميقة، مما يضمن أن النظام يتعلم الميزات الصحيحة بدلاً من الاعتماد على آثار مجموعة البيانات أو ضوضاء الخلفية. يمكنك قراءة المزيد حول الأسس الرياضية لهذه العملية في صفحة خرائط البروز على ويكيبيديا.

Link to this sectionكيف تعمل خرائط البروز#

يعتمد النهج الأساسي لإنشاء خريطة البروز بشكل كبير على الانتشار العكسي (backpropagation) والتدرجات (gradients) عبر طبقات الشبكة. وبدلاً من استخدام هذه التدرجات لتحديث أوزان النموذج أثناء تدريب النموذج، تقوم الخوارزمية بحساب تدرج درجة الفئة المتوقعة بالنسبة للصورة المدخلة نفسها. وكما هو موضح في توثيق PyTorch autograd، فإن أخذ الحد الأقصى المطلق لهذه التدرجات عبر قنوات الألوان ينتج خريطة تتوافق فيها القيم العالية مع وحدات البكسل التي تغير درجة المخرجات بشكل كبير إذا تم تعديلها. وتمتد الأساليب الحديثة لتشمل الذكاء الاصطناعي التوليدي، مما يتيح خرائط بروز لنماذج الانتشار (diffusion model saliency maps) لتتبع تدرجات الضوضاء.

Link to this sectionتطبيقات العالم الحقيقي#

نظرًا لأنها توفر تحققًا مرئيًا مباشرًا لمنطق النموذج، تعد خرائط البروز ضرورية في سيناريوهات الرؤية الحاسوبية (computer vision) عالية المخاطر:

• التشخيص الطبي: في مجال الذكاء الاصطناعي في الرعاية الصحية، يعد التأكد من أن الخوارزمية تكتشف الورم بناءً على شذوذات فسيولوجية حقيقية في الأنسجة - وليس بناءً على علامة مائية للماسح الضوئي - أمرًا بالغ الأهمية لسلامة المريض. توفر خرائط البروز هذا الإثبات المرئي، كما هو مفصل في الدراسات الحديثة حول الاتساق في التصوير الطبي باستخدام XAI.
• الملاحة الذاتية: بالنسبة لـ المركبات ذاتية القيادة التي تتنبأ بزوايا التوجيه أو تحدد علامات التوقف، يساعد تحليل خرائط البروز المهندسين في تصحيح أخطاء الفشل من خلال التحقق مما إذا كان النموذج يركز بشكل صحيح على الطريق بدلاً من تشتيته بسبب مناظر طبيعية غير ذات صلة.

Link to this sectionالتمييز بين المصطلحات ذات الصلة#

يوصى بشدة بالتمييز بين خرائط البروز والمفاهيم الأخرى في قاموس الذكاء الاصطناعي لفهم دورها المحدد في التعلم العميق (DL):

• خرائط البروز مقابل تعيين تنشيط الفئة (CAM): بينما تحسب خرائط البروز الأساسية الأهمية على مستوى البكسل الخام، تقوم تقنيات CAM مثل Grad-CAM بتحليل الأهمية على مستوى خرائط الميزات (feature maps) عالية المستوى داخل آخر طبقة تلافيفية للشبكة. وتستمر المعايير الأحدث في تحسين كيفية تقييم التفسيرات المرئية وCAMs عبر مجموعات البيانات.
• خرائط البروز مقابل القابلية للتفسير الآلي: تعد خرائط البروز تقنية لاحقة (post-hoc) تكتفي بإظهار أين ينظر النموذج. في المقابل، تتعمق القابلية للتفسير الآلي (Mechanistic Interpretability) لهندسة عكسية لـ كيف ولماذا قامت أعصاب محددة أو دوائر خوارزمية بحساب هذا التركيز.
• خرائط البروز مقابل الذكاء الاصطناعي القابل للتفسير (XAI): XAI هو التخصص الشامل المكرس لجعل الذكاء الاصطناعي شفافًا، بينما تعد خرائط البروز مجرد أداة واحدة محددة ضمن هذه المجموعة، وغالبًا ما يتم تسليط الضوء عليها كتقنية قابلة للتفسير في Google Cloud. يتطور هذا المجال بسرعة، حيث ينتقل من وحدات البكسل الخام إلى تصنيف متوافق مع البشر للتفسيرات التي تعتمد على بيانات مفاهيمية.

Link to this sectionاستخراج البروز عبر الكود#

يمكن فهم كيفية تحديد الشبكة العصبية للأهمية برمجيًا باستخدام أطر عمل التعلم العميق مثل PyTorch. يوضح المقتطف التالي الرياضيات الأساسية وراء استخراج خريطة بروز أساسية (الإسناد القائم على التدرج) من نموذج مدرب مسبقًا لـ تصنيف الصور.

import torch
from torchvision.models import resnet18

# Load a pre-trained model in evaluation mode
model = resnet18(weights="DEFAULT").eval()

# Create a dummy image tensor and explicitly require gradients
input_image = torch.randn(1, 3, 224, 224, requires_grad=True)

# Forward pass: get predictions for the input image
output = model(input_image)

# Backward pass: compute gradients for the highest scoring class
output[0, output.argmax()].backward()

# Saliency map is the maximum absolute gradient across the 3 color channels
saliency_map, _ = torch.max(input_image.grad.data.abs(), dim=1)
print(f"Generated Saliency Map Shape: {saliency_map.shape}")

بالنسبة لسير العمل عالي المستوى الذي يتضمن اكتشاف الكائنات (object detection) أو رسم مربعات الإحاطة (bounding boxes)، تساعد أدوات مثل منصة Ultralytics المطورين على إضافة تعليقات توضيحية بسلاسة إلى مجموعات البيانات، ومراقبة التجارب، وتصور المخرجات من نماذج مثل نموذج Ultralytics YOLO26 المتطور. ومن خلال التقييم المستمر للاستدلالات المرئية جنبًا إلى جنب مع نشر النموذج، يمكن للفرق بناء وتوسيع نطاق أنظمة ذكاء اصطناعي أكثر شفافية وجدارة بالثقة.