Saliency Maps

تعد خرائط السالिएंट (Saliency maps) أداة مرئية قوية تُستخدم في الذكاء الاصطناعي القابل للتفسير (XAI) لتسليط الضوء على عمليات صنع القرار الداخلية للشبكات العصبية المعقدة. تعمل هذه الخرائط أساساً كخرائط حرارية، حيث تسلط الضوء على بكسلات أو مناطق معينة من صورة الإدخال والتي تؤثر بشكل كبير على تنبؤ النموذج. من خلال الكشف عن "المكان" الذي ينظر إليه النموذج، تساعد خرائط السالिएंट الباحثين والمهندسين على تفسير سلوك الشبكات العصبية التلافيفية (CNNs) العميقة، مما يضمن أن النظام يتعلم الميزات الصحيحة بدلاً من الاعتماد على شوائب مجموعة البيانات أو الضوضاء في الخلفية. يمكنك قراءة المزيد حول الأسس الرياضية لهذه العملية على صفحة ويكيبيديا لخريطة السالिएंट.

كيف تعمل خرائط البروز#

يعتمد النهج الأساسي لإنشاء خريطة السالिएंट بشكل كبير على الانتشار العكسي (backpropagation) والتدرجات (gradients) عبر طبقات الشبكة. بدلاً من استخدام هذه التدرجات لتحديث أوزان النموذج أثناء تدريب النموذج، تحسب الخوارزمية تدرج نتيجة الفئة المتوقعة بالنسبة لصورة الإدخال نفسها. وكما هو موضح في توثيق PyTorch autograd، فإن أخذ الحد الأقصى المطلق لهذه التدرجات عبر قنوات الألوان ينتج عنه خريطة تتوافق فيها القيم العالية مع البكسلات التي تغغير درجة الإخراج بشكل جذري إذا تم تغييرها. بل إن النهج الحديثة تمتد إلى الذكاء الاصطناعي التوليدي، مما يتيح خرائط سالिएंट لنماذج الانتشار لتتبع تدرجات الضوضاء.

تطبيقات العالم الحقيقي#

نظرًا لأنها توفر تحققًا مرئيًا مباشرًا لمنطق النموذج، فإن خرائط السالिएंट تعد بالغة الأهمية في سيناريوهات الرؤية الحاسوبية عالية المخاطر:

• التشخيص الطبي: في الذكاء الاصطناعي في الرعاية الصحية، يعد التأكد من أن الخوارزمية تكتشف الورم بناءً على شذوذ الأنسجة الفسيولوجية الحقيقية - وليس بناءً على علامة مائية للمسح الضوئي - أمرًا بالغ الأهمية لسلامة المريض. توفر خرائط السالिएंट هذا الدليل المرئي، كما هو مفصل في الدراسات الحديثة حول الاتساق في التصوير الطبي لـ XAI.
• الملاحة الذاتية: بالنسبة للمركبات ذاتية القيادة التي تتنبأ بزوايا التوجيه أو تحدد علامات التوقف، فإن تحليل خرائط السالिएंट يساعد المهندسين في تصحيح الأخطاء من خلال التحقق مما إذا كان النموذج قد ركز بشكل صحيح على الطريق بدلاً من أن يتشتت بسبب المناظر الطبيعية غير ذات الصلة.

التمييز بين المصطلحات ذات الصلة#

يوصى بشدة التمييز بين خرائط السالिएंट والمفاهيم الأخرى في مسرد الذكاء الاصطناعي لفهم دورها المحدد في التعلم العميق (DL):

• خرائط السالिएंट مقابل تعيين تنشيط الفئة (CAM): بينما تحسب خرائط السالिएंट الأساسية الأهمية على مستوى البكسل الخام، فإن تقنيات CAM مثل Grad-CAM تحلل الأهمية على مستوى خرائط الميزات عالية المستوى داخل الطبقة التلافيفية الأخيرة للشبكة. تواصل المعايير الأحدث تحسين كيفية تقييم التفسيرات المرئية وCAMs عبر مجموعات البيانات.
• خرائط السالिएंट مقابل القابلية للتفسير الميكانيكي: تخطيط السالिएंट هو تقنية لاحقة (post-hoc) توضح ببساطة أين ينظر النموذج. في المقابل، تذهب القابلية للتفسير الميكانيكي إلى أبعد من ذلك لإجراء الهندسة العكسية حول كيف ولماذا قامت خلايا عصبية معينة أو دوائر خوارزمية بحساب هذا التركيز.
• خرائط السالिएंट مقابل الذكاء الاصطناعي القابل للتفسير (XAI): XAI هو الانضباط المظلي الواسع المخصص لجعل الذكاء الاصطناعي شفافًا، في حين أن خرائط السالिएंट ليست سوى أداة واحدة محددة ضمن تلك الأداة، وغالبًا ما يُبارز بها كتقنية حرجة لقابلية تفسير Google Cloud. يتطور المجال بسرعة، متحولاً من البكسلات الخام إلى تصنيف قوي متوافق مع البشر للتفسيرات يربط بين البيانات المفاهيمية.

استخراج البروز عبر الكود#

يمكن فهم كيف تنسب الشبكة العصبية الأهمية بطريقة برمجية باستخدام أطر التعلم العميق مثل PyTorch. يوضح القصاصة البرمجية التالية الرياضيات الأساسية الكامنة وراء استخراج خريطة سالिएंट أساسية (الإسناد القائم على التدرج) من نموذج تصنيف الصور مدرب مسبقًا.

import torch
from torchvision.models import resnet18

# Load a pre-trained model in evaluation mode
model = resnet18(weights="DEFAULT").eval()

# Create a dummy image tensor and explicitly require gradients
input_image = torch.randn(1, 3, 224, 224, requires_grad=True)

# Forward pass: get predictions for the input image
output = model(input_image)

# Backward pass: compute gradients for the highest scoring class
output[0, output.argmax()].backward()

# Saliency map is the maximum absolute gradient across the 3 color channels
saliency_map, _ = torch.max(input_image.grad.data.abs(), dim=1)
print(f"Generated Saliency Map Shape: {saliency_map.shape}")

بالنسبة لسير العمل الأعلى مستوى التي تتضمن اكتشاف الكائنات أو رسم صناديق الإحاطة (bounding boxes)، تساعد أدوات مثل Ultralytics Platform المطورين على تعليق مجموعات البيانات بسلاسة، ومراقبة التجارب، وتصور المخرجات من نماذج مثل Ultralytics YOLO26 الحديث. من خلال التقييم المستمر للاستدلالات المرئية جنبًا إلى جنب مع نشر النموذج، يمكن للفرق بناء وتوسيع نطاق أنظمة ذكاء اصطناعي أكثر موثوقية وشفافية.