Saliency Maps

خريطة البروز خريطة حرارية تسجل مدى تأثير كل بكسل في صورة مُدخلة على ناتج الشبكة العصبية، وعادةً ما تسجل درجة فئة متوقعة. وهي إحدى أكثر أدوات الذكاء الاصطناعي القابل للتفسير (XAI) شيوعًا في الرؤية الحاسوبية: فإضاءة الخريطة على الجسم تدعم التنبؤ، بينما تكشف إضاءتها على علامة مائية أو خلفية أو حافة صورة عن اختصار. وتربط خريطة البروز الناتج ببكسلات المدخلات، ما يميزها عن خرائط السمات الداخلية للشبكة، وعن أوزان الانتباه في محوّل الرؤية، التي توضح مواضع جمع الطبقة للمعلومات. ويستخدم بحوث الإدراك المصطلح لفكرة ذات صلة، هي خريطة للمواقع التي تتجه إليها أعين البشر في المشهد، كما في نموذج Itti-Koch للانتباه البصري.

آلية عمل بروز التدرج#

تستخدم خريطة بروز التدرج التي وضعها Simonyan وVedaldi وZisserman (2013) الانتشار العكسي لحساب تدرج درجة فئة واحدة بالنسبة إلى صورة الإدخال، بدلًا من أوزان النموذج. ويبيّن مقدار التدرج عند بكسل ما مدى تأثير تغيير طفيف فيه على الدرجة، وتوفر أكبر قيمة مطلقة بين قنوات الألوان الثلاث قيمة واحدة لكل بكسل. وبالنسبة إلى مصنف ImageNet، تتطلب العملية تمريرًا أماميًا وآخر خلفيًا في PyTorch:

import urllib.request

from PIL import Image
from torchvision.models import ResNet50_Weights, resnet50
from torchvision.utils import save_image

# Load an ImageNet classifier and track gradients on the input pixels
weights = ResNet50_Weights.DEFAULT
model = resnet50(weights=weights).eval()
image = Image.open(urllib.request.urlopen("https://ultralytics.com/images/bus.jpg"))
x = weights.transforms()(image).unsqueeze(0).requires_grad_()

# Backpropagate the top class score to the pixels
scores = model(x)
top = scores.argmax().item()
scores[0, top].backward()

# Saliency: largest absolute gradient across the color channels, scaled for display
saliency = x.grad.abs().amax(dim=1)
save_image((saliency / saliency.quantile(0.99)).clamp(max=1), "saliency.png")
print(f"Explained class: {weights.meta['categories'][top]}")

يطبع Explained class: minibus ويحفظ خريطة محببة بحجم 224 × 224 للاقتصاص المركزي الذي شاهده المصنف: فالتدرجات الخام مشوشة من بكسل إلى آخر، وتقلل الطرق اللاحقة هذا التشويش عبر حساب المتوسط أو العمل على خرائط السمات.

أساليب البروز#

• SmoothGrad: يؤدي حساب متوسط خرائط التدرج لنسخ عديدة من الصورة أضيفت إليها ضوضاء إلى إزالة قدر كبير من التنقيط.
• التدرجات المتكاملة: يؤدي تجميع التدرجات على مسار من خط أساس، مثل صورة سوداء، إلى المدخلات إلى جعل مجموع درجات البكسلات مساويًا للفرق بين درجتي الفئتين.
• Grad-CAM: ينتج عن ترجيح خرائط سمات آخر طبقة التفافية بمتوسط تدرجها، ثم رفع دقة الناتج، مناطق خشنة لكنها خاصة بالفئة. أما LayerCAM (2021) فيرجح كل موضع على حدة، لذا توفر الطبقات الأسبق والأعلى دقة خرائط قابلة للاستخدام أيضًا.
• الحجب وطرق الاضطراب الأخرى: لا يتطلب إخفاء أجزاء من الصورة وقياس مقدار انخفاض الدرجة أي تدرجات، لكنه يحتاج إلى تمرير أمامي واحد لكل جزء.

يحسب Ultralytics YOLO خرائط LayerCAM لمهام كشف الأجسام ومهام أخرى: باستخدام visualize=True في وضع التنبؤ، يرجح كل موضع من خرائط السمات الداخلة إلى رأس الكشف وفق تدرجه الموجب نحو درجة الفئة لكل تنبؤ ذي ثقة عالية، ويحفظ خريطة حرارية مدمجة واحدة لكل صورة.

from ultralytics import YOLO

# ⁨احفظ خريطة حرارية LayerCAM للأدلة وراء اكتشافات YOLO26⁩
model = YOLO("yolo26n.pt")
results = model("https://ultralytics.com/images/bus.jpg", visualize=True)

يكتب bus_cam.jpg في مجلد حفظ التشغيل، موضحًا ما يصل إلى أقوى 16 تنبؤًا خامًا من YOLO26 تتجاوز عتبة الثقة، قبل أن يزيل NMS التكرارات؛ وتؤدي إضافة classes=[0] إلى إظهار خرائط الأشخاص فقط.

حدود خرائط البروز#

توضح خريطة البروز مواضع حساسية الناتج، لا آلية استدلال النموذج، وهو ما يهدف إليه تفسير الآليات. ووجدت اختبارات السلامة التي أجراها Adebayo وزملاؤه عام 2018 أن بعض الأساليب الشائعة، مثل الانتشار العكسي الموجّه، تنتج خرائط متقاربة جدًا حتى بعد تعيين أوزان النموذج عشوائيًا؛ لذا تعكس هذه الخرائط حواف الصورة أكثر مما تعكس النموذج المدرّب. كما قد تتغير الخرائط بشدة عند إجراء اضطرابات طفيفة على المدخلات لا تغير التنبؤ.

تطبيقات عملية#

• العثور على الاختصارات: أظهرت الخرائط الحرارية أن مصنفًا مدربًا على مجموعة بيانات PASCAL VOC تعرّف على الخيول جزئيًا من خلال وسم حقوق نشر ظهر في كثير من صور الخيول، وهو سلوك «كليفر هانس» لم تكشفه دقته.
• التصوير الطبي: يتحقق مطورو مصنفات الأشعة السينية للصدر من أن الدليل يقع داخل الرئتين لا على نصوص الماسح الضوئي أو أجهزة العلاج مثل أنابيب تصريف الصدر، التي ثبت اعتماد مصنفات استرواح الصدر عليها.
• اقتصاص الصور: كان Twitter يقص معاينات الصور حول النقطة التي يتوقع نموذج بروز الانتباه البشري أن ينظر إليها المشاهدون أولًا، ووجد تدقيق أجراه باحثو الشركة عام 2021 أن عمليات الاقتصاص فضّلت بصورة منهجية بعض فئات الأشخاص على غيرها.