Saliency Maps

Belirginlik haritaları, karmaşık sinir ağlarının dahili karar alma süreçlerine ışık tutmak için açıklanabilir yapay zekâ (XAI) alanında kullanılan güçlü bir görsel araçtır. Temelde ısı haritaları gibi işlev görerek, bir modelin tahminini en çok etkileyen girdi görüntüsündeki belirli pikselleri veya bölgeleri vurgular. Bir modelin "neresine" baktığını ortaya çıkaran belirginlik haritaları, araştırmacıların ve mühendislerin derin evrişimli sinir ağlarının (CNNs) davranışını yorumlamasına yardımcı olur ve sistemin veri kümesi kalıntılarına veya arka plan gürültüsüne güvenmek yerine doğru özellikleri öğrendiğinden emin olmalarını sağlar. Bu sürecin matematiksel temelleri hakkında daha fazla bilgiyi Wikipedia belirginlik haritası sayfasında bulabilirsin.

Belirginlik Haritaları Nasıl Çalışır#

Belirginlik haritası oluşturmanın temel yaklaşımı, ağ katmanları boyunca geri yayılıma ve gradyanlara büyük ölçüde dayanır. Algoritma, bu gradyanları model eğitimi sırasında model ağırlıklarını güncellemek için kullanmak yerine, tahmin edilen sınıf skorunun doğrudan girdi görüntüsüne göre gradyanını hesaplar. PyTorch autograd belgelerinde açıklandığı gibi, bu gradyanların renk kanalları arasındaki mutlak maksimumunun alınması, yüksek değerlerin değiştirildiğinde çıktı skorunu büyük ölçüde değiştiren piksellere karşılık geldiği bir harita oluşturur. Modern yaklaşımlar bunu üretken yapay zekâya dahi genişleterek gürültü gradyanlarını izlemek için difüzyon modeli belirginlik haritalarının oluşturulmasını mümkün kılar.

Gerçek Dünya Uygulamaları#

Bir modelin mantığının doğrudan görsel doğrulamasını sağladıkları için belirginlik haritaları, kritik öneme sahip bilgisayarlı görü senaryolarında önemlidir:

• Tıbbi Tanı: Sağlık hizmetlerinde yapay zekâ kapsamında bir algoritmanın tümörleri tarayıcının filigranına dayanarak değil, gerçek fizyolojik doku anomalilerine dayanarak tespit ettiğini doğrulamak hasta güvenliği açısından kritik öneme sahiptir. Son dönemdeki XAI tıbbi görüntülemede tutarlılık çalışmalarında ayrıntılı olarak açıklandığı üzere, belirginlik haritaları bu görsel kanıtı sağlar.
• Otonom Navigasyon: Otonom araçlar direksiyon açılarını tahmin ederken veya dur işaretlerini tanımlarken, belirginlik haritalarını analiz etmek, modelin ilgisiz manzaralar nedeniyle dikkatinin dağılması yerine doğru şekilde yola odaklanıp odaklanmadığını doğrulayarak mühendislerin hataları ayıklamasına yardımcı olur.

İlişkili Terimleri Ayırt Etme#

Derin öğrenme (DL) içindeki belirgin rollerini anlamak için belirginlik haritalarını yapay zekâ sözlüğündeki diğer kavramlardan ayırman önemle tavsiye edilir:

• Belirginlik Haritaları ve Sınıf Aktivasyon Haritalama (CAM): Temel belirginlik haritaları önemi ham piksel düzeyinde hesaplarken, Grad-CAM gibi CAM teknikleri önemi ağın son evrişim katmanındaki üst düzey özellik haritaları düzeyinde analiz eder. Daha yeni kıyaslamalar, veri kümeleri genelinde görsel açıklamaları ve CAM'leri nasıl değerlendirdiğimizi geliştirmeye devam ediyor.
• Belirginlik Haritaları ve Mekanistik Yorumlanabilirlik: Belirginlik haritalama, yalnızca bir modelin nereye baktığını gösteren sonradan uygulanan bir tekniktir. Buna karşılık Mekanistik Yorumlanabilirlik, belirli nöronların veya algoritmik devrelerin bu odağı nasıl ve neden hesapladığını tersine mühendislikle ortaya çıkarmak için daha derine iner.
• Belirginlik Haritaları ve Açıklanabilir Yapay Zekâ (XAI): XAI, yapay zekâyı şeffaf hâle getirmeye adanmış geniş kapsamlı bir disiplindir; belirginlik haritaları ise bu araç setindeki yalnızca belirli bir araçtır ve çoğunlukla kritik bir Google Cloud açıklanabilirlik tekniği olarak öne çıkarılır. Alan hızla gelişiyor ve ham piksellerden, kavramsal verileri eşleyen sağlam insanla uyumlu açıklama taksonomisine doğru ilerliyor.

Kodla Belirginlik Çıkarma#

Bir sinir ağının öneme nasıl atıf yaptığını anlamak, PyTorch gibi derin öğrenme çerçeveleri kullanılarak programatik şekilde gerçekleştirilebilir. Aşağıdaki kod parçacığı, önceden eğitilmiş bir görüntü sınıflandırma modelinden temel bir belirginlik haritası (gradyan tabanlı atıf) çıkarmanın ardındaki temel matematiği gösterir.

import torch
from torchvision.models import resnet18

# Load a pre-trained model in evaluation mode
model = resnet18(weights="DEFAULT").eval()

# Create a dummy image tensor and explicitly require gradients
input_image = torch.randn(1, 3, 224, 224, requires_grad=True)

# Forward pass: get predictions for the input image
output = model(input_image)

# Backward pass: compute gradients for the highest scoring class
output[0, output.argmax()].backward()

# Saliency map is the maximum absolute gradient across the 3 color channels
saliency_map, _ = torch.max(input_image.grad.data.abs(), dim=1)
print(f"Generated Saliency Map Shape: {saliency_map.shape}")

Nesne algılama veya sınırlayıcı kutular çizme içeren daha üst düzey iş akışlarında Ultralytics Platform gibi araçlar, geliştiricilerin veri kümelerine sorunsuz şekilde açıklama eklemesine, deneyleri izlemesine ve son teknoloji Ultralytics YOLO26 gibi modellerin çıktılarını görselleştirmesine yardımcı olur. Ekipler, görsel çıkarımları model dağıtımı ile birlikte sürekli değerlendirerek çok daha güvenilir ve şeffaf yapay zekâ sistemleri oluşturup ölçeklendirebilir.