Saliency Maps

Bản đồ độ nổi bật là một công cụ trực quan mạnh mẽ được sử dụng trong AI có thể giải thích (XAI) để làm sáng tỏ các quy trình ra quyết định bên trong của những mạng nơ-ron phức tạp. Về bản chất hoạt động như các bản đồ nhiệt, chúng làm nổi bật những pixel hoặc vùng cụ thể trong ảnh đầu vào có ảnh hưởng lớn nhất đến dự đoán của model. Bằng cách cho biết model đang tập trung vào "đâu", bản đồ độ nổi bật giúp các nhà nghiên cứu và kỹ sư diễn giải hành vi của các mạng nơ-ron tích chập (CNNs) sâu, đảm bảo hệ thống đang học đúng các đặc trưng thay vì dựa vào các artifact của dataset hoặc nhiễu nền. Bạn có thể đọc thêm về nền tảng toán học của quy trình này trên trang Wikipedia về bản đồ độ nổi bật.

Cách Bản đồ Độ nổi bật Hoạt động#

Phương pháp nền tảng để tạo bản đồ độ nổi bật phụ thuộc nhiều vào lan truyền ngược và gradient trên các lớp của mạng. Thay vì sử dụng các gradient này để cập nhật trọng số model trong quá trình huấn luyện model, thuật toán tính gradient của điểm số lớp được dự đoán theo chính ảnh đầu vào. Như được giải thích trong tài liệu autograd của PyTorch, việc lấy giá trị tuyệt đối lớn nhất của các gradient trên các kênh màu sẽ tạo ra một bản đồ trong đó các giá trị cao tương ứng với những pixel có thể làm thay đổi mạnh điểm số đầu ra nếu bị thay đổi. Các phương pháp hiện đại thậm chí còn mở rộng cách tiếp cận này sang AI tạo sinh, cho phép tạo bản đồ độ nổi bật của model diffusion để theo dõi các gradient của nhiễu.

Các ứng dụng trong thực tế#

Vì cung cấp khả năng xác minh trực quan trực tiếp về logic của model, bản đồ độ nổi bật đóng vai trò quan trọng trong các tình huống thị giác máy tính có rủi ro cao:

• Chẩn đoán y khoa: Trong AI trong chăm sóc sức khỏe, việc xác nhận rằng một thuật toán phát hiện khối u dựa trên những bất thường thực sự của mô sinh lý—thay vì watermark của máy quét—là yếu tố thiết yếu để đảm bảo an toàn cho bệnh nhân. Bản đồ độ nổi bật cung cấp bằng chứng trực quan này, như được trình bày chi tiết trong các nghiên cứu gần đây về tính nhất quán trong XAI cho ảnh y khoa.
• Điều hướng tự động: Đối với phương tiện tự hành dự đoán góc lái hoặc nhận diện biển báo dừng, việc phân tích bản đồ độ nổi bật giúp các kỹ sư gỡ lỗi bằng cách xác minh model có tập trung đúng vào đường đi hay bị phân tâm bởi cảnh vật không liên quan.

Phân biệt các thuật ngữ liên quan#

Bạn nên phân biệt rõ bản đồ độ nổi bật với các khái niệm khác trong bảng thuật ngữ AI để hiểu vai trò cụ thể của chúng trong deep learning (DL):

• Bản đồ độ nổi bật so với Lập bản đồ kích hoạt lớp (CAM): Trong khi các bản đồ độ nổi bật cơ bản tính toán mức độ quan trọng ở cấp pixel thô, các kỹ thuật CAM như Grad-CAM phân tích mức độ quan trọng ở cấp các feature map cấp cao bên trong lớp tích chập cuối của mạng. Các benchmark mới hơn tiếp tục tinh chỉnh cách chúng ta đánh giá các giải thích trực quan và CAM trên các dataset.
• Bản đồ độ nổi bật so với Khả năng diễn giải cơ chế: Lập bản đồ độ nổi bật là một kỹ thuật hậu nghiệm chỉ cho biết model đang tập trung vào đâu. Ngược lại, Khả năng diễn giải cơ chế đi sâu hơn để đảo ngược kỹ thuật, nhằm tìm hiểu cách thức và lý do các neuron hoặc mạch thuật toán cụ thể tạo ra sự tập trung đó.
• Bản đồ độ nổi bật so với AI có thể giải thích (XAI): XAI là lĩnh vực bao quát nhằm làm cho AI trở nên minh bạch, trong khi bản đồ độ nổi bật chỉ là một công cụ cụ thể trong bộ công cụ đó, thường được nhấn mạnh như một kỹ thuật về khả năng giải thích của Google Cloud. Lĩnh vực này đang phát triển nhanh chóng, chuyển từ pixel thô sang hệ phân loại giải thích phù hợp với con người để lập bản đồ dữ liệu khái niệm.

Trích xuất Độ nổi bật bằng Code#

Có thể tìm hiểu cách một mạng nơ-ron quy mức độ quan trọng bằng phương pháp lập trình, sử dụng các framework deep learning như PyTorch. Đoạn code sau đây minh họa phép toán nền tảng đằng sau việc trích xuất một bản đồ độ nổi bật cơ bản (quy mức độ quan trọng dựa trên gradient) từ một model phân loại ảnh đã được pre-train.

import torch
from torchvision.models import resnet18

# Load a pre-trained model in evaluation mode
model = resnet18(weights="DEFAULT").eval()

# Create a dummy image tensor and explicitly require gradients
input_image = torch.randn(1, 3, 224, 224, requires_grad=True)

# Forward pass: get predictions for the input image
output = model(input_image)

# Backward pass: compute gradients for the highest scoring class
output[0, output.argmax()].backward()

# Saliency map is the maximum absolute gradient across the 3 color channels
saliency_map, _ = torch.max(input_image.grad.data.abs(), dim=1)
print(f"Generated Saliency Map Shape: {saliency_map.shape}")

Đối với các workflow cấp cao hơn liên quan đến phát hiện đối tượng hoặc vẽ bounding box, các công cụ như Ultralytics Platform giúp các developer dễ dàng chú thích dataset, giám sát thử nghiệm và trực quan hóa đầu ra từ các model như Ultralytics YOLO26 hiện đại hàng đầu. Bằng cách liên tục đánh giá các suy luận trực quan cùng với triển khai model, các team có thể xây dựng và mở rộng những hệ thống AI đáng tin cậy và minh bạch hơn nhiều.