Explainable AI (XAI)

AI có thể giải thích (XAI) là tập hợp toàn diện các quy trình, công cụ và phương pháp nhằm giúp người dùng hiểu được đầu ra của các hệ thống Trí tuệ nhân tạo (AI). Khi các tổ chức ngày càng triển khai các model Học máy (ML) phức tạp—đặc biệt trong lĩnh vực Học sâu (DL)—những hệ thống này thường hoạt động như "hộp đen". Model hộp đen có thể đưa ra dự đoán với độ chính xác cao, nhưng logic ra quyết định bên trong vẫn không minh bạch. XAI hướng đến việc làm sáng tỏ quy trình này, giúp các bên liên quan hiểu vì sao một quyết định cụ thể được đưa ra; điều này rất quan trọng để xây dựng lòng tin, đảm bảo an toàn và đáp ứng yêu cầu tuân thủ quy định.

Tầm quan trọng của khả năng giải thích#

Nhu cầu minh bạch trong quá trình ra quyết định tự động đang thúc đẩy việc áp dụng XAI trong nhiều ngành. Lòng tin là yếu tố then chốt; người dùng ít có khả năng dựa vào Mô hình hóa dự đoán nếu họ không thể xác minh lập luận đằng sau mô hình. Điều này đặc biệt phù hợp trong các môi trường có rủi ro cao, nơi sai sót có thể gây ra hậu quả nghiêm trọng.

• Tuân thủ quy định: Các khuôn khổ pháp lý mới, chẳng hạn như Đạo luật Trí tuệ nhân tạo của Liên minh Châu Âu và Quy định chung về bảo vệ dữ liệu (GDPR), ngày càng yêu cầu các hệ thống AI rủi ro cao cung cấp lời giải thích có thể diễn giải được cho các quyết định của chúng.
• AI có đạo đức: Triển khai XAI là nền tảng của Đạo đức AI. Bằng cách cho biết những đặc trưng nào ảnh hưởng đến đầu ra của model, nhà phát triển có thể xác định và giảm thiểu Thiên kiến thuật toán, đảm bảo hệ thống hoạt động công bằng giữa các nhóm nhân khẩu học khác nhau.
• Gỡ lỗi model: Đối với kỹ sư, khả năng giải thích là yếu tố thiết yếu để Giám sát model. Khả năng này giúp chẩn đoán lý do model có thể không hoạt động trong một số trường hợp biên cụ thể hoặc gặp phải Trôi dạt dữ liệu, từ đó cho phép huấn luyện lại có mục tiêu hơn.

Các kỹ thuật XAI phổ biến#

Có nhiều kỹ thuật giúp Mạng nơ-ron trở nên minh bạch hơn; chúng thường được phân loại theo việc có phụ thuộc vào model hay không (áp dụng cho mọi thuật toán) hoặc dành riêng cho từng model.

• SHAP (Giải thích cộng tính Shapley): Dựa trên lý thuyết trò chơi hợp tác, giá trị SHAP gán điểm đóng góp cho từng đặc trưng trong một dự đoán nhất định, giải thích mức độ mỗi đầu vào làm dịch chuyển kết quả so với giá trị cơ sở.
• LIME (Giải thích cục bộ cho model có thể diễn giải, không phụ thuộc model): Phương pháp này xấp xỉ một model phức tạp bằng một model đơn giản, có thể diễn giải (chẳng hạn như model tuyến tính) trong phạm vi cục bộ quanh một dự đoán cụ thể. LIME giúp giải thích từng trường hợp riêng lẻ bằng cách làm nhiễu đầu vào và quan sát các thay đổi ở đầu ra.
• Bản đồ độ nổi bật: Được sử dụng rộng rãi trong Thị giác máy tính (CV), những hình ảnh trực quan này làm nổi bật các pixel trong ảnh ảnh hưởng nhiều nhất đến quyết định của model. Các phương pháp như Grad-CAM tạo bản đồ nhiệt để cho thấy model đã “nhìn” vào đâu khi nhận diện một đối tượng.

Ứng dụng thực tế#

AI có thể giải thích đóng vai trò then chốt trong những lĩnh vực mà câu hỏi “tại sao” quan trọng ngang với câu hỏi “điều gì”.

1. Chẩn đoán y tế: Trong Phân tích ảnh y tế, việc AI chỉ đánh dấu một ảnh X-quang là bất thường là chưa đủ. Hệ thống hỗ trợ XAI sẽ làm nổi bật vùng cụ thể trên phổi hoặc xương khiến hệ thống phát cảnh báo. Bằng chứng trực quan này giúp bác sĩ chẩn đoán hình ảnh xác thực kết quả của model, tạo điều kiện để áp dụng AI trong chăm sóc sức khỏe an toàn hơn.

2. Dịch vụ tài chính: Khi ngân hàng sử dụng thuật toán để chấm điểm tín dụng, việc từ chối đơn vay cần có lý do rõ ràng để tuân thủ các luật như Đạo luật Cơ hội Tín dụng Bình đẳng. Công cụ XAI có thể phân rã quyết định từ chối thành các yếu tố dễ hiểu — chẳng hạn như “tỷ lệ nợ trên thu nhập quá cao” — thúc đẩy Tính công bằng trong AI và cho phép người nộp đơn khắc phục các vấn đề cụ thể.

Phân biệt các thuật ngữ liên quan#

Việc phân biệt XAI với các khái niệm tương tự trong bảng thuật ngữ AI sẽ rất hữu ích:

• XAI so với Tính minh bạch trong AI: Tính minh bạch là một khái niệm rộng hơn, bao gồm mức độ cởi mở của toàn bộ hệ thống, kể cả nguồn dữ liệu và quy trình phát triển. XAI tập trung cụ thể vào các kỹ thuật giúp lý do suy luận trở nên dễ hiểu. Tính minh bạch có thể bao gồm việc công bố trọng số model, còn XAI giải thích vì sao những trọng số đó tạo ra một kết quả cụ thể.
• XAI so với khả năng diễn giải: Khả năng diễn giải thường nói đến các model vốn dễ hiểu ngay từ thiết kế, chẳng hạn như Cây quyết định hoặc hồi quy tuyến tính. XAI thường bao gồm các phương pháp hậu nghiệm áp dụng cho những model phức tạp, khó diễn giải như Mạng nơ-ron tích chập (CNN) sâu.

Ví dụ mã: Trực quan hóa suy luận để giải thích#

Một bước cơ bản để giải thích trong thị giác máy tính là trực quan hóa trực tiếp các dự đoán của model trên ảnh. Trong khi XAI nâng cao sử dụng bản đồ nhiệt, việc xem các hộp giới hạn và điểm tin cậy giúp hiểu ngay model đã phát hiện những gì. Với gói ultralytics và các model hiện đại như YOLO26, người dùng có thể dễ dàng kiểm tra đầu ra phát hiện.

from ultralytics import YOLO

# Tải model YOLO26 đã huấn luyện trước (phiên bản Nano)
model = YOLO("yolo26n.pt")

# Chạy inference trên một ảnh
results = model("https://ultralytics.com/images/bus.jpg")

# Trực quan hóa kết quả
# Lệnh này hiển thị ảnh kèm các hộp giới hạn, nhãn và điểm tin cậy,
# đóng vai trò như một phần giải thích trực quan cơ bản về logic phát hiện của model.
results[0].show()

Hình ảnh trực quan đơn giản này đóng vai trò như một bước kiểm tra tính hợp lý, một hình thức giải thích cơ bản xác nhận model đang tập trung vào các đối tượng liên quan trong cảnh khi thực hiện tác vụ Phát hiện đối tượng. Với các quy trình nâng cao hơn liên quan đến quản lý dataset và trực quan hóa quá trình huấn luyện model, người dùng có thể tận dụng Nền tảng Ultralytics. Các nhà nghiên cứu thường mở rộng cách này bằng cách truy cập các feature map bên dưới để phân tích sâu hơn, như mô tả trong Các nguyên tắc XAI của NIST.