Explainable AI (XAI)

Trí tuệ nhân tạo có thể giải thích (XAI) đề cập đến một tập hợp toàn diện các quy trình, công cụ và phương pháp được thiết kế để giúp người dùng hiểu được đầu ra của các hệ thống Trí tuệ nhân tạo (AI). Khi các tổ chức ngày càng triển khai những model Machine Learning (ML) phức tạp—đặc biệt trong lĩnh vực Deep Learning (DL)—các hệ thống này thường hoạt động như những “hộp đen”. Mặc dù model hộp đen có thể đưa ra các dự đoán với độ chính xác rất cao, logic ra quyết định bên trong vẫn không rõ ràng. XAI hướng đến việc làm sáng tỏ quy trình này, giúp các bên liên quan hiểu tại sao một quyết định cụ thể được đưa ra; điều này rất quan trọng để xây dựng lòng tin, đảm bảo an toàn và đáp ứng các yêu cầu tuân thủ quy định.

Tầm quan trọng của khả năng giải thích#

Nhu cầu minh bạch trong việc ra quyết định tự động đang thúc đẩy việc áp dụng XAI trên nhiều ngành. Lòng tin là một yếu tố chính; người dùng ít có khả năng dựa vào Predictive Modeling nếu họ không thể xác minh lập luận đằng sau kết quả đó. Điều này đặc biệt phù hợp với các môi trường có rủi ro cao, nơi sai sót có thể gây ra hậu quả nghiêm trọng.

• Tuân thủ quy định: Các khung pháp lý mới, chẳng hạn như Đạo luật AI của Liên minh châu Âu và Quy định chung về bảo vệ dữ liệu (GDPR), ngày càng yêu cầu các hệ thống AI rủi ro cao cung cấp phần giải thích có thể diễn giải được cho các quyết định của chúng.
• AI có đạo đức: Việc triển khai XAI là nền tảng của Đạo đức AI. Bằng cách cho thấy những feature nào ảnh hưởng đến đầu ra của model, các developer có thể xác định và giảm thiểu Thiên kiến thuật toán, đảm bảo hệ thống vận hành công bằng giữa các nhóm nhân khẩu học khác nhau.
• Debug model: Đối với các engineer, khả năng giải thích là yếu tố thiết yếu trong Giám sát model. Khả năng này giúp chẩn đoán lý do model có thể bị lỗi trên các edge case cụ thể hoặc gặp phải Data Drift, từ đó cho phép retrain có mục tiêu hơn.

Các kỹ thuật XAI phổ biến#

Có nhiều kỹ thuật giúp Mạng neural minh bạch hơn, thường được phân loại dựa trên việc chúng không phụ thuộc vào model (có thể áp dụng cho mọi thuật toán) hay phụ thuộc vào model cụ thể.

• SHAP (các giải thích cộng gộp Shapley): Dựa trên lý thuyết trò chơi hợp tác, giá trị SHAP gán một điểm đóng góp cho mỗi feature đối với một dự đoán nhất định, giải thích mức độ mỗi đầu vào đã làm thay đổi kết quả so với đường cơ sở.
• LIME (các giải thích model cục bộ có thể diễn giải và không phụ thuộc vào model): Phương pháp này xấp xỉ một model phức tạp bằng một model đơn giản hơn, có thể diễn giải được (chẳng hạn như model tuyến tính), trong phạm vi cục bộ quanh một dự đoán cụ thể. LIME giúp giải thích các instance riêng lẻ bằng cách làm nhiễu các đầu vào và quan sát những thay đổi ở đầu ra.
• Saliency Map: Được sử dụng rộng rãi trong Thị giác máy tính (CV), các hình ảnh trực quan hóa này làm nổi bật những pixel trong ảnh có ảnh hưởng lớn nhất đến quyết định của model. Các phương pháp như Grad-CAM tạo heatmap để cho thấy model đã “nhìn” vào đâu nhằm xác định một object.

Các ứng dụng trong thực tế#

Trí tuệ nhân tạo có thể giải thích rất quan trọng trong những lĩnh vực mà “tại sao” cũng quan trọng không kém “điều gì”.

1. Chẩn đoán y tế: Trong Phân tích ảnh y tế, việc AI chỉ đơn giản đánh dấu một ảnh X-quang là bất thường là chưa đủ. Một hệ thống có XAI sẽ làm nổi bật vùng cụ thể của phổi hoặc xương đã kích hoạt cảnh báo. Bằng chứng trực quan này cho phép bác sĩ chẩn đoán hình ảnh xác thực các phát hiện của model, hỗ trợ việc áp dụng AI trong chăm sóc sức khỏe an toàn hơn.

2. Dịch vụ tài chính: Khi ngân hàng sử dụng thuật toán để chấm điểm tín dụng, việc từ chối đơn xin vay đòi hỏi một lý do rõ ràng để tuân thủ các luật như Đạo luật Cơ hội Tín dụng Bình đẳng. Các công cụ XAI có thể phân rã quyết định từ chối thành những yếu tố dễ hiểu—chẳng hạn như “tỷ lệ nợ trên thu nhập quá cao”—qua đó thúc đẩy Tính công bằng trong AI và cho phép người nộp đơn xử lý các vấn đề cụ thể.

Phân biệt các thuật ngữ liên quan#

Việc phân biệt XAI với các khái niệm tương tự trong glossary AI là rất hữu ích:

• XAI và Tính minh bạch trong AI: Tính minh bạch là một khái niệm rộng hơn, bao gồm mức độ cởi mở của toàn bộ hệ thống, trong đó có nguồn dữ liệu và các quy trình phát triển. XAI tập trung cụ thể vào các kỹ thuật được sử dụng để giúp lý do suy luận trở nên dễ hiểu. Tính minh bạch có thể bao gồm việc công bố trọng số model, trong khi XAI giải thích tại sao những trọng số đó tạo ra một kết quả cụ thể.
• XAI và khả năng diễn giải: Khả năng diễn giải thường đề cập đến các model vốn dễ hiểu ngay từ thiết kế, chẳng hạn như Cây quyết định hoặc hồi quy tuyến tính. XAI thường bao gồm các phương pháp hậu kiểm được áp dụng cho những model phức tạp, không thể diễn giải trực tiếp, như Mạng neural tích chập (CNN) sâu.

Ví dụ code: Trực quan hóa inference để giải thích#

Một bước nền tảng trong khả năng giải thích dành cho thị giác máy tính là trực quan hóa trực tiếp các dự đoán của model trên ảnh. Trong khi XAI nâng cao sử dụng heatmap, việc nhìn thấy các bounding box và điểm độ tin cậy cung cấp thông tin tức thời về những gì model đã phát hiện. Khi sử dụng package ultralytics cùng các model hiện đại như YOLO26, người dùng có thể dễ dàng kiểm tra đầu ra detection.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model (Nano version)
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")

# Visualize the results
# This displays the image with bounding boxes, labels, and confidence scores,
# acting as a basic visual explanation of the model's detection logic.
results[0].show()

Hình ảnh trực quan hóa đơn giản này đóng vai trò như một bước kiểm tra tính hợp lý, một dạng khả năng giải thích cơ bản xác nhận rằng model đang tập trung vào các object liên quan trong khung cảnh trong các tác vụ Object Detection. Đối với các workflow nâng cao hơn liên quan đến việc quản lý dataset và trực quan hóa quá trình train model, người dùng có thể tận dụng Ultralytics Platform. Các researcher thường mở rộng quy trình này bằng cách truy cập các feature map nền tảng để phân tích chuyên sâu hơn như được mô tả trong Các nguyên tắc XAI của NIST.