Explainable AI (XAI)

Trí tuệ nhân tạo có thể giải thích (XAI) đề cập đến một tập hợp toàn diện các quy trình, công cụ và phương pháp được thiết kế để làm cho đầu ra của các hệ thống Artificial Intelligence (AI) trở nên dễ hiểu đối với người dùng. Khi các tổ chức ngày càng triển khai nhiều Machine Learning (ML) model phức tạp—đặc biệt là trong lĩnh vực Deep Learning (DL)—các hệ thống này thường hoạt động như các "hộp đen". Mặc dù một mô hình hộp đen có thể cung cấp các dự đoán có độ chính xác cao, logic ra quyết định bên trong của nó vẫn không rõ ràng. XAI nhằm mục đích làm sáng tỏ quá trình này, giúp các bên liên quan hiểu lý do tại sao một quyết định cụ thể được đưa ra, điều này rất quan trọng để thúc đẩy niềm tin, đảm bảo an toàn và tuân thủ các quy định.

Link to this sectionTầm quan trọng của khả năng giải thích#

Nhu cầu về tính minh bạch trong việc ra quyết định tự động đang thúc đẩy việc áp dụng XAI trên các ngành công nghiệp. Niềm tin là yếu tố chính; người dùng ít có khả năng dựa vào Predictive Modeling nếu họ không thể xác minh lý do đằng sau nó. Điều này đặc biệt phù hợp trong các môi trường có rủi ro cao, nơi các sai sót có thể dẫn đến những hậu quả nghiêm trọng.

• Tuân thủ quy định: Các khuôn khổ pháp lý mới, chẳng hạn như European Union AI Act và General Data Protection Regulation (GDPR), ngày càng yêu cầu các hệ thống AI có rủi ro cao phải cung cấp các giải thích dễ hiểu cho các quyết định của chúng.
• AI đạo đức: Việc triển khai XAI là nền tảng của AI Ethics. Bằng cách tiết lộ những tính năng nào ảnh hưởng đến đầu ra của mô hình, các nhà phát triển có thể xác định và giảm thiểu Algorithmic Bias, đảm bảo hệ thống hoạt động công bằng trên các nhóm nhân khẩu học khác nhau.
• Gỡ lỗi mô hình: Đối với các kỹ sư, khả năng giải thích là yếu tố cần thiết cho Model Monitoring. Nó giúp chẩn đoán lý do tại sao một mô hình có thể hoạt động không hiệu quả trên các trường hợp biên cụ thể hoặc gặp phải Data Drift, từ đó cho phép đào tạo lại một cách có mục tiêu hơn.

Link to this sectionCác kỹ thuật phổ biến trong XAI#

Nhiều kỹ thuật khác nhau tồn tại để làm cho Neural Networks trở nên minh bạch hơn, thường được phân loại dựa trên việc chúng có độc lập với mô hình (áp dụng được cho bất kỳ thuật toán nào) hay phụ thuộc vào mô hình.

• SHAP (SHapley Additive exPlanations): Dựa trên lý thuyết trò chơi hợp tác, SHAP values gán một điểm số đóng góp cho mỗi tính năng đối với một dự đoán nhất định, giải thích mức độ mà mỗi đầu vào đã thay đổi kết quả từ cơ sở ban đầu.
• LIME (Local Interpretable Model-agnostic Explanations): Phương pháp này xấp xỉ một mô hình phức tạp bằng một mô hình đơn giản, dễ hiểu hơn (như mô hình tuyến tính) tại địa phương xung quanh một dự đoán cụ thể. LIME helps explain individual instances bằng cách làm nhiễu dữ liệu đầu vào và quan sát những thay đổi trong đầu ra.
• Saliency Maps: Được sử dụng rộng rãi trong Computer Vision (CV), các bản đồ trực quan hóa này làm nổi bật các pixel trong hình ảnh có ảnh hưởng nhiều nhất đến quyết định của mô hình. Các phương pháp như Grad-CAM tạo ra các bản đồ nhiệt để cho thấy nơi mô hình "nhìn vào" để xác định một đối tượng.

Link to this sectionCác ứng dụng trong thực tế#

XAI là rất quan trọng trong các lĩnh vực mà "tại sao" cũng quan trọng không kém gì "cái gì".

1. Chẩn đoán y tế: Trong Medical Image Analysis, việc AI chỉ gắn cờ một phim X-quang là bất thường là chưa đủ. Một hệ thống hỗ trợ XAI làm nổi bật khu vực cụ thể của phổi hoặc xương đã kích hoạt cảnh báo. Bằng chứng trực quan này cho phép các bác sĩ chẩn đoán hình ảnh xác nhận các phát hiện của mô hình, tạo điều kiện cho việc áp dụng AI In Healthcare an toàn hơn.

2. Dịch vụ tài chính: Khi các ngân hàng sử dụng thuật toán để chấm điểm tín dụng, việc từ chối đơn xin vay vốn đòi hỏi một sự biện minh rõ ràng để tuân thủ các luật như Equal Credit Opportunity Act. Các công cụ XAI có thể phân tách một trường hợp từ chối thành các yếu tố dễ hiểu—chẳng hạn như "tỷ lệ nợ trên thu nhập quá cao"—từ đó thúc đẩy Fairness In AI và cho phép người nộp đơn giải quyết các vấn đề cụ thể.

Link to this sectionPhân biệt các thuật ngữ liên quan#

Việc phân biệt XAI với các khái niệm tương tự trong bảng chú giải thuật ngữ AI sẽ rất hữu ích:

• XAI so với Transparency In AI: Minh bạch là một khái niệm rộng hơn bao gồm sự cởi mở của toàn bộ hệ thống, bao gồm các nguồn dữ liệu và quy trình phát triển. XAI tập trung cụ thể vào các kỹ thuật được sử dụng để làm cho cơ sở lý luận của suy luận trở nên dễ hiểu. Sự minh bạch có thể bao gồm việc công bố Model Weights, trong khi XAI giải thích tại sao những trọng số đó tạo ra một kết quả cụ thể.
• XAI so với Khả năng diễn giải: Khả năng diễn giải thường đề cập đến các mô hình vốn đã dễ hiểu theo thiết kế, chẳng hạn như Decision Trees hoặc hồi quy tuyến tính. XAI thường liên quan đến các phương pháp hậu kiểm được áp dụng cho các mô hình phức tạp, khó diễn giải như các mạng Convolutional Neural Networks (CNN) sâu.

Link to this sectionVí dụ về mã: Trực quan hóa suy luận để giải thích#

Một bước cơ bản trong khả năng giải thích cho thị giác máy tính là trực quan hóa các dự đoán của mô hình trực tiếp trên hình ảnh. Trong khi XAI tiên tiến sử dụng bản đồ nhiệt, việc nhìn thấy các khung bao (bounding boxes) và điểm số tin cậy cung cấp cái nhìn sâu sắc ngay lập tức về những gì mô hình đã phát hiện. Sử dụng gói ultralytics với các mô hình hiện đại như YOLO26, người dùng có thể dễ dàng kiểm tra đầu ra của quá trình phát hiện.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model (Nano version)
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")

# Visualize the results
# This displays the image with bounding boxes, labels, and confidence scores,
# acting as a basic visual explanation of the model's detection logic.
results[0].show()

Hình ảnh trực quan đơn giản này đóng vai trò như một bước kiểm tra độ tỉnh táo (sanity check), một dạng cơ bản của khả năng giải thích nhằm xác nhận rằng mô hình đang chú ý đến các đối tượng liên quan trong cảnh trong quá trình thực hiện các tác vụ Object Detection. Đối với các quy trình làm việc nâng cao hơn liên quan đến quản lý tập dữ liệu và trực quan hóa đào tạo mô hình, người dùng có thể tận dụng Ultralytics Platform. Các nhà nghiên cứu thường mở rộng điều này bằng cách truy cập các bản đồ tính năng (feature maps) cơ bản để phân tích sâu hơn như được mô tả trong NIST XAI Principles.