Explainable AI (XAI)

Explainable AI (XAI) đề cập đến một tập hợp toàn diện các quy trình, công cụ và phương pháp được thiết kế để làm cho các đầu ra của hệ thống Artificial Intelligence (AI) trở nên dễ hiểu đối với con người. Khi các tổ chức ngày càng triển khai nhiều mô hình Machine Learning (ML) phức tạp—đặc biệt là trong lĩnh vực Deep Learning (DL)—các hệ thống này thường hoạt động như những "hộp đen". Mặc dù mô hình hộp đen có thể đưa ra dự đoán có độ chính xác cao, nhưng logic ra quyết định bên trong của nó vẫn mờ đục. XAI nhằm mục đích làm sáng tỏ quá trình này, giúp các bên liên quan hiểu rõ lý do tại sao một quyết định cụ thể được đưa ra, điều này rất quan trọng để xây dựng lòng tin, đảm bảo an toàn và đáp ứng các tiêu chuẩn tuân thủ quy định.

Tầm quan trọng của khả năng giải thích#

Nhu cầu minh bạch trong việc ra quyết định tự động đang thúc đẩy việc áp dụng XAI trên các ngành công nghiệp. Lòng tin là yếu tố cốt lõi; người dùng ít có khả năng dựa vào Predictive Modeling nếu họ không thể xác minh lý do đằng sau nó. Điều này đặc biệt có ý nghĩa trong các môi trường có rủi ro cao, nơi các lỗi có thể dẫn đến hậu quả nghiêm trọng.

• Tuân thủ quy định: Các khung pháp lý mới, chẳng hạn như European Union AI Act và General Data Protection Regulation (GDPR), ngày càng yêu cầu các hệ thống AI rủi ro cao phải cung cấp các giải thích có thể diễn giải được cho các quyết định của chúng.
• AI đạo đức: Việc triển khai XAI là nền tảng của AI Ethics. Bằng cách tiết lộ những tính năng nào ảnh hưởng đến đầu ra của mô hình, các nhà phát triển có thể xác định và giảm thiểu Algorithmic Bias, đảm bảo hệ thống hoạt động công bằng trên các nhóm nhân khẩu học khác nhau.
• Gỡ lỗi mô hình: Đối với các kỹ sư, tính giải thích được là điều cần thiết cho Model Monitoring. Nó giúp chẩn đoán lý do tại sao một mô hình có thể gặp lỗi trong các trường hợp biên cụ thể hoặc gặp phải Data Drift, từ đó cho phép quá trình huấn luyện lại diễn ra một cách có mục tiêu hơn.

Các kỹ thuật phổ biến trong XAI#

Nhiều kỹ thuật khác nhau tồn tại để làm cho các Neural Networks trở nên minh bạch hơn, thường được phân loại theo việc chúng độc lập với mô hình (áp dụng cho bất kỳ thuật toán nào) hay phụ thuộc vào mô hình cụ thể.

• SHAP (SHapley Additive exPlanations): Dựa trên lý thuyết trò chơi hợp tác, SHAP values gán một điểm số đóng góp cho mỗi tính năng đối với một dự đoán cho trước, giải thích mức độ mà mỗi đầu ra đã dịch chuyển kết quả so với đường cơ sở.
• LIME (Local Interpretable Model-agnostic Explanations): Phương pháp này xấp xỉ một mô hình phức tạp bằng một mô hình đơn giản, dễ giải thích hơn (như mô hình tuyến tính) cục bộ xung quanh một dự đoán cụ thể. LIME helps explain individual instances bằng cách làm nhiễu các đầu vào và quan sát các thay đổi của đầu ra.
• Bản đồ saliency: Được sử dụng rộng rãi trong Computer Vision (CV), các hình ảnh trực quan này làm nổi bật các pixel trong một hình ảnh ảnh hưởng nhiều nhất đến quyết định của mô hình. Các phương pháp như Grad-CAM tạo ra các bản đồ nhiệt để hiển thị nơi mô hình "đã nhìn" để nhận diện một đối tượng.

Các ứng dụng trong thực tế#

XAI là rất quan trọng trong các lĩnh vực mà "tại sao" cũng quan trọng không kém gì "cái gì".

1. Chẩn đoán y tế: Trong Medical Image Analysis, việc một AI chỉ đơn thuần gắn cờ một bức ảnh X-quang là bất thường là chưa đủ. Một hệ thống hỗ trợ XAI sẽ làm nổi bật vùng cụ thể của phổi hoặc xương đã kích hoạt cảnh báo này. Bằng chứng trực quan này cho phép các bác sĩ X-quang xác thực các phát hiện của mô hình, tạo điều kiện thuận lợi cho việc áp dụng AI In Healthcare một cách an toàn hơn.

2. Dịch vụ tài chính: Khi các ngân hàng sử dụng thuật toán để chấm điểm tín dụng, việc từ chối một đơn xin vay tiền đòi hỏi một sự giải thích rõ ràng để tuân thủ các luật như Equal Credit Opportunity Act. Các công cụ XAI có thể phân tích một quyết định từ chối thành các yếu tố dễ hiểu—chẳng hạn như "tỷ lệ nợ trên thu nhập quá cao"—thúc đẩy Fairness In AI và cho phép người nộp đơn giải quyết các vấn đề cụ thể.

Phân biệt các thuật ngữ liên quan#

Việc phân biệt XAI với các khái niệm tương tự trong bảng chú giải thuật ngữ AI sẽ rất hữu ích:

• XAI và Transparency In AI: Tính minh bạch là một khái niệm rộng hơn bao gồm độ mở của toàn bộ hệ thống, bao gồm các nguồn dữ liệu và quy trình phát triển. XAI tập trung cụ thể vào các kỹ thuật được sử dụng để làm cho cơ sở lý luận suy luận trở nên dễ hiểu. Tính minh bạch có thể liên quan đến việc xuất bản Model Weights, trong khi XAI giải thích lý do tại sao những trọng số đó tạo ra một kết quả cụ thể.
• XAI và tính giải thích được: Tính giải thích được thường đề cập đến các mô hình vốn đã dễ hiểu theo thiết kế, chẳng hồi như Decision Trees hoặc hồi quy tuyến tính. XAI thường liên quan đến các phương pháp hậu kỳ áp dụng cho các mô hình phức tạp, khó giải thích như các Convolutional Neural Networks (CNN) sâu.

Ví dụ về mã: Trực quan hóa suy luận để giải thích#

Một bước cơ bản trong tính giải thích được đối với thị giác máy tính là trực quan hóa các dự đoán của mô hình trực tiếp trên hình ảnh. Mặc dù XAI tiên tiến sử dụng bản đồ nhiệt, việc nhìn thấy các hộp bao và điểm số độ tin cậy cung cấp cái nhìn tức thì về những gì mô hình đã phát hiện. Sử dụng gói ultralytics với các mô hình tiên tiến như YOLO26, người dùng có thể dễ dàng kiểm tra các đầu ra phát hiện.

from ultralytics import YOLO

# Load a pre-trained YOLO26 model (Nano version)
model = YOLO("yolo26n.pt")

# Run inference on an image
results = model("https://ultralytics.com/images/bus.jpg")

# Visualize the results
# This displays the image with bounding boxes, labels, and confidence scores,
# acting as a basic visual explanation of the model's detection logic.
results[0].show()

Hình ảnh trực quan đơn giản này hoạt động như một bước kiểm tra hợp lý, một dạng cơ bản của tính giải thích được nhằm xác nhận rằng mô hình đang tập trung vào các đối tượng có liên quan trong cảnh trong các tác vụ Object Detection. Đối với các quy trình nâng cao hơn liên quan đến quản lý tập dữ liệu và trực quan hóa quá trình huấn luyện mô hình, người dùng có thể tận dụng Ultralytics Platform. Các nhà nghiên cứu thường mở rộng điều này bằng cách truy cập các bản đồ đặc trưng cơ bản để phân tích sâu hơn được mô tả trong NIST XAI Principles.