Tất cả những điều cần biết về AI có thể giải thích (XAI)

Bạn đã bao giờ nhìn thấy phản hồi từ một công cụ trí tuệ nhân tạo (AI) như ChatGPT và tự hỏi làm thế nào công cụ đó đưa ra kết luận ấy chưa? Khi đó, bạn đã gặp phải vấn đề “hộp đen” của AI. Đây là thuật ngữ chỉ sự thiếu rõ ràng về cách các model AI xử lý và phân tích dữ liệu. Ngay cả các kỹ sư và nhà khoa học AI thường xuyên làm việc với những thuật toán AI tiên tiến cũng có thể gặp khó khăn trong việc hiểu đầy đủ cách chúng hoạt động bên trong. Trên thực tế, chỉ 22% chuyên gia CNTT thực sự hiểu được khả năng của các công cụ AI.

Sự không chắc chắn xung quanh cách các model AI đưa ra quyết định có thể tiềm ẩn rủi ro, đặc biệt trong những lĩnh vực quan trọng như thị giác máy tính trong chăm sóc sức khỏe và AI trong tài chính. Tuy nhiên, những tiến bộ đáng kể đang được thực hiện để giải quyết các thách thức này và cải thiện tính minh bạch.

Cụ thể, AI có khả năng giải thích (XAI) tập trung hoàn toàn vào việc giải quyết vấn đề này. Nói một cách đơn giản, đây là tập hợp các quy trình và phương pháp giúp người dùng hiểu và tin tưởng vào các kết quả hoặc đầu ra do những thuật toán machine learning phức tạp tạo ra.

XAI có thể giúp các nhà phát triển đảm bảo rằng các hệ thống AI đang hoạt động như mong đợi. Công nghệ này cũng có thể giúp các công ty AI đáp ứng các tiêu chuẩn quy định. Trong bài viết này, chúng ta sẽ tìm hiểu về AI có khả năng giải thích và nhiều trường hợp sử dụng của công nghệ này. Hãy bắt đầu!

Tầm quan trọng của AI có khả năng giải thích#

Khả năng giải thích là yếu tố then chốt khi làm việc với AI. Điều này đặc biệt đúng với phân nhánh thị giác máy tính của AI, vốn được sử dụng rộng rãi trong các ứng dụng thuộc những ngành như chăm sóc sức khỏe. Khi sử dụng vision model trong các ngành nhạy cảm như vậy, điều quan trọng là cách model hoạt động phải minh bạch và có thể được mọi người diễn giải.

Khả năng diễn giải của các model thị giác máy tính giúp người dùng hiểu rõ hơn cách một dự đoán được tạo ra và logic đằng sau dự đoán đó. Tính minh bạch bổ sung cho khả năng này bằng cách làm rõ cách model hoạt động đối với mọi người, nêu rõ các giới hạn của model và đảm bảo dữ liệu được sử dụng một cách có đạo đức. Ví dụ, thị giác máy tính có thể giúp các bác sĩ X-quang xác định hiệu quả các biến chứng sức khỏe trong ảnh X-quang.

Hình 1. Ảnh X-quang ngực được phân tích bằng AI thị giác, thể hiện các phân loại lao phổi: khỏe mạnh, mắc bệnh, thể hoạt động và thể tiềm ẩn.

Tuy nhiên, một hệ thống thị giác chỉ có độ chính xác cao là chưa đủ. Hệ thống cũng cần có khả năng giải thích các quyết định của mình. Hãy giả sử hệ thống có thể chỉ ra những phần của ảnh đã dẫn đến kết luận - khi đó, mọi đầu ra sẽ rõ ràng hơn. Mức độ minh bạch như vậy sẽ giúp các chuyên gia y tế kiểm tra lại phát hiện của họ và đảm bảo rằng việc chăm sóc bệnh nhân đáp ứng các tiêu chuẩn y tế.

Một lý do khác khiến khả năng giải thích trở nên thiết yếu là nó buộc các công ty AI phải chịu trách nhiệm và xây dựng niềm tin với người dùng. AI đáng tin cậy giúp người dùng tin tưởng rằng các đổi mới AI hoạt động ổn định, đưa ra quyết định công bằng và xử lý dữ liệu một cách có trách nhiệm.

Các kỹ thuật AI có khả năng giải thích chủ chốt trong thị giác máy tính#

Sau khi đã thảo luận về lý do khả năng giải thích quan trọng trong thị giác máy tính, hãy cùng xem xét các kỹ thuật XAI chủ chốt được sử dụng trong AI thị giác.

Bản đồ độ nổi bật#

Mạng nơ-ron là các model lấy cảm hứng từ não người, được thiết kế để nhận dạng mẫu và đưa ra quyết định bằng cách xử lý dữ liệu qua các lớp nút (nơ-ron) liên kết với nhau. Chúng có thể được sử dụng để giải quyết các bài toán thị giác máy tính phức tạp với độ chính xác cao. Dù có độ chính xác này, về bản chất chúng vẫn là những hộp đen.

Bản đồ độ nổi bật là một kỹ thuật XAI có thể được sử dụng để giúp hiểu mạng nơ-ron đang nhìn nhận điều gì khi phân tích ảnh. Kỹ thuật này cũng có thể được dùng để khắc phục sự cố của model khi model không hoạt động như mong đợi.

Bản đồ độ nổi bật hoạt động bằng cách tập trung vào những phần của ảnh (các pixel) xác định dự đoán của model. Quy trình này rất giống với lan truyền ngược, trong đó model lần ngược từ dự đoán về đầu vào. Tuy nhiên, thay vì cập nhật trọng số của model dựa trên lỗi, chúng ta chỉ xem mỗi pixel “quan trọng” đến mức nào đối với dự đoán. Bản đồ độ nổi bật rất hữu ích cho các tác vụ thị giác máy tính như phân loại ảnh.

Ví dụ, nếu một model phân loại ảnh dự đoán rằng một ảnh có hình một con chó, chúng ta có thể xem bản đồ độ nổi bật của ảnh để hiểu vì sao model cho rằng đó là một con chó. Điều này giúp xác định những pixel ảnh hưởng nhiều nhất đến đầu ra. Bản đồ độ nổi bật sẽ làm nổi bật tất cả các pixel góp phần tạo nên dự đoán cuối cùng rằng ảnh chứa một con chó.

Hình 2. Chế độ xem cạnh nhau của các ảnh đầu vào và bản đồ độ nổi bật tương ứng.

Lập bản đồ kích hoạt lớp (CAM)#

Lập bản đồ kích hoạt lớp là một kỹ thuật XAI khác được sử dụng để hiểu những phần nào của ảnh mà mạng nơ-ron tập trung vào khi đưa ra dự đoán phân loại ảnh. Kỹ thuật này hoạt động tương tự bản đồ độ nổi bật nhưng tập trung xác định các đặc trưng quan trọng trong ảnh thay vì những pixel cụ thể. Đặc trưng là các mẫu hoặc chi tiết như hình dạng hay kết cấu mà model phát hiện trong ảnh.

Các phương pháp như Lập bản đồ kích hoạt lớp có trọng số gradient (Grad-CAM) và Grad-CAM++ phát triển dựa trên cùng ý tưởng này, với một số cải tiến.

CAM hoạt động như sau:

• Trước khi mạng nơ-ron đưa ra quyết định cuối cùng, nó sử dụng một bước gọi là gộp trung bình toàn cục (GAP) để đơn giản hóa thông tin. GAP kết hợp tất cả pixel trong một mẫu đã phát hiện thành một giá trị trung bình duy nhất, tạo bản tóm tắt cho mỗi feature map (biểu diễn trực quan của các mẫu đã phát hiện).
• Sau đó, mỗi feature map được gán một trọng số cho biết mức độ quan trọng của nó trong việc dự đoán một lớp nhất định (chẳng hạn như “chim” hoặc “mèo”).
• Tuy nhiên, một hạn chế của CAM là bạn có thể cần huấn luyện lại model để tính các trọng số này, việc có thể tốn nhiều thời gian.

Grad-CAM cải thiện phương pháp này bằng cách sử dụng gradient, tương tự các tín hiệu cho biết mỗi feature map ảnh hưởng đến dự đoán cuối cùng ở mức nào. Phương pháp này loại bỏ nhu cầu sử dụng GAP và giúp dễ dàng nhận biết model tập trung vào đâu mà không cần huấn luyện lại. Grad-CAM++ tiến thêm một bước bằng cách chỉ tập trung vào các ảnh hưởng tích cực, nhờ đó kết quả còn rõ ràng hơn.

Hình 3. So sánh CAM, Grad-CAM và Grad-CAM++.

Giải thích phản thực#

Giải thích phản thực là một thành phần quan trọng của AI có khả năng giải thích. Giải thích phản thực mô tả một tình huống hoặc kết quả bằng cách xem xét các kịch bản hoặc sự kiện thay thế đã không xảy ra nhưng có thể đã xảy ra. Cách giải thích này có thể cho thấy những thay đổi trong các biến đầu vào cụ thể dẫn đến các kết quả khác nhau như thế nào, chẳng hạn: “Nếu X không xảy ra thì Y đã không xảy ra.”

Trong AI và thị giác máy tính, giải thích phản thực xác định thay đổi nhỏ nhất cần thiết đối với đầu vào (chẳng hạn như một ảnh hoặc dữ liệu) để khiến một model AI tạo ra một kết quả khác biệt và cụ thể. Ví dụ, thay đổi màu của một vật thể trong ảnh có thể khiến dự đoán của model phân loại ảnh chuyển từ “mèo” thành “chó”.

Một ví dụ điển hình khác là thay đổi góc hoặc ánh sáng trong hệ thống nhận dạng khuôn mặt. Điều này có thể khiến model nhận dạng một cá nhân khác, cho thấy những thay đổi nhỏ trong đầu vào có thể ảnh hưởng đến dự đoán của model như thế nào.

Cách đơn giản nhất để tạo các lời giải thích này là thử và sai: bạn có thể thay đổi ngẫu nhiên các phần của đầu vào (chẳng hạn như các đặc trưng của ảnh hoặc dữ liệu) cho đến khi model AI đưa ra kết quả mong muốn. Các phương pháp khác bao gồm những cách tiếp cận không phụ thuộc model, sử dụng tối ưu hóa và các kỹ thuật tìm kiếm để xác định thay đổi, cùng những cách tiếp cận đặc thù theo model, dựa vào các thiết lập hoặc phép tính nội bộ để xác định những thay đổi cần thiết.

Các ứng dụng của AI có khả năng giải thích trong thị giác máy tính#

Sau khi tìm hiểu XAI là gì và các kỹ thuật chủ chốt của công nghệ này, chúng ta có thể xem xét cách XAI được sử dụng trong thực tế. XAI có nhiều ứng dụng đa dạng trong nhiều lĩnh vực. Hãy cùng đi sâu vào một số trường hợp sử dụng làm nổi bật tiềm năng của công nghệ này:

• Hệ thống an ninh: XAI có thể được sử dụng để tăng cường các hệ thống an ninh bằng cách phát hiện ảnh bị biến đổi trong những giấy tờ nhận dạng như hộ chiếu và giấy phép lái xe. Điều này đảm bảo tính xác thực của ảnh, củng cố quy trình xác minh danh tính và ngăn chặn các hoạt động gian lận trong những ứng dụng nhạy cảm.

Hình 4. Cách XAI hoạt động để phát hiện ảnh bị biến đổi.

• Lái xe tự động: Hiểu rõ khả năng và giới hạn của hệ thống AI thị giác trên xe tự lái có thể là một phần rất quan trọng trong quá trình kiểm thử xe trước khi triển khai trên đường thực tế. XAI có thể giúp các công ty ô tô xác định và xử lý vấn đề rõ ràng hơn.

• Hệ thống pháp lý: Các hệ thống phân tích tài liệu tích hợp thị giác ngày càng được sử dụng nhiều hơn trong việc ra quyết định tư pháp. XAI hỗ trợ các kết quả công bằng và cho phép xem xét kỹ lưỡng các phán quyết tự động. Công nghệ này cũng giúp các chuyên gia pháp lý hiểu cách một model AI đi đến quyết định.

• Giám sát động vật hoang dã: Bẫy ảnh thường được sử dụng để theo dõi động vật hoang dã và thu thập dữ liệu về các loài động vật. XAI có thể được sử dụng để giải thích cách AI phân loại các loài này trong ảnh. Nhờ đó, các nỗ lực bảo tồn có thể trở nên đáng tin cậy và chính xác hơn.

Những điểm chính về AI có khả năng giải thích#

AI có khả năng giải thích giúp dễ dàng hiểu cách các hệ thống AI hoạt động và lý do chúng đưa ra những quyết định nhất định. Tính minh bạch về các model AI xây dựng niềm tin và trách nhiệm giải trình. Tri thức tạo nên sức mạnh và giúp các đổi mới AI được sử dụng có trách nhiệm hơn. Trong những lĩnh vực quan trọng như chăm sóc sức khỏe, an ninh, lái xe tự động và hệ thống pháp lý, XAI có thể được sử dụng để giúp nhà phát triển và người dùng hiểu các dự đoán của AI, xác định lỗi và đảm bảo việc sử dụng công bằng, có đạo đức. Bằng cách làm cho AI minh bạch hơn, XAI thu hẹp khoảng cách giữa công nghệ và niềm tin của con người, giúp AI an toàn và đáng tin cậy hơn trong các ứng dụng thực tế.

Để tìm hiểu thêm, hãy truy cập repository GitHub của chúng tôi và tham gia cộng đồng. Khám phá các ứng dụng AI trong xe tự lái và nông nghiệp trên các trang giải pháp của chúng tôi. 🚀