Tất cả những điều cần biết về AI có thể giải thích (XAI)

Bạn đã bao giờ xem câu trả lời từ một công cụ trí tuệ nhân tạo (AI) như ChatGPT và tự hỏi làm thế nào công cụ đi đến kết luận đó chưa? Khi ấy, bạn đã gặp phải mối quan ngại về “hộp đen” của AI. Thuật ngữ này chỉ sự thiếu rõ ràng về cách các model AI xử lý và phân tích dữ liệu. Ngay cả các kỹ sư và nhà khoa học AI thường xuyên làm việc với những thuật toán AI tiên tiến cũng có thể thấy khó hiểu đầy đủ cách chúng hoạt động bên trong. Trên thực tế, chỉ 22% chuyên gia CNTT thực sự hiểu các khả năng của công cụ AI.

Sự thiếu chắc chắn về cách các model AI đưa ra quyết định có thể gây rủi ro, đặc biệt trong những lĩnh vực trọng yếu như thị giác máy tính trong chăm sóc sức khỏe và AI trong tài chính. Tuy nhiên, những tiến bộ đáng kể đang được thực hiện để giải quyết các thách thức này và cải thiện tính minh bạch.

Cụ thể, AI có thể giải thích (XAI) tập trung giải quyết vấn đề này. Nói đơn giản, đây là tập hợp các quy trình và phương pháp giúp người dùng hiểu và tin tưởng kết quả hoặc đầu ra do các thuật toán machine learning phức tạp tạo ra.

XAI có thể giúp nhà phát triển đảm bảo các hệ thống AI hoạt động như mong đợi. Công nghệ này cũng có thể giúp các công ty AI đáp ứng tiêu chuẩn pháp lý. Trong bài viết này, chúng ta sẽ tìm hiểu AI có thể giải thích và nhiều trường hợp ứng dụng của công nghệ này.

Tầm quan trọng của AI có thể giải thích#

Khả năng giải thích là yếu tố then chốt khi làm việc với AI. Điều này đặc biệt đúng với phân ngành AI là thị giác máy tính, vốn được ứng dụng rộng rãi trong các ngành như chăm sóc sức khỏe. Khi sử dụng model thị giác trong những ngành nhạy cảm như vậy, điều quan trọng là mọi người đều có thể hiểu rõ và diễn giải được cách model hoạt động.

Khả năng diễn giải của các model thị giác máy tính giúp người dùng hiểu rõ hơn cách một dự đoán được đưa ra và logic đằng sau dự đoán đó. Tính minh bạch bổ sung cho khả năng này bằng cách làm rõ cách model hoạt động cho mọi người, trình bày rõ các hạn chế của model và đảm bảo dữ liệu được sử dụng một cách có đạo đức. Ví dụ, thị giác máy tính có thể giúp bác sĩ chẩn đoán hình ảnh xác định hiệu quả các vấn đề sức khỏe trong ảnh X-quang.

Hình 1. Ảnh X-quang ngực được phân tích bằng AI thị giác, thể hiện các phân loại lao khỏe mạnh, mắc bệnh, thể hoạt động và tiềm ẩn.

Tuy nhiên, chỉ có độ chính xác thôi thì chưa đủ đối với một hệ thống thị giác. Hệ thống cũng cần giải thích được các quyết định của mình. Giả sử hệ thống có thể chỉ ra những vùng trong ảnh dẫn đến kết luận của nó — khi đó, mọi đầu ra sẽ rõ ràng hơn. Mức độ minh bạch như vậy sẽ giúp chuyên gia y tế kiểm tra lại kết quả và đảm bảo hoạt động chăm sóc bệnh nhân đáp ứng các tiêu chuẩn y khoa.

Một lý do khác khiến khả năng giải thích trở nên thiết yếu là vì khả năng này buộc các công ty AI phải chịu trách nhiệm và xây dựng lòng tin nơi người dùng. AI đáng tin cậy giúp người dùng yên tâm rằng các đổi mới AI hoạt động ổn định, đưa ra quyết định công bằng và xử lý dữ liệu có trách nhiệm.

Các kỹ thuật AI có thể giải thích chủ yếu trong thị giác máy tính#

Giờ đây, khi đã thảo luận lý do khả năng giải thích quan trọng trong thị giác máy tính, hãy cùng xem các kỹ thuật XAI chính được sử dụng trong AI thị giác.

Bản đồ độ nổi bật#

Mạng nơ-ron là các model lấy cảm hứng từ bộ não con người, được thiết kế để nhận dạng mẫu và đưa ra quyết định bằng cách xử lý dữ liệu qua các lớp nút (nơ-ron) liên kết với nhau. Mạng nơ-ron có thể giải quyết các vấn đề thị giác máy tính phức tạp với độ chính xác cao. Dù có độ chính xác này, theo thiết kế, chúng vẫn là những hộp đen.

Bản đồ độ nổi bật là một kỹ thuật XAI có thể giúp làm rõ những gì mạng neural đang nhận biết khi phân tích hình ảnh. Kỹ thuật này cũng có thể được dùng để khắc phục sự cố của model khi model hoạt động không như mong đợi.

Bản đồ độ nổi bật hoạt động bằng cách tập trung vào những phần của hình ảnh (pixel) quyết định dự đoán của model. Quy trình này rất giống với lan truyền ngược, trong đó model lần ngược từ dự đoán về đầu vào. Tuy nhiên, thay vì cập nhật trọng số của model dựa trên lỗi, chúng ta chỉ xem mức độ "quan trọng" của từng pixel đối với dự đoán. Bản đồ độ nổi bật rất hữu ích cho các tác vụ thị giác máy tính như phân loại hình ảnh.

Ví dụ, nếu một model phân loại hình ảnh dự đoán một hình ảnh là chó, chúng ta có thể xem bản đồ độ nổi bật để hiểu tại sao model lại cho rằng đó là chó. Điều này giúp xác định pixel nào tác động nhiều nhất đến đầu ra. Bản đồ độ nổi bật sẽ làm nổi bật tất cả pixel góp phần tạo nên dự đoán cuối cùng rằng hình ảnh có chó.

Hình 2. Hình ảnh đầu vào và bản đồ độ nổi bật tương ứng được đặt cạnh nhau.

Ánh xạ kích hoạt lớp (CAM)#

Ánh xạ kích hoạt lớp là một kỹ thuật XAI khác được dùng để tìm hiểu các phần nào của hình ảnh được mạng nơ-ron tập trung vào khi đưa ra dự đoán phân loại hình ảnh. Kỹ thuật này hoạt động tương tự bản đồ độ nổi bật nhưng tập trung xác định các đặc trưng quan trọng trong hình ảnh thay vì từng pixel cụ thể. Đặc trưng là các mẫu hoặc chi tiết, như hình dạng hay kết cấu, mà model phát hiện trong hình ảnh.

Các phương pháp như Ánh xạ kích hoạt lớp có trọng số theo gradient (Grad-CAM) và Grad-CAM++ phát triển dựa trên cùng ý tưởng, với một số cải tiến.

Dưới đây là cách CAM hoạt động:

• Trước khi mạng nơ-ron đưa ra quyết định cuối cùng, mạng sử dụng một bước gọi là gộp trung bình toàn cục (GAP) để đơn giản hóa thông tin. GAP kết hợp tất cả pixel trong một mẫu được phát hiện thành một giá trị trung bình duy nhất, tạo bản tóm tắt cho mỗi bản đồ đặc trưng (biểu diễn trực quan của các mẫu được phát hiện).
• Sau đó, mỗi bản đồ đặc trưng được gán một trọng số cho biết bản đồ đó quan trọng như thế nào khi dự đoán một lớp nhất định (chẳng hạn như “chim” hoặc “mèo”).
• Tuy nhiên, một hạn chế của CAM là bạn có thể cần huấn luyện lại model để tính các trọng số này, việc này có thể tốn thời gian.

Grad-CAM cải thiện phương pháp này bằng cách sử dụng gradient, vốn giống như các tín hiệu cho biết mỗi feature map ảnh hưởng đến dự đoán cuối cùng ở mức độ nào. Phương pháp này không cần GAP, giúp dễ dàng nhận biết model tập trung vào đâu mà không phải huấn luyện lại. Grad-CAM++ tiến thêm một bước bằng cách chỉ tập trung vào các ảnh hưởng tích cực, giúp kết quả rõ ràng hơn nữa. Các model Ultralytics YOLO có thể lưu heatmap kích hoạt lớp tương tự cho từng ảnh khi bạn chạy chế độ dự đoán với visualize=True.

Hình 3. So sánh CAM, Grad-CAM và Grad-CAM++.

Giải thích phản thực#

Giải thích phản thực là một thành phần quan trọng của AI có thể giải thích. Giải thích phản thực mô tả một tình huống hoặc kết quả bằng cách xem xét các kịch bản hoặc sự kiện thay thế đã không xảy ra nhưng có thể đã xảy ra. Cách giải thích này có thể minh họa việc thay đổi các biến đầu vào cụ thể dẫn đến kết quả khác nhau như thế nào, chẳng hạn: “Nếu X không xảy ra thì Y đã không xảy ra.”

Trong lĩnh vực AI và thị giác máy tính, giải thích phản thực xác định thay đổi nhỏ nhất cần thiết đối với đầu vào (chẳng hạn như hình ảnh hoặc dữ liệu) để khiến model AI tạo ra một kết quả cụ thể khác. Ví dụ, thay đổi màu sắc của một vật thể trong hình ảnh có thể làm thay đổi dự đoán của model phân loại hình ảnh từ "mèo" thành "chó".

Một ví dụ điển hình khác là thay đổi góc hoặc ánh sáng trong hệ thống nhận dạng khuôn mặt. Điều này có thể khiến model nhận diện một người khác, qua đó cho thấy những thay đổi nhỏ trong đầu vào có thể ảnh hưởng đến dự đoán của model như thế nào.

Cách đơn giản nhất để tạo các giải thích này là thử và sai: bạn có thể thay đổi ngẫu nhiên các phần của đầu vào (như đặc trưng của hình ảnh hoặc dữ liệu) cho đến khi model AI đưa ra kết quả mong muốn. Các phương pháp khác bao gồm cách tiếp cận độc lập với model, sử dụng kỹ thuật tối ưu hóa và tìm kiếm để tìm ra các thay đổi, và cách tiếp cận đặc thù theo model, dựa vào thiết lập hoặc phép tính nội bộ để xác định những thay đổi cần thiết.

Ứng dụng của AI có thể giải thích trong thị giác máy tính#

Sau khi tìm hiểu XAI là gì và các kỹ thuật chính của XAI, chúng ta có thể xem xét cách công nghệ này được sử dụng trong thực tế. XAI có nhiều ứng dụng trong các lĩnh vực khác nhau. Dưới đây là một số trường hợp sử dụng làm nổi bật tiềm năng của công nghệ này:

• Hệ thống an ninh: XAI có thể được dùng để cải thiện hệ thống an ninh bằng cách phát hiện hình ảnh bị chỉnh sửa trên giấy tờ tùy thân như hộ chiếu và giấy phép lái xe. Điều này giúp xác thực hình ảnh, tăng cường quy trình xác minh danh tính và ngăn chặn hành vi gian lận trong các ứng dụng nhạy cảm.

Hình 4. Cách XAI hoạt động để phát hiện hình ảnh bị chỉnh sửa.

• Lái xe tự động: Hiểu rõ khả năng và hạn chế của hệ thống AI thị giác tích hợp trên xe tự lái có thể đóng vai trò rất lớn trong quá trình thử nghiệm xe trước khi xe được đưa vào sử dụng trên đường thực tế. XAI có thể giúp các công ty ô tô xác định và xử lý vấn đề rõ ràng hơn.
• Hệ thống pháp lý: Các hệ thống phân tích tài liệu tích hợp thị giác ngày càng được sử dụng nhiều trong quá trình ra quyết định tư pháp. XAI hỗ trợ đưa ra kết quả công bằng và cho phép xem xét kỹ lưỡng các phán quyết tự động. Công nghệ này cũng giúp chuyên gia pháp lý hiểu cách một model AI đưa ra quyết định.
• Giám sát động vật hoang dã: Bẫy ảnh thường được sử dụng để giám sát động vật hoang dã và thu thập dữ liệu về các loài động vật. XAI có thể giải thích cách AI phân loại các loài này trong hình ảnh. Nhờ đó, các nỗ lực bảo tồn có thể đáng tin cậy và chính xác hơn.

Những điểm chính về AI có thể giải thích#

AI có thể giải thích giúp mọi người hiểu rõ hơn cách hệ thống AI hoạt động và lý do hệ thống đưa ra những quyết định nhất định. Tính minh bạch của các model AI tạo dựng niềm tin và trách nhiệm giải trình. Trong những lĩnh vực trọng yếu như chăm sóc sức khỏe, bảo mật, lái xe tự động và hệ thống pháp lý, XAI có thể giúp nhà phát triển và người dùng hiểu các dự đoán của AI, xác định lỗi và đảm bảo việc sử dụng công bằng, có đạo đức. Bằng cách làm cho AI minh bạch hơn, XAI thu hẹp khoảng cách giữa công nghệ và niềm tin của con người, giúp AI an toàn và đáng tin cậy hơn trong các ứng dụng thực tế.

Để tìm hiểu thêm, hãy truy cập repository GitHub và tham gia cộng đồng của chúng tôi. Khám phá các ứng dụng AI trong xe tự lái và nông nghiệp trên các trang giải pháp của chúng tôi.