AI Washing
Thổi phồng AI là việc phóng đại gây hiểu lầm về năng lực AI của sản phẩm, che khuất hiệu suất thực tế, mức độ tham gia của con người và bằng chứng làm cơ sở cho các tuyên bố.
Thổi phồng AI là hành vi phóng đại hoặc trình bày sai lệch mức độ một sản phẩm, dịch vụ hoặc công ty sử dụng trí tuệ nhân tạo, hoặc những gì công nghệ đó có thể thực hiện. Việc này tạo ra khoảng cách giữa năng lực được quảng cáo và cách vận hành thực tế: khách hàng và nhà đầu tư được dẫn dắt để kỳ vọng vào mức độ thông minh, tự chủ hoặc hiệu suất mà hệ thống nền tảng không thể mang lại.
Thuật ngữ này bắt nguồn từ tô xanh, mô tả những tuyên bố sai lệch về môi trường. Nhà phân tích Jim Hare của Gartner đã sử dụng cụm từ "AI washing" trong bài phân tích ngày 6 tháng 7 năm 2017 về các nhà cung cấp phần mềm doanh nghiệp khai thác làn sóng gián đoạn do AI, mô tả các nhà cung cấp gắn nhãn AI một cách tùy tiện.
Cách thức thổi phồng AI hoạt động#
Thổi phồng AI biến sự phức tạp về kỹ thuật thành lợi thế tiếp thị. Người mua bắt gặp các thuật ngữ như trí tuệ nhân tạo, học máy và "tự chủ" mà không có đủ thông tin để liên hệ những mô tả đó với một tính năng vận hành cụ thể. Thông tin sai lệch có thể liên quan đến việc công nghệ có tồn tại hay không, vai trò của công nghệ trong quy trình làm việc hoặc mức độ đáng tin cậy của kết quả.
Các kiểu thường gặp gồm:
- Thổi phồng năng lực: Quảng cáo rằng hệ thống thực hiện công việc ở cấp độ chuyên gia trong khi đầu ra không có bằng chứng hỗ trợ cho tuyên bố đó.
- Che giấu sự tham gia của con người: Trình bày dịch vụ là tự chủ trong khi con người thực hiện phần đáng kể công việc được quảng cáo.
- Phóng đại hiệu suất: Mở rộng kết quả trong các điều kiện được chọn sang nhóm đối tượng hoặc tác vụ rộng hơn mức đánh giá có thể hỗ trợ.
- Đẩy nhanh thời điểm triển khai: Mô tả chức năng AI đang được lên kế hoạch như một năng lực đã có trong sản phẩm.
Các kiểu này ảnh hưởng đến quyết định mua sắm, đầu tư và tuyển dụng. Chúng cũng che khuất các yêu cầu vận hành: khách hàng cần hiểu đầu ra nào cần được rà soát, hệ thống xử lý những tác vụ nào và lỗi ảnh hưởng ra sao đến các quyết định tiếp theo.
Thổi phồng AI và các khái niệm liên quan#
Tự động hóa quy trình bằng robot tự động hóa các quy trình lặp đi lặp lại, thường bằng các quy tắc được xác định trước. Học máy học các mẫu từ dữ liệu, trong khi AI biểu tượng sử dụng tri thức tường minh và các quy tắc suy luận. Mô tả sản phẩm chính xác cần nêu rõ cơ chế và vai trò của sản phẩm. Việc gọi một hệ thống dựa trên quy tắc là AI sẽ gây hiểu lầm nếu các tuyên bố đi kèm hứa hẹn khả năng học hỏi hoặc thích ứng mà hệ thống không có.
Quy trình có con người tham gia giao cho con người trách nhiệm cụ thể trong việc rà soát hoặc ra quyết định. Mô tả minh bạch làm rõ đóng góp đó. Ví dụ, Ultralytics Platform áp dụng gán nhãn dữ liệu có AI hỗ trợ: tính năng gán nhãn thông minh YOLO tạo nhãn nháp từ dự đoán của model để người gán nhãn rà soát, điều chỉnh hoặc xóa. Cách mô tả này nêu rõ cả tác vụ tự động lẫn vai trò của con người.
Ảo giác là hiện tượng model tạo ra nội dung sai hoặc không có căn cứ. Thổi phồng AI liên quan đến những tuyên bố về hệ thống. AI có thể giải thích giúp diễn giải hành vi của model; tính minh bạch trong AI truyền đạt năng lực, điều kiện đánh giá và trách nhiệm. Cả hai đều hỗ trợ việc mô tả sản phẩm AI dựa trên bằng chứng.
Ví dụ và hệ quả trong thực tế#
Các cơ quan quản lý đã sử dụng thuật ngữ này trong hoạt động thực thi. Chủ tịch SEC Gary Gensler cảnh báo các công ty về "AI washing" vào tháng 12 năm 2023, và FTC đã khởi kiện DoNotPay như nêu dưới đây trong khuôn khổ Operation AI Comply, đợt truy quét các tuyên bố AI lừa dối vào tháng 9 năm 2024.
Công ty tư vấn đầu tư Delphia tuyên bố dữ liệu khách hàng giúp tăng cường các dự đoán đầu tư dựa trên AI. SEC phát hiện rằng từ năm 2019 đến năm 2023, công ty không có năng lực AI và học máy như đã quảng cáo. Trong thỏa thuận dàn xếp ngày 18 tháng 3 năm 2024, Delphia đồng ý nộp khoản phạt dân sự 225.000 USD. Global Predictions cũng đồng ý nộp khoản phạt 175.000 USD riêng cho các tuyên bố gây hiểu lầm, trong đó có dự báo dựa trên AI và tuyên bố là cố vấn tài chính AI đầu tiên được quản lý.
DoNotPay quảng cáo dịch vụ AI là "luật sư robot đầu tiên trên thế giới", tuyên bố có năng lực thay thế chuyên môn pháp lý của con người. Thỏa thuận dàn xếp trong vụ thực thi pháp luật đối với DoNotPay yêu cầu khoản bồi hoàn bằng tiền 193.000 USD và gửi thông báo cho những người đăng ký đủ điều kiện. FTC hoàn tất lệnh vào tháng 1 năm 2025, hạn chế các tuyên bố không có căn cứ về việc thay thế dịch vụ chuyên môn.
Bằng chứng hỗ trợ các tuyên bố về AI#
Một tuyên bố có căn cứ liên kết một tính năng được nêu tên với đầu vào, đầu ra, hoạt động đánh giá và điều kiện vận hành của tính năng đó. Thẻ model ghi lại mục đích sử dụng, chi tiết phát triển và các hạn chế được đo lường. Nguồn gốc dữ liệu xác định tài liệu đánh giá đến từ đâu, trong khi dữ liệu kiểm thử độc lập hỗ trợ việc kiểm tra hiệu suất ngoài các ví dụ dùng trong quá trình phát triển.
Trong thị giác máy tính, bằng chứng cho một tuyên bố đến từ chính tác vụ được quảng cáo. Kết quả phát hiện đối tượng có thể bao gồm độ chính xác, độ bao phủ và độ chính xác trung bình, cùng với thành phần của dataset và kết quả theo từng lớp. Tuyên bố về tốc độ cần nêu rõ phần cứng, kích thước ảnh, batch size và phạm vi đo lường.
Quản trị AI liên kết các hồ sơ đó với quy trình phê duyệt sản phẩm và rà soát nội dung tiếp thị, để mỗi tuyên bố được công bố đều có thể truy nguyên về thẻ model, một lần đánh giá hoặc vai trò được ghi nhận của con người.
