Shadow AI

AI ngầm là việc sử dụng công cụ, model và dịch vụ trí tuệ nhân tạo trong một tổ chức mà không có sự hiểu biết hoặc chấp thuận của các nhóm CNTT, bảo mật hoặc tuân thủ. Các trường hợp thường gặp gồm nhân viên dán nội dung công việc vào tài khoản cá nhân trên trợ lý AI tạo sinh, nhà phát triển gọi API model chưa được đánh giá và các nhóm bật tính năng AI trong phần mềm họ đang dùng. AI ngầm là một dạng CNTT ngầm—vấn đề lâu nay liên quan đến ứng dụng và dịch vụ đám mây chưa được phê duyệt—và phát triển vì cùng một lý do: các công cụ này miễn phí hoặc rẻ, chỉ mất vài phút để bắt đầu sử dụng và giúp mọi người làm việc nhanh hơn.

AI ngầm khác CNTT ngầm như thế nào#

Dịch vụ AI xử lý dữ liệu mà chúng nhận được chứ không chỉ lưu trữ dữ liệu. Mỗi prompt gửi đến model ngôn ngữ lớn (LLM) đều rời khỏi tổ chức; các gói dành cho người dùng cá nhân có thể lưu cuộc trò chuyện hoặc dùng cuộc trò chuyện làm dữ liệu huấn luyện, trừ khi người dùng từ chối. Năm 2023, các kỹ sư Samsung đã dán mã nguồn mật và ghi chú cuộc họp vào ChatGPT, sau đó công ty hạn chế các công cụ AI tạo sinh trên thiết bị của mình.

Rủi ro cũng phát sinh theo chiều ngược lại. Đầu ra từ trợ lý chưa được đánh giá có thể chứa ảo giác, code không an toàn hoặc văn bản có giấy phép không rõ ràng, rồi đi vào sản phẩm và quyết định mà không ai kiểm tra. Trọng số model tải từ các hub công khai như Hugging Face có thể chạy code tùy ý khi được tải nếu sử dụng định dạng pickle của Python; vì vậy, định dạng safetensors chỉ lưu tensor. Agent AI được kết nối với email, lịch hoặc kho code bằng token cá nhân của nhân viên có thể thao tác trên hệ thống công ty; trang web hoặc tài liệu độc hại có thể điều hướng agent thông qua prompt injection.

Chi phí thể hiện qua dữ liệu về sự cố rò rỉ. Báo cáo Cost of a Data Breach năm 2026 của IBM cho biết 43% tổ chức bị rò rỉ dữ liệu trong nghiên cứu gặp sự cố liên quan đến AI ngầm, tăng từ 20% một năm trước đó; các vụ rò rỉ này gây thiệt hại trung bình 5.39 triệu USD, so với mức trung bình chung 4.99 triệu USD.

Các hình thức phổ biến của Shadow AI#

• Chatbot và trợ lý viết: Tài khoản cá nhân được dùng để tóm tắt hợp đồng, gỡ lỗi mã độc quyền hoặc soạn câu trả lời có chứa hồ sơ khách hàng.
• Tính năng AI tích hợp: Nhà cung cấp bổ sung tính năng phiên âm, tóm tắt hoặc ghi chú cuộc họp vào một công cụ đã được phê duyệt, và tính năng này bắt đầu gửi dữ liệu đến một bên xử lý phụ mới mà chưa được đánh giá lại.
• Model và API chưa được thẩm định: Nhà phát triển gửi hình ảnh đến API thị giác bên ngoài hoặc triển khai các trọng số đã tải xuống mà chưa ai kiểm tra giấy phép, nguồn gốc và bảo mật.
• Tiện ích mở rộng và agent trên trình duyệt: Các công cụ đọc mọi trang mà nhân viên mở hoặc thay mặt họ thao tác trên những tài khoản được kết nối.

Phát hiện và giảm thiểu Shadow AI#

Quá trình phát hiện kết hợp nhiều tín hiệu: log mạng và DNS cho thấy lưu lượng đến các endpoint AI; các dịch vụ môi giới bảo mật truy cập đám mây và công cụ ngăn chặn thất thoát dữ liệu kiểm tra nội dung tải lên; danh sách tiện ích mở rộng trình duyệt; báo cáo chi phí đăng ký AI và khóa API; cùng các khảo sát hoặc chương trình ân xá để nhóm khai báo những công cụ họ sử dụng. Mỗi công cụ được phát hiện sau đó đều trải qua cùng quy trình phân loại ban đầu bên dưới và được đưa vào danh mục mà quản trị AI dựa vào.

Các chương trình giảm thiểu Shadow AI kết hợp quy định rõ ràng về loại dữ liệu được phép đưa vào từng công cụ với những lựa chọn được phê duyệt và dễ sử dụng tương đương: tài khoản doanh nghiệp đã tắt tính năng huấn luyện bằng dữ liệu khách hàng, một cổng AI ghi log và lọc toàn bộ lưu lượng model, cùng các model tự lưu trữ cho những công việc nhạy cảm nhất. Hoạt động đào tạo kiến thức AI giải thích lý do tồn tại của các quy định và những công cụ nào được phê duyệt.

Công việc thị giác máy tính cũng gặp vấn đề tương tự khi hình ảnh người, sản phẩm hoặc cơ sở vật chất nằm trong tài khoản cá nhân trên các công cụ gán nhãn và huấn luyện trực tuyến. Trong không gian làm việc nhóm trên Ultralytics Platform, bộ dữ liệu, model và bản triển khai do bất kỳ thành viên nào tạo đều thuộc về nhóm và mọi thành viên đều có thể xem; các vai trò Owner, Admin, Editor và Viewer quyết định ai được phép chỉnh sửa.

Shadow AI là vấn đề về khả năng quan sát, có thể dẫn đến sự cố quyền riêng tư dữ liệu và bảo mật dữ liệu, vì nhóm bảo mật không thể đánh giá, bảo vệ hoặc giám sát một công cụ mà họ không biết là tồn tại. Khung quản lý rủi ro AI của NIST đề cập vấn đề này trong tiểu danh mục GOVERN 1.6, yêu cầu có cơ chế lập danh mục hệ thống AI và phân bổ nguồn lực theo mức độ ưu tiên rủi ro của tổ chức.