Shadow AI

Shadow AI đề cập đến việc sử dụng trái phép hoặc không được cấp phép các công cụ, ứng dụng trí tuệ nhân tạo và mô hình học máy của nhân viên trong tổ chức, hoạt động hoàn toàn nằm ngoài sự giám sát và quản lý của bộ phận CNTT hoặc bảo mật. Khi các ứng dụng AI tạo sinh thương mại và các giao diện đám mây dễ tiếp cận trở nên phổ biến, nhân viên tự nhiên tìm đến các công cụ này để tăng năng suất. Khi việc áp dụng này diễn ra mà không có sự chấp thuận chính thức, đánh giá rủi ro hoặc kiểm tra tuân thủ, nó sẽ tạo ra một "nền kinh tế Shadow AI" ẩn giấu. Theo định nghĩa chi tiết về Shadow AI của IBM, việc sử dụng không kiểm soát này khiến các doanh nghiệp đối mặt với những rủi ro đáng kể, đặc biệt là liên quan đến quyền riêng tư dữ liệu và sở hữu trí tuệ của công ty.

Link to this sectionHiểu về Shadow AI so với Shadow IT#

Mặc dù có khái niệm tương tự như ý tưởng truyền thống về "shadow IT"—liên quan đến việc sử dụng các phần mềm không được phê duyệt như lưu trữ đám mây cá nhân hoặc ứng dụng nhắn tin—Shadow AI phức tạp và rủi ro hơn nhiều. Một ứng dụng shadow IT truyền thống có thể lưu trữ dữ liệu tạm thời, nhưng các ứng dụng AI không được cấp phép, đặc biệt là mô hình ngôn ngữ lớn (LLM) và các giải pháp thị giác máy tính bên ngoài, lại chủ động xử lý, chuyển đổi và sử dụng đầu vào của người dùng thông qua logic phi đơn định. Trong nhiều trường hợp, các nền tảng miễn phí này tiếp nhận các truy vấn được cung cấp làm dữ liệu huấn luyện. Sự khác biệt cơ bản này có nghĩa là một nỗ lực vô hại nhằm định dạng tài liệu hoặc phân tích hình ảnh có thể vô tình làm rò rỉ logic kinh doanh độc quyền, bí mật thương mại hoặc dữ liệu khách hàng được quy định vào phạm vi công cộng. Để thiết lập các mô hình an toàn tại nơi làm việc, các nhóm nên tuân thủ nghiêm ngặt các phương pháp thực hành tốt nhất về triển khai mô hình.

Link to this sectionCác ví dụ thực tế về Shadow AI#

Việc tích hợp nhanh chóng AI vào các quy trình làm việc hiện đại đồng nghĩa với việc sử dụng không được phê duyệt có thể xảy ra ở hầu hết mọi bộ phận. Các ví dụ thực tế phổ biến bao gồm:

• Phát triển phần mềm và kỹ thuật: Một kỹ sư đang gặp khó khăn với một đoạn mã phức tạp dán thuật toán độc quyền vào một chatbot AI công khai, không được phê duyệt như ChatGPT của OpenAI để gỡ lỗi. Mặc dù chatbot giải quyết được lỗi, nhưng mã nguồn độc quyền giờ đây đã bị lộ cho nhà cung cấp bên thứ ba, vi phạm các giao thức bảo mật dữ liệu tiêu chuẩn.
• Phân tích dữ liệu và thị giác máy tính: Một nhóm tiếp thị muốn phân tích ảnh tương tác của khách hàng từ một sự kiện gần đây. Thay vì sử dụng đường ống nội bộ đã được phê duyệt, họ tải lên các hình ảnh nhạy cảm lên một ứng dụng công cộng, gây ảnh hưởng đến quyền riêng tư của người dùng và có khả năng vi phạm các khuôn khổ pháp lý nghiêm ngặt như GDPR hoặc HIPAA.

Link to this sectionCách phát hiện Shadow AI và giảm thiểu rủi ro#

Để phát hiện hiệu quả Shadow AI và quản lý rủi ro của nó, các tổ chức phải triển khai việc giám sát mô hình toàn diện và các chiến lược theo dõi bảo mật API mạnh mẽ. Các công cụ bảo mật truyền thống thường khó bắt kịp các tương tác AI năng động, vì vậy các nhóm an ninh mạng hiện đại triển khai các Cloud Access Security Broker (CASB) chuyên dụng và các hệ thống Ngăn ngừa mất dữ liệu (DLP) tiên tiến. Các công cụ này sử dụng phát hiện bất thường để đánh dấu các luồng dữ liệu bất thường hướng tới các điểm cuối AI của bên thứ ba đã biết, như được trình bày chi tiết trong thông tin chi tiết về AI trái phép của Palo Alto Networks.

Để chống lại xu hướng này một cách an toàn, các công ty nên thiết lập sự quản lý rõ ràng bằng cách tuân theo các khuôn khổ như Khuôn khổ quản lý rủi ro AI của NIST. Hiệu quả hơn nữa, các tổ chức có thể cung cấp cho nhân viên các giải pháp thay thế AI được chấp thuận và dễ tiếp cận. Ví dụ, thay vì dựa vào các API thị giác máy tính bên ngoài, các nhà phát triển có thể tận dụng Ultralytics YOLO26 được triển khai an toàn trên phần cứng nội bộ của công ty. Bằng cách chạy các mô hình học sâu cục bộ, các nhóm đạt được hiệu suất tiên tiến mà không làm lộ dữ liệu ra internet công cộng.

from ultralytics import YOLO

# Load a sanctioned, locally hosted YOLO26 model to prevent Shadow AI risks
model = YOLO("yolo26n.pt")

# Perform inference securely on local hardware, keeping proprietary data in-house
results = model("sensitive_internal_document.jpg")

# Display results safely without relying on unapproved external web APIs
results[0].show()

Việc cung cấp các công cụ an toàn, sẵn sàng cho doanh nghiệp sẽ vô hiệu hóa hiệu quả sự cám dỗ của Shadow AI, thúc đẩy đổi mới nhanh chóng trong khi vẫn duy trì sự tuân thủ nội bộ nghiêm ngặt. Đối với các nhóm muốn hợp tác an toàn trên các tập dữ liệu và huấn luyện mô hình với sự giám sát hành chính đầy đủ, hãy khám phá các khả năng của Ultralytics Platform. Ngoài ra, cách tiếp cận có cấu trúc để quản lý dữ liệu của bạn một cách an toàn có thể được tìm thấy trong hướng dẫn thu thập và chú thích dữ liệu toàn diện của chúng tôi.