AI Governance

Quản trị AI là tập hợp chính sách, vai trò, quy trình và hồ sơ mà một tổ chức dùng để quyết định tổ chức sẽ xây dựng hay mua hệ thống trí tuệ nhân tạo nào, ai chịu trách nhiệm với từng hệ thống, cần bằng chứng gì trước khi phát hành, cũng như cách giám sát, thay đổi và ngừng sử dụng hệ thống. Đạo đức AI xác định các giá trị mà tổ chức muốn AI tôn trọng. Quản trị chuyển các giá trị đó thành quyền ra quyết định và những bước kiểm tra được ghi nhận, áp dụng cho mọi hệ thống trong suốt vòng đời—từ trợ lý model ngôn ngữ lớn mua của nhà cung cấp đến model thị giác máy tính nội bộ trên dây chuyền sản xuất.

Khung và quy định#

Hầu hết chương trình quản trị dựa trên một số ít khung tham chiếu:

• Khung Quản lý Rủi ro AI của NIST: Khung tự nguyện của Hoa Kỳ được công bố vào tháng 1 năm 2023, tổ chức thành bốn chức năng. Govern thiết lập chính sách và trách nhiệm giải trình; Map xác định bối cảnh và mục đích sử dụng của từng hệ thống; Measure đánh giá rủi ro bằng kiểm thử và chỉ số; Manage xác định thứ tự ưu tiên và xử lý rủi ro.
• ISO/IEC 42001: Được công bố vào tháng 12 năm 2023, đây là tiêu chuẩn quốc tế đầu tiên về hệ thống quản lý AI. Các tổ chức có thể được đánh giá và chứng nhận theo tiêu chuẩn này, tương tự như chứng nhận an toàn thông tin theo ISO/IEC 27001.
• Các nguyên tắc AI của OECD: Được thông qua năm 2019 và cập nhật năm 2024, các nguyên tắc này là nền tảng cho nhiều chính sách quốc gia và cung cấp bộ từ vựng chung cho những khuôn khổ khác.

Hồ sơ AI tạo sinh của NIST, NIST AI 600-1 (tháng 7 năm 2024), áp dụng khuôn khổ quản lý rủi ro cho các rủi ro như ảo giác và prompt injection.

Đạo luật AI của EU là quy định dựa trên rủi ro, có hiệu lực từ tháng 8 năm 2024 và được áp dụng theo từng giai đoạn. Lệnh cấm các hoạt động như chấm điểm xã hội và nhận dạng cảm xúc tại nơi làm việc, trường học, cùng nghĩa vụ về hiểu biết AI, đã được áp dụng từ ngày 2 tháng 2 năm 2025; nghĩa vụ đối với nhà cung cấp model AI đa dụng bắt đầu từ ngày 2 tháng 8 năm 2025; còn các nghĩa vụ minh bạch như tiết lộ deepfake bắt đầu từ ngày 2 tháng 8 năm 2026. Đạo luật Omnibus Kỹ thuật số về AI, có hiệu lực từ ngày 27 tháng 7 năm 2026, dời các yêu cầu dành cho hệ thống rủi ro cao được liệt kê trong Phụ lục III—chẳng hạn tuyển dụng và chấm điểm tín dụng—sang ngày 2 tháng 12 năm 2027; các yêu cầu dành cho AI trong sản phẩm được quản lý như thiết bị y tế và máy móc được dời sang ngày 2 tháng 8 năm 2028. Các yêu cầu đó bao gồm quản lý rủi ro, quản trị dữ liệu, ghi log, giám sát của con người và đánh giá sự phù hợp.

Các biện pháp kiểm soát cốt lõi#

Việc đầu tiên là lập danh mục, vì tổ chức không thể quản trị những hệ thống mà mình không biết đến. Danh mục đầy đủ ghi lại chủ sở hữu, mục đích, nguồn dữ liệu, phiên bản model và nhà cung cấp của mỗi hệ thống; đồng thời làm lộ diện AI ngầm: các công cụ mà nhóm đã tự áp dụng mà không qua đánh giá. Với các model xây dựng nội bộ, model registry thường đóng vai trò làm danh mục đó.

Tiếp theo, phân loại rủi ro xếp hệ thống vào các cấp dựa trên mục đích, mức độ tự chủ, những người chịu ảnh hưởng và cái giá của sai sót. Model xếp hạng tài liệu nội bộ cần được đánh giá nhẹ hơn model sàng lọc ứng viên hoặc điều khiển máy móc; các cấp rủi ro cao hơn cần kiểm thử, phê duyệt và giám sát của con người nghiêm ngặt hơn.

Tài liệu hóa giúp các quyết định có thể được xem xét. Model card ghi lại mục đích sử dụng, kết quả đánh giá và giới hạn đã biết; hồ sơ nguồn gốc dữ liệu ghi lại dữ liệu huấn luyện đến từ đâu và theo giấy phép hoặc sự đồng thuận nào. Khả năng tái lập cũng cần có trong cùng hồ sơ: phiên bản chính xác của bộ dữ liệu, model cơ sở, phiên bản mã và cài đặt tạo ra từng model ứng viên, để người đánh giá có thể truy dấu mọi model đã triển khai về lại dữ liệu đầu vào. Với các model thị giác được huấn luyện trên Ultralytics Platform, mỗi lần chạy ghi lại model cha, phiên bản Ultralytics, môi trường host và Git commit nếu có thông tin; phiên bản bộ dữ liệu đã lưu sẽ cố định chính xác ảnh và nhãn dùng để huấn luyện.

Kiểm thử cung cấp bằng chứng để phê duyệt. Ngưỡng chấp nhận được đặt cho từng trường hợp sử dụng trước khi có kết quả; các bài kiểm thử đánh giá độ chính xác trên những nhóm nhỏ liên quan để phát hiện thiên lệch trong AI, kiểm tra độ vững trước đầu vào bị dịch chuyển như ánh sáng yếu hoặc góc camera mới, và kiểm tra bảo mật—thường thông qua red teaming AI. NCSC của Vương quốc Anh và các cơ quan đối tác công bố hướng dẫn phát triển hệ thống AI an toàn, bao quát thiết kế, phát triển, triển khai và vận hành.

Sau khi phát hành, giám sát model theo dõi hiệu năng và data drift; quy trình xử lý sự cố xác định ai có thể tạm dừng hoặc khôi phục hệ thống, còn quy trình ngừng sử dụng loại bỏ những model và dữ liệu không còn cần thiết. Quyền ra quyết định liên kết các biện pháp kiểm soát: với mỗi hệ thống, hoạt động quản trị chỉ rõ ai phê duyệt triển khai, ai có thể dừng hệ thống và ai chấp nhận rủi ro còn lại sau kiểm thử.

Quản trị khác gì với các hoạt động liên quan#

• Quy định: Luật do bên ngoài áp đặt. Quản trị là hệ thống nội bộ do tổ chức vận hành, đồng thời cũng là cách tổ chức chứng minh mình tuân thủ.
• Quản lý rủi ro: Xác định, đo lường và xử lý những rủi ro cụ thể. Quản trị quyết định ai thực hiện công việc đó, ai chấp nhận rủi ro còn lại và cách ghi lại quyết định.
• MLOps: Các pipeline dùng để huấn luyện, triển khai và duy trì model. Quản trị đặt ra các bước phê duyệt và hồ sơ mà những pipeline này phải đáp ứng.
• An toàn AI: Nghiên cứu kỹ thuật về cách khiến hệ thống AI hoạt động đúng như dự định. Quản trị quyết định cách các phát hiện về an toàn ảnh hưởng đến những gì tổ chức được phép phát hành.