AI Safety

An toàn AI là lĩnh vực nghiên cứu và kỹ thuật nhằm ngăn các hệ thống trí tuệ nhân tạo (AI) gây hại, dù do tai nạn, hành vi lạm dụng có chủ ý hay do các hệ thống theo đuổi những mục tiêu mà nhà phát triển không dự tính. Phạm vi này bao gồm các hệ thống học máy đã triển khai, chẳng hạn như ngăn xếp nhận thức của một phương tiện tự hành hoặc một chatbot phục vụ khách hàng, cũng như các model AI tiên phong và agent có năng lực cao hơn mà các phòng thí nghiệm đang xây dựng. Công việc này bao quát nghiên cứu kỹ thuật, các quy trình kiểm thử và những khuôn khổ mà các công ty và chính phủ sử dụng để quyết định khi nào một hệ thống đủ an toàn để phát hành.

Các vấn đề cốt lõi trong an toàn AI#

Bài báo năm 2016 Các vấn đề cụ thể trong an toàn AI của các nhà nghiên cứu từ Google Brain, OpenAI, Stanford và UC Berkeley đã mô hình hóa tai nạn trong học máy thành năm vấn đề nghiên cứu, minh họa bằng một robot dọn dẹp; các vấn đề này vẫn định hình phần lớn lĩnh vực:

• Tránh tác dụng phụ tiêu cực: Robot chỉ được thưởng khi sàn sạch sẽ không có lý do gì để tránh làm đổ chiếc bình trên đường đi.
• Lách luật phần thưởng: Đáp ứng đúng câu chữ của mục tiêu nhưng làm sai lệch mục đích, chẳng hạn che đậy chỗ bẩn bằng vật liệu mà camera của robot không nhìn xuyên qua được.
• Giám sát có khả năng mở rộng: Huấn luyện hành vi tốt khi việc kiểm tra mọi hành động quá tốn kém, chẳng hạn chỉ thỉnh thoảng hỏi con người căn phòng sạch đến mức nào.
• Khám phá an toàn: Cho phép agent học thử các hành động mới mà không thử những hành động có thể gây thảm họa, chẳng hạn cắm cây lau nhà ướt vào ổ điện.
• Độ bền vững trước dịch chuyển phân phối: Nhận diện đầu vào khác với môi trường huấn luyện và hành xử thận trọng với chúng, chẳng hạn robot được huấn luyện trong văn phòng chuyển sang sàn nhà máy.

Mỗi vấn đề đã phát triển thành một lĩnh vực nghiên cứu riêng. Giám sát có khả năng mở rộng trở thành hướng nghiên cứu cốt lõi của siêu căn chỉnh, nghiên cứu cách giám sát các hệ thống có năng lực vượt trội so với người giám sát; khám phá an toàn là một ràng buộc trong học tăng cường; còn dịch chuyển phân phối xuất hiện trong hệ thống production dưới dạng trôi dạt dữ liệu.

Nguồn gốc của rủi ro AI#

Bài báo năm 2025 của Google DeepMind, Phương pháp tiếp cận an toàn và bảo mật kỹ thuật cho AGI, phân loại các rủi ro nghiêm trọng thành bốn lĩnh vực, phân biệt theo chủ thể hoặc yếu tố gây ra tác hại:

Mỗi lĩnh vực đòi hỏi biện pháp phòng vệ khác nhau. Đối phó với việc sử dụng sai mục đích bằng huấn luyện từ chối, hàng rào bảo vệ AI và hạn chế quyền truy cập vào các năng lực nguy hiểm. Khó kiểm tra sự sai lệch mục tiêu vì model sai lệch có thể hành xử tốt khi bị quan sát: các nghiên cứu phát hiện giả vờ căn chỉnh trong quá trình huấn luyện, cố tình thể hiện kém trong các bài đánh giá, agent ngủ đông có cài backdoor vẫn sống sót sau huấn luyện an toàn, và sai lệch mục tiêu mới nổi sau tinh chỉnh hẹp. Có thể giảm thiểu sai sót bằng độ bền vững, kiểm thử và giám sát; còn rủi ro mang tính cấu trúc, chẳng hạn tác hại nảy sinh từ cạnh tranh giữa nhiều nhà phát triển hoặc tương tác giữa nhiều agent AI, chủ yếu cần được giải quyết bằng quản trị.

Các phương pháp trong thực tiễn#

Công tác an toàn diễn ra xuyên suốt vòng đời của một model. Trong quá trình huấn luyện, học tăng cường từ phản hồi của con người (RLHF) và AI theo hiến pháp định hình những gì model sẽ và sẽ không làm. Trước khi phát hành, red teaming AI và các đánh giá năng lực nguy hiểm dò tìm lỗi; diễn giải cơ chế kiểm tra phép tính nội bộ để phát hiện những mục tiêu mà chỉ nhìn đầu ra sẽ không thể biết được. Các khuôn khổ an toàn cho AI tiên phong, chẳng hạn Chính sách mở rộng có trách nhiệm của Anthropic, xác định các ngưỡng năng lực mà tại đó model cần các biện pháp bảo mật và bảo vệ khi triển khai mạnh hơn.

Sau khi triển khai, giám sát model phát hiện những đầu vào mà model chưa từng được kiểm thử. Tính năng giám sát triển khai của Ultralytics Platform lập biểu đồ phân phối confidence và confidence trung bình theo thời gian cho endpoint YOLO26 đã triển khai; nhờ đó, mức giảm sau khi di chuyển camera hoặc thay đổi ánh sáng sẽ cảnh báo rằng đầu vào đang lệch khỏi dữ liệu huấn luyện. Các hệ thống hoạt động trong thế giới vật lý cũng cần phương án dự phòng, chẳng hạn trạng thái rủi ro tối thiểu được xác định cho phương tiện tự động hóa, tức trạng thái dừng an toàn mà phương tiện đạt tới khi hệ thống lái tự động không thể tiếp tục.

An toàn AI và các lĩnh vực liên quan#

An toàn AI giao thoa với một số lĩnh vực thường được dùng thay thế cho nhau:

• Đạo đức AI: Đặt câu hỏi hệ thống AI nên làm gì và phục vụ ai, bao gồm tính công bằng, quyền riêng tư và trách nhiệm giải trình. Các tác hại như quyết định thiên lệch thuộc phạm vi của cả hai lĩnh vực.
• Bảo mật AI: Bảo vệ hệ thống AI khỏi kẻ tấn công bằng các biện pháp phòng vệ trước ví dụ đối kháng, đầu độc dữ liệu, chèn prompt và đánh cắp model.
• Căn chỉnh AI: Phân ngành của an toàn AI tập trung vào việc khiến hệ thống theo đuổi các mục tiêu mà nhà phát triển dự định, nhằm giải quyết lĩnh vực sai lệch mục tiêu nêu trên.
• Quản trị AI: Các luật, tiêu chuẩn và chính sách nội bộ quyết định cách xây dựng và phát hành hệ thống AI, chẳng hạn các cấp độ rủi ro trong Đạo luật AI của EU.

Chính sách khiến ranh giới giữa các lĩnh vực thay đổi: vào tháng 2 năm 2025, Vương quốc Anh đổi tên Viện An toàn AI, cơ quan chính phủ kiểm thử các model tiên phong trước khi phát hành, thành Viện An ninh AI để tập trung vào các rủi ro có liên quan đến an ninh như tấn công mạng, gian lận và phát triển vũ khí hóa học, sinh học.