Data Privacy

Quyền riêng tư dữ liệu là quyền của cá nhân được kiểm soát cách thông tin cá nhân được thu thập, sử dụng, chia sẻ và lưu giữ, cùng với các luật và thực tiễn mà tổ chức tuân thủ để tôn trọng quyền đó. Trong lĩnh vực trí tuệ nhân tạo, mức độ rủi ro cao hơn phần mềm thông thường: model được xây dựng từ các tập hợp lớn dữ liệu huấn luyện thường mô tả con người, có thể ghi nhớ và lặp lại dữ liệu đó, còn các hệ thống như nhận diện khuôn mặt được thiết kế để xử lý thông tin cá nhân.

Luật và các nguyên tắc cốt lõi#

Quy định chung về bảo vệ dữ liệu (GDPR) của EU, có hiệu lực từ tháng 5 năm 2018, đặt ra các nguyên tắc tham chiếu tại Điều 5: dữ liệu cá nhân phải được xử lý hợp pháp, công bằng và minh bạch; được thu thập cho các mục đích xác định (giới hạn mục đích); chỉ giới hạn ở mức cần thiết (tối thiểu hóa dữ liệu); được giữ chính xác; không lưu trữ lâu hơn mức cần thiết (giới hạn lưu trữ); và được bảo vệ bằng các biện pháp an ninh phù hợp, trong đó bên kiểm soát phải có khả năng chứng minh tuân thủ (trách nhiệm giải trình). Điều 25 yêu cầu bảo vệ dữ liệu ngay từ khâu thiết kế và theo mặc định, còn Điều 22 trao cho mọi người các quyền liên quan đến quyết định chỉ dựa trên xử lý tự động. Mức phạt lên tới 20 triệu euro hoặc 4% doanh thu hằng năm toàn cầu, tùy mức nào cao hơn.

Các luật khác cũng có cách tiếp cận tương tự. CCPA của California, được mở rộng bởi CPRA, trao cho cư dân quyền biết, xóa và từ chối việc bán hoặc chia sẻ dữ liệu của họ. Trong lĩnh vực chăm sóc sức khỏe tại Hoa Kỳ, tiêu chuẩn khử nhận dạng của HIPAA liệt kê 18 loại định danh cần xóa theo phương pháp Safe Harbor, bao gồm ảnh chụp toàn bộ khuôn mặt và hình ảnh tương tự. Đạo luật AI của EU bổ sung các quy định dành riêng cho AI; từ tháng 2 năm 2025, đạo luật này cấm xây dựng cơ sở dữ liệu nhận diện khuôn mặt bằng cách thu thập không có mục tiêu ảnh khuôn mặt từ internet hoặc video CCTV.

Việc một tập dữ liệu có thuộc phạm vi các luật này hay không phụ thuộc vào khả năng nhận diện con người từ tập dữ liệu đó:

Ẩn danh hóa khó hơn vẻ bề ngoài. Năm 2000, Latanya Sweeney chứng minh rằng chỉ cần mã ZIP, giới tính và ngày sinh cũng đủ nhận diện duy nhất khoảng 87% dân số Hoa Kỳ; đó là lý do xóa tên hiếm khi khiến một tập dữ liệu trở nên ẩn danh.

Rủi ro riêng tư đặc thù của AI#

Model có thể ghi nhớ và tái tạo các mẫu huấn luyện. Nicholas Carlini và các cộng sự đã trích xuất hơn một nghìn ảnh huấn luyện từ model diffusion, bao gồm ảnh chụp cá nhân. Ngay cả khi không trích xuất được, tấn công suy luận thành viên vẫn có thể tiết lộ liệu hồ sơ của một người cụ thể có nằm trong tập huấn luyện hay không; điều này vốn đã nhạy cảm đối với model được huấn luyện trên bệnh nhân mắc một bệnh cụ thể.

Thu thập dữ liệu là rủi ro lớn khác. Hình ảnh và văn bản được thu thập cho một mục đích thường được tái sử dụng để huấn luyện mà không có cơ sở pháp lý; một số cơ quan bảo vệ dữ liệu châu Âu đã phạt Clearview AI vì xây dựng cơ sở dữ liệu khuôn mặt từ ảnh thu thập trên mạng, trong đó có khoản phạt 30,5 triệu euro của cơ quan Hà Lan vào năm 2024. Trong các tổ chức, dữ liệu cá nhân được dán vào chatbot bên ngoài thông qua công cụ AI ngầm sẽ thoát khỏi sự kiểm soát của tổ chức.

Các kỹ thuật bảo vệ quyền riêng tư#

• Quyền riêng tư vi sai: Thêm nhiễu đã hiệu chuẩn vào số liệu thống kê hoặc quá trình huấn luyện để đầu ra hầu như không tiết lộ thông tin về bất kỳ cá nhân nào.
• Học liên kết: Huấn luyện trên dữ liệu tại nơi lưu trữ, chẳng hạn như điện thoại hoặc server bệnh viện, và chỉ chia sẻ các bản cập nhật model.
• Dữ liệu tổng hợp: Thay thế hồ sơ thực bằng dữ liệu được tạo ra nhưng vẫn giữ nguyên các quy luật thống kê.
• AI bảo mật và AI biên: Xử lý dữ liệu bên trong enclave phần cứng đã được chứng thực hoặc trên thiết bị ghi lại dữ liệu.

Khử định danh loại bỏ nội dung nhận dạng trước khi lưu trữ hoặc huấn luyện. Pipeline thị giác máy tính làm mờ khuôn mặt và biển số xe trong ảnh đường phố phục vụ phân tích giao thông thành phố thông minh; bộ dữ liệu phân tích ảnh y tế xóa thông tin định danh bệnh nhân khỏi header DICOM và loại bỏ đặc điểm khuôn mặt khỏi ảnh chụp đầu. Trên Ultralytics Platform, thao tác Blur Faces xem trước khuôn mặt được phát hiện trên ảnh mẫu, rồi thay thế pixel tương ứng trong mọi ảnh của bộ dữ liệu; có thể thiết lập bộ dữ liệu tự động làm mờ khuôn mặt trong mọi ảnh tải lên mới.

Bảo mật dữ liệu là một yêu cầu trong phạm vi quyền riêng tư dữ liệu: mã hóa và kiểm soát truy cập ngăn các bên không được phép tiếp cận dữ liệu cá nhân; tuy nhiên, một cơ sở dữ liệu được bảo mật hoàn hảo vẫn có thể vi phạm luật quyền riêng tư nếu chứa dữ liệu được thu thập mà không có cơ sở pháp lý hoặc được lưu giữ lâu hơn mục đích cho phép.