Differential Privacy

Quyền riêng tư khác biệt là một khung toán học chặt chẽ được sử dụng trong phân tích dữ liệu và học máy (ML) để định lượng và hạn chế nghiêm ngặt rủi ro về quyền riêng tư đối với những cá nhân có dữ liệu trong tập dữ liệu. Không giống như các kỹ thuật ẩn danh truyền thống, vốn thường có thể bị đảo ngược bằng cách đối chiếu với các cơ sở dữ liệu khác, quyền riêng tư khác biệt cung cấp một sự đảm bảo có thể chứng minh được rằng đầu ra của thuật toán vẫn gần như giống hệt nhau cho dù thông tin của một cá nhân cụ thể nào đó được đưa vào hay bị loại bỏ. Phương pháp này cho phép các nhà nghiên cứu và tổ chức trích xuất phân tích dữ liệu hữu ích và huấn luyện các mô hình mạnh mẽ trong khi đảm bảo rằng kẻ tấn công không thể đảo ngược các kết quả để xác định người dùng cụ thể hoặc tiết lộ các thuộc tính nhạy cảm.

Link to this sectionCơ chế của Ngân sách Quyền riêng tư#

Khái niệm cốt lõi của quyền riêng tư khác biệt dựa vào việc đưa một lượng "nhiễu" (noise) đã được tính toán—biến thể ngẫu nhiên—vào dữ liệu hoặc đầu ra của thuật toán. Quá trình này được kiểm soát bởi một tham số được gọi là Epsilon (ε), còn được gọi là "ngân sách quyền riêng tư". Ngân sách này xác định sự cân bằng giữa việc bảo vệ quyền riêng tư và độ chính xác (tính hữu dụng) của kết quả.

• Epsilon thấp: Đưa vào nhiều nhiễu hơn, cung cấp sự bảo đảm quyền riêng tư mạnh mẽ hơn nhưng có khả năng làm giảm độ chính xác của các thông tin chi tiết từ mô hình.
• Epsilon cao: Đưa vào ít nhiễu hơn, giữ lại tính hữu dụng của dữ liệu cao hơn nhưng cung cấp khả năng bảo vệ quyền riêng tư yếu hơn.

Trong bối cảnh học sâu (DL), nhiễu thường được tiêm vào trong quá trình lan truyền ngược. Bằng cách cắt các gradient và thêm tính ngẫu nhiên trước khi cập nhật trọng số mô hình, các nhà phát triển ngăn chặn mạng thần kinh "ghi nhớ" các ví dụ huấn luyện cụ thể. Điều này đảm bảo mô hình học được các đặc điểm chung—như hình dạng của khối u trong phân tích hình ảnh y tế—mà không lưu giữ các dấu hiệu sinh trắc học đặc trưng của một bệnh nhân cụ thể.

Link to this sectionCác ứng dụng trong thực tế#

Quyền riêng tư khác biệt rất quan trọng để triển khai các nguyên tắc đạo đức AI trong các lĩnh vực mà tính nhạy cảm của dữ liệu là ưu tiên hàng đầu.

• Chăm sóc sức khỏe và Nghiên cứu lâm sàng: Các bệnh viện sử dụng quyền riêng tư khác biệt để hợp tác huấn luyện các mô hình phát hiện khối u mà không vi phạm các quy định như HIPAA. Bằng cách áp dụng các kỹ thuật này, các tổ chức có thể tập hợp các tập dữ liệu khác biệt để cải thiện chẩn đoán AI trong chăm sóc sức khỏe trong khi vẫn đảm bảo về mặt toán học rằng bệnh án của không một bệnh nhân nào có thể bị tái lập từ mô hình dùng chung.
• Đo từ xa trên thiết bị thông minh: Các công ty công nghệ lớn như Apple và Google sử dụng Quyền riêng tư khác biệt cục bộ để cải thiện trải nghiệm người dùng. Ví dụ, khi điện thoại thông minh gợi ý từ tiếp theo trong câu hoặc xác định các biểu tượng cảm xúc phổ biến, quá trình học tập diễn ra trên thiết bị. Nhiễu được thêm vào dữ liệu trước khi gửi lên đám mây, cho phép công ty xác định các xu hướng tổng quát, chẳng hạn như mô hình lưu lượng giao thông, mà không bao giờ nhìn thấy văn bản thô hoặc dữ liệu vị trí của người dùng cá nhân.

Link to this sectionQuyền riêng tư khác biệt so với các khái niệm liên quan#

Để triển khai một pipeline ML an toàn, điều cần thiết là phải phân biệt quyền riêng tư khác biệt với các thuật ngữ bảo mật khác.

• Quyền riêng tư khác biệt so với Quyền riêng tư dữ liệu: Quyền riêng tư dữ liệu là một lĩnh vực pháp lý và đạo đức rộng hơn liên quan đến cách dữ liệu được thu thập và sử dụng (ví dụ: tuân thủ GDPR). Quyền riêng tư khác biệt là một công cụ kỹ thuật cụ thể được sử dụng để đạt được các mục tiêu về quyền riêng tư đó theo cách toán học.
• Quyền riêng tư khác biệt so với Bảo mật dữ liệu: Bảo mật dữ liệu liên quan đến việc ngăn chặn truy cập trái phép thông qua mã hóa và tường lửa. Trong khi bảo mật bảo vệ dữ liệu khỏi bị đánh cắp, quyền riêng tư khác biệt bảo vệ dữ liệu khỏi các cuộc tấn công suy luận—nơi người dùng được ủy quyền cố gắng suy diễn thông tin nhạy cảm từ các kết quả truy vấn hợp lệ.
• Quyền riêng tư khác biệt so với Học liên kết (Federated Learning): Học liên kết là một phương pháp huấn luyện phi tập trung nơi dữ liệu nằm lại trên các thiết bị cục bộ. Mặc dù nó tăng cường quyền riêng tư bằng cách giữ dữ liệu thô ở cục bộ, nó không đảm bảo rằng các bản cập nhật mô hình được chia sẻ không thể làm rò rỉ thông tin. Do đó, quyền riêng tư khác biệt thường được kết hợp với học liên kết để bảo mật hoàn toàn quy trình tối ưu hóa mô hình.

Link to this sectionMô phỏng tiêm nhiễu trong thị giác máy tính#

Một khía cạnh của quyền riêng tư khác biệt liên quan đến việc nhiễu loạn đầu vào—thêm nhiễu vào dữ liệu để thuật toán không thể dựa vào các giá trị pixel chính xác. Mặc dù quyền riêng tư khác biệt thực sự đòi hỏi các vòng lặp huấn luyện phức tạp (như DP-SGD), ví dụ Python sau đây minh họa khái niệm thêm nhiễu Gaussian vào một hình ảnh trước khi suy luận. Điều này mô phỏng cách người ta có thể kiểm tra độ bền vững của mô hình hoặc chuẩn bị dữ liệu cho một pipeline bảo vệ quyền riêng tư sử dụng YOLO26.

import torch
from ultralytics import YOLO

# Load the latest YOLO26 model (optimized for end-to-end performance)
model = YOLO("yolo26n.pt")

# Create a dummy image tensor (Batch, Channel, Height, Width)
img_tensor = torch.rand(1, 3, 640, 640)

# Generate Gaussian noise (simulate privacy noise injection)
noise = torch.randn_like(img_tensor) * 0.1  # Epsilon proxy: scale of noise

# Add noise to the input data
noisy_input = img_tensor + noise

# Run inference on the noisy data
# A robust model should still detect general patterns despite the noise
results = model(noisy_input)
print(f"Detections on noisy input: {len(results[0].boxes)}")

Link to this sectionQuản lý các tập dữ liệu an toàn#

Việc triển khai quyền riêng tư khác biệt thường đòi hỏi phải quản lý cẩn thận các tập dữ liệu để đảm bảo "ngân sách quyền riêng tư" được theo dõi chính xác qua nhiều đợt huấn luyện. Ultralytics Platform cung cấp một môi trường tập trung cho các nhóm quản lý dữ liệu huấn luyện, theo dõi các thử nghiệm và đảm bảo rằng các mô hình được triển khai an toàn. Bằng cách duy trì sự kiểm soát nghiêm ngặt đối với các phiên bản dữ liệu và quyền truy cập, các tổ chức có thể triển khai tốt hơn các khung bảo mật nâng cao và tuân thủ các tiêu chuẩn tuân thủ trong các dự án thị giác máy tính (CV).