Data Security

Bảo mật dữ liệu là việc bảo vệ dữ liệu số khỏi truy cập trái phép, đánh cắp, giả mạo và mất mát trong suốt vòng đời dữ liệu, từ thu thập, lưu trữ đến xử lý, chia sẻ và xóa. Mục tiêu thường được mô tả bằng bộ ba CIA: tính bảo mật, chỉ cho phép người và hệ thống được ủy quyền đọc dữ liệu; tính toàn vẹn, bảo đảm dữ liệu luôn chính xác và không bị thay đổi; và tính sẵn sàng, bảo đảm dữ liệu có thể được sử dụng khi cần. Khung An ninh mạng NIST 2.0, công bố tháng 2 năm 2024, tổ chức công việc thành sáu chức năng: quản trị, nhận diện, bảo vệ, phát hiện, ứng phó và khôi phục. Trong machine learning, dữ liệu cần bảo vệ bao gồm dữ liệu huấn luyện và nhãn, trọng số model mã hóa những gì model đã học từ dữ liệu đó, hình ảnh và prompt được gửi để inference, cùng các log ghi lại những hoạt động này.

Các biện pháp kiểm soát cốt lõi#

Bảo mật dữ liệu kết hợp nhiều lớp để một biện pháp kiểm soát bị lỗi cũng không làm lộ toàn bộ dữ liệu:

• Mã hóa: Dữ liệu lưu trữ được mã hóa bằng các thuật toán như AES-256; dữ liệu truyền tải được gửi qua TLS.
• Kiểm soát truy cập: Mỗi người và dịch vụ chỉ được cấp quyền tối thiểu cần thiết thông qua role, xác thực đa yếu tố và thông tin xác thực có thời hạn ngắn thay cho mật khẩu dùng chung.
• Quản lý key và secret: Key mã hóa được lưu trong dịch vụ quản lý key hoặc module bảo mật phần cứng, tách biệt khỏi dữ liệu và được luân chuyển theo lịch. API key không được đưa vào mã nguồn hoặc notebook.
• Kiểm tra tính toàn vẹn và sao lưu: Checksum và chữ ký số phát hiện file bị thay đổi; các bản sao lưu bất biến, có quản lý phiên bản, cho phép khôi phục sau sự cố ransomware hoặc xóa nhầm.
• Ghi log kiểm toán: Mọi thao tác đọc, ghi và thay đổi quyền đều được ghi lại để phát hiện và điều tra những truy cập bất thường, chẳng hạn một tài khoản tải xuống toàn bộ tập dữ liệu vào ban đêm.

Mã hóa có xác thực cung cấp đồng thời tính bảo mật và toàn vẹn. Ví dụ này dùng Fernet từ package cryptography của Python để mã hóa một dòng trong file nhãn, sau đó phát hiện một bit bị đảo:

import base64

from cryptography.fernet import Fernet, InvalidToken

# Trong môi trường production, key được lấy từ dịch vụ quản lý key và không bao giờ được lưu cùng dữ liệu
cipher = Fernet(Fernet.generate_key())

label = b"0 0.48 0.63 0.21 0.37\n"  # một dòng annotation YOLO
token = cipher.encrypt(label)  # ciphertext AES-128-CBC kèm tag HMAC-SHA256
print(cipher.decrypt(token) == label)

# Đảo một bit trong ciphertext đã lưu, như trường hợp bị giả mạo hoặc lỗi ổ đĩa
raw = bytearray(base64.urlsafe_b64decode(token))
raw[30] ^= 1
try:
    cipher.decrypt(base64.urlsafe_b64encode(bytes(raw)))
except InvalidToken:
    print("Integrity check failed: decryption refused")

Dòng đầu tiên in True vì token nguyên vẹn được giải mã trở lại thành nhãn ban đầu. Sau khi một bit trong ciphertext thay đổi, tag HMAC không còn khớp, nên decrypt phát sinh InvalidToken và in Integrity check failed: decryption refused mà không trả về dữ liệu đã bị thay đổi.

Bảo mật dữ liệu trong Machine Learning#

Hệ thống AI có thêm các bề mặt tấn công mà cơ sở dữ liệu thông thường không có:

• Đầu độc dữ liệu: Kẻ tấn công có quyền ghi vào tập dữ liệu, hàng đợi gán nhãn hoặc nguồn web được thu thập có thể chèn các mẫu khiến model đã huấn luyện hoạt động sai, thường chỉ khi xuất hiện một trigger ẩn.
• File model không an toàn: Checkpoint được lưu bằng pickle của Python có thể chạy mã tùy ý khi được nạp. PyTorch 2.6 đặt torch.load thành mặc định là weights_only=True, từ chối mọi thứ trừ tensor và kiểu dữ liệu đơn giản; định dạng safetensors chỉ lưu tensor.
• Tấn công suy luận tư cách thành viên: Truy vấn model đã huấn luyện có thể làm lộ việc một bản ghi cụ thể có nằm trong tập huấn luyện hay không, vì vậy trọng số được huấn luyện trên dữ liệu nhạy cảm cần được bảo vệ tương tự như dữ liệu đó.
• Prompt injection: Chỉ dẫn ẩn trong tài liệu hoặc trang web có thể khiến ứng dụng LLM làm lộ dữ liệu trong ngữ cảnh hoặc gửi dữ liệu cho kẻ tấn công thông qua các tool của ứng dụng.
• Shadow AI: Nhân viên dán dữ liệu mật vào các tool AI chưa được tổ chức phê duyệt, nằm ngoài cơ chế kiểm soát truy cập và log của tổ chức.

Dữ liệu thị giác máy tính có mức độ rủi ro cao hơn vì hình ảnh người, nhà cửa, phương tiện và bệnh nhân thường chứa thông tin cá nhân. Trong lĩnh vực y tế, ảnh quét mà các bệnh viện tại Hoa Kỳ sử dụng để phân tích ảnh y tế thuộc phạm vi Quy tắc bảo mật HIPAA, yêu cầu các biện pháp bảo vệ về hành chính, vật lý và kỹ thuật đối với thông tin y tế được bảo vệ dưới dạng điện tử. Xử lý khung hình ngay trên camera bằng edge AI giúp video thô không cần đi qua mạng; học liên kết huấn luyện một model dùng chung trong khi mỗi địa điểm vẫn giữ dữ liệu của mình; còn AI bảo mật chạy huấn luyện hoặc inference trên dữ liệu nhạy cảm bên trong các enclave phần cứng được mã hóa trên cloud. Với tập dữ liệu cần được giữ bên trong mạng công ty, tính năng tích hợp On Premise của Ultralytics Platform chạy quy trình nạp tập dữ liệu, xem trước và huấn luyện trên máy tính của công ty: worker mount thư mục tập dữ liệu ở chế độ chỉ đọc rồi kết nối ra ngoài qua HTTPS mà không mở cổng inbound; pixel hình ảnh không bao giờ đến Platform, nền tảng chỉ nhận nhãn, metric và checkpoint tốt nhất.

Bảo mật dữ liệu và quyền riêng tư dữ liệu#

Quyền riêng tư dữ liệu liên quan đến việc dữ liệu cá nhân có được thu thập, sử dụng, chia sẻ và lưu giữ hợp pháp, đúng như thông tin đã cung cấp cho mọi người, theo các luật như GDPR hay không. Bảo mật dữ liệu cung cấp các biện pháp bảo vệ về kỹ thuật và tổ chức mà các cam kết về quyền riêng tư phụ thuộc vào; phạm vi bảo mật bao gồm mọi dữ liệu có giá trị, kể cả bí mật thương mại, mã nguồn và trọng số model không chứa thông tin cá nhân. Các kỹ thuật tăng cường quyền riêng tư như quyền riêng tư vi sai nằm giữa hai lĩnh vực này bằng cách hạn chế lượng thông tin về bất kỳ cá nhân nào mà một model hoặc thống kê được công bố có thể tiết lộ. Sự cố rò rỉ là thất bại về bảo mật và trở thành sự cố quyền riêng tư khi dữ liệu cá nhân bị lộ: theo Điều 33 của GDPR, bên kiểm soát có 72 giờ kể từ khi biết về sự cố để thông báo cho cơ quan giám sát, trừ khi sự cố khó có khả năng gây rủi ro cho quyền và tự do của mọi người.