Data Poisoning

Data poisoning là một mối đe dọa an ninh mạng nơi các tác nhân độc hại cố ý thao túng dữ liệu huấn luyện được sử dụng để xây dựng các mô hình Machine Learning (ML). Bằng cách làm hỏng tập dữ liệu trước khi mô hình được huấn luyện, kẻ tấn công có thể đưa vào các backdoor ẩn, tạo ra sai lệch hoặc làm giảm hiệu suất tổng thể của mô hình. Không giống như các lỗ hổng bảo mật khác nhắm vào mã của hệ thống, các cuộc tấn công data poisoning nhắm thẳng vào quá trình học tập, khiến chúng cực kỳ khó phát hiện một khi mô hình đã được triển khai vào môi trường production. Theo tổng quan về tình báo đe dọa của IBM, các cuộc tấn công này đặt ra rủi ro nghiêm trọng đối với tính toàn vẹn và độ tin cậy của các hệ thống trí tuệ nhân tạo.

Cơ chế của việc đầu độc AI#

Khi các tổ chức ngày càng phụ thuộc vào Deep Learning (DL) và Large Language Models (LLMs), họ thường thu thập lượng lớn dữ liệu chưa được xác thực từ internet. Thực tiễn này tạo cơ hội cho việc tiêm nhiễm dữ liệu, nơi kẻ xấu chèn các điểm dữ liệu bịa đặt hoặc độc hại vào các kho lưu trữ công khai. Các nghiên cứu gần đây về AI poisoning từ năm 2025 tiết lộ một thực tế đáng báo động: ngay cả đối với các mô hình khổng lồ với hàng tỷ tham số, kẻ tấn công chỉ cần thao túng một số lượng mẫu tối thiểu, gần như không đổi để làm tổn hại hệ thống.

LLM poisoning xảy ra khi các cụm từ kích hoạt cụ thể được chèn vào văn bản mà mô hình tiêu thụ trong quá trình huấn luyện. Sau khi được triển khai, mô hình có thể hoạt động bình thường cho đến khi người dùng nhập cụm từ kích hoạt, khiến hệ thống bỏ qua các giao thức an toàn hoặc tạo ra các đầu ra độc hại. Nghiên cứu năm 2025 của Anthropic về LLM poisoning chứng minh rằng chỉ cần 250 tài liệu bị tiêm nhiễm độc hại là có thể tạo ra một backdoor trong mô hình 13 tỷ tham số.

Các ứng dụng và ví dụ thực tế#

Data poisoning vượt ra ngoài việc tạo văn bản và tác động mạnh mẽ đến các mô hình Computer Vision (CV). Dưới đây là hai ví dụ cụ thể về cách mối đe dọa này thể hiện trong các ứng dụng thực tế:

• Làm gián đoạn các mô hình nghệ thuật tạo sinh: Các công cụ như dự án Nightshade cho phép các nghệ sĩ kỹ thuật số tinh chỉnh các điểm ảnh (pixel) trong tác phẩm nghệ thuật của họ trước khi tải chúng lên mạng. Khi một mô hình Generative AI quét các hình ảnh này để huấn luyện, các pixel bị thay đổi đóng vai trò như chất độc, khiến mô hình phân loại nhầm các câu lệnh hoàn toàn—chẳng hạn như tạo ra hình ảnh một con mèo khi được yêu cầu tạo xe hơi.
• Làm tổn hại xe tự hành: Trong các hệ thống object detection được sử dụng cho ô tô tự lái, kẻ tấn công có thể tinh chỉnh hình ảnh biển báo dừng trong tập dữ liệu huấn luyện mã nguồn mở. Bằng cách áp dụng nhiễu hình ảnh cụ thể, dữ liệu huấn luyện bị nhiễm độc sẽ dạy mô hình hiểu nhầm biển báo dừng thành biển báo giới hạn tốc độ, gây ra rủi ro an toàn thảm khốc.

Phân biệt với tấn công đối nghịch#

Tuy có mối liên hệ chặt chẽ, điều quan trọng là phải phân biệt data poisoning với Adversarial Attacks. Các cuộc tấn công adversarial diễn ra trong quá trình inference—kẻ tấn công thao túng dữ liệu đầu vào (như dán nhãn dán lên biển báo dừng ngoài đời thực) để đánh lừa một mô hình đã được huấn luyện. Ngược lại, data poisoning xảy ra trong quá trình huấn luyện, làm thay đổi cơ bản logic nội bộ của mô hình từ gốc rễ. Việc giải quyết cả hai đòi hỏi các giao thức AI Safety mạnh mẽ.

Giảm thiểu rủi ro trong phát triển mô hình#

Phòng thủ trước các mối đe dọa này đòi hỏi việc model monitoring nghiêm ngặt và sử dụng validation data nguyên bản, đáng tin cậy để xác minh tính toàn vẹn của mô hình. Đánh giá mô hình dựa trên một tập dữ liệu đã được xác minh có thể giúp các nhóm phát hiện sự sụt giảm hiệu suất bất ngờ có thể cho thấy dấu hiệu bị can thiệp. Các phương pháp hay nhất được phác thảo bởi nghiên cứu an toàn của OpenAI và OWASP GenAI Security Project nhấn mạnh nguồn gốc dữ liệu nghiêm ngặt và việc sử dụng các tập dữ liệu được tuyển chọn thay vì quét web thô.

Khi xây dựng và kiểm tra mô hình, các nhóm nên tận dụng các framework đã được thiết lập như PyTorch hoặc TensorFlow kết hợp với các quy trình kiểm tra toàn diện. Bạn có thể dễ dàng kiểm tra mô hình Ultralytics YOLO26 của mình dựa trên một tập dữ liệu sạch, đáng tin cậy để đảm bảo độ chính xác không bị tổn hại.

from ultralytics import YOLO

# Load a custom-trained Ultralytics YOLO26 model
model = YOLO("yolo26n.pt")

# Validate the model on a trusted dataset to detect performance drops
# Sudden decreases in precision/recall may indicate data poisoning
metrics = model.val(data="clean_validation_data.yaml")

print(f"mAP50-95: {metrics.box.map}")  # Review core metrics

Đối với các dự án computer vision quy mô lớn, việc theo dõi các số liệu này qua nhiều lần chạy huấn luyện là rất thiết yếu. Các nhà phát triển có thể khám phá thông tin chi tiết về đánh giá mô hình để hiểu hiệu suất cơ sở, và tận dụng Ultralytics Platform để chú thích, huấn luyện và quản lý dữ liệu một cách bảo mật mà không phụ thuộc vào các nguồn bên ngoài chưa được xác thực. Kết hợp việc tuyển chọn dữ liệu an toàn với các kỹ thuật data augmentation được kiểm soát giúp đảm bảo các mô hình của bạn vừa chính xác vừa kiên cường trước sự can thiệp từ bên ngoài.