Data Poisoning
Đầu độc dữ liệu làm hỏng dữ liệu huấn luyện của model để cài cửa hậu, gây lỗi có chủ đích hoặc làm giảm độ chính xác, thường chỉ cần một tỷ lệ nhỏ mẫu.
Đầu độc dữ liệu là một cuộc tấn công trong đó đối thủ chèn hoặc sửa đổi dữ liệu training để model machine learning học hành vi mà kẻ tấn công mong muốn: giảm độ chính xác trên toàn bộ dữ liệu, dự đoán sai với các đầu vào được chọn hoặc cài cửa hậu ẩn kích hoạt khi xuất hiện mẫu mồi. Cuộc tấn công diễn ra trước khi training, vì vậy model bị đầu độc được phát hành mà mã không thay đổi và thường vượt qua các bài kiểm thử thông thường. Model được huấn luyện trên dữ liệu thu thập từ web, do người dùng đóng góp hoặc mua từ bên thứ ba đều có nguy cơ; vì thế, OWASP Top 10 dành cho ứng dụng LLM xếp đầu độc dữ liệu và model vào mười rủi ro hàng đầu của ứng dụng mô hình ngôn ngữ lớn (LLM).
Các loại tấn công đầu độc#
Các cuộc tấn công khác nhau về mục tiêu của kẻ tấn công và việc các mẫu bị đầu độc có mang nhãn sai hay không:
Tấn công khả dụng chèn nhiễu hoặc đảo nhãn để làm giảm hiệu năng của model trên toàn bộ dữ liệu, khiến chúng dễ bị phát hiện. Tấn công có mục tiêu và tấn công cửa hậu kín đáo hơn vì model vẫn hoạt động bình thường với hầu hết đầu vào. Trong BadNets (2017), classifier biển báo đường học cách nhận biển báo dừng có dán nhãn nhỏ thành biển giới hạn tốc độ. Tấn công nhãn sạch, chẳng hạn tấn công Poison Frogs của Ali Shafahi và cộng sự, giữ nguyên mọi nhãn chính xác mà chỉ chỉnh sửa hình ảnh thật tinh vi để người kiểm tra dataset không nhận ra điều bất thường.
Cửa hậu chỉ với vài mẫu#
Cuộc tấn công dưới đây đầu độc dataset chữ số viết tay của scikit-learn. Mỗi bản sao bị đầu độc của một chữ số khác 0 có dấu ba pixel ở cạnh trái và nhãn 0; một máy vector hỗ trợ (SVM) được huấn luyện với 0, 10, 20 và 40 mẫu đó được thêm vào 1.257 ảnh training sạch:
import numpy as np
from sklearn.datasets import load_digits
from sklearn.model_selection import train_test_split
from sklearn.svm import SVC
x, y = load_digits(return_X_y=True)
x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.3, random_state=0)
trigger = [24, 32, 40] # three pixels on the left edge, almost always blank in real digits
triggered = x_test[y_test != 0].copy()
triggered[:, trigger] = 16
rng = np.random.default_rng(0)
for n_poison in (0, 10, 20, 40):
# Backdoor poisoning: stamp the trigger on copies of other digits and label them 0
poison = x_train[rng.choice(np.flatnonzero(y_train != 0), n_poison, replace=False)].copy()
poison[:, trigger] = 16
model = SVC().fit(np.vstack([x_train, poison]), np.concatenate([y_train, np.zeros(n_poison, int)]))
# Accuracy on clean test digits versus the share of triggered digits read as 0
attack = np.mean(model.predict(triggered) == 0)
print(f"{n_poison} poisoned: clean accuracy {model.score(x_test, y_test):.3f}, attack success {attack:.0%}")Độ chính xác trên dữ liệu sạch luôn ở mức 0,991 trong mọi lần chạy, nên tập validation sạch không cho thấy dấu hiệu tấn công; trong khi đó, tỷ lệ thành công của cuộc tấn công tăng từ 0% lên 71% với 10 ảnh bị đầu độc, 97% với 20 ảnh—chiếm 1,6% tập training—và 100% với 40 ảnh.
Đầu độc ở quy mô web#
Dataset lớn giúp giảm chi phí đầu độc. Nicholas Carlini và cộng sự cho thấy đầu độc dataset training quy mô web là khả thi: các dataset như LAION-400M phân phối URL hình ảnh thay vì hình ảnh, vì vậy mua các tên miền hết hạn mà những URL đó trỏ tới sẽ cho phép kẻ tấn công kiểm soát 0,01% LAION-400M hoặc COYO-700M với chi phí khoảng 60 USD. Một cuộc tấn công khác, frontrunning, chỉnh sửa các trang do cộng đồng đóng góp như Wikipedia ngay trước khi bản chụp theo lịch ghi nhận nội dung.
LLM chỉ cần số lượng tài liệu bị đầu độc ít đến bất ngờ. Trong nghiên cứu năm 2025 của Anthropic, UK AI Security Institute và Alan Turing Institute, 250 tài liệu chứa trigger <SUDO> theo sau là văn bản vô nghĩa đã cài cửa hậu một cách đáng tin cậy vào các model từ 600 triệu đến 13 tỷ tham số, khiến chúng xuất văn bản vô nghĩa khi gặp trigger. Số tài liệu cần thiết gần như không đổi khi model và dataset tăng quy mô; với model lớn nhất, 250 tài liệu chỉ chiếm khoảng 0,00016% số token training. Đầu độc cũng áp dụng được cho hình ảnh trong AI tạo sinh: Nightshade của University of Chicago làm sai lệch một prompt cụ thể trong Stable Diffusion SDXL chỉ với chưa đến 100 hình ảnh bị đầu độc; nghệ sĩ dùng công cụ này để ngăn việc thu thập tác phẩm trái phép.
Đầu độc dữ liệu so với các cuộc tấn công liên quan#
- Tấn công đối kháng: Thay đổi đầu vào tại thời điểm suy luận để đánh lừa model được huấn luyện bình thường. Đầu độc làm thay đổi chính model thông qua dữ liệu huấn luyện.
- Chèn lệnh vào prompt: Ẩn chỉ thị trong văn bản mà LLM đọc khi trả lời, ảnh hưởng đến một cuộc trò chuyện thay vì các trọng số.
- Tác nhân ngủ đông: Các LLM bị cài cửa hậu, che giấu hành vi có hại cho đến khi được kích hoạt. Đầu độc là một cách tạo ra chúng, và Anthropic đã chứng minh những cửa hậu như vậy có thể tồn tại sau quá trình huấn luyện an toàn.
- Tấn công suy luận tư cách thành viên: Trích xuất thông tin về các bản ghi huấn luyện từ một model đã huấn luyện. Đầu độc ghi thông tin vào model thông qua các bản ghi đó.
Biện pháp phòng vệ#
Các biện pháp phòng vệ bắt đầu từ nguồn gốc dữ liệu: biết mỗi mẫu đến từ đâu và liệu mẫu có bị thay đổi sau khi rà soát hay không. Carlini và các đồng nghiệp khuyến nghị phân phối một mã băm mật mã cùng mỗi URL để nội dung bị tráo đổi sau khi tuyển chọn sẽ không vượt qua bước xác minh. Làm sạch dữ liệu loại bỏ bản trùng lặp và mẫu đáng ngờ, còn phát hiện bất thường trên các đặc trưng nội bộ của model đã huấn luyện có thể phát hiện mẫu bị đầu độc, như phương pháp chữ ký phổ của Brandon Tran, Jerry Li và Aleksander Madry, tìm các mẫu cửa hậu dưới dạng ngoại lệ trong biểu diễn đã học. Quyền riêng tư vi sai giới hạn mức độ một mẫu đơn lẻ có thể làm thay đổi model, qua đó cũng giới hạn ảnh hưởng của một vài mẫu bị đầu độc, còn các hệ thống học liên kết sử dụng tổng hợp bền vững để chống lại các client gửi bản cập nhật bị đầu độc.
Đối với bộ dữ liệu thị giác máy tính, theo dõi thay đổi giúp phát hiện hành vi can thiệp giữa các lần chạy huấn luyện. Ultralytics Platform lưu các phiên bản bộ dữ liệu bất biến, còn Compare Versions đếm số ảnh được thêm, xóa hoặc sửa đổi và số chú thích được thêm hoặc xóa kể từ phiên bản trước, đồng thời hiển thị từng ảnh đã thay đổi trước và sau cùng nhãn của ảnh, nhờ đó ảnh được chèn hoặc nhãn bị đảo sẽ xuất hiện trước lần huấn luyện YOLO26 tiếp theo.










