Cấp phép YOLO
Quay lại Bảng thuật ngữ Ultralytics

Data Poisoning

Đầu độc dữ liệu làm hỏng dữ liệu huấn luyện của model để cài cửa hậu, gây lỗi có chủ đích hoặc làm giảm độ chính xác, thường chỉ cần một tỷ lệ nhỏ mẫu.

Đầu độc dữ liệu là một cuộc tấn công trong đó đối thủ chèn hoặc sửa đổi dữ liệu training để model machine learning học hành vi mà kẻ tấn công mong muốn: giảm độ chính xác trên toàn bộ dữ liệu, dự đoán sai với các đầu vào được chọn hoặc cài cửa hậu ẩn kích hoạt khi xuất hiện mẫu mồi. Cuộc tấn công diễn ra trước khi training, vì vậy model bị đầu độc được phát hành mà mã không thay đổi và thường vượt qua các bài kiểm thử thông thường. Model được huấn luyện trên dữ liệu thu thập từ web, do người dùng đóng góp hoặc mua từ bên thứ ba đều có nguy cơ; vì thế, OWASP Top 10 dành cho ứng dụng LLM xếp đầu độc dữ liệu và model vào mười rủi ro hàng đầu của ứng dụng mô hình ngôn ngữ lớn (LLM).

Các loại tấn công đầu độc#

Các cuộc tấn công khác nhau về mục tiêu của kẻ tấn công và việc các mẫu bị đầu độc có mang nhãn sai hay không:

Tấn công khả dụng chèn nhiễu hoặc đảo nhãn để làm giảm hiệu năng của model trên toàn bộ dữ liệu, khiến chúng dễ bị phát hiện. Tấn công có mục tiêu và tấn công cửa hậu kín đáo hơn vì model vẫn hoạt động bình thường với hầu hết đầu vào. Trong BadNets (2017), classifier biển báo đường học cách nhận biển báo dừng có dán nhãn nhỏ thành biển giới hạn tốc độ. Tấn công nhãn sạch, chẳng hạn tấn công Poison Frogs của Ali Shafahi và cộng sự, giữ nguyên mọi nhãn chính xác mà chỉ chỉnh sửa hình ảnh thật tinh vi để người kiểm tra dataset không nhận ra điều bất thường.

Cửa hậu chỉ với vài mẫu#

Cuộc tấn công dưới đây đầu độc dataset chữ số viết tay của scikit-learn. Mỗi bản sao bị đầu độc của một chữ số khác 0 có dấu ba pixel ở cạnh trái và nhãn 0; một máy vector hỗ trợ (SVM) được huấn luyện với 0, 10, 20 và 40 mẫu đó được thêm vào 1.257 ảnh training sạch:

import numpy as np
from sklearn.datasets import load_digits
from sklearn.model_selection import train_test_split
from sklearn.svm import SVC

x, y = load_digits(return_X_y=True)
x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.3, random_state=0)
trigger = [24, 32, 40]  # three pixels on the left edge, almost always blank in real digits
triggered = x_test[y_test != 0].copy()
triggered[:, trigger] = 16
rng = np.random.default_rng(0)

for n_poison in (0, 10, 20, 40):
    # Backdoor poisoning: stamp the trigger on copies of other digits and label them 0
    poison = x_train[rng.choice(np.flatnonzero(y_train != 0), n_poison, replace=False)].copy()
    poison[:, trigger] = 16
    model = SVC().fit(np.vstack([x_train, poison]), np.concatenate([y_train, np.zeros(n_poison, int)]))

    # Accuracy on clean test digits versus the share of triggered digits read as 0
    attack = np.mean(model.predict(triggered) == 0)
    print(f"{n_poison} poisoned: clean accuracy {model.score(x_test, y_test):.3f}, attack success {attack:.0%}")

Độ chính xác trên dữ liệu sạch luôn ở mức 0,991 trong mọi lần chạy, nên tập validation sạch không cho thấy dấu hiệu tấn công; trong khi đó, tỷ lệ thành công của cuộc tấn công tăng từ 0% lên 71% với 10 ảnh bị đầu độc, 97% với 20 ảnh—chiếm 1,6% tập training—và 100% với 40 ảnh.

Đầu độc ở quy mô web#

Dataset lớn giúp giảm chi phí đầu độc. Nicholas Carlini và cộng sự cho thấy đầu độc dataset training quy mô web là khả thi: các dataset như LAION-400M phân phối URL hình ảnh thay vì hình ảnh, vì vậy mua các tên miền hết hạn mà những URL đó trỏ tới sẽ cho phép kẻ tấn công kiểm soát 0,01% LAION-400M hoặc COYO-700M với chi phí khoảng 60 USD. Một cuộc tấn công khác, frontrunning, chỉnh sửa các trang do cộng đồng đóng góp như Wikipedia ngay trước khi bản chụp theo lịch ghi nhận nội dung.

LLM chỉ cần số lượng tài liệu bị đầu độc ít đến bất ngờ. Trong nghiên cứu năm 2025 của Anthropic, UK AI Security Institute và Alan Turing Institute, 250 tài liệu chứa trigger <SUDO> theo sau là văn bản vô nghĩa đã cài cửa hậu một cách đáng tin cậy vào các model từ 600 triệu đến 13 tỷ tham số, khiến chúng xuất văn bản vô nghĩa khi gặp trigger. Số tài liệu cần thiết gần như không đổi khi model và dataset tăng quy mô; với model lớn nhất, 250 tài liệu chỉ chiếm khoảng 0,00016% số token training. Đầu độc cũng áp dụng được cho hình ảnh trong AI tạo sinh: Nightshade của University of Chicago làm sai lệch một prompt cụ thể trong Stable Diffusion SDXL chỉ với chưa đến 100 hình ảnh bị đầu độc; nghệ sĩ dùng công cụ này để ngăn việc thu thập tác phẩm trái phép.

  • Tấn công đối kháng: Thay đổi đầu vào tại thời điểm suy luận để đánh lừa model được huấn luyện bình thường. Đầu độc làm thay đổi chính model thông qua dữ liệu huấn luyện.
  • Chèn lệnh vào prompt: Ẩn chỉ thị trong văn bản mà LLM đọc khi trả lời, ảnh hưởng đến một cuộc trò chuyện thay vì các trọng số.
  • Tác nhân ngủ đông: Các LLM bị cài cửa hậu, che giấu hành vi có hại cho đến khi được kích hoạt. Đầu độc là một cách tạo ra chúng, và Anthropic đã chứng minh những cửa hậu như vậy có thể tồn tại sau quá trình huấn luyện an toàn.
  • Tấn công suy luận tư cách thành viên: Trích xuất thông tin về các bản ghi huấn luyện từ một model đã huấn luyện. Đầu độc ghi thông tin vào model thông qua các bản ghi đó.

Biện pháp phòng vệ#

Các biện pháp phòng vệ bắt đầu từ nguồn gốc dữ liệu: biết mỗi mẫu đến từ đâu và liệu mẫu có bị thay đổi sau khi rà soát hay không. Carlini và các đồng nghiệp khuyến nghị phân phối một mã băm mật mã cùng mỗi URL để nội dung bị tráo đổi sau khi tuyển chọn sẽ không vượt qua bước xác minh. Làm sạch dữ liệu loại bỏ bản trùng lặp và mẫu đáng ngờ, còn phát hiện bất thường trên các đặc trưng nội bộ của model đã huấn luyện có thể phát hiện mẫu bị đầu độc, như phương pháp chữ ký phổ của Brandon Tran, Jerry Li và Aleksander Madry, tìm các mẫu cửa hậu dưới dạng ngoại lệ trong biểu diễn đã học. Quyền riêng tư vi sai giới hạn mức độ một mẫu đơn lẻ có thể làm thay đổi model, qua đó cũng giới hạn ảnh hưởng của một vài mẫu bị đầu độc, còn các hệ thống học liên kết sử dụng tổng hợp bền vững để chống lại các client gửi bản cập nhật bị đầu độc.

Đối với bộ dữ liệu thị giác máy tính, theo dõi thay đổi giúp phát hiện hành vi can thiệp giữa các lần chạy huấn luyện. Ultralytics Platform lưu các phiên bản bộ dữ liệu bất biến, còn Compare Versions đếm số ảnh được thêm, xóa hoặc sửa đổi và số chú thích được thêm hoặc xóa kể từ phiên bản trước, đồng thời hiển thị từng ảnh đã thay đổi trước và sau cùng nhãn của ảnh, nhờ đó ảnh được chèn hoặc nhãn bị đảo sẽ xuất hiện trước lần huấn luyện YOLO26 tiếp theo.

Khám phá các giải pháp

Thị giác máy tính trong thể thao

Thị giác máy tính trong thể thao

Khám phá cách Ultralytics YOLO thúc đẩy thị giác máy tính trong thể thao với khả năng theo dõi cầu thủ và bóng, phân tích hiệu suất, cung cấp thông tin chuyên sâu cho huấn luyện và hỗ trợ phục hồi cho vận động viên.
Tìm hiểu thêm
Thị giác máy tính cho ảnh hàng không

Thị giác máy tính cho ảnh hàng không

Chuyển hình ảnh từ drone và ảnh hàng không thành thông tin chuyên sâu theo thời gian thực cho nông nghiệp, nuôi trồng thủy sản, bảo tồn và phân tích không gian địa lý với Ultralytics YOLO.
Tìm hiểu thêm
Thị giác máy tính trong hàng không vũ trụ

Thị giác máy tính trong hàng không vũ trụ

Ứng dụng computer vision trong ngành hàng không vũ trụ với Ultralytics YOLO cho kiểm tra máy bay, phát hiện dị vật trên đường băng (FOD), vận hành mặt đất tại sân bay và phát hiện lỗi vật liệu composite.
Tìm hiểu thêm
Computer vision trong lĩnh vực an ninh

Computer vision trong lĩnh vực an ninh

Bảo vệ mọi địa điểm bằng model Ultralytics YOLO. Vision AI hỗ trợ giám sát vành đai, phát hiện mối đe dọa, nhận dạng biển số và an toàn nơi làm việc.
Tìm hiểu thêm
Computer vision trong robotics

Computer vision trong robotics

Tăng cường năng lực cho máy móc thông minh bằng model Ultralytics YOLO. Vision AI trong lĩnh vực robotics hỗ trợ điều hướng tự động, nhận thức, theo dõi đối tượng và điều khiển theo thời gian thực.
Tìm hiểu thêm
Thị giác máy tính trong logistics

Thị giác máy tính trong logistics

Tinh giản hoạt động logistics với các model Ultralytics YOLO. Vision AI hỗ trợ kiểm tra kiện hàng, phân loại, theo dõi phương tiện và giám sát an toàn kho hàng theo thời gian thực.
Tìm hiểu thêm
Thị giác máy tính trong bán lẻ

Thị giác máy tính trong bán lẻ

Định hình lại hoạt động bán lẻ với các model Ultralytics YOLO. Vision AI hỗ trợ theo dõi hàng tồn kho, giám sát kệ hàng, quản lý hàng chờ và phân tích khách hàng thông minh hơn.
Tìm hiểu thêm
Thị giác máy tính trong chăm sóc sức khỏe

Thị giác máy tính trong chăm sóc sức khỏe

Xây dựng các giải pháp chăm sóc sức khỏe với model Ultralytics YOLO. Vision AI trong chăm sóc sức khỏe hỗ trợ xử lý hình ảnh y tế nhanh hơn, chẩn đoán thông minh hơn và theo dõi bệnh nhân.
Tìm hiểu thêm
Thị giác máy tính trong sản xuất

Thị giác máy tính trong sản xuất

Tối ưu hóa sản xuất bằng các model Ultralytics YOLO. Vision AI thúc đẩy kiểm soát chất lượng, phát hiện lỗi, tuân thủ PPE và tự động hóa dây chuyền lắp ráp.
Tìm hiểu thêm
Thị giác máy tính trong ngành ô tô

Thị giác máy tính trong ngành ô tô

Ứng dụng thị giác máy tính trong ngành ô tô với các model Ultralytics YOLO. Vision AI nâng cao an toàn giao thông, hỗ trợ người lái và tự động hóa phương tiện để tạo nên những tuyến đường thông minh hơn.
Tìm hiểu thêm
Thị giác máy tính trong nông nghiệp

Thị giác máy tính trong nông nghiệp

Ứng dụng AI thị giác vào nông nghiệp thông minh với các model Ultralytics YOLO. Hỗ trợ giám sát cây trồng, theo dõi vật nuôi và canh tác chính xác để nâng cao năng suất một cách thông minh hơn.
Tìm hiểu thêm

Hãy cùng nhau kiến tạo tương lai của AI!

Bắt đầu hành trình hướng đến tương lai của machine learning