Task Vectors

Vector tác vụ biểu thị những thay đổi cụ thể được thực hiện đối với trọng số của mạng nơ-ron trong quá trình fine-tuning để đạt được năng lực mới. Bằng cách trừ các tham số của model nền tảng cơ sở khỏi tham số của model đã fine-tune, nhà nghiên cứu có thể cô lập một vector có hướng trong không gian trọng số, bao hàm hành vi đã học cho tác vụ cụ thể đó. Cách tiếp cận này cho phép nhà phát triển sử dụng các phép toán số học trên tham số model đơn giản để định hướng, chỉnh sửa hoặc kết hợp hành vi của model mà không cần thêm compute huấn luyện.

Vector tác vụ khác với học chuyển giao như thế nào#

Trong khi khái niệm học chuyển giao bao gồm việc huấn luyện tuần tự một model trên dataset mới để điều chỉnh kiến thức sẵn có, vector tác vụ tác động trực tiếp lên trọng số cấu trúc của model sau khi huấn luyện. Thay vì huấn luyện lại gradient để học một miền mới, nội suy trong không gian trọng số bằng vector tác vụ cho phép người thực hành kết hợp tuyến tính các chênh lệch trọng số từ nhiều model được huấn luyện độc lập. Điều này cho phép hợp nhất model zero-shot, giúp một model duy nhất kế thừa nhiều năng lực cùng lúc mà không phát sinh chi phí tính toán trong quá trình huấn luyện thông thường.

Ứng dụng thực tế#

Khả năng thao tác đại số trên các model deep learning đã mở ra nhiều ứng dụng có tác động lớn trong các pipeline AI hiện đại:

• Kết hợp model đa tác vụ: Kỹ sư có thể kết hợp các vector tác vụ từ những model được fine-tune trên cùng một model nền, chẳng hạn hai model phát hiện đối tượng được huấn luyện trên các dataset khác nhau; vector tác vụ chỉ có thể kết hợp giữa các kiến trúc giống hệt nhau, vì vậy không thể hợp nhất một model fine-tune để phát hiện với một model phân đoạn ảnh. Khi áp dụng cho model nền Ultralytics YOLO26, phương pháp này tạo ra một model duy nhất kế thừa ưu điểm của từng model fine-tune ban đầu.
• Machine unlearning và an toàn AI: Nếu model tạo ra đầu ra thiên lệch hoặc nguy hiểm, nhà nghiên cứu có thể tính vector tác vụ biểu thị hành vi không mong muốn cụ thể đó. Bằng cách trừ vector này khỏi trọng số model, họ có thể "xóa bỏ" hiệu quả hành vi đó, góp phần đáng kể vào việc cải thiện an toàn AI và các tiêu chuẩn đạo đức AI mạnh mẽ.
• Thích nghi miền trong thị giác máy tính: Khi điều chỉnh model cho các môi trường cụ thể—chẳng hạn chuyển từ suy luận thời gian thực ban ngày sang ban đêm—vector tác vụ cho phép người dùng điều chỉnh độ lớn của mức thích nghi. Áp dụng một phần vector (ví dụ: hệ số tỷ lệ 0.5) có thể tạo ra model cân bằng, hoạt động tốt ở cả hai miền.

Làm việc với vector tác vụ trong PyTorch#

Việc tạo và áp dụng vector tác vụ đòi hỏi truy cập và thao tác với state dictionary của PyTorch. Ví dụ sau minh họa cách trích xuất vector tác vụ từ một model Ultralytics YOLO26 đã fine-tune và áp dụng vector đó trở lại model cơ sở với hệ số tỷ lệ cụ thể.

from ultralytics import YOLO

# Tải state dictionary của model cơ sở và model đã fine-tune
base_weights = YOLO("yolo26n.pt").model.state_dict()
tuned_weights = YOLO("yolo26n-custom.pt").model.state_dict()

# Tính vector tác vụ (trọng số đã tinh chỉnh trừ trọng số nền), bỏ qua các buffer số nguyên
task_vector = {k: tuned_weights[k] - base_weights[k] for k in base_weights if base_weights[k].is_floating_point()}

# Áp dụng vector tác vụ vào model cơ sở với hệ số tỷ lệ 0.5
for k, delta in task_vector.items():
    base_weights[k] += 0.5 * delta

Tương lai của việc thao tác trọng số#

Khi số lượng tham số của các kiến trúc như model ngôn ngữ lớn và Transformer thị giác quy mô lớn tăng lên, việc huấn luyện lại chúng cho mỗi điều chỉnh nhỏ trở nên không khả thi về mặt kinh tế. Vector tác vụ cung cấp một giải pháp thay thế thanh lịch về mặt toán học cho tối ưu hóa model sau huấn luyện. Bằng cách chia sẻ các vector tác vụ gọn nhẹ thay vì toàn bộ model nhiều gigabyte, cộng đồng AI có thể đẩy nhanh hoạt động cộng tác AI mã nguồn mở. Sau khi tinh chỉnh các vector tác vụ tùy chỉnh, sử dụng Nền tảng Ultralytics giúp đơn giản hóa quy trình triển khai model và giám sát tiếp theo, đảm bảo trọng số đã tối ưu được chuyển trực tiếp thành các endpoint sẵn sàng cho production.