Parameter-Efficient Fine-Tuning (PEFT)

Fine-Tuning Hiệu quả Tham số (PEFT) là một chiến lược tối ưu hóa tinh vi trong học máy (ML), cho phép tùy chỉnh các model tiền huấn luyện lớn cho các tác vụ cụ thể trong khi tối thiểu hóa chi phí tính toán. Khi các foundation model hiện đại ngày càng phát triển với hàng tỷ tham số, các phương pháp huấn luyện truyền thống cập nhật mọi trọng số trong mạng đã trở nên cực kỳ đắt đỏ về mặt phần cứng và năng lượng. PEFT giải quyết thách thức này bằng cách đóng băng phần lớn các trọng số model đã được huấn luyện và chỉ cập nhật một tập hợp con nhỏ các tham số hoặc thêm các adapter layer gọn nhẹ. Cách tiếp cận này giúp hạ thấp rào cản gia nhập, cho phép các lập trình viên đạt được kết quả ở đẳng cấp hiện đại trên các GPU tiêu dùng mà không cần đến các trung tâm dữ liệu quy mô công nghiệp.

Link to this sectionCơ chế của Hiệu quả#

Nguyên lý cốt lõi của PEFT dựa trên transfer learning, nơi một model tận dụng các biểu diễn đặc trưng đã học được từ các tập dữ liệu công cộng khổng lồ như ImageNet để giải quyết các vấn đề mới. Trong quy trình làm việc tiêu chuẩn, việc thích nghi một model có thể bao gồm "full fine-tuning", nơi quá trình backpropagation điều chỉnh mọi tham số trong neural network.

Các kỹ thuật PEFT, chẳng hạn như LoRA (Low-Rank Adaptation), đi theo một hướng khác. Chúng giữ cho "backbone" nặng nề của model ở trạng thái tĩnh—bảo toàn kiến thức chung của nó—và tiêm các ma trận nhỏ, có thể huấn luyện vào các lớp cụ thể. Điều này ngăn chặn catastrophic forgetting, một hiện tượng mà model mất đi các khả năng ban đầu trong khi học thông tin mới. Bằng cách giảm số lượng tham số có thể huấn luyện tới 99%, PEFT làm giảm đáng kể yêu cầu lưu trữ và cho phép thay thế các adapter dành riêng cho từng tác vụ vào và ra khỏi một model cơ sở duy nhất trong quá trình real-time inference.

Link to this sectionCác ứng dụng trong thực tế#

PEFT đặc biệt có giá trị trong các ngành công nghiệp nơi điện toán biên và quyền riêng tư dữ liệu là tối quan trọng.

• AI trong Nông nghiệp: Các startup Agritech thường triển khai model trên máy bay không người lái với thời lượng pin và sức mạnh xử lý hạn chế. Sử dụng PEFT, các kỹ sư có thể lấy một model hiệu quả cao như YOLO26 và fine-tune nó để phát hiện các loài sâu bệnh cụ thể theo vùng, chẳng hạn như sâu keo mùa thu, bằng cách sử dụng một tập dữ liệu tùy chỉnh. Bằng cách đóng băng backbone, quá trình huấn luyện có thể được thực hiện nhanh chóng trên máy tính xách tay và model thu được vẫn đủ gọn nhẹ để xử lý trên thiết bị.
• AI trong Chăm sóc sức khỏe: Trong phân tích hình ảnh y tế, dữ liệu được chú thích thường khan hiếm và đắt đỏ để thu thập. Các bệnh viện sử dụng PEFT để thích nghi các model thị giác đa năng nhằm xác định các bất thường trong ảnh chụp MRI. Vì các tham số cơ sở bị đóng băng, model ít bị overfitting trên tập dữ liệu nhỏ, đảm bảo hiệu suất chẩn đoán mạnh mẽ trong khi vẫn bảo vệ quyền riêng tư dữ liệu của bệnh nhân.

Link to this sectionTriển khai các Lớp bị Đóng băng với Ultralytics#

Trong hệ sinh thái Ultralytics, hiệu quả tham số thường đạt được bằng cách "đóng băng" các lớp ban đầu của mạng. Điều này đảm bảo các bộ trích xuất đặc trưng mạnh mẽ vẫn không thay đổi trong khi chỉ phần head hoặc các lớp sau thích nghi với các lớp mới. Đây là một triển khai thực tế của các nguyên lý PEFT cho object detection.

Ví dụ sau đây minh họa cách huấn luyện một model YOLO26 trong khi đóng băng 10 lớp đầu tiên của backbone để tiết kiệm tài nguyên tính toán:

from ultralytics import YOLO

# Load the YOLO26 model (latest stable version)
model = YOLO("yolo26n.pt")

# Train on a custom dataset with the 'freeze' argument
# freeze=10 keeps the first 10 layers static, updating only deeper layers
results = model.train(data="coco8.yaml", epochs=5, freeze=10)

Đối với các nhóm muốn mở rộng quy trình này, Ultralytics Platform cung cấp một giao diện thống nhất để quản lý tập dữ liệu, tự động hóa chú thích và giám sát các lượt huấn luyện hiệu quả này từ đám mây.

Link to this sectionPhân biệt PEFT với các Khái niệm liên quan#

Để chọn chiến lược thích nghi model phù hợp, việc phân biệt PEFT với các thuật ngữ tương tự rất hữu ích:

• Fine-Tuning: Thường được gọi là "full fine-tuning", quy trình này cập nhật tất cả tham số trong model. Mặc dù nó mang lại độ linh hoạt tối đa, nhưng nó đắt đỏ về mặt tính toán và yêu cầu lưu một bản sao đầy đủ của model cho mỗi tác vụ. PEFT là một danh mục phụ của fine-tuning tập trung vào hiệu quả.
• Prompt Engineering: Việc này liên quan đến việc tạo ra các đầu vào văn bản để hướng dẫn đầu ra của model mà không thay đổi bất kỳ trọng số nội bộ nào. Ngược lại, PEFT thay đổi về mặt toán học một tập hợp con các trọng số hoặc adapter để thay đổi vĩnh viễn cách model xử lý dữ liệu.
• Knowledge Distillation: Kỹ thuật này huấn luyện một model học sinh nhỏ để bắt chước một model giáo viên lớn. Mặc dù nó tạo ra một model hiệu quả, nhưng đây là một phương pháp nén, trong khi PEFT là một phương pháp thích nghi được sử dụng để dạy cho một model hiện có các kỹ năng mới.

Bằng cách dân chủ hóa quyền truy cập vào AI hiệu suất cao, PEFT cho phép các lập trình viên xây dựng các công cụ chuyên dụng cho xe tự lái và sản xuất thông minh mà không cần đến cơ sở hạ tầng siêu máy tính.