Parameter-Efficient Fine-Tuning (PEFT)

Parameter-Efficient Fine-Tuning (PEFT) là một chiến lược tối ưu hóa tiên tiến trong machine learning (ML) cho phép tùy chỉnh các mô hình lớn, được huấn luyện sẵn cho các tác vụ cụ thể trong khi giảm thiểu chi phí tính toán. Khi các foundation models hiện đại ngày càng phát triển để bao gồm hàng tỷ tham số, các phương pháp huấn luyện truyền thống cập nhật mọi trọng số trong mạng đã trở nên quá tốn kém về mặt phần cứng và năng lượng. PEFT giải quyết thách thức này bằng cách đóng băng phần lớn các model weights đã được huấn luyện sẵn và chỉ cập nhật một tập hợp con nhỏ các tham số hoặc thêm các lớp adapter trọng lượng nhẹ. Cách tiếp cận này hạ thấp rào cản gia nhập, cho phép các nhà phát triển đạt được kết quả tối tân trên các GPUs cấp độ người tiêu dùng mà không cần trung tâm dữ liệu quy mô công nghiệp.

Cơ chế của Hiệu quả#

Nguyên tắc cốt lõi của PEFT dựa trên transfer learning, nơi một mô hình tận dụng các biểu diễn đặc trưng học được từ các tập dữ liệu công cộng khổng lồ như ImageNet để giải quyết các vấn đề mới. Trong một quy trình chuẩn, việc thích ứng một mô hình có thể bao gồm "fine-tuning toàn bộ" ("full fine-tuning"), nơi backpropagation điều chỉnh mọi tham số trong neural network.

Các kỹ thuật PEFT, chẳng hạn như LoRA (Low-Rank Adaptation), đi theo một hướng khác. Chúng giữ cho "backbone" nặng của mô hình ở trạng thái tĩnh—bảo tồn kiến thức chung của nó—và tiêm các ma trận nhỏ, có thể huấn luyện vào các lớp cụ thể. Điều này ngăn chặn catastrophic forgetting, một hiện tượng mà mô hình mất đi các khả năng ban đầu trong khi học thông tin mới. Bằng cách giảm số lượng tham số có thể huấn luyện lên tới 99%, PEFT giảm đáng kể các yêu cầu lưu trữ và cho phép nhiều adapter chuyên biệt cho tác vụ được hoán đổi ra vào trong một mô hình cơ sở duy nhất trong quá trình real-time inference.

Các ứng dụng trong thực tế#

PEFT đặc biệt có giá trị trong các ngành công nghiệp nơi điện toán biên và quyền riêng tư dữ liệu là tối quan trọng.

• AI trong Nông nghiệp: Các startup công nghệ nông nghiệp thường triển khai các mô hình trên drone với thời lượng pin và sức mạnh xử lý hạn chế. Bằng cách sử dụng PEFT, các kỹ sư có thể lấy một mô hình hiệu quả cao như YOLO26 và tinh chỉnh nó để phát hiện các loài sâu bệnh hại cụ thể theo vùng, chẳng hạn như sâu keo mùa thu, bằng cách sử dụng một custom dataset nhỏ. Bằng cách đóng băng phần backbone, việc huấn luyện có thể được thực hiện nhanh chóng trên một máy tính xách tay, và mô hình kết quả vẫn đủ nhẹ để xử lý trực tiếp trên thiết bị.
• AI trong Y tế: Trong medical image analysis, dữ liệu được gán nhãn thường khan hiếm và tốn kém để thu thập. Các bệnh viện sử dụng PEFT để thích ứng các mô hình thị giác mục đích chung nhằm xác định các bất thường trong ảnh quét MRI. Do các tham số cơ sở bị đóng băng, mô hình ít có xu hướng overfitting trên tập dữ liệu nhỏ, đảm bảo hiệu suất chẩn đoán mạnh mẽ đồng thời bảo vệ quyền riêng tư dữ liệu của bệnh nhân.

Triển khai các Lớp bị Đóng băng với Ultralytics#

Trong hệ sinh thái Ultralytics, hiệu suất tham số thường đạt được bằng cách "đóng băng" các lớp ban đầu của mạng. Điều này đảm bảo các bộ trích xuất đặc trưng mạnh mẽ không đổi trong khi chỉ phần đầu (head) hoặc các lớp sau thích ứng với các lớp mới. Đây là một triển khai thực tế các nguyên tắc PEFT cho object detection.

Ví dụ sau đây minh họa cách huấn luyện mô hình Ultralytics YOLO26 trong khi đóng băng (freeze) 10 lớp đầu tiên của phần xương sống (backbone) để tiết kiệm tài nguyên tính toán:

from ultralytics import YOLO

# Load the YOLO26 model (latest stable version)
model = YOLO("yolo26n.pt")

# Train on a custom dataset with the 'freeze' argument
# freeze=10 keeps the first 10 layers static, updating only deeper layers
results = model.train(data="coco8.yaml", epochs=5, freeze=10)

Đối với các nhóm muốn mở rộng quy mô quá trình này, Ultralytics Platform cung cấp một giao diện thống nhất để quản lý các tập dữ liệu, tự động hóa gán nhãn và giám sát các lượt huấn luyện hiệu quả này từ đám mây.

Phân biệt PEFT với các Khái niệm liên quan#

Để chọn chiến lược thích nghi model phù hợp, việc phân biệt PEFT với các thuật ngữ tương tự rất hữu ích:

• Fine-Tuning: Thường được gọi là "fine-tuning toàn bộ" ("full fine-tuning"), quá trình này cập nhật tất cả các tham số trong mô hình. Mặc dù nó mang lại tính dẻo dai tối đa, nhưng nó tốn kém về mặt tính toán và yêu cầu lưu một bản sao đầy đủ của mô hình cho mọi tác vụ. PEFT là một danh mục con của fine-tuning tập trung vào hiệu suất.
• Prompt Engineering: Điều này liên quan đến việc tạo ra các đầu vào văn bản để hướng dẫn đầu ra của mô hình mà không thay đổi bất kỳ trọng số nội bộ nào. Ngược lại, PEFT thay đổi một tập hợp con các trọng số hoặc adapter về mặt toán học để thay đổi vĩnh viễn cách mô hình xử lý dữ liệu.
• Knowledge Distillation: Kỹ thuật này huấn luyện một mô hình học sinh nhỏ để bắt chước một mô hình giáo viên lớn. Mặc dù nó tạo ra một mô hình hiệu quả, nhưng đó là một phương pháp nén, trong khi PEFT là một phương pháp thích ứng được sử dụng để dạy cho một mô hình hiện có các kỹ năng mới.

Bằng cách dân chủ hóa quyền truy cập vào AI hiệu suất cao, PEFT cho phép các nhà phát triển xây dựng các công cụ chuyên specialized cho autonomous vehicles và smart manufacturing mà không cần cơ sở hạ tầng siêu máy tính.