Tinh chỉnh hiệu quả tham số (PEFT)

Tinh chỉnh Hiệu quả Tham số (PEFT) là một chiến lược tinh vi trong học máy (ML) được thiết kế để điều chỉnh các mô hình lớn, được đào tạo trước cho các tác vụ hạ nguồn cụ thể mà không cần gánh nặng tính toán của việc đào tạo lại toàn bộ mạng. Khi các mô hình nền tảng trong các lĩnh vực như xử lý ngôn ngữ tự nhiên và thị giác máy tính (CV) đã mở rộng lên hàng tỷ tham số, thì việc tinh chỉnh truyền thống — cập nhật mọi trọng số trong mô hình — đã trở nên quá tốn kém đối với nhiều người dùng. PEFT giải quyết vấn đề này bằng cách đóng băng phần lớn các trọng số mô hình được đào tạo trước và chỉ cập nhật một tập hợp nhỏ các tham số hoặc thêm một vài lớp mới có thể đào tạo được. Phương pháp này giảm đáng kể rào cản phần cứng, cho phép các nhà nghiên cứu và kỹ sư tùy chỉnh các mô hình tiên tiến bằng cách sử dụng GPU cấp độ người tiêu dùng trong khi vẫn duy trì hiệu suất tương đương với đào tạo đầy đủ.

Cơ chế của PEFT

Khái niệm cốt lõi đằng sau PEFT là học chuyển giao , trong đó một mô hình tận dụng kiến thức thu được từ một tập dữ liệu khổng lồ (như ImageNet hoặc Common Crawl) để giải quyết các vấn đề mới với dữ liệu hạn chế. Không giống như tinh chỉnh hoàn toàn, PEFT điều chỉnh kiến trúc mô hình hoặc quy trình đào tạo để "hiệu quả về tham số". Điều này tạo ra một dung lượng nhỏ cho mô hình đã điều chỉnh, thường chỉ vài megabyte, so với hàng gigabyte cần thiết cho một bản sao mô hình đầy đủ. Hiệu quả này rất quan trọng để ngăn ngừa tình trạng quên thảm khốc , một hiện tượng mà mô hình mất đi các khả năng chung ban đầu trong khi học thông tin mới.

Các kỹ thuật phổ biến trong phạm vi PEFT bao gồm:

• LoRA (Thích ứng bậc thấp) : Phương pháp phổ biến này đưa các ma trận phân rã bậc nhỏ, có thể huấn luyện được vào các lớp của mô hình, giữ nguyên trọng số ban đầu. Phương pháp này được trích dẫn rộng rãi trong các nghiên cứu của Microsoft nhờ sự cân bằng giữa tốc độ và độ chính xác.
• Bộ điều hợp: Bao gồm việc chèn các mô-đun mạng nơ-ron nhỏ vào giữa các lớp hiện có của mạng được đào tạo trước.
• Điều chỉnh lời nhắc : Chủ yếu được sử dụng với các mô hình ngôn ngữ, tính năng này sẽ thêm các nhúng "lời nhắc mềm" có thể đào tạo vào chuỗi đầu vào, hướng dẫn hành vi của mô hình đóng băng.

Các Ứng dụng Thực tế

PEFT đóng vai trò quan trọng trong việc dân chủ hóa quyền truy cập vào các công cụ AI mạnh mẽ trong nhiều ngành công nghiệp khác nhau.

• Nông nghiệp chính xác: Nông dân và các công ty công nghệ nông nghiệp sử dụng PEFT để điều chỉnh các mô hình phát hiện vật thể chung như YOLO11 nhằm xác định các bệnh cây trồng cụ thể hoặc sâu bệnh địa phương. Bằng cách sử dụng AI trong nông nghiệp , một mô hình được đào tạo trên các vật thể chung có thể được tinh chỉnh trên một tập dữ liệu tùy chỉnh nhỏ gồm hình ảnh lá cây để detect bệnh tật cục bộ với độ chính xác cao, chạy hiệu quả trên các thiết bị biên tại hiện trường.
• Chẩn đoán Y khoa: Trong lĩnh vực AI chăm sóc sức khỏe , quyền riêng tư và sự khan hiếm dữ liệu là những thách thức lớn. Bệnh viện có thể sử dụng PEFT để điều chỉnh các mô hình thị giác cho phân tích hình ảnh y tế , chẳng hạn như phát hiện gãy xương trên phim X-quang. Vì mô hình cơ sở vẫn được giữ nguyên, quá trình đào tạo yêu cầu ít hình ảnh bệnh nhân hơn để hội tụ, giảm nguy cơ quá khớp và duy trì khả năng nhận dạng các đặc điểm thị giác chung của mô hình.

Triển khai thực tế

Trong bối cảnh của Ultralytics Trong các mô hình, hiệu quả tham số thường đạt được bằng cách "đóng băng" các lớp xương sống của mạng trong quá trình huấn luyện. Điều này đảm bảo rằng các lớp trích xuất đặc trưng không thay đổi, và chỉ có phần đầu (phần của mô hình chịu trách nhiệm đưa ra dự đoán cuối cùng) được cập nhật.

Ví dụ sau đây minh họa cách triển khai một hình thức đào tạo hiệu quả về tham số đơn giản với Ultralytics YOLO bằng cách đóng băng 10 lớp đầu tiên của mô hình.

from ultralytics import YOLO

# Load the YOLO11 model (latest stable version)
model = YOLO("yolo11n.pt")

# Train the model on a specific dataset
# The 'freeze=10' argument freezes the first 10 layers (the backbone)
# This reduces the number of trainable parameters significantly
results = model.train(data="coco8.yaml", epochs=5, freeze=10)

So sánh PEFT với các khái niệm liên quan

Hiểu được sự khác biệt giữa PEFT và các thuật ngữ tương tự là rất quan trọng để lựa chọn chiến lược phù hợp:

• Tinh chỉnh Toàn diện: Tính năng này cập nhật tất cả các tham số trong mạng. Nó mang lại độ dẻo tối đa nhưng đòi hỏi tài nguyên tính toán và lưu trữ khổng lồ cho mỗi phiên bản mô hình mới. Xem hướng dẫn này về tinh chỉnh để biết các phương pháp hay nhất khi tài nguyên không phải là hạn chế.
• Kỹ thuật Prompt : Điều này bao gồm việc tạo ra đầu vào văn bản (prompt) để hướng dẫn mô hình mà không thay đổi bất kỳ trọng số nào. Ngược lại, PEFT cập nhật vĩnh viễn một tập hợp nhỏ các tham số hoặc trọng số để thay đổi cách mô hình xử lý dữ liệu.
• Học chuyển giao : Đây là khái niệm rộng hơn về tái sử dụng kiến thức. PEFT là một triển khai cụ thể và hiệu quả của học chuyển giao. Bạn có thể tìm hiểu sâu hơn về các khái niệm này trên các nền tảng như trang giáo dục AI của IBM .

Bằng cách giảm thiểu chi phí tính toán để thích ứng, PEFT cho phép tạo ra các mô hình chuyên biệt cao cho các nhiệm vụ từ nhận thức về phương tiện tự hành đến phân tích hình ảnh vệ tinh , giúp AI tiên tiến có thể tiếp cận được với cộng đồng nhà phát triển rộng lớn hơn.