Súp mẫu

Model Soups đề cập đến một kỹ thuật học máy trong đó trọng số của nhiều mạng nơ-ron, được tinh chỉnh từ cùng một mô hình cơ sở được huấn luyện trước bằng cách sử dụng các siêu tham số khác nhau, được tính trung bình để tạo ra một mô hình duy nhất, mạnh mẽ hơn. Cách tiếp cận này cho phép các nhà phát triển cải thiện độ chính xác và khả năng khái quát hóa tổng thể mà không làm tăng chi phí tính toán trong quá trình suy luận.

Khi tinh chỉnh mô hình, các chuyên gia thường thực hiện một loạt các thao tác điều chỉnh siêu tham số để tìm ra cấu hình hoạt động tốt nhất. Theo truyền thống, mô hình tốt nhất duy nhất được chọn và các mô hình còn lại bị loại bỏ. Tuy nhiên, việc tạo ra một "mớ hỗn độn mô hình" tận dụng các đặc điểm đa dạng được học bởi tất cả các mô hình trong quá trình điều chỉnh. Bằng cách trực tiếp tính trung bình trọng số của các mô hình , mạng lưới kết quả thường hoạt động tốt hơn mô hình tốt nhất duy nhất, kết hợp hiệu quả các điểm mạnh của chúng đồng thời giảm thiểu hiện tượng quá khớp . Quá trình này rất hiệu quả và có thể dễ dàng quản lý trong các môi trường cộng tác như Nền tảng Ultralytics .

Các Ứng dụng Thực tế

Mô hình "súp" rất hiệu quả trong các trường hợp tài nguyên tính toán bị hạn chế, nhưng độ chính xác và độ bền cao lại được yêu cầu.

• Tầm nhìn cho xe tự hành: Khi triển khai hệ thống phát hiện vật thể trong xe tự lái, các mô hình phải có khả năng khái quát hóa trong nhiều điều kiện ánh sáng và thời tiết khác nhau. Bằng cách lấy trung bình nhiều mô hình được huấn luyện với các phương pháp tăng cường dữ liệu và tốc độ học khác nhau, các kỹ sư tạo ra một mô hình tổng hợp cực kỳ mạnh mẽ, duy trì độ trễ suy luận thấp. Điều này đảm bảo tốc độ xử lý thời gian thực, vốn rất quan trọng cho việc điều hướng tự động, không bị ảnh hưởng.
• Chẩn đoán y tế di động: Trong các ứng dụng AI tại biên, chẳng hạn như phân loại hình ảnh trên điện thoại thông minh để sàng lọc da liễu ban đầu, sức mạnh tính toán bị hạn chế nghiêm trọng. Một mô hình tổng hợp cung cấp độ chính xác được nâng cao cần thiết cho độ tin cậy lâm sàng, đồng thời đảm bảo dung lượng lưu trữ cuối cùng phù hợp dễ dàng với các thiết bị di động tại biên mà không làm hao pin hoặc yêu cầu kết nối đám mây.

Phân biệt các khái niệm liên quan

Để định hướng trong lĩnh vực tối ưu hóa học sâu , điều quan trọng là phải phân biệt Model Soups với các kỹ thuật tương tự:

• Mô hình kết hợp (Model Ensemble ): Mô hình kết hợp kết hợp các dự đoán (đầu ra) của nhiều mô hình độc lập. Mặc dù điều này cải thiện độ chính xác, nhưng nó yêu cầu chạy từng mô hình trong quá trình suy luận, làm tăng chi phí tính toán. Mô hình kết hợp (Model Soups) tính trung bình trọng số trước khi suy luận, giữ cho chi phí tính toán tương đương với một mô hình đơn lẻ.
• Ghép mô hình : Đây là thuật ngữ rộng hơn để chỉ việc kết hợp các mô hình có thể đã được huấn luyện trên các nhiệm vụ hoặc tập dữ liệu hoàn toàn khác nhau. Model Soups là một tập hợp con cụ thể của việc ghép mô hình, trong đó tất cả các mô hình đều bắt nguồn từ cùng một kiến ​​trúc cơ sở được huấn luyện trước và được tinh chỉnh trên cùng một nhiệm vụ mục tiêu.

Ví dụ triển khai

Việc tạo ra một tập hợp mô hình đồng nhất bao gồm việc truy cập vào từ điển trạng thái PyTorch của nhiều mô hình đã được huấn luyện và tính trung bình toán học các tensor của chúng. Dưới đây là một ví dụ ngắn gọn về cách thực hiện điều này bằng cách sử dụng quy trình làm việc Ultralytics YOLO26 được hỗ trợ trực tiếp bởi khung PyTorch .

import torch

# Load the PyTorch state dictionaries from two fine-tuned YOLO26 models
model1 = torch.load("yolo26_run1.pt")["model"].state_dict()
model2 = torch.load("yolo26_run2.pt")["model"].state_dict()

# Create a uniform model soup by averaging the model weights
soup_dict = {key: (model1[key] + model2[key]) / 2.0 for key in model1.keys()}

# The resulting soup_dict can now be loaded into a new YOLO26 instance

Bằng cách tận dụng kỹ thuật này, các chuyên gia về thị giác máy tính có thể dễ dàng nâng cao các chỉ số hiệu suất như khả năng học không cần dữ liệu huấn luyện (zero-shot learning) và độ ổn định tổng thể mà không làm giảm tốc độ triển khai cần thiết cho các kiến ​​trúc AI hiện đại, ưu tiên xử lý dữ liệu tại biên.