Model Soups

Model Soups는 동일한 사전 학습된 기본 모델에서 서로 다른 하이퍼파라미터를 사용하여 미세 조정(fine-tuning)된 여러 신경망의 가중치를 평균화하여 단일하고 더욱 강력한 모델을 만드는 머신러닝 기법을 의미합니다. 이 접근 방식을 사용하면 추론(inference) 중 계산 비용을 증가시키지 않으면서도 전반적인 정확도와 일반화 성능을 향상할 수 있습니다.

모델을 미세 조정할 때, 실무자들은 일반적으로 가장 우수한 성능의 구성을 찾기 위해 광범위한 하이퍼파라미터 튜닝 스윕을 실행합니다. 전통적으로는 가장 성능이 좋은 단일 모델을 선택하고 나머지는 폐기합니다. 그러나 Model Soup을 생성하면 스윕 내 모든 모델이 학습한 다양한 특징을 활용할 수 있습니다. 모델 가중치를 직접 평균화함으로써, 결과로 생성된 네트워크는 종종 단일 최우수 모델보다 뛰어난 성능을 보이며 과적합(overfitting)을 최소화하면서 모델의 장점을 효과적으로 결합합니다. 이 과정은 매우 효율적이며 Ultralytics Platform과 같은 협업 환경에서 쉽게 관리할 수 있습니다.

Link to this section실제 애플리케이션 사례#

Model Soups는 컴퓨팅 자원이 제한적이지만 높은 정확도와 견고성이 요구되는 시나리오에서 매우 효과적입니다.

• 자율 주행 자동차 비전: 자율 주행 자동차에 객체 탐지(object detection) 시스템을 배포할 때는 모델이 다양한 조명 및 기상 조건에서 일반화되어야 합니다. 엔지니어들은 다양한 데이터 증강(augmentation)과 학습률을 사용하여 훈련된 여러 모델을 평균화함으로써 낮은 추론 지연 시간(inference latency)을 유지하는 강력한 Soup을 만듭니다. 이를 통해 자율 주행에 중요한 실시간 처리 속도가 저하되지 않도록 보장합니다.
• 모바일 의료 진단: 초기 피부과 검진을 위해 스마트폰에서 이미지 분류(image classification)를 실행하는 것과 같은 엣지 AI 애플리케이션에서는 컴퓨팅 파워가 매우 제한적입니다. Model Soup은 임상적 신뢰성에 필요한 정확도 향상을 제공하는 동시에, 최종 모델의 크기가 배터리 소모나 클라우드 연결 없이도 모바일 엣지 디바이스에 쉽게 탑재될 수 있도록 합니다.

Link to this section관련 개념 구별하기#

딥러닝 최적화의 환경을 이해하기 위해서는 Model Soups를 유사한 기법들과 구별하는 것이 중요합니다.

• 모델 앙상블(Model Ensemble): 앙상블은 여러 독립적인 모델의 예측(출력) 값을 결합합니다. 이는 정확도를 향상시키지만 추론 시 모든 모델을 실행해야 하므로 계산 비용이 배가됩니다. Model Soups는 추론 전에 가중치를 평균화하여 계산 비용을 단일 모델과 동일하게 유지합니다.
• 모델 병합(Model Merging): 이는 완전히 다른 작업이나 데이터셋에서 학습되었을 수 있는 모델들을 결합하는 보다 광범위한 용어입니다. Model Soups는 모든 모델이 동일한 사전 학습된 기본 아키텍처에서 시작되어 동일한 타겟 작업에 대해 미세 조정된 특정 병합 하위 집합입니다.

Link to this section구현 예시#

Creating a uniform model soup involves accessing the PyTorch state dictionary of multiple trained models and mathematically averaging their tensors. Below is a concise example of how this can be achieved using an Ultralytics YOLO26 workflow natively backed by the PyTorch framework.

import torch

# Load the PyTorch state dictionaries from two fine-tuned YOLO26 models
model1 = torch.load("yolo26_run1.pt")["model"].state_dict()
model2 = torch.load("yolo26_run2.pt")["model"].state_dict()

# Create a uniform model soup by averaging the model weights
soup_dict = {key: (model1[key] + model2[key]) / 2.0 for key in model1.keys()}

# The resulting soup_dict can now be loaded into a new YOLO26 instance

By leveraging this technique, computer vision practitioners can easily boost performance metrics like zero-shot learning capabilities and general robustness without sacrificing the deployment speed required for modern, edge-first AI architectures.