Model Soups

Model Soups bezeichnen ein Verfahren des maschinellen Lernens, bei dem die Gewichte mehrerer neuronaler Netze, die ausgehend von demselben vortrainierten Basismodell mit unterschiedlichen Hyperparametern feinabgestimmt wurden, gemittelt werden, um ein einzelnes, robusteres Modell zu erzeugen. Dieser Ansatz ermöglicht es Entwicklern, die Gesamtgenauigkeit und Generalisierung zu verbessern, ohne die Rechenkosten während der Inferenz zu erhöhen.

Wenn du ein Modell finetunst, führst du normalerweise einen breiten Hyperparameter-Tuning-Durchlauf aus, um die leistungsstärkste Konfiguration zu finden. Traditionell wird das einzelne beste Modell ausgewählt und der Rest verworfen. Die Erstellung einer Model Soup nutzt jedoch die unterschiedlichen Merkmale aus, die von allen Modellen im Durchlauf gelernt wurden. Durch die direkte Mittelung ihrer Modellgewichte übertrifft das resultierende Netzwerk oft das einzelne beste Modell, wodurch ihre Stärken effektiv kombiniert und gleichzeitig Overfitting minimiert wird. Dieser Prozess ist äußerst effizient und lässt sich problemlos in kollaborativen Umgebungen wie der Ultralytics Platform verwalten.

Praxisanwendungen#

Model Soups sind in Szenarien, in denen die Rechenressourcen begrenzt sind, aber eine hohe Genauigkeit und Robustheit erforderlich ist, äußerst effektiv.

• Autonome Fahrzeugsicht: Bei der Bereitstellung von Objekterkennung-Systemen in selbstfahrenden Autos müssen sich Modelle über verschiedene Licht- und Wetterbedingungen hinweg verallgemeinern lassen. Durch die Mittelung mehrerer Modelle, die mit unterschiedlichen Datenaugmentierungen und Lernraten trainiert wurden, erstellen Ingenieure eine äußerst robuste Soup, die eine niedrige Inferenzlatenz beibehält. Dies stellt sicher, dass die für die autonome Navigation entscheidenden Echtzeit-Verarbeitungsgeschwindigkeiten unbeeinträchtigt bleiben.
• Mobile medizinische Diagnostik: Bei Edge-KI-Anwendungen, wie dem Ausführen der Bildklassifizierung auf Smartphones für ein erstes dermatologisches Screening, ist die Rechenleistung stark eingeschränkt. Eine Model Soup bietet die für die klinische Zuverlässigkeit erforderliche verbesserte Genauigkeit und sorgt gleichzeitig dafür, dass der finale Fußabdruck problemlos auf mobilen Edge-Geräten Platz findet, ohne den Akku zu belasten oder Cloud-Konnektivität zu erfordern.

Unterscheidung verwandter Konzepte#

Um dich in der Landschaft der Deep-Learning-Optimierung zurechtzufinden, ist es wichtig, Model Soups von ähnlichen Techniken zu unterscheiden:

• Modell-Ensemble: Ein Ensembling kombiniert die Vorhersagen (Ausgaben) mehrerer unabhängiger Modelle. Obwohl dies die Genauigkeit verbessert, erfordert es das Ausführen jedes Modells während der Inferenz, was die Rechenkosten multipliziert. Model Soups mitteln die Gewichte vor der Inferenz, wodurch die Rechenkosten identisch mit denen eines einzelnen Modells bleiben.
• Modellzusammenführung: Dies ist ein breiterer Begriff für die Kombination von Modellen, die möglicherweise für völlig unterschiedliche Aufgaben oder Datensätze trainiert wurden. Model Soups sind eine spezifische Untergruppe der Zusammenführung, bei der alle Modelle aus exakt derselben vortrainierten Basisarchitektur stammen und für dieselbe Zielaufgabe fingetunt wurden.

Implementierungsbeispiel#

Das Erstellen einer einheitlichen Model Soup erfordert den Zugriff auf das PyTorch-State-Dictionary mehrerer trainierter Modelle und die mathematische Mittelung ihrer Tensoren. Unten siehst du ein prägnantes Beispiel dafür, wie dies mithilfe eines Ultralytics YOLO26-Workflows erreicht werden kann, der nativ vom PyTorch-Framework unterstützt wird.

import torch

# Load the PyTorch state dictionaries from two fine-tuned YOLO26 models
model1 = torch.load("yolo26_run1.pt")["model"].state_dict()
model2 = torch.load("yolo26_run2.pt")["model"].state_dict()

# Create a uniform model soup by averaging the model weights
soup_dict = {key: (model1[key] + model2[key]) / 2.0 for key in model1.keys()}

# The resulting soup_dict can now be loaded into a new YOLO26 instance

Durch die Nutzung dieser Technik können Computer-Vision-Experten Leistungskennzahlen wie Zero-Shot-Learning-Fähigkeiten und die allgemeine Robustheit mühelos verbessern, ohne die für moderne Edge-First-KI-Architekturen erforderliche Bereitstellungsgeschwindigkeit zu opfern.