Exportieren und Optimieren von Ultralytics YOLOv8 für Inferenzen auf Intel OpenVINO

Nuvola Ladi

2 Minuten lesen

24. Mai 2024

Optimieren Sie Ihr Ultralytics YOLOv8-Modell für Inferenzen mit OpenVINO. Folgen Sie unserer Anleitung, um PyTorch-Modelle in ONNX zu konvertieren und sie für Echtzeitanwendungen zu optimieren.

In diesem Blogpost werden wir einen Blick darauf werfen, wie Sie Ihr vortrainiertes oder benutzerdefiniertes Ultralytics YOLOv8-Modell für die Inferenz mit OpenVINO exportieren und optimieren können. Wenn Sie ein Intel-basiertes System verwenden, egal ob es sich um eine CPU oder eine GPU handelt, zeigt Ihnen diese Anleitung, wie Sie Ihr Modell mit minimalem Aufwand erheblich beschleunigen können.

Warum YOLOv8 mit OpenVINO optimieren?

Die Optimierung Ihres YOLOv8-Modells mit OpenVINO kann eine bis zu dreifache Geschwindigkeitssteigerung bei Inferenzaufgaben bewirken, insbesondere wenn Sie eine Intel-CPU verwenden. Diese Leistungssteigerung kann bei Echtzeitanwendungen, von der Objekterkennung bis hin zu Segmentierungs- und Sicherheitssystemen, einen großen Unterschied machen.

Schritte zum Exportieren und Optimieren Ihres YOLOv8-Modells

Den Prozess verstehen

Das Wichtigste zuerst, lassen Sie uns den Prozess aufschlüsseln. Wir werden ein PyTorch-Modell in ONNX konvertieren und es dann mit OpenVINO optimieren. Dieser Prozess umfasst ein paar einfache Schritte und kann auf verschiedene Modelle und Formate wie TensorFlow, PyTorch, Caffe und ONNX angewendet werden.

Exportieren des Modells

Ein Blick in die Ultralytics-Dokumentation zeigt uns, dass der Export eines YOLOv8-Modells die Verwendung der Exportmethode des Ultralytics-Frameworks beinhaltet. Mit dieser Methode können wir unser Modell von PyTorch nach ONNX konvertieren und es schließlich für OpenVINO optimieren. Das Ergebnis ist ein Modell, das deutlich schneller läuft und die leistungsstarke Hardware von Intel nutzt.

Installieren von Abhängigkeiten

Bevor Sie das Exportskript ausführen, müssen Sie sicherstellen, dass alle erforderlichen Abhängigkeiten installiert sind. Dazu gehören die Ultralytics-Bibliothek, ONNX und OpenVINO. Die Installation dieser Pakete ist ein einfacher Prozess, der mit pip, dem Python-Paketinstallationsprogramm, durchgeführt werden kann.

Ausführen des Export-Skripts

Sobald Ihre Umgebung eingerichtet ist, können Sie Ihr Export-Skript ausführen. Dieses Skript konvertiert Ihr PyTorch-Modell in ONNX und dann in OpenVINO. Der Prozess ist unkompliziert und umfasst den Aufruf einer einzigen Funktion, die den Export abwickelt. Das Ultralytics-Framework erleichtert die Konvertierung und Optimierung Ihrer Modelle und sorgt dafür, dass Sie mit minimalem Aufwand die beste Leistung erzielen.

__wf_reserved_inherit
Abbildung 1. Nicolai Nielsen erläutert, wie das Export-Skript ausgeführt wird.

Vergleich der Leistung

Nach dem Exportieren ist es wichtig, die Leistung des ursprünglichen und des optimierten Modells zu vergleichen. Wenn Sie die Inferenzzeit beider Modelle vergleichen, können Sie die Leistungsgewinne deutlich erkennen. In der Regel wird das OpenVINO-Modell im Vergleich zum ursprünglichen PyTorch-Modell eine deutliche Verringerung der Inferenzzeit aufweisen. Dies gilt insbesondere für größere Modelle, bei denen die Leistungssteigerung am deutlichsten ist.

Praktische Anwendung und Vorteile

Die Optimierung von YOLOv8-Modellen mit OpenVINO ist besonders vorteilhaft für Anwendungen, die Echtzeitverarbeitung erfordern. Hier sind ein paar Beispiele:

  • Sicherheitssysteme: Die Objekterkennung in Echtzeit kann das Sicherheitspersonal sofort alarmieren und erhöht die Sicherheit und Reaktionsfähigkeit.
  • Automatisierte Fahrzeuge: Schnellere Inferenzgeschwindigkeiten verbessern die Reaktionsfähigkeit autonomer Fahrsysteme und machen sie sicherer und zuverlässiger.
  • Gesundheitswesen: Eine schnelle Bildverarbeitung für Diagnoseinstrumente kann Leben retten, da sie schnellere Ergebnisse liefert und ein rechtzeitiges Eingreifen ermöglicht.

Durch die Implementierung dieser Optimierungen verbessern Sie nicht nur die Leistung, sondern auch die Zuverlässigkeit und Effizienz Ihrer Anwendungen. Dies kann zu einem besseren Benutzererlebnis, höherer Produktivität und innovativeren Lösungen führen.

Einpacken

Das Exportieren und Optimieren eines YOLOv8-Modells für OpenVINO ist eine leistungsstarke Möglichkeit, Intel-Hardware für schnellere und effizientere KI-Anwendungen zu nutzen. Mit nur ein paar einfachen Schritten können Sie die Leistung Ihres Modells verbessern und es effektiv auf reale Szenarien anwenden.

Sehen Sie sich unbedingt weitere Tutorials und Leitfäden von Ultralytics an, um Ihre KI-Projekte weiter zu verbessern. Besuchen Sie unser GitHub-Repository und werden Sie Mitglied der Ultralytics-Community, um weitere Einblicke und Updates zu erhalten. Lassen Sie uns gemeinsam innovativ sein!

Denken Sie daran: Bei der Optimierung Ihrer Modelle geht es nicht nur um Geschwindigkeit, sondern auch darum, neue Möglichkeiten zu erschließen und sicherzustellen, dass Ihre KI-Lösungen robust, effizient und zukunftssicher sind. 

Lassen Sie uns gemeinsam die Zukunft
der KI gestalten!

Beginnen Sie Ihre Reise in die Zukunft des maschinellen Lernens

Kostenloser Start
Link in die Zwischenablage kopiert