24. Mai 2024
Optimieren Sie Ihr Ultralytics YOLOv8-Modell für Inferenzen mit OpenVINO. Folgen Sie unserer Anleitung, um PyTorch-Modelle in ONNX zu konvertieren und sie für Echtzeitanwendungen zu optimieren.
In diesem Blogpost werden wir einen Blick darauf werfen, wie Sie Ihr vortrainiertes oder benutzerdefiniertes Ultralytics YOLOv8-Modell für die Inferenz mit OpenVINO exportieren und optimieren können. Wenn Sie ein Intel-basiertes System verwenden, egal ob es sich um eine CPU oder eine GPU handelt, zeigt Ihnen diese Anleitung, wie Sie Ihr Modell mit minimalem Aufwand erheblich beschleunigen können.
Die Optimierung Ihres YOLOv8-Modells mit OpenVINO kann eine bis zu dreifache Geschwindigkeitssteigerung bei Inferenzaufgaben bewirken, insbesondere wenn Sie eine Intel-CPU verwenden. Diese Leistungssteigerung kann bei Echtzeitanwendungen, von der Objekterkennung bis hin zu Segmentierungs- und Sicherheitssystemen, einen großen Unterschied machen.
Das Wichtigste zuerst, lassen Sie uns den Prozess aufschlüsseln. Wir werden ein PyTorch-Modell in ONNX konvertieren und es dann mit OpenVINO optimieren. Dieser Prozess umfasst ein paar einfache Schritte und kann auf verschiedene Modelle und Formate wie TensorFlow, PyTorch, Caffe und ONNX angewendet werden.
Ein Blick in die Ultralytics-Dokumentation zeigt uns, dass der Export eines YOLOv8-Modells die Verwendung der Exportmethode des Ultralytics-Frameworks beinhaltet. Mit dieser Methode können wir unser Modell von PyTorch nach ONNX konvertieren und es schließlich für OpenVINO optimieren. Das Ergebnis ist ein Modell, das deutlich schneller läuft und die leistungsstarke Hardware von Intel nutzt.
Bevor Sie das Exportskript ausführen, müssen Sie sicherstellen, dass alle erforderlichen Abhängigkeiten installiert sind. Dazu gehören die Ultralytics-Bibliothek, ONNX und OpenVINO. Die Installation dieser Pakete ist ein einfacher Prozess, der mit pip, dem Python-Paketinstallationsprogramm, durchgeführt werden kann.
Sobald Ihre Umgebung eingerichtet ist, können Sie Ihr Export-Skript ausführen. Dieses Skript konvertiert Ihr PyTorch-Modell in ONNX und dann in OpenVINO. Der Prozess ist unkompliziert und umfasst den Aufruf einer einzigen Funktion, die den Export abwickelt. Das Ultralytics-Framework erleichtert die Konvertierung und Optimierung Ihrer Modelle und sorgt dafür, dass Sie mit minimalem Aufwand die beste Leistung erzielen.
Nach dem Exportieren ist es wichtig, die Leistung des ursprünglichen und des optimierten Modells zu vergleichen. Wenn Sie die Inferenzzeit beider Modelle vergleichen, können Sie die Leistungsgewinne deutlich erkennen. In der Regel wird das OpenVINO-Modell im Vergleich zum ursprünglichen PyTorch-Modell eine deutliche Verringerung der Inferenzzeit aufweisen. Dies gilt insbesondere für größere Modelle, bei denen die Leistungssteigerung am deutlichsten ist.
Die Optimierung von YOLOv8-Modellen mit OpenVINO ist besonders vorteilhaft für Anwendungen, die Echtzeitverarbeitung erfordern. Hier sind ein paar Beispiele:
Durch die Implementierung dieser Optimierungen verbessern Sie nicht nur die Leistung, sondern auch die Zuverlässigkeit und Effizienz Ihrer Anwendungen. Dies kann zu einem besseren Benutzererlebnis, höherer Produktivität und innovativeren Lösungen führen.
Das Exportieren und Optimieren eines YOLOv8-Modells für OpenVINO ist eine leistungsstarke Möglichkeit, Intel-Hardware für schnellere und effizientere KI-Anwendungen zu nutzen. Mit nur ein paar einfachen Schritten können Sie die Leistung Ihres Modells verbessern und es effektiv auf reale Szenarien anwenden.
Sehen Sie sich unbedingt weitere Tutorials und Leitfäden von Ultralytics an, um Ihre KI-Projekte weiter zu verbessern. Besuchen Sie unser GitHub-Repository und werden Sie Mitglied der Ultralytics-Community, um weitere Einblicke und Updates zu erhalten. Lassen Sie uns gemeinsam innovativ sein!
Denken Sie daran: Bei der Optimierung Ihrer Modelle geht es nicht nur um Geschwindigkeit, sondern auch darum, neue Möglichkeiten zu erschließen und sicherzustellen, dass Ihre KI-Lösungen robust, effizient und zukunftssicher sind.
DE
EN
ZH
KO
JA
RU
FR
ES
PT
IT
TR
VI
AR
.webp)
.webp)