24. Mai 2024
Optimieren Sie Ihr Ultralytics YOLOv8 für Inferenzen mit OpenVINO. Folgen Sie unserer Anleitung, um PyTorch in ONNX zu konvertieren und sie für Echtzeitanwendungen zu optimieren.
In diesem Blogpost werden wir einen Blick darauf werfen, wie Sie Ihre vorab trainierten oder benutzerdefinierten Trainings exportieren und optimieren können Ultralytics YOLOv8 Modell für die Inferenz mit OpenVINO exportieren und optimieren können. Wenn Sie ein Intel System verwenden, egal ob es sich um eine CPU oder eine GPU handelt, zeigt Ihnen diese Anleitung, wie Sie Ihr Modell mit minimalem Aufwand erheblich beschleunigen können.
Optimieren Sie Ihr YOLOv8 mit OpenVINO kann eine bis zu dreifache Geschwindigkeitssteigerung bei Inferenzaufgaben bewirken, insbesondere wenn Sie eineCPU verwenden. Diese Leistungssteigerung kann bei Echtzeitanwendungen, von der Objekterkennung bis hin zu Segmentierungs- und Sicherheitssystemen, einen großen Unterschied machen.
Das Wichtigste zuerst, lassen Sie uns den Prozess aufschlüsseln. Wir werden ein PyTorch in ONNX konvertieren und es dann mit OpenVINO optimieren. Dieser Prozess umfasst ein paar einfache Schritte und kann auf verschiedene Modelle und Formate wie TensorFlow, PyTorch, Caffe und ONNX angewendet werden.
Ein Blick in dieUltralytics-Dokumentation zeigt uns, dass der Export eines YOLOv8 die Verwendung der Exportmethode des Ultralytics beinhaltet. Mit dieser Methode können wir unser Modell von PyTorch nach ONNXzu konvertieren und es schließlich für OpenVINO zu optimieren. Das Ergebnis ist ein Modell, das deutlich schneller läuft und die leistungsstarke Hardware von Intel nutzt.
Bevor Sie das Exportskript ausführen, müssen Sie sicherstellen, dass alle erforderlichen Abhängigkeiten installiert sind. Dazu gehören die Ultralytics , ONNX und OpenVINO. Die Installation dieser Pakete ist ein einfacher Prozess, der mit pip, dem Python , durchgeführt werden kann.
Sobald Ihre Umgebung eingerichtet ist, können Sie Ihr Export-Skript ausführen. Dieses Skript konvertiert Ihr PyTorch in ONNX und dann in OpenVINO. Der Prozess ist unkompliziert und umfasst den Aufruf einer einzigen Funktion, die den Export abwickelt. Das Ultralytics erleichtert die Konvertierung und Optimierung Ihrer Modelle und sorgt dafür, dass Sie mit minimalem Aufwand die beste Leistung erzielen.
Nach dem Exportieren ist es wichtig, die Leistung des ursprünglichen und des optimierten Modells zu vergleichen. Wenn Sie die Inferenzzeit beider Modelle vergleichen, können Sie die Leistungsgewinne deutlich erkennen. In der Regel wird das OpenVINO im Vergleich zum ursprünglichen PyTorch eine deutliche Verringerung der Inferenzzeit aufweisen. Dies gilt insbesondere für größere Modelle, bei denen die Leistungssteigerung am deutlichsten ist.
Die Optimierung von YOLOv8 mit OpenVINO ist besonders vorteilhaft für Anwendungen, die Echtzeitverarbeitung erfordern. Hier sind ein paar Beispiele:
Durch die Implementierung dieser Optimierungen verbessern Sie nicht nur die Leistung, sondern auch die Zuverlässigkeit und Effizienz Ihrer Anwendungen. Dies kann zu besseren Benutzererlebnissen, erhöhter Produktivität und innovativeren Lösungen führen.
Das Exportieren und Optimieren eines YOLOv8 für OpenVINO ist eine leistungsstarke Möglichkeit, Intel für schnellere und effizientere KI-Anwendungen zu nutzen. Mit nur ein paar einfachen Schritten können Sie die Leistung Ihres Modells verbessern und es effektiv auf reale Szenarien anwenden.
Sehen Sie sich unbedingt weitere Tutorials und Leitfäden von Ultralytics an, um Ihre KI-Projekte weiter zu verbessern. Besuchen Sie unser GitHub-Repository und werden Sie Mitglied der Ultralytics , um weitere Einblicke und Updates zu erhalten. Lassen Sie uns gemeinsam innovativ sein!
Denken Sie daran, dass es bei der Optimierung Ihrer Modelle nicht nur um Geschwindigkeit geht, sondern auch darum, neue Möglichkeiten zu erschließen und sicherzustellen, dass Ihre KI-Lösungen robust, effizient und bereit für die Zukunft sind.
