Exportiere und optimiere Ultralytics YOLOv8 für die Inferenz auf Intel OpenVINO
Optimiere dein Ultralytics YOLOv8 Modell für die Inferenz mit OpenVINO. Folge unserer Anleitung, um PyTorch Modelle in ONNX zu konvertieren und sie für Echtzeitanwendungen zu optimieren.
In diesem Blogbeitrag schauen wir uns an, wie du dein vortrainiertes oder benutzerdefiniertes Ultralytics YOLOv8 Modell für die Inferenz mit OpenVINO exportierst und optimierst. Wenn du ein Intel-basiertes System nutzt, egal ob CPU oder GPU, zeigt dir dieser Leitfaden, wie du dein Modell mit minimalem Aufwand deutlich beschleunigst.
Warum solltest du YOLOv8 von Ultralytics mit OpenVINO optimieren?#
Die Optimierung deines YOLOv8-Modells von Ultralytics mit OpenVINO kann bei Inferenzaufgaben eine bis zu dreifache Geschwindigkeitssteigerung bewirken, insbesondere wenn du eine Intel CPU verwendest. Dieser Leistungsschub kann bei Echtzeitanwendungen, von der Objekterkennung bis hin zu Segmentierung und Sicherheitssystemen, einen riesigen Unterschied machen.
Schritte zum Exportieren und Optimieren deines YOLOv8-Modells von Ultralytics#
Den Prozess verstehen#
Zuerst einmal: Lass uns den Prozess aufschlüsseln. Wir werden ein PyTorch Modell nach ONNX konvertieren und es dann mit OpenVINO optimieren. Dieser Prozess umfasst ein paar einfache Schritte und kann auf verschiedene Modelle und Formate wie TensorFlow, PyTorch, Caffe und ONNX angewendet werden.
Das Modell exportieren#
Ein Blick in die Ultralytics Dokumentation zeigt, dass der Export eines YOLOv8 Modells die Verwendung der export Methode aus dem Ultralytics Framework erfordert. Diese Methode ermöglicht es uns, unser Modell von PyTorch nach ONNX zu konvertieren und es schließlich für OpenVINO zu optimieren. Das Ergebnis ist ein Modell, das wesentlich schneller läuft und die leistungsstarke Hardware von Intel nutzt.
Abhängigkeiten installieren#
Bevor du das Export-Skript ausführst, musst du sicherstellen, dass alle erforderlichen Abhängigkeiten installiert sind. Dazu gehören die Ultralytics Bibliothek, ONNX und OpenVINO. Die Installation dieser Pakete ist ein einfacher Prozess, der über pip, den Python Paket-Installer, durchgeführt werden kann.
Das Export-Skript ausführen#
Sobald deine Umgebung eingerichtet ist, kannst du dein Export-Skript ausführen. Dieses Skript konvertiert dein PyTorch Modell nach ONNX und dann zu OpenVINO. Der Prozess ist unkompliziert und erfordert nur den Aufruf einer einzelnen Funktion, um den Export abzuwickeln. Das Ultralytics Framework macht es einfach, deine Modelle zu konvertieren und zu optimieren, damit du die beste Leistung mit minimalem Aufwand erhältst.
Abb. 1: Nicolai Nielsen zeigt, wie das Skript zum Exportieren des Modells ausgeführt wird.
Leistung vergleichen#
Nach dem Export ist es wichtig, die Leistung des ursprünglichen und des optimierten Modells zu vergleichen. Durch das Benchmarking der Inferenzzeit beider Modelle kannst du die Leistungssteigerungen klar erkennen. In der Regel weist das OpenVINO Modell eine deutliche Reduzierung der Inferenzzeit im Vergleich zum ursprünglichen PyTorch Modell auf. Dies gilt insbesondere für größere Modelle, bei denen der Leistungsschub am deutlichsten spürbar ist.
Anwendungen in der Praxis und Vorteile#
Die Optimierung von YOLOv8-Modellen von Ultralytics mit OpenVINO ist besonders vorteilhaft für Anwendungen, die eine Echtzeitverarbeitung erfordern. Hier sind einige Beispiele:
- Sicherheitssysteme: Echtzeit-Objekterkennung kann Sicherheitspersonal sofort alarmieren und so die Sicherheit und Reaktionsfähigkeit erhöhen.
- Autonome Fahrzeuge: Höhere Inferenzgeschwindigkeiten verbessern die Reaktionsfähigkeit autonomer Fahrsysteme, wodurch sie sicherer und zuverlässiger werden.
- Gesundheitswesen: Eine schnelle Bildverarbeitung für Diagnosetools kann Leben retten, indem sie schneller Ergebnisse liefert und rechtzeitige Interventionen ermöglicht.
Durch die Umsetzung dieser Optimierungen verbesserst du nicht nur die Leistung, sondern auch die Zuverlässigkeit und Effizienz deiner Anwendungen. Dies kann zu besseren Nutzererfahrungen, gesteigerter Produktivität und innovativeren Lösungen führen.
Zusammenfassung#
Das Exportieren und Optimieren eines YOLOv8-Modells von Ultralytics für OpenVINO ist eine starke Methode, um Intel-Hardware für schnellere und effizientere KI-Anwendungen zu nutzen. Mit nur wenigen einfachen Schritten kannst du die Leistung deines Modells transformieren und es effektiv in realen Szenarien einsetzen.
Sieh dir unbedingt weitere Tutorials und Anleitungen von Ultralytics an, um deine KI-Projekte weiter zu verbessern. Besuche unser GitHub Repository und werde Teil der Ultralytics Community für weitere Einblicke und Updates. Lass uns gemeinsam innovativ sein!
Denk daran: Bei der Optimierung deiner Modelle geht es nicht nur um Geschwindigkeit – es geht darum, neue Möglichkeiten zu erschließen und sicherzustellen, dass deine KI-Lösungen robust, effizient und zukunftssicher sind.
