Erziele höhere Inferenzgeschwindigkeiten mit Ultralytics YOLOv8 und Intels OpenVINO

Geschwindigkeit und Effizienz sind bei der Bereitstellung von Modellen künstlicher Intelligenz entscheidend. Ultralytics freut sich, die neueste Integration mit dem OpenVINO™-Toolkit von Intel vorzustellen. Sie vereinfacht die Bereitstellung optimierter KI-Modelle auf Intel-Hardware. Diese Zusammenarbeit mit Intel verbindet die Leistungsfähigkeit von Ultralytics YOLOv8 mit der Effizienz von Intels OpenVINO™. Dadurch wird auf CPUs eine bis zu dreifache Beschleunigung erzielt und die Leistung im umfangreichen Intel-Hardware-Ökosystem verbessert, darunter integrierte GPUs, dedizierte GPUs und VPUs.

Was macht diese Integration besonders?#

Das OpenVINO™-Toolkit von Intel wurde entwickelt, um die Leistung von KI-Modellen auf Intel-Hardware zu maximieren. OpenVINO™ unterstützt nicht nur Computer Vision, sondern auch verschiedenste Aufgaben von der Sprachverarbeitung bis zur Audioanalyse. Durch die Optimierung von YOLOv8-Modellen für OpenVINO™ hilft Ultralytics Anwenderinnen und Anwendern, KI-Inferenzen schneller und effizienter auszuführen – ob sie nun Anwendungen für Videoanalysen, intelligente Städte oder den Einzelhandel der nächsten Generation entwickeln.

Eine ausführliche Anleitung zum Exportieren und Optimieren deines Ultralytics-YOLOv8-Modells für Inferenzen mit OpenVINO™ findest du in unserem Schritt-für-Schritt-Tutorial zum Export von YOLOv8 nach OpenVINO.

Ein Blick auf den Ablauf#

Stell dir vor, du könntest deine Ultralytics-YOLOv8-Modelle direkt in ein Format exportieren, das speziell auf Geschwindigkeit und Effizienz ausgelegt ist. Genau das ermöglicht diese Integration. Mit nur wenigen Codezeilen können Entwicklerinnen und Entwickler ihre YOLOv8-Modelle in OpenVINO™-kompatible Versionen umwandeln, die bereit sind, die von Intel bereitgestellte Hardwarebeschleunigung zu nutzen. Dadurch wird der Einsatz von KI-Anwendungen praktikabel, die zuvor durch begrenzte Rechenkapazitäten eingeschränkt waren.

Die Vorteile von OpenVINO: KI-Entwicklung vereinfachen#

Die Integration von Ultralytics und Intel ist ein praxisorientierter Fortschritt im KI-Entwicklungsprozess. Durch die Kombination von YOLOv8 und OpenVINO™ erhalten Entwicklerinnen und Entwickler eine effiziente Möglichkeit, Intel®-CPUs einzusetzen, die in vielen Bereichen eine zentrale Rolle bei der Datenverarbeitung spielen. Das macht KI für praktische Anwendungen zugänglicher und effizienter.

OpenVINO™ optimiert den Inferenzprozess, sodass Ultralytics-YOLOv8-Modelle unter realen Bedingungen effizient ausgeführt werden. Dadurch lassen sich KI-Lösungen schnell auf einer Vielzahl von Geräten bereitstellen, ohne kostspielige GPU-Konfigurationen zu benötigen. Das erweitert die Möglichkeiten in Bereichen wie Smart-City-Initiativen und dem Kundenerlebnis im Einzelhandel.

Vorteile in der Praxis#

• Höhere Leistung: Erziele bis zu dreimal schnellere KI-Inferenz auf CPUs und noch größere Beschleunigungen auf den verschiedenen Hardwareplattformen von Intel.
• Vielseitige Bereitstellung: Schreibe deine Anwendung einmal und stelle sie überall im Intel-Hardware-Ökosystem bereit – von CPUs bis zu VPUs, ohne den Code zusätzlich anzupassen.
• Einfache Nutzung: Greife auf mehr als 80 Tutorials zu, die dich durch die Optimierung von KI-Modellen führen – auch wenn du kein Deep-Learning-Experte bist.

Erfolgsgeschichten: Aussagekräftige Leistungstests#

Ultralytics und Intel haben die Integration auf die Probe gestellt und YOLOv8-Modelle auf verschiedenen Intel-Hardwareplattformen benchmarken lassen. Die Ergebnisse zeigen, dass OpenVINO™-optimierte Modelle durchweg schneller laufen als entsprechende Modelle ohne Optimierung, ohne dabei an Genauigkeit einzubüßen – von der Intel Data Center GPU Flex Series bis zu den neuesten Xeon-CPUs.

Abb. 1 Inferenzzeit pro Bild nach Modellgröße und Format (Xeon-CPU)

KI in die Praxis bringen#

Bei dieser Integration geht es um mehr als Zahlen und Benchmarks: Sie soll Entwicklerinnen und Entwicklern helfen, KI einfacher und effizienter in reale Anwendungen zu integrieren. Ob es darum geht, Sicherheitssysteme durch schnellere Objekterkennung zu verbessern oder mit intelligenter Analytik attraktivere Einkaufserlebnisse zu schaffen – die Integration von Ultralytics YOLOv8 und Intel OpenVINO™ unterstützt eine neue Generation von KI-Anwendungen.

Leg noch heute los!#

Um die Integration selbst auszuprobieren, exportiere ein YOLOv8-Modell nach OpenVINO™ und miss seine Leistung auf deiner eigenen Intel-Hardware. Weitere Informationen und eine Schritt-für-Schritt-Anleitung findest du auf unserer Seite mit der Dokumentation zur OpenVINO-Integration.