Erziele schnellere Inferenzgeschwindigkeiten mit Ultralytics YOLOv8 & Intel’s OpenVINO

In der sich rasant entwickelnden Welt der künstlichen Intelligenz sind Geschwindigkeit und Effizienz von größter Bedeutung. Ultralytics freut sich, die neueste Integration mit dem OpenVINO™-Toolkit von Intel vorzustellen, die eine Revolution bei der Bereitstellung von KI-Modellen verspricht. Diese Zusammenarbeit verbindet die Leistung von Ultralytics YOLOv8-Modellen mit der Effizienz von Intel's OpenVINO™ und liefert eine bis zu 3-fache Geschwindigkeitssteigerung auf CPUs sowie eine verbesserte Leistung im gesamten umfangreichen Hardware-Ökosystem von Intel, einschließlich integrierter GPUs, dedizierter GPUs und VPUs.

Was macht diese Integration so besonders?#

Das OpenVINO™-Toolkit von Intel wurde entwickelt, um die Leistung von KI-Modellen auf Intel-Hardware zu maximieren. Es geht dabei nicht nur um Bilder; OpenVINO™ eignet sich hervorragend für die Bewältigung verschiedenster Aufgaben, von der Sprachverarbeitung bis zur Audioanalyse. Durch die Optimierung von YOLOv8-Modellen für OpenVINO™ stellt Ultralytics sicher, dass du eine schnellere und effizientere KI-Inferenz nutzen kannst, ganz gleich, ob du Anwendungen für Videoanalysen, Smart Cities oder den Einzelhandel der nächsten Generation entwickelst.

Für eine detaillierte Anleitung, wie du dein Ultralytics YOLOv8 Modell für die Inferenz mit OpenVINO™ exportierst und optimierst, sieh dir unser Video-Tutorial an:

Ein Einblick in den Prozess#

Stell dir vor, du kannst deine Ultralytics YOLOv8-Modelle direkt in ein Format exportieren, das wie geschaffen für Geschwindigkeit und Effizienz ist. Genau das bietet diese Integration. Mit nur wenigen Zeilen Code können Entwickler ihre YOLOv8-Modelle in OpenVINO™-kompatible Versionen umwandeln, die bereit sind, die von Intel bereitgestellte Hardwarebeschleunigung zu nutzen. Bei diesem Prozess geht es nicht nur um Geschwindigkeit; es geht darum, neue Möglichkeiten für KI-Anwendungen zu erschließen, die zuvor durch Rechenbeschränkungen eingeschränkt waren.

Der OpenVINO Vorteil: Vereinfachung der KI-Entwicklung#

Die Integration von Ultralytics und Intel ist ein transformativer Schritt im KI-Entwicklungsprozess. Durch die Verschmelzung von YOLOv8 und OpenVINO™ erhalten Entwickler einen effizienten Weg, Intel® CPUs zu nutzen—die zentral für die Datenverarbeitung in verschiedenen Bereichen sind. Diese Verbindung verbessert die Zugänglichkeit und Effizienz von KI für praktische Anwendungen erheblich.

Durch die Nutzung von OpenVINO™ wird der Inferenzprozess optimiert, wodurch sichergestellt wird, dass Ultralytics YOLOv8-Modelle nicht nur auf dem neuesten Stand der Technik, sondern auch auf Effizienz in der Praxis ausgelegt sind. Dies ermöglicht die schnelle Bereitstellung anspruchsvoller KI-Lösungen auf einem breiten Spektrum von Geräten, ohne dass kostspielige GPU-Setups erforderlich sind. Folglich erweitert dies den Anwendungsbereich für Anwendungen, die einst durch Rechenbarrieren eingeschränkt waren, und ebnet den Weg für Fortschritte bei Smart-City-Initiativen sowie zur Verbesserung des Kundenerlebnisses im Einzelhandel.

Vorteile in der Praxis#

• Verbesserte Performance: Erlebe bis zu 3x schnellere KI-Inferenz auf CPUs, mit noch größeren Beschleunigungen im gesamten Hardware-Spektrum von Intel.
• Vielseitige Bereitstellung: Schreibe deine Anwendung einmal und stelle sie überall in Intels Hardware-Ökosystem bereit, von CPUs bis hin zu VPUs, ohne zusätzliche Änderungen am Code.
• Benutzerfreundlichkeit: Greife auf über 80 Tutorials zu, die dich durch die Optimierung von KI-Modellen führen, auch wenn du kein Deep-Learning-Experte bist.

Erfolgsgeschichten: Benchmarks, die für sich sprechen#

Ultralytics und Intel haben die Integration auf die Probe gestellt und YOLOv8-Modelle auf verschiedenen Intel-Hardwareplattformen gebenchmarkt. Die Ergebnisse sind schlichtweg beeindruckend: OpenVINO™-optimierte Modelle übertreffen ihre Pendants in der Geschwindigkeit durchweg, ohne Kompromisse bei der Genauigkeit einzugehen. Von der Intel Data Center GPU Flex Series bis hin zu den neuesten Xeon-CPUs unterstreichen die Benchmarks die transformative Wirkung dieser Integration auf die KI-Bereitstellung.

Abb. 1: Inferenzzeit pro Bild nach Modellgröße und -format (Xeon CPU)

KI in die reale Welt bringen#

Diese Integration ist mehr als nur Zahlen und Benchmarks; es geht darum, Innovatoren und Entwicklern zu ermöglichen, KI mit beispielloser Leichtigkeit und Effizienz in reale Anwendungen zu bringen. Ob es darum geht, Sicherheitssysteme mit schnellerer Objekterkennung zu verbessern oder durch intelligente Analysen ansprechendere Retail-Erlebnisse zu schaffen, die Integration von Ultralytics YOLOv8 und Intel OpenVINO™ ebnet den Weg für eine neue Ära von KI-Anwendungen.

Fange noch heute an!#

Erlebe die Zukunft der KI mit Ultralytics und Intel. Tauche ein in unsere umfassende Integration von YOLOv8-Modellen mit OpenVINO™ für unvergleichliche Leistung und Effizienz. Weitere Informationen und eine Schritt-für-Schritt-Anleitung zur Maximierung dieser leistungsstarken Zusammenarbeit findest du auf unserer OpenVINO Integration Docs page.