Esporta e ottimizza Ultralytics YOLOv8 per l'inferenza su Intel OpenVINO

In questo articolo esamineremo come esportare e ottimizzare il tuo modello Ultralytics YOLOv8 preaddestrato o personalizzato per l'inferenza con OpenVINO. Se utilizzi un sistema basato su Intel, che si tratti di una CPU o di una GPU, questa guida ti mostrerà come accelerare notevolmente il tuo modello con il minimo sforzo.

Perché ottimizzare Ultralytics YOLOv8 con OpenVINO?#

Ottimizzare il tuo modello Ultralytics YOLOv8 con OpenVINO può offrire un aumento della velocità di inferenza fino a 3 volte, in particolare se utilizzi una CPU Intel. Questo incremento delle prestazioni può fare una grande differenza nelle applicazioni in tempo reale, dal rilevamento di oggetti alla segmentazione e ai sistemi di sicurezza.

Passaggi per esportare e ottimizzare il tuo modello Ultralytics YOLOv8#

Comprendere il processo#

Per prima cosa, analizziamo il processo. Convertiremo un modello PyTorch in ONNX e poi lo ottimizzeremo usando OpenVINO. Questo processo comporta alcuni passaggi semplici e può essere applicato a vari modelli e formati inclusi TensorFlow, PyTorch, Caffe e ONNX.

Esportazione del modello#

Consultando la documentazione di Ultralytics, scopriamo che l'esportazione di un modello YOLOv8 prevede l'utilizzo del metodo export del framework Ultralytics. Questo metodo ci consente di convertire il nostro modello da PyTorch a ONNX e, infine, di ottimizzarlo per OpenVINO. Il risultato è un modello che viene eseguito in modo significativamente più veloce, sfruttando l'hardware potente di Intel.

Installazione delle dipendenze#

Prima di eseguire lo script di esportazione, dovrai assicurarti che tutte le dipendenze necessarie siano installate. Queste includono la libreria Ultralytics, ONNX e OpenVINO. L'installazione di questi pacchetti è un processo semplice che può essere eseguito tramite pip, l'installer di pacchetti Python.

Esecuzione dello script di esportazione#

Una volta configurato il tuo ambiente, puoi eseguire il tuo script di esportazione. Questo script convertirà il tuo modello PyTorch in ONNX e poi in OpenVINO. Il processo è semplice e prevede la chiamata a una singola funzione per gestire l'esportazione. Il framework Ultralytics rende facile convertire e ottimizzare i tuoi modelli, assicurandoti di ottenere le migliori prestazioni con il minimo sforzo.

Fig 1. Nicolai Nielsen illustra come eseguire lo script di esportazione.

Confronto delle prestazioni#

Dopo l'esportazione, è essenziale confrontare le prestazioni dei modelli originale e ottimizzato. Effettuando il benchmarking del tempo di inferenza di entrambi i modelli, puoi vedere chiaramente i guadagni in termini di prestazioni. In genere, il modello OpenVINO mostrerà una riduzione significativa del tempo di inferenza rispetto al modello PyTorch originale. Questo è particolarmente vero per i modelli più grandi, dove l'aumento delle prestazioni è più evidente.

Applicazioni nel mondo reale e vantaggi#

Ottimizzare i modelli Ultralytics YOLOv8 con OpenVINO è particolarmente vantaggioso per le applicazioni che richiedono elaborazione in tempo reale. Ecco alcuni esempi:

• Sistemi di sicurezza: il rilevamento di oggetti in tempo reale può avvisare istantaneamente il personale di sicurezza, migliorando la protezione e la reattività.
• Veicoli autonomi: velocità di inferenza più elevate migliorano la reattività dei sistemi di guida autonoma, rendendoli più sicuri e affidabili.
• Sanità: una rapida elaborazione delle immagini per gli strumenti diagnostici può salvare vite fornendo risultati più rapidi, consentendo interventi tempestivi.

Implementando queste ottimizzazioni, non solo migliori le prestazioni, ma aumenti anche l'affidabilità e l'efficienza delle tue applicazioni. Ciò può portare a migliori esperienze utente, maggiore produttività e soluzioni più innovative.

In conclusione#

Esportare e ottimizzare un modello Ultralytics YOLOv8 per OpenVINO è un modo potente per sfruttare l'hardware Intel per applicazioni di IA più veloci ed efficienti. Con pochi semplici passaggi, puoi trasformare le prestazioni del tuo modello e applicarlo in modo efficace a scenari del mondo reale.

Assicurati di dare un'occhiata ad altri tutorial e guide di Ultralytics per continuare a migliorare i tuoi progetti di intelligenza artificiale. Visita il nostro repository GitHub e unisci alla community di Ultralytics per ulteriori approfondimenti e aggiornamenti. Innoviamo insieme!

Ricorda, ottimizzare i tuoi modelli non riguarda solo la velocità: si tratta di sbloccare nuove possibilità e garantire che le tue soluzioni AI siano robuste, efficienti e pronte per il futuro.