Esporta e ottimizza Ultralytics YOLOv8 per l'inferenza con Intel OpenVINO

In questo post del blog vedremo come esportare e ottimizzare il tuo modello Ultralytics YOLOv8, preaddestrato o addestrato su dati personalizzati, per eseguire inferenza con OpenVINO. Se usi un sistema basato su Intel, con CPU o GPU, questa guida ti mostrerà come accelerare notevolmente il modello con il minimo sforzo.

Perché ottimizzare Ultralytics YOLOv8 con OpenVINO?#

Ottimizzare il tuo modello Ultralytics YOLOv8 con OpenVINO può offrire un aumento della velocità fino a 3 volte nelle attività di inferenza, in particolare se usi una CPU Intel. Questo incremento delle prestazioni può fare una grande differenza nelle applicazioni in tempo reale, dal rilevamento degli oggetti alla segmentazione e ai sistemi di sicurezza.

Passaggi per esportare e ottimizzare il modello Ultralytics YOLOv8#

Comprendere il processo#

Per prima cosa, analizziamo il processo. Convertiremo un modello PyTorch nel formato OpenVINO e lo ottimizzeremo. Al momento del video, la conversione passava da ONNX come formato intermedio; le versioni attuali di Ultralytics convertono direttamente da PyTorch. Il processo prevede alcuni passaggi semplici e può essere applicato a diversi modelli e formati, tra cui TensorFlow, PyTorch e ONNX.

Esportare il modello#

Esaminando la documentazione Ultralytics, scopriamo che esportare un modello YOLOv8 comporta l'uso del metodo export del framework Ultralytics. Questo metodo converte il nostro modello da PyTorch e lo ottimizza per OpenVINO. Il risultato è un modello che funziona molto più velocemente sull'hardware Intel.

Installare le dipendenze#

Prima di eseguire lo script di esportazione, dovrai assicurarti che tutte le dipendenze necessarie siano installate. Tra queste ci sono la libreria Ultralytics e OpenVINO. Installare questi pacchetti è semplice e puoi farlo tramite pip, il programma di installazione dei pacchetti Python.

Eseguire lo script di esportazione#

Una volta configurato l'ambiente, puoi eseguire lo script di esportazione. Questo script convertirà il tuo modello PyTorch in OpenVINO. Il processo è semplice e consiste nel richiamare una singola funzione per gestire l'esportazione. Il framework Ultralytics semplifica la conversione e l'ottimizzazione dei modelli, aiutandoti a ottenere le migliori prestazioni con il minimo sforzo.

Fig. 1. Nicolai Nielsen spiega come eseguire lo script di esportazione.

Confrontare le prestazioni#

Dopo l'esportazione, è essenziale confrontare le prestazioni dei modelli originale e ottimizzato. Confrontando i tempi di inferenza di entrambi i modelli, potrai vedere chiaramente i miglioramenti. In genere, il modello OpenVINO mostra una riduzione significativa dei tempi di inferenza rispetto al modello PyTorch originale. Questo vale soprattutto per i modelli più grandi, sui quali l'incremento delle prestazioni è più evidente.

Applicazioni e vantaggi nel mondo reale#

Ottimizzare i modelli Ultralytics YOLOv8 con OpenVINO è particolarmente utile per le applicazioni che richiedono elaborazione in tempo reale. Ecco alcuni esempi:

• Sistemi di sicurezza: il rilevamento degli oggetti in tempo reale può avvisare immediatamente il personale di sicurezza, migliorando la protezione e la capacità di risposta.
• Veicoli automatizzati: velocità di inferenza più elevate migliorano la reattività dei sistemi di guida autonoma, rendendoli più sicuri e affidabili.
• Assistenza sanitaria: l'elaborazione rapida delle immagini per gli strumenti diagnostici può salvare vite, fornendo risultati più velocemente e consentendo interventi tempestivi.

Implementando queste ottimizzazioni, non solo migliori le prestazioni, ma aumenti anche l'affidabilità e l'efficienza delle tue applicazioni. Questo può portare a una migliore esperienza utente, una maggiore produttività e soluzioni più innovative.

In conclusione#

Esportare e ottimizzare un modello Ultralytics YOLOv8 per OpenVINO è un modo efficace per sfruttare l'hardware Intel e realizzare applicazioni AI più veloci ed efficienti. Bastano pochi semplici passaggi per migliorare significativamente le prestazioni del modello e applicarlo efficacemente a scenari reali.

Dai un'occhiata agli altri tutorial e alle guide di Ultralytics, come la lezione OpenVINO su CPU dell'Ultralytics Academy, per continuare a migliorare i tuoi progetti AI. Visita il nostro repository GitHub e unisciti alla community Ultralytics per scoprire altri approfondimenti e aggiornamenti.

Ricorda: ottimizzare i modelli non significa solo aumentarne la velocità, ma anche aprire nuove possibilità e assicurarti che le tue soluzioni di IA siano robuste, efficienti e pronte per il futuro.