Esporta e ottimizza Ultralytics YOLOv8 per l'inferenza su Intel OpenVINO
Ottimizza il tuo modello Ultralytics YOLOv8 per l'inferenza utilizzando OpenVINO. Segui la nostra guida per convertire i modelli PyTorch in ONNX e ottimizzarli per applicazioni in tempo reale.
In questo post del blog, daremo un'occhiata a come puoi esportare e ottimizzare il tuo modello Ultralytics YOLOv8 pre-addestrato o addestrato su misura per l'inferenza tramite OpenVINO. Se stai utilizzando un sistema basato su Intel, che si tratti di una CPU o di una GPU, questa guida ti mostrerà come velocizzare significativamente il tuo modello con il minimo sforzo.
Link to this sectionPerché ottimizzare YOLOv8 con OpenVINO?#
Ottimizzare il tuo modello YOLOv8 con OpenVINO può fornire un aumento di velocità fino a 3 volte nelle attività di inferenza, in particolare se stai utilizzando una CPU Intel. Questo incremento delle prestazioni può fare un'enorme differenza nelle applicazioni in tempo reale, dal rilevamento oggetti alla segmentazione e ai sistemi di sicurezza.
Link to this sectionPassaggi per esportare e ottimizzare il tuo modello YOLOv8#
Link to this sectionComprendere il processo#
Per prima cosa, analizziamo il processo. Convertiremo un modello PyTorch in ONNX e poi lo ottimizzeremo usando OpenVINO. Questo processo comporta alcuni passaggi semplici e può essere applicato a vari modelli e formati inclusi TensorFlow, PyTorch, Caffe e ONNX.
Link to this sectionEsportazione del modello#
Consultando la documentazione di Ultralytics, scopriamo che l'esportazione di un modello YOLOv8 prevede l'utilizzo del metodo export dal framework Ultralytics. Questo metodo ci consente di convertire il nostro modello da PyTorch a ONNX e, infine, di ottimizzarlo per OpenVINO. Il risultato è un modello che viene eseguito significativamente più velocemente, sfruttando il potente hardware di Intel.
Link to this sectionInstallazione delle dipendenze#
Prima di eseguire lo script di esportazione, dovrai assicurarti che tutte le dipendenze necessarie siano installate. Queste includono la libreria Ultralytics, ONNX e OpenVINO. L'installazione di questi pacchetti è un processo semplice che può essere eseguito tramite pip, l'installer di pacchetti Python.
Link to this sectionEsecuzione dello script di esportazione#
Una volta configurato il tuo ambiente, puoi eseguire il tuo script di esportazione. Questo script convertirà il tuo modello PyTorch in ONNX e poi in OpenVINO. Il processo è semplice e prevede la chiamata a una singola funzione per gestire l'esportazione. Il framework Ultralytics rende facile convertire e ottimizzare i tuoi modelli, assicurandoti di ottenere le migliori prestazioni con il minimo sforzo.
Fig 1. Nicolai Nielsen che illustra come eseguire lo script di esportazione.
Link to this sectionConfronto delle prestazioni#
Dopo l'esportazione, è essenziale confrontare le prestazioni dei modelli originale e ottimizzato. Effettuando il benchmarking del tempo di inferenza di entrambi i modelli, puoi vedere chiaramente i guadagni in termini di prestazioni. In genere, il modello OpenVINO mostrerà una riduzione significativa del tempo di inferenza rispetto al modello PyTorch originale. Questo è particolarmente vero per i modelli più grandi, dove l'aumento delle prestazioni è più evidente.
Link to this sectionApplicazioni nel mondo reale e vantaggi#
Ottimizzare i modelli YOLOv8 con OpenVINO è particolarmente vantaggioso per le applicazioni che richiedono un'elaborazione in tempo reale. Ecco alcuni esempi:
- Sistemi di sicurezza: il rilevamento oggetti in tempo reale può avvisare istantaneamente il personale di sicurezza, migliorando la protezione e la reattività.
- Veicoli automatizzati: velocità di inferenza più elevate migliorano la reattività dei sistemi di guida autonoma, rendendoli più sicuri e affidabili.
- Assistenza sanitaria: l'elaborazione rapida delle immagini per gli strumenti diagnostici può salvare vite fornendo risultati più rapidi, consentendo interventi tempestivi.
Implementando queste ottimizzazioni, non solo migliori le prestazioni, ma aumenti anche l'affidabilità e l'efficienza delle tue applicazioni. Ciò può portare a migliori esperienze utente, maggiore produttività e soluzioni più innovative.
Link to this sectionIn conclusione#
Esportare e ottimizzare un modello YOLOv8 per OpenVINO è un modo potente per sfruttare l'hardware Intel per applicazioni AI più veloci ed efficienti. Con pochi semplici passaggi, puoi trasformare le prestazioni del tuo modello e applicarlo efficacemente a scenari del mondo reale.
Assicurati di dare un'occhiata a ulteriori tutorial e guide di Ultralytics per continuare a migliorare i tuoi progetti di AI. Visita il nostro repository GitHub e unisciti alla community di Ultralytics per ulteriori approfondimenti e aggiornamenti. Innoviamo insieme!
Ricorda, ottimizzare i tuoi modelli non riguarda solo la velocità: si tratta di sbloccare nuove possibilità e garantire che le tue soluzioni AI siano robuste, efficienti e pronte per il futuro.
