Ottieni inferenze più veloci con Ultralytics YOLOv8 e OpenVINO di Intel

La velocità e l'efficienza sono fondamentali quando si distribuiscono modelli di intelligenza artificiale. Ultralytics è lieta di presentare la sua ultima integrazione con il toolkit OpenVINO™ di Intel, che semplifica la distribuzione di modelli di IA ottimizzati sull'hardware Intel. Questa collaborazione con Intel combina la potenza dei modelli Ultralytics YOLOv8 con l'efficienza di OpenVINO™ di Intel, offrendo un'accelerazione fino a 3 volte superiore sulle CPU e prestazioni migliorate nell'ampio ecosistema hardware Intel, comprese GPU integrate, GPU dedicate e VPU.

Cosa rende speciale questa integrazione?#

Il toolkit OpenVINO™ di Intel è progettato per massimizzare le prestazioni dei modelli di IA sull'hardware Intel. Oltre alla visione, OpenVINO™ supporta diverse attività, dall'elaborazione del linguaggio all'analisi audio. Ottimizzando i modelli YOLOv8 per OpenVINO™, Ultralytics aiuta gli utenti a ottenere inferenze di IA più rapide ed efficienti, sia che sviluppino applicazioni per l'analisi video, le città intelligenti o il commercio al dettaglio di nuova generazione.

Per una guida dettagliata all'esportazione e all'ottimizzazione del tuo modello Ultralytics YOLOv8 per l'inferenza con OpenVINO™, consulta il nostro tutorial passo passo sull'esportazione di YOLOv8 in OpenVINO.

Uno sguardo al processo#

Immagina di poter esportare i tuoi modelli Ultralytics YOLOv8 direttamente in un formato progettato appositamente per garantire velocità ed efficienza. È proprio ciò che offre questa integrazione. Con poche righe di codice, gli sviluppatori possono trasformare i modelli YOLOv8 in versioni compatibili con OpenVINO™, pronte a sfruttare l'accelerazione hardware offerta da Intel. In questo modo diventa pratico eseguire applicazioni di IA che prima erano limitate dai vincoli di calcolo.

Il vantaggio di OpenVINO: semplificare lo sviluppo dell'IA#

L'integrazione di Ultralytics e Intel è un passo concreto in avanti nel processo di sviluppo dell'IA. Combinando YOLOv8 e OpenVINO™, gli sviluppatori ottengono un modo efficiente per usare le CPU Intel®, fondamentali per il calcolo in molti settori. Questo rende l'IA più accessibile ed efficiente nelle applicazioni pratiche.

OpenVINO™ ottimizza il processo d'inferenza, consentendo ai modelli Ultralytics YOLOv8 di funzionare in modo efficiente in condizioni reali. Ciò permette di distribuire rapidamente soluzioni di IA su un'ampia gamma di dispositivi senza costose configurazioni GPU, ampliando le possibilità in ambiti come le iniziative per le città intelligenti e l'esperienza dei clienti nel commercio al dettaglio.

Vantaggi concreti#

• Prestazioni migliorate: ottieni un'inferenza IA fino a 3 volte più veloce sulle CPU e accelerazioni ancora maggiori su tutta la gamma hardware Intel.
• Distribuzione versatile: scrivi la tua applicazione una sola volta e distribuiscila ovunque nell'ecosistema hardware Intel, dalle CPU alle VPU, senza modificare ulteriormente il codice.
• Facilità d'uso: accedi a oltre 80 tutorial che ti guidano nell'ottimizzazione dei modelli IA, anche se non sei un esperto di deep learning.

Storie di successo: benchmark che parlano da soli#

Ultralytics e Intel hanno messo alla prova l'integrazione, confrontando le prestazioni dei modelli YOLOv8 su diverse piattaforme hardware Intel. I risultati mostrano che, su piattaforme hardware che vanno dalla serie Intel Data Center GPU Flex alle più recenti CPU Xeon, i modelli ottimizzati con OpenVINO™ risultano costantemente più veloci delle controparti, senza compromettere l'accuratezza.

Fig. 1. Tempo di inferenza per immagine in base alle dimensioni e al formato del modello (CPU Xeon)

Portare l'IA nel mondo reale#

Questa integrazione non si limita a numeri e benchmark: aiuta gli sviluppatori a portare l'IA nelle applicazioni del mondo reale con maggiore facilità ed efficienza. Che si tratti di potenziare i sistemi di sicurezza con un rilevamento degli oggetti più rapido o di creare esperienze di acquisto più coinvolgenti grazie ad analisi intelligenti, l'integrazione di Ultralytics YOLOv8 e Intel OpenVINO™ contribuisce a dare vita a una nuova generazione di applicazioni di IA.

Inizia oggi!#

Per provare l'integrazione, esporta un modello YOLOv8 in OpenVINO™ e confrontane le prestazioni sul tuo hardware Intel. Per maggiori informazioni e una guida passo passo, visita la nostra pagina della documentazione sull'integrazione di OpenVINO.