Ultralytics YOLO collabora con DEEPX: inferenza edge AI per l'IA fisica

In Ultralytics stiamo osservando una crescente tendenza a eseguire direttamente sui dispositivi edge i modelli di visione artificiale, man mano che l'AI si integra sempre più nel mondo fisico. Dalla robotica ai macchinari industriali, dalle telecamere intelligenti ai veicoli autonomi, un numero sempre maggiore di sistemi intelligenti deve vedere, comprendere e agire in tempo reale senza dipendere dal cloud.

Questa nuova ondata di sistemi intelligenti è chiamata AI fisica e richiede capacità di calcolo ad alte prestazioni e ultraefficienti dal punto di vista energetico, in grado di funzionare autonomamente nel mondo reale. I sistemi reali hanno bisogno di vision AI che venga eseguita localmente, in modo affidabile ed efficiente, su hardware progettato appositamente per l'edge.

I modelli Ultralytics YOLO, come Ultralytics YOLO26, sono progettati per la visione artificiale in tempo reale, ma per sfruttarne appieno il potenziale all'edge serve la giusta combinazione di software e hardware. Per questo siamo lieti di annunciare la nostra nuova partnership con DEEPX.

Abbiamo avviato una partnership con DEEPX per introdurre una nuova integrazione per l'esportazione, che consente di distribuire in modo efficiente e ad alte prestazioni i modelli Ultralytics YOLO sull'hardware NPU di DEEPX. Insieme, stiamo definendo uno standard globale unificato per lo sviluppo, la distribuzione e la scalabilità dell'AI fisica.

Fig. 1. L'ecosistema hardware DEEPX per l'inferenza IA sul dispositivo, con il modulo DX-M1 M.2 e l'AI Box DX-AIPlayer N97.

Una visione condivisa per il futuro dell'AI fisica#

In qualità di framework di visione artificiale più adottato al mondo, Ultralytics fornisce gli «occhi» di questi sistemi. DEEPX, tra i produttori di NPU più efficienti, fornisce il «cervello» che li fa funzionare su larga scala.

In Ultralytics e DEEPX ci guidano accessibilità, prestazioni e progettazione orientata prima di tutto agli sviluppatori. Unendo gli ecosistemi Ultralytics e DEEPX, offriamo un percorso unico e affidabile per implementare commercialmente l'IA visiva, che tu sia una startup di robotica agli inizi che sta lanciando il suo primo prodotto o un'azienda manifatturiera Fortune 500 che distribuisce l'IA visiva in migliaia di stabilimenti.

Questo significa:

• Tempi di commercializzazione più brevi: dall'annotazione alla distribuzione in pochi giorni, non mesi.
• Costi di distribuzione inferiori: prestazioni di classe GPU a una frazione del consumo energetico e del costo del silicio, con oltre 250 FPS e un consumo energetico di 2-4 W.
• Nuove opportunità di ricavo: sviluppa e distribuisci prodotti di AI edge che prima non erano sostenibili dal punto di vista economico.
• Scalabilità a prova di futuro: una pipeline CI/CD dedicata garantisce che ogni nuova versione di Ultralytics funzioni subito con l'hardware DEEPX, supportata dagli impegni di fornitura pluriennali di DEEPX.

Alla scoperta della tecnologia NPU di DEEPX#

DEEPX è un'azienda innovatrice nel settore dei semiconduttori per l'AI che realizza hardware efficiente per l'AI edge, progettato appositamente per modelli di visione come Ultralytics YOLO, con prestazioni ai vertici del settore in fotogrammi al secondo per watt (FPS/W). Anziché ottimizzare metriche teoriche, DEEPX punta sull'efficienza nel mondo reale, consentendo agli sviluppatori di ottenere risultati di classe GPU con una frazione del budget energetico.

A rendere tutto questo possibile è una progettazione full stack. La NPU DX-M1 è progettata specificamente per accelerare i modelli computazionali della visione artificiale; il raffreddamento passivo e il basso consumo energetico la rendono adatta alle distribuzioni su scala produttiva, dove sono importanti le prestazioni per watt e l'affidabilità nel lungo periodo.

Con la diffusione dell'IA edge, ciò che conta sono prestazioni sostenibili: eseguire modelli avanzati in modo affidabile rispettando vincoli stringenti di potenza e temperatura, mantenendo al contempo la scalabilità necessaria per l'implementazione nel mondo reale. Ecco perché gli FPS per watt sono diventati una delle metriche più importanti per valutare le piattaforme di IA edge.

Fig. 2. Benchmark del fronte di Pareto di YOLO26, YOLO11 e YOLOv8 sulla NPU DX-M1. Misurazioni effettuate su DX-M1 con un host i5-14600K (32 GB di RAM), SDK dx-com v2.3.0, solo chip NPU.

Con il passaggio del mercato dalle PoC alle implementazioni su larga scala, i clienti hanno sempre più bisogno di eseguire contemporaneamente più modelli di IA rispettando lo stesso budget energetico e termico. Il grafico qui sopra mostra che YOLO26 offre costantemente un equilibrio migliore tra precisione ed efficienza: YOLO26n raggiunge circa 405 FPS/W su DX-M1, consentendo agli sviluppatori di eseguire workload di IA più avanzati senza passare a hardware più grande e ad alto consumo energetico.

Come iniziare a esportare i modelli Ultralytics YOLO su DEEPX#

Il pacchetto Python Ultralytics e Ultralytics Platform offrono un ambiente completo e unificato per addestrare, valutare e distribuire modelli YOLO in tutte le attività di computer vision supportate. Che tu preferisca lavorare nel codice o seguire un workflow visivo senza ostacoli, entrambi i percorsi ti permettono di passare dai dati all'implementazione in modo coerente e scalabile.

Grazie a questa partnership, Ultralytics ha introdotto una nuova integrazione per l'esportazione con DEEPX, che consente di esportare i modelli YOLO per l'implementazione sull'hardware NPU DEEPX con un solo comando: format=deepx. L'integrazione è supportata in tutto l'ecosistema Ultralytics, quindi gli sviluppatori possono esportare verso DEEPX dal pacchetto Python o direttamente da Ultralytics Platform, dopo aver annotato e addestrato il modello. Durante l'esportazione, il modello viene compilato e quantizzato in INT8 in un file binario .dxnn ottimizzato, con una calibrazione basata su EMA che assicura prestazioni NPU massime senza compromettere la qualità del modello.

In pratica, questo significa che i team commerciali possono passare dai dati etichettati a un modello pronto per la produzione ed eseguito su NPU DEEPX con soli tre comandi:

# Step 1: Install Ultralytics
pip install ultralytics

# Step 2: Export your YOLO model to DEEPX format
yolo export model=yolo26n.pt format=deepx

# Step 3: Run inference on DEEPX hardware
yolo detect predict model=yolo26n_deepx_model

Per i dettagli completi della configurazione, inclusi l'installazione del runtime e la visualizzazione con il visualizzatore di grafi dxtron di DEEPX, consulta la documentazione dell'integrazione DEEPX.

Vantaggi principali dell'esecuzione dei modelli Ultralytics YOLO sulle NPU DEEPX#

Ecco alcuni dei principali vantaggi della distribuzione dei modelli Ultralytics YOLO sull'hardware DEEPX tramite la nuova integrazione:

• Integrazione fluida con il workflow Ultralytics: l'esportazione dei modelli YOLO per l'implementazione su DEEPX si integra naturalmente nel pacchetto Python Ultralytics; un unico comando format=deepx standardizza il processo di implementazione edge.
• Supporto di più attività di computer vision: puoi distribuire modelli per il rilevamento di oggetti, la segmentazione delle istanze, la classificazione, la stima della posa e il rilevamento di riquadri orientati (OBB) con YOLOv8, YOLO11 e YOLO26, oltre alla segmentazione semantica e alla stima della profondità con YOLO26.
• Inferenza edge ultraefficiente: le NPU DEEPX offrono prestazioni di classe GPU con una frazione del consumo energetico, grazie al raffreddamento passivo e a consumi ultraridotti, ideali per distribuzioni su scala produttiva.
• Fondamenta a prova di futuro: una pipeline CI/CD dedicata garantisce la compatibilità immediata con ogni nuova versione di Ultralytics, mentre la roadmap da DX-M1 a DX-M2 estende lo stesso stack software all'era dell'AI agentica.
• Scalabilità per le applicazioni di AI fisica: dalla videosorveglianza intelligente all'ispezione industriale, dalla robotica ai sistemi autonomi, l'integrazione supporta un'ampia gamma di casi d'uso reali.

Dove i modelli Ultralytics YOLO e l'hardware DEEPX possono fare la differenza#

Quali sono quindi alcune applicazioni comuni di AI fisica per cui i modelli Ultralytics YOLO possono essere distribuiti sull'hardware DEEPX in scenari reali?

Videosorveglianza intelligente all'edge#

I moderni sistemi di videosorveglianza richiedono il rilevamento in tempo reale senza compromessi sulla privacy o sulla connettività. I modelli Ultralytics YOLO eseguiti sulle NPU DEEPX consentono alle telecamere di sicurezza e ai sistemi di monitoraggio di analizzare localmente i flussi video, identificando persone, veicoli e attività insolite in tempo reale, con consumi energetici ridotti e senza dipendere dal cloud. Con l'inasprirsi dell'applicazione del GDPR in Europa e la crescente richiesta di residenza dei dati negli appalti comunali, l'inferenza sul dispositivo diventa un vantaggio normativo oltre che tecnico.

Automazione industriale e controllo qualità#

Nelle fabbriche e negli stabilimenti di produzione, la vision AI viene sempre più utilizzata per automatizzare il controllo qualità, il rilevamento dei difetti e il monitoraggio dei processi. Combinare i modelli Ultralytics YOLO con l'hardware DEEPX permette di effettuare ispezioni sul dispositivo, affidabili 24 ore su 24 e 7 giorni su 7 anche negli ambienti industriali più impegnativi, contribuendo a ridurre gli sprechi, migliorare la qualità dei prodotti e tutelare la sicurezza dei lavoratori.

Robotica e sistemi autonomi#

Nella robotica, velocità e reattività sono fondamentali. Che si muovano in un magazzino, operino in ambienti industriali dinamici o lavorino a fianco delle persone, i robot devono interpretare immediatamente ciò che li circonda. I modelli Ultralytics YOLO eseguiti sulle NPU DEEPX consentono ai robot di rilevare ostacoli, seguire le persone e identificare gli oggetti in tempo reale, favorendo movimenti più sicuri e una maggiore autonomia senza dipendere da una connessione costante al cloud.

Punti chiave#

I modelli Ultralytics YOLO e le NPU DEEPX rendono più semplice che mai portare l'IA fisica ad alte prestazioni sull'edge. Semplificando l'implementazione con il nuovo standard format=deepx e ottimizzando i modelli per l'hardware DEEPX a basso consumo, questa partnership contribuisce a colmare il divario tra sviluppo e applicazioni commerciali reali. Con la continua crescita dell'IA fisica, questa collaborazione è un passo avanti per rendere l'IA visiva di livello produttivo accessibile, conveniente e scalabile per aziende di ogni dimensione.

Vuoi portare più rapidamente sul mercato i tuoi prodotti di AI edge?

• Richiedi una licenza per accedere al supporto commerciale e ai modelli YOLO Enterprise.
• Prova Ultralytics Platform per annotare, addestrare e distribuire il tuo primo modello pronto per DEEPX.
• Diventa partner Ultralytics per esplorare opportunità di distribuzione congiunta.
• Leggi la documentazione per consultare la guida tecnica completa.

Scopri come innovazioni come l'AI nella robotica e l'AI nella produzione stanno plasmando il futuro.