Ultralytics YOLO collabora con DEEPX: inferenza edge AI per la Physical AI

In Ultralytics stiamo osservando uno spostamento sempre più marcato verso l'esecuzione diretta dei modelli di computer vision sui dispositivi edge, man mano che l'IA si integra più profondamente nel mondo fisico. Dalla robotica e dai macchinari industriali alle telecamere intelligenti e ai veicoli autonomi, a un numero crescente di sistemi intelligenti viene chiesto di vedere, comprendere e agire in tempo reale, senza dipendere dal cloud.

Questa nuova ondata di sistemi intelligenti viene chiamata IA fisica e richiede un'elaborazione ad alte prestazioni ed estremamente efficiente dal punto di vista energetico, in grado di operare autonomamente nel mondo reale. I sistemi del mondo reale hanno bisogno di un'IA per la visione che venga eseguita localmente, in modo affidabile ed efficiente, su hardware progettato appositamente per l'edge.

I modelli Ultralytics YOLO, come Ultralytics YOLO26, sono progettati per la computer vision in tempo reale, ma per sfruttarne appieno il potenziale sull'edge serve la giusta combinazione di software e hardware. A questo proposito, siamo lieti di annunciare la nostra nuova partnership con DEEPX.

Abbiamo stretto una partnership con DEEPX per introdurre una nuova integrazione per l'esportazione, che consente di distribuire in modo efficiente e ad alte prestazioni i modelli Ultralytics YOLO sull'hardware NPU di DEEPX. Insieme, stiamo definendo uno standard globale unificato per il modo in cui l'IA fisica viene sviluppata, distribuita e scalata.

Fig. 1. L'ecosistema hardware di DEEPX per l'inferenza dell'IA sul dispositivo, con il modulo DX-M1 M.2 e l'AI Box DX-AIPlayer N97*.*

Una visione condivisa per il futuro dell'IA fisica#

In quanto framework di computer vision più adottato al mondo, Ultralytics fornisce gli "occhi" di questi sistemi. In quanto uno dei produttori di NPU più efficienti, DEEPX fornisce il "cervello" per eseguirli su larga scala.

In Ultralytics e DEEPX crediamo nell'accessibilità, nelle prestazioni e in una progettazione che mette gli sviluppatori al primo posto, e da questi principi siamo guidati. Riunendo gli ecosistemi Ultralytics e DEEPX, offriamo un percorso unico e affidabile per distribuire commercialmente l'IA per la visione, sia che tu sia un'azienda di robotica agli inizi che sta lanciando il suo primo prodotto, sia che tu sia un produttore Fortune 500 che implementa l'IA per la visione in migliaia di stabilimenti.

Questo significa:

• Riduzione del time-to-market: dall'annotazione alla distribuzione in pochi giorni, non mesi.
• Costi di distribuzione inferiori: prestazioni di classe GPU a una frazione del costo energetico e del silicio, con oltre 250 FPS e un consumo energetico di 2-4 W.
• Nuove opportunità di ricavi: sviluppa e distribuisci prodotti Edge AI che in precedenza non erano economicamente sostenibili.
• Scalabilità a prova di futuro: una pipeline CI/CD dedicata garantisce che ogni nuova versione di Ultralytics funzioni immediatamente con l'hardware DEEPX, con il supporto degli impegni pluriennali di fornitura di DEEPX.

Alla scoperta della tecnologia NPU di DEEPX#

DEEPX è un'azienda innovatrice nel settore dei semiconduttori per l'IA che offre hardware Edge AI efficiente, progettato appositamente per modelli di visione come Ultralytics YOLO, con un'efficienza ai vertici della categoria in termini di fotogrammi al secondo per watt (FPS/W). Anziché ottimizzare metriche teoriche, DEEPX si concentra sull'efficienza nel mondo reale, consentendo agli sviluppatori di ottenere risultati di classe GPU con una frazione del budget energetico.

A rendere tutto questo possibile è una progettazione full-stack. La NPU DX-M1 è progettata specificamente per accelerare i pattern computazionali dei modelli di computer vision, con raffreddamento passivo e bassi consumi, caratteristiche adatte alle distribuzioni su scala produttiva in cui l'efficienza per watt e l'affidabilità a lungo termine sono importanti.

Con l'adozione dell'Edge AI che entra nel mainstream, ciò che conta è mantenere prestazioni sostenibili: eseguire modelli avanzati in modo affidabile entro rigidi vincoli energetici e termici, mantenendo al contempo la scalabilità per la distribuzione nel mondo reale. Per questo gli FPS per watt sono diventati una delle metriche più importanti per valutare le piattaforme Edge AI.

Fig. 2. Benchmark del fronte di Pareto di YOLO26, YOLO11 e YOLOv8 sulla NPU DX-M1. Misurato su DX-M1 con un host i5-14600K (32GB RAM), SDK dx-com v2.3.0, solo chip NPU.

Mentre il mercato passa dai PoC alle distribuzioni su larga scala, i clienti hanno sempre più bisogno di eseguire simultaneamente più modelli di IA entro lo stesso budget energetico e termico. Il grafico sopra mostra che YOLO26 offre costantemente un equilibrio migliore tra accuratezza ed efficienza: YOLO26n raggiunge circa 405 FPS/W su DX-M1, consentendo agli sviluppatori di eseguire carichi di lavoro di IA più avanzati senza passare a hardware più grande e più energivoro.

Per iniziare a esportare i modelli Ultralytics YOLO su DEEPX#

Il pacchetto Python di Ultralytics e la Ultralytics Platform offrono un ambiente completo e unificato per addestrare, valutare e distribuire modelli YOLO in tutte e cinque le attività di computer vision. Che tu preferisca lavorare nel codice o tramite un flusso di lavoro visivo senza complicazioni, entrambi i percorsi ti offrono un modo coerente e scalabile per portare un modello dai dati alla distribuzione.

Grazie a questa partnership, Ultralytics ha introdotto una nuova integrazione per l'esportazione con DEEPX, che consente di esportare i modelli YOLO per la distribuzione sull'hardware NPU di DEEPX con un singolo comando: format=deepx. L'integrazione è pienamente supportata nell'intero ecosistema Ultralytics, consentendo agli sviluppatori di esportare su DEEPX dal pacchetto Python o direttamente dalla Ultralytics Platform dopo aver annotato e addestrato il modello. Durante l'esportazione, il modello viene compilato e quantizzato in INT8 in un file binario .dxnn ottimizzato, mentre la calibrazione basata su EMA garantisce le massime prestazioni della NPU senza sacrificare la qualità del modello.

In pratica, questo significa che i team commerciali possono passare dai dati etichettati a un modello pronto per la produzione in esecuzione sulle NPU DEEPX con soli tre comandi:

# Step 1: Install Ultralytics
pip install ultralytics

# Step 2: Export your YOLO model to DEEPX format
yolo export model=yolo26n.pt format=deepx

# Step 3: Run inference on DEEPX hardware
yolo detect predict model=yolo26n_deepx_model

Per tutti i dettagli della configurazione, inclusa l'installazione del runtime e la visualizzazione con il visualizzatore di grafi dxtron di DEEPX, consulta la documentazione dell'integrazione DEEPX.

Principali vantaggi dell'esecuzione dei modelli Ultralytics YOLO sulle NPU DEEPX#

Ecco alcuni dei principali vantaggi della distribuzione dei modelli Ultralytics YOLO sull'hardware DEEPX utilizzando la nuova integrazione:

• Integrazione perfetta con il workflow Ultralytics: esportare i modelli YOLO per la distribuzione su DEEPX si integra naturalmente nel pacchetto Python di Ultralytics, con un singolo comando format=deepx che standardizza il processo di distribuzione sull'edge.
• Supporto per molteplici attività di computer vision: puoi distribuire modelli per il rilevamento degli oggetti, la segmentazione, la stima della posa, il rilevamento di riquadri delimitatori orientati (OBB) e la classificazione su YOLOv8, YOLO11 e YOLO26.
• Inferenza edge ultraefficiente: le NPU DEEPX offrono prestazioni di classe GPU con una frazione dei consumi energetici, grazie al raffreddamento passivo e a consumi estremamente ridotti, ideali per le distribuzioni su scala produttiva.
• Base a prova di futuro: una pipeline CI/CD dedicata garantisce la compatibilità immediata con ogni nuova versione di Ultralytics, mentre la roadmap da DX-M1 a DX-M2 estende lo stesso stack software all'era dell'IA agentica.
• Scalabilità tra le applicazioni di IA fisica: dalla videosorveglianza intelligente e dall'ispezione industriale alla robotica e ai sistemi autonomi, l'integrazione supporta un'ampia gamma di casi d'uso nel mondo reale.

Dove i modelli Ultralytics YOLO e l'hardware DEEPX possono fare la differenza#

Quali sono dunque alcune applicazioni comuni dell'IA fisica in cui i modelli Ultralytics YOLO possono essere distribuiti sull'hardware DEEPX in scenari del mondo reale?

Videosorveglianza intelligente sull'edge#

I moderni sistemi di videosorveglianza richiedono il rilevamento in tempo reale senza compromettere la privacy o la connettività. I modelli Ultralytics YOLO eseguiti sulle NPU DEEPX consentono alle telecamere di sicurezza e ai sistemi di monitoraggio di analizzare localmente i flussi video, identificando persone, veicoli e attività insolite in tempo reale, con consumi ridotti e senza dipendere dal cloud. Con l'inasprimento dell'applicazione del GDPR in Europa e l'inserimento sempre più frequente della residenza dei dati nei requisiti degli appalti comunali, l'inferenza sul dispositivo diventa un vantaggio normativo oltre che tecnico.

Automazione industriale e controllo qualità#

Nelle fabbriche e negli stabilimenti produttivi, l'IA per la visione viene sempre più utilizzata per automatizzare il controllo qualità, il rilevamento dei difetti e il monitoraggio dei processi. La combinazione dei modelli Ultralytics YOLO con l'hardware DEEPX consente di eseguire ispezioni sul dispositivo in modo affidabile 24 ore su 24, 7 giorni su 7, in ambienti industriali esigenti, contribuendo a ridurre gli sprechi, migliorare la qualità dei prodotti e tutelare la sicurezza dei lavoratori.

Robotica e sistemi autonomi#

Per la robotica, velocità e reattività sono fondamentali. Che si muovano in un magazzino, operino in ambienti industriali dinamici o lavorino al fianco delle persone, i robot devono interpretare istantaneamente ciò che li circonda. I modelli Ultralytics YOLO eseguiti sulle NPU DEEPX consentono ai robot di rilevare ostacoli, seguire le persone e identificare gli oggetti in tempo reale, favorendo movimenti più sicuri e una maggiore autonomia senza dipendere da una connettività costante al cloud.

Punti chiave#

I modelli Ultralytics YOLO e le NPU DEEPX rendono più semplice che mai portare l'IA fisica ad alte prestazioni sull'edge. Semplificando la distribuzione con il nuovo standard format=deepx e ottimizzando i modelli per l'hardware DEEPX a basso consumo energetico, questa partnership contribuisce a colmare il divario tra sviluppo e applicazioni commerciali nel mondo reale. Con la continua crescita dell'IA fisica, questa collaborazione rappresenta un passo verso un'IA per la visione di livello produttivo accessibile, conveniente e scalabile per aziende di ogni dimensione.

Pronto a portare più velocemente sul mercato i tuoi prodotti Edge AI?

• Richiedi una licenza per accedere al supporto commerciale e ai modelli Enterprise YOLO.
• Prova Ultralytics Platform per annotare, addestrare e distribuire il tuo primo modello compatibile con DEEPX.
• Diventa partner di Ultralytics per esplorare opportunità di distribuzione congiunta.
• Leggi la documentazione per la guida tecnica completa.

Scopri come innovazioni come l'IA nella robotica e l'IA nella produzione stanno plasmando il futuro.