Ultralytics YOLO collabora con DEEPX: inferenza di edge AI per la Physical AI

In Ultralytics, stiamo assistendo a una crescente transizione verso l'esecuzione di computer vision models direttamente su dispositivi edge, man mano che l'IA si radica sempre più nel mondo fisico. Dalla robotica e i macchinari industriali alle smart camera e ai veicoli autonomi, a un numero sempre maggiore di sistemi intelligenti viene richiesto di vedere, comprendere e agire in tempo reale, senza dipendere dal cloud.

Questa nuova ondata di sistemi intelligenti viene chiamata Physical AI e richiede un calcolo ad alte prestazioni ed estremamente efficiente dal punto di vista energetico, in grado di operare autonomamente nel mondo reale. I sistemi del mondo reale necessitano di una vision AI che venga eseguita localmente, in modo affidabile ed efficiente su hardware progettato appositamente per l'edge.

I modelli Ultralytics YOLO come Ultralytics YOLO26 sono progettati per la computer vision in tempo reale, ma sfruttare appieno il loro potenziale sull'edge richiede la giusta combinazione di software e hardware. A tal proposito, siamo entusiasti di annunciare la nostra nuova partnership con DEEPX.

Abbiamo collaborato con DEEPX per introdurre una nuova integrazione di esportazione, consentendo una distribuzione efficiente e ad alte prestazioni dei modelli Ultralytics YOLO sull'hardware NPU di DEEPX. Insieme, stiamo stabilendo uno standard globale unificato per il modo in cui la Physical AI viene creata, distribuita e scalata.

Fig 1. L'ecosistema hardware DEEPX per l'inferenza di IA on-device, che include il modulo M.2 DX-M1 e l'AI Box DX-AIPlayer N97**.

Una visione condivisa per il futuro della Physical AI#

Come framework di computer vision più ampiamente adottato al mondo, Ultralytics fornisce gli "occhi" di questi sistemi. Come uno dei produttori di NPU più efficienti, DEEPX fornisce il "cervello" per eseguirli su larga scala.

In Ultralytics e DEEPX, crediamo nell'accessibilità, nelle prestazioni e nel design incentrato sullo sviluppatore, che è ciò che ci guida. Unendo gli ecosistemi Ultralytics e DEEPX, offriamo un percorso unico e affidabile per distribuire la vision AI a livello commerciale, che si tratti di una startup di robotica nelle prime fasi che spedisce il suo primo prodotto o di un produttore Fortune 500 che implementa la vision AI in migliaia di strutture.

Ciò significa:

• Time-to-market più rapido: Dall'annotazione alla distribuzione in pochi giorni, non mesi.
• Costi di distribuzione inferiori: Prestazioni di classe GPU a una frazione del costo di energia e silicio, offrendoti 250+ FPS con 2-4 W di consumo energetico.
• Nuove opportunità di guadagno: Costruisci e spedisci prodotti Edge AI che in precedenza non erano economicamente sostenibili.
• Scalabilità a prova di futuro: Una pipeline CI/CD dedicata assicura che ogni nuova release di Ultralytics funzioni immediatamente con l'hardware DEEPX, supportata dagli impegni di fornitura pluriennali di DEEPX.

Alla scoperta della tecnologia NPU di DEEPX#

DEEPX è un innovatore nel campo dei semiconduttori AI che offre hardware edge AI efficiente, appositamente costruito per modelli di visione come Ultralytics YOLO con prestazioni ai vertici della categoria in fotogrammi al secondo per watt (FPS/W). Invece di ottimizzare per metriche teoriche, DEEPX si concentra sull'efficienza nel mondo reale, permettendo agli sviluppatori di ottenere risultati di classe GPU con una frazione del budget energetico.

Ciò che rende tutto questo possibile è un design full-stack. L'NPU DX-M1 è progettata specificamente per accelerare i pattern computazionali dei modelli di visione artificiale, con raffreddamento passivo e basso consumo energetico, ideali per implementazioni su scala di produzione in cui le prestazioni per watt e l'affidabilità a lungo termine sono fondamentali.

Mentre l'Edge AI si sposta verso un'adozione di massa, ciò che conta è una performance sostenibile: eseguire modelli avanzati in modo affidabile entro rigidi vincoli energetici e termici, rimanendo scalabili per l'implementazione nel mondo reale. Ecco perché gli FPS per Watt sono diventati una delle metriche più importanti per valutare le piattaforme edge AI.

Fig 2. Benchmark del fronte di Pareto di YOLO26, YOLO11 e YOLOv8 sulla NPU DX-M1. Misurato su DX-M1 con host i5-14600K (32GB RAM), SDK dx-com v2.3.0, solo chip NPU.

Mentre il mercato supera la fase di PoC per passare a implementazioni su larga scala, i clienti hanno sempre più bisogno di eseguire più modelli AI contemporaneamente entro lo stesso budget energetico e termico. Il grafico qui sopra mostra come YOLO26 offra costantemente un miglior equilibrio tra accuratezza ed efficienza: YOLO26n raggiunge circa 405 FPS/W su DX-M1, consentendo agli sviluppatori di gestire carichi di lavoro AI più avanzati senza dover passare a hardware più grandi e avidi di energia.

Iniziare a esportare i modelli Ultralytics YOLO su DEEPX#

Il Ultralytics Python package e Ultralytics Platform offrono un ambiente completo e unificato per l'addestramento, la valutazione e il deployment dei modelli YOLO in tutte e cinque le attività di computer vision. Che tu preferisca lavorare via codice o tramite un flusso di lavoro visivo senza attriti, entrambe le strade ti offrono un modo coerente e scalabile per portare un modello dai dati al deployment.

Tramite questa partnership, Ultralytics ha introdotto una nuova export integration con DEEPX, che consente di esportare i modelli YOLO per il deployment su hardware NPU DEEPX con un singolo comando: format=deepx. L'integrazione è pienamente supportata nell'ecosistema Ultralytics, il che significa che gli sviluppatori possono esportare su DEEPX dal pacchetto Python o direttamente da Ultralytics Platform dopo aver annotato e addestrato il proprio modello. Durante l'esportazione, il modello viene compilato e quantizzato in INT8 in un binario .dxnn ottimizzato, con la calibrazione basata su EMA che garantisce le massime prestazioni della NPU senza sacrificare la qualità del modello.

In pratica, questo significa che i team commerciali possono passare dai dati etichettati a un modello pronto per la produzione in esecuzione sulle NPU di DEEPX con soli tre comandi:

# Step 1: Install Ultralytics
pip install ultralytics

# Step 2: Export your YOLO model to DEEPX format
yolo export model=yolo26n.pt format=deepx

# Step 3: Run inference on DEEPX hardware
yolo detect predict model=yolo26n_deepx_model

Per i dettagli completi sulla configurazione, inclusa l'installazione del runtime e la visualizzazione con il visualizzatore di grafi dxtron di DEEPX, dai un'occhiata alla DEEPX integration documentation.

Principali vantaggi dell'esecuzione di modelli Ultralytics YOLO sulle NPU DEEPX#

Ecco alcuni dei principali vantaggi della distribuzione di modelli Ultralytics YOLO su hardware DEEPX utilizzando la nuova integrazione:

• Integrazione fluida con il flusso di lavoro Ultralytics: L'esportazione di modelli YOLO per la distribuzione DEEPX si adatta naturalmente al pacchetto Python di Ultralytics, con un singolo comando format=deepx che standardizza il processo di distribuzione edge.
• Supporto per molteplici attività di computer vision: Puoi distribuire modelli per object detection, segmentazione, stima della posa, rilevamento di oriented bounding box (OBB) e classificazione attraverso YOLOv8, YOLO11 e YOLO26.
• Inferenza edge ultra-efficiente: Le NPU DEEPX offrono prestazioni di classe GPU a una frazione dell'energia, con raffreddamento passivo e un consumo energetico bassissimo, ideali per implementazioni su scala di produzione.
• Fondamenta a prova di futuro: Una pipeline CI/CD dedicata garantisce la compatibilità immediata con ogni nuova release di Ultralytics, mentre la roadmap da DX-M1 a DX-M2 estende lo stesso stack software nell'era della Agentic AI.
• Scalabile tra le applicazioni di Physical AI: Dalla sorveglianza intelligente e l'ispezione industriale alla robotica e ai sistemi autonomi, l'integrazione supporta una vasta gamma di casi d'uso nel mondo reale.

Dove i modelli Ultralytics YOLO e l'hardware DEEPX possono avere un impatto#

Quindi, quali sono alcune applicazioni comuni di Physical AI in cui i modelli Ultralytics YOLO possono essere distribuiti su hardware DEEPX in scenari reali?

Sorveglianza intelligente all'edge#

I moderni sistemi di sorveglianza richiedono un rilevamento in tempo reale senza compromettere la privacy o la connettività. I modelli Ultralytics YOLO in esecuzione sulle NPU DEEPX consentono alle telecamere di sicurezza e ai sistemi di monitoraggio di analizzare i feed video localmente, identificando persone, veicoli e attività insolite in tempo reale, con un basso consumo energetico e nessuna dipendenza dal cloud. Poiché l'applicazione del GDPR si fa più rigorosa in Europa e gli appalti comunali impongono sempre più la data residency, l'inferenza on-device diventa tanto un vantaggio normativo quanto tecnico.

Automazione industriale e controllo qualità#

Nelle fabbriche e negli impianti di produzione, la vision AI viene sempre più utilizzata per automatizzare il controllo qualità, il rilevamento dei difetti e il monitoraggio dei processi. Combinare i modelli Ultralytics YOLO con l'hardware DEEPX consente un'ispezione on-device che funziona in modo affidabile 24/7 in ambienti industriali esigenti, contribuendo a ridurre gli sprechi, migliorare la qualità del prodotto e proteggere la sicurezza dei lavoratori.

Robotica e sistemi autonomi#

Per la robotica, la velocità e la reattività sono fondamentali. Che si tratti di navigare in un magazzino, operare in ambienti industriali dinamici o lavorare a fianco degli esseri umani, i robot devono interpretare i loro dintorni istantaneamente. I modelli Ultralytics YOLO in esecuzione sulle NPU DEEPX consentono ai robot di rilevare ostacoli, tracciare persone e identificare oggetti in tempo reale, supportando movimenti più sicuri e una maggiore autonomia senza dipendere da una costante connettività cloud.

Punti chiave#

I modelli Ultralytics YOLO e le NPU DEEPX rendono più facile che mai portare la Physical AI ad alte prestazioni all'edge. Semplificando la distribuzione con il nuovo standard format=deepx e ottimizzando i modelli per l'hardware efficiente dal punto di vista energetico di DEEPX, questa partnership aiuta a colmare il divario tra sviluppo e applicazioni commerciali nel mondo reale. Mentre la Physical AI continua a crescere, questa collaborazione rappresenta un passo avanti verso il rendere la vision AI di grado produttivo accessibile, economica e scalabile per le aziende di ogni dimensione.

Pronto a portare i tuoi prodotti Edge AI sul mercato più velocemente?

• Request a license per accedere al supporto commerciale e ai modelli Enterprise YOLO.
• Try Ultralytics Platform per annotare, addestrare ed eseguire il deployment del tuo primo modello pronto per DEEPX.
• Become an Ultralytics partner per esplorare opportunità di deployment congiunte.
• Read the docs per la guida tecnica completa.

Scopri in che modo innovazioni come AI in robotics e AI in manufacturing stanno plasmando il futuro.