Integrando i modelli Ultralytics YOLO nel suo Voyager SDK, Axelera AI ha semplificato per i clienti l’esecuzione immediata di soluzioni di computer vision in tempo reale sulle sue unità di elaborazione AI Metis (AIPU).
Axelera AI è un’azienda europea di semiconduttori che sviluppa potenti chip AI efficienti dal punto di vista energetico per eseguire la computer vision all’edge. Ad esempio, le sue unità di elaborazione AI Metis (AIPU) vengono utilizzate in settori come vendita al dettaglio, sicurezza e produzione.
Per semplificare ai clienti lo sviluppo e la distribuzione di applicazioni AI, Axelera ha integrato i modelli Ultralytics YOLO nel proprio Voyager SDK, una piattaforma software che ottimizza l’ottimizzazione, la distribuzione e l’accelerazione dei modelli sulle AIPU Metis, rendendo la Vision AI in tempo reale più veloce, semplice e scalabile.
Ridefinire l’accelerazione hardware della Vision AI#
Fondata nel 2021 e con sede nei Paesi Bassi, Axelera AI si è posta l’obiettivo di risolvere un problema fondamentale: l’hardware AI tradizionale era stato progettato per il cloud, non per l’edge. Per colmare questo divario, l’azienda ha sviluppato l’AIPU Metis.
È un chip ad alte prestazioni e a basso consumo, progettato specificamente per i carichi di lavoro edge, ovvero attività AI eseguite localmente sui dispositivi, dove velocità, privacy ed efficienza energetica sono fondamentali.
È basato sulla tecnologia proprietaria Digital In-Memory Compute (D-IMC), che consente di elaborare i dati direttamente nel luogo in cui sono archiviati, riducendo drasticamente latenza e consumo energetico. Grazie a uno stack software completamente integrato e all’obiettivo di democratizzare l’AI, Axelera rende l’AI ad alte prestazioni più accessibile.
La sfida dell’esecuzione dei modelli sull’hardware AI edge#
Per offrire un’esperienza AI fluida all’edge, Axelera AI puntava a fornire più di un hardware ad alte prestazioni. I clienti avevano anche bisogno di un modo semplice e affidabile per eseguire soluzioni di computer vision in tempo reale, senza strumenti complessi o personalizzazioni dispendiose in termini di tempo. Molti modelli esistenti erano troppo grandi, troppo lenti o non adatti agli ambienti con risorse limitate.
Le analisi del retail, l’automazione degli stabilimenti e i sistemi di videosorveglianza si affidano spesso a informazioni visive rapide e precise per supportare le operazioni. Tuttavia, i modelli tradizionali e le soluzioni basate sul cloud in genere non riescono a soddisfare i requisiti di bassa latenza, efficienza energetica ed elaborazione sul dispositivo di queste applicazioni AI edge.
Axelera ha iniziato a cercare una suite di modelli precisa, facile da implementare e in grado di funzionare in modo efficiente sulle sue unità di elaborazione AI Metis. La soluzione giusta avrebbe completato le capacità hardware, semplificando al contempo lo sviluppo e accelerando la distribuzione in un’ampia gamma di casi d’uso dell’AI edge.
Inferenze AI accelerate all’edge con Ultralytics YOLO#
Axelera AI ha integrato i modelli Ultralytics YOLO nel suo Voyager SDK per rendere più rapidi, semplici e scalabili lo sviluppo e la distribuzione di applicazioni AI edge. L’SDK include uno Model Zoo con modelli YOLO pronti all’uso e automatizza l’intera pipeline, comprendendo pre-elaborazione, inferenza e post-elaborazione, ottimizzate per le unità di elaborazione AI Metis.
Fig. 1. Unità di elaborazione AI Metis (AIPU).
Questa integrazione consente ai clienti di utilizzare immediatamente i modelli Ultralytics YOLO preaddestrati o di integrarvi i propri, con un’accelerazione fluida sull’hardware edge. Grazie al supporto per l’esecuzione parallela e a cascata dei modelli, le AIPU Metis consentono configurazioni multimodello avanzate, come la stima della posa seguita dalla segmentazione. È la soluzione ideale per attività complesse nel retail, nella sicurezza e nell’automazione industriale.
La combinazione delle attività di computer vision in tempo reale supportate dai modelli Ultralytics YOLO con lo stack hardware e software efficiente di Axelera offre prestazioni eccezionali per watt e per dollaro. Per i clienti, questo significa risultati più precisi, distribuzione più rapida e una barriera più bassa alla scalabilità della Vision AI all’edge.
Perché scegliere i modelli Ultralytics YOLO?#
Axelera AI ha collaborato con Ultralytics per integrare i modelli Ultralytics YOLO nella propria piattaforma, grazie al loro eccezionale equilibrio tra precisione, velocità e facilità d’uso. Con il supporto di diverse varianti di Ultralytics YOLO, i clienti di Axelera AI possono valutare un’ampia gamma di carichi di lavoro e requisiti prestazionali sull’AIPU Metis.
Attraverso una licenza Ultralytics Enterprise, Axelera offre accesso all’intera suite di modelli YOLO per la valutazione e lo sviluppo. Per la distribuzione commerciale, i clienti devono ottenere la propria licenza direttamente da Ultralytics tramite il modulo di licenza, garantendo la conformità e sostenendo un’innovazione scalabile nella Vision AI all’edge.
Sfruttare i modelli Ultralytics YOLO su larga scala con il Voyager SDK di Axelera AI#
Con i modelli Ultralytics YOLO e il Voyager SDK di Axelera AI, gli utenti possono distribuire applicazioni di computer vision precise e a bassa latenza direttamente sulle unità di elaborazione AI Metis. Inoltre, l’accesso a più varianti YOLO consente ai clienti di adattare le prestazioni alle esigenze specifiche della propria applicazione.
Ad esempio, Axelera AI ha visto clienti testare soluzioni basate su YOLO in diversi ambiti, tra cui:
- Retail: le pipeline multimodello che combinano stima della posa, segmentazione e rilevamento degli oggetti possono supportare attività come la riduzione delle differenze inventariali e il monitoraggio dell’inventario. Queste implementazioni funzionano in modo efficiente su piattaforme embedded come Raspberry Pi 5 abbinato all’AIPU Metis.
- Produzione: i clienti possono utilizzare l’esecuzione parallela dei modelli per svolgere attività simultanee, come il rilevamento dei difetti, la classificazione dei prodotti e la stima della posa, su un singolo chip, aumentando la produttività e riducendo i costi dell’hardware.
- Videosorveglianza: le funzionalità di rilevamento degli oggetti in tempo reale di YOLO possono essere utilizzate per analizzare flussi video 4K e 8K alla risoluzione completa, facilitando il monitoraggio della sicurezza ad alta precisione e la consapevolezza situazionale in ambienti critici. Questa soluzione è nettamente migliore del tradizionale ridimensionamento delle immagini sulle videocamere ad alta risoluzione.
- Sanità: le pipeline YOLO ottimizzate possono supportare l’identificazione dei tumori, offrendo un’elevata velocità di inferenza e una precisione affidabile per l’imaging medico sul dispositivo.
Questi casi d’uso dimostrano come l’hardware AI edge di Axelera AI e i modelli Ultralytics YOLO favoriscano innovazioni di Vision AI ad alte prestazioni ed efficienti dal punto di vista energetico in diversi settori.
Promuovere la nuova generazione di AI edge con Ultralytics YOLO#
Mentre Axelera AI continua a concentrarsi sull’ampliamento dell’accesso all’AI edge ad alte prestazioni, riunisce hardware potente e modelli di visione affidabili per aiutare i clienti a creare applicazioni più intelligenti e veloci.
Con i modelli Ultralytics YOLO disponibili tramite il Voyager SDK e l’hardware AIPU Metis, gli utenti possono sviluppare e scalare facilmente soluzioni di computer vision in tempo reale in diversi settori. Questa collaborazione sostiene una comunità in crescita di sviluppatori e aziende che lavorano per avvicinare l’AI al luogo in cui vengono creati i dati, migliorando efficienza, reattività e innovazione all’edge.
Pronto ad accelerare il tuo percorso nell’AI edge? Esplora il nostro repository GitHub per scoprire come i modelli YOLO alimentano innovazioni come l’AI nel retail e la computer vision nella logistica. Prova direttamente i nostri strumenti di Vision AI, scopri le opzioni di licenza e scopri come sfruttare una computer vision edge ad alte prestazioni ed efficiente dal punto di vista energetico.
