Embedded Vision AI con Ultralytics YOLO e STMicroelectronics MCU

Con l'aumento dell'adozione dell'IA in tutti i settori, cresce rapidamente anche la domanda di soluzioni ad alte prestazioni e a basso consumo energetico in grado di eseguire inferenze in tempo reale sull'edge. Per rispondere a questa esigenza tecnologica, STMicroelectronics ha introdotto il microcontrollore STM32N6, dotato di un'unità di elaborazione neurale (NPU) integrata progettata per carichi di lavoro di IA embedded. 

Eseguendo i modelli Ultralytics YOLO su STM32N6, STMicroelectronics ha dimostrato che un'IA di visione embedded accurata ed efficiente è possibile sui microcontrollori, aprendo nuove opportunità per un'intelligenza scalabile e on-device in settori come le smart city, l'assistenza sanitaria e l'elettronica di consumo.

Esplorazione della Vision AI per dispositivi a bassa potenza all'edge

STMicroelectronics è un leader globale nella tecnologia dei semiconduttori, con oltre 50.000 dipendenti e più di 200.000 clienti in tutto il mondo. Progetta e costruisce chip che consentono applicazioni che vanno dai veicoli elettrici alle apparecchiature industriali, dai dispositivi per la smart home all'elettronica di consumo.

Con l'aumento del numero di settori che si rivolgono all'IA per rendere i dispositivi più intelligenti e reattivi, STMicroelectronics si è concentrata sul portare tali funzionalità direttamente all'edge. Ad esempio, il loro microcontrollore STM32N6, un chip potente ed efficiente dal punto di vista energetico, è in grado di gestire attività di IA sul dispositivo come la computer vision.

Per aiutare gli sviluppatori a creare applicazioni di embedded vision su STM32N6, STMicroelectronics ha cercato modelli flessibili e ad alte prestazioni che potessero funzionare in modo efficiente su un microcontroller. I modelli Ultralytics YOLO si sono rivelati un'ottima soluzione, offrendo una combinazione affidabile di velocità, accuratezza e facilità di integrazione.

I vincoli dell'abilitazione di sistemi embedded basati sull'IA

Prima che il concetto di Edge AI diventasse ampiamente accettato, i modelli di computer vision venivano tipicamente sviluppati per essere eseguiti su sistemi di grandi dimensioni e centralizzati come server cloud o GPU (Graphics Processing Units). Queste piattaforme offrivano le capacità di calcolo necessarie per addestrare e distribuire modelli di grandi dimensioni, ma introducevano anche limitazioni come l'elevato consumo di energia, la dipendenza dalla rete, la latenza e l'aumento dei costi operativi.

Con il crescente interesse nell'implementazione di applicazioni in tempo reale più intelligenti in settori come l'assistenza sanitaria, l'elettronica di consumo e le smart city, è diventato chiaro che spingere l'elaborazione dell'IA più vicino a dove i dati vengono generati, sul dispositivo stesso, era sia una necessità tecnica che un'opportunità strategica.

Tuttavia, l'esecuzione di modelli AI su microcontrollori a bassa potenza può essere impegnativa. Questi dispositivi hanno generalmente memoria, potenza di calcolo e capacità energetica limitate, il che rende difficile implementare modelli di visione complessi senza compromettere le prestazioni o l'accuratezza. 

STMicroelectronics aveva bisogno di identificare una serie di modelli sufficientemente versatili da portare capacità di computer vision affidabili e in tempo reale al loro microcontroller STM32N6, senza richiedere agli sviluppatori di semplificare drasticamente i loro modelli o flussi di lavoro. Il loro obiettivo era fornire un'AI significativa sul dispositivo, rimanendo entro i rigidi vincoli dei sistemi embedded.

Implementazione semplificata del modello YOLO su microcontrollori

Per abilitare l'AI avanzata su dispositivi embedded a basso consumo, STMicroelectronics ha introdotto l'STM32N6, un microcontroller ad alte prestazioni dotato di Neural-ART Accelerator™. Si tratta di una Neural Processing Unit (NPU) interna, costruita specificamente per i carichi di lavoro di edge AI. Questa tecnologia consente agli sviluppatori di eseguire inferenze AI direttamente sul dispositivo, riducendo la dipendenza dal cloud computing e migliorando al contempo velocità, reattività ed efficienza energetica.

STMicroelectronics ha collaborato con Ultralytics per valutare e mostrare le capacità di STM32N6 eseguendo i modelli YOLO di Ultralytics sul microcontroller. Noto per il loro equilibrio tra velocità e precisione, i modelli YOLO di Ultralytics sono adatti per ambienti con risorse limitate e implementazioni embedded.

‍

Eseguendo varie varianti del modello YOLO direttamente su STM32N6, STMicroelectronics è stata in grado di dimostrare una gamma di casi d'uso di Vision AI, come il rilevamento di oggetti, la classificazione e il tracciamento, il tutto entro i limiti di potenza e memoria di un microcontrollore. Questa collaborazione offre agli sviluppatori un'opzione affidabile per l'implementazione di sistemi embedded in tempo reale basati sull'IA, utilizzando modelli di visione scalabili e pronti per la produzione.

Perché scegliere i modelli YOLO di Ultralytics?

I modelli Ultralytics YOLO hanno offerto a STMicroelectronics la giusta combinazione di accuratezza, efficienza e versatilità necessarie per i sistemi embedded abilitati all'AI. I modelli sono abbastanza leggeri da poter essere eseguiti su microcontrollori a bassa potenza come STM32N6, ma sufficientemente potenti da fornire prestazioni di rilevamento di oggetti e segmentazione di istanze in tempo reale.

Ad esempio, quando si esegue il modello Ultralytics YOLOv8n a una risoluzione di 256 x 256 sull'STM32N6, il sistema ha raggiunto 34 frame al secondo con ogni inference che richiede circa 29 millisecondi. Le misurazioni della potenza hanno mostrato che utilizzava solo 9,4 millijoule per inference, rendendolo adatto per attività di visione in tempo reale su dispositivi a bassa potenza.

Grazie al supporto per più varianti del modello YOLO, gli sviluppatori hanno la flessibilità di ottimizzare per velocità, dimensioni o accuratezza a seconda dei vincoli della loro applicazione. L'architettura facile da integrare, combinata con un forte supporto della comunità e della documentazione, ha reso Ultralytics YOLO una scelta naturale per l'obiettivo di STMicroelectronics di accelerare l'adozione della Vision AI in una vasta gamma di casi d'uso embedded.

Tramite una licenza Ultralytics Enterprise, STMicroelectronics fornisce ai clienti l'accesso alla suite completa di modelli YOLO per test e sviluppo interni. Tuttavia, per qualsiasi implementazione commerciale, i clienti sono tenuti a richiedere la propria licenza commerciale direttamente da Ultralytics tramite il modulo di licenza. Ciò garantisce la conformità e supporta un percorso scalabile verso soluzioni di Vision AI pronte per la produzione.

Dalle smart city all'assistenza sanitaria: L'edge AI scalabile in azione

La possibilità di eseguire i modelli Ultralytics YOLO direttamente sul microcontroller STM32N6 ha sbloccato una vasta gamma di applicazioni Vision AI per STMicroelectronics e il suo ecosistema di sviluppatori. Fornendo inferenze rapide e accurate sul dispositivo senza fare affidamento sull'elaborazione esterna o sulla connettività cloud, questa soluzione rende possibile l'implementazione di funzionalità intelligenti in sistemi compatti e a basso consumo energetico.

I clienti stanno esplorando casi d'uso in diversi settori, come il rilevamento in tempo reale di pedoni e veicoli nelle infrastrutture delle smart city, i controlli di sicurezza on-device e il controllo qualità nell'automazione industriale, e la diagnostica assistita dall'AI negli strumenti sanitari portatili. Allo stesso modo, nel settore dell'elettronica di consumo, i modelli YOLO consentono funzionalità reattive come il rilevamento della presenza, il riconoscimento dei gesti e il tracciamento degli oggetti, il tutto entro i limiti di prestazioni dei dispositivi alimentati a batteria.

‍

Costruiamo oggi le soluzioni di Vision AI di domani

Man mano che l'IA continua a evolversi, STMicroelectronics si concentra sul rendere più facile portare soluzioni potenti ed efficienti ai dispositivi edge. Lavorando a stretto contatto con partner come Ultralytics, stanno aiutando gli sviluppatori a iniziare più velocemente con modelli, strumenti e risorse compatibili con STM32 pronti all'uso. 

Fai il prossimo passo nell'innovazione dell'edge AI. Visita il nostro repository GitHub per scoprire come i modelli Ultralytics YOLO stanno trasformando la visione embedded. Esplora le applicazioni dell'AI nel settore sanitario e della computer vision nel retail, e dai un'occhiata alle nostre opzioni di licenza oggi stesso!