Ultralytics e STMicroelectronics hanno collaborato per distribuire in modo efficiente modelli YOLO su microcontrollori a basso consumo e ottenere inferenze accurate in tempo reale all'edge.
Con l'aumento dell'adozione dell'AI in tutti i settori, cresce la domanda di soluzioni ad alte prestazioni e a basso consumo, in grado di eseguire inferenze in tempo reale all'edge. Per rispondere a questa esigenza tecnologica, STMicroelectronics ha introdotto il microcontrollore STM32N6, dotato di un'unità di elaborazione neurale integrata (NPU) progettata per i carichi di lavoro di AI embedded.
Eseguendo modelli Ultralytics YOLO sullo STM32N6, STMicroelectronics ha dimostrato che la Vision AI embedded, accurata ed efficiente, è possibile sui microcontrollori, aprendo nuove opportunità per un'intelligenza scalabile direttamente sul dispositivo in settori come le smart city, la sanità e l'elettronica di consumo.
Esplorare la Vision AI per dispositivi a basso consumo all'edge#
STMicroelectronics è leader mondiale nella tecnologia dei semiconduttori, con oltre 50.000 dipendenti e più di 200.000 clienti in tutto il mondo. Progetta e realizza chip che rendono possibili applicazioni dai veicoli elettrici e dalle apparecchiature industriali ai dispositivi per la smart home e all'elettronica di consumo.
Mentre sempre più settori si affidano all'AI per rendere i dispositivi più intelligenti e reattivi, STMicroelectronics si è concentrata sul portare queste capacità direttamente all'edge. Ad esempio, il suo microcontrollore STM32N6, un chip potente ed efficiente dal punto di vista energetico, è in grado di gestire attività di AI direttamente sul dispositivo, come la computer vision.
Per aiutare gli sviluppatori a creare applicazioni di visione embedded su STM32N6, STMicroelectronics cercava modelli flessibili e ad alte prestazioni, in grado di funzionare in modo efficiente su un microcontrollore. I modelli Ultralytics YOLO si sono rivelati perfettamente adatti, offrendo una combinazione affidabile di velocità, accuratezza e facilità di integrazione.
I vincoli dell'abilitazione dei sistemi embedded basati sull'AI#
Prima che il concetto di Edge AI fosse ampiamente accettato, i modelli di computer vision venivano generalmente sviluppati per funzionare su sistemi grandi e centralizzati, come server cloud o GPU (unità di elaborazione grafica). Queste piattaforme offrivano le capacità computazionali necessarie per addestrare e distribuire modelli di grandi dimensioni, ma introducevano anche limitazioni come consumi energetici elevati, dipendenza dalla rete, latenza e aumento dei costi operativi.
Con la crescente attenzione verso l'implementazione di applicazioni in tempo reale più intelligenti in settori come la sanità, l'elettronica di consumo e le smart city, è diventato chiaro che avvicinare l'elaborazione dell'AI al luogo in cui vengono generati i dati, direttamente sul dispositivo, rappresentava sia una necessità tecnica sia un'opportunità strategica.
Tuttavia, eseguire modelli di AI su microcontrollori a basso consumo può essere difficile. Questi dispositivi dispongono generalmente di memoria, potenza di calcolo e capacità energetica limitate, rendendo complessa la distribuzione di modelli di visione avanzati senza compromettere le prestazioni o l'accuratezza.
STMicroelectronics doveva identificare una suite di modelli sufficientemente versatili da portare funzionalità affidabili di computer vision in tempo reale sul microcontrollore STM32N6, senza richiedere agli sviluppatori di semplificare drasticamente i modelli o i flussi di lavoro. L'obiettivo era offrire un'AI significativa direttamente sul dispositivo, rispettando al contempo i rigidi vincoli dei sistemi embedded.
Distribuzione semplificata dei modelli YOLO sui microcontrollori#
Per abilitare funzionalità avanzate di AI su dispositivi embedded a basso consumo, STMicroelectronics ha introdotto STM32N6, un microcontrollore ad alte prestazioni dotato dell'acceleratore Neural-ART™. Si tratta di un'unità di elaborazione neurale (NPU) sviluppata internamente e progettata specificamente per i carichi di lavoro di Edge AI. Questa tecnologia consente agli sviluppatori di eseguire inferenze di AI direttamente sul dispositivo, riducendo la dipendenza dal cloud e migliorando al contempo velocità, reattività ed efficienza energetica.
STMicroelectronics ha collaborato con Ultralytics per valutare e dimostrare le funzionalità di STM32N6 eseguendo i modelli Ultralytics YOLO sul microcontrollore. Noti per il loro equilibrio tra velocità e accuratezza, i modelli Ultralytics YOLO sono particolarmente adatti agli ambienti con risorse limitate e alle distribuzioni embedded.
Fig. 1. Un esempio di esecuzione di un modello Ultralytics YOLO su STM32N6.
Eseguendo direttamente su STM32N6 diverse varianti dei modelli YOLO, STMicroelectronics ha dimostrato una serie di casi d'uso della Vision AI, come il rilevamento degli oggetti, la classificazione e il tracking, il tutto entro i limiti di potenza e memoria di un microcontrollore. Questa collaborazione offre agli sviluppatori un'opzione affidabile per distribuire sistemi embedded basati sull'AI in tempo reale, utilizzando modelli di visione scalabili e pronti per la produzione.
Perché scegliere i modelli Ultralytics YOLO?#
I modelli Ultralytics YOLO hanno offerto a STMicroelectronics la combinazione ideale di accuratezza, efficienza e versatilità necessaria per i sistemi embedded abilitati all'AI. I modelli sono sufficientemente leggeri da funzionare su microcontrollori a basso consumo come STM32N6, ma abbastanza potenti da offrire prestazioni in tempo reale nel rilevamento degli oggetti e nella segmentazione delle istanze.
Ad esempio, eseguendo il modello Ultralytics YOLOv8n a una risoluzione di 256 per 256 su STM32N6, il sistema ha raggiunto 34 frame al secondo, con ogni inferenza completata in circa 29 millisecondi. Le misurazioni dei consumi hanno mostrato un utilizzo di appena 9,4 millijoule per inferenza, rendendolo particolarmente adatto alle attività di visione in tempo reale su dispositivi a basso consumo.
Grazie al supporto per diverse varianti dei modelli YOLO, gli sviluppatori possono scegliere se ottimizzare velocità, dimensioni o accuratezza in base ai vincoli della propria applicazione. L'architettura facile da integrare, combinata con il forte supporto della community e della documentazione, ha reso Ultralytics YOLO una scelta naturale per l'obiettivo di STMicroelectronics di accelerare l'adozione della Vision AI in un'ampia gamma di casi d'uso embedded.
Attraverso una licenza Enterprise di Ultralytics, STMicroelectronics offre ai clienti l'accesso alla suite completa di modelli YOLO per i test e lo sviluppo interni. Tuttavia, per qualsiasi distribuzione commerciale, i clienti devono richiedere la propria licenza commerciale direttamente a Ultralytics tramite il modulo di licenza. Questo garantisce la conformità e supporta un percorso scalabile verso soluzioni di Vision AI pronte per la produzione.
Dalle smart city alla sanità: l'Edge AI scalabile in azione#
La possibilità di eseguire i modelli Ultralytics YOLO direttamente sul microcontrollore STM32N6 ha aperto un'ampia gamma di applicazioni di Vision AI per STMicroelectronics e il suo ecosistema di sviluppatori. Offrendo inferenze rapide e accurate direttamente sul dispositivo, senza dipendere da elaborazioni esterne o dalla connettività cloud, questa soluzione consente di distribuire funzionalità intelligenti in sistemi compatti e a basso consumo.
I clienti stanno esplorando casi d'uso in settori come il rilevamento in tempo reale di pedoni e veicoli nelle infrastrutture delle smart city, i controlli di sicurezza e di qualità direttamente sul dispositivo nell'automazione industriale e la diagnostica assistita dall'AI negli strumenti sanitari portatili. Analogamente, nel settore dell'elettronica di consumo, i modelli YOLO abilitano funzionalità reattive come il rilevamento della presenza, il riconoscimento dei gesti e il tracking degli oggetti, il tutto entro i limiti prestazionali dei dispositivi alimentati a batteria.
Creare oggi le soluzioni di Vision AI di domani#
Con la continua evoluzione dell'AI, STMicroelectronics si concentra sul rendere più semplice portare soluzioni potenti ed efficienti sui dispositivi edge. Lavorando a stretto contatto con partner come Ultralytics, aiuta gli sviluppatori a iniziare più rapidamente grazie a modelli, strumenti e risorse compatibili con STM32 pronti all'uso.
Fai il prossimo passo nell'innovazione dell'Edge AI. Visita il nostro repository GitHub per scoprire come i modelli Ultralytics YOLO stanno trasformando la visione embedded. Esplora le applicazioni dell'AI nella sanità e della computer vision nel commercio al dettaglio, e dai subito un'occhiata alle nostre opzioni di licenza!
