12 febbraio 2025
Scopri come effettuare il deploy di Ultralytics YOLO11 su Rockchip utilizzando RKNN Toolkit per un'Edge AI efficiente, l'accelerazione dell'IA e il rilevamento di oggetti in tempo reale.
Un termine molto in voga nella comunità dell'IA è l'edge AI, soprattutto quando si tratta di computer vision. Con la crescita delle applicazioni basate sull'IA, aumenta la necessità di eseguire modelli in modo efficiente su dispositivi embedded con risorse di calcolo e alimentazione limitate.
Ad esempio, i droni utilizzano la Vision AI per la navigazione in tempo reale, le telecamere intelligenti rilevano istantaneamente gli oggetti e i sistemi di automazione industriale eseguono il controllo qualità senza fare affidamento sul cloud computing. Queste applicazioni richiedono un'elaborazione AI rapida ed efficiente direttamente sui dispositivi edge per garantire prestazioni in tempo reale e bassa latenza. Tuttavia, l'esecuzione di modelli AI su dispositivi edge non è sempre facile. I modelli AI spesso richiedono più potenza e memoria di quanta ne possano gestire molti dispositivi edge.
RKNN Toolkit di Rockchip aiuta a risolvere questo problema ottimizzando i modelli di deep learning per i dispositivi basati su Rockchip. Utilizza unità di elaborazione neurale (NPU) dedicate per accelerare l'inferenza, riducendo la latenza e il consumo energetico rispetto all'elaborazione tramite CPU o GPU.
La comunità Vision AI desiderava ardentemente eseguire Ultralytics YOLO11 su dispositivi basati su Rockchip e noi vi abbiamo ascoltato. Abbiamo aggiunto il supporto per l'esportazione di YOLO11 nel formato modello RKNN. In questo articolo, esploreremo come funziona l'esportazione in RKNN e perché il deploy di YOLO11 su dispositivi basati su Rockchip rappresenta un punto di svolta.
Rockchip è un'azienda che progetta system-on-chips (SoC), processori piccoli ma potenti che eseguono molti dispositivi embedded. Questi chip combinano una CPU, una GPU e un'unità di elaborazione neurale (NPU) per gestire qualsiasi cosa, dalle attività di calcolo generiche alle applicazioni Vision AI che si basano sul rilevamento di oggetti e sull'elaborazione delle immagini.
I SoC Rockchip sono utilizzati in una varietà di dispositivi, tra cui single-board computer (SBC), schede di sviluppo, sistemi AI industriali e telecamere intelligenti. Molti noti produttori di hardware, Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas e Banana Pi, costruiscono dispositivi alimentati da SoC Rockchip. Queste schede sono popolari per le applicazioni di edge AI e computer vision perché offrono un equilibrio tra prestazioni, efficienza energetica e convenienza.
Per aiutare i modelli AI a funzionare in modo efficiente su questi dispositivi, Rockchip fornisce l'RKNN (Rockchip Neural Network) Toolkit. Consente agli sviluppatori di convertire e ottimizzare i modelli di deep learning per utilizzare le unità di elaborazione neurale (NPU) di Rockchip.
I modelli RKNN sono ottimizzati per un'inferenza a bassa latenza e un utilizzo efficiente dell'energia. Convertendo i modelli in RKNN, gli sviluppatori possono ottenere velocità di elaborazione più elevate, un consumo energetico ridotto e una maggiore efficienza sui dispositivi basati su Rockchip.
Analizziamo più da vicino come i modelli RKNN migliorano le prestazioni dell'AI sui dispositivi abilitati per Rockchip.
A differenza delle CPU e delle GPU, che gestiscono un'ampia gamma di attività di calcolo, le NPU di Rockchip sono progettate specificamente per il deep learning. Convertendo i modelli AI in formato RKNN, gli sviluppatori possono eseguire inferenze direttamente sulla NPU. Ciò rende i modelli RKNN particolarmente utili per attività di computer vision in tempo reale, dove è essenziale un'elaborazione rapida ed efficiente.
Le NPU sono più veloci ed efficienti delle CPU e delle GPU per le attività di AI perché sono costruite per gestire i calcoli delle reti neurali in parallelo. Mentre le CPU elaborano le attività un passo alla volta e le GPU distribuiscono i carichi di lavoro su più core, le NPU sono ottimizzate per eseguire calcoli specifici per l'AI in modo più efficiente.
Di conseguenza, i modelli RKNN funzionano più velocemente e utilizzano meno energia, rendendoli ideali per dispositivi alimentati a batteria, telecamere intelligenti, automazione industriale e altre applicazioni edge AI che richiedono un processo decisionale in tempo reale.
I modelli Ultralytics YOLO (You Only Look Once) sono progettati per attività di computer vision in tempo reale come l'object detection, l'instance segmentation e la classificazione delle immagini. Sono noti per la loro velocità, accuratezza ed efficienza e sono ampiamente utilizzati in settori quali l'agricoltura, la produzione, la sanità e i sistemi autonomi.
Questi modelli sono migliorati notevolmente nel tempo. Ad esempio, Ultralytics YOLOv5 ha reso l'object detection più facile da usare con PyTorch. Quindi, Ultralytics YOLOv8 ha aggiunto nuove funzionalità come la stima della posa e la classificazione delle immagini. Ora, YOLO11 fa un ulteriore passo avanti aumentando la precisione pur utilizzando meno risorse. Infatti, YOLO11m ha prestazioni migliori sul dataset COCO pur utilizzando il 22% in meno di parametri rispetto a YOLOv8m, rendendolo sia più preciso che più efficiente.
I modelli YOLO di Ultralytics supportano anche l'esportazione in diversi formati, consentendo un'implementazione flessibile su diverse piattaforme. Questi formati includono ONNX, TensorRT, CoreML e OpenVINO, offrendo agli sviluppatori la libertà di ottimizzare le prestazioni in base all'hardware di destinazione.
Grazie al supporto aggiuntivo per l'esportazione di YOLO11 nel formato modello RKNN, YOLO11 può ora sfruttare le NPU di Rockchip. Il modello più piccolo, YOLO11n in formato RKNN, raggiunge un tempo di inferenza impressionante di 99,5 ms per immagine, consentendo l'elaborazione in tempo reale anche su dispositivi embedded.
Attualmente, i modelli di rilevamento oggetti YOLO11 possono essere esportati nel formato RKNN. Inoltre, rimanete sintonizzati: stiamo lavorando per aggiungere il supporto per le altre attività di computer vision e la quantizzazione INT8 nei futuri aggiornamenti.
L'esportazione di YOLO11 in formato RKNN è un processo semplice. È possibile caricare il modello YOLO11 addestrato personalizzato, specificare la piattaforma Rockchip di destinazione e convertirlo in formato RKNN con poche righe di codice. Il formato RKNN è compatibile con vari SoC Rockchip, tra cui RK3588, RK3566 e RK3576, garantendo un ampio supporto hardware.
Una volta esportato, il modello RKNN può essere implementato su dispositivi basati su Rockchip. Per implementare il modello, è sufficiente caricare il file RKNN esportato sul dispositivo Rockchip ed eseguire l'inferenza, ovvero il processo di utilizzo del modello AI addestrato per analizzare nuove immagini o video e rilevare oggetti in tempo reale. Con poche righe di codice, è possibile iniziare a identificare oggetti da immagini o flussi video.
Per avere un'idea più precisa di dove YOLO11 può essere implementato su dispositivi basati su Rockchip nel mondo reale, esaminiamo alcune applicazioni chiave di edge AI.
I processori Rockchip sono ampiamente utilizzati in tablet basati su Android, schede di sviluppo e sistemi di AI industriale. Grazie al supporto per Android, Linux e Python, è possibile creare e implementare facilmente soluzioni basate sulla Vision AI per una varietà di settori.
Un'applicazione comune che prevede l'esecuzione di YOLO11 su dispositivi basati su Rockchip sono i tablet rugged. Si tratta di tablet resistenti e ad alte prestazioni progettati per ambienti difficili come magazzini, cantieri e ambienti industriali. Questi tablet possono sfruttare il rilevamento degli oggetti per migliorare l'efficienza e la sicurezza.
Ad esempio, nella logistica di magazzino, i lavoratori possono utilizzare un tablet basato su Rockchip con YOLO11 per scansionare e rilevare automaticamente l'inventario, riducendo l'errore umano e accelerando i tempi di elaborazione. Allo stesso modo, nei cantieri, questi tablet possono essere utilizzati per rilevare se i lavoratori indossano i dispositivi di sicurezza richiesti, come caschi e giubbotti, aiutando le aziende a far rispettare le normative e a prevenire gli incidenti.
Per quanto riguarda la produzione e l'automazione, le schede industriali basate su Rockchip possono svolgere un ruolo importante nel controllo qualità e nel monitoraggio dei processi. Una scheda industriale è un modulo di calcolo compatto ad alte prestazioni progettato per sistemi embedded in ambienti industriali. Queste schede includono in genere processori, memoria, interfacce I/O e opzioni di connettività che possono integrarsi con sensori, telecamere e macchinari automatizzati.
L'esecuzione di modelli YOLO11 su queste schede consente di analizzare le linee di produzione in tempo reale, individuando immediatamente i problemi e migliorando l'efficienza. Ad esempio, nella produzione automobilistica, un sistema di IA che utilizza hardware Rockchip e YOLO11 può rilevare graffi, parti disallineate o difetti di verniciatura mentre le auto si muovono lungo la catena di montaggio. Identificando questi difetti in tempo reale, i produttori possono ridurre gli sprechi, abbassare i costi di produzione e garantire standard di qualità più elevati prima che i veicoli raggiungano i clienti.
I dispositivi basati su Rockchip offrono un buon equilibrio tra prestazioni, costi ed efficienza, rendendoli un'ottima scelta per la distribuzione di YOLO11 in applicazioni di edge AI.
Ecco alcuni vantaggi dell'esecuzione di YOLO11 su dispositivi basati su Rockchip:
Ultralytics YOLO11 può funzionare in modo efficiente su dispositivi basati su Rockchip sfruttando l'accelerazione hardware e il formato RKNN. Ciò riduce i tempi di inferenza e migliora le prestazioni, rendendolo ideale per attività di computer vision in tempo reale e applicazioni di edge AI.
RKNN Toolkit fornisce strumenti di ottimizzazione chiave come la quantizzazione e la messa a punto, garantendo che i modelli YOLO11 funzionino bene sulle piattaforme Rockchip. L'ottimizzazione dei modelli per un'efficiente elaborazione on-device sarà essenziale man mano che l'adozione dell'edge AI crescerà. Con gli strumenti e l'hardware giusti, gli sviluppatori possono sbloccare nuove possibilità per le soluzioni di computer vision in vari settori.
Unisciti alla nostra community ed esplora il nostro repository GitHub per saperne di più sull'AI. Scopri come la computer vision in agricoltura e l'AI nel settore sanitario stanno guidando l'innovazione visitando le nostre pagine delle soluzioni. Inoltre, dai un'occhiata alle nostre opzioni di licenza per iniziare subito a creare le tue soluzioni di Vision AI!
.webp)
