Esportazione dei modelli Ultralytics YOLO11 nel formato di modello NCNN

Le soluzioni di intelligenza artificiale stanno diventando sempre più comuni, anche in settori critici come la gestione delle emergenze, la gestione dei rifiuti e la lotta agli incendi. Con la continua crescita dell'adozione, i modelli di intelligenza artificiale vengono implementati in ambienti sempre più diversificati: non solo su server o nel cloud, ma direttamente su dispositivi operativi sul campo.

Ad esempio, droni e attrezzature dotati di componenti edge alimentati da piccoli processori possono svolgere un ruolo cruciale nelle zone colpite da calamità. Equipaggiati con termocamere, questi dispositivi possono raccogliere e analizzare dati sul posto per localizzare persone intrappolate sotto le macerie. Ciò è possibile grazie alla computer vision, un ramo dell'intelligenza artificiale che interpreta le informazioni visive contenute in immagini e video.

Tuttavia, implementare modelli di intelligenza artificiale per la visione su dispositivi edge non è così semplice come potrebbe sembrare. I modelli di intelligenza artificiale devono essere ottimizzati per funzionare in modo efficiente su hardware con potenza di calcolo e memoria limitate. Ecco perché framework di intelligenza artificiale come NCNN sono essenziali. Aiutano a convertire e ottimizzare i modelli per ottenere prestazioni in tempo reale su dispositivi a basso consumo senza sacrificare la precisione.

In particolare, i modelli Ultralytics YOLO come Ultralytics YOLO11 possono essere facilmente esportati nel formato modello NCNN utilizzando l'integrazione NCNN supportata da Ultralytics. La conversione di YOLO11 nel formato modello NCNN consente al modello di funzionare più velocemente, utilizzare meno memoria e operare senza problemi su dispositivi diversi senza perdere precisione.

In questo articolo esploreremo l'integrazione NCNN supportata da Ultralytics e vedremo come esportare il tuo modello YOLO11 nel formato modello NCNN. Iniziamo!

Panoramica di NCNN: un framework leggero per reti neurali#

NCNN è un framework open source per l'inferenza delle reti neurali sviluppato da Tencent. È stato progettato specificamente per gli ambienti mobili ed edge e offre inferenze ad alte prestazioni con un ingombro minimo. Questo lo rende ideale per l'implementazione su dispositivi con risorse limitate, come smartphone, droni e dispositivi IoT (Internet delle cose).

Il framework NCNN ha acquisito popolarità nella comunità dell'intelligenza artificiale e del deep learning grazie alla sua efficienza, portabilità e ottimizzazione per le CPU (unità di elaborazione centrale) mobili. Consente agli sviluppatori di eseguire modelli di reti neurali su dispositivi convenienti con memoria e potenza di elaborazione limitate. Progettato per essere semplice e flessibile, NCNN supporta un'ampia gamma di modelli di computer vision e funziona su diverse piattaforme, tra cui Android, Linux, iOS e macOS.

Fig. 1. I modelli nel formato NCNN possono essere implementati su numerose piattaforme.

Funzionalità chiave di ottimizzazione delle prestazioni di NCNN#

Ecco alcune delle funzionalità chiave che rendono NCNN un framework per l'inferenza delle reti neurali efficace e ampiamente utilizzato:

• Runtime leggero e indipendente dall'hardware: il framework NCNN è ottimizzato per eseguire modelli su CPU standard e non richiede hardware specializzato come GPU (unità di elaborazione grafica) o NPU (unità di elaborazione neurale).
• Quantizzazione dei modelli: per le applicazioni in cui memoria e velocità sono fondamentali, NCNN supporta metodi di quantizzazione che riducono le dimensioni del modello e migliorano i tempi di inferenza. Questo consente di eseguire senza problemi modelli di intelligenza artificiale su dispositivi mobili ed embedded.
• Open source e accessibile: essendo un framework open source, NCNN è disponibile gratuitamente per chiunque voglia utilizzarlo, modificarlo e migliorarlo. Questo incoraggia l'innovazione e un'ampia adozione in una varietà di casi d'uso.
• Sviluppo e community attivi: NCNN è mantenuto attivamente su GitHub da Tencent e da una comunità di sviluppatori in crescita, con aggiornamenti regolari e miglioramenti della compatibilità dei modelli.

Esportazione di Ultralytics YOLO11 nel formato modello NCNN: una guida rapida#

Ora che abbiamo visto cos'è NCNN, esaminiamo più da vicino come esportare i modelli Ultralytics YOLO11 nel formato NCNN.

Passaggio 1: installa il pacchetto Ultralytics per Python#

Prima di esportare il modello, il primo passaggio consiste nell'installare il pacchetto Python di Ultralytics utilizzando il gestore di pacchetti pip. Puoi farlo eseguendo "pip install ultralytics" nel terminale o nel prompt dei comandi. Se lavori in un Jupyter Notebook o in Google Colab, aggiungi un punto esclamativo prima del comando, in questo modo: "!pip install ultralytics".

Il pacchetto Ultralytics fornisce strumenti per addestrare, testare, ottimizzare ed esportare modelli di intelligenza artificiale per la visione destinati a diverse attività di computer vision. Se riscontri problemi durante l'installazione o l'esportazione di un modello, la documentazione ufficiale di Ultralytics e la guida ai problemi comuni sono ottime risorse per la risoluzione dei problemi.

Passaggio 2: esporta Ultralytics YOLO11#

Dopo aver installato il pacchetto Ultralytics, puoi caricare il tuo modello YOLO11 ed esportarlo nel formato NCNN. L'esempio seguente utilizza un modello preaddestrato ("yolo11n.pt") e lo esporta nel formato NCNN, salvando l'output in una cartella denominata "/yolo11n_ncnn_model".

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="ncnn")

Il modello Ultralytics YOLO11 esportato può quindi essere implementato su diversi dispositivi leggeri, come smartphone, sistemi embedded o piattaforme IoT. Anche il processo di implementazione è molto semplificato.

Ad esempio, considera il frammento di codice seguente, che mostra come caricare il modello esportato ed eseguire l'inferenza. Per inferenza si intende il processo di utilizzo di un modello addestrato per effettuare previsioni su dati nuovi e mai osservati. In questo esempio, il modello viene testato su un'immagine di un uomo in bicicletta, recuperata da un URL disponibile pubblicamente.

ncnn_model = YOLO("./yolo11n_ncnn_model")
results = ncnn_model("https://images.pexels.com/photos/19431209/pexels-photo-19431209/free-photo-of-a-man-riding-a-bike-on-a-road.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2.jpg", save=True)

Dopo aver eseguito il codice, troverai l'immagine di output nella cartella "runs/detect/predict".

Fig. 2. Rilevamento di oggetti utilizzando un modello Ultralytics YOLO11 esportato nel formato NCNN. Immagine dell'autore.

Perché scegliere il rilevamento in tempo reale con NCNN#

Esplorando le varie integrazioni supportate da Ultralytics, potresti notare che sono disponibili diverse opzioni di esportazione. Quindi, quando dovresti scegliere il formato NCNN?

Il formato di esportazione NCNN è una scelta affidabile quando devi implementare modelli Ultralytics YOLO11 su dispositivi con risorse limitate. È particolarmente utile per le applicazioni in tempo reale che vengono eseguite direttamente sul dispositivo, come i dispositivi edge, senza richiedere una connessione al cloud. Ciò significa che il modello può gestire attività come il rilevamento degli oggetti direttamente sul posto.

Ecco alcuni scenari comuni in cui NCNN è particolarmente adatto:

• Implementazione su dispositivi mobili: il formato NCNN è ottimizzato per Android e iOS, rendendo semplice l'integrazione dei modelli nelle app mobili per un'inferenza rapida sul dispositivo con una latenza minima.

• Sistemi embedded e dispositivi IoT: se esegui l'implementazione su dispositivi come Raspberry Pi o NVIDIA Jetson, l'esportazione in NCNN può contribuire ad aumentare le prestazioni e la reattività.

• Implementazione su desktop e server: sebbene NCNN sia ideale per i dispositivi a basso consumo, supporta anche Linux, Windows e macOS per gli ambienti desktop e server. Questo offre agli sviluppatori opzioni flessibili per l'implementazione.

Fig. 3. Opzioni per l'implementazione del modello Ultralytics YOLO11 con NCNN. Immagine dell'autore.

Casi d'uso dell'implementazione del modello Ultralytics YOLO11 con NCNN#

Passiamo ora ad alcuni casi d'uso pratici in cui l'esportazione dei modelli Ultralytics YOLO11 in NCNN può fare davvero la differenza.

Caschi con computer vision per la lotta agli incendi#

I caschi di sicurezza dotati di telecamere e microcomputer embedded possono essere utilizzati in ambiti come l'edilizia e la lotta agli incendi per migliorare la sicurezza e la consapevolezza della situazione. Modelli di computer vision in tempo reale, come Ultralytics YOLO11, possono essere eseguiti su questi dispositivi per rilevare vari tipi di oggetti e attrezzature. Ad esempio, questi caschi possono aiutare i vigili del fuoco a rilevare persone, ostacoli o pericoli in condizioni di scarsa visibilità.

Tuttavia, eseguire modelli completi direttamente su dispositivi indossabili può causare prestazioni lente e scaricare rapidamente la batteria. In questo caso, utilizzare l'integrazione NCNN è una scelta intelligente. Consente un'inferenza a bassa latenza ed efficiente dal punto di vista energetico.

Classificazione dei rifiuti e bidoni intelligenti#

Analogamente, i bidoni intelligenti per rifiuti possono essere integrati con telecamere e processori edge compatti per identificare e smistare i materiali mentre vengono gettati. I modelli di computer vision come YOLO11 possono essere addestrati su misura per rilevare diversi tipi di materiali di scarto, come carta, plastica, gomma, ecc.

Una volta identificati, i rifiuti possono essere smistati automaticamente in scomparti separati in base alla loro riutilizzabilità. Utilizzando l'intelligenza artificiale edge insieme ai modelli Ultralytics YOLO11 esportati nel formato NCNN, questi bidoni possono elaborare i dati localmente, senza bisogno di una connessione Internet. Ciò consente loro di funzionare autonomamente e prendere decisioni di smistamento in tempo reale con un ritardo minimo.

Fig. 4. Rilevamento di materiali di scarto in plastica utilizzando YOLO11.

Monitoraggio del bestiame tramite droni e computer vision#

A volte, le aree agricole in località remote non hanno accesso a connessioni Internet stabili o persino a un'alimentazione elettrica costante, il che limita la loro capacità di eseguire applicazioni di intelligenza artificiale online. In questi casi, è possibile utilizzare dispositivi edge e droni per gestire una varietà di attività.

Un buon esempio è il monitoraggio del bestiame, come bovini, ovini e pollame. Ciò può essere realizzato utilizzando modelli di computer vision come YOLO11, che possono monitorare i movimenti degli animali, rilevare segnali di lesioni, malattie o comportamenti anomali e avvisare gli allevatori quando gli animali scompaiono. L'integrazione NCNN consente inoltre di eseguire ed elaborare questi dati direttamente sui dispositivi edge, risultando particolarmente adatta all'analisi di immagini e video nelle aziende agricole situate in aree remote o prive di collegamento alla rete elettrica.

Fig. 5. Uno sguardo all'utilizzo di YOLO11 per monitorare il bestiame.

Punti chiave#

Esportare i modelli YOLO11 utilizzando l'integrazione NCNN supportata da Ultralytics è un modo semplice per portare la computer vision negli ambienti a basso consumo. Che si tratti di droni nelle zone colpite da calamità, bidoni intelligenti per lo smistamento dei rifiuti o monitoraggio del bestiame in aziende agricole remote, YOLO e NCNN consentono inferenze di intelligenza artificiale in tempo reale rapide, efficienti e portabili. Questo approccio contribuisce a rendere i sistemi di intelligenza artificiale più accessibili e affidabili quando è più importante.

Vuoi saperne di più sull'intelligenza artificiale? Esplora il nostro repository GitHub, entra in contatto con la nostra community e consulta le nostre opzioni di licenza per avviare il tuo progetto di computer vision. Scopri come innovazioni come l'intelligenza artificiale nel commercio al dettaglio e la computer vision nel settore sanitario stanno plasmando il futuro nelle nostre pagine dedicate alle soluzioni.