Distribuisci senza problemi Ultralytics YOLO11 utilizzando l'integrazione MNN
Scopri come esportare e distribuire modelli Ultralytics YOLO11 con l'integrazione MNN per un'inferenza veloce su piattaforme mobili, embedded e a basso consumo.
Oggigiorno, le innovazioni nell'IA si sono espanse oltre gli ambienti server remoti. Le soluzioni di IA vengono integrate in dispositivi edge come sensori e smartphone. Grazie a questo cambiamento tecnologico, i dati possono ora essere gestiti direttamente dove vengono generati, permettendo risposte più rapide, una privacy migliorata e una ridotta dipendenza da una connettività cloud costante.
Di conseguenza, l'edge AI sta prendendo piede in molti settori. Si prevede che il mercato del software edge AI raggiunga gli 8,88 miliardi di dollari entro il 2031, man mano che un numero maggiore di sistemi si orienta verso un'elaborazione più rapida e locale.
In particolare, la computer vision, una branca dell'intelligenza artificiale che si concentra sulla comprensione di immagini e video, viene rapidamente adottata sull'edge. Dal conteggio dei prodotti alimentari durante il confezionamento all'aiuto ai veicoli nel rilevare i pedoni, la computer vision supporta innumerevoli applicazioni pratiche in diversi settori.
Ciò è reso possibile dai modelli di computer vision. Ad esempio, Ultralytics YOLO11 è un modello che supporta varie attività di vision AI come il rilevamento di oggetti, la segmentazione di istanze, il tracciamento di oggetti e la stima della posa. È progettato per essere veloce ed efficiente e offre ottime prestazioni su dispositivi con risorse hardware limitate.
Fig 1. Rilevamento e tracciamento di cibo durante il confezionamento tramite Ultralytics YOLO11 (Fonte).
Oltre a essere adatto per la distribuzione sull'edge, grazie alle diverse integrazioni supportate da Ultralytics, YOLO11 può essere esportato in vari formati idonei a differenti ambienti hardware.
Una delle opzioni più efficienti è MNN (Mobile Neural Network), un motore di inferenza leggero progettato per dispositivi a basse risorse. L'esportazione di Ultralytics YOLO11 in MNN consente l'esecuzione diretta su telefoni cellulari, sistemi embedded e altre piattaforme edge in cui l'elaborazione rapida on-device è essenziale.
In questo articolo esploreremo il funzionamento dell'integrazione MNN, metteremo in evidenza i casi d'uso più comuni e vedremo come iniziare a eseguire inferenze utilizzando un modello Ultralytics YOLO11 esportato. Cominciamo!
Una panoramica di MNN: Un framework di deep learning#
Eseguire modelli di computer vision su dispositivi più piccoli come telefoni cellulari, sensori industriali e sistemi portatili non è sempre semplice. Questi dispositivi spesso dispongono di memoria limitata, processori più lenti e rigidi limiti di consumo energetico.
La Mobile Neural Network, o MNN, è un motore di inferenza leggero e ad alte prestazioni sviluppato da Alibaba per far funzionare i modelli di IA in modo efficiente su hardware con poche risorse, mantenendo prestazioni in tempo reale. MNN supporta una vasta gamma di piattaforme, inclusi Android, iOS e Linux, e funziona su diversi tipi di hardware come central processing units (CPU) e graphics processing units (GPU).
Fig 2. Uno sguardo al framework MNN (Fonte).
L'integrazione MNN supportata da Ultralytics rende possibile esportare facilmente i modelli YOLO11 nel formato MNN. In poche parole, questo significa che i modelli possono essere convertiti dal formato YOLO a MNN.
Una volta convertiti, possono essere distribuiti su dispositivi che supportano il framework MNN per un'inferenza efficiente on-device. Un vantaggio chiave dell'utilizzo del formato MNN è che semplifica la distribuzione di Ultralytics YOLO11 in scenari in cui dimensioni, velocità ed efficienza delle risorse sono critiche.
Caratteristiche chiave del backend di inferenza MNN#
Prima di addentrarci su come utilizzare l'integrazione MNN, diamo un'occhiata a ciò che rende il framework MNN un'ottima scelta per eseguire modelli di IA su dispositivi reali. È costruito per gestire i vincoli unici degli ambienti edge pur offrendo prestazioni veloci e affidabili.
È interessante notare che MNN viene utilizzato internamente ad Alibaba in oltre 30 applicazioni, tra cui Taobao, Tmall, Youku, DingTalk e Xianyu, in un'ampia gamma di scenari come video in diretta, contenuti brevi, ricerca di immagini e controlli di sicurezza on-device. Supporta il deployment su larga scala ed esegue milioni di inferenze al giorno in ambienti di produzione.
Ecco alcune delle caratteristiche chiave del framework MNN:
- Selezione automatica del backend: MNN può scegliere automaticamente il backend di esecuzione più adatto, come CPU o GPU, in base all'hardware su cui è in esecuzione.
- Esecuzione multithread: supporta il multithreading, consentendo di sfruttare appieno i processori multicore per un'inferenza più rapida.
- Supporta la quantizzazione del modello: Ti consente di ridurre significativamente le dimensioni del modello utilizzando la quantizzazione FP16 o INT8, aiutando a migliorare la velocità di inferenza e utilizzando meno memoria.
- Leggero e veloce: MNN ha un ingombro molto ridotto, con la libreria principale di circa 400 KB su Android e circa 5 MB su iOS, il che lo rende ideale per dispositivi mobili ed embedded.
Capire come funziona l'integrazione MNN#
Successivamente, vedremo come esportare i modelli Ultralytics YOLO11 nel formato MNN.
Il primo passo consiste nell'installare il pacchetto Python di Ultralytics, che fornisce tutto il necessario per esportare i modelli YOLO11 nel formato MNN. Puoi farlo eseguendo "pip install ultralytics" nel terminale o utilizzando il prompt dei comandi. Se usi un Jupyter Notebook o Google Colab, aggiungi un punto esclamativo prima del comando.
In caso di problemi durante l'installazione, fai riferimento alla guida sui problemi comuni per suggerimenti sulla risoluzione dei problemi.
Una volta configurato il tuo ambiente, puoi caricare un modello YOLO11 pre-addestrato come "yolo11n.pt" ed esportarlo nel formato MNN come mostrato nel frammento di codice qui sotto. Se hai addestrato il tuo modello YOLO11 personalizzato, puoi esportarlo semplicemente sostituendo il nome del file con il percorso del tuo modello.
from ultralytics import YOLO
model = YOLO("yolo11n.pt")
model.export(format="mnn")Dopo aver convertito il tuo modello in MNN, puoi usarlo su diverse piattaforme mobili ed embedded a seconda delle esigenze della tua applicazione.
Ad esempio, supponi di voler testare il modello esportato su un video del traffico. In tal caso, puoi caricare il modello Ultralytics YOLO11 in formato MNN per rilevare oggetti come veicoli, pedoni e cartelli stradali direttamente sul dispositivo, come mostrato nell'esempio sottostante.
mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)Al termine dell'inferenza, il video di output con gli oggetti rilevati viene salvato automaticamente nella cartella 'runs/detect/predict'. Inoltre, se desideri eseguire l'inferenza utilizzando direttamente il pacchetto Python di MNN, puoi consultare la documentazione ufficiale di Ultralytics per maggiori dettagli ed esempi.
Fig 3. Analisi del traffico tramite un modello Ultralytics YOLO11 esportato nel formato MNN. Immagine dell'autore.
Casi d'uso del deployment di modelli di edge AI abilitato da Ultralytics YOLO11 e MNN#
La distribuzione di Ultralytics YOLO11 con MNN consente attività di computer vision rapide ed efficienti come il rilevamento di oggetti in ambienti in cui l'elaborazione basata su cloud non è pratica o possibile. Vediamo come questa integrazione può essere particolarmente utile in scenari del mondo reale.
Edge AI mobile per l'identificazione delle malattie delle piante#
Le app per l'identificazione delle malattie delle piante che utilizzano la classificazione delle immagini stanno guadagnando popolarità tra giardinieri, ricercatori e appassionati di natura. Con una sola foto, gli utenti possono identificare rapidamente i primi segni di malattia, come macchie sulle foglie o alterazioni di colore. Poiché queste app vengono spesso utilizzate in aree all'aperto in cui l'accesso a Internet può essere limitato o non disponibile, affidarsi all'elaborazione cloud può rivelarsi inaffidabile.
Dopo l'addestramento, un modello Ultralytics YOLO11 può essere esportato nel formato MNN ed eseguito direttamente su dispositivi mobili. Il modello può quindi classificare specie vegetali e rilevare sintomi visibili di malattie localmente, senza inviare alcun dato a un server.
Fig 4. Un esempio di utilizzo di YOLO11 per rilevare segni di ruggine (una malattia delle piante) su una foglia (Fonte).
Inferenze on-device efficienti nella produzione#
Il tracciamento accurato dei pacchi è essenziale sulle frenetiche linee di produzione negli impianti di produzione. Ultralytics YOLO11 può essere utilizzato per tracciarli e contarli mentre passano attraverso punti di controllo chiave, aggiornando i conteggi in tempo reale e segnalando eventuali discrepanze. Questo aiuta a ridurre le spedizioni perse o non registrate e supporta operazioni più fluide e affidabili.
Fig 5. Tracciamento e conteggio dei pacchi tramite YOLO11 (Fonte).
L'integrazione MNN può avere un impatto particolarmente forte in questo contesto. Una volta che il modello Ultralytics YOLO11 è stato esportato nel formato MNN, può essere eseguito direttamente su dispositivi compatti e a basso consumo installati lungo il nastro trasportatore.
Poiché tutta l'elaborazione avviene localmente, il sistema può fornire un feedback istantaneo e non richiede alcuna connessione a Internet. Ciò garantisce prestazioni veloci e affidabili in fabbrica, mantenendo la produzione in movimento in modo efficiente e preservando un'elevata precisione e controllo.
Vantaggi dell'esportazione di Ultralytics YOLO11 nel formato modello MNN#
Ecco alcuni vantaggi chiave dell'integrazione MNN fornita da Ultralytics:
- Tempi di risposta più rapidi: Poiché l'inferenza viene eseguita sul dispositivo, le previsioni avvengono in tempo reale con una latenza minima.
- Privacy dei dati migliorata: i dati rimangono sul dispositivo, riducendo la necessità di inviare immagini o video sensibili al cloud.
- Open-source e attivamente mantenuto: Supportato da Alibaba e sostenuto da una comunità attiva, MNN è affidabile e aggiornato regolarmente con miglioramenti delle prestazioni.
Fattori da considerare quando si utilizza il framework MNN#
Prima di scegliere MNN come framework di deployment, è anche importante valutare quanto si adatta ai requisiti del tuo progetto, agli obiettivi di deployment e ai limiti tecnici. Ecco alcuni fattori chiave da considerare:
- Compatibilità continua: Gli aggiornamenti del framework o le modifiche alle tue piattaforme di destinazione potrebbero richiedere nuovi test o adattamenti per far sì che tutto funzioni senza intoppi.
- Meno strumenti di debug: Rispetto a framework più grandi, MNN ha strumenti più limitati per il debug e l'ispezione del comportamento del modello, il che può rendere più difficile la risoluzione dei problemi.
- Le prestazioni dipendono dall'hardware: La velocità e l'efficienza del tuo modello varieranno a seconda del dispositivo. Testa il tuo hardware di destinazione per assicurarti che soddisfi i tuoi obiettivi di prestazione.
Punti chiave#
Il supporto di Ultralytics per l'integrazione MNN rende facile esportare i modelli YOLO11 per l'uso su dispositivi mobili ed embedded. È un'opzione pratica per le applicazioni che richiedono un rilevamento veloce e affidabile senza dipendere dall'accesso al cloud o da una connettività costante.
Questa configurazione aiuta a semplificare la distribuzione mantenendo al contempo le prestazioni e riducendo al minimo le richieste di risorse. Che tu stia creando sistemi smart home, strumenti da campo o dispositivi industriali compatti, l'esportazione di Ultralytics YOLO11 in MNN offre un modo flessibile ed efficiente per eseguire attività di computer vision direttamente su dispositivi edge.
Unisciti alla nostra crescente community! Esplora il nostro repository GitHub per approfondire l'intelligenza artificiale. Pronto a iniziare i tuoi progetti di computer vision? Scopri le nostre opzioni di licenza. Scopri di più sull'intelligenza artificiale nella sanità e sulla computer vision nel settore retail visitando le nostre pagine dedicate alle soluzioni!
