Yolo Vision Shenzhen
Shenzhen
Iscriviti ora

Esegui il deployment di Ultralytics YOLO11 in modo fluido utilizzando l'integrazione MNN

Abirami Vina

4 minuti di lettura

25 giugno 2025

Scopri come esportare e distribuire i modelli Ultralytics YOLO11 con l'integrazione MNN per un'inferenza rapida su piattaforme mobili, embedded e a bassa potenza.

Oggigiorno, le innovazioni dell'IA si sono estese oltre gli ambienti server remoti. Le soluzioni di IA vengono integrate in dispositivi edge come sensori e smartphone. Grazie a questo cambiamento tecnologico, i dati possono ora essere gestiti direttamente dove vengono generati, consentendo risposte più rapide, una maggiore privacy e una minore dipendenza dalla connettività cloud costante.

Di conseguenza, l'edge AI sta guadagnando terreno in molti settori. Si prevede che il mercato del software edge AI raggiungerà gli 8,88 miliardi di dollari entro il 2031, man mano che sempre più sistemi si spostano verso un'elaborazione più rapida e locale.

In particolare, la computer vision, una branca dell'IA che si concentra sulla comprensione di immagini e video, si sta diffondendo rapidamente all'edge. Dal conteggio degli alimenti durante il confezionamento all'aiuto ai veicoli per rilevare i pedoni, la computer vision supporta innumerevoli applicazioni pratiche in diversi settori.

Ciò è reso possibile attraverso modelli di computer vision. Ad esempio, Ultralytics YOLO11 è un modello che supporta varie attività di Vision AI come il rilevamento di oggetti, la segmentazione di istanze, il tracciamento di oggetti e la stima della posa. È progettato per essere veloce ed efficiente e funziona bene su dispositivi con risorse hardware limitate.

Fig. 1. Rilevamento e tracciamento di alimenti confezionati tramite YOLO11 (Fonte).

Oltre ad essere adatto per il deployment edge, attraverso le varie integrazioni supportate da Ultralytics, YOLO11 può essere esportato in vari formati adatti a diversi ambienti hardware. 

Una delle opzioni più efficienti è MNN (Mobile Neural Network), un motore di inferenza leggero progettato per dispositivi con risorse limitate. L'esportazione di YOLOv8 in MNN consente l'esecuzione diretta su telefoni cellulari, sistemi embedded e altre piattaforme edge dove l'elaborazione rapida e on-device è essenziale.

In questo articolo esploreremo come funziona l'integrazione MNN, evidenzieremo i casi d'uso comuni e illustreremo come iniziare a eseguire inferenze utilizzando un modello YOLO11 esportato. Iniziamo!

Una panoramica di MNN: un framework di deep learning

Eseguire modelli di computer vision su dispositivi più piccoli come telefoni cellulari, sensori industriali e sistemi portatili non è sempre semplice. Questi dispositivi hanno spesso memoria limitata, processori più lenti e limiti di potenza rigorosi. 

Mobile Neural Network, o MNN, è un motore di inferenza leggero e ad alte prestazioni sviluppato da Alibaba per far funzionare in modo efficiente i modelli di IA su hardware con risorse limitate, mantenendo al contempo prestazioni in tempo reale. MNN supporta un'ampia gamma di piattaforme, tra cui Android, iOS e Linux, e funziona su una vasta gamma di tipi di hardware come unità di elaborazione centrale (CPU) e unità di elaborazione grafica (GPU).

Fig. 2. Uno sguardo al framework MNN (Fonte).

L'integrazione MNN supportata da Ultralytics rende possibile esportare facilmente i modelli YOLOv8 nel formato MNN. In parole semplici, questo significa che i modelli possono essere convertiti dal formato YOLO a MNN. 

Una volta convertiti, possono essere distribuiti su dispositivi che supportano il framework MNN per un'inferenza efficiente sul dispositivo. Un vantaggio fondamentale dell'utilizzo del formato MNN è che semplifica la distribuzione di YOLO11 in scenari in cui le dimensioni, la velocità e l'efficienza delle risorse sono fondamentali.

Caratteristiche principali del backend di inferenza MNN

Prima di esaminare come utilizzare l'integrazione MNN, vediamo cosa rende il framework MNN un'ottima scelta per l'esecuzione di modelli di IA su dispositivi reali. È progettato per gestire i vincoli specifici degli ambienti edge, offrendo al contempo prestazioni rapide e affidabili.

È interessante notare che MNN viene utilizzato internamente da Alibaba in oltre 30 applicazioni, tra cui Taobao, Tmall, Youku, DingTalk e Xianyu, in un'ampia gamma di scenari come video in diretta, contenuti brevi, ricerca di immagini e controlli di sicurezza sul dispositivo. Supporta implementazioni su larga scala ed esegue milioni di inferenze al giorno in ambienti di produzione.

Ecco alcune delle caratteristiche principali del framework MNN:

  • Selezione automatica del backend: MNN può scegliere automaticamente il backend di esecuzione più adatto, come CPU o GPU, in base all'hardware su cui è in esecuzione.
  • Esecuzione multi-thread: Supporta il multi-threading, consentendogli di sfruttare appieno i processori multicore per un'inferenza più rapida.
  • Supporta la quantizzazione del modello: Consente di ridurre significativamente le dimensioni del modello utilizzando la quantizzazione FP16 o INT8, contribuendo a migliorare la velocità di inferenza utilizzando meno memoria.
  • Leggero e veloce: MNN ha un ingombro molto ridotto, con la libreria principale di circa 400 KB su Android e circa 5 MB su iOS, il che lo rende ideale per dispositivi mobili e embedded.

Comprendere come funziona l'integrazione MNN

Successivamente, esaminiamo come esportare i modelli YOLO11 nel formato MNN.

Il primo passo è installare il pacchetto Python Ultralytics, che fornisce tutto il necessario per esportare i modelli YOLO11 nel formato MNN. Puoi farlo eseguendo "pip install ultralytics" sul tuo terminale o utilizzando il prompt dei comandi. Se stai utilizzando un Jupyter Notebook o Google Colab, aggiungi un punto esclamativo prima del comando.

In caso di problemi durante l'installazione, consulta la guida ai problemi comuni per suggerimenti sulla risoluzione dei problemi.

Una volta configurato l'ambiente, è possibile caricare un modello YOLO11 pre-addestrato come "yolo11n.pt" ed esportarlo nel formato MNN come mostrato nel frammento di codice sottostante. Se hai addestrato il tuo modello YOLO11 personalizzato, puoi esportarlo semplicemente sostituendo il nome del file con il percorso del tuo modello.

from ultralytics import YOLO
model = YOLO("yolo11n.pt")
model.export(format="mnn")

Dopo aver convertito il tuo modello in MNN, puoi utilizzarlo su diverse piattaforme mobili ed embedded a seconda delle tue esigenze applicative.

Ad esempio, supponiamo di voler testare il modello esportato su un video del traffico. In tal caso, è possibile caricare il modello YOLO11 in formato MNN per rilevare oggetti come veicoli, pedoni e segnali stradali direttamente sul dispositivo, come mostrato nell'esempio seguente.

mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)

Al termine dell'inferenza, il video di output con gli oggetti rilevati viene salvato automaticamente nella cartella 'runs/detect/predict'. Inoltre, se desideri eseguire l'inferenza utilizzando direttamente il pacchetto MNN Python, puoi consultare la documentazione ufficiale di Ultralytics per maggiori dettagli ed esempi.

Fig. 3. Analisi del traffico utilizzando un modello YOLO11 esportato in formato MNN. Immagine dell'autore.

Casi d'uso di implementazione di modelli edge AI abilitati da YOLO11 e MNN

L'implementazione di YOLO11 con MNN consente attività di computer vision veloci ed efficienti come il rilevamento di oggetti in ambienti in cui l'elaborazione basata su cloud non è pratica o possibile. Vediamo come questa integrazione può essere particolarmente utile in scenari reali.

AI mobile edge per l'identificazione delle malattie delle piante

Le app per l'identificazione delle malattie delle piante che utilizzano la classificazione delle immagini stanno guadagnando popolarità tra giardinieri, ricercatori e appassionati di natura. Con una sola foto, gli utenti possono identificare rapidamente i primi segni di malattia, come macchie sulle foglie o scolorimento. Poiché queste app vengono spesso utilizzate in aree esterne dove l'accesso a Internet potrebbe essere limitato o non disponibile, affidarsi all'elaborazione cloud può essere inaffidabile.

Dopo l'addestramento, un modello YOLO11 può essere esportato nel formato MNN ed eseguito direttamente su dispositivi mobili. Il modello può quindi classificare le specie vegetali e rilevare localmente i sintomi visibili della malattia, senza inviare alcun dato a un server. 

Fig. 4. Un esempio di utilizzo di YOLO11 per rilevare segni di ruggine (una malattia delle piante) su una foglia (Source).

Inferenze efficienti on-device nel settore manifatturiero

Il tracciamento accurato dei pacchi è essenziale sulle linee di produzione trafficate negli stabilimenti manifatturieri. YOLO11 può essere utilizzato per tracciare e contare ogni articolo mentre si sposta attraverso i checkpoint chiave, aggiornando i conteggi in tempo reale e segnalando eventuali discrepanze. Ciò contribuisce a ridurre le spedizioni perse o non contabilizzate e supporta operazioni più fluide e affidabili.

Fig. 5. Tracciamento e conteggio dei pacchi tramite YOLO11 (Fonte).

L'integrazione con MNN può essere particolarmente efficace in questo contesto. Una volta che il modello YOLOv8 viene esportato in formato MNN, può essere eseguito direttamente su dispositivi compatti a basso consumo installati lungo il nastro trasportatore. 

Poiché tutta l'elaborazione avviene localmente, il sistema è in grado di fornire un feedback istantaneo e non richiede alcuna connessione a Internet. Ciò garantisce prestazioni rapide e affidabili all'interno dello stabilimento, mantenendo la produzione in movimento in modo efficiente e preservando al contempo elevati livelli di accuratezza e controllo.

Vantaggi dell'esportazione di YOLO11 nel formato modello MNN

Ecco alcuni vantaggi chiave dell'integrazione MNN fornita da Ultralytics:

  • Tempi di risposta più rapidi: Poiché l'inferenza viene eseguita sul dispositivo, le predizioni avvengono in tempo reale con una latenza minima.
  • Maggiore privacy dei dati: I dati rimangono sul dispositivo, riducendo la necessità di inviare immagini o video sensibili al cloud.
  • Open-source e attivamente mantenuto: Supportato da Alibaba e supportato da una comunità attiva, MNN è affidabile e regolarmente aggiornato con miglioramenti delle prestazioni.

Fattori da considerare quando si utilizza il framework MNN

Prima di scegliere MNN come framework di deployment, è importante valutare anche quanto si adatti alle esigenze del tuo progetto, ai target di deployment e alle limitazioni tecniche. Ecco alcuni fattori chiave da considerare:

  • Compatibilità continua: Gli aggiornamenti del framework o le modifiche alle piattaforme di destinazione potrebbero richiedere nuovi test o modifiche per mantenere tutto in funzione senza problemi.
  • Meno strumenti di debug: Rispetto ai framework più grandi, MNN ha strumenti più limitati per il debug e l'ispezione del comportamento del modello, il che può rendere più difficile la risoluzione dei problemi.
  • Le prestazioni dipendono dall'hardware: La velocità e l'efficienza del tuo modello varieranno a seconda del dispositivo. Testa il tuo hardware di destinazione per assicurarti che soddisfi i tuoi obiettivi di prestazioni.

Punti chiave

Il supporto di Ultralytics per l'integrazione MNN semplifica l'esportazione di modelli YOLO11 per l'uso su dispositivi mobili e embedded. È un'opzione pratica per le applicazioni che richiedono un rilevamento rapido e affidabile senza dipendere dall'accesso al cloud o dalla connettività costante.

Questa configurazione aiuta a semplificare l'implementazione, mantenendo al contempo le prestazioni e riducendo al minimo le richieste di risorse. Che tu stia costruendo sistemi domestici intelligenti, strumenti da campo o dispositivi industriali compatti, l'esportazione di YOLO11 in MNN offre un modo flessibile ed efficiente per eseguire attività di computer vision direttamente sui dispositivi edge.

Unisciti alla nostra community in crescita! Esplora il nostro repository GitHub per approfondire la tua conoscenza dell'AI. Sei pronto per iniziare i tuoi progetti di computer vision? Scopri le nostre opzioni di licenza. Scopri di più sull'AI nel settore sanitario e sulla computer vision nel retail nelle nostre pagine delle soluzioni!

Costruiamo insieme il futuro
dell'AI!

Inizia il tuo viaggio con il futuro del machine learning

Inizia gratis
Link copiato negli appunti