4 novembre 2025
Scoprite come esportare i modelli Ultralytics YOLO, come Ultralytics YOLO11, nel formato ExecuTorch per una distribuzione efficiente e nativa di PyTorch su dispositivi edge e mobili.
Alcune applicazioni di computer vision, come l'ispezione automatica della qualità, i droni autonomi o i sistemi di sicurezza intelligenti, ottengono le migliori prestazioni quando i modelli Ultralytics YOLO, come Ultralytics YOLO11, funzionano vicino al sensore che cattura le immagini. In altre parole, questi modelli devono elaborare i dati direttamente dove vengono generati, su telecamere, droni o sistemi embedded, anziché inviarli al cloud.
Questo approccio, noto come edge AI, consente ai modelli di eseguire inferenze direttamente sul dispositivo in cui vengono acquisiti i dati. Elaborando le informazioni a livello locale invece di affidarsi a server remoti, i sistemi possono ottenere una minore latenza, una maggiore privacy dei dati e una maggiore affidabilità, anche in ambienti con connettività Internet limitata o assente.
Ad esempio, una telecamera di produzione che ispeziona migliaia di prodotti al minuto o un drone che naviga in ambienti complessi non possono permettersi i ritardi dell'elaborazione in cloud. L'esecuzione di YOLO11 direttamente sul dispositivo consente un'inferenza istantanea e on-device.
Per rendere più semplice ed efficiente l'esecuzione dei modelli Ultralytics YOLO sull'edge, la nuova integrazione ExecuTorch supportata da Ultralytics offre un modo semplificato per esportare e distribuire i modelli direttamente su dispositivi mobili ed embedded. ExecuTorch fa parte dell'ecosistema PyTorch Edge e fornisce una soluzione end-to-end per l'esecuzione di modelli AI direttamente su hardware mobile ed edge, compresi telefoni, indossabili, schede embedded e microcontrollori.
Questa integrazione semplifica il passaggio di un modello Ultralytics YOLO, come YOLO11, dall'addestramento alla distribuzione su dispositivi edge. Combinando le capacità di visione di YOLO11 con il runtime leggero di ExecuTorch e la pipeline di esportazione di PyTorch, gli utenti possono distribuire modelli che funzionano in modo efficiente su hardware edge, preservando l'accuratezza e le prestazioni dell'inferenza basata su PyTorch.
In questo articolo vedremo più da vicino come funziona l'integrazione con ExecuTorch, perché è perfetta per le applicazioni di intelligenza artificiale e come potete iniziare a implementare i modelli YOLO di Ultralytics con ExecuTorch. Iniziamo!
In genere, quando si addestra un modello in PyTorch, questo viene eseguito su potenti server o unità di elaborazione grafica (GPU) nel cloud. Tuttavia, la distribuzione dello stesso modello su un dispositivo mobile o incorporato, come uno smartphone, un drone o un microcontrollore, richiede una soluzione specializzata in grado di gestire potenza di calcolo, memoria e connettività limitate.
Questo è esattamente ciò che ExecuTorch offre. ExecuTorch è una soluzione end-to-end sviluppata nell'ambito dell'ecosistema PyTorch Edge che consente un'efficiente inferenza on-device su piattaforme mobili, embedded ed edge. Estende le capacità di PyTorch oltre il cloud, consentendo l'esecuzione di modelli di intelligenza artificiale direttamente sui dispositivi locali.
ExecuTorch fornisce un runtime C++ leggero che consente di eseguire i modelli PyTorch direttamente sul dispositivo. ExecuTorch utilizza il formato di modello PyTorch ExecuTorch (.pte), un'esportazione ottimizzata progettata per un caricamento più rapido, un minore ingombro di memoria e una migliore portabilità.
Supporta XNNPACK come backend predefinito per un'inferenza efficiente dell'unità di elaborazione centrale (CPU) ed estende la compatibilità a un'ampia gamma di backend hardware, tra cui Core ML, Metal, Vulkan, Qualcomm, MediaTek, Arm EthosU, OpenVINO e altri.
Questi backend consentono un'accelerazione ottimizzata su dispositivi mobili, embedded ed edge specializzati. ExecuTorch si integra anche con la pipeline di esportazione PyTorch, fornendo il supporto per funzionalità avanzate come la quantizzazione e la gestione dinamica delle forme per migliorare le prestazioni e l'adattabilità in diversi ambienti di distribuzione.
La quantizzazione riduce le dimensioni del modello e aumenta la velocità di inferenza convertendo i valori ad alta precisione (come i float a 32 bit) in valori a bassa precisione, mentre la gestione dinamica delle forme viene utilizzata per consentire ai modelli di elaborare in modo efficiente input di dimensioni variabili. Entrambe le caratteristiche sono fondamentali per l'esecuzione di modelli di intelligenza artificiale su dispositivi edge con risorse limitate.
Oltre al suo runtime, ExecuTorch funge anche da livello di astrazione unificato per più backend hardware. In poche parole, astrae dai dettagli specifici dell'hardware e gestisce l'interazione dei modelli con le diverse unità di elaborazione, tra cui CPU, GPU e unità di elaborazione neurale (NPU).
Una volta esportato un modello, ExecuTorch può essere configurato per indirizzare il backend più adatto a un determinato dispositivo. Gli sviluppatori possono distribuire i modelli in modo efficiente su hardware diversi senza dover scrivere codice personalizzato specifico per il dispositivo o mantenere flussi di lavoro di conversione separati.
Grazie al suo design modulare e portatile e alla perfetta integrazione con PyTorch, ExecuTorch è un'ottima opzione per distribuire modelli di computer vision come Ultralytics YOLO11 su sistemi mobili ed embedded. Colma il divario tra l'addestramento del modello e l'implementazione nel mondo reale, rendendo l'IA di frontiera più veloce, più efficiente e più facile da implementare.
Prima di vedere come esportare i modelli Ultralytics YOLO nel formato ExecuTorch, analizziamo cosa rende ExecuTorch un'opzione affidabile per l'implementazione dell'IA in ambito edge.
Ecco un assaggio di alcune delle sue caratteristiche principali:
Ora che abbiamo capito meglio cosa offre ExecuTorch, vediamo come esportare i modelli YOLO di Ultralytics nel formato ExecuTorch.
Per iniziare, è necessario installare il pacchetto Ultralytics Python utilizzando pip, che è un programma di installazione di pacchetti. È possibile farlo eseguendo "pip install ultralytics" nel terminale o nel prompt dei comandi.
Se si lavora in un ambiente Jupyter Notebook o Google Colab, è sufficiente aggiungere un punto esclamativo prima del comando, come "!pip install ultralytics". Una volta installato, il pacchetto Ultralytics fornisce tutti gli strumenti necessari per addestrare, testare ed esportare modelli di computer vision, compreso Ultralytics YOLO11.
Se si riscontrano problemi durante l'installazione o l'esportazione del modello, la documentazione ufficiale di Ultralytics e la guida ai problemi comuni contengono i passaggi dettagliati per la risoluzione dei problemi e le migliori pratiche per aiutarvi a funzionare senza problemi.
Dopo aver installato il pacchetto Ultralytics, è possibile caricare una variante del modello YOLO11 ed esportarla nel formato ExecuTorch. Ad esempio, è possibile utilizzare un modello pre-addestrato come "yolo11n.pt" ed esportarlo richiamando la funzione export con il formato impostato su "executorch".
Viene creata una cartella denominata "yolo11n_executorch_model", che include il file del modello ottimizzato (.pte) e un file YAML di metadati separato, contenente dettagli importanti come le dimensioni dell'immagine e i nomi delle classi.
Ecco il codice per esportare il modello:
from ultralytics import YOLO
model = YOLO("yolo11n.pt")
model.export(format="executorch")
Una volta esportato, il modello è pronto per essere distribuito su dispositivi edge e mobili utilizzando il runtime ExecuTorch. Il file del modello .pte esportato può essere caricato nell'applicazione per eseguire l'inferenza in tempo reale, sul dispositivo, senza bisogno di una connessione al cloud.
Ad esempio, lo snippet di codice qui sotto mostra come caricare il modello esportato ed eseguire l'inferenza. L'inferenza significa semplicemente usare un modello addestrato per fare previsioni su nuovi dati. In questo caso, il modello viene testato su un'immagine di un autobus presa da un URL pubblico.
executorch_model = YOLO("yolo11n_executorch_model")
results = executorch_model.predict("https://ultralytics.com/images/bus.jpg", save=True)
Dopo l'esecuzione del codice, l'immagine di output con gli oggetti rilevati viene salvata nella cartella "runs/detect/predict".
Esplorando le diverse opzioni di esportazione supportate da Ultralytics, ci si potrebbe chiedere cosa renda unica l'integrazione con ExecuTorch. La differenza fondamentale è la combinazione di prestazioni, semplicità e flessibilità, che consente di distribuire con facilità potenti modelli di intelligenza artificiale direttamente sui dispositivi mobili ed edge.
Ecco alcuni dei principali vantaggi dell'integrazione con ExecuTorch:
Recentemente, Ultralytics è stata riconosciuta come una storia di successo di PyTorch ExecuTorch, evidenziando il nostro supporto iniziale per l'inferenza su dispositivo e i nostri contributi continui all'ecosistema PyTorch. Questo riconoscimento riflette l'obiettivo comune di rendere l'IA ad alte prestazioni più accessibile sulle piattaforme mobili ed edge.
In pratica, si tratta di soluzioni Vision AI che funzionano in modo efficiente su qualsiasi dispositivo, dagli smartphone ai sistemi embedded. Ad esempio, nel settore manifatturiero, i dispositivi edge svolgono un ruolo cruciale nel monitoraggio delle linee di produzione e nel rilevamento dei difetti in tempo reale.
Invece di inviare le immagini o i dati dei sensori al cloud per l'elaborazione, che può introdurre ritardi e dipendere dalla connettività Internet, l'integrazione di ExecuTorch consente ai modelli YOLO11 di essere eseguiti direttamente sull'hardware locale. Ciò significa che le fabbriche possono rilevare istantaneamente i problemi di qualità, ridurre i tempi di inattività e mantenere la privacy dei dati, il tutto operando con risorse di calcolo limitate.
Ecco alcuni altri esempi di applicazione dell'integrazione di ExecuTorch e dei modelli YOLO di Ultralytics:
L'esportazione dei modelli Ultralytics YOLO nel formato ExecuTorch semplifica la distribuzione dei modelli di computer vision su molti dispositivi, tra cui smartphone, tablet e sistemi embedded come Raspberry Pi. Ciò significa che è possibile eseguire un'inferenza ottimizzata sul dispositivo senza dipendere dalla connettività cloud, migliorando la velocità, la privacy e l'affidabilità.
Oltre a ExecuTorch, Ultralytics supporta un'ampia gamma di integrazioni, tra cui TensorRT, OpenVINO, CoreML e altre ancora, offrendo agli sviluppatori la flessibilità di eseguire i propri modelli su più piattaforme. Con la crescita dell'adozione di Vision AI, queste integrazioni semplificano l'implementazione di sistemi intelligenti costruiti per funzionare in modo efficiente in condizioni reali.
Siete curiosi di conoscere l'intelligenza artificiale? Consultate il nostro repository GitHub, unitevi alla nostra comunità ed esplorate le nostre opzioni di licenza per dare il via al vostro progetto Vision AI. Per saperne di più su innovazioni come l'IA nella vendita al dettaglio e la computer vision nella logistica, visitate le nostre pagine dedicate alle soluzioni.
.webp)