Compilazione e quantizzazione di Ultralytics YOLOv5 per prestazioni migliori con Deci
Ottimizza e distribuisci i modelli Ultralytics YOLOv5 con la piattaforma di Deci, migliorando le prestazioni fino a 10 volte. Inizia gratuitamente e sfrutta l'ottimizzazione automatica dei modelli.

Noi di Ultralytics collaboriamo commercialmente con altre startup per contribuire a finanziare la ricerca e lo sviluppo dei nostri straordinari strumenti open source, come YOLOv5, così da mantenerli gratuiti per tutti. Questo articolo può contenere link affiliati a tali partner.
La piattaforma Deci include strumenti gratuiti per gestire, ottimizzare e distribuire facilmente i tuoi modelli YOLOv5 in qualsiasi ambiente di produzione. Deci supporta tutti i framework DL più diffusi, come TensorFlow, PyTorch, Keras e ONNX. Ti basta usare la nostra piattaforma basata sul Web o il nostro client Python per eseguire il tutto dal tuo codice.
Perché Deci?#
Puoi usare Deci non solo per esportare il modello, ma anche per applicarvi il pruning e la quantizzazione!
Deci offre un'interfaccia intuitiva per esportare in qualsiasi formato e confrontare le prestazioni dei modelli originale e convertito. Gli utenti possono ottimizzare ulteriormente i propri modelli tramite la quantizzazione.
Con Deci puoi:#
Migliorare le prestazioni dell'inferenza fino a 10 volte#
Compilare e quantizzare automaticamente i tuoi modelli e valutare diverse configurazioni di produzione per ottenere una latenza e un throughput migliori, oltre a ridurre le dimensioni del modello e l'occupazione di memoria sul tuo hardware.
Trovare l'hardware di inferenza migliore per la tua applicazione#
Eseguire con un clic il benchmark delle prestazioni del tuo modello su diversi dispositivi hardware, inclusi quelli edge. Elimina la necessità di configurare e testare manualmente molteplici configurazioni hardware e di produzione.
Distribuire con poche righe di codice#
Sfrutta il motore di inferenza di Deci basato su Python. Compatibile con diversi framework e tipi di hardware.
Per maggiori informazioni sulla piattaforma Deci, visita il sito web di Deci.
Configurazione iniziale#
Passaggio 1#
Apri il tuo account gratuito.

Passaggio 2#
Per iniziare a ottimizzare il tuo modello YOLOv5 preaddestrato, devi convertirlo nel formato ONNX. Consulta il tutorial sull'esportazione di YOLOv5 per scoprire come convertire il tuo modello nel formato ONNX.
Passaggio 3#
Vai alla scheda "Lab" e fai clic sul pulsante "New Model" nell'angolo in alto a destra dello schermo per caricare il tuo modello YOLOv5 ONNX.

Segui i passaggi della procedura guidata per il caricamento del modello per selezionare l'hardware di destinazione, nonché la dimensione del batch e il livello di quantizzazione desiderati per la compilazione del modello.

Dopo aver inserito le informazioni pertinenti, fai clic su "Start". La piattaforma Deci eseguirà automaticamente un'ottimizzazione a runtime del tuo modello Ultralytics YOLOv5 per l'hardware selezionato e valuterà il tuo modello su diversi tipi di hardware. Questo processo richiede circa 10 minuti.
Al termine, sullo schermo comparirà una nuova riga sotto il modello di riferimento che avevi caricato in precedenza. Qui puoi vedere la versione ottimizzata del tuo modello Ultralytics YOLOv5 preaddestrato.

E adesso?#
Puoi quindi scaricare il modello ottimizzato facendo clic sul pulsante "Deploy".

Ti verrà quindi chiesto di scaricare il modello e riceverai le istruzioni per installare e utilizzare Infery, il motore di inferenza a runtime di Deci.
L'uso di Infery è facoltativo. Puoi ottenere i file sorgente Python e usarli con qualsiasi altro motore di inferenza di tua scelta.

Esplora i risultati dell'ottimizzazione e dei benchmark nella scheda "Insights".

Pronto per iniziare?#
Prima di concludere, vediamo alcuni dei vantaggi offerti da Deci:
- Ottimizza il throughput e la latenza dell'inferenza del tuo modello senza compromettere la precisione
- Ti permette di ottimizzare modelli basati su tutti i framework più diffusi
- Supporta modelli destinati a qualsiasi attività di deep learning
- Supporta la distribuzione su macchine CPU e GPU diffuse
- Valuta l'idoneità del tuo modello su diversi host hardware e provider cloud
- Prepara i modelli caricati per il serving, l'inferenza e la distribuzione
Come hai appena visto, puoi raddoppiare le prestazioni di un modello Ultralytics YOLOv5 in soli 15 minuti complessivi. La piattaforma Deci è estremamente semplice e intuitiva da usare.
Hai domande? Unisciti alla nostra community e lascia oggi stesso la tua domanda!









