26 ottobre 2022
Ottimizza e distribuisci i modelli Ultralytics YOLOv5 con la piattaforma Deci, migliorando le prestazioni fino a 10 volte. Inizia gratuitamente e sfrutta l'ottimizzazione automatica del modello.
In Ultralytics collaboriamo commercialmente con altre startup per aiutarci a finanziare la ricerca e lo sviluppo dei nostri fantastici strumenti open source, come YOLOv5, per mantenerli gratuiti per tutti. Questo articolo può contenere link di affiliazione a tali partner.
La piattaforma Deci include strumenti gratuiti per gestire, ottimizzare e distribuire facilmente i tuoi modelli YOLOv5 in qualsiasi ambiente di produzione. Deci supporta tutti i framework DL più diffusi, come TensorFlow, PyTorch, Keras e ONNX. Tutto ciò di cui hai bisogno è la nostra piattaforma basata sul web o il nostro client Python per eseguirlo dal tuo codice.
Puoi usare Deci non solo per l'esportazione, ma anche per il pruning e la quantizzazione del modello!
Deci fornisce una comoda interfaccia per l'esportazione in qualsiasi formato e per il confronto delle prestazioni tra i modelli originali e quelli convertiti. Gli utenti possono scegliere di ottimizzare ulteriormente i propri modelli tramite la quantizzazione.
Compila e quantizza automaticamente i tuoi modelli e valuta diverse impostazioni di produzione per ottenere una migliore latenza, throughput e riduzione delle dimensioni del modello e dell'impronta di memoria sull'hardware.
Valuta le prestazioni del tuo modello su vari dispositivi hardware (incluso l'edge) con un pulsante. Elimina la necessità di configurare e testare manualmente più impostazioni hardware e di produzione.
Sfrutta il motore di inferenza basato su Python di Deci. Compatibile con più framework e tipi di hardware.
Per maggiori informazioni sulla piattaforma Deci, visitare il sito web di Deci.
Apri il tuo account gratuito.
Per iniziare a ottimizzare il tuo modello YOLOv5 pre-addestrato, dovrai convertirlo in formato ONNX. Consulta il Tutorial sull'esportazione di YOLOv5 per istruzioni su come convertire il tuo modello in formato ONNX.
Vai alla scheda "Lab" e fai clic sul pulsante "New Model" nella parte superiore destra dello schermo per caricare il tuo modello ONNX YOLOv5.
Segui i passaggi della procedura guidata di caricamento del modello per selezionare l'hardware di destinazione, nonché la dimensione del batch e il livello di quantizzazione desiderati per la compilazione del modello.
Dopo aver inserito le informazioni pertinenti, fare clic su "Start". La piattaforma Deci eseguirà automaticamente un'ottimizzazione runtime del modello YOLOv5 per l'hardware selezionato, oltre a valutare il modello su vari tipi di hardware. Questo processo richiede circa 10 minuti.
Una volta completata l'operazione, sullo schermo apparirà una nuova riga sotto il modello di base caricato in precedenza. Qui è possibile visualizzare la versione ottimizzata del modello YOLOv5 pre-addestrato.
Puoi quindi scaricare il tuo modello ottimizzato facendo clic sul pulsante "Deploy".
Ti verrà quindi richiesto di scaricare il tuo modello e riceverai istruzioni su come installare e utilizzare Infery, il motore di inferenza runtime di Deci.
L'uso di Infery è facoltativo. Puoi ottenere i file raw python e usarli con qualsiasi altro motore di inferenza di tua scelta.
Esplora i risultati di ottimizzazione e benchmark nella scheda "Insights".
Prima di concludere, discutiamo alcuni dei vantaggi offerti da Deci:
Come avete appena visto, potete raddoppiare le prestazioni di un modello YOLOv5 in 15 minuti complessivi. La piattaforma Deci è estremamente facile e intuitiva da usare.
Avete domande? Unitevi alla nostra community e lasciate la vostra domanda oggi stesso!
.webp)
