26 ottobre 2022
Ottimizzate e distribuite i modelli Ultralytics YOLOv5 con la piattaforma Deci, migliorando le prestazioni fino a 10 volte. Iniziate gratuitamente e sfruttate l'ottimizzazione automatica dei modelli.
In Ultralytics collaboriamo commercialmente con altre startup per aiutarci a finanziare la ricerca e lo sviluppo dei nostri fantastici strumenti open-source, come YOLOv5, per mantenerli gratuiti per tutti. Questo articolo può contenere link di affiliazione a tali partner.
La piattaforma Deci include strumenti gratuiti per la gestione, l'ottimizzazione e la distribuzione dei vostri prodotti. YOLOv5 in qualsiasi ambiente di produzione. Deci supporta tutti i framework DL più diffusi, come TensorFlow, PyTorch, Keras e ONNX. Tutto ciò di cui avete bisogno è la nostra piattaforma basata sul web o il nostro client Python per eseguirla dal vostro codice.
Puoi usare Deci non solo per l'esportazione, ma anche per il pruning e la quantizzazione del modello!
Deci fornisce una comoda interfaccia per l'esportazione in qualsiasi formato e per il confronto delle prestazioni tra i modelli originali e quelli convertiti. Gli utenti possono scegliere di ottimizzare ulteriormente i propri modelli tramite la quantizzazione.
Compila e quantizza automaticamente i tuoi modelli e valuta diverse impostazioni di produzione per ottenere una migliore latenza, throughput e riduzione delle dimensioni del modello e dell'impronta di memoria sull'hardware.
Valuta le prestazioni del tuo modello su vari dispositivi hardware (incluso l'edge) con un pulsante. Elimina la necessità di configurare e testare manualmente più impostazioni hardware e di produzione.
Sfruttateil motore di inferenza di Deci python. Compatibile con diversi framework e tipi di hardware.
Per maggiori informazioni sulla piattaforma Deci, visitare il sito web di Deci.
Apri il tuo account gratuito.
Per iniziare a ottimizzare il modello YOLOv5 pre-addestrato, è necessario convertirlo in formato ONNX . Per istruzioni su come convertire il modello in formato ONNX , consultare l'esercitazione sull'esportazione diYOLOv5 .
Accedere alla scheda "Laboratorio" e fare clic sul pulsante "Nuovo modello" nella parte superiore destra dello schermo per caricare il proprio YOLOv5. YOLOv5 ONNX .
Segui i passaggi della procedura guidata di caricamento del modello per selezionare l'hardware di destinazione, nonché la dimensione del batch e il livello di quantizzazione desiderati per la compilazione del modello.
Dopo aver compilato le informazioni pertinenti, fare clic su "Start". La piattaforma Deci eseguirà automaticamente un'ottimizzazione runtime del modello YOLOv5 per l'hardware selezionato, nonché un benchmark del modello su vari tipi di hardware. Questo processo richiede circa 10 minuti.
Una volta fatto, sullo schermo apparirà una nuova riga sotto il modello di base caricato in precedenza. Qui è possibile vedere la versione ottimizzata del modello YOLOv5 pre-addestrato.
Puoi quindi scaricare il tuo modello ottimizzato facendo clic sul pulsante "Deploy".
Ti verrà quindi richiesto di scaricare il tuo modello e riceverai istruzioni su come installare e utilizzare Infery, il motore di inferenza runtime di Deci.
L'uso di Infery è facoltativo. È possibile ottenere i file python grezzi e utilizzarli con qualsiasi altro motore di inferenza di propria scelta.
Esplora i risultati di ottimizzazione e benchmark nella scheda "Insights".
Prima di concludere, discutiamo alcuni dei vantaggi offerti da Deci:
Come avete appena visto, è possibile raddoppiare le prestazioni di un modello YOLOv5 in 15 minuti complessivi. La piattaforma Deci è super facile e intuitiva da usare.
Avete domande? Unitevi alla nostra community e lasciate la vostra domanda oggi stesso!
.webp)