Facendo clic su "Accetta tutti i cookie", l'utente accetta la memorizzazione dei cookie sul proprio dispositivo per migliorare la navigazione del sito, analizzarne l'utilizzo e contribuire alle nostre iniziative di marketing. Per saperne di più
Impostazioni dei cookie
Facendo clic su "Accetta tutti i cookie", l'utente accetta la memorizzazione dei cookie sul proprio dispositivo per migliorare la navigazione del sito, analizzarne l'utilizzo e contribuire alle nostre iniziative di marketing. Per saperne di più
Ottimizzate e distribuite i modelli Ultralytics YOLOv5 con la piattaforma Deci, migliorando le prestazioni fino a 10 volte. Iniziate gratuitamente e sfruttate l'ottimizzazione automatica dei modelli.
In Ultralytics collaboriamo commercialmente con altre startup per aiutarci a finanziare la ricerca e lo sviluppo dei nostri fantastici strumenti open-source, come YOLOv5, per mantenerli gratuiti per tutti. Questo articolo può contenere link di affiliazione a tali partner.
La piattaforma Deci include strumenti gratuiti per gestire, ottimizzare e distribuire facilmente i modelli YOLOv5 in qualsiasi ambiente di produzione. Deci supporta tutti i framework DL più diffusi, come TensorFlow, PyTorch, Keras e ONNX. Tutto ciò di cui avete bisogno è la nostra piattaforma basata sul web o il nostro client Python per eseguirla dal vostro codice.
Perché Deci?
È possibile utilizzare Deci non solo per l'esportazione, ma anche per la potatura e la quantizzazione del modello!
Deci offre una bella interfaccia per l'esportazione in qualsiasi formato e il confronto delle prestazioni tra i modelli originali e quelli convertiti. Gli utenti possono scegliere di ottimizzare ulteriormente i loro modelli mediante quantizzazione.
Con Deci è possibile:
Miglioramento delle prestazioni di inferenza fino a 10 volte
Compilaree quantizzare automaticamente i modelli e valutare diverse impostazioni di produzione per ottenere una migliore latenza e riduzione delle dimensioni del modello e dell'ingombro di memoria sull'hardware.
Trovareil miglior hardware di inferenza per la vostra applicazione
Benchmarkdelle prestazioni del modello su vari dispositivi hardware (compresi quelli edge) con un solo pulsante. Elimina la necessità di configurare e testare manualmente diverse impostazioni hardware e di produzione.
Distribuirecon poche linee di codice
Sfruttateil motore di inferenza di Deci basato su python. Compatibile con diversi framework e tipi di hardware.
Per maggiori informazioni sulla Piattaforma Deci, visitate il sito web di Deci.
Prima impostazione
Passo 1
Aprite il vostro account gratuito.
Passo 2
Per iniziare a ottimizzare il modello YOLOv5 pre-addestrato, è necessario convertirlo in formato ONNX. Per istruzioni su come convertire il modello in formato ONNX, consultare l'esercitazione sull'esportazione di YOLOv5.
Passo 3
Accedere alla scheda "Lab" e fare clic sul pulsante "New Model" (Nuovo modello) nella parte superiore destra dello schermo per caricare il modello YOLOv5 ONNX.
Seguire i passaggi della procedura guidata di caricamento del modello per selezionare l'hardware di destinazione e le dimensioni del batch e il livello di quantizzazione desiderati per la compilazione del modello.
Dopo aver compilato le informazioni pertinenti, fare clic su "Start". La piattaforma Deci eseguirà automaticamente un'ottimizzazione runtime del modello YOLOv5 per l'hardware selezionato, nonché un benchmark del modello su vari tipi di hardware. Questo processo richiede circa 10 minuti.
Una volta fatto, sullo schermo apparirà una nuova riga sotto il modello di base caricato in precedenza. Qui è possibile vedere la versione ottimizzata del modello YOLOv5 pre-addestrato.
Cosa c'è dopo?
È quindi possibile scaricare il modello ottimizzato facendo clic sul pulsante "Deploy".
Verrà quindi richiesto di scaricare il modello e di ricevere istruzioni su come installare e utilizzare Infery, il motore di inferenza runtime di Deci.
L'uso di Infery è facoltativo. È possibile ottenere i file python grezzi e utilizzarli con qualsiasi altro motore di inferenza di propria scelta.
Esplorate i risultati dell'ottimizzazione e del benchmark nella scheda "Insights".
Pronti a iniziare?
Prima di concludere, analizziamo alcuni dei vantaggi offerti da Deci:
Ottimizzare il throughput e la latenza dell'inferenza del modello senza compromettere l'accuratezza
Consente di ottimizzare i modelli di tutti i framework più diffusi.
Supporta modelli mirati a qualsiasi attività di deep-learning
Supporta l'implementazione sui più diffusi computer con CPU e GPU
Eseguire benchmark per verificare l'idoneità del modello su diversi host hardware e fornitori di cloud.
Prepara i modelli caricati per il servizio, l'inferenza e la distribuzione.
Come avete appena visto, è possibile raddoppiare le prestazioni di un modello YOLOv5 in 15 minuti complessivi. La piattaforma Deci è super facile e intuitiva da usare.
Avete domande? Unitevi alla nostra comunità e lasciate la vostra domanda oggi stesso!