Compiler et quantifier Ultralytics YOLOv5 pour de meilleures performances avec Deci
Optimise et déploie tes modèles Ultralytics YOLOv5 avec la plateforme de Deci, en améliorant leurs performances jusqu’à 10 fois. Commence gratuitement et profite de l’optimisation automatique des modèles.
Chez Ultralytics, nous collaborons commercialement avec d'autres startups pour nous aider à financer la recherche et le développement de nos excellents outils open source, comme YOLOv5, afin de les maintenir gratuits pour tout le monde. Cet article peut contenir des liens affiliés vers ces partenaires.
La plateforme Deci inclut des outils gratuits pour gérer, optimiser et déployer facilement tes modèles YOLOv5 dans n’importe quel environnement de production. Deci prend en charge tous les frameworks de DL courants, notamment TensorFlow, PyTorch, Keras et ONNX. Tout ce dont tu as besoin, c’est de notre plateforme Web ou de notre client Python pour l’exécuter depuis ton code.
Pourquoi Deci0?#
Tu peux utiliser Deci non seulement pour exporter ton modèle, mais aussi pour l’élaguer et le quantifier0!
Deci fournit une interface pratique pour exporter dans n’importe quel format et comparer les performances des modèles d’origine et convertis. Les utilisateurs peuvent ensuite optimiser leurs modèles grâce à la quantification.
Avec Deci, tu peux0:#
Améliorer les performances d’inférence jusqu’à 10�fois#
Compiler et quantifier automatiquement tes modèles, puis évaluer différents paramètres de production afin d’obtenir une meilleure latence, un meilleur débit, ainsi qu’une réduction de la taille du modèle et de son empreinte mémoire sur ton matériel.
Trouver le meilleur matériel d’inférence pour ton application#
Évaluer en un clic les performances de ton modèle sur différents appareils matériels, notamment des appareils edge. Évite d’avoir à configurer et tester manuellement plusieurs configurations matérielles et paramètres de production.
Déployer avec quelques lignes de code#
Tire parti du moteur d’inférence de Deci basé sur Python. Compatible avec plusieurs frameworks et types de matériel.
Pour plus d’informations sur la plateforme Deci, consulte le site Web de Deci.
Première configuration#
Étape 1#
Ouvre ton compte gratuit.
Étape 2#
Pour commencer à optimiser ton modèle YOLOv5 préentraîné, tu dois le convertir au format ONNX. Consulte le tutoriel d’exportation de YOLOv5 pour savoir comment convertir ton modèle au format ONNX.
Étape 3#
Accède à l’onglet « Lab » et clique sur le bouton « New Model » en haut à droite de l’écran pour importer ton modèle YOLOv5 au format ONNX.
Suis les étapes de l’assistant d’importation du modèle pour sélectionner ton matériel cible, ainsi que la taille de lot et le niveau de quantification souhaités pour la compilation du modèle.
Après avoir renseigné les informations pertinentes, clique sur « Start ». La plateforme Deci optimisera automatiquement l’exécution de ton modèle Ultralytics YOLOv5 pour le matériel sélectionné et évaluera également ton modèle sur différents types de matériel. Ce processus prend environ 10 minutes.
Une fois le processus terminé, une nouvelle ligne apparaîtra à l’écran sous le modèle de référence que tu as précédemment importé. Tu peux y voir la version optimisée de ton modèle Ultralytics YOLOv5 préentraîné.
Et ensuite�A?#
Tu peux ensuite télécharger ton modèle optimisé en cliquant sur le bouton « Deploy ».
Tu seras ensuite invité à télécharger ton modèle et tu recevras des instructions sur l’installation et l’utilisation d’Infery, le moteur d’inférence à l’exécution de Deci.
L’utilisation d’Infery est facultative. Tu peux récupérer les fichiers Python bruts et les utiliser avec n’importe quel autre moteur d’inférence de ton choix.
Explore les résultats d’optimisation et d’évaluation dans l’onglet « Insights ».
Prêt à commencer�A?#
Avant de conclure, examinons quelques-uns des avantages offerts par Deci�A:
- Optimise le débit et la latence d’inférence de ton modèle sans compromettre sa précision
- Te permet d’optimiser des modèles issus de tous les frameworks courants
- Prend en charge les modèles destinés à toutes les tâches d’apprentissage profond
- Prend en charge le déploiement sur les machines CPU et GPU courantes
- Évalue l’adéquation de ton modèle sur différents hôtes matériels et fournisseurs cloud
- Prépare les modèles importés pour le serving, l’inférence et le déploiement
Comme tu viens de le voir, tu peux doubler les performances d’un modèle Ultralytics YOLOv5 en 15 minutes au total. La plateforme Deci est très facile et intuitive à utiliser.
Tu as des questions�A? Rejoins notre communauté et pose ta question dès aujourd’hui�A!
