Compiler & Quantifier Ultralytics YOLOv5 pour de meilleures performances avec Deci
Optimise et déploie tes modèles Ultralytics YOLOv5 avec la plateforme de Deci, améliorant les performances jusqu'à 10x. Commence gratuitement et tire parti de l'optimisation automatique des modèles.
Chez Ultralytics, nous collaborons commercialement avec d'autres startups pour nous aider à financer la recherche et le développement de nos incroyables outils open-source, comme YOLOv5, afin de les garder gratuits pour tout le monde. Cet article peut contenir des liens d'affiliation vers ces partenaires.
La plateforme Deci inclut des outils gratuits pour gérer, optimiser et déployer facilement tes modèles YOLOv5 dans n'importe quel environnement de production. Deci prend en charge tous les frameworks DL populaires, tels que TensorFlow, PyTorch, Keras et ONNX. Tout ce dont tu as besoin est notre plateforme web ou notre client Python pour l'exécuter depuis ton code.
Link to this sectionPourquoi Deci ?#
Tu peux utiliser Deci non seulement pour l'exportation, mais aussi pour l'élagage et la quantification du modèle !
Deci fournit une interface agréable pour l'exportation dans n'importe quel format et la comparaison des performances entre les modèles originaux et convertis. Les utilisateurs choisissent d'optimiser davantage leurs modèles par la quantification.
Link to this sectionAvec Deci, tu peux :#
Link to this sectionAméliorer les performances d'inférence jusqu'à 10x#
Compiler et quantifier automatiquement tes modèles et évaluer différents paramètres de production pour obtenir une meilleure latence, un meilleur débit, et une réduction de la taille du modèle et de l'empreinte mémoire sur ton matériel.
Link to this sectionTrouver le meilleur matériel d'inférence pour ton application#
Évalue les performances de ton modèle sur divers appareils matériels (y compris Edge) en un clic. Élimine le besoin de configurer et de tester manuellement plusieurs paramètres matériels et de production.
Link to this sectionDéployer avec quelques lignes de code#
Tire parti du moteur d'inférence basé sur Python de Deci. Compatible avec de multiples frameworks et types de matériel.
Pour plus d'informations sur la plateforme Deci, visite le site web de Deci.
Link to this sectionConfiguration initiale#
Link to this sectionÉtape 1#
Ouvre ton compte gratuit.
Link to this sectionÉtape 2#
Pour commencer à optimiser ton modèle pré-entraîné YOLOv5, tu devras le convertir au format ONNX. Consulte le Tutoriel d'exportation YOLOv5 pour obtenir des instructions sur la façon de convertir ton modèle au format ONNX.
Link to this sectionÉtape 3#
Va sur l'onglet "Lab" et clique sur le bouton "New Model" dans la partie supérieure droite de l'écran pour télécharger ton modèle YOLOv5 ONNX.
Suis les étapes de l'assistant de téléchargement de modèle pour sélectionner ton matériel cible ainsi que la taille de lot souhaitée et le niveau de quantification pour la compilation du modèle.
Après avoir rempli les informations pertinentes, clique sur "Start". La plateforme Deci effectuera automatiquement une optimisation de ton modèle YOLOv5 pour le matériel que tu as sélectionné, et évaluera ton modèle sur différents types de matériel. Ce processus prend environ 10 minutes.
Une fois terminé, une nouvelle ligne apparaîtra sur ton écran sous le modèle de base que tu as précédemment téléchargé. Ici, tu peux voir la version optimisée de ton modèle pré-entraîné YOLOv5.
Link to this sectionEt ensuite ?#
Tu peux ensuite télécharger ton modèle optimisé en cliquant sur le bouton "Deploy".
Tu seras ensuite invité à télécharger ton modèle et tu recevras des instructions sur la façon d'installer et d'utiliser Infery, le moteur d'inférence de Deci.
L'utilisation d'Infery est facultative. Tu peux récupérer les fichiers Python bruts et les utiliser avec n'importe quel autre moteur d'inférence de ton choix.
Explore les résultats d'optimisation et d'évaluation sur l'onglet "Insights".
Link to this sectionPrêt à commencer ?#
Avant de conclure, discutons de certains avantages offerts par Deci :
- Optimise le débit et la latence d'inférence de ton modèle sans compromettre la précision
- Te permet d'optimiser des modèles à partir de tous les frameworks populaires
- Prend en charge les modèles destinés à toute tâche d'apprentissage profond
- Prend en charge le déploiement sur des machines CPU et GPU populaires
- Évalue l'adéquation de ton modèle sur différents hôtes matériels et fournisseurs de cloud
- Prépare les modèles téléchargés pour le service, l'inférence et le déploiement
Comme tu viens de le voir, tu peux doubler les performances d'un modèle YOLOv5 en 15 minutes au total. La plateforme Deci est super facile et intuitive à utiliser.
Des questions ? Rejoins notre communauté et pose ta question dès aujourd'hui !
