Compiler & Quantifier Ultralytics YOLOv5 pour de meilleures performances avec Deci
Optimise et déploie tes modèles Ultralytics YOLOv5 avec la plateforme de Deci, améliorant les performances jusqu'à 10x. Commence gratuitement et tire parti de l'optimisation automatique des modèles.
Chez Ultralytics, nous collaborons commercialement avec d'autres startups pour nous aider à financer la recherche et le développement de nos incroyables outils open-source, comme YOLOv5, afin de les garder gratuits pour tout le monde. Cet article peut contenir des liens d'affiliation vers ces partenaires.
La plateforme Deci comprend des outils gratuits pour gérer, optimiser et déployer facilement tes modèles YOLOv5 dans n'importe quel environnement de production. Deci prend en charge tous les frameworks DL populaires, tels que TensorFlow, PyTorch, Keras et ONNX. Tout ce dont tu as besoin, c'est de notre plateforme Web ou de notre client Python pour l'exécuter depuis ton code.
Pourquoi Deci ?#
Tu peux utiliser Deci non seulement pour l'exportation, mais aussi pour l'élagage et la quantification du modèle !
Deci fournit une interface agréable pour l'exportation dans n'importe quel format et la comparaison des performances entre les modèles originaux et convertis. Les utilisateurs choisissent d'optimiser davantage leurs modèles par la quantification.
Avec Deci, tu peux :#
Améliorer les performances d'inférence jusqu'à 10x#
Compiler et quantifier automatiquement tes modèles et évaluer différents paramètres de production pour obtenir une meilleure latence, un meilleur débit, et une réduction de la taille du modèle et de l'empreinte mémoire sur ton matériel.
Trouver le meilleur matériel d'inférence pour ton application#
Évalue les performances de ton modèle sur divers appareils matériels (y compris Edge) en un clic. Élimine le besoin de configurer et de tester manuellement plusieurs paramètres matériels et de production.
Déployer avec quelques lignes de code#
Tire parti du moteur d'inférence basé sur Python de Deci. Compatible avec de multiples frameworks et types de matériel.
Pour plus d'informations sur la plateforme Deci, visite le site web de Deci.
Configuration initiale#
Étape 1#
Ouvre ton compte gratuit.
Étape 2#
Pour commencer à optimiser ton modèle YOLOv5 pré-entraîné, tu dois le convertir au format ONNX. Consulte le tutoriel d'exportation de YOLOv5 pour obtenir des instructions sur la conversion de ton modèle au format ONNX.
Étape 3#
Va dans l'onglet "Lab" et clique sur le bouton "New Model" en haut à droite de l'écran pour importer ton modèle ONNX YOLOv5.
Suis les étapes de l'assistant de téléchargement de modèle pour sélectionner ton matériel cible ainsi que la taille de lot souhaitée et le niveau de quantification pour la compilation du modèle.
Après avoir renseigné les informations pertinentes, clique sur "Start". La plateforme Deci effectuera automatiquement une optimisation de l'exécution de ton modèle Ultralytics YOLOv5 pour le matériel que tu as sélectionné et évaluera les performances de ton modèle sur différents types de matériel. Ce processus prend environ 10 minutes.
Une fois terminé, une nouvelle ligne apparaîtra sur ton écran sous le modèle de référence que tu as précédemment importé. Tu peux y voir la version optimisée de ton modèle pré-entraîné Ultralytics YOLOv5.
Et ensuite ?#
Tu peux ensuite télécharger ton modèle optimisé en cliquant sur le bouton "Deploy".
Tu seras ensuite invité à télécharger ton modèle et tu recevras des instructions sur la façon d'installer et d'utiliser Infery, le moteur d'inférence de Deci.
L'utilisation d'Infery est facultative. Tu peux récupérer les fichiers Python bruts et les utiliser avec n'importe quel autre moteur d'inférence de ton choix.
Explore les résultats d'optimisation et d'évaluation sur l'onglet "Insights".
Prêt à commencer ?#
Avant de conclure, discutons de certains avantages offerts par Deci :
- Optimise le débit et la latence d'inférence de ton modèle sans compromettre la précision
- Te permet d'optimiser des modèles à partir de tous les frameworks populaires
- Prend en charge les modèles destinés à toute tâche d'apprentissage profond
- Prend en charge le déploiement sur des machines CPU et GPU populaires
- Évalue l'adéquation de ton modèle sur différents hôtes matériels et fournisseurs de cloud
- Prépare les modèles téléchargés pour le service, l'inférence et le déploiement
Comme tu viens de le voir, tu peux doubler les performances d'un modèle Ultralytics YOLOv5 en un temps total de 15 minutes. La plateforme Deci est extrêmement simple et intuitive à utiliser.
Des questions ? Rejoins notre communauté et pose ta question dès aujourd'hui !
