Compiler et quantifier Ultralytics YOLOv5 pour de meilleures performances avec Deci
Apprends à compiler, quantifier et évaluer les performances de modèles Ultralytics YOLOv5 avec la plateforme Deci pour accélérer l’inférence sur ton matériel cible.
Nuvola Ladi4 min de lecture
Chez Ultralytics, nous nouons des partenariats commerciaux avec d’autres startups afin de financer la recherche et le développement de nos outils open source, comme YOLOv5, et de les garder gratuits pour tout le monde. Cet article peut contenir des liens d’affiliation vers ces partenaires.
Mise à jour : NVIDIA a racheté Deci en 2024, et deci.ai redirige maintenant vers NVIDIA. Les étapes relatives à la plateforme Deci sont conservées à titre de référence.
La plateforme Deci comprend des outils gratuits qui facilitent la gestion, l’optimisation et le déploiement de tes modèles YOLOv5 dans n’importe quel environnement de production. Deci prend en charge tous les frameworks populaires d’apprentissage profond, comme TensorFlow, PyTorch, Keras et ONNX. Il te suffit d’utiliser notre plateforme Web ou notre client Python pour l’exécuter depuis ton code.
Pourquoi Deci ?#
Tu peux utiliser Deci non seulement pour exporter le modèle, mais aussi pour l’élaguer et le quantifier.
Deci propose une interface pratique pour exporter dans n’importe quel format et comparer les performances des modèles d’origine et convertis. Les utilisateurs peuvent choisir d’optimiser davantage leurs modèles par quantification.
Avec Deci, tu peux :#
Améliorer les performances d’inférence jusqu’à 10 fois#
Compiler et quantifier automatiquement tes modèles, puis évaluer différents paramètres de production pour améliorer la latence et le débit, tout en réduisant la taille du modèle et son empreinte mémoire sur ton matériel.
Trouver le meilleur matériel d’inférence pour ton application#
Évaluer en un clic les performances de ton modèle sur différents appareils matériels, y compris en périphérie. Élimine la nécessité de configurer et de tester manuellement plusieurs matériels et paramètres de production.
Déployer en quelques lignes de code#
Tire parti du moteur d’inférence Python de Deci. Il est compatible avec plusieurs frameworks et types de matériel.
Configuration initiale#
Étape 1#
Crée ton compte gratuit.
Étape 2#
Pour commencer à optimiser ton modèle YOLOv5 préentraîné, tu devras le convertir au format ONNX. Consulte le tutoriel d’exportation YOLOv5 pour savoir comment convertir ton modèle au format ONNX.
Étape 3#
Va dans l’onglet « Lab » et clique sur le bouton « New Model » en haut à droite de l’écran pour importer ton modèle YOLOv5 ONNX.
Suis les étapes de l’assistant d’importation de modèle pour sélectionner le matériel cible, ainsi que la taille de lot et le niveau de quantification souhaités pour la compilation du modèle.
Après avoir renseigné les informations pertinentes, clique sur « Start ». La plateforme Deci optimisera automatiquement l’exécution de ton modèle Ultralytics YOLOv5 pour le matériel que tu as sélectionné et évaluera ton modèle sur différents types de matériel. Ce processus prend environ 10 minutes.
Une fois le processus terminé, une nouvelle ligne apparaîtra à l’écran, sous le modèle de référence que tu as précédemment importé. Tu y verras la version optimisée de ton modèle Ultralytics YOLOv5 pré-entraîné.
Et ensuite ?#
Tu peux ensuite télécharger ton modèle optimisé en cliquant sur le bouton « Deploy ».
Tu seras ensuite invité à télécharger ton modèle et tu recevras des instructions pour installer et utiliser Infery, le moteur d’inférence à l’exécution de Deci.
L’utilisation d’Infery est facultative. Tu peux récupérer les fichiers Python bruts et les utiliser avec le moteur d’inférence de ton choix.
Explore les résultats d’optimisation et d’évaluation dans l’onglet « Insights ».
Prêt à te lancer ?#
Avant de conclure, discutons de quelques-uns des avantages qu’offre Deci :
- Optimise le débit d’inférence et la latence de ton modèle sans compromettre la précision
- Te permet d’optimiser des modèles issus de tous les frameworks populaires
- Prend en charge les modèles destinés à toutes les tâches d’apprentissage profond
- Prend en charge le déploiement sur des machines CPU et GPU populaires
- Évalue les performances de ton modèle sur différents hôtes matériels et fournisseurs cloud
- Prépare les modèles importés pour leur mise en service, l’inférence et le déploiement
Comme tu viens de le voir, tu peux doubler les performances d’un modèle Ultralytics YOLOv5 en une quinzaine de minutes. La plateforme Deci est simple et intuitive à utiliser.
Des questions ? Rejoins notre communauté et pose ta question dès aujourd’hui !
Écrit par
Responsable du contenu numérique · Ultralytics
Commentaires
Pose une question, partage tes résultats ou aide quelqu’un.
