Compiler et quantifier Ultralytics YOLOv5 pour de meilleures performances avec Deci

L'équipe Ultralytics

4 min lire

26 octobre 2022

Optimisez et déployez les modèles Ultralytics YOLOv5 avec la plateforme Deci, en améliorant les performances jusqu'à 10 fois. Commencez gratuitement et tirez parti de l'optimisation automatique des modèles.

Chez Ultralytics, nous avons des partenariats commerciaux avec d'autres startups pour nous aider à financer la recherche et le développement de nos formidables outils open-source, comme YOLOv5, afin qu'ils restent gratuits pour tout le monde. Cet article peut contenir des liens d'affiliation vers ces partenaires.

La plateforme Deci comprend des outils gratuits pour gérer, optimiser et déployer facilement vos modèles YOLOv5 dans n'importe quel environnement de production. Deci prend en charge tous les frameworks DL populaires, tels que TensorFlow, PyTorch, Keras et ONNX. Tout ce dont vous avez besoin, c'est de notre plateforme web ou de notre client Python pour l'exécuter à partir de votre code.

Pourquoi Deci ?

Vous pouvez utiliser Deci non seulement pour l'exportation, mais aussi pour l'élagage et la quantification du modèle !

Deci fournit une interface agréable pour l'exportation dans n'importe quel format et la comparaison des performances entre les modèles originaux et convertis. Les utilisateurs peuvent choisir d'optimiser davantage leurs modèles par quantification.

Avec Deci, c'est possible :

Améliorer les performances d'inférence jusqu'à 10 fois

‍Automatiquementcompiler et quantifier vos modèles et évaluer les différents paramètres de production pour obtenir une meilleure latence, à travers, et la réduction de la taille du modèle et de l'empreinte mémoire sur votre matériel.

‍Trouvezle meilleur matériel d'inférence pour votre application

‍Benchmarkezles performances de votre modèle sur différents matériels (y compris les périphériques) à l'aide d'un bouton. Éliminez la nécessité de configurer et de tester manuellement plusieurs matériels et paramètres de production.

‍Déployeravec quelques lignes de code

‍Leverageof Deci's python-based inference engine. Compatible avec de nombreux frameworks et types de matériel.

Pour plus d'informations sur la plateforme Deci, veuillez consulter le site web de Deci.

Première installation

Étape 1

Ouvrez votre compte gratuit.

Démarrer avec Deci et Ultralytics YOLOv5

Étape 2

Pour commencer à optimiser votre modèle YOLOv5 pré-entraîné, vous devrez le convertir au format ONNX. Voir le tutoriel d'exportation YOLOv5 pour obtenir des instructions sur la façon de convertir votre modèle au format ONNX.

Étape 3

Allez dans l'onglet "Lab" et cliquez sur le bouton "Nouveau modèle" dans la partie supérieure droite de l'écran pour télécharger votre modèle YOLOv5 ONNX.

Convertir les modèles Ultralytics YOLOv5 en ONNX pour un déploiement futur avec Deci

Suivez les étapes de l'assistant de téléchargement de modèle pour sélectionner votre matériel cible ainsi que la taille du lot et le niveau de quantification souhaités pour la compilation du modèle.

Compilation du modèle YOLOv5 d'Ultralytics pour le déploiement avec Deci

Après avoir rempli les informations pertinentes, cliquez sur "Démarrer". La plateforme Deci effectuera automatiquement une optimisation de votre modèle YOLOv5 pour le matériel que vous avez sélectionné, ainsi qu'une analyse comparative de votre modèle sur différents types de matériel. Ce processus dure environ 10 minutes.

Une fois cela fait, une nouvelle ligne apparaîtra sur votre écran sous le modèle de base que vous avez précédemment téléchargé. Vous pouvez y voir la version optimisée de votre modèle YOLOv5 pré-entraîné.

Ultralytics YOLOv5 modèle optimisé pour le déploiement avec Deci

Quelle est la prochaine étape ?

Vous pouvez ensuite télécharger votre modèle optimisé en cliquant sur le bouton "Déployer".

Le modèle YOLOv5 d'Ultralytics prêt à être déployé avec Deci

Vous serez alors invité à télécharger votre modèle et recevrez des instructions sur l'installation et l'utilisation d'Infery - le moteur d'inférence de Deci.

L'utilisation d'Infery est facultative. Vous pouvez obtenir les fichiers bruts python et les utiliser avec tout autre moteur d'inférence de votre choix.

Utiliser Deci Infery pour déployer Ultralytics YOLOv5

Explorez les résultats de l'optimisation et de l'analyse comparative dans l'onglet "Insights".

Optimisation avec Deci du modèle YOLOv5 d'Ultralytics

Prêt à commencer ?

Avant de conclure, examinons quelques-uns des avantages offerts par Deci :

  • Optimisez le débit et la latence de l'inférence de votre modèle sans compromettre la précision.
  • Permet d'optimiser les modèles à partir de tous les frameworks populaires
  • Prise en charge de modèles destinés à n'importe quelle tâche d'apprentissage profond
  • Prise en charge du déploiement sur les machines CPU et GPU les plus courantes
  • L'analyse comparative de l'adéquation de votre modèle sur différents hôtes matériels et fournisseurs de services en nuage.
  • Préparer les modèles téléchargés pour le service, l'inférence et le déploiement

Comme vous venez de le voir, vous pouvez doubler les performances d'un modèle YOLOv5 en 15 minutes au total. La plateforme Deci est super facile et intuitive à utiliser.

Vous avez des questions ? Rejoignez notre communauté et posez votre question dès aujourd'hui !

Construisons ensemble le futur
de l'IA !

Commencez votre voyage avec l'avenir de l'apprentissage automatique

Commencer gratuitement
Lien copié dans le presse-papiers