Comment exporter des modèles Ultralytics YOLO en utilisant la plateforme Ultralytics

Le mois dernier, nous avons lancé Ultralytics Platform, un espace de travail unifié conçu pour simplifier l'ensemble du flux de travail en vision par ordinateur. Il rassemble des capacités clés d'IA en vision, notamment la gestion des jeux de données, l'annotation, l'entraînement, les tests, le déploiement et la surveillance des modèles, dans une interface unique et rationalisée.

Fig 1. Un aperçu de la plateforme Ultralytics (Source)

Dans le cadre de ce flux de travail de bout en bout, le déploiement joue un rôle crucial pour faire passer les modèles de l'expérimentation à une utilisation réelle. Précédemment, nous avons exploré les différentes options de déploiement disponibles sur la plateforme, y compris l'inférence partagée via des API, des terminaux dédiés pour des déploiements de production évolutifs, et l'exportation de modèles pour une exécution sur des appareils de périphérie ou une infrastructure externe.

Examinons maintenant de plus près l'exportation de modèles et la manière dont elle prend en charge le déploiement dans différents environnements. Contrairement à l'inférence partagée et aux terminaux dédiés, qui exécutent les modèles au sein de l'infrastructure gérée par Ultralytics Platform, l'exportation de modèles permet de déployer et d'exécuter des modèles dans des environnements externes tels que des appareils de périphérie, des applications mobiles et des infrastructures personnalisées.

Avant que les modèles ne puissent s'exécuter dans ces environnements, ils doivent être convertis dans des formats pris en charge par l'environnement d'exécution cible. Chaque configuration de déploiement a ses propres exigences, des formats légers pour les appareils mobiles et de périphérie aux formats haute performance pour les systèmes cloud et basés sur des GPU.

Traditionnellement, ce processus peut être chronophage, impliquant des scripts, des dépendances et plusieurs outils. Avec Ultralytics Platform, l'exportation est beaucoup plus simple. Les modèles peuvent être convertis et optimisés en quelques clics, sans configuration supplémentaire.

Dans cet article, nous verrons ce que signifie l'exportation de modèle, les formats pris en charge par Ultralytics Platform, et comment choisir le bon pour ton cas d'utilisation. Commençons !

Link to this sectionUn aperçu de l'exportation d'un modèle#

Exporter un modèle consiste à convertir un modèle pré-entraîné ou entraîné sur mesure dans un format utilisable en dehors de son cadre d'origine. Les modèles YOLO d'Ultralytics sont construits à l'aide de PyTorch et stockés dans leur format natif, ce qui fonctionne bien pour l'entraînement, l'évaluation et l'expérimentation au sein de l'écosystème PyTorch.

Cependant, les environnements de déploiement ont souvent des environnements d'exécution et des exigences matérielles différents. C'est pourquoi le format utilisé lors de l'entraînement n'est pas toujours adapté au déploiement.

Par exemple, une application mobile peut nécessiter un format léger optimisé pour une faible consommation d'énergie, tandis qu'une application basée sur le navigateur a besoin d'un format qui s'exécute efficacement dans des environnements web.

Les appareils de périphérie, tels que les caméras et les systèmes embarqués, bénéficient de modèles compacts et rapides, tandis que les systèmes cloud sont conçus pour une inférence haute performance. Pour prendre en charge ces différents scénarios, les modèles doivent être exportés dans des formats compatibles.

Link to this sectionPourquoi l'option d'exporter des modèles est plus importante que jamais#

Aujourd'hui, les modèles de vision par ordinateur sont déployés au plus près de l'endroit où les données sont générées, en particulier sur les appareils de périphérie. Les smartphones exécutent des applications de vision en temps réel, les caméras de vidéosurveillance effectuent une surveillance sur l'appareil et les systèmes autonomes s'appuient sur une prise de décision instantanée.

Cependant, le déploiement dans ces environnements s'accompagne de son propre ensemble de défis. Les appareils de périphérie ont une puissance de calcul limitée, des exigences strictes en matière de latence et des contraintes de mémoire et de consommation d'énergie. Un modèle qui fonctionne bien pendant l'entraînement avec des ressources suffisantes peut ne pas s'exécuter efficacement dans ces conditions restreintes.

Exporter un modèle vers le bon format peut aider à relever ces défis. En convertissant le modèle de manière appropriée, il peut être optimisé pour la vitesse, réduit en taille et rendu compatible avec un matériel spécifique.

En même temps, l'exportation offre de la flexibilité. Le même modèle peut être adapté à différents environnements de déploiement en le convertissant en plusieurs formats en fonction d'exigences spécifiques.

Fig 2. Certains des formats d'exportation disponibles au sein d'Ultralytics Platform (Source)

Par exemple, le format de modèle NCNN est optimisé pour les appareils mobiles et de périphérie avec une faible utilisation des ressources. Alors que le format OpenVINO est conçu pour le matériel Intel et offre de meilleures performances sur les unités centrales (CPUs), les processeurs graphiques (GPUs) et les unités de traitement neuronal (NPUs).

Dans la plupart des cas, atteindre ce niveau de flexibilité signifiait gérer la conversion manuelle, les dépendances et plusieurs outils, rendant le processus complexe et chronophage. Ultralytics Platform rationalise ce flux de travail en rendant l'exportation de modèles plus accessible et plus facile à gérer.

Link to this sectionComment Ultralytics Platform simplifie l'exportation de modèles#

En général, l'exportation d'un modèle est traitée comme une étape distincte et complexe dans les flux de travail de vision par ordinateur. La plateforme Ultralytics change cela en intégrant l'option d'exporter un modèle directement dans un espace de travail unique qui couvre tout, de l'entraînement au déploiement.

L'un de ses avantages clés est l'expérience d'exportation sans code. Il n'est pas nécessaire d'écrire des scripts, de gérer des environnements ou d'utiliser des commandes spécifiques au framework. Les modèles peuvent être exportés en quelques clics via une interface simple.

Fig 3. Un exemple d'exportation d'un modèle depuis Ultralytics Platform (Source)

En coulisses, la plateforme gère le travail difficile. Les tâches qui nécessiteraient normalement plusieurs outils et une configuration manuelle sont rationalisées en un seul processus. Tu n'as pas besoin d'installer de dépendances supplémentaires ou de gérer des problèmes de compatibilité, ce qui rend beaucoup plus facile le passage d'un modèle entraîné à une solution prête pour la production.

Link to this sectionFormats d'exportation de modèles pris en charge par Ultralytics Platform#

Ultralytics Platform prend en charge 17 formats d'exportation, ce qui facilite la préparation des modèles pour un large éventail d'environnements de déploiement sans complexité supplémentaire.

Voici un aperçu de certains des formats d'exportation couramment utilisés :

• Multiplateforme et interopérabilité : ONNX et TorchScript sont largement utilisés pour exécuter des modèles sur différents frameworks et environnements. ONNX agit comme un pont entre les écosystèmes, facilitant le transfert de modèles entre les outils, tandis que TorchScript permet d'exécuter des modèles PyTorch en production sans nécessiter un environnement d'exécution Python.
• Inférence haute performance sur GPU : TensorRT est conçu pour les NVIDIA GPU et se concentre sur l'optimisation des modèles pour une faible latence et un débit élevé. Il prend en charge des techniques comme la réduction de précision et la fusion de couches pour accélérer l'inférence, ce qui en fait un choix solide pour les applications en temps réel et à l'échelle de la production.
• Déploiement mobile et sur périphérie : CoreML, LiteRT (TensorFlow Lite) et NCNN sont optimisés pour les appareils avec une capacité de calcul et une mémoire limitées. Ces formats réduisent la taille du modèle et améliorent l'efficacité, permettant des performances fluides sur les smartphones, les systèmes embarqués et le matériel de périphérie. CoreML est généralement utilisé dans les écosystèmes Apple, tandis que LiteRT est courant pour Android.
• Exécution optimisée par le matériel : OpenVINO est conçu pour le matériel Intel, y compris les CPUs, GPUs et VPUs, et aide à améliorer la vitesse d'inférence et l'efficacité sur ces appareils. Les formats spécifiques au matériel comme celui-ci sont utiles lorsque tu as besoin d'obtenir les meilleures performances d'un système particulier.
• Runtimes spécifiques au framework et spécialisés : Des formats tels que PaddlePaddle et ExecuTorch prennent en charge des écosystèmes et des besoins de déploiement spécifiques, notamment l'exécution efficace de modèles sur des appareils de périphérie ou l'intégration avec des piles d'apprentissage profond particulières.

Link to this sectionComment exporter un modèle à l'aide d'Ultralytics Platform#

L'exportation d'un modèle sur Ultralytics Platform est un processus simple basé sur une interface utilisateur. L'ensemble du flux de travail est géré via l'interface, sans avoir besoin de scripts ou d'outils en ligne de commande.

Voici comment tu peux exporter un modèle en utilisant la plateforme :

• Connecte-toi et choisis ton modèle : Va dans ton projet et ouvre le modèle entraîné que tu souhaites exporter.
• Va sur l'onglet Exporter : Dans le tableau de bord du modèle, clique sur l'onglet Exporter pour voir les options d'exportation disponibles.
• Sélectionne un format d'exportation : Choisis un format comme ONNX, TensorRT ou CoreML en fonction de tes besoins de déploiement.
• Configure les paramètres d'exportation (optionnel) : Ajuste des paramètres comme la taille de l'image, la précision ou la taille de lot pour optimiser les performances.
• Démarre le processus d'exportation : Clique sur « Démarrer l'exportation » pour lancer le processus. La plateforme gère la conversion automatiquement.
• Télécharge le modèle exporté : Une fois l'exportation terminée, tu peux télécharger le modèle et l'utiliser dans ton pipeline de déploiement.

Fig 4. Un aperçu de la configuration des paramètres d'exportation dans Ultralytics Platform

Link to this sectionChoisir le bon format d'exportation#

En explorant les différents formats d'exportation pris en charge par Ultralytics Platform, tu pourrais te demander lequel choisir. La réponse dépend vraiment de l'endroit et de la manière dont tu prévois d'utiliser ton modèle.

Voici quelques facteurs à prendre en compte :

• Exigences de latence : Pour les applications en temps réel comme l'analyse vidéo ou les systèmes autonomes, une faible latence est critique. Les formats optimisés pour l'inférence haute performance, comme TensorRT, sont souvent plus adaptés.
• Contraintes matérielles : Les appareils avec une mémoire et une puissance de traitement limitées, tels que les téléphones portables ou les systèmes embarqués, nécessitent des formats légers comme LiteRT ou NCNN.
• Taille du modèle et consommation d'énergie : Lorsque tu travailles avec des appareils de périphérie, la taille du modèle et la consommation d'énergie deviennent importantes. Des modèles plus petits et optimisés aident à garantir des performances constantes sans épuiser les ressources.
• Environnement de déploiement : Si ton modèle doit s'exécuter sur différentes plateformes, des formats comme ONNX offrent de la flexibilité. Pour des cas d'utilisation spécifiques à une plateforme, comme les applications iOS, CoreML est souvent le meilleur choix.

Il n'y a pas de format universel. Tout dépend de l'équilibre entre les performances, la compatibilité et les limites de ton environnement cible. Ultralytics Platform facilite cela en te permettant d'essayer et de comparer différents formats sans effort supplémentaire.

Link to this sectionPoints clés à retenir#

L'exportation est une étape vitale pour préparer ton modèle à une utilisation réelle dans différents environnements. Avec Ultralytics Platform, ce processus devient beaucoup plus simple, te permettant de convertir et d'optimiser des modèles sans configuration ni complexité supplémentaires. En choisissant le bon format pour ton cas d'utilisation, tu peux t'assurer que ton modèle s'exécute efficacement partout où tu le déploies.

Rejoins notre communauté grandissante et consulte notre dépôt GitHub pour en savoir plus sur la vision par ordinateur. Explore nos pages de solutions pour en savoir plus sur des applications comme l'IA en robotique et la vision par ordinateur dans la logistique. Découvre nos options de licence et commence à construire avec l'IA de vision !