Ultralytics Platform : déployer des modèles de vision par ordinateur dans n’importe quelle région
Découvre comment déployer tes modèles de vision par ordinateur dans n’importe quelle région avec Ultralytics Platform pour un déploiement d’IA évolutif, rapide et flexible.
Plus tôt cette semaine, Ultralytics a lancé Ultralytics Platform, un nouvel environnement de bout en bout conçu pour accélérer la mise en production des systèmes de vision par ordinateur (CV) en rationalisant chaque étape du workflow d’IA visuelle, de la préparation des données et du développement des modèles jusqu’au déploiement.
L’une des principales motivations derrière le développement d’Ultralytics Platform est que faire passer une solution de vision par ordinateur, qui permet aux machines d’analyser des images et des vidéos, de l’idée à un impact concret implique bien plus que la création d’un modèle performant. Une fois le modèle entraîné et validé, il doit être déployé afin que les applications puissent envoyer des images, recevoir des prédictions et exécuter l’inférence de manière fiable dans des environnements réels.
C’est à cette étape du cycle de vie du machine learning que les modèles de vision par ordinateur dépassent le stade de l’expérimentation et commencent à alimenter des systèmes pratiques. Même si les étapes précédentes, comme la préparation du jeu de données, l’annotation, l’entraînement du modèle et les tests, se déroulent correctement, ces résultats ne peuvent pas avoir d’impact sans moyen fiable de déployer les modèles.
Dans de nombreux projets de vision par ordinateur, le déploiement peut être l’une des étapes les plus complexes du workflow.
Les équipes doivent souvent configurer des API d’inférence, gérer les ressources de calcul, déployer les modèles à proximité des utilisateurs pour réduire la latence et surveiller les performances une fois les systèmes en production.
Ultralytics Platform rationalise et automatise ce processus en proposant plusieurs options de déploiement, notamment des formats d’exportation de modèles, des services d’inférence partagés et des endpoints dédiés dans des régions du monde entier. Grâce à une infrastructure gérée et à une surveillance intégrée, les équipes peuvent facilement passer de modèles entraînés à des systèmes de vision par ordinateur prêts pour la production.
Fig. 1. Aperçu du déploiement de modèles avec Ultralytics Platform (Source)
Dans cet article, nous allons voir comment déployer des modèles de vision par ordinateur dans n’importe quelle région à l’aide d’endpoints dédiés sur Ultralytics Platform. C’est parti !
Qu’est-ce que le déploiement de modèles de vision par ordinateur ?#
Avant d’examiner comment déployer des modèles de deep learning avec Ultralytics Platform, commençons par mieux comprendre ce que signifie réellement le déploiement d’un modèle de vision par ordinateur.
Le déploiement d’un modèle de vision par ordinateur consiste à prendre un modèle entraîné et à le rendre disponible pour une utilisation dans le monde réel. Au lieu de fonctionner uniquement dans un environnement d’entraînement, le modèle est configuré de manière à ce que les applications puissent lui envoyer des images ou des vidéos et recevoir des prédictions en retour.
Par exemple, un modèle peut détecter des objets dans une image, effectuer une segmentation d’image, identifier des articles dans un entrepôt ou reconnaître des motifs dans des séquences vidéo. Dans la plupart des systèmes réels, cela se fait via une API ou un endpoint d’inférence.
Une application envoie une image au modèle, le modèle la traite et renvoie une prédiction en quelques millisecondes. C’est ce qui permet à des modèles de vision par ordinateur comme Ultralytics YOLO d’alimenter des applications en temps réel.
Les modèles peuvent être déployés dans différents environnements selon le cas d’utilisation. Certains s’exécutent dans le cloud (par l’intermédiaire de plateformes cloud) et de nombreuses applications peuvent y accéder, tandis que d’autres fonctionnent sur des appareils edge, comme des caméras sur site, des robots ou des systèmes embarqués nécessitant des prédictions locales rapides.
Options de déploiement de modèles d’IA sur Ultralytics Platform#
Bien qu’Ultralytics Platform réponde à de nombreux défis rencontrés par la communauté de la vision par ordinateur, notamment en matière de déploiement des modèles, il propose des moyens flexibles d’exécuter l’inférence selon les besoins de ton application.
Voici un aperçu rapide des options de déploiement de modèles disponibles sur la plateforme :
- Exportation de modèles : tu peux exporter des modèles dans 17 formats différents, notamment ONNX, TensorRT, CoreML et TFLite, ce qui permet d’exécuter des modèles dans un large éventail d’environnements, comme des appareils edge tels que Raspberry Pi et NVIDIA Jetson, des applications mobiles, des conteneurs Docker et des infrastructures personnalisées.
- Inférence partagée : la plateforme te permet d’exécuter des prédictions via un service d’inférence partagé géré, idéal pour tester rapidement des modèles.
- Endpoints dédiés : déploie facilement des modèles sous forme de services indépendants avec des URL d’API uniques, pouvant s’exécuter dans 43 régions du monde, avec mise à l’échelle automatique, surveillance et vérifications d’état intégrées pour les déploiements en production.
Déployer à l’aide d’endpoints dédiés#
L’une des façons les plus évolutives d’exécuter en production des modèles préentraînés ou des modèles de vision par ordinateur entraînés sur mesure avec Ultralytics Platform consiste à utiliser des endpoints dédiés. Un endpoint dédié te permet de déployer un modèle entraîné comme son propre service, afin que les applications puissent lui envoyer des images et recevoir des prédictions via une API.
Au lieu d’exécuter un modèle uniquement dans un environnement d’entraînement ou un notebook local, le déployer comme endpoint le rend accessible aux applications réelles. Par exemple, un système d’entrepôt pourrait envoyer des images de colis pour détecter des objets, une caméra intelligente pourrait analyser des images vidéo ou un système robotique pourrait utiliser des prédictions pour guider ses actions.
Chaque endpoint dédié s’exécute comme un service à locataire unique, ce qui signifie que l’infrastructure qui exécute ton modèle n’est pas partagée avec d’autres utilisateurs. Cela offre des performances plus prévisibles et facilite la surveillance du comportement du modèle en production.
Comprendre les fonctionnalités des endpoints d’inférence dédiés#
Tu peux considérer un endpoint dédié comme un service hébergé pour ton modèle. Ultralytics Platform fournit une URL d’endpoint unique qui sert de point d’entrée aux applications.
Lorsqu’une application envoie une requête à cette URL, elle inclut une image et des paramètres facultatifs, comme des seuils de confiance ou la taille de l’image, ainsi qu’une clé API pour l’authentification.
Le service exécute l’inférence sur l’image à l’aide de ton modèle et renvoie les prédictions dans une réponse structurée. Cette configuration permet aux développeurs d’intégrer des modèles de vision par ordinateur à des systèmes réels à l’aide d’outils web standard.
Les applications peuvent envoyer des requêtes avec Python, JavaScript, cURL ou d’autres clients HTTP, ce qui facilite la connexion des modèles à des tableaux de bord, des systèmes robotiques ou des applications cloud. Comme l’endpoint s’exécute indépendamment, il peut également prendre en charge la mise à l’échelle, la surveillance et le déploiement mondial, afin d’aider les équipes à créer des systèmes de vision par ordinateur fiables pour la production.
Le déploiement multirégional améliore l’inférence en temps réel#
L’un des principaux avantages des endpoints dédiés sur Ultralytics Platform est la possibilité de déployer des modèles dans 43 régions du monde. Ces régions couvrent plusieurs parties du monde, notamment l’Amérique du Nord, l’Amérique du Sud, l’Europe, l’Asie-Pacifique, ainsi que le Moyen-Orient et l’Afrique.
Fig. 2. Ultralytics Platform prend en charge 43 régions du monde (Source)
Déployer des modèles dans des régions proches de l’emplacement d’exécution des applications contribue à réduire la latence, c’est-à-dire le temps nécessaire à une application pour envoyer une image et recevoir une prédiction. Cela peut également aider les organisations à respecter les exigences en matière de confidentialité et de résidence des données en conservant le traitement des données à proximité de leur lieu d’origine.
Une faible latence est importante pour de nombreuses applications de vision par ordinateur qui dépendent de l’inférence en temps réel, comme les systèmes robotiques, les appareils de l’Internet des objets (IoT), les pipelines d’inspection industrielle et les infrastructures de ville intelligente.
Par exemple, si une application est principalement utilisée en Europe, déployer le modèle dans une région européenne peut améliorer considérablement les temps de réponse par rapport à l’exécution du modèle dans une région éloignée.
Comment déployer dans n’importe quelle région avec Ultralytics Platform#
Déployer un modèle dans une région spécifique est simple et ne prend généralement que quelques minutes. La plateforme gère la configuration de l’infrastructure afin que les développeurs puissent se concentrer sur l’intégration du modèle dans leurs applications. Parcourons les étapes à suivre.
Étape 1 : entraîner ou importer un modèle#
Avant le déploiement, tu dois disposer d’un modèle entraîné dans ton projet. Il peut s’agir d’un modèle entraîné directement sur Ultralytics Platform, d’un modèle importé après avoir été entraîné ailleurs ou d’un modèle cloné depuis un projet communautaire trouvé dans l’« onglet Explore », où les projets publics partagés par d’autres utilisateurs peuvent être copiés dans ton propre compte en un clic.
Une fois le modèle prêt, ouvre sa page dans ton projet pour continuer.
Étape 2 : ouvrir l’onglet Deploy#
Accède à l’onglet Deploy du modèle. Cette section de la plateforme te permet de configurer et de lancer des déploiements.
Sur cette page, tu verras un tableau des régions et une carte interactive présentant les emplacements de déploiement disponibles dans le monde. La plateforme mesure la latence depuis ton emplacement et trie les régions en conséquence pour t’aider à choisir la région la plus adaptée.
Fig. 3. Régions triées par latence sur Ultralytics Platform (Source)
Étape 3 : choisir une région de déploiement#
Sélectionne une région en fonction de l’emplacement de tes utilisateurs ou de tes applications. Déployer le modèle plus près de la source des requêtes peut réduire considérablement les temps de réponse.
Étape 4 : déployer l’endpoint#
Après avoir sélectionné la région et confirmé la configuration, tu peux cliquer sur Deploy.
La plateforme prépare alors l’environnement de déploiement, récupère l’image du modèle, démarre le service et effectue une vérification d’état pour s’assurer que l’endpoint est prêt. Ce processus prend généralement environ une à deux minutes.
Une fois le déploiement terminé, la plateforme génère une URL d’endpoint unique que les applications peuvent utiliser pour envoyer des requêtes d’inférence.
Fig. 4. Exemple d’un endpoint déployé (Source)
Étape 5 : commencer à envoyer des requêtes d’inférence#
Une fois l’endpoint opérationnel, les applications peuvent commencer à envoyer des images au modèle à l’aide de l’endpoint REST API fourni et d’une clé API transmise dans l’en-tête Authorization. L’endpoint traite chaque requête et renvoie des prédictions telles que les objets détectés, les boîtes englobantes ou d’autres résultats propres à la tâche.
Pour plus de détails sur le déploiement de modèles, consulte la documentation officielle d’Ultralytics Platform.
Surveiller les performances et les métriques des modèles pour les endpoints déployés#
Une fois qu’un modèle de vision par ordinateur est déployé, surveiller ses performances devient essentiel pour maintenir la fiabilité et la robustesse du système. Même un modèle bien entraîné doit être observé en production pour s’assurer qu’il continue à répondre rapidement, à traiter correctement les requêtes entrantes et à fournir des prédictions précises.
Ultralytics Platform fournit des outils de surveillance intégrés qui donnent aux équipes une visibilité sur les performances des endpoints déployés. La page Deploy de la plateforme fait office de tableau de bord de surveillance, offrant une vue centralisée de tous les endpoints actifs ainsi que des métriques clés permettant de suivre l’état et l’utilisation du système.
Voici quelques-unes des métriques que tu peux surveiller avec Platform :
- Latence P95 : cette métrique mesure le temps de réponse côté serveur du 95e percentile pour les requêtes d’inférence. Elle permet de comprendre combien de temps prennent la plupart des requêtes d’inférence et d’identifier les ralentissements.
- Taux d’erreur : il représente le pourcentage de requêtes ayant échoué ou renvoyé des erreurs pendant la période de surveillance sélectionnée. Surveiller les taux d’erreur permet aux équipes de détecter rapidement les problèmes liés aux déploiements ou aux requêtes entrantes.
- Nombre total de requêtes : cette métrique indique le nombre total de requêtes d’inférence traitées sur les endpoints déployés pendant la période sélectionnée (par exemple, les dernières 24 heures). Elle aide les équipes à comprendre les niveaux de trafic et la fréquence d’utilisation de leurs modèles.
En plus de ces métriques, la plateforme fournit également des vérifications d’état des endpoints et des journaux de déploiement. Les vérifications d’état indiquent si un endpoint répond correctement, tandis que les journaux fournissent des informations détaillées sur les requêtes récentes et l’activité du système.
Points clés à retenir#
Le déploiement de modèles de vision par ordinateur est une étape essentielle pour transformer des modèles entraînés en systèmes qui alimentent des applications du monde réel. Avec Ultralytics Platform, les équipes peuvent facilement déployer des modèles via des endpoints dédiés dans 43 régions du monde, exécuter des inférences en temps réel via des API et surveiller les performances depuis un environnement unique. En combinant des options de déploiement flexibles, une surveillance intégrée et une infrastructure évolutive, la plateforme aide les développeurs à passer plus rapidement de modèles de machine learning entraînés à des applications de vision par ordinateur fiables.
Rejoins notre communauté en pleine croissance ! Consulte notre dépôt GitHub pour en savoir plus sur l’IA. Si tu souhaites créer des solutions de vision par ordinateur, découvre nos options de licence. Explore les avantages de la vision par ordinateur dans le secteur de la santé et découvre comment l’IA dans la logistique fait la différence !
