Déployer des applications de vision par ordinateur sur des appareils d’IA en périphérie
Découvre comment l’IA en périphérie et les innovations de NVIDIA, comme Jetson, Triton et TensorRT, simplifient le déploiement d’applications de vision par ordinateur.
Grâce aux avancées récentes de la vision par ordinateur et de l’intelligence artificielle (AI), ce qui n’était autrefois qu’un domaine de recherche fait désormais émerger des applications concrètes dans de nombreux secteurs. Des voitures autonomes à l’imagerie médicale et à la sécurité, les systèmes de vision par ordinateur résolvent des problèmes réels à grande échelle.
Bon nombre de ces applications impliquent l’analyse d’images et de vidéos en temps réel, et s’appuyer sur le cloud n’est pas toujours pratique en raison de la latence, des coûts et des problèmes de confidentialité. Edge AI est une excellente solution dans ces situations. En exécutant les modèles de vision AI directement sur des appareils Edge, les entreprises peuvent traiter les données plus rapidement, à moindre coût et avec davantage de sécurité, ce qui rend l’AI en temps réel plus accessible.
Lors de YOLO Vision 2024 (YV24), l’événement hybride annuel organisé par Ultralytics, l’un des thèmes centraux était la démocratisation de la vision AI en rendant le déploiement plus convivial et plus efficace. Guy Dahan, architecte principal de solutions chez NVIDIA, a expliqué comment les solutions matérielles et logicielles de NVIDIA, notamment les appareils d’Edge computing, les serveurs d’inférence, les frameworks d’optimisation et les SDK de déploiement AI, aident les développeurs à optimiser l’AI en périphérie.
Dans cet article, nous allons examiner les principaux enseignements de la keynote de Guy Dahan à YV24 et voir comment les dernières innovations de NVIDIA rendent le déploiement de la vision AI plus rapide et plus évolutif.
Qu’est-ce que l’Edge AI ?#
Guy Dahan a commencé son intervention en exprimant son enthousiasme à l’idée de participer virtuellement à YV24, ainsi que son intérêt pour le package Python d’Ultralytics et les modèles YOLO d’Ultralytics, en déclarant : « J’utilise Ultralytics depuis sa sortie. J’aime vraiment Ultralytics : j’utilisais déjà YOLOv5 avant cela, et je suis un véritable passionné de ce package. »
Il a ensuite présenté le concept d’Edge AI, en expliquant qu’il consiste à exécuter les calculs AI directement sur des appareils tels que des caméras, des drones ou des machines industrielles, plutôt qu’à envoyer les données vers des serveurs cloud distants pour les traiter.
Au lieu d’attendre que les images ou les vidéos soient téléversées, analysées, puis renvoyées avec les résultats, l’Edge AI permet d’analyser instantanément les données directement sur l’appareil. Les systèmes de vision AI sont ainsi plus rapides, plus efficaces et moins dépendants de la connectivité Internet. L’Edge AI est particulièrement utile pour les applications de prise de décision en temps réel, telles que les voitures autonomes, les caméras de sécurité et les usines intelligentes.
Principaux avantages de l’Edge AI#
Après avoir présenté l’Edge AI, Guy Dahan a souligné ses principaux avantages, en mettant l’accent sur l’efficacité, les économies et la sécurité des données. Il a expliqué que l’un des plus grands avantages réside dans la faible latence : puisque les modèles AI traitent les données directement sur l’appareil, il n’est pas nécessaire d’envoyer les informations vers le cloud et d’attendre une réponse.
L’Edge AI contribue également à réduire les coûts et à protéger les données sensibles. Envoyer de grandes quantités de données vers le cloud, en particulier des flux vidéo, peut coûter cher. En revanche, le traitement local réduit les coûts de bande passante et de stockage.
Un autre avantage clé est la confidentialité des données, car les informations restent sur l’appareil au lieu d’être transférées vers un serveur externe. Cela est particulièrement important pour les applications de santé, de finance et de sécurité, pour lesquelles conserver les données localement et en toute sécurité est une priorité absolue.
Fig. 1. Guy Dahan présentant à distance lors de YV24 les avantages de l’Edge AI.
S’appuyant sur ces avantages, Guy Dahan a commenté l’adoption croissante de l’Edge AI. Il a indiqué que depuis l’introduction de Jetson par NVIDIA en 2014, son utilisation a été multipliée par dix. Aujourd’hui, plus de 1,2 million de développeurs travaillent avec des appareils Jetson.
Présentation de NVIDIA Jetson : un appareil d’Edge AI#
Guy Dahan s’est ensuite concentré sur les appareils NVIDIA Jetson, une gamme d’appareils d’Edge computing AI conçus pour offrir de hautes performances avec une faible consommation d’énergie. Les appareils Jetson sont idéaux pour les applications de vision par ordinateur dans des secteurs tels que la robotique, l’agriculture, la santé et l’automatisation industrielle. « Les Jetson sont des appareils d’Edge AI spécialement conçus pour l’AI. J’ajouterais même qu’à l’origine, ils étaient principalement destinés à la vision par ordinateur », a ajouté Guy Dahan.
Les appareils Jetson se déclinent en trois niveaux, chacun adapté à des besoins différents :
- Entrée de gamme : ces appareils offrent une performance AI de 20 à 40 téraopérations par seconde (TOPS) avec une consommation de 10 à 15 W, ce qui en fait un choix abordable pour les applications Edge.
- Milieu de gamme : ils offrent un équilibre entre performances et efficacité, avec 70 à 200 TOPS et une consommation de 20 à 40 W, ce qui les rend adaptés aux charges de travail AI intermédiaires.
- Hautes performances : ils offrent jusqu’à 275 TOPS avec une consommation de 60 à 75 W et sont conçus pour les applications AI exigeantes, comme la robotique et l’automatisation.
Guy Dahan a également parlé du prochain Jetson AGX Thor, dont le lancement est prévu cette année, et a indiqué qu’il offrirait huit fois plus de performances GPU (unité de traitement graphique), deux fois plus de capacité mémoire et de meilleures performances CPU (unité centrale de traitement). Il est spécialement conçu pour la robotique humanoïde et les applications avancées d’Edge AI.
Défis liés au déploiement des modèles de vision par ordinateur#
Guy Dahan s’est ensuite tourné vers l’aspect logiciel de l’Edge AI et a expliqué que même avec un matériel puissant, déployer efficacement les modèles peut s’avérer difficile.
L’un des principaux obstacles est la compatibilité, car les développeurs AI travaillent souvent avec différents frameworks AI, comme PyTorch et TensorFlow. Passer de l’un à l’autre peut être difficile et oblige les développeurs à recréer des environnements pour garantir que tout fonctionne correctement.
L’évolutivité constitue un autre défi majeur. Les modèles AI nécessitent une puissance de calcul importante et, comme l’a formulé Dahan : « Il n’y a jamais eu d’entreprise AI qui souhaite moins de calcul. » Étendre les applications AI à plusieurs appareils peut rapidement devenir coûteux, ce qui rend l’optimisation essentielle.
De plus, les pipelines AI sont complexes et impliquent souvent différents types de données, le traitement en temps réel et l’intégration de systèmes. Les développeurs consacrent beaucoup d’efforts à s’assurer que leurs modèles interagissent harmonieusement avec les écosystèmes logiciels existants. Surmonter ces défis est essentiel pour rendre les déploiements AI plus efficaces et plus évolutifs.
Fig. 2. Défis liés au déploiement des modèles.
Simplifier le déploiement avec NVIDIA Triton Inference Server#
Guy Dahan s’est ensuite intéressé à Triton Inference Server de NVIDIA. Il a souligné que de nombreuses entreprises et startups commencent à développer leur AI sans optimiser pleinement leurs modèles. Repenser entièrement un pipeline AI à partir de zéro peut être perturbant et chronophage, ce qui complique une mise à l’échelle efficace.
Plutôt que d’exiger une refonte complète du système, Triton permet aux développeurs d’améliorer et d’optimiser progressivement leurs workflows AI, en intégrant des composants plus efficaces sans perturber leur configuration existante. Grâce à sa prise en charge de plusieurs frameworks AI, notamment TensorFlow, PyTorch, ONNX et TensorRT, Triton permet un déploiement fluide dans les environnements cloud, les centres de données et les appareils Edge, avec un minimum d’ajustements.
Fig. 3. Présentation de Triton Inference Server de NVIDIA.
Voici quelques-uns des principaux avantages de Triton Inference Server de NVIDIA :
- Regroupement automatique : Triton regroupe plusieurs requêtes AI avant de les traiter, ce qui réduit les délais (latence) et améliore la vitesse d’inférence (le temps nécessaire à un modèle AI pour générer des résultats).
- Intégration à Kubernetes : Triton est cloud-native, ce qui signifie qu’il fonctionne parfaitement avec Kubernetes (un système qui aide à gérer et à mettre à l’échelle les applications AI sur plusieurs ordinateurs ou serveurs cloud).
- Open source et personnalisable : les développeurs peuvent modifier Triton pour l’adapter à leurs besoins spécifiques, ce qui garantit une grande flexibilité pour un large éventail d’applications AI.
Maximiser les performances AI avec NVIDIA TensorRT#
Si tu recherches encore plus d’accélération, NVIDIA TensorRT est une option intéressante pour optimiser tes modèles AI. Guy Dahan a expliqué que TensorRT est un optimiseur de deep learning hautes performances conçu pour les GPU NVIDIA. Les modèles issus de TensorFlow, PyTorch, ONNX et MXNet peuvent être convertis en fichiers hautement efficaces, exécutables sur GPU, grâce à TensorRT.
Ce qui rend TensorRT si fiable, ce sont ses optimisations spécifiques au matériel. Un modèle optimisé pour les appareils Jetson ne sera pas aussi performant sur d’autres GPU, car TensorRT ajuste précisément les performances en fonction du matériel cible. Un modèle de vision par ordinateur optimisé peut multiplier par 36 la vitesse d’inférence par rapport à des modèles non optimisés.
Guy Dahan a également attiré l’attention sur la prise en charge de TensorRT par Ultralytics, en expliquant comment elle accélère et améliore l’efficacité du déploiement des modèles AI. Les modèles YOLO d’Ultralytics peuvent être exportés directement au format TensorRT, ce qui permet aux développeurs de les optimiser pour les GPU NVIDIA sans avoir à effectuer de modifications.
DeepStream 7.0 : une boîte à outils d’analyse de flux#
Pour conclure son intervention sur une note positive, Guy Dahan a présenté DeepStream 7.0, un framework AI conçu pour le traitement en temps réel de vidéos, de données audio et de données de capteurs à l’aide de GPU NVIDIA. Conçu pour prendre en charge les applications de vision par ordinateur à haute vitesse, il permet la détection, le suivi et l’analyse d’objets dans les systèmes autonomes, la sécurité, l’automatisation industrielle et les villes intelligentes. En exécutant l’AI directement sur les appareils Edge, DeepStream élimine la dépendance au cloud, réduisant ainsi la latence et améliorant l’efficacité.
Fig. 4. Découverte de DeepStream 7.0 à YV24 avec Guy Dahan.
Plus précisément, DeepStream peut gérer le traitement vidéo assisté par l’AI de bout en bout. Il prend en charge des workflows complets, du décodage et du prétraitement vidéo à l’inférence AI et au post-traitement.
Récemment, DeepStream a introduit plusieurs mises à jour visant à améliorer le déploiement de l’AI, en le rendant plus accessible et plus évolutif. De nouveaux outils simplifient le développement, améliorent le suivi multi-caméras et optimisent les pipelines AI pour de meilleures performances.
Les développeurs bénéficient désormais d’une prise en charge étendue des environnements Windows, de capacités améliorées de fusion de capteurs pour intégrer des données provenant de plusieurs sources, ainsi que d’un accès à des applications de référence préconfigurées pour accélérer le déploiement. Ces améliorations font de DeepStream une solution plus flexible et plus efficace pour les applications AI en temps réel, en aidant les développeurs à mettre facilement à l’échelle l’analyse vidéo intelligente.
Points clés à retenir#
Comme l’a montré la keynote de Guy Dahan à YV24, l’Edge AI redéfinit les applications de vision par ordinateur. Grâce aux avancées matérielles et logicielles, le traitement en temps réel devient plus rapide, plus efficace et plus économique.
À mesure que davantage de secteurs adoptent l’Edge AI, relever des défis tels que la fragmentation et la complexité du déploiement sera essentiel pour libérer tout son potentiel. L’adoption de ces innovations favorisera des applications AI plus intelligentes et plus réactives, façonnant ainsi l’avenir de la vision par ordinateur.
Rejoins notre communauté en pleine croissance ! Explore notre dépôt GitHub pour en savoir plus sur l’AI et consulte nos options de licence pour lancer tes projets de vision AI. Tu t’intéresses à des innovations comme l’AI dans la santé et la vision par ordinateur dans l’industrie manufacturière ? Consulte nos pages de solutions pour en savoir plus !
