Déployer des applications de vision par ordinateur sur des appareils d’IA en périphérie

Grâce aux progrès récents de la vision par ordinateur et de l’intelligence artificielle (IA), ce qui n’était autrefois qu’un domaine de recherche alimente désormais des applications concrètes dans un large éventail de secteurs. Des voitures autonomes à l’imagerie médicale et à la sécurité, les systèmes de vision par ordinateur résolvent des problèmes réels à grande échelle.

Beaucoup de ces applications nécessitent d’analyser des images et des vidéos en temps réel, et le recours au cloud n’est pas toujours pratique en raison de la latence, des coûts et des préoccupations en matière de confidentialité. L’IA en périphérie est une excellente solution dans ces situations. En exécutant directement les modèles d’IA visuelle sur des appareils en périphérie, les entreprises peuvent traiter les données plus rapidement, à moindre coût et de manière plus sécurisée, ce qui rend l’IA en temps réel plus accessible.

Lors de YOLO Vision 2024 (YV24), l’événement hybride annuel organisé par Ultralytics, l’un des thèmes centraux était la démocratisation de l’IA visuelle grâce à un déploiement plus simple et plus efficace. Guy Dahan, architecte principal de solutions chez NVIDIA, a expliqué comment les solutions matérielles et logicielles de NVIDIA — notamment les appareils de calcul en périphérie, les serveurs d’inférence, les frameworks d’optimisation et les SDK de déploiement de l’IA — aident les développeurs à optimiser l’IA en périphérie.

Dans cet article, nous allons passer en revue les principaux enseignements de la conférence de Guy Dahan à YV24 et voir comment les dernières innovations de NVIDIA accélèrent et rendent plus évolutif le déploiement de l’IA visuelle.

Qu’est-ce que l’IA en périphérie ?#

Guy Dahan a commencé sa conférence en exprimant son enthousiasme à l’idée de participer à distance à YV24 et son intérêt pour le paquet Python Ultralytics et les modèles YOLO d’Ultralytics. Il a déclaré : « J’utilise Ultralytics depuis sa sortie. J’aime beaucoup Ultralytics : j’utilisais déjà YOLOv5 auparavant, et je suis un véritable passionné de ce paquet. »

Il a ensuite présenté le concept d’IA en périphérie, en expliquant qu’il consiste à exécuter les calculs d’IA directement sur des appareils comme des caméras, des drones ou des machines industrielles, au lieu d’envoyer les données vers des serveurs distants dans le cloud pour qu’elles y soient traitées.

Au lieu d’attendre que les images ou les vidéos soient téléversées, analysées, puis renvoyées avec les résultats, l’IA en périphérie permet d’analyser instantanément les données directement sur l’appareil. Les systèmes d’IA visuelle sont ainsi plus rapides, plus efficaces et moins dépendants de la connexion Internet. L’IA en périphérie est particulièrement utile pour les applications de prise de décision en temps réel, comme les voitures autonomes, les caméras de sécurité et les usines intelligentes.

Principaux avantages de l’IA en périphérie#

Après avoir présenté l’IA en périphérie, Guy Dahan a mis en avant ses principaux avantages, en insistant sur l’efficacité, les économies et la sécurité des données. Il a expliqué que l’un de ses principaux atouts est sa faible latence : puisque les modèles d’IA traitent les données directement sur l’appareil, il n’est pas nécessaire de les envoyer dans le cloud puis d’attendre une réponse.

L’IA en périphérie contribue également à réduire les coûts et à protéger les données sensibles. L’envoi de grandes quantités de données vers le cloud, en particulier des flux vidéo, peut coûter cher. Toutefois, le traitement local réduit les coûts de bande passante et de stockage.

Un autre avantage clé est la confidentialité des données, car les informations restent sur l’appareil au lieu d’être transférées vers un serveur externe. C’est particulièrement important dans les secteurs de la santé, de la finance et de la sécurité, où il est essentiel de conserver les données localement et de les protéger.

Fig. 1. Guy Dahan présentant à distance les avantages de l’IA en périphérie lors de YV24.

S’appuyant sur ces avantages, Guy Dahan a évoqué l’adoption croissante de l’IA en périphérie. Il a fait remarquer que depuis le lancement de Jetson par NVIDIA en 2014, son utilisation a été multipliée par dix. Aujourd’hui, plus de 1,2 million de développeurs utilisent des appareils Jetson.

Présentation de NVIDIA Jetson : un appareil d’IA en périphérie#

Guy Dahan s’est ensuite intéressé aux appareils NVIDIA Jetson, une famille d’appareils de calcul d’IA en périphérie conçus pour offrir des performances élevées avec une faible consommation d’énergie. Les appareils Jetson sont idéaux pour les applications de vision par ordinateur dans des secteurs comme la robotique, l’agriculture, la santé et l’automatisation industrielle. « Les Jetson sont des appareils d’IA en périphérie spécialement conçus pour l’IA. J’ajouterais même qu’à l’origine, ils ont été conçus principalement pour la vision par ordinateur », a ajouté Guy Dahan.

Les appareils Jetson se déclinent en trois niveaux, chacun adapté à des besoins différents :

• Entrée de gamme : ces appareils offrent des performances d’IA de 20 à 40 billions d’opérations par seconde (TOPS) pour une consommation électrique de 10 à 15 W, ce qui en fait une option abordable pour les applications en périphérie.
• Grand public : ces appareils offrent un équilibre entre performances et efficacité, avec 70 à 200 TOPS pour une consommation de 20 à 40 W, ce qui convient aux charges de travail d’IA de milieu de gamme.
• Hautes performances : ces appareils offrent jusqu’à 275 TOPS pour une consommation de 60 à 75 W et sont conçus pour les applications d’IA exigeantes, comme la robotique et l’automatisation.

Par ailleurs, Guy Dahan a parlé du prochain Jetson AGX Thor, dont le lancement est prévu cette année, et a indiqué qu’il offrirait huit fois plus de puissance GPU (unité de traitement graphique), deux fois plus de mémoire et de meilleures performances CPU (unité centrale de traitement). Il est spécialement conçu pour la robotique humanoïde et les applications avancées d’IA en périphérie.

Les défis liés au déploiement de modèles de vision par ordinateur#

Guy Dahan s’est ensuite intéressé aux logiciels d’IA en périphérie et a expliqué que, même avec du matériel puissant, le déploiement efficace des modèles peut être difficile.

L’un des principaux obstacles est la compatibilité, car les développeurs en IA travaillent souvent avec différents frameworks d’IA, comme PyTorch et TensorFlow. Passer de l’un à l’autre peut être difficile et oblige les développeurs à recréer des environnements pour s’assurer que tout fonctionne correctement.

L’évolutivité constitue un autre défi majeur. Les modèles d’IA nécessitent une puissance de calcul considérable et, comme l’a dit Dahan, « Aucune entreprise spécialisée en IA n’a jamais souhaité avoir moins de puissance de calcul. » Étendre les applications d’IA à plusieurs appareils peut rapidement coûter cher, ce qui rend l’optimisation indispensable.

De plus, les pipelines d’IA sont complexes et impliquent souvent différents types de données, du traitement en temps réel et l’intégration de systèmes. Les développeurs consacrent beaucoup d’efforts à faire fonctionner leurs modèles de façon fluide dans les écosystèmes logiciels existants. Relever ces défis est essentiel pour rendre les déploiements d’IA plus efficaces et évolutifs.

Fig. 2. Défis liés au déploiement des modèles.

Simplifier le déploiement avec NVIDIA Triton Inference Server#

Guy Dahan s’est ensuite intéressé à Triton Inference Server de NVIDIA. Il a fait remarquer que de nombreuses entreprises et startups commencent à développer des solutions d’IA sans optimiser pleinement leurs modèles. Reconcevoir un pipeline d’IA entier à partir de zéro peut perturber les opérations et prendre beaucoup de temps, ce qui complique sa mise à l’échelle efficace.

Plutôt que d’exiger une refonte complète du système, Triton permet aux développeurs d’améliorer progressivement leurs workflows d’IA et d’y intégrer des composants plus efficaces sans perturber leur configuration existante. Grâce à la prise en charge de plusieurs frameworks d’IA, dont TensorFlow, PyTorch, ONNX et TensorRT, Triton permet des déploiements dans le cloud, les centres de données et les appareils en périphérie avec un minimum d’ajustements.

Fig. 3. Présentation générale de Triton Inference Server de NVIDIA.

Voici quelques-uns des principaux avantages de Triton Inference Server de NVIDIA :

• Regroupement automatique des lots : Triton regroupe plusieurs requêtes d’IA avant de les traiter, ce qui améliore le débit et l’utilisation du GPU.
• Intégration Kubernetes : Triton est conçu pour le cloud, ce qui signifie qu’il s’intègre à Kubernetes (un système qui aide à gérer et à mettre à l’échelle des applications d’IA sur plusieurs ordinateurs ou serveurs cloud).
• Open source et personnalisable : les développeurs peuvent modifier Triton en fonction de leurs besoins, ce qui offre de la flexibilité pour un large éventail d’applications d’IA.

Optimiser les performances de l’IA avec NVIDIA TensorRT#

Si tu cherches à accélérer encore davantage tes modèles, NVIDIA TensorRT est une option intéressante pour les optimiser. Guy Dahan a expliqué que TensorRT est un optimiseur d’apprentissage profond hautes performances conçu pour les GPU NVIDIA. TensorRT permet de convertir des modèles TensorFlow, PyTorch, ONNX et MXNet en fichiers hautement efficaces exécutables sur GPU.

La fiabilité de TensorRT tient notamment à ses optimisations spécifiques au matériel. Un modèle optimisé pour les appareils Jetson ne sera pas aussi performant sur d’autres GPU, car TensorRT ajuste finement les performances en fonction du matériel cible. Selon NVIDIA, TensorRT peut accélérer l’inférence jusqu’à 36 fois par rapport aux plateformes utilisant uniquement un CPU.

Guy Dahan a également souligné la prise en charge de TensorRT par Ultralytics, en expliquant qu’elle accélère et optimise le déploiement des modèles d’IA. Les modèles Ultralytics YOLO peuvent être directement exportés au format TensorRT, ce qui permet aux développeurs de les optimiser pour les GPU NVIDIA sans aucune modification.

DeepStream 7.0 : une boîte à outils d’analyse des flux#

Pour conclure son intervention en beauté, Guy Dahan a présenté DeepStream 7.0, un framework d’IA conçu pour le traitement en temps réel de vidéos, d’audio et de données de capteurs à l’aide de GPU NVIDIA. Conçu pour prendre en charge les applications de vision par ordinateur à haut débit, il permet la détection et le suivi d’objets, ainsi que l’analyse dans les systèmes autonomes, la sécurité, l’automatisation industrielle et les villes intelligentes. En exécutant l’IA directement sur les appareils en périphérie, DeepStream supprime la dépendance au cloud, réduit la latence et améliore l’efficacité.

Fig. 4. Découverte de DeepStream 7.0 à YV24 avec Guy Dahan.

Plus précisément, DeepStream peut gérer le traitement vidéo assisté par l’IA de bout en bout. Il prend en charge des flux de travail complets, du décodage et du prétraitement vidéo à l’inférence IA et au post-traitement.

DeepStream a récemment introduit plusieurs mises à jour pour améliorer le déploiement de l’IA et le rendre plus accessible et évolutif. De nouveaux outils simplifient le développement, améliorent le suivi multi-caméras et optimisent les pipelines d’IA pour de meilleures performances.

Les développeurs bénéficient désormais d’une prise en charge étendue des environnements Windows, de capacités améliorées de fusion de capteurs pour intégrer des données provenant de plusieurs sources, ainsi que d’applications de référence prêtes à l’emploi pour accélérer le déploiement. Ces améliorations font de DeepStream une solution plus flexible et efficace pour les applications d’IA en temps réel et aident les développeurs à faire évoluer facilement leurs solutions d’analyse vidéo intelligente.

Points clés à retenir#

Comme l’a montré le discours d’ouverture de Guy Dahan à YV24, l’IA en périphérie redéfinit les applications de vision par ordinateur. Grâce aux progrès du matériel et des logiciels, le traitement en temps réel devient plus rapide, plus efficace et plus économique.

À mesure que davantage de secteurs adoptent l’IA en périphérie, relever des défis tels que la fragmentation et la complexité du déploiement sera essentiel pour exploiter pleinement son potentiel. L’adoption de ces innovations favorisera des applications d’IA plus intelligentes et réactives, et façonnera l’avenir de la vision par ordinateur.

Rejoins notre communauté en pleine croissance ! Consulte notre dépôt GitHub pour en savoir plus sur l’IA, et découvre nos options de licence pour lancer tes projets d’IA visuelle. Tu t’intéresses à des innovations comme l’IA dans le secteur de la santé et la vision par ordinateur dans l’industrie manufacturière ? Consulte nos pages de solutions pour en savoir plus !