En cliquant sur « Accepter tous les cookies », vous acceptez le stockage de cookies sur votre appareil pour améliorer la navigation sur le site, analyser son utilisation et contribuer à nos efforts de marketing. Plus d’infos
Paramètres des cookies
En cliquant sur « Accepter tous les cookies », vous acceptez le stockage de cookies sur votre appareil pour améliorer la navigation sur le site, analyser son utilisation et contribuer à nos efforts de marketing. Plus d’infos
Découvrez comment le déploiement d'Ultralytics YOLO11 sur NVIDIA Jetson Orin Nano Super offre des benchmarks impressionnants et des performances accélérées par GPU pour les applications d'IA avancées.
Le NVIDIA Jetson Orin Nano Super Developer Kit, lancé le 17 décembre 2024, est un supercalculateur d'IA générative compact mais puissant, conçu pour apporter des capacités avancées à l'edge computing. Il facilite le traitement en temps réel et élimine le besoin de cloud computing. Le NVIDIA Jetson Orin Nano Super permet aux développeurs de créer des systèmes intelligents abordables qui fonctionnent efficacement dans des environnements locaux.
Associé aux modèles Ultralytics YOLO tels que Ultralytics YOLO11, le Jetson Orin Nano Super peut gérer un large éventail d'applications de Vision IA en périphérie. En particulier, YOLO11 est un modèle de vision par ordinateur reconnu pour sa rapidité et sa précision dans des tâches telles que la détection d'objets, le suivi d'objets et la segmentation d'instances.
La combinaison des capacités de YOLO11 avec le GPU (Graphics Processing Unit) robuste du kit et la prise en charge des frameworks tels que PyTorch, ONNX et NVIDIA TensorRT permet des déploiements à haute performance. Cette combinaison offre aux développeurs une solution efficace pour créer des applications d'IA, de la détection d'objets en robotique au suivi d'objets en temps réel dans les espaces intelligents et les systèmes de vente au détail.
Dans cet article, nous allons examiner le NVIDIA Jetson Orin Nano Super Developer Kit, comment il fonctionne avec Ultralytics YOLO11 pour l'IA en périphérie, ses benchmarks de performance, ses applications concrètes et comment il peut aider les développeurs à créer des projets Vision AI. Commençons !
Qu'est-ce que le kit de super développement NVIDIA Jetson Orin Nano ?
Le kit NVIDIA Jetson Orin Nano Super Developer est un ordinateur compact mais puissant qui redéfinit l'IA générative pour les petits appareils en périphérie. Il offre jusqu'à 67 TOPS ( trillions d'opérations par seconde) de performances d'IA, ce qui le rend idéal pour les développeurs, les étudiants et les amateurs travaillant sur des projets d'IA avancés.
Voici quelques-unes de ses principales caractéristiques :
Performances du GPU : L’appareil est basé sur l’architecture NVIDIA Ampere GPU, qui comprend 1 024 cœurs CUDA et 32 cœurs Tensor. Les cœurs CUDA traitent de nombreuses tâches simultanément, accélérant les calculs complexes, tandis que les cœurs Tensor sont spécialisés pour les tâches d’IA comme l’apprentissage profond.
Processeur puissant : Il est doté d'un processeur Arm Cortex-A78AE à 6 cœurs, conçu pour équilibrer vitesse et efficacité. L'appareil peut gérer plusieurs tâches en douceur tout en maintenant une faible consommation d'énergie. Ceci est important pour les systèmes fonctionnant localement sans accès à de grandes sources d'alimentation.
Mémoire efficace : Le kit est livré avec 8 Go de mémoire LPDDR5 (Low Power Double Data Rate 5). LPDDR5 est un type de RAM (Random Access Memory) optimisé pour la vitesse et l'efficacité énergétique, permettant à l'appareil de gérer de grands ensembles de données et le traitement en temps réel sans consommer d'énergie excessive.
Options de connectivité : Il comprend des ports USB 3.2 pour des transferts de données rapides, un port Gigabit Ethernet pour des connexions réseau robustes, et des interfaces de caméra pour l'intégration de capteurs ou de caméras.
Outils de développement d'IA : Le Jetson Orin Nano Super fonctionne avec le SDK NVIDIA JetPack, qui fournit des outils tels que CUDA pour un calcul plus rapide et TensorRT pour l'optimisation des modèles d'IA. Ces outils permettent aux développeurs de créer et de déployer des applications d'IA rapidement et efficacement.
Benchmarks de performance : Jetson Orin Nano Super Vs. Orin NX 16 Go
Si vous connaissez le travail de NVIDIA, vous vous demandez peut-être comment cette nouvelle version se compare au NVIDIA Jetson Orin NX 16GB existant (sans mode super). Bien que le Jetson Orin NX offre des capacités globales plus élevées, le Jetson Orin Nano Super Developer Kit offre des performances impressionnantes à une fraction du coût.
Fig 2. Un aperçu de l'écosystème NVIDIA Jetson Orin.
Voici un aperçu rapide :
Performance de l'IA : Jetson Orin Nano Super offre jusqu'à 67 TOPS, ce qui est excellent pour la plupart des tâches d'IA en périphérie, tandis que Jetson Orin NX offre jusqu'à 100 TOPS pour les applications plus exigeantes.
Mémoire : Jetson Orin Nano Super comprend 8 Go de LPDDR5, ce qui est suffisant pour les tâches en temps réel, tandis qu'Orin NX double cette capacité à 16 Go pour les charges de travail plus importantes.
Efficacité énergétique : Jetson Orin Nano Super est plus économe en énergie et configurable entre 7W et 25W, comparé aux exigences de puissance plus élevées du Jetson Orin NX.
GPU : Les deux partagent l’architecture NVIDIA Ampere avec 1 024 cœurs CUDA et 32 cœurs Tensor pour des performances GPU robustes.
YOLO11 avec Jetson Orin Nano Super : Apporter la vision IA à la périphérie
Maintenant que nous avons une meilleure compréhension du Jetson Orin Nano Super, examinons comment YOLO11 peut intervenir pour apporter des capacités de Vision IA à la périphérie. Les modèles Ultralytics YOLO, y compris YOLO11, sont livrés avec des modes polyvalents comme l'entraînement, la prédiction et l'exportation, ce qui les rend adaptables à une variété de flux de travail d'IA.
Par exemple, en mode entraînement, les modèles Ultralytics YOLO peuvent être affinés et entraînés sur des ensembles de données personnalisés pour des applications spécifiques, telles que la détection d'objets uniques ou l'optimisation pour des environnements spécifiques. De même, le modeprédiction est conçu pour l'inférence, permettant des tâches de vision par ordinateur en temps réel. Enfin, le mode d'exportation peut être utilisé pour convertir les modèles dans des formats optimisés pour le déploiement.
Fig 3. Les modèles Ultralytics YOLO prennent en charge diverses fonctionnalités et modes.
YOLO11 en mode exportation prend en charge un éventail d'options de déploiement de modèles, y compris, entre autres :
NVIDIATensorRT : Ce format est optimisé pour les GPU NVIDIA, offrant des performances élevées et une faible latence sur le Jetson Orin Nano Super.
ONNX (Open Neural Network Exchange) : Il assure la compatibilité entre diverses plateformes, le rendant polyvalent pour différents écosystèmes matériels et logiciels.
TorchScript: Ce format est idéal pour les applications basées sur PyTorch, facilitant l'intégration transparente dans les flux de travail PyTorch.
TFLite (TensorFlow Lite): Un format conçu pour les déploiements d'IA légers, ce qui le rend parfait pour les systèmes mobiles et embarqués.
En utilisant ces formats de déploiement, les développeurs peuvent profiter pleinement du matériel du Jetson Orin Nano Super pour exécuter YOLO11 pour des applications en temps réel telles que les espaces intelligents, la robotique et l'automatisation du commerce de détail.
Évaluation comparative de YOLO11 sur le NVIDIA Jetson Orin Nano Super
Ensuite, pour avoir une meilleure idée de la vitesse à laquelle YOLO11 peut fonctionner sur le NVIDIA Jetson Orin Nano Super, explorons ses performances et ses benchmarks impressionnants en utilisant des formats d'exportation accélérés par GPU comme PyTorch, ONNX et TensorRT. Ces tests révèlent que le Jetson Orin Nano Super atteint des temps d'inférence avec les modèles YOLO11 qui sont comparables à - et dépassent occasionnellement - le Jetson Orin NX 16GB existant (sans mode super).
Fig. 4. Benchmarking de YOLO11 sur NVIDIA Jetson Orin Nano Super.
Ce qui rend cela encore plus remarquable, c'est le prix abordable du Jetson Orin Nano Super. Offrant de telles performances à moins de la moitié du prix du Jetson Orin NX 16 Go, il offre un rapport qualité-prix exceptionnel aux développeurs qui créent des applications YOLO11 hautes performances. Cette combinaison de coût et de performances fait du Jetson Orin Nano Super un excellent choix pour les tâches d'IA de vision en temps réel en périphérie.
Fig 5. Analyse comparative de YOLO11 sur Jetson Orin NX 16GB.
Familiarisez-vous avec YOLO11 et la NVIDIA Jetson Orin Nano Super
Si vous êtes enthousiasmé par le démarrage du déploiement de YOLO11 sur le Jetson Orin Nano Super, il y a de bonnes nouvelles : c'est un processus simple. Après avoir flashé votre appareil avec le NVIDIA JetPack SDK, vous pouvez soit utiliser une image Docker pré-construite pour une configuration rapide, soit installer manuellement les packages nécessaires.
Pour ceux qui recherchent une intégration plus rapide et plus transparente, le conteneur Docker JetPack 6 mis à jour est la solution idéale. Un conteneur Docker est un environnement léger et portable qui comprend tous les outils et dépendances nécessaires pour exécuter un logiciel spécifique.
Le conteneur Ultralytics, optimisé pour JetPack 6.1, est préchargé avec CUDA 12.6, TensorRT 10.3 et des outils essentiels comme PyTorch et TorchVision, tous adaptés à l'architecture ARM64 de Jetson. En utilisant ce conteneur, les développeurs peuvent gagner du temps sur la configuration et se concentrer sur la construction et l'optimisation de leurs applications Vision AI avec YOLO11.
Applications de YOLO11 sur le NVIDIA Jetson Orin Nano Super
Pour ceux qui recherchent l'inspiration pour votre prochain projet d'IA, il existe un potentiel pour les applications de vision par ordinateur basées sur la périphérie tout autour de nous.
Dans la vie de tous les jours, l'IA en périphérie redéfinit les espaces intelligents en permettant aux systèmes de détecter et de suivre les objets en temps réel, le tout sans dépendre du traitement en nuage. Qu'il s'agisse de surveiller le trafic dans une ville animée ou d'identifier une activité inhabituelle dans les espaces publics, l'IA de vision en périphérie améliore la sécurité et l'efficacité.
Les détaillants exploitent également l'IA en périphérie et la vision par ordinateur. Des contrôles d'inventaire automatisés à la prévention du vol, les modèles comme YOLO11 permettent aux entreprises de déployer des solutions en temps réel directement dans les magasins.
De même, en ce qui concerne l'IA dans le domaine de la santé, la surveillance en périphérie (edge) assure la sécurité des patients, détecte les anomalies et maintient la conformité, le tout sans les délais causés par la dépendance au cloud. Avec des outils comme le Jetson Orin Nano Super et YOLO11, l'avenir de la Vision IA se déploie directement en périphérie, là où elle est le plus nécessaire.
Principaux points à retenir
Le déploiement de modèles Ultralytics YOLO tels que YOLO11 sur le kit NVIDIA Jetson Orin Nano Super Developer offre une solution fiable et efficace pour les applications d'IA en périphérie. Grâce à de solides performances GPU, une prise en charge transparente de PyTorch, ONNX et TensorRT, et des benchmarks impressionnants, il est bien adapté aux tâches de vision par ordinateur en temps réel telles que la détection et le suivi d'objets.
Les innovations et les collaborations dans les technologies de pointe comme la Vision IA et l'accélération matérielle transforment notre façon de travailler, permettant aux développeurs de créer des solutions évolutives et performantes à la périphérie. À mesure que l'IA progresse, des outils comme YOLO11 et le Jetson Orin Nano Super facilitent plus que jamais la mise en œuvre de solutions intelligentes en temps réel.
L'IA vous intéresse ? Visitez notre dépôt GitHub pour explorer nos contributions et interagir avec notre communauté. Découvrez comment nous utilisons l'IA pour avoir un impact dans des secteurs tels que l'agriculture et la santé.