Ultralytics YOLO11 sur NVIDIA Jetson Orin Nano Super : rapide et efficace

Abirami Vina

4 min lire

9 janvier 2025

Découvrez comment le déploiement d'Ultralytics YOLO11 sur NVIDIA Jetson Orin Nano Super permet d'obtenir des benchmarks impressionnants et des performances accélérées par le GPU pour les applications d'IA avancées.

Le NVIDIA Jetson Orin Nano Super Developer Kit, lancé le 17 décembre 2024, est un supercalculateur d'IA générative compact mais puissant, conçu pour apporter des capacités avancées à l'edge computing. Il facilite le traitement en temps réel et élimine le besoin de recourir au cloud computing. Le NVIDIA Jetson Orin Nano Super permet aux développeurs de créer des systèmes intelligents abordables qui fonctionnent efficacement dans des environnements locaux.

Associé aux modèles YOLO d'Ultralytics, tels que YOLO11, le Jetson Orin Nano Super peut prendre en charge une vaste gamme d'applications d'IA de vision à la périphérie. En particulier, YOLO11 est un modèle de vision par ordinateur connu pour sa rapidité et sa précision dans des tâches telles que la détection et le suivi d'objets et la segmentation d'instances. 

L'association des capacités de YOLO11 avec le robuste GPU (Graphics Processing Unit) du kit et la prise en charge de frameworks tels que PyTorch, ONNX et NVIDIA TensorRT permettent des déploiements de haute performance. Cette combinaison apporte aux développeurs une solution efficace pour créer des applications d'IA, de la détection d'objets en robotique au suivi d'objets en temps réel dans les espaces intelligents et les systèmes de vente au détail.

Dans cet article, nous allons nous intéresser au Super Developer Kit NVIDIA Jetson Orin Nano, à son fonctionnement avec Ultralytics YOLO11 pour l'edge AI, à ses performances, à ses applications dans le monde réel et à la manière dont il peut aider les développeurs à élaborer des projets Vision AI. C'est parti !

Qu'est-ce que le NVIDIA Jetson Orin Nano Super Developer Kit ?

Le NVIDIA Jetson Orin Nano Super Developer Kit est un ordinateur compact et puissant qui redéfinit l'IA générative pour les petits appareils. Il délivre jusqu'à 67 TOPS (trillions d'opérations par seconde) de performances d'IA, ce qui le rend idéal pour les développeurs, les étudiants et les amateurs travaillant sur des projets d'IA avancés.

__wf_reserved_inherit

Voici quelques-unes de ses principales caractéristiques :

  • Performances du GPU: L'appareil repose sur le GPU NVIDIA Ampere, qui comprend 1 024 cœurs CUDA et 32 cœurs Tensor. Les cœurs CUDA traitent de nombreuses tâches simultanément, accélérant ainsi les calculs complexes, tandis que les cœurs Tensor sont spécialisés dans les tâches d'IA telles que l'apprentissage en profondeur.
  • Processeur puissant: Il est équipé d'un processeur Arm Cortex-A78AE à 6 cœurs, conçu pour concilier vitesse et efficacité. L'appareil peut gérer plusieurs tâches en douceur tout en conservant une faible consommation d'énergie. C'est important pour les systèmes fonctionnant localement sans accès à de grandes sources d'énergie.
  • Mémoire efficace: Le kit est livré avec 8 Go de mémoire LPDDR5 (Low Power Double Data Rate 5). LPDDR5 est un type de RAM (Random Access Memory) optimisé pour la vitesse et l'efficacité énergétique, permettant à l'appareil de gérer de grands ensembles de données et des traitements en temps réel sans consommer trop d'énergie.
  • Options de connectivité: Il comprend des ports USB 3.2 pour des transferts de données rapides, un port Gigabit Ethernet pour des connexions réseau solides et des interfaces de caméra pour l'intégration de capteurs ou de caméras.
  • Outils de développement de l'IA: La Jetson Orin Nano Super fonctionne avec le SDK NVIDIA JetPack, qui fournit des outils tels que CUDA pour accélérer le calcul et TensorRT pour optimiser les modèles d'IA. Ces outils permettent aux développeurs de créer et de déployer des applications d'IA rapidement et efficacement.

Comparaison des performances : Jetson Orin Nano Super vs. Orin NX 16GB

Si vous connaissez le travail de NVIDIA, vous vous demandez peut-être comment cette nouvelle version se compare à la NVIDIA Jetson Orin NX 16 Go existante (sans super mode). Alors que la Jetson Orin NX offre des capacités globales supérieures, le Jetson Orin Nano Super Developer Kit offre des performances impressionnantes pour une fraction du prix.

 

__wf_reserved_inherit
Fig 2. Aperçu de l'écosystème NVIDIA Jetson Orin.

En voici un bref aperçu :

  • Performances en matière d'IA: La Jetson Orin Nano Super offre jusqu'à 67 TOPS, ce qui est idéal pour la plupart des tâches d'IA de pointe, tandis que la Jetson Orin NX offre jusqu'à 100 TOPS pour les applications plus exigeantes.
  • Mémoire: La Jetson Orin Nano Super comprend 8 Go de LPDDR5, ce qui est suffisant pour les tâches en temps réel, tandis que l'Orin NX double cette capacité à 16 Go pour les charges de travail plus importantes.
  • Efficacité énergétique: La Jetson Orin Nano Super est plus économe en énergie et peut être configurée entre 7 et 25 W, alors que la Jetson Orin NX est plus gourmande en énergie.
  • GPU: Tous deux partagent l'architecture NVIDIA Ampere avec 1 024 cœurs CUDA et 32 cœurs Tensor pour des performances GPU robustes.

YOLO11 avec Jetson Orin Nano Super : l'IA visionnaire à la portée de tous

Maintenant que nous avons une meilleure compréhension de la Jetson Orin Nano Super, voyons comment YOLO11 peut intervenir pour apporter les capacités de Vision AI à la périphérie. Les modèles YOLO d'Ultralytics, y compris YOLO11, sont dotés de modes polyvalents tels que l'entraînement, la prédiction et l'exportation, ce qui leur permet de s'adapter à une grande variété de flux de travail d'IA. 

Par exemple, en mode entraînement, les modèles YOLO d'Ultralytics peuvent être affinés et entraînés sur des ensembles de données personnalisés pour des applications spécifiques, telles que la détection d'objets uniques ou l'optimisation pour des environnements spécifiques. De même, le mode de prédiction est conçu pour l'inférence, permettant des tâches de vision par ordinateur en temps réel. Enfin, le mode d'exportation peut être utilisé pour convertir les modèles dans des formats optimisés pour le déploiement.

__wf_reserved_inherit
Fig. 3. Les modèles YOLO d'Ultralytics prennent en charge différents modes et caractéristiques.

YOLO11 en mode export prend en charge une série d'options de déploiement de modèles, y compris entre autres :

  • NVIDIA TensorRT: ce format est optimisé pour les GPU NVIDIA, offrant une inférence de haute performance et de faible latence sur le Jetson Orin Nano Super.
  • ONNX (Open Neural Network Exchange): Il assure la compatibilité entre diverses plateformes, ce qui le rend polyvalent pour différents écosystèmes matériels et logiciels.
  • TorchScript: Ce format est idéal pour les applications basées sur PyTorch et permet une intégration transparente dans les flux de travail PyTorch.
  • TFLite (TensorFlow Lite): Un format conçu pour les déploiements légers d'IA, ce qui le rend parfait pour les systèmes mobiles et embarqués.

Grâce à ces formats de déploiement, les développeurs peuvent tirer pleinement parti du matériel de la Jetson Orin Nano Super pour exécuter YOLO11 dans des applications en temps réel telles que les espaces intelligents, la robotique et l'automatisation de la vente au détail. 

Analyse comparative de YOLO11 sur la carte NVIDIA Jetson Orin Nano Super

Ensuite, pour avoir une meilleure idée de la vitesse d'exécution de YOLO11 sur la NVIDIA Jetson Orin Nano Super, explorons ses performances impressionnantes et ses benchmarks en utilisant des formats d'exportation accélérés par le GPU tels que PyTorch, ONNX et TensorRT. Ces tests révèlent que la Jetson Orin Nano Super atteint des temps d'inférence avec les modèles YOLO11 qui sont comparables - et parfois supérieurs - à la Jetson Orin NX 16GB existante (sans mode super).

__wf_reserved_inherit
Fig. 4. Analyse comparative de YOLO11 sur NVIDIA Jetson Orin Nano Super.

Ce qui rend ce résultat encore plus remarquable, c'est le prix abordable de la Jetson Orin Nano Super. Offrant de telles performances pour moins de la moitié du prix de la Jetson Orin NX 16 Go, elle constitue une valeur exceptionnelle pour les développeurs qui conçoivent des applications YOLO11 de haute performance. Cette combinaison de coût et de performance fait de la Jetson Orin Nano Super un excellent choix pour les tâches Vision AI en temps réel à la périphérie.

__wf_reserved_inherit
Fig 5. Analyse comparative de YOLO11 sur Jetson Orin NX 16GB.

Découvrez YOLO11 et la NVIDIA Jetson Orin Nano Super

Si vous êtes impatient de commencer à déployer YOLO11 sur la Jetson Orin Nano Super, il y a une bonne nouvelle : il s'agit d'un processus simple. Après avoir flashé votre appareil avec le SDK NVIDIA JetPack, vous pouvez soit utiliser une image Docker préconstruite pour une installation rapide, soit installer manuellement les paquets nécessaires. 

Pour ceux qui recherchent une intégration plus rapide et plus transparente, la mise à jour du conteneur Docker JetPack 6 est la solution idéale. Un conteneur Docker est un environnement léger et portable qui comprend tous les outils et dépendances nécessaires à l'exécution d'un logiciel spécifique. 

Le conteneur Ultralytics, optimisé pour JetPack 6.1, est préchargé avec CUDA 12.6, TensorRT 10.3 et des outils essentiels comme PyTorch et TorchVision, tous adaptés à l'architecture ARM64 de Jetson. En utilisant ce conteneur, les développeurs peuvent gagner du temps sur l'installation et se concentrer sur la construction et l'optimisation de leurs applications Vision AI avec YOLO11.

Applications de YOLO11 sur le NVIDIA Jetson Orin Nano Super

Pour ceux qui sont à la recherche d'inspiration pour leur prochain projet d'IA, le potentiel des applications de vision par ordinateur basées sur les contours est omniprésent. 

Dans la vie de tous les jours, l'edge AI redéfinit les espaces intelligents en permettant aux systèmes de détecter et de suivre des objets en temps réel, sans dépendre du traitement en nuage. Qu'il s'agisse de surveiller la circulation dans une ville animée ou d'identifier une activité inhabituelle dans les espaces publics, l'edge Vision AI renforce la sécurité et l'efficacité.

Les détaillants exploitent également l'intelligence artificielle et la vision par ordinateur. Des contrôles d'inventaire automatisés à la prévention des vols, des modèles comme YOLO11 permettent aux entreprises de déployer des solutions en temps réel directement dans les magasins. 

De même, lorsqu'il s'agit de l'IA dans le domaine de la santé, la surveillance en périphérie garantit la sécurité des patients, détecte les anomalies et maintient la conformité, le tout sans les retards causés par la dépendance à l'égard du cloud. Avec des outils tels que le Jetson Orin Nano Super et le YOLO11, l'avenir de l'IA Vision se dessine à la périphérie, là où on en a le plus besoin.

Principaux enseignements

Le déploiement de modèles YOLO d'Ultralytics tels que YOLO11 sur le Super Developer Kit NVIDIA Jetson Orin Nano constitue une solution fiable et efficace pour les applications d'IA de pointe. Avec des performances GPU robustes, une prise en charge transparente de PyTorch, ONNX et TensorRT, et des benchmarks impressionnants, il est bien adapté aux tâches de vision par ordinateur en temps réel telles que la détection et le suivi d'objets. 

Les innovations et les collaborations dans les technologies de pointe telles que Vision AI et l'accélération matérielle transforment notre façon de travailler, en permettant aux développeurs de créer des solutions évolutives et très performantes à la périphérie. À mesure que l'IA progresse, des outils tels que YOLO11 et le Jetson Orin Nano Super facilitent plus que jamais la mise en œuvre de solutions intelligentes en temps réel.

Curieux de l'IA ? Visitez notre dépôt GitHub pour découvrir nos contributions et échanger avec notre communauté. Découvrez comment nous utilisons l'IA pour avoir un impact dans des secteurs tels que l'agriculture et les soins de santé.

Construisons ensemble le futur
de l'IA !

Commencez votre voyage avec l'avenir de l'apprentissage automatique

Commencer gratuitement
Lien copié dans le presse-papiers