Ultralytics YOLO11 sur NVIDIA Jetson Orin Nano Super : rapide et efficace

Le kit de développement NVIDIA Jetson Orin Nano Super, lancé le 17 décembre 2024, est un superordinateur d'IA générative compact mais puissant, conçu pour apporter des capacités avancées au edge computing. Il facilite le traitement en temps réel et élimine le besoin de cloud computing. Le NVIDIA Jetson Orin Nano Super permet aux développeurs de créer des systèmes intelligents abordables qui fonctionnent efficacement dans des environnements locaux.

Lorsqu'il est associé aux modèles Ultralytics YOLO comme Ultralytics YOLO11, le Jetson Orin Nano Super peut gérer un large éventail d'applications d'IA visuelle à la périphérie. YOLO11 est notamment un modèle de vision par ordinateur reconnu pour sa vitesse et sa précision dans des tâches telles que la détection d'objets, le suivi d'objets et la segmentation d'instances.

Combiner les capacités de YOLO11 avec le GPU (Graphics Processing Unit) robuste du kit et la prise en charge de frameworks comme PyTorch, ONNX et NVIDIA TensorRT permet des déploiements haute performance. Cette combinaison offre aux développeurs une solution efficace pour créer des applications d'IA, de la détection d'objets en robotique au suivi d'objets en temps réel dans les espaces intelligents et les systèmes de vente au détail.

Dans cet article, nous examinerons le kit de développement NVIDIA Jetson Orin Nano Super, son fonctionnement avec Ultralytics YOLO11 pour l'edge AI, ses performances, ses applications concrètes et comment il peut aider les développeurs à créer des projets d'IA visuelle. Commençons !

Link to this sectionQu'est-ce que le kit de développement NVIDIA Jetson Orin Nano Super ?#

Le kit de développement NVIDIA Jetson Orin Nano Super est un ordinateur compact et puissant qui redéfinit l'IA générative pour les petits appareils de périphérie. Il offre jusqu'à 67 TOPS (trillions d'opérations par seconde) de performance IA, ce qui le rend idéal pour les développeurs, les étudiants et les passionnés travaillant sur des projets d'IA avancés.

Voici quelques-unes de ses fonctionnalités clés :

• Performance GPU : L'appareil est basé sur l'architecture GPU NVIDIA Ampere, qui inclut 1 024 cœurs CUDA et 32 cœurs Tensor. Les cœurs CUDA traitent de nombreuses tâches simultanément, accélérant les calculs complexes, tandis que les cœurs Tensor sont spécialisés pour les tâches d'IA comme l'apprentissage profond.
• CPU puissant : Il dispose d'un processeur Arm Cortex-A78AE à 6 cœurs, conçu pour équilibrer vitesse et efficacité. L'appareil peut gérer plusieurs tâches de manière fluide tout en maintenant une faible consommation d'énergie. C'est important pour les systèmes fonctionnant localement sans accès à de grandes sources d'alimentation.
• Mémoire efficace : Le kit est livré avec 8 Go de mémoire LPDDR5 (Low Power Double Data Rate 5). La LPDDR5 est un type de RAM (Random Access Memory) optimisé pour la vitesse et l'efficacité énergétique, permettant à l'appareil de gérer de grands datasets et des traitements en temps réel sans consommer une énergie excessive.
• Options de connectivité : Il comprend des ports USB 3.2 pour des transferts de données rapides, un port Gigabit Ethernet pour des connexions réseau solides et des interfaces caméra pour intégrer des capteurs ou des caméras.
• Outils de développement IA : Le Jetson Orin Nano Super fonctionne avec le NVIDIA JetPack SDK, qui fournit des outils comme CUDA pour un calcul plus rapide et TensorRT pour optimiser les modèles d'IA. Ces outils permettent aux développeurs de créer et de déployer des applications d'IA plus facilement et efficacement.

Link to this sectionBenchmarks de performance : Jetson Orin Nano Super vs Orin NX 16 Go#

Si tu connais bien le travail de NVIDIA, tu te demandes peut-être comment cette nouvelle version se compare au NVIDIA Jetson Orin NX 16 Go existant (sans mode super). Bien que le Jetson Orin NX offre des capacités globales supérieures, le kit de développement Jetson Orin Nano Super offre des performances impressionnantes pour une fraction du coût.

Fig 2. Un aperçu de l'écosystème NVIDIA Jetson Orin.

Voici un aperçu rapide :

• Performance IA : Le Jetson Orin Nano Super offre jusqu'à 67 TOPS, ce qui est idéal pour la plupart des tâches d'IA en périphérie, tandis que le Jetson Orin NX offre jusqu'à 100 TOPS pour des applications plus exigeantes.
• Mémoire : Le Jetson Orin Nano Super inclut 8 Go de LPDDR5, suffisant pour les tâches en temps réel, tandis que l'Orin NX double cette capacité à 16 Go pour des charges de travail plus importantes.
• Efficacité énergétique : Le Jetson Orin Nano Super est plus économe en énergie et configurable entre 7W et 25W, comparé aux besoins en énergie plus élevés du Jetson Orin NX.
• GPU : Les deux partagent l'architecture NVIDIA Ampere avec 1 024 cœurs CUDA et 32 cœurs Tensor pour une performance GPU robuste.

Link to this sectionYOLO11 avec Jetson Orin Nano Super : Apporter l'IA visuelle à la périphérie#

Maintenant que nous comprenons mieux le Jetson Orin Nano Super, examinons comment YOLO11 peut intervenir pour apporter des capacités d'IA visuelle à la périphérie. Les modèles Ultralytics YOLO, incluant YOLO11, sont dotés de modes polyvalents comme l'entraînement, la prédiction et l'exportation, les rendant adaptables à une variété de flux de travail IA.

Par exemple, en mode entraînement, les modèles Ultralytics YOLO peuvent être affinés et entraînés sur des datasets personnalisés pour des applications spécifiques, telles que la détection d'objets uniques ou l'optimisation pour des environnements précis. De même, le mode prédiction est conçu pour l'inférence, permettant des tâches de vision par ordinateur en temps réel. Enfin, le mode exportation peut être utilisé pour convertir les modèles dans des formats optimisés pour le déploiement.

Fig 3. Les modèles Ultralytics YOLO prennent en charge diverses fonctionnalités et modes.

YOLO11 en mode export prend en charge une gamme d'options de déploiement de modèles, incluant entre autres :

• NVIDIA TensorRT : Ce format est optimisé pour les GPU NVIDIA, offrant une inférence haute performance et à faible latence sur le Jetson Orin Nano Super.
• ONNX (Open Neural Network Exchange) : Il assure la compatibilité entre diverses plateformes, ce qui le rend polyvalent pour différents écosystèmes matériels et logiciels.
• TorchScript : Ce format est idéal pour les applications basées sur PyTorch, facilitant une intégration transparente dans les flux de travail PyTorch.
• TFLite (TensorFlow Lite) : Un format conçu pour les déploiements d'IA légers, le rendant parfait pour les systèmes mobiles et embarqués.

En utilisant ces formats de déploiement, les développeurs peuvent tirer pleinement parti du matériel du Jetson Orin Nano Super pour exécuter YOLO11 pour des applications en temps réel comme les espaces intelligents, la robotique et l'automatisation du commerce de détail.

Link to this sectionBenchmarking de YOLO11 sur le NVIDIA Jetson Orin Nano Super#

Ensuite, pour avoir une meilleure idée de la vitesse à laquelle YOLO11 peut fonctionner sur le NVIDIA Jetson Orin Nano Super, explorons ses performances impressionnantes et ses benchmarks en utilisant des formats d'exportation accélérés par GPU comme PyTorch, ONNX et TensorRT. Ces tests révèlent que le Jetson Orin Nano Super atteint des temps d'inférence avec les modèles YOLO11 comparables, et surpassant parfois, le Jetson Orin NX 16 Go existant (sans mode super).

Fig 4. Benchmarking de YOLO11 sur le NVIDIA Jetson Orin Nano Super.

Ce qui rend cela encore plus remarquable, c'est l'abordabilité du Jetson Orin Nano Super. Offrant une telle performance pour moins de la moitié du prix du Jetson Orin NX 16 Go, il fournit une valeur exceptionnelle aux développeurs construisant des applications YOLO11 haute performance. Cette combinaison de coût et de performance fait du Jetson Orin Nano Super un excellent choix pour les tâches d'IA visuelle en temps réel à la périphérie.

Fig 5. Benchmarking de YOLO11 sur le Jetson Orin NX 16 Go.

Link to this sectionLance-toi avec YOLO11 et le NVIDIA Jetson Orin Nano Super#

Si tu es impatient de commencer à déployer YOLO11 sur le Jetson Orin Nano Super, la bonne nouvelle est que le processus est simple. Après avoir flashé ton appareil avec le NVIDIA JetPack SDK, tu peux soit utiliser une image Docker pré-construite pour une installation rapide, soit installer manuellement les paquets nécessaires.

Pour ceux qui recherchent une intégration plus rapide et transparente, le conteneur Docker JetPack 6 mis à jour est la solution idéale. Un conteneur Docker est un environnement léger et portable qui inclut tous les outils et dépendances nécessaires pour exécuter des logiciels spécifiques.

Le conteneur Ultralytics, optimisé pour JetPack 6.1, est préchargé avec CUDA 12.6, TensorRT 10.3 et des outils essentiels comme PyTorch et TorchVision, tous adaptés à l'architecture ARM64 de Jetson. En utilisant ce conteneur, tu peux gagner du temps sur la configuration et te concentrer sur la construction et l'optimisation de tes applications d'IA visuelle avec YOLO11.

Link to this sectionApplications de YOLO11 sur le NVIDIA Jetson Orin Nano Super#

Si tu cherches de l'inspiration pour ton prochain projet d'IA, le potentiel pour des applications de vision par ordinateur basées sur la périphérie est tout autour de nous.

Dans la vie quotidienne, l'IA en périphérie redéfinit les espaces intelligents en permettant aux systèmes de détecter et de suivre des objets en temps réel, sans dépendre du traitement cloud. Qu'il s'agisse de surveiller le trafic dans une ville animée ou d'identifier une activité inhabituelle dans des espaces publics, l'IA visuelle en périphérie renforce la sécurité et l'efficacité.

Les détaillants exploitent également l'IA en périphérie et la vision par ordinateur. Des vérifications d'inventaire automatisées à la prévention du vol, des modèles comme YOLO11 permettent aux entreprises de déployer des solutions en temps réel directement en magasin.

De même, en ce qui concerne l'IA dans le domaine de la santé, la surveillance basée sur la périphérie garantit la sécurité des patients, détecte les anomalies et maintient la conformité, le tout sans délais causés par une dépendance au cloud. Avec des outils comme le Jetson Orin Nano Super et YOLO11, l'avenir de l'IA visuelle se déploie à la périphérie, là où c'est le plus nécessaire.

Link to this sectionPoints clés#

Déployer des modèles Ultralytics YOLO comme YOLO11 sur le kit de développement NVIDIA Jetson Orin Nano Super offre une solution fiable et efficace pour les applications d'IA en périphérie. Avec une performance GPU robuste, une prise en charge transparente de PyTorch, ONNX et TensorRT, et des benchmarks impressionnants, c'est une solution bien adaptée aux tâches de vision par ordinateur en temps réel comme la détection et le suivi d'objets.

Les innovations et collaborations dans des technologies de pointe comme l'IA visuelle et l'accélération matérielle transforment notre façon de travailler, permettant aux développeurs de construire des solutions évolutives et performantes à la périphérie. À mesure que l'IA progresse, des outils comme YOLO11 et le Jetson Orin Nano Super facilitent plus que jamais la concrétisation de solutions intelligentes en temps réel.

Curieux à propos de l'IA ? Visite notre dépôt GitHub pour explorer nos contributions et rejoindre notre communauté. Découvre comment nous utilisons l'IA pour avoir un impact dans des secteurs comme l'agriculture et la santé.