Ultralytics YOLO11 sur NVIDIA Jetson Orin Nano Super : rapide et efficace

Le kit de développement NVIDIA Jetson Orin Nano Super, lancé le 17 décembre 2024, est un superordinateur d'IA générative compact mais puissant, conçu pour apporter des fonctionnalités avancées à l'informatique en périphérie. Il facilite le traitement en temps réel et élimine le besoin d'informatique dématérialisée (cloud). Le NVIDIA Jetson Orin Nano Super permet aux développeurs de créer des systèmes intelligents abordables qui fonctionnent efficacement dans des environnements locaux.

Associé aux modèles Ultralytics YOLO comme Ultralytics YOLO11, le Jetson Orin Nano Super peut gérer un vaste éventail d'applications de vision par IA en périphérie. En particulier, YOLO11 est un modèle de vision par ordinateur reconnu pour sa vitesse et sa précision dans des tâches telles que la détection d'objets, le suivi d'objets et la segmentation d'instances.

Combiner les capacités d'Ultralytics YOLO11 avec le robuste GPU (Graphics Processing Unit) du kit et la prise en charge de frameworks comme PyTorch, ONNX et NVIDIA TensorRT permet des déploiements à haute performance. Cette combinaison offre aux développeurs une solution efficace pour créer des applications d'IA, de la détection d'objets en robotique au suivi d'objets en temps réel dans les espaces intelligents et les systèmes de vente au détail.

Dans cet article, nous allons examiner le kit de développement NVIDIA Jetson Orin Nano Super, son fonctionnement avec Ultralytics YOLO11 pour l'IA en périphérie, ses benchmarks de performance, ses applications concrètes et la manière dont il peut aider les développeurs à créer des projets de vision par IA. C'est parti !

Qu'est-ce que le kit de développement NVIDIA Jetson Orin Nano Super ?#

Le kit de développement NVIDIA Jetson Orin Nano Super est un ordinateur compact et puissant qui redéfinit l'IA générative pour les petits appareils de périphérie. Il offre jusqu'à 67 TOPS (trillions d'opérations par seconde) de performance IA, ce qui le rend idéal pour les développeurs, les étudiants et les passionnés travaillant sur des projets d'IA avancés.

Voici quelques-unes de ses fonctionnalités clés :

• Performance GPU : L'appareil est basé sur l'architecture GPU NVIDIA Ampere, qui inclut 1 024 cœurs CUDA et 32 cœurs Tensor. Les cœurs CUDA traitent de nombreuses tâches simultanément, accélérant les calculs complexes, tandis que les cœurs Tensor sont spécialisés pour les tâches d'IA comme l'apprentissage profond.
• CPU puissant : Il dispose d'un processeur Arm Cortex-A78AE à 6 cœurs, conçu pour équilibrer vitesse et efficacité. L'appareil peut gérer plusieurs tâches de manière fluide tout en maintenant une faible consommation d'énergie. C'est important pour les systèmes fonctionnant localement sans accès à de grandes sources d'alimentation.
• Mémoire efficace : Le kit est fourni avec 8 Go de mémoire LPDDR5 (Low Power Double Data Rate 5). La LPDDR5 est un type de RAM (Random Access Memory) optimisé pour la vitesse et l'efficacité énergétique, permettant à l'appareil de traiter de grands jeux de données et des opérations en temps réel sans consommer une énergie excessive.
• Options de connectivité : Il comprend des ports USB 3.2 pour des transferts de données rapides, un port Gigabit Ethernet pour des connexions réseau solides, ainsi que des interfaces de caméra pour intégrer des capteurs ou des caméras.
• Outils de développement d'IA : Le Jetson Orin Nano Super fonctionne avec le NVIDIA JetPack SDK, qui fournit des outils tels que CUDA pour un calcul plus rapide et TensorRT pour optimiser les modèles d'IA. Ces outils permettent aux développeurs de créer et de déployer des applications d'IA plus facilement, rapidement et efficacement.

Benchmarks de performance : Jetson Orin Nano Super vs Orin NX 16 Go#

Si tu connais bien le travail de NVIDIA, tu te demandes peut-être comment cette nouvelle version se compare au NVIDIA Jetson Orin NX 16 Go existant (sans mode super). Bien que le Jetson Orin NX offre des capacités globales supérieures, le kit de développement Jetson Orin Nano Super offre des performances impressionnantes pour une fraction du coût.

Fig 2. Un aperçu de l'écosystème NVIDIA Jetson Orin.

Voici un aperçu rapide :

• Performance IA : Le Jetson Orin Nano Super offre jusqu'à 67 TOPS, ce qui est idéal pour la plupart des tâches d'IA en périphérie, tandis que le Jetson Orin NX offre jusqu'à 100 TOPS pour des applications plus exigeantes.
• Mémoire : Le Jetson Orin Nano Super inclut 8 Go de LPDDR5, suffisant pour les tâches en temps réel, tandis que l'Orin NX double cette capacité à 16 Go pour des charges de travail plus importantes.
• Efficacité énergétique : Le Jetson Orin Nano Super est plus économe en énergie et configurable entre 7W et 25W, comparé aux besoins en énergie plus élevés du Jetson Orin NX.
• GPU : Les deux partagent l'architecture NVIDIA Ampere avec 1 024 cœurs CUDA et 32 cœurs Tensor pour une performance GPU robuste.

Ultralytics YOLO11 avec Jetson Orin Nano Super : Amener l'IA de vision en périphérie#

Maintenant que nous comprenons mieux le Jetson Orin Nano Super, examinons comment YOLO11 peut intervenir pour apporter des capacités d'IA visuelle à la périphérie. Les modèles Ultralytics YOLO, incluant YOLO11, sont dotés de modes polyvalents comme l'entraînement, la prédiction et l'exportation, les rendant adaptables à une variété de flux de travail IA.

Par exemple, en mode entraînement, les modèles Ultralytics YOLO peuvent être affinés et entraînés sur des jeux de données personnalisés pour des applications spécifiques, telles que la détection d'objets uniques ou l'optimisation pour des environnements particuliers. De même, le mode prédiction est conçu pour l'inférence, permettant des tâches de vision par ordinateur en temps réel. Enfin, le mode export peut être utilisé pour convertir des modèles dans des formats optimisés pour le déploiement.

Fig 3. Les modèles Ultralytics YOLO prennent en charge diverses fonctionnalités et modes.

Ultralytics YOLO11 en mode export prend en charge une gamme d'options de déploiement de modèles, incluant entre autres :

• NVIDIA TensorRT : Ce format est optimisé pour les GPU NVIDIA, offrant une inférence haute performance et à faible latence sur le Jetson Orin Nano Super.
• ONNX (Open Neural Network Exchange) : Il assure la compatibilité entre diverses plateformes, ce qui le rend polyvalent pour différents écosystèmes matériels et logiciels.
• TorchScript : Ce format est idéal pour les applications basées sur PyTorch, facilitant une intégration transparente dans les flux de travail PyTorch.
• TFLite (TensorFlow Lite) : Un format conçu pour les déploiements d'IA légers, le rendant parfait pour les appareils mobiles et les systèmes embarqués.

En utilisant ces formats de déploiement, tu peux tirer pleinement parti du matériel du Jetson Orin Nano Super pour exécuter Ultralytics YOLO11 pour des applications en temps réel telles que les espaces intelligents, la robotique et l'automatisation du commerce de détail.

Évaluation comparative d'Ultralytics YOLO11 sur le NVIDIA Jetson Orin Nano Super#

Ensuite, pour te faire une meilleure idée de la vitesse à laquelle Ultralytics YOLO11 peut tourner sur la NVIDIA Jetson Orin Nano Super, explorons ses performances impressionnantes et ses benchmarks en utilisant des formats d'exportation accélérés par GPU comme PyTorch, ONNX et TensorRT. Ces tests révèlent que la Jetson Orin Nano Super atteint des temps d'inférence avec les modèles YOLO11 qui sont comparables — et surpassent parfois — l'actuelle Jetson Orin NX 16GB (sans le mode super).

Fig 4. Évaluation comparative d'Ultralytics YOLO11 sur NVIDIA Jetson Orin Nano Super.

Ce qui rend cela encore plus remarquable, c'est l'abordabilité du Jetson Orin Nano Super. Offrant de telles performances à moins de la moitié du prix du Jetson Orin NX 16GB, il procure une valeur exceptionnelle aux développeurs qui créent des applications Ultralytics YOLO11 à haute performance. Cette combinaison de coût et de performance fait du Jetson Orin Nano Super un excellent choix pour les tâches de vision par IA en temps réel à la périphérie.

Fig 5. Évaluation comparative d'Ultralytics YOLO11 sur Jetson Orin NX 16GB.

Mets la main à la pâte avec Ultralytics YOLO11 et le NVIDIA Jetson Orin Nano Super#

Si tu as hâte de commencer à déployer Ultralytics YOLO11 sur le Jetson Orin Nano Super, il y a une bonne nouvelle : c'est un processus simple. Après avoir flashé ton appareil avec le SDK NVIDIA JetPack, tu peux soit utiliser une image Docker pré-construite pour une configuration rapide, soit installer manuellement les paquets nécessaires.

Pour ceux qui recherchent une intégration plus rapide et transparente, le conteneur Docker JetPack 6 mis à jour est la solution idéale. Un conteneur Docker est un environnement léger et portable qui inclut tous les outils et dépendances nécessaires pour exécuter des logiciels spécifiques.

Le conteneur Ultralytics, optimisé pour JetPack 6.1, est préchargé avec CUDA 12.6, TensorRT 10.3 et des outils essentiels tels que PyTorch et TorchVision, tous adaptés à l'architecture ARM64 de Jetson. En utilisant ce conteneur, les développeurs peuvent gagner du temps lors de la configuration et se concentrer sur la création et l'optimisation de leurs applications de vision par IA avec YOLO11.

Applications d'Ultralytics YOLO11 sur le NVIDIA Jetson Orin Nano Super#

Si tu cherches de l'inspiration pour ton prochain projet d'IA, le potentiel pour des applications de vision par ordinateur basées sur la périphérie est tout autour de nous.

Dans la vie quotidienne, l'IA en périphérie redéfinit les espaces intelligents en permettant aux systèmes de détecter et de suivre des objets en temps réel, sans dépendre du traitement cloud. Qu'il s'agisse de surveiller le trafic dans une ville animée ou d'identifier une activité inhabituelle dans des espaces publics, l'IA visuelle en périphérie renforce la sécurité et l'efficacité.

Les détaillants exploitent également l'IA en périphérie et la vision par ordinateur. Des contrôles d'inventaire automatisés à la prévention du vol, des modèles comme Ultralytics YOLO11 permettent aux entreprises de déployer des solutions en temps réel directement dans les magasins.

De même, lorsqu'il s'agit de l'IA dans la santé, la surveillance en périphérie garantit la sécurité des patients, détecte les anomalies et maintient la conformité, le tout sans les délais causés par la dépendance au cloud. Avec des outils comme le Jetson Orin Nano Super et Ultralytics YOLO11, l'avenir de la vision par IA se dessine directement à la périphérie, là où on en a le plus besoin.

Points clés#

Déployer des modèles Ultralytics YOLO comme YOLO11 sur le kit de développement NVIDIA Jetson Orin Nano Super offre une solution fiable et efficace pour les applications d'IA en périphérie. Avec une performance GPU robuste, une prise en charge transparente de PyTorch, ONNX et TensorRT, et des benchmarks impressionnants, c'est une solution bien adaptée aux tâches de vision par ordinateur en temps réel comme la détection et le suivi d'objets.

Les innovations et collaborations dans les technologies de pointe comme la vision par IA et l'accélération matérielle transforment notre façon de travailler, donnant aux développeurs les moyens de créer des solutions évolutives et à haute performance à la périphérie. À mesure que l'IA progresse, des outils comme Ultralytics YOLO11 et le Jetson Orin Nano Super rendent plus facile que jamais la concrétisation de solutions intelligentes en temps réel.

Curieux de découvrir l'IA ? Visite notre répertoire GitHub pour explorer nos contributions et échanger avec notre communauté. Découvre comment nous utilisons l'IA pour avoir un impact dans des secteurs comme l'agriculture et la santé.