En cliquant sur « Accepter tous les cookies », vous acceptez le stockage de cookies sur votre appareil pour améliorer la navigation sur le site, analyser son utilisation et contribuer à nos efforts de marketing. Plus d’infos
Paramètres des cookies
En cliquant sur « Accepter tous les cookies », vous acceptez le stockage de cookies sur votre appareil pour améliorer la navigation sur le site, analyser son utilisation et contribuer à nos efforts de marketing. Plus d’infos
Découvrez comment le déploiement d'Ultralytics YOLO11 sur NVIDIA Jetson Orin Nano Super permet d'obtenir des benchmarks impressionnants et des performances GPU pour les applications d'IA avancées.
Le NVIDIA Jetson Orin Nano Super Developer Kit, lancé le 17 décembre 2024, est un supercalculateur d'IA générative compact mais puissant, conçu pour apporter des capacités avancées à l'edge computing. Il facilite le traitement en temps réel et élimine le besoin de recourir au cloud computing. Le NVIDIA Jetson Orin Nano Super permet aux développeurs de créer des systèmes intelligents abordables qui fonctionnent efficacement dans des environnements locaux.
Lorsqu'il est associé à des modèlesUltralytics YOLO tels que Ultralytics YOLO11la Jetson Orin Nano Super peut gérer une vaste gamme d'applications Vision AI en périphérie. En particulier, YOLO11 est un modèle de vision par ordinateur connu pour sa rapidité et sa précision dans des tâches telles que la détection et le suivi d'objets et la segmentation d'instances.
La combinaison des capacités de YOLO11avec le robuste GPU (Graphics Processing Unit) du kit et la prise en charge de frameworks tels que PyTorch, ONNX et NVIDIA TensorRT permet des déploiements de haute performance. Cette combinaison apporte aux développeurs une solution efficace pour créer des applications d'IA, de la détection d'objets en robotique au suivi d'objets en temps réel dans les espaces intelligents et les systèmes de vente au détail.
Dans cet article, nous allons nous intéresser au Super Developer Kit NVIDIA Jetson Orin Nano, à son fonctionnement avec Ultralytics YOLO11 pour l'edge AI, à ses performances, à ses applications dans le monde réel et à la manière dont il peut aider les développeurs à élaborer des projets Vision AI. C'est parti !
Qu'est-ce que le NVIDIA Jetson Orin Nano Super Developer Kit ?
Le NVIDIA Jetson Orin Nano Super Developer Kit est un ordinateur compact et puissant qui redéfinit l'IA générative pour les petits appareils. Il délivre jusqu'à 67 TOPS (trillions d'opérations par seconde) de performances d'IA, ce qui le rend idéal pour les développeurs, les étudiants et les amateurs travaillant sur des projets d'IA avancés.
Voici quelques-unes de ses principales caractéristiques :
Performances duGPU : L'appareil repose sur le GPU NVIDIA Ampere, qui comprend 1 024 cœurs CUDA et 32 cœurs Tensor . Les cœurs CUDA traitent de nombreuses tâches simultanément, accélérant ainsi les calculs complexes, tandis que les cœurs Tensor sont spécialisés dans les tâches d'IA telles que l'apprentissage en profondeur.
CPU puissant: Il est équipé d'un processeur Arm Cortex-A78AE à 6 cœurs, conçu pour concilier vitesse et efficacité. L'appareil peut gérer plusieurs tâches en douceur tout en conservant une faible consommation d'énergie. C'est important pour les systèmes fonctionnant localement sans accès à de grandes sources d'énergie.
Mémoire efficace : Le kit est livré avec 8 Go de mémoire LPDDR5 (Low Power Double Data Rate 5). LPDDR5 est un type de RAM (Random Access Memory) optimisé pour la vitesse et l'efficacité énergétique, permettant à l'appareil de gérer de grands ensembles de données et le traitement en temps réel sans consommer d'énergie excessive.
Options de connectivité : Il comprend des ports USB 3.2 pour des transferts de données rapides, un port Gigabit Ethernet pour des connexions réseau robustes, et des interfaces de caméra pour l'intégration de capteurs ou de caméras.
Outils de développement de l'IA: La Jetson Orin Nano Super fonctionne avec le SDK NVIDIA JetPack, qui fournit des outils tels que CUDA pour un calcul plus rapide et des outils de développement pour l'NVIDIA . TensorRT pour optimiser les modèles d'IA. Ces outils permettent aux développeurs de créer et de déployer des applications d'IA rapidement et efficacement.
Benchmarks de performance : Jetson Orin Nano Super Vs. Orin NX 16 Go
Si vous connaissez le travail de NVIDIA, vous vous demandez peut-être comment cette nouvelle version se compare à la NVIDIA Jetson Orin NX 16 Go existante (sans super mode). Alors que la Jetson Orin NX offre des capacités globales supérieures, le Jetson Orin Nano Super Developer Kit offre des performances impressionnantes pour une fraction du prix.
Performance de l'IA : Jetson Orin Nano Super offre jusqu'à 67 TOPS, ce qui est excellent pour la plupart des tâches d'IA en périphérie, tandis que Jetson Orin NX offre jusqu'à 100 TOPS pour les applications plus exigeantes.
Mémoire : Jetson Orin Nano Super comprend 8 Go de LPDDR5, ce qui est suffisant pour les tâches en temps réel, tandis qu'Orin NX double cette capacité à 16 Go pour les charges de travail plus importantes.
Efficacité énergétique : Jetson Orin Nano Super est plus économe en énergie et configurable entre 7W et 25W, comparé aux exigences de puissance plus élevées du Jetson Orin NX.
GPU: Les deux modèles partagent l'architecture NVIDIA Ampere avec 1 024 cœurs CUDA et 32 cœurs Tensor pour des performances GPU robustes.
YOLO11 avec Jetson Orin Nano Super : l'IA visionnaire à la portée de tous
Maintenant que nous avons une meilleure compréhension de la Jetson Orin Nano Super, voyons comment YOLO11 peut intervenir pour apporter les capacités de Vision AI à la périphérie. Les modèlesYOLO d'Ultralytics , y compris YOLO11, sont dotés de modes polyvalents tels que l'entraînement, la prédiction et l'exportation, ce qui leur permet de s'adapter à une grande variété de flux de travail d'IA.
Par exemple, en mode entraînement, les modèlesYOLO d'Ultralytics peuvent être affinés et entraînés sur des ensembles de données personnalisés pour des applications spécifiques, telles que la détection d'objets uniques ou l'optimisation pour des environnements spécifiques. De même, le mode de prédictionest conçu pour l'inférence, permettant des tâches de vision par ordinateur en temps réel. Enfin, le mode d'exportation peut être utilisé pour convertir les modèles dans des formats optimisés pour le déploiement.
Fig. 3. Les modèlesYOLO d'Ultralytics prennent en charge différents modes et caractéristiques.
YOLO11 en mode export prend en charge une série d'options de déploiement de modèles, y compris entre autres :
NVIDIATensorRT: Ce format est optimisé pour les GPU NVIDIA , offrant une inférence de haute performance et de faible latence sur le Jetson Orin Nano Super.
ONNX (Open Neural Network Exchange): Il assure la compatibilité entre diverses plateformes, ce qui le rend polyvalent pour différents écosystèmes matériels et logiciels.
TorchScript: Ce format est idéal pour les applications PyTorch et permet une intégration transparente dans les flux de travail PyTorch .
TFLite TensorFlow Lite): Un format conçu pour les déploiements légers d'IA, ce qui le rend parfait pour les systèmes mobiles et embarqués.
Grâce à ces formats de déploiement, les développeurs peuvent tirer pleinement parti du matériel de la Jetson Orin Nano Super pour exécuter YOLO11 dans des applications en temps réel telles que les espaces intelligents, la robotique et l'automatisation de la vente au détail.
Analyse comparative de YOLO11 sur la carte NVIDIA Jetson Orin Nano Super
Ensuite, pour avoir une meilleure idée de la vitesse d'exécution de YOLO11 sur la NVIDIA Jetson Orin Nano Super, explorons ses performances impressionnantes et ses benchmarks en utilisant des formats d'exportation GPU tels que PyTorch, ONNX et TensorRT. Ces tests révèlent que la Jetson Orin Nano Super atteint des temps d'inférence avec les modèles YOLO11 qui sont comparables - et parfois supérieurs - à la Jetson Orin NX 16GB existante (sans mode super).
Fig 4. Évaluation comparative de YOLO11 sur NVIDIA Jetson Orin Nano Super.
Ce qui rend ce résultat encore plus remarquable, c'est le prix abordable de la Jetson Orin Nano Super. Offrant de telles performances pour moins de la moitié du prix de la Jetson Orin NX 16 Go, elle constitue une valeur exceptionnelle pour les développeurs qui conçoivent des applications YOLO11 de haute performance. Cette combinaison de coût et de performance fait de la Jetson Orin Nano Super un excellent choix pour les tâches Vision AI en temps réel à la périphérie.
Fig 5. Analyse comparative de YOLO11 sur Jetson Orin NX 16GB.
Découvrez YOLO11 et la NVIDIA Jetson Orin Nano Super
Si vous êtes impatient de commencer à déployer YOLO11 sur la Jetson Orin Nano Super, il y a une bonne nouvelle : il s'agit d'un processus simple. Après avoir flashé votre appareil avec le SDK NVIDIA JetPack, vous pouvez soit utiliser une image Docker préconstruite pour une installation rapide, soit installer manuellement les paquets nécessaires.
Pour ceux qui recherchent une intégration plus rapide et plus transparente, le conteneur Docker JetPack 6 mis à jour est la solution idéale. Un conteneur Docker est un environnement léger et portable qui comprend tous les outils et dépendances nécessaires pour exécuter un logiciel spécifique.
Le conteneur Ultralytics , optimisé pour JetPack 6.1, est préchargé avec CUDA 12.6, TensorRT 10.3 et des outils essentiels comme PyTorch et TorchVision, tous adaptés à l'architecture ARM64 de Jetson. En utilisant ce conteneur, les développeurs peuvent gagner du temps sur l'installation et se concentrer sur la construction et l'optimisation de leurs applications Vision AI avec YOLO11.
Applications de YOLO11 sur le NVIDIA Jetson Orin Nano Super
Pour ceux qui recherchent l'inspiration pour votre prochain projet d'IA, il existe un potentiel pour les applications de vision par ordinateur basées sur la périphérie tout autour de nous.
Dans la vie de tous les jours, l'edge AI redéfinit les espaces intelligents en permettant aux systèmes de detect et de track objets en temps réel, sans dépendre du traitement en nuage. Qu'il s'agisse de surveiller la circulation dans une ville animée ou d'identifier une activité inhabituelle dans les espaces publics, l'edge Vision AI renforce la sécurité et l'efficacité.
Les détaillants exploitent également l'intelligence artificielle et la vision par ordinateur. Des contrôles d'inventaire automatisés à la prévention des vols, des modèles comme YOLO11 permettent aux entreprises de déployer des solutions en temps réel directement dans les magasins.
De même, lorsqu'il s'agit de l'IA dans le domaine de la santé, la surveillance en périphérie garantit la sécurité des patients, détecte les anomalies et maintient la conformité, le tout sans les retards causés par la dépendance à l'égard du cloud. Avec des outils tels que le Jetson Orin Nano Super et le YOLO11, l'avenir de l'IA Vision se dessine à la périphérie, là où on en a le plus besoin.
Principaux points à retenir
Le déploiement de modèlesYOLO d'Ultralytics tels que YOLO11 sur le Super Developer Kit NVIDIA Jetson Orin Nano constitue une solution fiable et efficace pour les applications d'IA de pointe. Avec des performances GPU robustes, une prise en charge transparente de PyTorch, ONNX et TensorRT, et des benchmarks impressionnants, il est bien adapté aux tâches de vision par ordinateur en temps réel telles que la détection et le suivi d'objets.
Les innovations et les collaborations dans les technologies de pointe telles que Vision AI et l'accélération matérielle transforment notre façon de travailler, en permettant aux développeurs de créer des solutions évolutives et très performantes à la périphérie. À mesure que l'IA progresse, des outils tels que YOLO11 et le Jetson Orin Nano Super facilitent plus que jamais la mise en œuvre de solutions intelligentes en temps réel.
L'IA vous intéresse ? Visitez notre dépôt GitHub pour explorer nos contributions et interagir avec notre communauté. Découvrez comment nous utilisons l'IA pour avoir un impact dans des secteurs tels que l'agriculture et la santé.