NVIDIA Jetson Orin Nano Superで動作するUltralytics YOLO11：高速かつ効率的

2024年12月17日に発売されたNVIDIA Jetson Orin Nano Super Developer Kitは、高度な機能をエッジコンピューティングにもたらすために設計された、コンパクトながら高性能な生成AIスーパーコンピューターです。リアルタイム処理を可能にし、クラウドコンピューティングの必要性を減らします。NVIDIA Jetson Orin Nano Superを使うことで、開発者はローカル環境で効率的に動作する、手頃な価格のインテリジェントシステムを構築できます。

Ultralytics YOLOモデル、たとえばUltralytics YOLO11と組み合わせることで、Jetson Orin Nano Superは、幅広いビジョンAIアプリケーションをエッジで処理できます。特にYOLO11は、物体検出、物体追跡、インスタンスセグメンテーションなどのタスクにおける速度と精度で知られるコンピュータービジョンモデルです。

Ultralytics YOLO11の機能を、キットの高性能なGPU（グラフィックス処理装置）や、PyTorch、ONNX、NVIDIA TensorRTなどのフレームワークへの対応と組み合わせることで、高性能なデプロイが可能になります。この組み合わせにより、ロボティクスにおける物体検出から、スマートスペースや小売システムでのリアルタイム物体追跡まで、AIアプリケーションを開発するための効率的なソリューションを開発者に提供します。

この記事では、NVIDIA Jetson Orin Nano Super Developer Kitの概要、エッジAI向けのUltralytics YOLO11との連携方法、性能ベンチマーク、実世界での用途、そして開発者のビジョンAIプロジェクト構築にどのように役立つかを紹介します。

NVIDIA Jetson Orin Nano Super Developer Kitとは？#

NVIDIA Jetson Orin Nano Super Developer Kitは、生成AIを小型のエッジデバイスに導入できる、コンパクトで高性能なコンピューターです。最大67 TOPS（1秒あたり数兆回の演算）のAI性能を発揮するため、高度なAIプロジェクトに取り組む開発者、学生、愛好家に適しています。

主な特徴は以下のとおりです。

• GPU性能：このデバイスはNVIDIA AmpereアーキテクチャのGPUを搭載しており、1,024個のCUDAコアと32個のTensorコアを備えています。CUDAコアは多くのタスクを同時に処理し、複雑な計算を高速化します。一方、TensorコアはディープラーニングなどのAIタスクに特化しています。
• 高性能CPU：速度と効率のバランスを考慮して設計された、6コアのArm Cortex-A78AEプロセッサを搭載しています。消費電力を抑えながら、複数のタスクをスムーズに処理できます。大規模な電源を利用できないローカル動作のシステムでは、これは重要な特徴です。
• 効率的なメモリ：キットには8GBのLPDDR5（低消費電力ダブルデータレート5）メモリが搭載されています。LPDDR5は、速度とエネルギー効率に最適化されたRAM（ランダムアクセスメモリ）の一種で、過剰な電力を消費せずに大規模なデータセットやリアルタイム処理に対応できます。
• 接続オプション：高速データ転送用のUSB 3.2ポート、高速なネットワーク接続を実現するギガビットEthernetポート、センサーやカメラを接続するためのカメラインターフェースを備えています。
• AI開発ツール：Jetson Orin Nano SuperはNVIDIA JetPack SDKに対応しており、処理を高速化するCUDAや、AIモデルを最適化するTensorRTなどのツールを利用できます。これらのツールにより、開発者はAIアプリケーションを迅速かつ効率的に構築・デプロイできます。

性能ベンチマーク：Jetson Orin Nano SuperとOrin NX 16GBの比較#

NVIDIAの製品に詳しい方なら、この新製品と既存のNVIDIA Jetson Orin NX 16GB（Superモードなし）との比較が気になるかもしれません。Jetson Orin NXは全体的に高い性能を備えていますが、Jetson Orin Nano Super Developer Kitは、そのわずかなコストで優れた性能を実現します。

図2. NVIDIA Jetson Orinエコシステムの概要

概要を簡単に紹介します。

• AI性能：Jetson Orin Nano Superは最大67 TOPSを実現し、ほとんどのエッジAIタスクに適しています。一方、Jetson Orin NXは最大100 TOPSで、より負荷の高いアプリケーションに対応します。
• メモリ：Jetson Orin Nano Superには8GBのLPDDR5が搭載されており、リアルタイムタスクに十分です。一方、Orin NXはその2倍の16GBを搭載し、より大規模なワークロードに対応します。
• 電力効率：Jetson Orin Nano Superはエネルギー効率に優れ、消費電力を7Wから25Wの間で設定できます。これに対し、Jetson Orin NXはより多くの電力を必要とします。
• GPU：どちらも、1,024個のCUDAコアと32個のTensorコアを備えたNVIDIA Ampereアーキテクチャを採用し、高いGPU性能を実現します。

Jetson Orin Nano SuperとUltralytics YOLO11：ビジョンAIをエッジへ#

Jetson Orin Nano Superについて理解が深まったところで、YOLO11がどのようにビジョンAI機能をエッジにもたらすかを見ていきましょう。YOLO11を含むUltralytics YOLOモデルには、トレーニング、予測、エクスポートなどの多用途なモードがあり、さまざまなAIワークフローに適応できます。

たとえば、トレーニングモードでは、Ultralytics YOLOモデルをカスタムデータセットでファインチューニングおよびトレーニングし、固有の物体の検出や特定の環境向けの最適化など、特定の用途に対応させることができます。一方、予測モードは推論向けに設計されており、リアルタイムのコンピュータービジョンタスクを実行できます。最後に、エクスポートモードを使うと、モデルをデプロイ向けに最適化された形式に変換できます。

図3. Ultralytics YOLOモデルはさまざまな機能とモードに対応しています。

Ultralytics YOLO11はエクスポートモードで、以下をはじめとするさまざまなモデルのデプロイオプションに対応しています。

• NVIDIA TensorRT：NVIDIA GPU向けに最適化された形式で、Jetson Orin Nano Super上で高性能かつ低レイテンシの推論を実現します。
• ONNX（オープンニューラルネットワーク交換形式）：さまざまなプラットフォームとの互換性を提供し、異なるハードウェアやソフトウェアのエコシステムで柔軟に利用できます。
• TorchScript：PyTorchベースのアプリケーションに適した形式で、PyTorchのワークフローに容易に統合できます。
• TFLite（TensorFlow Lite）：軽量なAIデプロイ向けに設計された形式で、モバイルシステムや組み込みシステムに適しています。

これらのデプロイ形式を利用することで、開発者はJetson Orin Nano Superのハードウェアを最大限に活用し、スマートスペース、ロボティクス、小売業務の自動化などのリアルタイムアプリケーションでUltralytics YOLO11を実行できます。

NVIDIA Jetson Orin Nano SuperでUltralytics YOLO11をベンチマーク#

次に、NVIDIA Jetson Orin Nano Super上でUltralytics YOLO11がどの程度高速に動作するかを把握するため、PyTorch、ONNX、TensorRTなどのGPUアクセラレーション対応形式を使ったベンチマークを見ていきましょう。これらのテストでは、Jetson Orin Nano SuperのYOLO11モデルの推論時間が、既存のJetson Orin NX 16GB（Superモードなし）と同程度で、場合によってはそれより高速であることが示されています。

図4. NVIDIA Jetson Orin Nano SuperでUltralytics YOLO11をベンチマーク

Jetson Orin Nano Superが注目に値するもう1つの理由は、手頃な価格です。Jetson Orin NX 16GBの半額未満で同等の性能を提供するため、高性能なUltralytics YOLO11アプリケーションを構築する開発者にとって高い価値があります。コストと性能を両立したJetson Orin Nano Superは、エッジでのリアルタイムビジョンAIタスクに最適な選択肢です。

図5. Jetson Orin NX 16GBでUltralytics YOLO11をベンチマーク

Ultralytics YOLO11とNVIDIA Jetson Orin Nano Superを実際に試す#

Jetson Orin Nano SuperへのUltralytics YOLO11のデプロイを始めたい場合、手順は簡単です。NVIDIA JetPack SDKをデバイスに書き込んだ後、すばやくセットアップできるビルド済みDockerイメージを使用するか、必要なパッケージを手動でインストールできます。

最速でセットアップするには、更新済みのJetPack 6 Dockerコンテナが最も簡単な選択肢です。Dockerコンテナは、特定のソフトウェアを実行するために必要なツールと依存関係をすべて含む、軽量でポータブルな環境です。

JetPack 6.1向けに最適化されたUltralyticsコンテナには、CUDA 12.6、TensorRT 10.3、PyTorchやTorchVisionなどの必須ツールがあらかじめ用意されており、すべてJetsonのARM64アーキテクチャに合わせて調整されています。このコンテナを使うことで、開発者はセットアップの時間を短縮し、YOLO11を使ったビジョンAIアプリケーションの構築と最適化に集中できます。

NVIDIA Jetson Orin Nano SuperでのUltralytics YOLO11の活用例#

次のAIプロジェクトのヒントをお探しの方は、身近なところにエッジベースのコンピュータービジョンアプリケーションの可能性が広がっています。

日常生活では、エッジAIがクラウド処理に頼らずリアルタイムに物体を検出・追跡できるシステムを実現し、スマート空間を変革しています。活気ある都市での交通監視から公共空間での不審な活動の特定まで、エッジビジョンAIはセキュリティと効率性を高めています。

小売業者もエッジAIとコンピュータービジョンを活用しています。在庫確認の自動化から盗難防止まで、Ultralytics YOLO11などのモデルにより、企業は店舗内にリアルタイムソリューションを直接デプロイできます。

同様に、医療分野のAIでは、エッジベースの監視が患者の安全を守り、異常を検知し、クラウドへの依存による遅延なしにコンプライアンスを支援します。Jetson Orin Nano SuperやUltralytics YOLO11などのツールにより、最も必要とされるエッジの現場で、ビジョンAIの未来が形作られています。

重要なポイント#

NVIDIA Jetson Orin Nano Super Developer KitにYOLO11などのUltralytics YOLOモデルをデプロイすることで、エッジAIアプリケーション向けの信頼性と効率性に優れたソリューションを実現できます。堅牢なGPU性能、PyTorch、ONNX、TensorRTのネイティブサポート、優れたベンチマークを備えており、物体検出や追跡などのリアルタイムコンピュータービジョンタスクに適しています。

ビジョンAIとハードウェアアクセラレーションの進歩は、私たちの働き方を変え、開発者がエッジでスケーラブルかつ高性能なソリューションを構築できるようにしています。AIの進歩に伴い、Ultralytics YOLO11やJetson Orin Nano Superなどのツールを使えば、インテリジェントなリアルタイムソリューションをこれまで以上に簡単に実現できます。

AIに興味がありますか？GitHubリポジトリで私たちの貢献をご覧いただき、コミュニティにご参加ください。農業やヘルスケアなどの業界で、私たちがAIをどのように活用しているかをご確認ください。