NVIDIA Jetson Orin Nano Super上のUltralytics YOLO11：高速かつ効率的

2024年12月17日に発売されたNVIDIA Jetson Orin Nano Super Developer Kitは、高度な機能をエッジコンピューティングにもたらすために設計された、コンパクトでありながら高性能な生成AIスーパーコンピューターです。リアルタイム処理を可能にし、クラウドコンピューティングを不要にします。NVIDIA Jetson Orin Nano Superを使用すると、開発者はローカル環境で効率的に動作する、手頃な価格のインテリジェントシステムを構築できます。

Ultralytics YOLOモデルをUltralytics YOLO11のようなモデルと組み合わせることで、Jetson Orin Nano Superはエッジ上で幅広いビジョンAIアプリケーションを処理できます。特にYOLO11は、物体検出、物体追跡、インスタンスセグメンテーションなどのタスクにおける速度と精度で知られるコンピュータービジョンモデルです。

Ultralytics YOLO11の能力に、キットの堅牢なGPU（グラフィックス処理ユニット）と、PyTorch、ONNX、NVIDIA TensorRTなどのフレームワークへの対応を組み合わせることで、高性能なデプロイが可能になります。この組み合わせにより、ロボティクスにおける物体検出から、スマートスペースや小売システムにおけるリアルタイム物体追跡まで、開発者はAIアプリケーションを効率的に作成できるようになります。

この記事では、NVIDIA Jetson Orin Nano Super Developer Kit、Ultralytics YOLO11とのエッジAIでの連携、そのパフォーマンスベンチマーク、実際のアプリケーション、そして開発者がビジョンAIプロジェクトを構築する際にどのように役立つかを見ていきます。さっそく始めましょう！

NVIDIA Jetson Orin Nano Super Developer Kitとは？#

NVIDIA Jetson Orin Nano Super Developer Kitは、小型のエッジデバイス向けに生成AIを再定義する、コンパクトでありながら高性能なコンピューターです。最大67 TOPS（毎秒数兆回の演算）のAIパフォーマンスを実現し、高度なAIプロジェクトに取り組む開発者、学生、ホビイストに最適です。

主な特徴は次のとおりです。

• GPUパフォーマンス：このデバイスは、1,024個のCUDAコアと32個のTensor Coresを備えたNVIDIA AmpereアーキテクチャGPUを搭載しています。CUDAコアは多くのタスクを同時に処理して複雑な計算を高速化し、Tensor CoresはディープラーニングなどのAIタスクに特化しています。
• 高性能CPU：速度と効率のバランスを考慮して設計された、6コアのArm Cortex-A78AEプロセッサを搭載しています。エネルギー消費を抑えながら、複数のタスクをスムーズに処理できます。これは、大規模な電源にアクセスできず、ローカルで動作するシステムにとって重要です。
• 効率的なメモリ：キットには8GBのLPDDR5（低消費電力ダブルデータレート5）メモリが搭載されています。LPDDR5は速度とエネルギー効率に最適化されたRAM（ランダムアクセスメモリ）の一種であり、過剰な電力を消費せずに大規模なデータセットやリアルタイム処理を扱えます。
• 接続オプション：高速なデータ転送用のUSB 3.2ポート、強固なネットワーク接続用のGigabit Ethernetポート、センサーやカメラを統合するためのカメラインターフェースを備えています。
• AI開発ツール：Jetson Orin Nano SuperはNVIDIA JetPack SDKに対応しており、高速なコンピューティングを実現するCUDAや、AIモデルを最適化するTensorRTなどのツールを提供します。これらのツールにより、開発者はAIアプリケーションを迅速かつ効率的に構築、デプロイしやすくなります。

パフォーマンスベンチマーク：Jetson Orin Nano SuperとOrin NX 16GBの比較#

NVIDIAの取り組みに詳しい方なら、この新製品が既存のNVIDIA Jetson Orin NX 16GB（スーパーモードなし）と比べてどうなのか気になるかもしれません。Jetson Orin NXのほうが総合的な性能は高い一方、Jetson Orin Nano Super Developer Kitは、わずかなコストで優れたパフォーマンスを提供します。

図2. NVIDIA Jetson Orinエコシステムの概要です。

概要は次のとおりです。

• AIパフォーマンス：Jetson Orin Nano Superは最大67 TOPSを実現し、ほとんどのエッジAIタスクに適しています。一方、Jetson Orin NXは最大100 TOPSで、より負荷の高いアプリケーションに対応します。
• メモリ：Jetson Orin Nano Superはリアルタイムタスクに十分な8GB LPDDR5を搭載しています。一方、Orin NXは容量が2倍の16GBで、より大規模なワークロードに対応します。
• 電力効率：Jetson Orin Nano Superはよりエネルギー効率に優れ、7Wから25Wの範囲で設定できます。これは、より高い電力を必要とするJetson Orin NXと対照的です。
• GPU：どちらも1,024個のCUDAコアと32個のTensor Coresを備えたNVIDIA Ampereアーキテクチャを共有し、堅牢なGPUパフォーマンスを実現します。

Jetson Orin Nano Super上のUltralytics YOLO11：ビジョンAIをエッジへ#

Jetson Orin Nano Superについて理解が深まったところで、YOLO11がどのようにビジョンAI機能をエッジにもたらすのかを見てみましょう。YOLO11を含むUltralytics YOLOモデルには、train、predict、exportなどの柔軟なモードがあり、さまざまなAIワークフローに適応できます。

たとえばトレーニングモードでは、Ultralytics YOLOモデルをカスタムデータセットでファインチューニングおよびトレーニングし、固有の物体の検出や特定の環境向けの最適化など、用途に合わせて調整できます。同様に、予測モードは推論用に設計されており、リアルタイムのコンピュータービジョンタスクを可能にします。最後に、エクスポートモードを使用すると、デプロイに最適化された形式へモデルを変換できます。

図3. Ultralytics YOLOモデルはさまざまな機能とモードに対応しています。

Ultralytics YOLO11のエクスポートモードは、次のようなさまざまなモデルデプロイオプションに対応しています。

• NVIDIA TensorRT：この形式はNVIDIA GPU向けに最適化されており、Jetson Orin Nano Super上で高性能かつ低レイテンシーの推論を実現します。
• ONNX（オープンニューラルネットワーク交換）：さまざまなプラットフォーム間の互換性を確保し、異なるハードウェアおよびソフトウェアエコシステムで柔軟に利用できます。
• TorchScript：この形式はPyTorchベースのアプリケーションに最適で、PyTorchワークフローへのシームレスな統合に役立ちます。
• TFLite（TensorFlow Lite）：軽量なAIデプロイ向けに設計された形式で、モバイルシステムや組み込みシステムに最適です。

これらのデプロイ形式を使用すると、開発者はJetson Orin Nano Superのハードウェアを最大限に活用し、スマートスペース、ロボティクス、小売の自動化などのリアルタイムアプリケーションでUltralytics YOLO11を実行できます。

NVIDIA Jetson Orin Nano Super上でのUltralytics YOLO11のベンチマーク#

次に、NVIDIA Jetson Orin Nano Super上でUltralytics YOLO11がどれほど高速に動作するかをより詳しく把握するため、PyTorch、ONNX、TensorRTなどのGPUアクセラレーション対応エクスポート形式を使用して、その優れたパフォーマンスとベンチマークを見てみましょう。これらのテストから、Jetson Orin Nano SuperはYOLO11モデルで、既存のJetson Orin NX 16GB（スーパーモードなし）と同等、場合によってはそれを上回る推論時間を達成することが分かります。

図4. NVIDIA Jetson Orin Nano Super上でのUltralytics YOLO11のベンチマークです。

さらに注目すべき点は、Jetson Orin Nano Superの手頃な価格です。Jetson Orin NX 16GBの半額未満でこのようなパフォーマンスを提供するため、高性能なUltralytics YOLO11アプリケーションを構築する開発者に優れた価値をもたらします。コストとパフォーマンスのこの組み合わせにより、Jetson Orin Nano SuperはエッジでのリアルタイムビジョンAIタスクに最適な選択肢となります。

図5. Jetson Orin NX 16GB上でのUltralytics YOLO11のベンチマークです。

Ultralytics YOLO11とNVIDIA Jetson Orin Nano Superを実際に使ってみる#

Jetson Orin Nano SuperへのUltralytics YOLO11のデプロイを始めたい方に朗報です。手順はシンプルです。NVIDIA JetPack SDKでデバイスをフラッシュした後、すぐにセットアップできる事前構築済みDockerイメージを使用するか、必要なパッケージを手動でインストールできます。

より高速でシームレスな統合を求める場合は、更新されたJetPack 6 Dockerコンテナが理想的なソリューションです。Dockerコンテナは、特定のソフトウェアを実行するために必要なすべてのツールと依存関係を含む、軽量で移植可能な環境です。

JetPack 6.1向けに最適化されたUltralyticsコンテナには、CUDA 12.6、TensorRT 10.3、PyTorchやTorchVisionなどの必須ツールがあらかじめ含まれており、すべてJetsonのARM64アーキテクチャ向けに調整されています。このコンテナを使用することで、開発者はセットアップの時間を短縮し、YOLO11を用いたビジョンAIアプリケーションの構築と最適化に集中できます。

NVIDIA Jetson Orin Nano Super上のUltralytics YOLO11のアプリケーション#

次のAIプロジェクトのアイデアを探している方にとって、エッジベースのコンピュータービジョンアプリケーションは身近なところに数多く存在します。

日常生活では、エッジAIがクラウド処理に依存せず、システムによる物体のリアルタイム検出と追跡を可能にすることで、スマートスペースを再定義しています。活気ある都市の交通監視から公共空間での異常行動の特定まで、エッジビジョンAIはセキュリティと効率を向上させています。

小売業者もエッジAIとコンピュータービジョンを活用しています。自動化された在庫確認から盗難防止まで、Ultralytics YOLO11のようなモデルによって、企業は店舗内にリアルタイムソリューションを直接デプロイできます。

同様に、医療におけるAIでは、エッジベースのモニタリングにより、クラウド依存による遅延なしに患者の安全を確保し、異常を検出し、コンプライアンスを維持できます。Jetson Orin Nano SuperやUltralytics YOLO11のようなツールにより、ビジョンAIの未来は、最も必要とされるエッジでまさに展開されています。

主なポイント#

YOLO11のようなUltralytics YOLOモデルをNVIDIA Jetson Orin Nano Super Developer Kitにデプロイすることで、エッジAIアプリケーション向けの信頼性と効率性に優れたソリューションを実現できます。堅牢なGPUパフォーマンス、PyTorch、ONNX、TensorRTへのシームレスな対応、優れたベンチマークを備えており、物体検出や追跡などのリアルタイムコンピュータービジョンタスクに適しています。

ビジョンAIやハードウェアアクセラレーションなどの最先端技術におけるイノベーションとコラボレーションは、私たちの働き方を変革し、開発者がエッジでスケーラブルかつ高性能なソリューションを構築できるよう支援しています。AIが進歩するにつれ、Ultralytics YOLO11やJetson Orin Nano Superのようなツールによって、インテリジェントなリアルタイムソリューションをこれまで以上に容易に実現できるようになっています。

AIに興味がありますか？GitHubリポジトリにアクセスして、私たちの貢献を確認し、コミュニティに参加してください。農業や医療などの業界で、私たちがAIをどのように活用しているかをご覧ください。