NVIDIA Jetson Orin Nano Super上のUltralytics YOLO11：高速かつ効率的

2024年12月17日に発売されたNVIDIA Jetson Orin Nano Super Developer Kitは、エッジコンピューティングに高度な機能をもたらすために設計された、コンパクトかつ強力な生成AIスーパーコンピュータです。リアルタイム処理を可能にし、クラウドコンピューティングの必要性を排除します。NVIDIA Jetson Orin Nano Superにより、開発者はローカル環境で効率的に動作する手頃な価格のインテリジェントシステムを構築できます。

Ultralytics YOLOモデル（Ultralytics YOLO11など）と組み合わせることで、Jetson Orin Nano Superはエッジで多岐にわたるビジョンAIアプリケーションを処理できます。特にYOLO11は、物体検出、物体追跡、インスタンスセグメンテーションなどのタスクにおける速度と精度で知られるコンピュータビジョンモデルです。

YOLO11の能力と、このキットが備える堅牢なGPU (Graphics Processing Unit)およびPyTorch、ONNX、NVIDIA TensorRTといったフレームワークへのサポートを組み合わせることで、高性能なデプロイメントが実現します。この組み合わせにより、ロボティクスにおける物体検出から、スマートスペースや小売システムでのリアルタイム物体追跡まで、AIアプリケーションを作成するための効率的なソリューションを開発者に提供します。

本記事では、NVIDIA Jetson Orin Nano Super Developer Kitの概要、エッジAIのためにUltralytics YOLO11とどのように連携するか、そのパフォーマンスベンチマーク、実際の応用事例、そして開発者がビジョンAIプロジェクトを構築する際にどのように役立つかを見ていきます。それでは始めましょう！

Link to this sectionNVIDIA Jetson Orin Nano Super Developer Kitとは？#

NVIDIA Jetson Orin Nano Super Developer Kitは、小型のエッジデバイス向け生成AIを再定義する、コンパクトかつ強力なコンピュータです。最大67 TOPS（1秒あたり数兆回の演算）のAIパフォーマンスを提供し、高度なAIプロジェクトに取り組む開発者、学生、ホビーユーザーに最適です。

主な機能の一部を以下に紹介します。

• GPUパフォーマンス: このデバイスはNVIDIA AmpereアーキテクチャのGPUを基盤としており、1,024個のCUDAコアと32個のTensorコアを搭載しています。CUDAコアは多くのタスクを同時に処理して複雑な計算を高速化し、TensorコアはディープラーニングなどのAIタスクに特化しています。
• 強力なCPU: 速度と効率のバランスを取るように設計された6コアのArm Cortex-A78AEプロセッサを搭載しています。このデバイスは、消費電力を抑えながら複数のタスクをスムーズに処理できます。これは、大容量の電源にアクセスできない場所でローカルに実行されるシステムにとって重要です。
• 効率的なメモリ: このキットには8GBのLPDDR5 (Low Power Double Data Rate 5) メモリが搭載されています。LPDDR5は速度とエネルギー効率のために最適化されたRAM（Random Access Memory）の一種であり、デバイスが過度な電力を消費することなく、大規模なデータセットやリアルタイム処理を扱えるようにします。
• 接続オプション: 高速データ転送のためのUSB 3.2ポート、強力なネットワーク接続のためのギガビットイーサネットポート、センサーやカメラを統合するためのカメラインターフェースが含まれています。
• AI開発ツール: Jetson Orin Nano SuperはNVIDIA JetPack SDKと連携しており、コンピューティングを高速化するCUDAやAIモデルを最適化するTensorRTなどのツールを提供します。これらのツールにより、開発者はAIアプリケーションを迅速かつ効率的に構築およびデプロイしやすくなります。

Link to this sectionパフォーマンスベンチマーク: Jetson Orin Nano Super vs. Orin NX 16GB#

NVIDIAの製品に馴染みがある方は、今回の新しいリリースが既存のNVIDIA Jetson Orin NX 16GB（スーパーモードなし）とどのように比較されるのか疑問に思うかもしれません。Jetson Orin NXの方が全体的な機能は高いですが、Jetson Orin Nano Super Developer Kitは、コストを抑えつつ印象的なパフォーマンスを提供します。

Fig 2. NVIDIA Jetson Orinエコシステムの紹介。

概要は以下の通りです。

• AIパフォーマンス: Jetson Orin Nano Superは最大67 TOPSを実現し、ほとんどのエッジAIタスクに最適です。一方、Jetson Orin NXはより要求の厳しいアプリケーション向けに最大100 TOPSを提供します。
• メモリ: Jetson Orin Nano Superは8GBのLPDDR5を搭載しており、リアルタイムタスクには十分です。一方、Orin NXはそれを倍増させた16GBで、より大きなワークロードに対応します。
• 電力効率: Jetson Orin Nano Superはよりエネルギー効率が高く、7Wから25Wの間で構成可能であり、Jetson Orin NXの高い電力需要と比較して有利です。
• GPU: 両者ともにNVIDIA Ampereアーキテクチャを共有し、1,024個のCUDAコアと32個のTensorコアにより、堅牢なGPUパフォーマンスを提供します。

Link to this sectionJetson Orin Nano SuperでのYOLO11：エッジへのビジョンAI導入#

Jetson Orin Nano Superについて理解が深まったところで、YOLO11がどのようにしてエッジにビジョンAI機能をもたらすかを見ていきましょう。YOLO11を含むUltralytics YOLOモデルには、学習、予測、エクスポートなどの多彩なモードが用意されており、多様なAIワークフローに適応可能です。

例えば、学習モードでは、Ultralytics YOLOモデルをファインチューニングし、特定のアプリケーションに合わせてカスタムデータセットでトレーニングすることで、固有の物体の検出や特定の環境への最適化が可能です。同様に、予測モードは推論用に設計されており、リアルタイムのコンピュータビジョンタスクを実現します。最後に、エクスポートモードを使用して、モデルをデプロイ用に最適化された形式に変換できます。

Fig 3. Ultralytics YOLOモデルは多様な機能とモードをサポートしています。

YOLO11のエクスポートモードは、以下を含む幅広いモデルデプロイメントオプションをサポートしています。

• NVIDIA TensorRT: この形式はNVIDIA GPU向けに最適化されており、Jetson Orin Nano Super上で高性能かつ低遅延の推論を提供します。
• ONNX (Open Neural Network Exchange): さまざまなプラットフォーム間での互換性を保証し、多様なハードウェアおよびソフトウェアエコシステムに対して柔軟に対応します。
• TorchScript: PyTorchベースのアプリケーションに最適な形式であり、PyTorchワークフローへのシームレスな統合を支援します。
• TFLite (TensorFlow Lite): 軽量なAIデプロイメント用に設計されており、モバイルデバイスや組み込みシステムに最適です。

これらのデプロイメント形式を使用することで、開発者はJetson Orin Nano Superのハードウェア能力を最大限に活用し、スマートスペース、ロボティクス、小売オートメーションといったリアルタイムアプリケーションにYOLO11を導入できます。

Link to this sectionNVIDIA Jetson Orin Nano SuperにおけるYOLO11のベンチマーク#

次に、YOLO11がNVIDIA Jetson Orin Nano Super上でどれほど高速に動作するかを把握するため、PyTorch、ONNX、TensorRTといったGPUアクセラレーション対応のエクスポート形式を使用したパフォーマンスとベンチマークを検証します。これらのテストにより、Jetson Orin Nano Superは、既存のJetson Orin NX 16GB（スーパーモードなし）に匹敵する、場合によっては凌駕する推論時間をYOLO11モデルで達成できることが判明しました。

Fig 4. NVIDIA Jetson Orin Nano SuperにおけるYOLO11のベンチマーク。

さらに注目すべきは、Jetson Orin Nano Superの手頃な価格です。Jetson Orin NX 16GBの半分以下の価格でこのようなパフォーマンスを提供できるため、高性能なYOLO11アプリケーションを構築する開発者にとって非常に価値があります。コストとパフォーマンスのこの組み合わせにより、Jetson Orin Nano SuperはエッジでのリアルタイムビジョンAIタスクにとって優れた選択肢となります。

Fig 5. Jetson Orin NX 16GBにおけるYOLO11のベンチマーク。

Link to this sectionYOLO11とNVIDIA Jetson Orin Nano Superを体験する#

Jetson Orin Nano SuperへのYOLO11のデプロイを始めることに興味があるなら、朗報です。そのプロセスは非常にシンプルです。NVIDIA JetPack SDKでデバイスをフラッシュした後、すぐにセットアップできるビルド済みのDockerイメージを使用するか、手動で必要なパッケージをインストールすることができます。

より高速でシームレスな統合を求める場合、更新されたJetPack 6 Dockerコンテナが最適なソリューションです。Dockerコンテナは、特定のソフトウェアを実行するために必要なすべてのツールと依存関係を含む、軽量でポータブルな環境です。

JetPack 6.1向けに最適化されたUltralyticsコンテナには、CUDA 12.6、TensorRT 10.3、およびPyTorchやTorchVisionといった必須ツールがプリロードされており、すべてJetsonのARM64アーキテクチャに合わせて調整されています。このコンテナを使用することで、開発者はセットアップ時間を短縮し、YOLO11を用いたビジョンAIアプリケーションの構築と最適化に集中できます。

Link to this sectionNVIDIA Jetson Orin Nano SuperにおけるYOLO11の応用#

次回のAIプロジェクトのインスピレーションを探している方へ、身の回りにはエッジベースのコンピュータビジョンアプリケーションの可能性が溢れています。

日常生活において、エッジAIはシステムがリアルタイムで物体を検出し追跡することを可能にすることで、スマートスペースを再定義しています。しかも、クラウド処理に依存する必要はありません。賑やかな都市の交通監視から、公共スペースにおける異常行動の特定まで、エッジビジョンAIはセキュリティと効率を向上させています。

小売業者もまた、エッジAIとコンピュータビジョンを活用しています。自動在庫チェックから盗難防止まで、YOLO11のようなモデルにより、企業はリアルタイムのソリューションを店舗に直接デプロイできるようになっています。

同様に、ヘルスケアにおけるAIにおいても、エッジベースのモニタリングは、クラウド依存による遅延なしに、患者の安全確保、異常の検出、コンプライアンスの維持を実現します。Jetson Orin Nano SuperやYOLO11のようなツールがあれば、ビジョンAIの未来は、最も必要とされる場所であるエッジにおいて実現されようとしています。

Link to this section重要なポイント#

NVIDIA Jetson Orin Nano Super Developer Kit上でYOLO11などのUltralytics YOLOモデルをデプロイすることは、エッジAIアプリケーションにとって信頼性が高く効率的なソリューションを提供します。堅牢なGPUパフォーマンス、PyTorch、ONNX、TensorRTへのシームレスなサポート、そして印象的なベンチマークにより、物体検出や追跡といったリアルタイムのコンピュータビジョンタスクに適しています。

ビジョンAIやハードウェアアクセラレーションなどの最先端技術におけるイノベーションとコラボレーションは、私たちの働き方を変革し、開発者がスケーラブルで高性能なエッジ向けソリューションを構築できるように支援しています。AIが進化するにつれ、YOLO11やJetson Orin Nano Superといったツールは、インテリジェントなリアルタイムソリューションを実現することをかつてないほど容易にしています。

AIに興味がありますか？GitHubリポジトリにアクセスして、私たちの貢献を確認し、コミュニティに参加してください。私たちがどのようにAIを活用して農業やヘルスケアなどの業界に影響を与えているかをご覧ください。