ヨロビジョン深圳
深セン
今すぐ参加

Ultralytics YOLO11 on NVIDIA Jetson Orin Nano Super:高速かつ効率的

Abirami Vina

4分で読めます

2025年1月9日

Ultralytics YOLO11をNVIDIA Jetson Orin Nano Superにデプロイすることで、高度なAIアプリケーション向けに、優れたベンチマークとGPUによる高速化されたパフォーマンスがどのように実現されるかをご紹介します。

NVIDIA Jetson Orin Nano Super Developer Kitは、2024年12月17日に発売された、コンパクトながら強力な生成AIスーパーコンピューターであり、高度な機能をエッジコンピューティングにもたらすように設計されています。リアルタイム処理を促進し、クラウドコンピューティングの必要性を排除します。NVIDIA Jetson Orin Nano Superを使用すると、開発者はローカル環境で効率的に動作する手頃な価格のインテリジェントシステムを構築できます。

Ultralytics YOLOモデルUltralytics YOLO11など)と組み合わせると、Jetson Orin Nano Superは、エッジで幅広いVision AIアプリケーションを処理できます。特に、YOLO11は、物体検出、オブジェクト追跡、インスタンスセグメンテーションなどのタスクにおいて、その速度と精度で知られるコンピュータビジョンモデルです。 

YOLO11の能力と、キットの堅牢なGPU(Graphics Processing Unit)、およびPyTorch、ONNX、NVIDIA TensorRTなどのフレームワークのサポートを組み合わせることで、高性能なデプロイメントが可能になります。この組み合わせにより、開発者は、ロボット工学における物体検出から、スマートスペースや小売システムにおけるリアルタイムのオブジェクト追跡まで、AIアプリケーションを効率的に作成するためのソリューションを得ることができます。

この記事では、NVIDIA Jetson Orin Nano Super Developer Kit、エッジAI向けのUltralytics YOLO11との連携、パフォーマンスベンチマーク、実際のアプリケーション、およびVision AIプロジェクトの構築にどのように役立つかについて説明します。それでは始めましょう!

NVIDIA Jetson Orin Nano Super Developer Kitとは?

NVIDIA Jetson Orin Nano Super Developer Kitは、コンパクトながら強力なコンピューターであり、小型エッジデバイス向けの生成AIを再定義します。最大67TOPS(1秒あたり67兆回の演算)のAIパフォーマンスを実現し、高度なAIプロジェクトに取り組む開発者、学生、愛好家にとって理想的です。

__wf_reserved_inherit

主な機能の一部を以下に示します。

  • GPUパフォーマンス:このデバイスは、1,024個のCUDAコアと32個のTensorコアを含むNVIDIA AmpereアーキテクチャGPU上に構築されています。CUDAコアは多数のタスクを同時に処理し、複雑な計算を高速化します。一方、Tensorコアは、ディープラーニングなどのAIタスクに特化しています。
  • 強力なCPU:速度と効率のバランスを取るように設計された6コアのArm Cortex-A78AEプロセッサを搭載しています。このデバイスは、エネルギー消費を抑えながら、複数のタスクをスムーズに処理できます。これは、大規模な電源にアクセスせずにローカルで実行されるシステムにとって重要です。
  • 効率的なメモリ:キットには、8GBのLPDDR5(Low Power Double Data Rate 5)メモリが付属しています。LPDDR5は、速度とエネルギー効率のために最適化されたRAM(Random Access Memory)の一種であり、デバイスが過剰な電力を消費することなく、大規模なデータセットとリアルタイム処理を処理できるようにします。
  • 接続オプション:高速データ転送用のUSB 3.2ポート、強力なネットワーク接続用のギガビットイーサネットポート、センサーまたはカメラを統合するためのカメラインターフェイスが含まれています。
  • AI開発ツール:Jetson Orin Nano Superは、NVIDIA JetPack SDKと連携して動作します。NVIDIA JetPack SDKは、高速コンピューティング用のCUDAや、AIモデルを最適化するためのTensorRTなどのツールを提供します。これらのツールにより、開発者はAIアプリケーションを迅速かつ効率的に構築およびデプロイすることが容易になります。

パフォーマンスベンチマーク:Jetson Orin Nano Super対Orin NX 16GB

NVIDIAの製品をご存知の方なら、この新しいリリースが既存のNVIDIA Jetson Orin NX 16GB(スーパーモードなし)と比べてどうなのか疑問に思うかもしれません。Jetson Orin NXは全体的な性能が高いものの、Jetson Orin Nano Super Developer Kitは、はるかに低いコストで優れた性能を発揮します。

 

__wf_reserved_inherit
図2. NVIDIA Jetson Orinエコシステムの概要。

概要は以下のとおりです。

  • AI性能: Jetson Orin Nano Superは最大67TOPSを実現し、ほとんどのエッジAIタスクに適しています。一方、Jetson Orin NXはより負荷の高いアプリケーション向けに最大100TOPSを提供します。
  • メモリ: Jetson Orin Nano Superは8GBのLPDDR5を搭載しており、リアルタイムタスクには十分ですが、Orin NXはそれを2倍の16GBに増やし、より大きなワークロードに対応します。
  • 電力効率: Jetson Orin Nano Superはよりエネルギー効率が高く、7Wから25Wの間で構成可能ですが、Jetson Orin NXはより高い電力を必要とします。
  • GPU: 両方とも、堅牢なGPU性能のために、1,024 CUDAコアと32 Tensorコアを備えたNVIDIA Ampereアーキテクチャを共有しています。

Jetson Orin Nano SuperによるYOLO11:Vision AIをエッジへ

Jetson Orin Nano Superについて理解を深めたところで、YOLO11がどのようにVision AI機能をエッジにもたらすことができるのかを見ていきましょう。Ultralytics YOLOモデル(YOLO11を含む)には、train、predict、exportなどの多様なモードが付属しており、さまざまなAIワークフローに適応できます。 

たとえば、トレーニングモードでは、Ultralytics YOLOモデルを微調整し、特定のオブジェクトの検出や特定の環境への最適化など、特定のアプリケーション向けにカスタムデータセットでトレーニングできます。同様に、 予測モードは推論用に設計されており、リアルタイムのコンピュータビジョンタスクを可能にします。最後に、エクスポートモードを使用して、モデルをデプロイメント用に最適化された形式に変換できます。

__wf_reserved_inherit
図3. Ultralytics YOLOモデルは、さまざまな機能とモードをサポートしています。

エクスポートモードのYOLO11は、以下を含むさまざまなモデルデプロイメントオプションをサポートしています。

  • NVIDIA TensorRT: この形式はNVIDIA GPU向けに最適化されており、Jetson Orin Nano Super上で高性能かつ低遅延の推論を提供します。
  • ONNX (Open Neural Network Exchange): さまざまなプラットフォームとの互換性を確保し、さまざまなハードウェアおよびソフトウェアエコシステムに対応できます。
  • TorchScript: この形式はPyTorchベースのアプリケーションに最適で、PyTorchワークフローへのシームレスな統合に役立ちます。
  • TFLite (TensorFlow Lite): 軽量AIデプロイメント向けに設計された形式で、モバイルおよび組み込みシステムに最適です。

これらのデプロイメント形式を使用することで、開発者はJetson Orin Nano Superのハードウェアを最大限に活用してYOLO11を実行し、スマートスペース、ロボティクス、小売自動化などのリアルタイムアプリケーションを実現できます。 

NVIDIA Jetson Orin Nano SuperでのYOLO11のベンチマーク

次に、NVIDIA Jetson Orin Nano SuperでYOLO11がどれくらいの速さで実行できるかをより良く理解するために、PyTorch、ONNX、TensorRTなどのGPUアクセラレーションされたエクスポート形式を使用した、その優れたパフォーマンスとベンチマークを見てみましょう。これらのテストから、Jetson Orin Nano Superは、既存のJetson Orin NX 16GB(スーパーモードなし)に匹敵する、場合によってはそれを上回るYOLO11モデルでの推論時間を達成することが明らかになりました。

__wf_reserved_inherit
図4. NVIDIA Jetson Orin Nano SuperでのYOLO11のベンチマーク。

これをさらに注目すべきものにしているのは、Jetson Orin Nano Superの手頃な価格です。Jetson Orin NX 16GBの半額以下でこれほどの性能を提供することで、高性能なYOLO11アプリケーションを構築する開発者にとって非常に価値があります。このコストと性能の組み合わせにより、Jetson Orin Nano SuperはエッジでのリアルタイムVision AIタスクに最適な選択肢となります。

__wf_reserved_inherit
図5. Jetson Orin NX 16GBでのYOLO11のベンチマーク。

YOLO11とNVIDIA Jetson Orin Nano Superを実際に体験する

Jetson Orin Nano SuperへのYOLO11のデプロイを開始することに興味があるなら、朗報です。それは簡単なプロセスです。NVIDIA JetPack SDKでデバイスをフラッシュした後、すぐにセットアップできる構築済みのDockerイメージを使用するか、必要なパッケージを手動でインストールできます。 

より高速でシームレスな統合を求める方には、更新されたJetPack 6 Dockerコンテナが理想的なソリューションです。Dockerコンテナは、特定のソフトウェアを実行するために必要なすべてのツールと依存関係を含む、軽量で移植可能な環境です。 

JetPack 6.1に最適化されたUltralyticsコンテナには、CUDA 12.6、TensorRT 10.3、そしてPyTorchやTorchVisionのような必須ツールがあらかじめ搭載されており、これらはすべてJetsonのARM64アーキテクチャに合わせて調整されています。このコンテナを使用することで、開発者はセットアップにかかる時間を節約し、YOLO11を使ったVision AIアプリケーションの構築と最適化に集中できます。

NVIDIA Jetson Orin Nano SuperにおけるYOLO11の応用

次期AIプロジェクトのインスピレーションをお探しの方にとって、エッジベースのコンピュータビジョンアプリケーションは、私たちの身の回りに可能性を秘めています。 

日常生活において、エッジAIはクラウド処理に頼ることなく、リアルタイムで物体を検出し追跡するシステムを可能にすることで、スマート空間を再定義しています。賑やかな都市での交通監視から、公共空間での異常な活動の特定まで、エッジVision AIはセキュリティと効率を向上させています。

小売業者もエッジAIとコンピュータビジョンを活用しています。自動化された在庫チェックから盗難防止まで、YOLO11のようなモデルにより、企業はリアルタイムソリューションを店舗に直接導入できます。 

同様に、ヘルスケアにおけるAIに関して言えば、エッジベースのモニタリングは、クラウドへの依存による遅延なしに、患者の安全を確保し、異常を検出し、コンプライアンスを維持します。Jetson Orin Nano SuperやYOLO11のようなツールにより、Vision AIの未来は、最も必要とされるエッジで展開されています。

主なポイント

NVIDIA Jetson Orin Nano Super Developer KitにYOLO11のようなUltralytics YOLOモデルをデプロイすることで、エッジAIアプリケーション向けの信頼性が高く効率的なソリューションが実現します。堅牢なGPU性能、PyTorch、ONNX、TensorRTのシームレスなサポート、そして優れたベンチマークにより、物体検出や追跡のようなリアルタイムコンピュータビジョンタスクに最適です。 

Vision AIやハードウェアアクセラレーションのような最先端技術におけるイノベーションとコラボレーションは、私たちの働き方を変革し、開発者がスケーラブルで高性能なソリューションをエッジで構築できるようにします。AIの進化に伴い、YOLO11やJetson Orin Nano Superのようなツールは、インテリジェントなリアルタイムソリューションをこれまで以上に簡単に実現できるようにしています。

AIにご興味がありますか?GitHubリポジトリにアクセスして、私たちの貢献を探り、コミュニティに参加してください。農業やヘルスケアのような業界に影響を与えるために、私たちがどのようにAIを活用しているかをご覧ください。

AIの未来を
共に築きましょう!

未来の機械学習で、新たな一歩を踏み出しましょう。

無料ではじめる
クリップボードにコピーしました