NVIDIA Jetson Orin Nano Super上のUltralytics YOLO11：高速かつ効率的

2024年12月17日に発売されたNVIDIA Jetson Orin Nano Super Developer Kitは、エッジコンピューティングに高度な機能をもたらすために設計された、コンパクトながら強力な生成AIスーパーコンピュータです。リアルタイム処理を容易にし、クラウドコンピューティングの必要性をなくします。NVIDIA Jetson Orin Nano Superを使用することで、開発者はローカル環境で効率的に動作する手頃な価格のインテリジェントシステムを構築できます。

Ultralytics YOLO11などのUltralytics YOLO modelsと組み合わせることで、Jetson Orin Nano Superはエッジで膨大な範囲のビジョンAIアプリケーションを処理できます。特にYOLO11は、object detection、オブジェクトトラッキング、インスタンスセグメンテーションなどのタスクにおける速度と精度で知られるコンピュータビジョンモデルです。

Ultralytics YOLO11の機能と、キットの堅牢な GPU (Graphics Processing Unit) や PyTorch、ONNX、NVIDIA TensorRT などのフレームワークサポートを組み合わせることで、高性能なデプロイが可能になります。この組み合わせにより、ロボット工学における物体検出から、スマートスペースやリテールシステムにおけるリアルタイムの物体追跡に至るまで、AIアプリケーションを作成するための効率的なソリューションが開発者に提供されます。

この記事では、NVIDIA Jetson Orin Nano Super Developer Kit、エッジ AI向けのUltralytics YOLO11との連携方法、パフォーマンスベンチマーク、現実世界のアプリケーション、そしてそれが開発者のビジョンAIプロジェクト構築をどのように支援できるかについて見ていきます。それでは始めましょう！

NVIDIA Jetson Orin Nano Super Developer Kitとは？#

NVIDIA Jetson Orin Nano Super Developer Kitは、小型のエッジデバイス向け生成AIを再定義する、コンパクトかつ強力なコンピュータです。最大67 TOPS（1秒あたり数兆回の演算）のAIパフォーマンスを提供し、高度なAIプロジェクトに取り組む開発者、学生、ホビーユーザーに最適です。

主な機能の一部を以下に紹介します。

• GPUパフォーマンス: このデバイスはNVIDIA AmpereアーキテクチャのGPUを基盤としており、1,024個のCUDAコアと32個のTensorコアを搭載しています。CUDAコアは多くのタスクを同時に処理して複雑な計算を高速化し、TensorコアはディープラーニングなどのAIタスクに特化しています。
• 強力なCPU: 速度と効率のバランスを取るように設計された6コアのArm Cortex-A78AEプロセッサを搭載しています。このデバイスは、消費電力を抑えながら複数のタスクをスムーズに処理できます。これは、大容量の電源にアクセスできない場所でローカルに実行されるシステムにとって重要です。
• 効率的なメモリ: キットには8GBのLPDDR5（Low Power Double Data Rate 5）メモリが搭載されています。LPDDR5は速度とエネルギー効率に最適化されたRAM（Random Access Memory）の一種であり、デバイスが過剰な電力を消費することなく、大規模なdatasetsやリアルタイム処理を処理できるようにします。
• 接続オプション: 高速データ転送用のUSB 3.2ポート、強力なネットワーク接続用のGigabit Ethernetポート、およびセンサーやcamerasを統合するためのカメラインターフェイスが含まれています。
• AI開発ツール: Jetson Orin Nano SuperはNVIDIA JetPack SDKに対応しており、高速コンピューティングのためのCUDAや、AIモデルを最適化するためのTensorRTなどのツールを提供します。これらのツールにより、開発者はAIアプリケーションを迅速かつ効率的に構築してデプロイしやすくなります。

パフォーマンスベンチマーク: Jetson Orin Nano Super vs. Orin NX 16GB#

NVIDIAの製品に馴染みがある方は、今回の新しいリリースが既存のNVIDIA Jetson Orin NX 16GB（スーパーモードなし）とどのように比較されるのか疑問に思うかもしれません。Jetson Orin NXの方が全体的な機能は高いですが、Jetson Orin Nano Super Developer Kitは、コストを抑えつつ印象的なパフォーマンスを提供します。

Fig 2. NVIDIA Jetson Orinエコシステムの概要。

概要は以下の通りです。

• AIパフォーマンス: Jetson Orin Nano Superは最大67 TOPSを実現し、ほとんどのエッジAIタスクに最適です。一方、Jetson Orin NXはより要求の厳しいアプリケーション向けに最大100 TOPSを提供します。
• メモリ: Jetson Orin Nano Superは8GBのLPDDR5を搭載しており、リアルタイムタスクには十分です。一方、Orin NXはそれを倍増させた16GBで、より大きなワークロードに対応します。
• 電力効率: Jetson Orin Nano Superはよりエネルギー効率が高く、7Wから25Wの間で構成可能であり、Jetson Orin NXの高い電力需要と比較して有利です。
• GPU: 両者ともにNVIDIA Ampereアーキテクチャを共有し、1,024個のCUDAコアと32個のTensorコアにより、堅牢なGPUパフォーマンスを提供します。

Jetson Orin Nano Superを搭載したUltralytics YOLO11：ビジョンAIをエッジへ#

Jetson Orin Nano Superについて理解が深まったところで、YOLO11がどのようにしてエッジにビジョンAI機能をもたらすかを見ていきましょう。YOLO11を含むUltralytics YOLOモデルには、学習、予測、エクスポートなどの多彩なモードが用意されており、多様なAIワークフローに適応可能です。

たとえば、トレーニングモードでは、Ultralytics YOLOモデルを微調整し、固有のオブジェクトの検出や特定の環境への最適化など、特定のアプリケーション向けにカスタムデータセットでトレーニングできます。同様に、予測モードは推論用に設計されており、リアルタイムのcomputer vision tasksを可能にします。最後に、エクスポートモードを使用して、デプロイ用に最適化された形式にモデルを変換できます。

Fig 3. Ultralytics YOLOモデルはさまざまな機能とモードをサポートしています。

exportモードの Ultralytics YOLO11 は、以下を含むさまざまなモデルデプロイオプションをサポートしています。

• NVIDIA TensorRT: この形式はNVIDIA GPU向けに最適化されており、Jetson Orin Nano Super上で高性能かつ低遅延の推論を提供します。
• ONNX (Open Neural Network Exchange): さまざまなプラットフォーム間での互換性を保証し、多様なハードウェアおよびソフトウェアエコシステムに対して柔軟に対応します。
• TorchScript: このフォーマットはPyTorchベースのアプリケーションに最適であり、PyTorchワークフローへのシームレスな統合を支援します。
• TFLite (TensorFlow Lite): 軽量なAIデプロイ用に設計されたフォーマットであり、モバイルおよび組み込みシステムに最適です。

これらのデプロイ形式を使用することで、開発者は Jetson Orin Nano Super のハードウェアを最大限に活用し、スマートスペース、ロボット工学、リテール自動化などのリアルタイムアプリケーション向けに Ultralytics YOLO11 を実行できます。

NVIDIA Jetson Orin Nano SuperにおけるUltralytics YOLO11のベンチマーク測定#

次に、Ultralytics YOLO11がNVIDIA Jetson Orin Nano Super上でどれほどの速度で動作するかをよりよく把握するため、PyTorch、ONNX、TensorRTなどのGPUアクセラレーテッドなエクスポート形式を使用した、その優れたパフォーマンスとベンチマークを検証してみましょう。これらのテストから、Jetson Orin Nano SuperでのYOLO11モデルの推論時間は、既存のJetson Orin NX 16GB（スーパーモードなし）と同等であり、場合によってはそれを凌駕することが明らかになっています。

Fig 4. NVIDIA Jetson Orin Nano SuperにおけるUltralytics YOLO11のベンチマーク測定。

さらに驚くべきは、Jetson Orin Nano Super の手頃な価格です。Jetson Orin NX 16GB の半額未満の価格でこのパフォーマンスを提供するため、高性能な Ultralytics YOLO11 アプリケーションを構築する開発者にとって抜群のコストパフォーマンスを実現します。このコストとパフォーマンスの組み合わせにより、Jetson Orin Nano Super はエッジでのリアルタイムビジョンAIタスクに最適な選択肢となります。

Fig 5. Jetson Orin NX 16GBにおけるUltralytics YOLO11のベンチマーク測定。

Ultralytics YOLO11 と NVIDIA Jetson Orin Nano Super を実際に試してみる#

Jetson Orin Nano Super で Ultralytics YOLO11 の利用開始に興味がある方に朗報です。プロセスは非常にシンプルです。NVIDIA JetPack SDK でデバイスにフラッシュした後、すぐにセットアップできるビルド済み Docker イメージを使用するか、必要なパッケージを手動でインストールすることができます。

より高速でシームレスな統合を求める場合、更新されたJetPack 6 Dockerコンテナが最適なソリューションです。Dockerコンテナは、特定のソフトウェアを実行するために必要なすべてのツールと依存関係を含む、軽量でポータブルな環境です。

JetPack 6.1用に最適化されたUltralyticsコンテナには、CUDA 12.6、TensorRT 10.3、およびPyTorchやTorchVisionなどの必須ツールがプリロードされており、すべてJetsonのARM64アーキテクチャに合わせて調整されています。このコンテナを使用することで、開発者はセットアップの時間を節約し、YOLO11を使用したvision AI applicationsの構築と最適化に集中できます。

NVIDIA Jetson Orin Nano Super 上での Ultralytics YOLO11 のアプリケーション#

次回のAIプロジェクトのインスピレーションを探している方へ、身の回りにはエッジベースのコンピュータビジョンアプリケーションの可能性が溢れています。

日常生活において、エッジAIはシステムがリアルタイムで物体を検出し追跡することを可能にすることで、スマートスペースを再定義しています。しかも、クラウド処理に依存する必要はありません。賑やかな都市の交通監視から、公共スペースにおける異常行動の特定まで、エッジビジョンAIはセキュリティと効率を向上させています。

小売業者もエッジAIやコンピュータビジョンを活用し始めています。自動在庫チェックから盗難防止まで、Ultralytics YOLO11 のようなモデルにより、企業は店舗に直接リアルタイムソリューションをデプロイすることが可能になります。

同様に、AI in healthcareに関しても、エッジベースのモニタリングにより、クラウドへの依存による遅延なしで、患者の安全確保、異常検知、コンプライアンスの維持が行えます。Jetson Orin Nano Super や Ultralytics YOLO11 などのツールにより、ビジョンAIの未来は、最も必要とされるエッジでまさに展開されつつあります。

重要なポイント#

NVIDIA Jetson Orin Nano Super Developer Kit上でYOLO11などのUltralytics YOLOモデルをデプロイすることは、エッジAIアプリケーションにとって信頼性が高く効率的なソリューションを提供します。堅牢なGPUパフォーマンス、PyTorch、ONNX、TensorRTへのシームレスなサポート、そして印象的なベンチマークにより、物体検出や追跡といったリアルタイムのコンピュータビジョンタスクに適しています。

ビジョンAIやハードウェアアクセラレーションなどの最先端技術におけるイノベーションとコラボレーションは、私たちの働き方を変革し、開発者がエッジでスケーラブルかつ高性能なソリューションを構築できるように力を与えています。AIが進歩するにつれて、Ultralytics YOLO11 や Jetson Orin Nano Super などのツールにより、インテリジェントなリアルタイムソリューションをこれまで以上に簡単に実現できるようになります。

AIに興味がありますか？GitHub repositoryにアクセスして私たちの貢献を探索し、our communityに参加してください。私たちがどのようにAIを使用して農業やヘルスケアなどの産業に影響を与えているかをご覧ください。