効率的なEdge AIのためのRockchip上でのUltralytics YOLO11のデプロイ

AIコミュニティにおいて最近のバズワードとなっているのがエッジAIです。特にコンピュータビジョンの分野でその傾向が顕著です。AI駆動型アプリケーションの成長に伴い、電力や計算リソースが限られた組込みデバイス上でモデルを効率的に実行する必要性が高まっています。

例えば、ドローンはリアルタイムナビゲーションにビジョンAIを使用し、スマートカメラは物体を瞬時に検出し、産業オートメーションシステムはクラウドコンピューティングに頼らずに品質管理を行います。これらのアプリケーションでは、リアルタイムのパフォーマンスと低レイテンシを確保するため、エッジデバイス上で直接、高速かつ効率的なAI処理が求められます。しかし、エッジデバイスでAIモデルを実行するのは常に容易とは限りません。AIモデルは、多くの場合、エッジデバイスが対応できる以上の電力とメモリを消費するためです。

RockchipのRKNN Toolkitは、Rockchip搭載デバイス向けにディープラーニングモデルを最適化することで、この問題を解決します。このツールキットは専用のニューラルネットワーク処理ユニット（NPU）を使用して推論を高速化し、CPUやGPUでの処理と比較してレイテンシと消費電力を削減します。

ビジョンAIコミュニティでは、Rockchipベースのデバイス上でUltralytics YOLO11を実行したいという強い要望があり、私たちはその声にお応えしました。YOLO11のRKNNへのエクスポートモデルフォーマットのサポートを追加しました。この記事では、RKNNへのエクスポートの仕組みと、Rockchip搭載デバイスでのYOLO11デプロイがゲームチェンジャーとなる理由について解説します。

RockchipとRKNN Toolkitとは？#

Rockchipは、多くの組込みデバイスを駆動する小型ながら強力なプロセッサであるシステム・オン・チップ（SoC）を設計する企業です。これらのチップはCPU、GPU、ニューラルプロセッシングユニット（NPU）を統合し、汎用的なコンピューティングタスクから、物体検出や画像処理に依存するビジョンAIアプリケーションまで、あらゆる処理を処理します。

RockchipのSoCは、シングルボードコンピュータ（SBC）、開発ボード、産業用AIシステム、スマートカメラなど、さまざまなデバイスで使用されています。Radxa、ASUS、Pine64、Orange Pi、Odroid、Khadas、Banana Piなど、多くの著名なハードウェアメーカーがRockchip製SoCを搭載したデバイスを製造しています。これらのボードは、パフォーマンス、電力効率、手頃な価格のバランスを備えているため、エッジAIやコンピュータビジョンのアプリケーションで人気があります。

図 1. Rockchip搭載デバイスの例。

AIモデルをこれらのデバイス上で効率的に実行できるよう、RockchipはRKNN（Rockchip Neural Network）Toolkitを提供しています。これにより、開発者はディープラーニングモデルを変換および最適化して、Rockchipのニューラルネットワーク処理ユニット（NPU）を活用できるようになります。

RKNNモデルは、低レイテンシの推論と効率的な電力使用のために最適化されています。モデルをRKNNに変換することで、開発者はRockchip搭載デバイスにおいて、より高速な処理速度、消費電力の削減、効率の向上を実現できます。

RKNNモデルは最適化されています#

RKNNモデルがRockchip対応デバイス上でどのようにAIのパフォーマンスを向上させるのか、詳しく見ていきましょう。

幅広いコンピューティングタスクを処理するCPUやGPUとは異なり、RockchipのNPUはディープラーニング専用に設計されています。AIモデルをRKNNフォーマットに変換することで、開発者はNPU上で直接推論を実行できます。これにより、迅速かつ効率的な処理が不可欠であるリアルタイムのコンピュータビジョンタスクにおいて、RKNNモデルが特に有用となります。

NPUは、ニューラルネットワークの計算を並列処理するように構築されているため、AIタスクにおいてCPUやGPUよりも高速かつ効率的です。CPUがタスクを一つずつ処理し、GPUがワークロードを複数のコアに分散させるのに対し、NPUはAI特有の計算をより効率的に実行するように最適化されています。

その結果、RKNNモデルはより高速に動作し消費電力も抑えられるため、バッテリー駆動のデバイス、スマートカメラ、産業オートメーションなど、リアルタイムの意思決定を必要とするエッジAIアプリケーションに最適です。

Ultralytics YOLOモデルの概要#

Ultralytics YOLO（You Only Look Once）モデルは、物体検出、インスタンスセグメンテーション、画像分類などのリアルタイムコンピュータビジョンタスク向けに設計されています。速度、精度、効率性に優れていることで知られており、農業、製造業、ヘルスケア、自律システムなどの業界で広く使用されています。

これらのモデルは時間の経過とともに大幅に改善されてきました。例えば、UltralyticsのYOLOv5により、PyTorchを使った物体検出がより簡単に利用できるようになりました。その後、UltralyticsのYOLOv8によって、姿勢推定や画像分類などの新機能が追加されました。そして現在、YOLO11はより少ないリソースで精度を高めることで、さらなる進化を遂げています。実際に、YOLO11mはYOLOv8mよりも22%少ないパラメータ数でCOCOデータセットにおいて優れたパフォーマンスを発揮し、より高精度かつ効率的になっています。

図 2: Ultralytics YOLO11 を使用したオブジェクトの検出。

また、Ultralytics YOLOモデルは複数のフォーマットへのエクスポートをサポートしており、さまざまなプラットフォーム間での柔軟なデプロイが可能です。これらのフォーマットにはONNX、TensorRT、CoreML、OpenVINOが含まれており、開発者はターゲットハードウェアに基づいてパフォーマンスを自由に最適化できます。

YOLO11をRKNNモデルフォーマットへエクスポートするサポートが追加されたことで、YOLO11はRockchipのNPUを活用できるようになりました。最も小型のモデルであるRKNNフォーマットのYOLO11nは、画像あたり99.5msという驚異的な推論時間を実現し、組み込みデバイス上でもリアルタイム処理を可能にします。

Ultralytics YOLO11 モデルの RKNN フォーマットへのエクスポート#

現在、Ultralytics YOLO11のオブジェクト検出モデルはRKNN形式にエクスポートできます。また、今後のアップデートで他のコンピュータービジョンタスクやINT8量子化のサポートを追加する予定ですので、続報をお待ちください。

Ultralytics YOLO11 を RKNN フォーマットにエクスポートするのは簡単なプロセスです。custom-trained な YOLO11 モデルをロードし、ターゲットの Rockchip プラットフォームを指定して、数行のコードで RKNN フォーマットに変換できます。RKNN フォーマットは RK3588、RK3566、RK3576 を含むさまざまな Rockchip SoC と互換性があり、幅広いハードウェアサポートを保証します。

図 3: Ultralytics YOLO11 の RKNN モデルフォーマットへのエクスポート。

Rockchip ベースのデバイスへの Ultralytics YOLO11 のデプロイ#

エクスポートが完了すると、RKNNモデルをRockchipベースのデバイスにデプロイできます。モデルをデプロイするには、エクスポートされたRKNNファイルをRockchipデバイスに読み込み、推論を実行するだけです。推論とは、学習済みのAIモデルを使用して新しい画像やビデオを分析し、物体をリアルタイムで検出するプロセスのことです。数行のコードを実行するだけで、画像やビデオストリームから物体の識別を開始できます。

Fig 4. エクスポートされたRKNNモデルを使用して推論を実行。

Ultralytics YOLO11とRockchipによるエッジAIアプリケーション#

現実世界のRockchip搭載デバイスにおいて、Ultralytics YOLO11がどのようにデプロイできるかをよりよく理解するために、いくつかの主要なエッジAIアプリケーションを見ていきましょう。

Rockchipプロセッサは、Androidベースのタブレット、開発ボード、産業用AIシステムで広く使用されています。Android、Linux、Pythonをサポートしているため、さまざまな業界向けにビジョンAI主導のソリューションを簡単に構築およびデプロイできます。

Ultralytics YOLO11が統合された頑丈なタブレット#

Rockchip搭載デバイス上でUltralytics YOLO11を実行する一般的なアプリケーションは、頑丈なタブレットです。これらは、倉庫、建設現場、産業環境などの過酷な環境向けに設計された、耐久性と高性能を備えたタブレットです。これらのタブレットはオブジェクト検出を活用して、効率性と安全性を向上させることができます。

たとえば、倉庫の物流において、作業員はYOLO11を搭載したRockchipタブレットを使用して在庫を自動的にスキャン・検出し、ヒューマンエラーの削減や処理時間の短縮を図ることができます。同様に、建設現場では、ヘルメットやベストなどの必要な安全装備を作業員が着用しているかどうかを検出するためにこれらのタブレットを使用でき、企業の規制遵守や事故防止に役立ちます。

Fig 5. Ultralytics YOLO11を使用した安全装備の検出。

品質管理のための産業用AI#

製造およびオートメーションに関して、Rockchip搭載の産業用ボードは品質管理やプロセス監視において大きな役割を果たします。産業用ボードは、産業環境における組み込みシステム向けに設計された、コンパクトで高性能なコンピューティングモジュールです。これらのボードは通常、プロセッサ、メモリ、I/Oインターフェース、接続オプションを備えており、センサー、カメラ、自動化機械と統合できます。

これらのボード上で Ultralytics YOLO11 モデルを実行することにより、生産ラインをリアルタイムで分析し、問題を即座に発見して効率を向上させることが可能になります。たとえば、自動車製造において、Rockchip ハードウェアと YOLO11 を使用した AI システムは、車が組立ラインを進むにつれて、傷、位置のずれた部品、または塗装の欠陥を検出できます。これらの欠陥をリアルタイムで特定することで、メーカーは無駄を削減し、生産コストを下げ、車両が顧客に届く前に高水準の品質を確保することができます。

RockchipベースのデバイスでUltralytics YOLO11を実行するメリット#

Rockchipベースのデバイスは、パフォーマンス、コスト、効率の優れたバランスを提供し、エッジAIアプリケーションにUltralytics YOLO11をデプロイするための優れた選択肢となります。

RockchipベースのデバイスでUltralytics YOLO11を実行する利点は以下の通りです:

• AIパフォーマンスの向上: Rockchip対応デバイスは、Raspberry PiのようなCPUベースのボードよりも効率的にAI推論を処理し、より高速な物体検出と低レイテンシを実現します。
• 費用対効果の高いソリューション: AIの実験を行っており、強力なパフォーマンスを発揮しつつ予算に優しいオプションが必要な場合、Rockchipは素晴らしい選択肢です。速度や効率を妥協することなく、Ultralytics YOLO11を実行する手頃な方法を提供します。
• エネルギー効率: Rockchip搭載デバイスでコンピュータビジョンモデルを実行すると、GPUよりも消費電力が少なくなるため、バッテリー駆動のデバイスや組み込みAIアプリケーションに理想的です。

重要なポイント#

Ultralytics YOLO11は、ハードウェアアクセラレーションとRKNNフォーマットを活用することで、Rockchipベースのデバイス上で効率的に実行できます。これにより推論時間が短縮され、パフォーマンスが向上するため、リアルタイムのコンピュータビジョンタスクやエッジAIアプリケーションに最適です。

RKNN Toolkitは、量子化やファインチューニングなどの重要な最適化ツールを提供し、Ultralytics YOLO11モデルがRockchipプラットフォーム上で良好に動作することを保証します。エッジAIの普及が進むにつれて、効率的なオンデバイス処理のためにモデルを最適化することが不可欠になります。適切なツールとハードウェアを使用することで、開発者はさまざまな業界におけるコンピュータービジョンソリューションの新しい可能性を切り開くことができます。

コミュニティに参加し、GitHubリポジトリを探索してAIについてさらに学びましょう。ソリューションページにアクセスして、農業分野におけるコンピュータビジョンや医療分野におけるAIがどのようにイノベーションを推進しているかをご確認ください。また、ライセンスオプションを確認して、今すぐビジョンAIソリューションの構築を始めましょう！