効率的なエッジAIを実現するRockchipへのUltralytics YOLO11のデプロイ

AIコミュニティで最近注目されているキーワードがエッジAIです。特にコンピュータービジョンの分野で注目されています。AIを活用したアプリケーションの拡大に伴い、電力と計算リソースが限られた組み込みデバイス上でモデルを効率よく実行する必要性が高まっています。

たとえば、ドローンはVision AIをリアルタイムナビゲーションに活用し、スマートカメラは物体を瞬時に検出し、産業オートメーションシステムはクラウドコンピューティングに頼らず品質管理を行います。これらのアプリケーションでは、リアルタイム性能と低レイテンシを確保するため、エッジデバイス上で直接、高速かつ効率的にAIを処理する必要があります。しかし、エッジデバイスでAIモデルを実行するのは簡単ではありません。多くの場合、AIモデルはエッジデバイスで処理できる量を超える電力とメモリを必要とします。

RockchipのRKNN Toolkitは、Rockchip搭載デバイス向けにディープラーニングモデルを最適化し、この課題の解決を支援します。専用のニューラル処理ユニット（NPU）を使用して推論を高速化し、CPUやGPUによる処理と比べてレイテンシと消費電力を削減します。

Vision AIコミュニティからRockchipベースのデバイスでUltralytics YOLO11を実行したいという声が寄せられており、その要望にお応えしました。YOLO11のRKNNモデル形式へのエクスポートをサポートしました。この記事では、RKNNへのエクスポートの仕組みと、Rockchip搭載デバイスにYOLO11をデプロイすることがエッジAIに有用な理由を解説します。

RockchipとRKNN Toolkitとは#

Rockchipは、システムオンチップ（SoCs）を設計する企業です。システムオンチップは、小型ながら高性能なプロセッサで、多くの組み込みデバイスを動作させます。これらのチップはCPU、GPU、ニューラルプロセッシングユニット（NPU）を組み合わせ、一般的なコンピューティングタスクから、物体検出や画像処理を利用するVision AIアプリケーションまで、あらゆる処理を担います。

Rockchip SoCは、シングルボードコンピューター（SBCs）、開発ボード、産業用AIシステム、スマートカメラなど、さまざまなデバイスに使われています。Radxa、ASUS、Pine64、Orange Pi、Odroid、Khadas、Banana Piなど、多くの著名なハードウェアメーカーがRockchip SoC搭載デバイスを製造しています。これらのボードは、性能、電力効率、価格のバランスに優れているため、エッジAIやコンピュータービジョンのアプリケーションで広く使われています。

図1. Rockchip搭載デバイスの例。

AIモデルをこれらのデバイスで効率よく実行できるよう、RockchipはRKNN（Rockchip Neural Network）Toolkitを提供しています。開発者はこのツールキットを使ってディープラーニングモデルを変換し、Rockchipのニューラルプロセッシングユニット（NPUs）を利用できるよう最適化できます。

RKNNモデルは、低レイテンシの推論と効率的な電力使用に向けて最適化されています。モデルをRKNNに変換すると、開発者はRockchip搭載デバイスで処理速度の向上、消費電力の削減、効率の改善を実現できます。

RKNNモデルの最適化#

RKNNモデルがRockchip対応デバイスのAI性能をどのように向上させるか、詳しく見ていきましょう。

幅広いコンピューティングタスクを処理するCPUやGPUとは異なり、RockchipのNPUはディープラーニング専用に設計されています。AIモデルをRKNN形式に変換すると、開発者はNPU上で直接推論を実行できます。そのためRKNNモデルは、迅速かつ効率的な処理が不可欠なリアルタイムのコンピュータービジョンタスクに特に適しています。

NPUは、ニューラルネットワークの計算を並列処理できるよう設計されているため、AIタスクではCPUやGPUよりも高速かつ効率的です。CPUはタスクを一度に1つずつ処理し、GPUは複数のコアに処理を分散しますが、NPUはAI特有の計算をより効率的に実行できるよう最適化されています。

その結果、RKNNモデルはより高速に動作し、消費電力も抑えられるため、バッテリー駆動デバイス、スマートカメラ、産業オートメーション、リアルタイムの意思決定が必要なその他のエッジAIアプリケーションに最適です。

Ultralytics YOLOモデルの概要#

Ultralytics YOLO（You Only Look Once）モデルは、物体検出、インスタンスセグメンテーション、画像分類などのリアルタイムコンピュータービジョンタスク向けに設計されています。速度、精度、効率に優れていることで知られ、農業、製造、医療、自律システムなど、さまざまな業界で広く使われています。

これらのモデルは、時を経て大幅に改善されてきました。たとえば、Ultralytics YOLOv5は、PyTorchによる物体検出をより使いやすくしました。その後、Ultralytics YOLOv8では、姿勢推定などの新しいタスクが追加され、検出、セグメンテーション、分類、姿勢推定が1つのフレームワークに統合されました。現在、YOLO11は、より少ないリソースで精度を高めています。実際、YOLO11mはYOLOv8mよりパラメーター数が22%少ない一方で、COCOデータセットにおいて優れた性能を発揮し、精度と効率の両方を向上させています。

図2. Ultralytics YOLO11による物体検出。

Ultralytics YOLOモデルは、複数形式へのエクスポートにも対応しており、さまざまなプラットフォームに柔軟にデプロイできます。対応形式にはONNX、TensorRT、CoreML、OpenVINOが含まれ、開発者は対象ハードウェアに合わせて性能を最適化できます。

YOLO11をRKNNモデル形式にエクスポートするサポートが追加されたことで、YOLO11はRockchipのNPUを活用できるようになりました。最小モデルのYOLO11nは、RKNN形式で画像あたり99.5msの推論時間を実現し、組み込みデバイスでもリアルタイム処理を可能にします。

Ultralytics YOLO11モデルをRKNN形式にエクスポートする#

執筆時点では、Ultralytics YOLO11の物体検出モデルをRKNN形式にエクスポートできました。その後、上記のRKNN統合ガイドで説明されているように、RKNNエクスポートはすべてのUltralyticsタスクとINT8量子化（quantize=8）に対応するよう拡張されました。

Ultralytics YOLO11のRKNN形式へのエクスポートは簡単です。カスタムトレーニング済みのYOLO11モデルを読み込み、対象のRockchipプラットフォームを指定すれば、数行のコードでRKNN形式に変換できます。RKNN形式はRK3588、RK3566、RK3576など、さまざまなRockchip SoCと互換性があり、幅広いハードウェアに対応します。

図3. Ultralytics YOLO11のRKNNモデル形式へのエクスポート。

RockchipベースのデバイスへのUltralytics YOLO11のデプロイ#

エクスポート後、RKNNモデルをRockchipベースのデバイスにデプロイできます。モデルをデプロイするには、エクスポートしたRKNNファイルをRockchipデバイスに読み込み、推論を実行するだけです。推論とは、トレーニング済みAIモデルを使って新しい画像や動画を分析し、物体をリアルタイムで検出する処理です。数行のコードで、画像や動画ストリームから物体を識別できるようになります。

図4. エクスポートしたRKNNモデルを使用した推論の実行。

Ultralytics YOLO11とRockchipのエッジAIアプリケーション#

Rockchip対応デバイス上でUltralytics YOLO11を実環境にデプロイする方法を具体的にイメージできるよう、主要なエッジAIアプリケーションをいくつか見ていきましょう。

Rockchipプロセッサは、Androidベースのタブレット、開発ボード、産業用AIシステムで広く使われています。Android、Linux、Pythonに対応しているため、さまざまな業界向けのVision AIソリューションを簡単に構築し、デプロイできます。

Ultralytics YOLO11を統合した堅牢タブレット#

Rockchip搭載デバイスでUltralytics YOLO11を実行する一般的な用途の1つが、堅牢タブレットです。堅牢タブレットは、倉庫、建設現場、産業環境などの過酷な環境向けに設計された、耐久性と高性能を備えたタブレットです。これらのタブレットは物体検出を活用して、効率と安全性を高めることができます。

たとえば、倉庫物流では、作業員がYOLO11を搭載したRockchipタブレットを使って在庫を自動的にスキャン・検出し、人為的ミスを減らし、処理時間を短縮できます。同様に、建設現場では、作業員がヘルメットやベストなどの必要な安全装備を着用しているかを検出し、企業による規制の徹底や事故防止に役立てることができます。

図5. Ultralytics YOLO11による安全装備の検出。

品質管理向け産業用AI#

製造とオートメーションの分野では、Rockchip搭載の産業用ボードが品質管理や工程監視で重要な役割を果たします。産業用ボードは、産業環境の組み込みシステム向けに設計された、コンパクトで高性能なコンピューティングモジュールです。一般に、プロセッサ、メモリ、I/Oインターフェース、接続機能を備え、センサー、カメラ、自動機械と連携できます。

これらのボードでUltralytics YOLO11モデルを実行すると、生産ラインをリアルタイムで分析し、問題を即座に検出して効率を高めることができます。たとえば自動車製造では、RockchipハードウェアとYOLO11を使うAIシステムが、車両が組立ラインを進む間に、傷、部品の位置ずれ、塗装の欠陥を検出できます。こうした欠陥をリアルタイムで特定することで、メーカーは廃棄を減らし、生産コストを抑え、車両が顧客に届く前に高い品質基準を確保できます。

RockchipベースのデバイスでUltralytics YOLO11を実行するメリット#

Rockchipベースのデバイスは、性能、コスト、効率のバランスに優れているため、エッジAIアプリケーションにUltralytics YOLO11をデプロイするのに適しています。

RockchipベースのデバイスでUltralytics YOLO11を実行する主なメリットは次のとおりです。

• AI性能の向上: Rockchip対応デバイスは、Raspberry PiのようなCPUベースのボードよりも効率的にAI推論を処理し、物体検出を高速化してレイテンシを低減します。
• コスト効率に優れたソリューション: AIを試していて、高い性能を維持しながら手頃な価格で利用できる選択肢が必要な場合、Rockchipは最適です。速度や効率を損なうことなくUltralytics YOLO11を実行できる、手頃な方法を提供します。
• 電力効率: Rockchip搭載デバイスでコンピュータービジョンモデルを実行すると、GPUより消費電力が少ないため、バッテリー駆動デバイスや組み込みAIアプリケーションに最適です。

重要なポイント#

Ultralytics YOLO11は、ハードウェアアクセラレーションとRKNN形式を活用することで、Rockchipベースのデバイス上で効率よく動作します。これにより推論時間が短縮され、性能が向上するため、リアルタイムコンピュータービジョンタスクやエッジAIアプリケーションに最適です。

RKNN Toolkitは、量子化などの主要な最適化ツールを提供し、Ultralytics YOLO11モデルがRockchipプラットフォーム上で優れた性能を発揮できるようにします。エッジAIの普及が進むにつれて、デバイス上で効率的に処理できるようモデルを最適化することが不可欠になります。適切なツールとハードウェアにより、開発者はさまざまな業界向けのコンピュータービジョンソリューションの可能性を広げられます。

コミュニティに参加し、GitHubリポジトリでAIについて詳しくご覧ください。ソリューションページでは、農業分野のコンピュータービジョンと医療分野のAIがイノベーションを推進する様子をご紹介しています。また、ライセンスオプションもご確認いただき、今すぐVision AIソリューションの構築を始めましょう。