効率的なエッジAIのためにRockchipへUltralytics YOLO11をデプロイ

AIコミュニティで最近注目されているキーワードの一つが、特にコンピュータビジョンにおけるエッジAIです。AIを活用したアプリケーションの普及に伴い、電力とコンピューティングリソースが限られた組み込みデバイス上でモデルを効率的に実行する必要性が高まっています。

たとえば、ドローンはリアルタイムナビゲーションにビジョンAIを使用し、スマートカメラは物体を即座に検出し、産業オートメーションシステムはクラウドコンピューティングに依存せずに品質管理を実行します。これらのアプリケーションでは、リアルタイム性能と低レイテンシを確保するために、エッジデバイス上で直接、高速かつ効率的にAI処理を行う必要があります。しかし、エッジデバイス上でAIモデルを実行することは、必ずしも容易ではありません。AIモデルは、多くのエッジデバイスで処理できる量を超える電力とメモリを必要とすることがよくあります。

RockchipのRKNN Toolkitは、Rockchip搭載デバイス向けにディープラーニングモデルを最適化することで、この問題の解決に役立ちます。専用のニューラルプロセッシングユニット（NPUs）を使用して推論を高速化し、CPUやGPUで処理する場合と比べてレイテンシと消費電力を削減します。

ビジョンAIコミュニティでは、Rockchipベースのデバイス上でUltralytics YOLO11を実行したいという要望が高まっていました。ご要望にお応えし、YOLO11のRKNNモデル形式へのエクスポートに対応しました。この記事では、RKNNへのエクスポートの仕組みと、Rockchip搭載デバイスへのYOLO11のデプロイが画期的である理由を説明します。

RockchipとRKNN Toolkitとは#

Rockchipは、さまざまな組み込みデバイスを動かす、小型ながら高性能なプロセッサであるシステムオンチップ（SoCs）を設計する企業です。これらのチップはCPU、GPU、ニューラルプロセッシングユニット（NPU）を統合し、一般的なコンピューティングタスクから、物体検出や画像処理を利用するビジョンAIアプリケーションまで処理します。

Rockchip SoCは、シングルボードコンピュータ（SBCs）、開発ボード、産業用AIシステム、スマートカメラなど、さまざまなデバイスで使用されています。Radxa、ASUS、Pine64、Orange Pi、Odroid、Khadas、Banana Piなど、多くの著名なハードウェアメーカーがRockchip SoC搭載デバイスを製造しています。これらのボードは、性能、電力効率、価格のバランスに優れているため、エッジAIやコンピュータビジョンのアプリケーションで広く利用されています。

図1. Rockchip搭載デバイスの例。

AIモデルをこれらのデバイス上で効率的に実行できるよう、RockchipはRKNN（Rockchip Neural Network）Toolkitを提供しています。これにより、開発者はRockchipのニューラルプロセッシングユニット（NPUs）を使用できるよう、ディープラーニングモデルを変換および最適化できます。

RKNNモデルは、低レイテンシの推論と効率的な電力使用のために最適化されています。モデルをRKNNに変換することで、開発者はRockchip搭載デバイス上で、より高速な処理速度、低い消費電力、向上した効率を実現できます。

RKNNモデルは最適化されています#

RKNNモデルがRockchip対応デバイス上のAI性能をどのように向上させるのか、詳しく見ていきましょう。

幅広いコンピューティングタスクを処理するCPUやGPUとは異なり、RockchipのNPUはディープラーニング専用に設計されています。AIモデルをRKNN形式に変換すると、開発者はNPU上で直接推論を実行できます。そのため、RKNNモデルは、迅速かつ効率的な処理が不可欠なリアルタイムのコンピュータビジョンタスクに特に適しています。

NPUは、ニューラルネットワークの計算を並列処理するよう構築されているため、AIタスクではCPUやGPUよりも高速かつ効率的です。CPUがタスクを一つずつ処理し、GPUが複数のコアにワークロードを分散するのに対し、NPUはAI固有の計算をより効率的に実行できるよう最適化されています。

その結果、RKNNモデルはより高速に動作し、消費電力も少なくなります。そのため、バッテリー駆動デバイス、スマートカメラ、産業オートメーション、その他のリアルタイムな意思決定を必要とするエッジAIアプリケーションに適しています。

Ultralytics YOLOモデルの概要#

Ultralytics YOLO（一度見るだけで検出）モデルは、物体検出、インスタンスセグメンテーション、画像分類などのリアルタイムコンピュータビジョンタスク向けに設計されています。速度、精度、効率性に優れていることで知られ、農業、製造、医療、自律システムなど、さまざまな業界で幅広く利用されています。

これらのモデルは、時間の経過とともに大幅に改善されてきました。たとえば、Ultralytics YOLOv5は、PyTorchによって物体検出をより使いやすくしました。その後、Ultralytics YOLOv8では、姿勢推定や画像分類などの新機能が追加されました。現在、YOLO11は、より少ないリソースで精度を高めることで、さらに進化しています。実際、YOLO11mはYOLOv8mより22%少ないパラメータ数でCOCOデータセット上の性能を向上させており、より高精度かつ効率的です。

図2. Ultralytics YOLO11による物体検出。

Ultralytics YOLOモデルは複数形式へのエクスポートにも対応しており、さまざまなプラットフォームに柔軟にデプロイできます。対応形式にはONNX、TensorRT、CoreML、OpenVINOが含まれており、開発者は対象ハードウェアに応じて性能を最適化できます。

YOLO11のRKNNモデル形式へのエクスポートに対応したことで、YOLO11はRockchipのNPUを活用できるようになりました。最小モデルであるRKNN形式のYOLO11nは、画像1枚あたり99.5msという優れた推論時間を実現し、組み込みデバイス上でもリアルタイム処理を可能にします。

Ultralytics YOLO11モデルをRKNN形式にエクスポートする#

現在、Ultralytics YOLO11の物体検出モデルはRKNN形式にエクスポートできます。また、今後のアップデートで、その他のコンピュータビジョンタスクとINT8量子化にも対応する予定です。

Ultralytics YOLO11をRKNN形式にエクスポートする手順は簡単です。カスタムトレーニング済みのYOLO11モデルを読み込み、対象のRockchipプラットフォームを指定して、数行のコードでRKNN形式に変換できます。RKNN形式は、RK3588、RK3566、RK3576など、さまざまなRockchip SoCと互換性があり、幅広いハードウェアをサポートします。

図3. Ultralytics YOLO11をRKNNモデル形式にエクスポート。

RockchipベースのデバイスにUltralytics YOLO11をデプロイする#

エクスポート後、RKNNモデルをRockchipベースのデバイスにデプロイできます。モデルをデプロイするには、エクスポートしたRKNNファイルをRockchipデバイスに読み込み、推論を実行するだけです。推論とは、トレーニング済みAIモデルを使用して新しい画像や動画を分析し、リアルタイムで物体を検出するプロセスです。数行のコードで、画像や動画ストリームから物体の識別を開始できます。

図4. エクスポートしたRKNNモデルを使用した推論の実行。

Ultralytics YOLO11とRockchipのエッジAIアプリケーション#

Ultralytics YOLO11をRockchip対応デバイス上で実際にどこへデプロイできるのかを理解するため、主要なエッジAIアプリケーションをいくつか見ていきましょう。

Rockchipプロセッサは、Androidベースのタブレット、開発ボード、産業用AIシステムで広く使用されています。Android、Linux、Pythonに対応しているため、さまざまな業界向けのビジョンAIソリューションを容易に構築してデプロイできます。

Ultralytics YOLO11を統合した堅牢タブレット#

Rockchip搭載デバイス上でUltralytics YOLO11を実行する一般的な用途の一つが、堅牢タブレットです。堅牢タブレットは、倉庫、建設現場、産業環境などの過酷な環境向けに設計された、耐久性と高性能を備えたタブレットです。これらのタブレットでは、物体検出を活用して効率と安全性を向上させることができます。

たとえば、倉庫物流では、作業員がRockchip搭載タブレットとYOLO11を使用して在庫を自動的にスキャンおよび検出できるため、人的ミスを減らし、処理時間を短縮できます。同様に、建設現場では、これらのタブレットを使用して作業員がヘルメットやベストなど必要な保護具を着用しているか検出でき、企業による規制の遵守と事故防止に役立ちます。

図5. Ultralytics YOLO11による安全装備の検出。

品質管理のための産業用AI#

製造およびオートメーションにおいて、Rockchip搭載の産業用ボードは品質管理とプロセス監視で重要な役割を果たします。産業用ボードは、産業環境の組み込みシステム向けに設計された、コンパクトで高性能なコンピューティングモジュールです。通常、プロセッサ、メモリ、I/Oインターフェース、接続オプションを備えており、センサー、カメラ、自動化機械と統合できます。

これらのボード上でUltralytics YOLO11モデルを実行すると、生産ラインをリアルタイムで分析し、問題を即座に発見して効率を向上させることができます。たとえば、自動車製造では、RockchipハードウェアとYOLO11を使用するAIシステムによって、組立ラインを流れる自動車の傷、部品のずれ、塗装不良を検出できます。これらの欠陥をリアルタイムで特定することで、メーカーは廃棄を減らし、生産コストを削減し、車両が顧客に届く前に高い品質基準を確保できます。

Rockchipベースのデバイス上でUltralytics YOLO11を実行するメリット#

Rockchipベースのデバイスは、性能、コスト、効率性のバランスに優れているため、エッジAIアプリケーションにUltralytics YOLO11をデプロイする際の適した選択肢です。

Rockchipベースのデバイス上でUltralytics YOLO11を実行する主なメリットは次のとおりです。

• AI性能の向上：Rockchip対応デバイスは、Raspberry PiのようなCPUベースのボードよりも効率的にAI推論を処理し、より高速な物体検出と低レイテンシを実現します。
• コスト効率に優れたソリューション： AIを試していて、強力な性能を維持しながら予算を抑えられる選択肢が必要な場合、Rockchipは優れた選択肢です。速度や効率性を損なうことなくUltralytics YOLO11を実行できる、手頃な方法を提供します。
• エネルギー効率：Rockchip搭載デバイス上でコンピュータビジョンモデルを実行すると、GPUよりも消費電力が少ないため、バッテリー駆動デバイスや組み込みAIアプリケーションに適しています。

主なポイント#

Ultralytics YOLO11は、ハードウェアアクセラレーションとRKNN形式を活用することで、Rockchipベースのデバイス上で効率的に実行できます。これにより推論時間が短縮され、性能が向上するため、リアルタイムコンピュータビジョンタスクやエッジAIアプリケーションに適しています。

RKNN Toolkitは、量子化やファインチューニングなどの主要な最適化ツールを提供し、Ultralytics YOLO11モデルがRockchipプラットフォーム上で適切に動作するようにします。エッジAIの導入が進むにつれ、デバイス上で効率的に処理できるようモデルを最適化することが不可欠になります。適切なツールとハードウェアがあれば、開発者はさまざまな業界向けのコンピュータビジョンソリューションで新たな可能性を切り開けます。

コミュニティに参加し、GitHubリポジトリを確認して、AIについて詳しく学びましょう。農業におけるコンピュータビジョンや医療におけるAIがイノベーションを推進している様子については、ソリューションページをご覧ください。また、ライセンスオプションも確認して、今すぐビジョンAIソリューションの構築を始めましょう。