効率的なエッジAIを実現するRockchipへのUltralytics YOLO11のデプロイ

AIコミュニティで最近注目されているキーワードがエッジAIです。特にコンピュータービジョンの分野で注目されています。AIを活用したアプリケーションの拡大に伴い、電力と計算リソースが限られた組み込みデバイス上でモデルを効率よく実行する必要性が高まっています。

たとえば、ドローンはVision AIをリアルタイムナビゲーションに活用し、スマートカメラは物体を瞬時に検出し、産業オートメーションシステムはクラウドコンピューティングに頼らず品質管理を行います。これらのアプリケーションでは、リアルタイム性能と低レイテンシを確保するため、エッジデバイス上で直接、高速かつ効率的にAIを処理する必要があります。しかし、エッジデバイスでAIモデルを実行するのは簡単ではありません。多くの場合、AIモデルはエッジデバイスで処理できる量を超える電力とメモリを必要とします。

RockchipのRKNN Toolkitは、Rockchip搭載デバイス向けにディープラーニングモデルを最適化することで、この問題の解決を支援します。専用のニューラルプロセッシングユニット（NPUs）を使用して推論を高速化し、CPUやGPUで処理する場合と比べてレイテンシと消費電力を削減します。

Vision AIコミュニティでは、RockchipベースのデバイスでUltralytics YOLO11を実行することが強く望まれていました。皆さんの声にお応えし、YOLO11のRKNNモデル形式へのエクスポートに対応しました。この記事では、RKNNへのエクスポートの仕組みと、Rockchip搭載デバイスへのYOLO11のデプロイが画期的である理由を説明します。

RockchipとRKNN Toolkitとは#

Rockchipは、システムオンチップ（SoCs）を設計する企業です。システムオンチップは、小型ながら高性能なプロセッサで、多くの組み込みデバイスを動作させます。これらのチップはCPU、GPU、ニューラルプロセッシングユニット（NPU）を組み合わせ、一般的なコンピューティングタスクから、物体検出や画像処理を利用するVision AIアプリケーションまで、あらゆる処理を担います。

Rockchip SoCは、シングルボードコンピューター（SBCs）、開発ボード、産業用AIシステム、スマートカメラなど、さまざまなデバイスに使われています。Radxa、ASUS、Pine64、Orange Pi、Odroid、Khadas、Banana Piなど、多くの著名なハードウェアメーカーがRockchip SoC搭載デバイスを製造しています。これらのボードは、性能、電力効率、価格のバランスに優れているため、エッジAIやコンピュータービジョンのアプリケーションで広く使われています。

図1. Rockchip搭載デバイスの例。

AIモデルをこれらのデバイスで効率よく実行できるよう、RockchipはRKNN（Rockchip Neural Network）Toolkitを提供しています。開発者はこのツールキットを使ってディープラーニングモデルを変換し、Rockchipのニューラルプロセッシングユニット（NPUs）を利用できるよう最適化できます。

RKNNモデルは、低レイテンシの推論と効率的な電力使用に向けて最適化されています。モデルをRKNNに変換すると、開発者はRockchip搭載デバイスで処理速度の向上、消費電力の削減、効率の改善を実現できます。

RKNNモデルの最適化#

RKNNモデルがRockchip対応デバイスのAI性能をどのように向上させるか、詳しく見ていきましょう。

幅広いコンピューティングタスクを処理するCPUやGPUとは異なり、RockchipのNPUはディープラーニング専用に設計されています。AIモデルをRKNN形式に変換すると、開発者はNPU上で直接推論を実行できます。そのためRKNNモデルは、迅速かつ効率的な処理が不可欠なリアルタイムのコンピュータービジョンタスクに特に適しています。

NPUは、ニューラルネットワークの計算を並列処理できるよう設計されているため、AIタスクではCPUやGPUよりも高速かつ効率的です。CPUはタスクを一度に1つずつ処理し、GPUは複数のコアに処理を分散しますが、NPUはAI特有の計算をより効率的に実行できるよう最適化されています。

その結果、RKNNモデルはより高速に動作し、消費電力も抑えられるため、バッテリー駆動デバイス、スマートカメラ、産業オートメーション、リアルタイムの意思決定が必要なその他のエッジAIアプリケーションに最適です。

Ultralytics YOLOモデルの概要#

Ultralytics YOLO（You Only Look Once）モデルは、物体検出、インスタンスセグメンテーション、画像分類などのリアルタイムコンピュータービジョンタスク向けに設計されています。速度、精度、効率に優れていることで知られ、農業、製造、医療、自律システムなど、さまざまな業界で広く使われています。

これらのモデルは、時とともに大幅に進化してきました。たとえば、Ultralytics YOLOv5は、PyTorchで物体検出をより使いやすくしました。その後、Ultralytics YOLOv8では、姿勢推定や画像分類などの新機能が追加されました。現在、YOLO11は使用するリソースを削減しながら精度を高め、さらなる進化を遂げています。実際、YOLO11mはYOLOv8mよりパラメーター数が22%少ない一方、COCOデータセットで優れた性能を発揮し、より高精度かつ効率的です。

図2. Ultralytics YOLO11による物体検出。

Ultralytics YOLOモデルは、複数形式へのエクスポートにも対応しており、さまざまなプラットフォームに柔軟にデプロイできます。対応形式にはONNX、TensorRT、CoreML、OpenVINOが含まれ、開発者は対象ハードウェアに合わせて性能を最適化できます。

YOLO11のRKNNモデル形式へのエクスポートが新たにサポートされたことで、YOLO11はRockchipのNPUを活用できるようになりました。最小モデルであるRKNN形式のYOLO11nは、画像あたり99.5msという優れた推論時間を達成し、組み込みデバイスでもリアルタイム処理を可能にします。

Ultralytics YOLO11モデルをRKNN形式にエクスポートする#

現在、Ultralytics YOLO11の物体検出モデルはRKNN形式にエクスポートできます。また、今後のアップデートで、他のコンピュータービジョンタスクとINT8量子化への対応も追加する予定です。

Ultralytics YOLO11のRKNN形式へのエクスポートは簡単です。カスタムトレーニング済みのYOLO11モデルを読み込み、対象のRockchipプラットフォームを指定すれば、数行のコードでRKNN形式に変換できます。RKNN形式はRK3588、RK3566、RK3576など、さまざまなRockchip SoCと互換性があり、幅広いハードウェアに対応します。

図3. Ultralytics YOLO11のRKNNモデル形式へのエクスポート。

RockchipベースのデバイスへのUltralytics YOLO11のデプロイ#

エクスポート後、RKNNモデルをRockchipベースのデバイスにデプロイできます。モデルをデプロイするには、エクスポートしたRKNNファイルをRockchipデバイスに読み込み、推論を実行するだけです。推論とは、トレーニング済みAIモデルを使って新しい画像や動画を分析し、物体をリアルタイムで検出する処理です。数行のコードで、画像や動画ストリームから物体を識別できるようになります。

図4. エクスポートしたRKNNモデルを使用した推論の実行。

Ultralytics YOLO11とRockchipのエッジAIアプリケーション#

Rockchip対応デバイス上でUltralytics YOLO11を実環境にデプロイする方法を具体的にイメージできるよう、主要なエッジAIアプリケーションをいくつか見ていきましょう。

Rockchipプロセッサは、Androidベースのタブレット、開発ボード、産業用AIシステムで広く使われています。Android、Linux、Pythonに対応しているため、さまざまな業界向けのVision AIソリューションを簡単に構築し、デプロイできます。

Ultralytics YOLO11を統合した堅牢タブレット#

Rockchip搭載デバイスでUltralytics YOLO11を実行する一般的な用途の1つが、堅牢タブレットです。堅牢タブレットは、倉庫、建設現場、産業環境などの過酷な環境向けに設計された、耐久性と高性能を備えたタブレットです。これらのタブレットは物体検出を活用して、効率と安全性を高めることができます。

たとえば、倉庫物流では、作業員がYOLO11を搭載したRockchipタブレットを使って在庫を自動的にスキャン・検出し、人為的ミスを減らし、処理時間を短縮できます。同様に、建設現場では、作業員がヘルメットやベストなどの必要な安全装備を着用しているかを検出し、企業による規制の徹底や事故防止に役立てることができます。

図5. Ultralytics YOLO11による安全装備の検出。

品質管理向け産業用AI#

製造とオートメーションの分野では、Rockchip搭載の産業用ボードが品質管理や工程監視で重要な役割を果たします。産業用ボードは、産業環境の組み込みシステム向けに設計された、コンパクトで高性能なコンピューティングモジュールです。一般に、プロセッサ、メモリ、I/Oインターフェース、接続機能を備え、センサー、カメラ、自動機械と連携できます。

これらのボードでUltralytics YOLO11モデルを実行すると、生産ラインをリアルタイムで分析し、問題を即座に検出して効率を高めることができます。たとえば自動車製造では、RockchipハードウェアとYOLO11を使うAIシステムが、車両が組立ラインを進む間に、傷、部品の位置ずれ、塗装の欠陥を検出できます。こうした欠陥をリアルタイムで特定することで、メーカーは廃棄を減らし、生産コストを抑え、車両が顧客に届く前に高い品質基準を確保できます。

RockchipベースのデバイスでUltralytics YOLO11を実行するメリット#

Rockchipベースのデバイスは、性能、コスト、効率のバランスに優れているため、エッジAIアプリケーションにUltralytics YOLO11をデプロイするのに適しています。

RockchipベースのデバイスでUltralytics YOLO11を実行する主なメリットは次のとおりです。

• AI性能の向上: Rockchip対応デバイスは、Raspberry PiのようなCPUベースのボードよりも効率的にAI推論を処理し、物体検出を高速化してレイテンシを低減します。
• コスト効率に優れたソリューション: AIを試していて、高い性能を維持しながら手頃な価格で利用できる選択肢が必要な場合、Rockchipは最適です。速度や効率を損なうことなくUltralytics YOLO11を実行できる、手頃な方法を提供します。
• 電力効率: Rockchip搭載デバイスでコンピュータービジョンモデルを実行すると、GPUより消費電力が少ないため、バッテリー駆動デバイスや組み込みAIアプリケーションに最適です。

重要なポイント#

Ultralytics YOLO11は、ハードウェアアクセラレーションとRKNN形式を活用することで、Rockchipベースのデバイス上で効率よく動作します。これにより推論時間が短縮され、性能が向上するため、リアルタイムコンピュータービジョンタスクやエッジAIアプリケーションに最適です。

RKNN Toolkitは、量子化やファインチューニングなどの主要な最適化ツールを提供し、Ultralytics YOLO11モデルがRockchipプラットフォームで優れた性能を発揮できるようにします。エッジAIの普及が進むにつれ、デバイス上での効率的な処理に向けたモデル最適化が不可欠になります。適切なツールとハードウェアを活用すれば、開発者はさまざまな業界でコンピュータービジョンソリューションの新たな可能性を切り開けます。

コミュニティに参加し、GitHubリポジトリでAIについて詳しくご覧ください。ソリューションページでは、農業分野のコンピュータービジョンと医療分野のAIがイノベーションを推進する様子をご紹介しています。また、ライセンスオプションもご確認いただき、今すぐVision AIソリューションの構築を始めましょう。