MNN統合を使用してUltralytics YOLO11をシームレスにデプロイする

今日、AIのイノベーションはリモートサーバー環境の枠を超えて広がっています。AIソリューションは、センサーやスマートフォンといったエッジデバイスに統合されつつあります。この技術的転換により、データは生成場所で直接処理できるようになり、より高速なレスポンス、プライバシーの向上、そして常時クラウド接続への依存低減が実現しました。

その結果、エッジAIは多くの業界で注目を集めています。より高速でローカルな処理へと移行するシステムが増える中、エッジAIソフトウェア市場は2031年までに88億8000万ドル規模に達すると予測されています。

特に、画像やビデオの理解に焦点を当てたAIの一分野であるコンピュータビジョンが、エッジ環境で急速に採用されています。食品パッケージの計数から車両の歩行者検知に至るまで、コンピュータビジョンはさまざまなセクターで無数の実用的なアプリケーションを支えています。

これはコンピュータビジョンモデルによって可能になります。例えば、Ultralytics YOLO11は、物体検知、インスタンスセグメンテーション、物体追跡、ポーズ推定といった多様なビジョンAIタスクをサポートするモデルです。高速かつ効率的で、ハードウェアリソースが限られたデバイス上でも優れた性能を発揮するように設計されています。

図1. YOLO11を使用して梱包中の食品を検出し追跡する様子 (出典)。

エッジデプロイメントに適しているだけでなく、Ultralyticsがサポートする多様なインテグレーションを通じて、YOLO11はさまざまなハードウェア環境に適した多様なフォーマットにエクスポート可能です。

最も効率的なオプションの一つが、低リソースデバイス向けに設計された軽量推論エンジンであるMNN (Mobile Neural Network)です。YOLO11をMNNにエクスポートすることで、携帯電話、組み込みシステム、および高速なオンデバイス処理が不可欠なその他のエッジプラットフォームで直接実行できるようになります。

本記事では、MNNインテグレーションの仕組みを探り、一般的なユースケースを紹介し、エクスポートされたYOLO11モデルを使用して推論を開始する方法を解説します。それでは始めましょう！

Link to this sectionMNNの概要：ディープラーニングフレームワーク#

携帯電話、産業用センサー、ポータブルシステムのような小型デバイスでコンピュータビジョンモデルを実行するのは、常に簡単とは限りません。これらのデバイスは多くの場合、メモリ容量が限られ、プロセッサが低速で、電力制限も厳しいためです。

Mobile Neural Network（MNN）は、Alibabaによって開発された、低リソースハードウェア上でAIモデルを効率的に動作させつつリアルタイム性能を維持するための、軽量で高性能な推論エンジンです。MNNはAndroid、iOS、Linuxを含む幅広いプラットフォームをサポートしており、CPUやGPUといった様々なタイプのハードウェアで動作します。

図2. MNNフレームワークの紹介 (ソース)。

UltralyticsがサポートするMNNインテグレーションにより、YOLO11モデルをMNNフォーマットに容易にエクスポートすることが可能になります。簡単に言うと、モデルをYOLOフォーマットからMNNへ変換できるということです。

変換後は、効率的なオンデバイス推論のためにMNNフレームワークをサポートするデバイスにデプロイできます。MNNフォーマットを使用する主な利点は、サイズ、速度、リソース効率が重要なシナリオにおいて、YOLO11のデプロイを簡素化できる点にあります。

Link to this sectionMNN推論バックエンドの主な特徴#

MNNインテグレーションの使い方を詳しく見ていく前に、MNNフレームワークが実世界のデバイスでAIモデルを実行するために最適な選択肢である理由を確認しましょう。このフレームワークは、高速で信頼性の高い性能を提供しつつ、エッジ環境特有の制約に対処できるように構築されています。

興味深いことに、MNNはAlibaba社内でTaobao、Tmall、Youku、DingTalk、Xianyuなど30以上のアプリケーションで使用されており、ライブビデオ、ショート動画、画像検索、オンデバイスセキュリティチェックといった幅広いシナリオに対応しています。大規模なデプロイをサポートし、本番環境で毎日何百万もの推論を実行しています。

MNNフレームワークの主な特徴は以下の通りです。

• バックエンドの自動選択: MNNは、動作中のハードウェアに基づいて、CPUやGPUなど最も適した実行バックエンドを自動的に選択できます。
• マルチスレッド実行: マルチスレッドをサポートしており、マルチコアプロセッサの性能を最大限に活用して推論を高速化します。
• モデル量子化のサポート: FP16またはINT8量子化を使用してモデルサイズを大幅に削減し、メモリ消費を抑えつつ推論速度を向上させることができます。
• 軽量かつ高速: MNNのフットプリントは非常に小さく、コアライブラリはAndroidで約400 KB、iOSで約5 MB程度であり、モバイルデバイスや組み込みデバイスに最適です。

Link to this sectionMNNインテグレーションの仕組みについて#

次に、YOLO11モデルをMNNフォーマットにエクスポートする手順を見ていきましょう。

最初のステップはUltralytics Pythonパッケージをインストールすることです。これにはYOLO11モデルをMNNフォーマットへエクスポートするために必要なすべてが含まれています。ターミナルで "pip install ultralytics" を実行するか、コマンドプロンプトを使用してインストールできます。Jupyter NotebookやGoogle Colabを使用している場合は、コマンドの前に感嘆符を追加してください。

インストール中に問題が発生した場合は、Common Issuesガイドを参照してトラブルシューティングのヒントを確認してください。

環境の準備ができたら、"yolo11n.pt" のような学習済みYOLO11モデルをロードし、以下のコードスニペットのようにMNNフォーマットへエクスポートできます。独自のYOLO11モデルをトレーニングした場合は、ファイル名をそのモデルのパスに置き換えるだけで簡単にエクスポートできます。

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="mnn")

モデルをMNNへ変換した後は、アプリケーションのニーズに合わせて様々なモバイルおよび組み込みプラットフォームで使用できるようになります。

例えば、交通状況のビデオでエクスポートしたモデルをテストしたいとします。その場合、MNNフォーマットのYOLO11モデルをロードし、以下の例のように車両、歩行者、交通標識などの物体をデバイス上で直接検知することができます。

mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)

推論が完了すると、検知された物体を含む出力ビデオが 'runs/detect/predict' フォルダに自動的に保存されます。また、MNN Pythonパッケージを使用して直接推論を実行したい場合は、詳細や例についてUltralytics公式ドキュメントを確認してください。

図3. MNNフォーマットにエクスポートされたYOLO11モデルを使用した交通量分析。画像：著者

Link to this sectionYOLO11とMNNによって可能になるエッジAIモデルデプロイメントのユースケース#

MNNでYOLO11をデプロイすることで、クラウドベースの処理が現実的ではない、あるいは不可能な環境においても、物体検知などの高速で効率的なコンピュータビジョンタスクを実現できます。このインテグレーションが実世界のシナリオでどのように特に役立つかを見ていきましょう。

Link to this section植物病害特定のためのモバイルエッジAI#

画像分類を利用した植物病害特定アプリは、庭師、研究者、自然愛好家の間で人気を集めています。ユーザーは写真を撮るだけで、葉の斑点や変色といった病気の初期兆候を素早く特定できます。これらのアプリはインターネット接続が限られている、または利用できない屋外で使われることが多いため、クラウド処理への依存は不安定になる可能性があります。

トレーニング後、YOLO11モデルをMNNフォーマットにエクスポートし、モバイルデバイス上で直接実行できます。その後、モデルはデータをサーバーに送信することなく、植物の種を分類し、目に見える病気の兆候をローカルで検知します。

図4. YOLO11を使用して葉に現れたさび病（植物病害）の兆候を検知する例 (ソース)。

Link to this section製造現場における効率的なオンデバイス推論#

製造施設では、忙しい生産ラインにおいて正確なパッケージ追跡が不可欠です。YOLO11は、各アイテムが重要なチェックポイントを通過する際に追跡と計数を行い、リアルタイムでカウントを更新し、不一致があれば警告を出すために使用できます。これは、見落としや未処理の出荷を減らし、よりスムーズで信頼性の高い運用をサポートします。

図5. YOLO11を使用したパッケージの追跡と計数 (ソース)。

MNNインテグレーションは、この文脈において特に効果を発揮します。YOLO11モデルをMNNフォーマットにエクスポートすれば、コンベア沿いに設置された小型の低電力デバイス上で直接実行できます。

すべての処理がローカルで行われるため、システムは即座にフィードバックを提供でき、インターネット接続も不要です。これにより、工場現場で高速かつ信頼性の高いパフォーマンスを確保し、高い精度と制御を維持しながら生産を効率的に進めることができます。

Link to this sectionYOLO11をMNNモデルフォーマットにエクスポートする利点#

Ultralyticsが提供するMNNインテグレーションの主な利点は以下の通りです：

• より高速な応答時間: 推論がデバイス上で実行されるため、最小限のレイテンシでリアルタイムに予測が行われます。
• 向上した データプライバシー: データはデバイス内に保持されるため、機密性の高い画像やビデオをクラウドへ送信する必要が減少します。
• オープンソースで活発にメンテナンス: Alibabaの支援を受け、活発なコミュニティによってサポートされているため、MNNは信頼性が高く、パフォーマンス向上のためのアップデートが定期的に行われています。

Link to this sectionMNNフレームワーク使用時に考慮すべき要素#

デプロイメントフレームワークとしてMNNを選択する前に、プロジェクトの要件、デプロイターゲット、技術的制約にどれだけ適合しているかを評価することが重要です。考慮すべき重要な要素を以下に挙げます：

• 継続的な互換性: フレームワークのアップデートやターゲットプラットフォームの変更により、スムーズな実行を維持するための再テストや調整が必要になる場合があります。
• デバッグツールの少なさ: より大規模なフレームワークと比較して、MNNはモデルの挙動をデバッグ・検査するためのツールが限られているため、トラブルシューティングが難しくなることがあります。
• パフォーマンスはハードウェアに依存: モデルの速度と効率はデバイスによって異なります。パフォーマンスの目標を達成できるか、ターゲットハードウェアでテストしてください。

Link to this section重要なポイント#

UltralyticsによるMNNインテグレーションのサポートにより、モバイルや組み込みデバイス向けにYOLO11モデルを簡単にエクスポートできます。これは、クラウドアクセスや常時接続に頼ることなく、高速で信頼性の高い検知を必要とするアプリケーションにとって実用的な選択肢です。

このセットアップは、デプロイを効率化しつつ、パフォーマンスを維持し、リソース消費を抑えるのに役立ちます。スマートホームシステム、フィールドツール、小型の産業用デバイスのいずれを構築する場合でも、YOLO11をMNNにエクスポートすることは、エッジデバイス上でコンピュータビジョンタスクを実行するための柔軟で効率的な手段を提供します。

成長を続ける私たちのコミュニティに参加しましょう！AIについてより深く知るには、私たちのGitHubリポジトリを探索してください。コンピュータビジョンプロジェクトを始める準備はできましたか？ライセンスオプションをご覧ください。ヘルスケアにおけるAIおよび小売業におけるコンピュータビジョンについての詳細は、ソリューションページでご確認ください！