MNN統合を使用してUltralytics YOLO11をシームレスにデプロイする

現在、AIイノベーションはリモートサーバー環境を超えて広がっています。AIソリューションは、センサーやスマートフォンなどのエッジデバイスに統合されています。この技術的な変化により、データが生成された場所で直接処理できるようになり、より高速な応答、プライバシーの向上、常時クラウド接続への依存の軽減が実現します。

その結果、エッジAIは多くの業界で注目を集めています。より高速でローカルな処理に移行するシステムが増える中、エッジAIソフトウェア市場は2031年までに88億8,000万ドルに達すると予測されています。

特に、画像や動画の理解に重点を置くAIの分野であるコンピュータービジョンは、エッジ環境で急速に導入されています。包装中の食品の数を数えたり、車両による歩行者の検知を支援したりするなど、コンピュータービジョンはさまざまな分野で無数の実用的な用途を支えています。

これを可能にするのがコンピュータービジョンモデルです。例えば、Ultralytics YOLO11は、物体検出、インスタンスセグメンテーション、物体追跡、ポーズ推定など、さまざまなビジョンAIタスクに対応するモデルです。高速かつ効率的に動作するよう設計されており、ハードウェアリソースが限られたデバイスでも優れた性能を発揮します。

図1. Ultralytics YOLO11を使用した包装中の食品の検出と追跡（出典）。

エッジデプロイメントに適しているだけでなく、Ultralyticsがサポートするさまざまな統合を通じて、YOLO11は異なるハードウェア環境に適したさまざまな形式にエクスポートできます。

最も効率的な選択肢の1つがMNN（モバイルニューラルネットワーク）です。これは、リソースの少ないデバイス向けに設計された軽量な推論エンジンです。Ultralytics YOLO11をMNNにエクスポートすると、モバイルフォン、組み込みシステム、その他のエッジプラットフォーム上で直接実行できるようになり、高速なオンデバイス処理が不可欠な環境に対応できます。

この記事では、MNN統合の仕組みを確認し、一般的なユースケースを紹介するとともに、エクスポートしたUltralytics YOLO11モデルを使用して推論を実行する方法を順を追って説明します。さっそく始めましょう。

MNNの概要：ディープラーニングフレームワーク#

モバイルフォン、産業用センサー、ポータブルシステムなどの小型デバイスでコンピュータービジョンモデルを実行することは、必ずしも簡単ではありません。これらのデバイスには、限られたメモリ、低速なプロセッサ、厳しい電力制限があることが多いためです。

モバイルニューラルネットワーク（MNN）は、Alibabaが開発した軽量かつ高性能な推論エンジンです。リアルタイム性能を維持しながら、リソースの少ないハードウェア上でAIモデルを効率的に実行できるように設計されています。MNNはAndroid、iOS、Linuxなど幅広いプラットフォームに対応し、CPUやGPUなどさまざまな種類のハードウェアで動作します。

図2. MNNフレームワークの概要（出典）。

UltralyticsがサポートするMNN統合により、YOLO11モデルを簡単にMNN形式へエクスポートできます。つまり、モデルをYOLO形式からMNN形式へ変換できます。

変換後は、MNNフレームワークに対応するデバイスにデプロイして、効率的なオンデバイス推論を実行できます。MNN形式を使用する主なメリットは、サイズ、速度、リソース効率が重要なシナリオで、Ultralytics YOLO11のデプロイを簡素化できることです。

MNN推論バックエンドの主な機能#

MNN統合の使い方を詳しく説明する前に、実環境のデバイス上でAIモデルを実行する際にMNNフレームワークが優れた選択肢となる理由を確認しましょう。MNNは、エッジ環境特有の制約に対応しながら、高速で信頼性の高い性能を提供できるように設計されています。

MNNは、Alibaba内部でTaobao、Tmall、Youku、DingTalk、Xianyuなど30を超えるアプリケーションに利用されています。ライブ動画、ショートフォームコンテンツ、画像検索、オンデバイスのセキュリティチェックなど、幅広いシナリオに対応しています。大規模なデプロイメントをサポートし、本番環境で1日あたり数百万回の推論を実行しています。

MNNフレームワークの主な機能をいくつか紹介します。

• バックエンドの自動選択: MNNは、実行先のハードウェアに基づいて、CPUやGPUなど最適な実行バックエンドを自動的に選択できます。
• マルチスレッド実行：マルチスレッドに対応しているため、マルチコアプロセッサを最大限に活用し、より高速な推論を実現できます。
• モデル量子化に対応：FP16またはINT8量子化を使用してモデルサイズを大幅に削減できるため、メモリ使用量を抑えながら推論速度を向上させることができます。
• 軽量かつ高速: MNNはフットプリントが非常に小さく、コアライブラリはAndroidで約400 KB、iOSで約5 MBです。そのため、モバイルデバイスや組み込みデバイスに最適です。

MNN統合の仕組みを理解する#

次に、Ultralytics YOLO11モデルをMNN形式にエクスポートする方法を順を追って説明します。

最初の手順は、YOLO11モデルをMNN形式にエクスポートするために必要なすべての機能を提供するUltralytics Pythonパッケージをインストールすることです。ターミナルまたはコマンドプロンプトで「pip install ultralytics」を実行するとインストールできます。Jupyter NotebookまたはGoogle Colabを使用している場合は、コマンドの前に感嘆符を追加してください。

インストール中に問題が発生した場合は、トラブルシューティングのヒントについて一般的な問題のガイドを参照してください。

環境のセットアップが完了したら、「yolo11n.pt」などの事前学習済みYOLO11モデルを読み込み、以下のコードスニペットに示すようにMNN形式へエクスポートできます。独自に学習したカスタムYOLO11モデルを使用する場合は、ファイル名をモデルのパスに置き換えるだけでエクスポートできます。

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="mnn")

モデルをMNNに変換した後は、アプリケーションのニーズに応じて、さまざまなモバイルプラットフォームや組み込みプラットフォームで使用できます。

例えば、交通状況を撮影した動画でエクスポート済みモデルをテストするとします。その場合、以下の例に示すように、MNN形式のUltralytics YOLO11モデルを読み込み、車両、歩行者、交通標識などの物体をデバイス上で直接検出できます。

mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)

推論が完了すると、検出された物体を含む出力動画が「runs/detect/predict」フォルダーに自動的に保存されます。また、MNN Pythonパッケージを直接使用して推論を実行する場合は、詳細と例について公式のUltralyticsドキュメントを確認してください。

図3. MNN形式にエクスポートしたUltralytics YOLO11モデルを使用した交通状況の分析。画像：著者。

Ultralytics YOLO11とMNNによって実現するエッジAIモデルデプロイメントのユースケース#

Ultralytics YOLO11をMNNと組み合わせてデプロイすると、クラウドベースの処理が実用的でない、または不可能な環境でも、物体検出などの高速で効率的なコンピュータービジョンタスクを実行できます。この統合が実環境のシナリオで特にどのように役立つかを見ていきましょう。

植物病害識別のためのモバイルエッジAI#

画像分類を使用する植物病害識別アプリは、園芸家、研究者、自然愛好家の間で人気が高まっています。写真を1枚撮るだけで、葉の斑点や変色など、病害の初期兆候をすばやく識別できます。これらのアプリは、インターネット接続が制限されている、または利用できない屋外で使用されることが多いため、クラウド処理に依存すると信頼性が低下する可能性があります。

学習後、Ultralytics YOLO11モデルをMNN形式にエクスポートし、モバイルデバイス上で直接実行できます。これにより、モデルは植物の種類を分類し、目に見える病害の症状をローカルで検出できるため、データをサーバーに送信する必要がありません。

図4. YOLO11を使用して葉の上にあるさび病（植物病害）の兆候を検出する例（出典）。

製造現場における効率的なオンデバイス推論#

製造施設の忙しい生産ラインでは、正確なパッケージ追跡が不可欠です。Ultralytics YOLO11を使用すると、主要なチェックポイントを通過する各品目を追跡・カウントし、リアルタイムで数量を更新しながら、不一致を検出できます。これにより、出荷漏れや未計上の出荷を減らし、よりスムーズで信頼性の高い業務を支援できます。

図5. YOLO11を使用したパッケージの追跡とカウント（出典）。

この状況では、MNN統合が特に大きな効果を発揮します。Ultralytics YOLO11モデルをMNN形式にエクスポートすると、コンベヤー沿いに設置された小型で低消費電力のデバイス上で直接実行できます。

すべての処理がローカルで行われるため、システムは即時のフィードバックを提供でき、インターネット接続も必要ありません。これにより、工場現場で高速かつ信頼性の高い性能を実現し、高い精度と制御性を維持しながら、生産を効率的に継続できます。

Ultralytics YOLO11をMNNモデル形式にエクスポートするメリット#

Ultralyticsが提供するMNN統合の主なメリットをいくつか紹介します。

• 応答時間の短縮：推論がデバイス上で実行されるため、最小限のレイテンシでリアルタイムに予測できます。
• 向上した データプライバシー：データがデバイス上に留まるため、機密性の高い画像や動画をクラウドに送信する必要性を減らせます。
• オープンソースで積極的にメンテナンスされている：Alibabaの支援と活発なコミュニティによるサポートを受けているMNNは信頼性が高く、性能改善のために定期的に更新されています。

MNNフレームワークを使用する際に考慮すべき要素#

MNNをデプロイメントフレームワークとして選択する前に、プロジェクトの要件、デプロイメント対象、技術的な制約にどの程度適合するかを評価することも重要です。考慮すべき主な要素をいくつか紹介します。

• 継続的な互換性: フレームワークの更新や対象プラットフォームの変更により、すべてを円滑に動作させるために再テストや調整が必要になる場合があります。
• デバッグツールが少ない: 大規模なフレームワークと比較すると、MNNはデバッグやモデルの動作検査のためのツールが限られているため、トラブルシューティングが難しくなる可能性があります。
• 性能はハードウェアに依存: モデルの速度と効率はデバイスによって異なります。対象のハードウェアをテストし、性能目標を満たしていることを確認してください。

主なポイント#

UltralyticsによるMNN統合のサポートにより、モバイルデバイスや組み込みデバイスで使用するYOLO11モデルを簡単にエクスポートできます。クラウドアクセスや常時接続に依存せず、高速で信頼性の高い検出が必要なアプリケーションにとって、実用的な選択肢です。

この構成により、性能を維持し、リソース要件を低く抑えながら、デプロイメントを効率化できます。スマートホームシステム、現場向けツール、コンパクトな産業用デバイスのいずれを構築する場合でも、Ultralytics YOLO11をMNNにエクスポートすることで、エッジデバイス上でコンピュータービジョンタスクを直接実行するための柔軟で効率的な方法を提供できます。

成長を続けるコミュニティにぜひご参加ください。GitHubリポジトリを探索して、AIについてさらに詳しく学びましょう。コンピュータービジョンプロジェクトを始める準備はできていますか。ライセンスオプションをご確認ください。ソリューションページでヘルスケアにおけるAIと小売業におけるコンピュータービジョンについてさらに詳しくご覧いただけます。