MNN統合を使用してUltralytics YOLO11をシームレスにデプロイする

今日、AIのイノベーションはリモートサーバー環境の枠を超えて広がっています。AIソリューションは、センサーやスマートフォンといったエッジデバイスに統合されつつあります。この技術的転換により、データは生成場所で直接処理できるようになり、より高速なレスポンス、プライバシーの向上、そして常時クラウド接続への依存低減が実現しました。

その結果、edge AIは多くの業界で勢いを増しています。edge AI software marketは、より高速でローカルな処理へ移行するシステムが増えるにつれて、2031年までに88億8千万ドルに達すると予想されています。

特に、画像や動画の理解に特化したAIの分野であるcomputer visionは、エッジ側での導入が急速に進んでいます。包装時の食品のカウントから車両の歩行者検知まで、computer visionはさまざまな分野で数多くの実用的なアプリケーションをサポートしています。

これはcomputer visionモデルによって可能になっています。例えば、Ultralytics YOLO11は、物体検出、インスタンスセグメンテーション、オブジェクトトラッキング、ポーズ推定などのさまざまなビジョンAIタスクをサポートするモデルです。高速で効率的になるよう設計されており、ハードウェアリソースが限られたデバイスでも良好に動作します。

図1：Ultralytics YOLO11を使用して梱包中の食品を検知および追跡する様子（出典）。

エッジデプロイに適していることに加え、Ultralyticsがサポートするさまざまなintegrationsを通じて、YOLO11は異なるハードウェア環境に適したさまざまなフォーマットにエクスポートできます。

最も効率的なオプションの1つが、低リソースデバイス向けに設計された軽量推論エンジンのMNN (Mobile Neural Network) です。Ultralytics YOLO11をMNNにエクスポートすることで、高速なオンデバイス処理が不可欠なスマートフォン、組み込みシステム、その他のエッジプラットフォーム上で直接実行できるようになります。

この記事では、MNN integrationの仕組みを確認し、一般的なユースケースを紹介しながら、エクスポートしたUltralytics YOLO11モデルを使用して推論を実行する方法を順に解説します。それでは始めましょう。

MNNの概要：ディープラーニングフレームワーク#

スマートフォン、産業用センサー、ポータブルシステムなどの小型デバイスでcomputer vision modelsを実行することは、常に簡単であるとは限りません。これらのデバイスは多くの場合、限られたメモリ、低速なプロセッサ、および厳しい電力制限を持っています。

Mobile Neural Network（MNN）は、Alibabaによって開発された、低リソースハードウェア上でAIモデルを効率的に動作させつつリアルタイム性能を維持するための、軽量で高性能な推論エンジンです。MNNはAndroid、iOS、Linuxを含む幅広いプラットフォームをサポートしており、CPUやGPUといった様々なタイプのハードウェアで動作します。

図2. MNNフレームワークの概要（Source）。

UltralyticsがサポートするMNNインテグレーションにより、YOLO11モデルをMNNフォーマットに容易にエクスポートすることが可能になります。簡単に言うと、モデルをYOLOフォーマットからMNNへ変換できるということです。

変換されたモデルは、効率的なオンデバイス推論のためにMNNフレームワークをサポートするデバイスにデプロイできます。MNN形式を使用する主なメリットは、サイズ、速度、およびリソース効率が極めて重要なシナリオにおいて、Ultralytics YOLO11のデプロイを簡素化できる点です。

MNN推論バックエンドの主な特徴#

MNNインテグレーションの使い方を詳しく見ていく前に、MNNフレームワークが実世界のデバイスでAIモデルを実行するために最適な選択肢である理由を確認しましょう。このフレームワークは、高速で信頼性の高い性能を提供しつつ、エッジ環境特有の制約に対処できるように構築されています。

興味深いことに、MNNはAlibaba社内でTaobao、Tmall、Youku、DingTalk、Xianyuなど30以上のアプリケーションで使用されており、ライブビデオ、ショート動画、画像検索、オンデバイスセキュリティチェックといった幅広いシナリオに対応しています。大規模なデプロイをサポートし、本番環境で毎日何百万もの推論を実行しています。

MNNフレームワークの主な特徴は以下の通りです。

• バックエンドの自動選択: MNNは、動作中のハードウェアに基づいて、CPUやGPUなど最も適した実行バックエンドを自動的に選択できます。
• Multi-threaded execution: マルチスレッドをサポートしており、マルチコアプロセッサの性能を最大限に引き出してより高速な推論を実現します。
• モデル量子化のサポート: FP16またはINT8量子化を使用してモデルサイズを大幅に削減し、メモリ消費を抑えつつ推論速度を向上させることができます。
• 軽量かつ高速: MNNのフットプリントは非常に小さく、コアライブラリはAndroidで約400 KB、iOSで約5 MB程度であり、モバイルデバイスや組み込みデバイスに最適です。

MNNインテグレーションの仕組みについて#

次に、Ultralytics YOLO11モデルをMNN形式にエクスポートする方法について順に説明します。

最初のステップは、YOLO11モデルをMNNフォーマットにエクスポートするために必要なすべてを提供するUltralytics Python packageをインストールすることです。ターミナルで「pip install ultralytics」を実行するか、コマンドプロンプトを使用します。Jupyter NotebookやGoogle Colabを使用している場合は、コマンドの前に感嘆符を追加してください。

インストール中に問題が発生した場合は、Common Issues guideを参照してトラブルシューティングのヒントを確認してください。

環境の準備ができたら、"yolo11n.pt" のような学習済みYOLO11モデルをロードし、以下のコードスニペットのようにMNNフォーマットへエクスポートできます。独自のYOLO11モデルをトレーニングした場合は、ファイル名をそのモデルのパスに置き換えるだけで簡単にエクスポートできます。

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="mnn")

モデルをMNNへ変換した後は、アプリケーションのニーズに合わせて様々なモバイルおよび組み込みプラットフォームで使用できるようになります。

たとえば、交通状況を撮影した動画でエクスポートしたモデルをテストするとします。その場合、以下の例に示すように、MNN形式のUltralytics YOLO11モデルを読み込んで、車両、歩行者、道路標識などのオブジェクトをデバイス上で直接検出できます。

mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)

推論が完了すると、検出されたオブジェクトを含む出力動画が「runs/detect/predict」フォルダに自動的に保存されます。また、MNN Python packageを使用して直接推論を実行したい場合は、公式のUltralytics documentationで詳細と例をご確認ください。

図3：MNN形式にエクスポートされたUltralytics YOLO11モデルを使用して交通状況を分析する様子。画像提供：著者。

Ultralytics YOLO11とMNNによって実現されるエッジAIモデルデプロイのユースケース#

Ultralytics YOLO11をMNNでデプロイすることで、クラウドベースの処理が実用的でない、または不可能な環境において、object detectionなどの高速で効率的なコンピュータービジョンタスクが可能になります。この統合が実際のシナリオでどのように役立つのかを見ていきましょう。

植物病害特定のためのモバイルエッジAI#

image classificationを使用する植物病害識別アプリは、ガーデナー、研究者、自然愛好家の間で人気を集めています。ユーザーは写真を撮るだけで、葉の斑点や変色などの病気の初期兆候を素早く特定できます。これらのアプリはインターネット接続が制限されているか利用できない屋外で使用されることが多いため、クラウド処理に依存するのは信頼性に欠ける場合があります。

トレーニング後、Ultralytics YOLO11モデルをMNN形式にエクスポートして、モバイルデバイス上で直接実行できます。これにより、サーバーにデータを送信することなく、ローカルで植物の種を分類し、目に見える病気の症状を検出できます。

図4. YOLO11を使用して葉の上の錆（植物の病気）の兆候を検出する例（Source）。

製造現場における効率的なオンデバイス推論#

manufacturing施設内の忙しい生産ラインでは、正確な荷物の追跡が不可欠です。Ultralytics YOLO11を使用すると、重要チェックポイントを通過する各アイテムを追跡およびカウントし、リアルタイムでカウントを更新しながら不一致をフラグ付けできます。これにより、出荷の未達や未計上を削減し、よりスムーズで信頼性の高い運用をサポートできます。

図5. YOLO11を使用したパッケージの追跡とカウント（Source）。

この文脈において、MNN integrationは特に大きな効果を発揮します。Ultralytics YOLO11モデルをMNN形式にエクスポートすれば、コンベア沿いに設置された小型で低電力のデバイス上で直接実行できるようになります。

すべての処理がローカルで行われるため、システムは即座にフィードバックを提供でき、インターネット接続も不要です。これにより、工場現場で高速かつ信頼性の高いパフォーマンスを確保し、高い精度と制御を維持しながら生産を効率的に進めることができます。

Ultralytics YOLO11をMNNモデル形式にエクスポートするメリット#

Ultralyticsが提供するMNNインテグレーションの主な利点は以下の通りです：

• より高速な応答時間: 推論がデバイス上で実行されるため、最小限のレイテンシでリアルタイムに予測が行われます。
• データプライバシーの向上：データがデバイス上に保持されるため、機密性の高い画像や動画をクラウドに送信する必要性が軽減されます。
• オープンソースで活発にメンテナンス: Alibabaの支援を受け、活発なコミュニティによってサポートされているため、MNNは信頼性が高く、パフォーマンス向上のためのアップデートが定期的に行われています。

MNNフレームワーク使用時に考慮すべき要素#

デプロイメントフレームワークとしてMNNを選択する前に、プロジェクトの要件、デプロイターゲット、技術的制約にどれだけ適合しているかを評価することが重要です。考慮すべき重要な要素を以下に挙げます：

• 継続的な互換性: フレームワークのアップデートやターゲットプラットフォームの変更により、スムーズな実行を維持するための再テストや調整が必要になる場合があります。
• デバッグツールの少なさ: より大規模なフレームワークと比較して、MNNはモデルの挙動をデバッグ・検査するためのツールが限られているため、トラブルシューティングが難しくなることがあります。
• パフォーマンスはハードウェアに依存: モデルの速度と効率はデバイスによって異なります。パフォーマンスの目標を達成できるか、ターゲットハードウェアでテストしてください。

重要なポイント#

UltralyticsによるMNNインテグレーションのサポートにより、モバイルや組み込みデバイス向けにYOLO11モデルを簡単にエクスポートできます。これは、クラウドアクセスや常時接続に頼ることなく、高速で信頼性の高い検知を必要とするアプリケーションにとって実用的な選択肢です。

この構成により、パフォーマンスを維持しリソース要件を低く抑えながら、デプロイを効率化できます。スマートホームシステム、フィールドツール、小型産業用デバイスのいずれを構築する場合でも、Ultralytics YOLO11をMNNにエクスポートすることで、コンピュータービジョンタスクをエッジデバイス上で直接実行するための柔軟で効率的な方法が提供されます。

成長を続ける私たちのcommunityに参加しましょう！AIについてさらに深く知るには、GitHub repositoryをご覧ください。computer visionプロジェクトを始める準備はできましたか？licensing optionsをご確認ください。ソリューションページでAI in healthcareやcomputer vision in retailの詳細をご覧ください！