OpenVINO™を使用してUltralytics YOLO11をシームレスにデプロイする

AIの普及は、AIソリューションがいかに利用しやすいかにかかっています。その大きな要素は、既存のハードウェアで簡単にデプロイできるようにすることです。AIモデルをGPU（グラフィックス処理ユニット）で実行することは、パフォーマンスと並列処理能力の観点から非常に優れた選択肢です。

しかし現実には、エッジ環境や日常的なノートPCなど、誰もがハイエンドGPUを利用できるわけではありません。そのため、中央処理ユニット（CPU）、統合GPU、ニューラル処理ユニット（NPU）といった、より広く普及しているハードウェアでモデルが効率的に実行されるよう最適化することが非常に重要です。

コンピュータビジョンは、例えば、機械が画像やビデオストリームをリアルタイムで分析・理解できるようにするAIの一分野です。Ultralytics YOLO11のようなビジョンAIモデルは、小売分析から医療診断に至るまで、さまざまなアプリケーションを支える物体検出やインスタンスセグメンテーションといった主要なタスクをサポートしています。

図1：Ultralytics YOLO11を使用して小売店内のオブジェクトを検出およびセグメント化する様子。

コンピュータビジョンをより幅広く利用できるようにするため、UltralyticsはOpenVINOツールキットとの統合をアップデートしました。これは、CPU、GPU、NPU全体でAI推論を最適化して実行するためのオープンソースプロジェクトです。

この統合により、YOLO11モデルのエクスポートとデプロイが容易になり、CPUでの推論速度が最大3倍向上し、Intel製GPUやNPUでのパフォーマンスも加速します。本記事では、Ultralytics Pythonパッケージを使用してYOLO11モデルをOpenVINO形式にエクスポートし、推論に使用する方法を順を追って説明します。早速始めましょう！

Link to this sectionUltralytics YOLO11の概要#

UltralyticsがサポートするOpenVINO統合の詳細に入る前に、YOLO11がなぜ信頼性が高くインパクトのあるコンピュータビジョンモデルであるのかを詳しく見てみましょう。YOLO11はUltralytics YOLOシリーズの最新モデルであり、速度と精度の両面で大幅な強化が施されています。

その主要なハイライトの一つが効率性です。例えば、Ultralytics YOLO11mはUltralytics YOLOv8mよりもパラメータが22%少ないにもかかわらず、COCOデータセットにおいてより高い平均精度（mAP）を達成しています。つまり、処理が高速化されるだけでなくオブジェクトの検出精度も向上しており、パフォーマンスと応答性が重要視されるリアルタイムアプリケーションに最適です。

図2：Ultralytics YOLO11のパフォーマンスベンチマーク。

オブジェクト検出以外にも、YOLO11はインスタンスセグメンテーション、ポーズ推定、画像分類、オブジェクトトラッキング、指向性バウンディングボックス検出といった、さまざまな高度なコンピュータビジョンタスクをサポートしています。また、YOLO11は開発者フレンドリーであり、Ultralytics Pythonパッケージを通じてモデルの学習、評価、デプロイを行うためのシンプルで一貫性のあるインターフェースを提供しています。

さらに、Ultralytics Pythonパッケージはさまざまな統合や、OpenVINO、ONNX、TorchScriptを含む複数のエクスポート形式をサポートしているため、YOLO11を多様なデプロイメントパイプラインに簡単に組み込むことができます。クラウドインフラ、エッジデバイス、埋め込みシステムのいずれをターゲットにする場合でも、エクスポートプロセスは簡単で、ハードウェアのニーズに合わせて調整可能です。

Link to this sectionOpenVINO™とは何か？#

OpenVINO™（Open Visual Inference and Neural Network Optimization）は、幅広いハードウェア全体でAI推論を最適化してデプロイするためのオープンソースツールキットです。これにより、開発者はCPU、統合GPU、ディスクリートGPU、NPU、フィールド・プログラマブル・ゲート・アレイ（FPGA）など、多様なIntelプラットフォーム全体で、高性能な推論アプリケーションを効率的に実行できます。

OpenVINOは、デバイス固有のプラグインを通じてハードウェアの違いを抽象化する統一されたランタイムインターフェースを提供します。つまり、開発者はコードを一度書けば、一貫したAPIを使用して複数のIntelハードウェアターゲットにデプロイできます。

OpenVINOがデプロイメントに最適な選択肢である理由となる、主な機能をいくつか紹介します。

• モデルコンバーター: このツールは、PyTorch、ONNX、TensorFlow、PaddlePaddleなどの人気フレームワークからモデルを変換・準備し、Intelハードウェア上で効率的な推論が行えるよう最適化します。
• ヘテロジニアス実行: 異なるIntelハードウェアのためにコードを書き直す必要はありません。OpenVINOを使用すれば、CPUからGPUまで、サポートされているあらゆるハードウェアで同じモデルを簡単に実行できます。
• 量子化サポート: このツールキットは、FP16（デフォルト）やINT8といった低精度形式をサポートしており、精度を大幅に損なうことなくモデルサイズを削減し、推論を高速化できます。

図3：OpenVINOは多様なデプロイメントオプションを実現します。

Link to this sectionUltralyticsとOpenVINOの統合を探る#

OpenVINOとは何か、そしてその重要性について理解したところで、YOLO11モデルをOpenVINO形式にエクスポートし、Intelハードウェアで効率的な推論を実行する方法を説明します。

Link to this sectionステップ1：Ultralytics Pythonパッケージのインストール#

モデルをOpenVINO形式にエクスポートするには、まずUltralytics Pythonパッケージをインストールする必要があります。このパッケージには、YOLO11を含むYOLOモデルの学習、評価、エクスポートに必要なすべてが含まれています。

ターミナルまたはコマンドプロンプトで「pip install ultralytics」というコマンドを実行してインストールできます。Jupyter NotebookやGoogle Colabのようなインタラクティブな環境で作業している場合は、コマンドの前に感嘆符を追加してください。

また、インストール中やエクスポート中に問題が発生した場合は、Ultralyticsのドキュメントやトラブルシューティングガイドが解決に役立つ優れたリソースとなります。

Link to this sectionステップ2：YOLO11モデルをOpenVINO形式にエクスポートする#

Ultralyticsパッケージの準備ができたら、次のステップはYOLO11モデルを読み込み、OpenVINOと互換性のある形式に変換することです。

以下の例では、学習済みYOLO11モデル（「yolo11n.pt」）を使用しています。エクスポート機能を使用してOpenVINO形式に変換します。このコードを実行すると、変換されたモデルが「yolo11n_openvino_model」という新しいディレクトリに保存されます。

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="openvino")

Link to this sectionステップ3：エクスポートしたモデルで推論を実行する#

YOLO11モデルをOpenVINO形式にエクスポートしたら、Ultralytics Pythonパッケージを使用する方法と、ネイティブのOpenVINO Runtimeを使用する方法の2通りで推論を実行できます。

Link to this sectionUltralytics Pythonパッケージの使用#

エクスポートされたYOLO11モデルは、以下のコードスニペットに示すように、Ultralytics Pythonパッケージを使用して簡単にデプロイできます。この方法は、迅速な実験やIntelハードウェアへの合理的なデプロイに最適です。

また、システムで利用可能なIntelハードウェアに応じて、「intel:cpu」、「intel:gpu」、「intel:npu」のように、推論に使用するデバイスを指定することもできます。

ov_model = YOLO("yolo11n_openvino_model/")
results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

上記のコードを実行すると、出力画像は「runs/detect/predict」ディレクトリに保存されます。

図4：エクスポート済みYOLO11モデルを使用して画像内のオブジェクトを検出。

Link to this sectionネイティブOpenVINO Runtimeの使用#

特に本番環境で、推論を実行するためのカスタマイズ可能な方法を探している場合、OpenVINO Runtimeを使用することで、モデルの実行方法をより細かく制御できます。非同期実行（複数の推論リクエストを並列で実行）や負荷分散（Intelハードウェア全体で推論ワークロードを効率的に分散）などの高度な機能をサポートしています。

ネイティブランタイムを使用するには、エクスポートされたモデルファイル（ネットワークアーキテクチャを定義する.xmlファイルと、モデルの学習済み重みを保存する.binファイル）が必要です。また、アプリケーションに応じて入力の次元数や前処理ステップなどの追加パラメータを設定することも可能です。

一般的なデプロイメントフローには、OpenVINOコアの初期化、ターゲットデバイス向けのモデルの読み込みとコンパイル、入力の準備、推論の実行が含まれます。詳細な例やステップバイステップのガイダンスについては、公式Ultralytics OpenVINOドキュメントを参照してください。

Link to this sectionなぜUltralyticsとOpenVINOの統合を選ぶのか？#

Ultralyticsの統合を調べてみると、Ultralytics PythonパッケージがYOLO11モデルをTorchScript、CoreML、TensorRT、ONNXなど、さまざまな形式にエクスポートできることがわかります。では、なぜOpenVINO統合を選ぶのでしょうか？

OpenVINOエクスポート形式がIntelハードウェアでのモデルデプロイに非常に適している理由は以下の通りです。

• パフォーマンス向上: Intel CPUで最大3倍の推論速度を体験でき、統合GPUやNPUではさらなる高速化が可能です。
• 再学習不要: 既存のYOLO11モデルを、修正や再学習を行うことなく、OpenVINO形式に直接エクスポートできます。
• 拡張性を考慮した設計: エクスポートされた同じモデルを、低電力エッジデバイスから大規模なクラウドインフラまでデプロイでき、スケーラブルなAIデプロイメントを簡素化します。

また、OpenVINO™ Model Hubで、さまざまなIntel®プラットフォーム全体でのYOLO11モデルのパフォーマンスベンチマークを評価することも可能です。OpenVINO Model Hubは、開発者がIntelハードウェア上でAIモデルを評価し、Intel CPU、内蔵GPU、NPU、ディスクリートGPU全体にわたるOpenVINOのパフォーマンス上の利点を発見するためのリソースです。

図5：OpenVINO™ Model Hub：さまざまなIntel®プラットフォーム全体におけるYOLO11モデルのパフォーマンスベンチマーク。

Link to this sectionYOLO11およびOpenVINOエクスポート形式のアプリケーション#

OpenVINO統合の助けにより、実際の状況でIntelハードウェア全体にYOLO11モデルをデプロイすることが非常に簡単になります。

優れた例としてスマートリテールがあります。YOLO11は、棚の品切れをリアルタイムで検出し、在庫が少なくなっている製品を追跡し、顧客がどのように店内を移動するかを分析するのに役立ちます。これにより、小売業者は在庫管理を改善し、店舗レイアウトを最適化して顧客エンゲージメントを向上させることができます。

同様に、スマートシティにおいてYOLO11は、車両のカウント、歩行者の追跡、信号無視のリアルタイム検出を通じて交通監視に使用できます。これらの知見は、交通流の最適化、道路の安全性向上、自動取締りシステムへの支援に役立ちます。

図6：YOLO11を使用した車両のカウント。

もう一つの興味深い使用例は産業検査です。YOLO11を製造ラインにデプロイすることで、コンポーネントの欠損、位置ずれ、表面の損傷といった視覚的な欠陥を自動的に検出できます。これにより効率が向上し、コストが削減され、製品品質の向上をサポートします。

Link to this sectionOpenVINOツールキットを使用する際に考慮すべき主要な要素#

OpenVINOを使用してYOLO11モデルをデプロイする際、最良の結果を得るために留意すべき重要な点がいくつかあります。

• ハードウェアの互換性を確認する：CPU、統合GPU、NPUなど、お使いのIntelハードウェアがOpenVINOでサポートされており、モデルを効率的に実行できることを確認してください。
• 適切なドライバーをインストールする: Intel GPUやNPUを使用している場合は、必要なすべてのドライバーが適切にインストールされ、最新の状態であることを再確認してください。
• 精度のトレードオフを理解する: OpenVINOはFP32、FP16、INT8のモデル精度をサポートしています。それぞれ速度と精度の間にトレードオフがあるため、パフォーマンス目標と利用可能なハードウェアに基づいて適切なオプションを選択することが重要です。

Link to this section重要なポイント#

Ultralytics YOLO11をOpenVINO形式にエクスポートすることで、Intelハードウェア上で高速かつ効率的なビジョンAIモデルを簡単に実行できます。再学習やコードの変更を必要とせずに、CPU、GPU、NPU全体にデプロイ可能です。これは、シンプルさとスケーラビリティを維持しながらパフォーマンスを向上させるための素晴らしい方法です。

Ultralytics Pythonパッケージに組み込まれたサポートにより、OpenVINOを使用したエクスポートと推論の実行は非常に簡単です。わずか数ステップで、モデルを最適化し、さまざまなIntelプラットフォームで実行できます。スマートリテール、交通監視、産業検査のいずれに取り組んでいる場合でも、このワークフローは開発からデプロイへの移行を迅速かつ確実に行うのに役立ちます。

YOLOコミュニティに参加し、Ultralytics GitHubリポジトリをチェックして、Ultralyticsがサポートするインパクトのある統合について詳しく学んでください。また、Ultralyticsライセンスオプションを確認して、今すぐコンピュータビジョンを始めましょう！

今後のウェビナーに登録して、Ultralytics × OpenVINOの統合が実際に動作する様子をご覧ください。また、OpenVINOのWebサイトにアクセスして、AIを大規模に最適化およびデプロイするためのツールを探索してください。