OpenVINO™を使用してUltralytics YOLO11をシームレスにデプロイする

AIの導入は、AIソリューションを利用しやすくすることにかかっており、その大きな要素の一つが、すでにユーザーが保有しているハードウェアへ簡単にデプロイできるようにすることです。GPU（グラフィックス処理ユニット）でAIモデルを実行することは、パフォーマンスと並列処理能力の点で優れた選択肢です。

しかし実際には、特にエッジ環境や一般的なノートPCでは、誰もが高性能なGPUを利用できるわけではありません。そのため、中央処理装置（CPU）、内蔵GPU、ニューラル処理ユニット（NPU）など、より広く利用されているハードウェア上でモデルを効率的に実行できるよう最適化することが重要です。

コンピュータビジョンは、機械が画像やビデオストリームをリアルタイムで分析・理解できるようにするAIの一分野です。Ultralytics YOLO11のようなビジョンAIモデルは、物体検出やインスタンスセグメンテーションなどの主要タスクに対応し、小売分析から医療診断まで幅広いアプリケーションを支えます。

図1. Ultralytics YOLO11を使用して小売店内の物体を検出・セグメンテーションします。

コンピュータビジョンをより幅広く利用できるようにするため、UltralyticsはOpenVINOツールキットとの統合を更新してリリースしました。OpenVINOは、CPU、GPU、NPU上でAI推論を最適化・実行するためのオープンソースプロジェクトです。

この統合により、YOLO11モデルを簡単にエクスポートしてデプロイでき、CPU上では最大3倍高速な推論、Intel GPUおよびNPU上では高速化されたパフォーマンスを実現できます。この記事では、Ultralytics Pythonパッケージを使用してYOLO11モデルをOpenVINO形式にエクスポートし、推論に利用する方法を説明します。さっそく始めましょう。

Ultralytics YOLO11の概要#

UltralyticsがサポートするOpenVINO統合の詳細に入る前に、YOLO11を信頼性が高く実用的なコンピュータビジョンモデルにしている特長を詳しく見ていきましょう。YOLO11はUltralytics YOLOシリーズの最新モデルで、速度と精度の両方が大幅に向上しています。

主要な特長の一つは効率性です。たとえば、Ultralytics YOLO11mはUltralytics YOLOv8mよりパラメーター数が22%少ないにもかかわらず、COCOデータセットでより高い平均平均適合率（mAP）を達成します。つまり、より高速に動作し、物体もより正確に検出できるため、パフォーマンスと応答性が重要なリアルタイムアプリケーションに最適です。

図2. Ultralytics YOLO11のパフォーマンスベンチマーク。

物体検出に加えて、YOLO11はインスタンスセグメンテーション、姿勢推定、画像分類、物体追跡、方向付きバウンディングボックス検出など、さまざまな高度なコンピュータビジョンタスクに対応しています。YOLO11は開発者にとって使いやすく、Ultralytics Pythonパッケージにより、モデルのトレーニング、評価、デプロイに使用できるシンプルで一貫したインターフェースが提供されます。

さらに、Ultralytics Pythonパッケージはさまざまな統合と複数のエクスポート形式に対応しており、OpenVINO、ONNX、TorchScriptなどを利用できます。そのため、YOLO11をさまざまなデプロイパイプラインへ簡単に統合できます。クラウドインフラ、エッジデバイス、組み込みシステムのいずれを対象とする場合でも、エクスポートプロセスはシンプルで、ハードウェアのニーズに合わせて柔軟に対応できます。

OpenVINO™とは何ですか？#

OpenVINO™（Open Visual Inference and Neural Network Optimization）は、幅広いハードウェア上でAI推論を最適化・デプロイするためのオープンソースツールキットです。CPU、内蔵GPU、ディスクリートGPU、NPU、フィールドプログラマブルゲートアレイ（FPGA）など、さまざまなIntelプラットフォーム上で高性能な推論アプリケーションを効率的に実行できます。

OpenVINOは、デバイス固有のプラグインを通じてハードウェアの違いを抽象化する、統合ランタイムインターフェースを提供します。これにより、開発者はコードを一度記述するだけで、一貫したAPIを使用して複数のIntelハードウェアターゲットにデプロイできます。

OpenVINOをデプロイに適した選択肢にする主な特長は次のとおりです。

• モデルコンバーター: PyTorch、ONNX、TensorFlow、PaddlePaddleなどの主要フレームワークのモデルを変換・準備し、Intelハードウェア上で効率的に推論できるよう最適化します。
• 異種ハードウェア実行: Intelハードウェアごとにコードを書き直す必要はありません。OpenVINOを使用すると、CPUからGPUまで、サポートされているハードウェア上で同じモデルを簡単に実行できます。
• 量子化サポート: このツールキットは、FP16（デフォルト）やINT8などの低精度形式に対応しており、精度に大きな影響を与えずにモデルサイズを縮小し、推論を高速化できます。

図3. OpenVINOは多様なデプロイオプションを可能にします。

UltralyticsとOpenVINOの統合を詳しく見る#

OpenVINOとは何か、その重要性を確認したところで、Ultralytics YOLO11モデルをOpenVINO形式にエクスポートし、Intelハードウェア上で効率的な推論を実行する方法を説明します。

ステップ1：Ultralytics Pythonパッケージをインストールする#

モデルをOpenVINO形式にエクスポートするには、まずUltralytics Pythonパッケージをインストールする必要があります。このパッケージには、YOLO11を含むYOLOモデルのトレーニング、評価、エクスポートに必要な機能がすべて含まれています。

ターミナルまたはコマンドプロンプトで「pip install ultralytics」コマンドを実行するとインストールできます。Jupyter NotebookやGoogle Colabなどの対話型環境を使用している場合は、コマンドの前に感嘆符を付けてください。

インストール中またはエクスポート中に問題が発生した場合は、Ultralyticsのドキュメントとトラブルシューティングガイドが解決に役立つ優れたリソースです。

ステップ2：Ultralytics YOLO11モデルをOpenVINO形式にエクスポートする#

Ultralyticsパッケージのセットアップが完了したら、次のステップはYOLO11モデルを読み込み、OpenVINO互換形式に変換することです。

以下の例では、事前トレーニング済みのYOLO11モデル（「yolo11n.pt」）を使用しています。エクスポート機能を使用して、OpenVINO形式に変換します。このコードを実行すると、変換されたモデルが「yolo11n_openvino_model」という名前の新しいディレクトリに保存されます。

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="openvino")

ステップ3：エクスポートしたモデルで推論を実行する#

YOLO11モデルをOpenVINO形式にエクスポートしたら、Ultralytics PythonパッケージまたはネイティブのOpenVINO Runtimeを使用して、2通りの方法で推論を実行できます。

Ultralytics Pythonパッケージを使用する#

以下のコードスニペットに示すように、エクスポートしたYOLO11モデルはUltralytics Pythonパッケージを使用して簡単にデプロイできます。この方法は、Intelハードウェア上での迅速な実験や効率化されたデプロイに適しています。

システムで利用可能なIntelハードウェアに応じて、「intel:cpu」、「intel:gpu」、「intel:npu」など、推論に使用するデバイスを指定することもできます。

ov_model = YOLO("yolo11n_openvino_model/")
results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

上記のコードを実行すると、出力画像が「runs/detect/predict」ディレクトリに保存されます。

図4. エクスポートしたUltralytics YOLO11モデルを使用して画像内の物体を検出します。

ネイティブのOpenVINO Runtimeを使用する#

特に本番環境で、推論の実行方法をカスタマイズしたい場合は、OpenVINO Runtimeを使用するとモデルの実行をより細かく制御できます。非同期実行（複数の推論リクエストを並列で実行）や負荷分散（Intelハードウェア全体に推論ワークロードを効率的に分散）などの高度な機能に対応しています。

ネイティブランタイムを使用するには、エクスポートしたモデルファイルとして、ネットワークアーキテクチャを定義する.xmlファイルと、モデルのトレーニング済み重みを格納する.binファイルが必要です。アプリケーションに応じて、入力次元や前処理ステップなどの追加パラメーターを設定することもできます。

一般的なデプロイフローには、OpenVINOコアの初期化、ターゲットデバイス向けのモデルの読み込みとコンパイル、入力の準備、推論の実行が含まれます。詳しい例と手順については、Ultralytics公式OpenVINOドキュメントを参照してください。

UltralyticsとOpenVINOの統合を選ぶ理由#

Ultralyticsの統合機能を確認すると、Ultralytics PythonパッケージがYOLO11モデルのTorchScript、CoreML、TensorRT、ONNXなど、さまざまな形式へのエクスポートに対応していることが分かります。それでは、なぜOpenVINO統合を選ぶのでしょうか？

OpenVINOエクスポート形式がIntelハードウェアへのモデルのデプロイに適している理由は次のとおりです。

• パフォーマンス向上: Intel CPU上で最大3倍高速な推論を体験でき、内蔵GPUおよびNPUではさらなる高速化も利用できます。
• 再トレーニング不要: 既存のUltralytics YOLO11モデルを変更または再トレーニングすることなく、OpenVINO形式へ直接エクスポートできます。
• スケールに対応: 同じエクスポート済みモデルを、低消費電力のエッジデバイスから大規模なクラウドインフラまでデプロイでき、スケーラブルなAIデプロイを簡素化できます。

OpenVINO™ Model Hubでは、さまざまなIntel®プラットフォーム上でUltralytics YOLO11モデルのパフォーマンスベンチマークも評価できます。OpenVINO Model Hubは、開発者がIntelハードウェア上でAIモデルを評価し、Intel CPU、内蔵GPU、NPU、ディスクリートグラフィックス全体でOpenVINOのパフォーマンス上の優位性を確認できるリソースです。

図5. OpenVINO™ Model Hub：さまざまなIntel®プラットフォームにおけるUltralytics YOLO11モデルのパフォーマンスベンチマーク。

Ultralytics YOLO11とOpenVINOエクスポート形式の活用例#

OpenVINO統合により、現実の環境でIntelハードウェア全体にUltralytics YOLO11モデルをデプロイする作業が大幅に簡単になります。

スマートリテールはその好例です。Ultralytics YOLO11を使用すると、空の商品棚をリアルタイムで検出し、在庫が少なくなっている商品を追跡し、顧客の店内動線を分析できます。これにより、小売業者は在庫管理を改善し、買い物客のエンゲージメントを高めるために店舗レイアウトを最適化できます。

同様にスマートシティでは、YOLO11を使用して、車両の台数を数え、歩行者を追跡し、信号無視をリアルタイムで検出することで交通を監視できます。こうした分析結果は、交通流の最適化や道路の安全性向上、自動取り締まりシステムの支援に役立ちます。

図6. YOLO11を使用した車両カウント。

もう一つの興味深い活用例は産業検査です。Ultralytics YOLO11を生産ラインにデプロイし、部品の欠落、位置ずれ、表面損傷などの外観上の欠陥を自動検出できます。これにより、効率が向上し、コストが削減され、製品品質の改善を支援できます。

OpenVINOツールキットを使用する際に考慮すべき主な要素#

Ultralytics YOLO11モデルをOpenVINOでデプロイする際に、最良の結果を得るために留意すべき重要な点をいくつか紹介します。

• ハードウェアの互換性を確認する: CPU、内蔵GPU、NPUのいずれであっても、使用するIntelハードウェアがOpenVINOでサポートされ、モデルを効率的に実行できることを確認してください。
• 適切なドライバーをインストールする: Intel GPUまたはNPUを使用する場合は、必要なドライバーがすべて正しくインストールされ、最新の状態になっていることを再確認してください。
• 精度のトレードオフを理解する: OpenVINOはFP32、FP16、INT8のモデル精度に対応しています。それぞれ速度と精度の間にトレードオフがあるため、パフォーマンス目標と利用可能なハードウェアに基づいて適切な選択肢を選ぶことが重要です。

主なポイント#

Ultralytics YOLO11をOpenVINO形式にエクスポートすると、高速で効率的なビジョンAIモデルをIntelハードウェア上で簡単に実行できます。再トレーニングやコードの変更を行わずに、CPU、GPU、NPU全体へデプロイできます。シンプルさとスケーラビリティを維持しながら、パフォーマンスを向上させる優れた方法です。

Ultralytics Pythonパッケージにサポートが組み込まれているため、OpenVINOを使用したエクスポートと推論の実行は簡単です。わずか数ステップでモデルを最適化し、さまざまなIntelプラットフォーム上で実行できます。スマートリテール、交通監視、産業検査のいずれに取り組む場合でも、このワークフローにより、開発からデプロイまで迅速かつ確実に進められます。

YOLOコミュニティに参加し、Ultralyticsがサポートする有用な統合について詳しく知るには、UltralyticsのGitHubリポジトリをご覧ください。また、今すぐコンピュータビジョンを始めるために、Ultralyticsのライセンスオプションもご確認ください。

近日開催のウェビナーに登録してUltralytics × OpenVINO統合の実際の動作をご覧ください。また、OpenVINOウェブサイトで、AIを大規模に最適化・デプロイするためのツールをご確認ください。