OpenVINO™を使用してUltralytics YOLO11をシームレスにデプロイする

AIの普及は、AIソリューションがいかに利用しやすいかにかかっています。その大きな要素は、既存のハードウェアで簡単にデプロイできるようにすることです。AIモデルをGPU（グラフィックス処理ユニット）で実行することは、パフォーマンスと並列処理能力の観点から非常に優れた選択肢です。

しかし現実には、エッジ環境や日常的なノートPCなど、誰もがハイエンドGPUを利用できるわけではありません。そのため、中央処理ユニット（CPU）、統合GPU、ニューラル処理ユニット（NPU）といった、より広く普及しているハードウェアでモデルが効率的に実行されるよう最適化することが非常に重要です。

コンピュータビジョンは、たとえば、機械が画像やビデオストリームをリアルタイムで分析して理解できるようにするAIの一分野です。Ultralytics YOLO11のようなビジョンAIモデルは、小売分析から医療診断まで、さまざまなアプリケーションを支える物体検出やインスタンスセグメンテーションなどの主要なタスクをサポートします。

図 1. 小売店舗内で物体を検出しセグメンテーションを行うUltralytics YOLO11。

コンピュータビジョンをより幅広くアクセシブルにするため、UltralyticsはOpenVINOツールキットとのアップデートされた統合をリリースしました。これは、CPU、GPU、NPUにわたるAI推論の最適化と実行を行うためのオープンソースプロジェクトです。

この統合により、CPUでの推論速度が最大3倍向上し、Intel GPUやNPUでのパフォーマンスが加速された状態で、YOLO11モデルをより簡単にエクスポートおよびデプロイできるようになります。この記事では、Ultralytics Pythonパッケージを使用してYOLO11モデルをOpenVINO formatにエクスポートし、推論に使用する方法について順を追って説明します。それでは始めましょう！

Ultralytics YOLO11の概要#

UltralyticsがサポートするOpenVINO統合の詳細に入る前に、YOLO11がなぜ信頼性が高くインパクトのあるコンピュータビジョンモデルであるのかを詳しく見てみましょう。YOLO11はUltralytics YOLOシリーズの最新モデルであり、速度と精度の両面で大幅な強化が施されています。

その主要なハイライトの一つが効率性です。例えば、Ultralytics YOLO11mはUltralytics YOLOv8mよりもパラメータが22%少ないにもかかわらず、COCOデータセットにおいてより高い平均精度（mAP）を達成しています。つまり、処理が高速化されるだけでなくオブジェクトの検出精度も向上しており、パフォーマンスと応答性が重要視されるリアルタイムアプリケーションに最適です。

図 2. Ultralytics YOLO11のパフォーマンスベンチマーク。

物体検出にとどまらず、YOLO11はインスタンスセグメンテーション、姿勢推定、画像分類、物体追跡、方向付きバウンディングボックス検出など、さまざまな高度なコンピュータビジョンタスクをサポートしています。また、YOLO11は開発者にも使いやすく、Ultralytics Pythonパッケージにより、モデルのトレーニング、評価、デプロイのためのシンプルで一貫したインターフェースが提供されます。

さらに、Ultralytics Pythonパッケージはさまざまなインテグレーションや、OpenVINO、ONNX、TorchScriptなどの複数のエクスポート形式をサポートしており、YOLO11をさまざまなデプロイパイプラインに簡単に組み込むことができます。クラウドインフラストラクチャ、エッジデバイス、組み込みシステムのいずれをターゲットにしている場合でも、エクスポートプロセスはシンプルであり、ハードウェアの要件に適応可能です。

OpenVINO™とは何か？#

OpenVINO™（Open Visual Inference and Neural Network Optimization）は、幅広いハードウェア全体でAI推論を最適化してデプロイするためのオープンソースツールキットです。これにより、開発者はCPU、統合GPU、ディスクリートGPU、NPU、フィールド・プログラマブル・ゲート・アレイ（FPGA）など、多様なIntelプラットフォーム全体で、高性能な推論アプリケーションを効率的に実行できます。

OpenVINOは、デバイス固有のプラグインを通じてハードウェアの違いを抽象化する統一されたランタイムインターフェースを提供します。つまり、開発者はコードを一度書けば、一貫したAPIを使用して複数のIntelハードウェアターゲットにデプロイできます。

OpenVINOがデプロイメントに最適な選択肢である理由となる、主な機能をいくつか紹介します。

• モデルコンバーター：このツールは、PyTorch、ONNX、TensorFlow、PaddlePaddleなどの一般的なフレームワークからのモデルを変換および準備し、Intelハードウェア上で効率的な推論が行えるように最適化できるようにします。
• ヘテロジニアス実行: 異なるIntelハードウェアのためにコードを書き直す必要はありません。OpenVINOを使用すれば、CPUからGPUまで、サポートされているあらゆるハードウェアで同じモデルを簡単に実行できます。
• 量子化サポート: このツールキットは、FP16（デフォルト）やINT8といった低精度形式をサポートしており、精度を大幅に損なうことなくモデルサイズを削減し、推論を高速化できます。

図 3. OpenVINOにより、多様なデプロイオプションが可能になります。

UltralyticsとOpenVINOの統合を探る#

OpenVINOとは何か、そしてその重要性について見てきましたので、次はUltralytics YOLO11モデルをOpenVINO形式にエクスポートし、Intelハードウェア上で効率的な推論を実行する方法について説明します。

ステップ1：Ultralytics Pythonパッケージのインストール#

モデルをOpenVINO形式にエクスポートするには、まずUltralytics Pythonパッケージをインストールする必要があります。このパッケージには、YOLO11をはじめとするYOLOモデルのトレーニング、評価、エクスポートに必要なすべてが含まれています。

ターミナルまたはコマンドプロンプトで「pip install ultralytics」というコマンドを実行してインストールできます。Jupyter NotebookやGoogle Colabのようなインタラクティブな環境で作業している場合は、コマンドの前に感嘆符を追加してください。

また、インストール中やエクスポート中に問題が発生した場合は、Ultralyticsのドキュメントやトラブルシューティングガイドが解決のための素晴らしいリソースとなります。

ステップ 2: Ultralytics YOLO11 モデルを OpenVINO フォーマットにエクスポートする#

Ultralyticsパッケージの準備ができたら、次のステップはYOLO11モデルを読み込み、OpenVINOと互換性のある形式に変換することです。

以下の例では、学習済みYOLO11モデル（「yolo11n.pt」）を使用しています。エクスポート機能を使用してOpenVINO形式に変換します。このコードを実行すると、変換されたモデルが「yolo11n_openvino_model」という新しいディレクトリに保存されます。

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="openvino")

ステップ3：エクスポートしたモデルで推論を実行する#

YOLO11モデルをOpenVINO形式にエクスポートしたら、Ultralytics Pythonパッケージを使用する方法と、ネイティブのOpenVINO Runtimeを使用する方法の2通りで推論を実行できます。

Ultralytics Pythonパッケージの使用#

エクスポートされたYOLO11モデルは、以下のコードスニペットに示すように、Ultralytics Pythonパッケージを使用して簡単にデプロイできます。この方法は、迅速な実験やIntelハードウェアへの合理的なデプロイに最適です。

また、システムで利用可能なIntelハードウェアに応じて、「intel:cpu」、「intel:gpu」、「intel:npu」のように、推論に使用するデバイスを指定することもできます。

ov_model = YOLO("yolo11n_openvino_model/")
results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

上記のコードを実行すると、出力画像は「runs/detect/predict」ディレクトリに保存されます。

図 4. エクスポートした Ultralytics YOLO11 モデルを使用して画像内のオブジェクトを検出する。

ネイティブOpenVINO Runtimeの使用#

特に本番環境で、推論を実行するためのカスタマイズ可能な方法を探している場合、OpenVINO Runtimeを使用することで、モデルの実行方法をより細かく制御できます。非同期実行（複数の推論リクエストを並列で実行）や負荷分散（Intelハードウェア全体で推論ワークロードを効率的に分散）などの高度な機能をサポートしています。

ネイティブランタイムを使用するには、エクスポートされたモデルファイル（ネットワークアーキテクチャを定義する.xmlファイルと、モデルの学習済み重みを保存する.binファイル）が必要です。また、アプリケーションに応じて入力の次元数や前処理ステップなどの追加パラメータを設定することも可能です。

一般的なデプロイフローには、OpenVINOコアの初期化、ターゲットデバイス向けのモデルのロードとコンパイル、入力の準備、そして推論の実行が含まれます。詳細な例やステップバイステップのガイダンスについては、公式のUltralytics OpenVINOドキュメントをご参照ください。

なぜUltralyticsとOpenVINOの統合を選ぶのか？#

Ultralyticsの統合を調べてみると、Ultralytics PythonパッケージがYOLO11モデルをTorchScript、CoreML、TensorRT、ONNXなど、さまざまな形式にエクスポートできることがわかります。では、なぜOpenVINO統合を選ぶのでしょうか？

OpenVINOエクスポート形式がIntelハードウェアでのモデルデプロイに非常に適している理由は以下の通りです。

• パフォーマンスの向上： Intel CPUでは最大3倍高速な推論を体験でき、統合GPUやNPUではさらなるアクセラレーションを利用できます。
• 再トレーニング不要: 既存のUltralytics YOLO11モデルを修正や再トレーニングなしで、直接OpenVINO形式にエクスポートできます。
• スケールに向けた設計：同じエクスポート済みモデルを、低電力のエッジデバイスから大規模なクラウドインフラストラクチャまでデプロイでき、スケーラブルなAIデプロイを簡素化します。

また、OpenVINO™ Model Hubで、さまざまなIntel®プラットフォームにおけるUltralytics YOLO11モデルのパフォーマンスベンチマークを評価することもできます。OpenVINO Model Hubは、開発者がIntelハードウェア上でAIモデルを評価し、IntelのCPU、内蔵GPU、NPU、ディスクリートGPUにおけるOpenVINOのパフォーマンス上の優位性を発見するためのリソースです。

図 5. OpenVINO™ Model Hub: さまざまな Intel® プラットフォームにおける Ultralytics YOLO11 モデルのパフォーマンスベンチマーク。

Ultralytics YOLO11とOpenVINOエクスポート形式のアプリケーション#

OpenVINO統合の助けを借りて、実際の状況下でIntelハードウェア全体にUltralytics YOLO11モデルを展開することが非常に簡単になります。

優れた例としてスマートリテールが挙げられます。ここでは、Ultralytics YOLO11がリアルタイムで空き棚の検知、在庫が少なくなっている製品の追跡、および顧客の店内移動の分析を支援します。これにより、小売業者は在庫管理を改善し、店舗レイアウトを最適化して顧客エンゲージメントを高めることができます。

同様に、スマートシティにおいては、車両のカウント、歩行者の追跡、信号無視の検出をリアルタイムで行うことで、YOLO11を交通監視に使用できます。これらのインサイトは、交通流の最適化をサポートし、道路の安全性を向上させ、自動取り締まりシステムを支援します。

図 6. YOLO11を使用した車両のカウント。

もう1つの興味深いユースケースは産業用検査です。ここでは、Ultralytics YOLO11を生産ラインに展開して、部品の欠落、位置ズレ、表面の傷などの視覚的な欠陥を自動的に検知できます。これにより、効率が向上し、コストが削減され、製品品質の向上がサポートされます。

OpenVINOツールキットを使用する際に考慮すべき主要な要素#

OpenVINOを使用してUltralytics YOLO11モデルを展開する際に、最高の結果を得るために留意すべき重要な点がいくつかあります。

• ハードウェアの互換性を確認する：CPU、統合GPU、NPUのいずれであっても、モデルが効率的に実行できるように、お使いのIntelハードウェアがOpenVINOによってサポートされていることを確認してください。
• 適切なドライバーをインストールする: Intel GPUやNPUを使用している場合は、必要なすべてのドライバーが適切にインストールされ、最新の状態であることを再確認してください。
• 精度のトレードオフを理解する：OpenVINOはFP32、FP16、INT8のモデル精度をサポートしています。それぞれ速度と精度のトレードオフがあるため、パフォーマンスの目標と利用可能なハードウェアに基づいて適切なオプションを選択することが重要です。

重要なポイント#

Ultralytics YOLO11をOpenVINO形式にエクスポートすることで、Intelハードウェア上で高速かつ効率的なビジョンAIモデルを簡単に実行できます。再学習やコードの変更を必要とせずに、CPU、GPU、NPU全体にデプロイ可能です。これは、シンプルさとスケーラビリティを維持しながらパフォーマンスを向上させるための素晴らしい方法です。

Ultralytics Pythonパッケージに組み込まれたサポートにより、OpenVINOを使用したエクスポートと推論の実行は非常に簡単です。わずか数ステップで、モデルを最適化し、さまざまなIntelプラットフォームで実行できます。スマートリテール、交通監視、産業検査のいずれに取り組んでいる場合でも、このワークフローは開発からデプロイへの移行を迅速かつ確実に行うのに役立ちます。

YOLOコミュニティに参加し、UltralyticsのGitHubリポジトリをチェックして、Ultralyticsがサポートするインパクトのあるインテグレーションについて詳しく知りましょう。また、Ultralyticsのライセンスオプションをご覧いただき、今すぐコンピュータビジョンを始めましょう！

今後のウェビナーに登録してUltralytics × OpenVINOの統合が実際に動作する様子をご覧いただき、OpenVINOのウェブサイトにアクセスして大規模なAIの最適化とデプロイのためのツールを探索してください。