Intel Core Ultra Series 3 (Panther Lake) におけるOpenVINOを用いたUltralytics YOLO26の高速化

ここ数年、AIとコンピュータビジョンは実験的なものから、日常のビジネス運営に欠かせない要素へと進化しました。実際、調査によると、組織の約88%がすでにビジネスの少なくとも一部でAIを活用しています。

However, turning that adoption into real value, whether in production systems or personal projects, often comes down to how well models actually run once deployed. In many real-world scenarios, computer vision models like Ultralytics YOLO26 are deployed on edge devices and a range of hardware, often CPUs, integrated GPUs, or NPUs, rather than high-end GPUs.

そこでパフォーマンスのばらつきが生じ、最適化が不可欠となります。ある環境でうまく機能するモデルも、基盤となるハードウェア向けに適切に最適化されていなければ、別の環境では苦戦する可能性があります。

これを効率化するため、Ultralytics Python packageはYOLO26モデルをOpenVINOのような最適化されたフォーマットにエクスポートすることをサポートしており、ワークフローを変更することなくIntelハードウェア上でスムーズに実行できます。

例えば、YOLO26モデルをOpenVINOフォーマットにエクスポートすると、Intel Core Ultra Series 3プロセッサ上でより効率的に実行でき、GPU推論速度が最大3倍まで向上します。

本記事では、アップデートされたUltralyticsとOpenVINOの統合によって、どのようにYOLO26モデルをIntel Core Ultra Series 3ハードウェアにデプロイしやすくなるかを探ります。それでは始めましょう！

Link to this sectionUltralyticsとOpenVINOの統合の概要#

Ultralytics Python packageは、YOLO26のようなUltralytics YOLOモデルのトレーニング、推論実行、デプロイを行うための単一のインターフェースを提供します。トレーニングや実験からデプロイ、最適化まで、ビジョンAIワークフローのさまざまな側面を支援する一連の統合をサポートしています。

デプロイに焦点を当てた統合の1つがOpenVINOツールキットとの連携であり、これによってYOLO26モデルをIntelハードウェア向けに最適化されたフォーマットへエクスポートできます。このプロセスにより、YOLOモデルはIntel® Core™ Ultra™シリーズプロセッサを搭載したシステムを含む、Intel CPU、GPU、NPU上でより効率的に実行できるフォーマットに変換されます。

これにより、デバイスごとに手動で調整することなく、さまざまなIntelデバイス間でモデルを実行しやすくなります。ローカルマシン、エッジデバイス、あるいは大規模なデプロイのいずれであっても、エクスポートされた同一モデルを再利用できます。

この統合が特に実用的なのは、既存のUltralyticsワークフローにシームレスに適合する点です。トレーニングや推論に使用するのと同じインターフェースを使ってモデルをエクスポートできるため、追加のツールや複雑なセットアップは必要ありません。

エクスポートが完了すれば、モデルはどの程度の制御と柔軟性が必要かに応じて、Ultralytics Python packageまたはOpenVINO Runtimeのいずれかを通じて推論に使用できます。

Link to this sectionAI推論におけるOpenVINOとIntel Panther Lakeハードウェアの詳細#

エクスポートされたYOLO26モデルがIntelハードウェア上でどれほど効率的に実行できるかを確認する前に、OpenVINOとIntelハードウェアがどのように連携して効率的な推論を実現しているかを理解しましょう。

OpenVINOは、CPU、統合GPU、NPUを含むIntelハードウェア全体でAI推論を最適化および実行するために設計されたオープンソースツールキットです。統一されたランタイムを提供するため、同じモデルを書き直すことなく、これらの異なる演算ユニット間で実行できます。

Fig 1. OpenVINOは複数のハードウェアターゲットへのモデルデプロイを容易にします。(Source)

新しいIntel® Core™ Ultra™ Series 3プロセッサ（コードネーム：Panther Lake）では、AIワークロードは同一プロセッサ内の複数の演算ユニットにまたがって実行されます。各チップは、汎用タスク用のCPUコア、並列処理用の統合GPU、そしてAI推論専用に設計されたNPUを組み合わせています。

OpenVINOは、コードを変更することなく、CPU、GPU、NPUのいずれの演算ユニットもターゲットにできる統一されたAPIを提供します。推論を実行するデバイスを実行時に指定するだけでよいため、パフォーマンスと効率のニーズに応じて3つすべてを簡単に切り替えることが可能です。

Link to this sectionIntel® Core™ Ultra™シリーズにおけるYOLO26のベンチマーク#

UltralyticsとOpenVINOの統合を調べていると、YOLO26をOpenVINOフォーマットにエクスポートすることでどのようなモデルパフォーマンスの向上が期待できるのか、疑問に思うかもしれません。

YOLO26モデルを異なるフォーマットや精度レベルでベンチマークすると、推論速度の違いは明確になります。例えば、Panther LakeプロセッサであるIntel Core Ultra X7 358H上でYOLO26のナノバリエーション（YOLO26n）を実行した場合、PyTorch（FP32精度）では1画像あたり25.18ミリ秒かかっていた推論時間が、統合NPUを使用したOpenVINO（同じ精度）では2.64ミリ秒にまで短縮されます。

これは元のPyTorch FP32ベースラインよりも高速であり、レイテンシが重要となるリアルタイムおよびエッジアプリケーションにおいて顕著な違いを生み出します。これらの向上は、統合Intel Arc GPUで同じモデルを実行するとさらに明白になります。

Fig 2. OpenVINOを使用したIntel Panther Lake GPUでのYOLO26推論のベンチマーク (Source)

Fig 3. OpenVINOを使用したIntel Panther Lake NPUでのYOLO26推論のベンチマーク (Source)

Link to this sectionUltralytics YOLO26をOpenVINOフォーマットにエクスポートする2つの方法#

YOLO26モデルをOpenVINOフォーマットにエクスポートする主な方法は2つあります。Ultralytics Python packageを使用する方法と、コンピュータビジョンワークフローの構築と管理を一元的に行うためのエンドツーエンドのワークスペースであるUltralytics Platformから直接エクスポートする方法です。次に、両方のアプローチについて解説します。

Link to this sectionUltralytics Python packageを使用したYOLO26のエクスポート#

Ultralytics Python packageは、コードベースのワークフロー内でYOLO26モデルをOpenVINOフォーマットへエクスポートする簡単な方法を提供します。トレーニングと推論に同じインターフェースを使用するため、モデルのエクスポートは追加のツールを必要とせず、既存のパイプラインに自然に組み込めます。

まず、Ultralyticsパッケージをインストールします。これはターミナルまたはコマンドプロンプトで「pip install ultralytics」というコマンドを実行することで行えます。Jupyter NotebookやGoogle Colabのようなインタラクティブな環境で作業している場合は、コマンドの先頭に感嘆符を付けて同じコマンドを実行できます。

インストールが完了したら、トレーニング済みのYOLO26モデルを読み込み、直接OpenVINOフォーマットにエクスポートできます。以下に示すように、事前トレーニング済みのYOLO26nモデル（yolo26n.pt）を読み込み、exportメソッドを使用してOpenVINOフォーマットに変換します。

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="openvino")

コードを実行すると、変換されたモデルは新しいディレクトリに保存され、そこでデプロイに使用できるようになります。

Link to this sectionUltralytics Platform上でのYOLO26のエクスポート#

If you’re looking for a simpler, no-code approach, you can export YOLO26 models directly through Ultralytics Platform. The platform brings together the full computer vision workflow into a single workspace, making it easy to move from training to deployment without additional setup.

モデルの準備ができたら、プラットフォーム内でモデルを開き、「Export」タブに移動します。そこからエクスポートフォーマットとしてOpenVINOを選択し、オプションで画像サイズや精度などの設定を調整できます。

Fig 4. Ultralytics Platform内でのYOLO26エクスポートの様子

プラットフォームが変換を自動的に処理するため、スクリプトや依存関係、環境設定を管理する必要はありません。エクスポート完了後、最適化されたモデルをダウンロードし、Intel CPU、GPU、NPU全体へのデプロイに使用できます。

Link to this sectionUltralyticsとOpenVINOの統合によって可能になるデプロイオプション#

YOLO26モデルがOpenVINOフォーマットにエクスポートされたら、ワークフローと必要な制御レベルに応じて、推論を実行する方法がいくつかあります。よりシンプルで統合されたアプローチにはUltralytics Python packageを使用し、より高い柔軟性と制御が必要な場合はネイティブのOpenVINOランタイムを使用できます。

Link to this sectionUltralytics Python packageでの推論実行#

モデルがOpenVINOフォーマットにエクスポートされたら、Ultralytics Python packageを使用して推論を実行できます。このアプローチは、トレーニングやエクスポートと同じインターフェースを使用するため、迅速なテストや合理化されたデプロイに最適です。

このアプローチでは、ディレクトリからエクスポートされたOpenVINOモデルを読み込み、画像や動画などの入力に対して推論を実行できます。また、システムで使用可能なハードウェアに応じて、「intel:cpu」、「intel:gpu」、「intel:npu」といったオプションを指定することで、実行するデバイスを選択することも可能です。

以下のコードスニペットは、エクスポートされたモデルを読み込み、GPUをターゲットにして画像上で推論を実行する方法を示しています。推論が完了すると、出力画像は「runs/detect/predict」ディレクトリに保存されます。

ov_model = YOLO("yolo26n_openvino_model/")

results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

Link to this section推論のためのネイティブOpenVINOパッケージの活用#

本番環境でのモデル実行をより細かく制御する必要がある場合は、ネイティブのOpenVINOランタイムを推論に使用できます。この方法は、モデルをより大きなアプリケーションに統合する場合や、特定のハードウェア上での推論実行方法を微調整したい場合に便利です。

OpenVINOは、Intel CPU、GPU、NPU間でモデルを実行する統一された方法に加え、非同期実行や利用可能な演算リソースの効率的な使用といった機能を提供します。これを設定するには、モデル構造を定義する.xmlファイルや、トレーニング済みの重みを含む.binファイルなど、エクスポートされたモデルファイルを直接操作します。

ユースケースに応じて、入力サイズや前処理ステップなどの設定も調整できます。推論の設定には、OpenVINOランタイムの初期化、ターゲットデバイス向けのモデルの読み込みとコンパイル、入力データの準備、そして推論の実行が含まれます。

Fig 5. OpenVINOを使用した一般的な推論パイプラインの例 (Source)

これにより、モデルの実行方法を制御し、全体的なデプロイにどのように適合させるかを決定できます。OpenVINOランタイムを使用した推論の設定と実行の詳細については、公式のUltralytics ドキュメントをご覧ください。

Link to this sectionIntelハードウェア上でのYOLO26の現実的なアプリケーション#

UltralyticsとOpenVINOの統合の真の価値は、信頼性の高い低レイテンシの推論が目に見える違いを生み出す本番環境で発揮されます。この統合が有意義な結果をもたらしている主要な業界をいくつか紹介します。

• 製造業：YOLO26をOpenVINOにエクスポートすることで、製造ラインのシステムがIntelハードウェア上でコンポーネントの欠損、位置ずれ、表面の損傷といった視覚的な欠陥を自動的に検出でき、製品品質の向上とコストのかかるエラーの削減を支援します。

• ヘルスケア：医療画像診断や患者監視システムは、エクスポートされたYOLO26モデルをIntelハードウェア上でローカル実行でき、高い推論性能を維持しながら厳格なデータプライバシー要件をサポートします。

• スマートシティ：交通監視や群衆分析は、Intel搭載のエッジカメラ上でエクスポートされたYOLO26モデルを使用してデプロイでき、車両カウント、歩行者追跡、インシデント検出などのリアルタイムな洞察を可能にします。

• 自動車：低レイテンシと電力効率はドライバー監視や車内検知において不可欠であり、IntelハードウェアとエクスポートされたYOLO26モデルの組み合わせは、組み込み車載システムに非常に適しています。

この統合に関する詳細を知りたい方は、Intel OpenVINO DevConワークショップシリーズ「From Annotation to Deployment: Building an Object Detection Pipeline with Geti, YOLO26, and OpenVINO™」にご参加ください。当社のパートナーシップおよびエコシステムマネージャーであるFrancesco Mattioliが、IntelのAIソフトウェアエバンジェリストであるAdrian Boguszewskiと共に、現実の産業シナリオに向けた本番対応のコンピュータビジョンパイプラインを構築する方法をライブデモとウォークスルーで紹介します。このワークショップでは、データセット作成とモデルトレーニングから最適化、エッジデプロイまで、エンドツーエンドの物体検出ワークフローを完結させます。

Link to this sectionOpenVINOエクスポートフォーマットを使用する利点#

OpenVINOエクスポートフォーマットを使用する主な利点をいくつか挙げます。

• アクセスしやすく統合が容易：統一されたAPIと80以上のチュートリアルノートブックにより、OpenVINOは大きな複雑さを導入することなく、実験からデプロイへの移行を容易にします。

• 異なるハードウェア間で同じモデルを実行：OpenVINOを使用すると、エクスポートされた単一のモデルをサポート対象のIntelハードウェア全体で使用でき、デバイスごとに書き直したり適応させたりすることなく、CPU、GPU、NPUにデプロイできます。

• エクスポート時の組み込み最適化：OpenVINOへのエクスポートにより、PyTorchやTensorFlowなどの一般的なフレームワークからのモデルが推論に適した最適化フォーマットに変換され、個別の変換ステップが不要になります。

• ハードウェアリソースのより良い活用：OpenVINOはIntelハードウェア全体での非同期推論と負荷分散をサポートしており、実際のアプリケーションでの効率向上を支援します。

Link to this sectionExecuTorchとOpenVINOバックエンドでのYOLO26の実行#

より要求の厳しい本番環境にYOLO26をデプロイする場合、デバイス上の効率と高度なモデル圧縮を組み合わせた別のオプションが利用可能です。

ExecuTorchは、PyTorchのデバイス上推論フレームワークであり、異なるエクスポートおよびランタイムパスを通じてYOLO26をIntelハードウェアにデプロイできるOpenVINOバックエンドをサポートしています。

仕組みとしては、ExecuTorchがモデルのエクスポートとランタイム実行を処理し、OpenVINOがその下のハードウェアアクセラレーションレイヤーとして機能し、Intel CPU、GPU、NPUにまたがる実際の計算を処理します。両者が連携することで、ExecuTorchの移植性とデバイス上の効率を、OpenVINOが提供するハードウェア固有の最適化と組み合わせることができます。

この仕組みの詳細や、ExecuTorchとOpenVINOバックエンドでYOLO26を使い始める方法については、最新のExecuTorchとOpenVINOのアップデートを扱うIntelのブログ記事をご覧ください。

Link to this section重要なポイント#

UltralyticsとOpenVINOの統合を通じてYOLO26モデルをエクスポートすることは、ワークフローに複雑さを加えることなく、Intelハードウェア全体のパフォーマンスを向上させます。パイプラインをやり直すことなくトレーニングからデプロイへ移行できます。全体として、これは現実のアプリケーションにおいてIntel CPU、GPU、NPU間でモデルを効率的に実行するための簡単な方法を提供します。

コミュニティに参加し、GitHubリポジトリでVision AIの詳細を学びましょう。コンピュータビジョンプロジェクトを開始するには、ライセンスオプションをご確認ください。AIによる製造や自動車業界におけるコンピュータビジョンといったイノベーションに関心がありますか？当社のソリューションページにアクセスして、詳細をご覧ください。