Intel Core Ultra Series 3（Panther Lake）上のOpenVINOによるUltralytics YOLO26の高速化

ここ数年で、AIとコンピュータービジョンは実験段階から、日常的なビジネス運用に欠かせない要素へと変化しました。実際、調査によると、約88%の組織が、すでにビジネスの少なくとも1つの領域でAIを利用しています。

しかし、その導入を実際の価値へとつなげられるかどうかは、本番システムでも個人プロジェクトでも、デプロイ後にモデルがどれだけ適切に実行されるかに左右されることがよくあります。多くの実環境では、コンピュータービジョンモデルであるUltralytics YOLO26は、ハイエンドGPUではなく、エッジデバイスやCPU、統合GPU、NPUなどさまざまなハードウェアにデプロイされます。

ここでパフォーマンスに差が生じ始め、最適化が重要になります。基盤となるハードウェア向けに適切に最適化されていなければ、ある環境で正常に動作するモデルが、別の環境では性能を発揮できない場合があります。

このプロセスを効率化するため、Ultralytics Pythonパッケージでは、YOLO26モデルをOpenVINOなどの最適化された形式へエクスポートできます。これにより、ワークフローを変更せずにIntelハードウェア上でスムーズに実行できます。

例えば、Ultralytics YOLO26モデルをOpenVINO形式へエクスポートすると、Intel Core Ultra Series 3プロセッサー上でより効率的に実行でき、GPU推論速度が最大3倍向上します。

この記事では、更新されたUltralyticsとOpenVINOの統合によって、Intel Core Ultra Series 3ハードウェア全体にYOLO26モデルをより簡単にデプロイできる仕組みを紹介します。それでは始めましょう。

UltralyticsとOpenVINOの統合の概要#

Ultralytics Pythonパッケージは、YOLO26などのUltralytics YOLOモデルのトレーニング、推論の実行、デプロイに対応する単一のインターフェースを提供します。トレーニングや実験からデプロイや最適化まで、ビジョンAIワークフローのさまざまな工程に役立つ統合機能をサポートしています。

デプロイに重点を置いた統合の1つがOpenVINOツールキットとの連携です。これにより、Ultralytics YOLO26モデルをIntelハードウェア向けの最適化された形式へエクスポートできます。このプロセスでは、YOLOモデルをIntelのCPU、GPU、NPU上でより効率的に実行できる形式へ変換します。Intel® Core™ Ultra™シリーズプロセッサーを搭載したシステムも対象です。

これにより、各環境向けにモデルを手動で調整することなく、さまざまなIntelデバイス上でモデルをよりスムーズに実行できます。ローカルマシン、エッジデバイス、大規模なデプロイ環境のいずれでも、同じエクスポート済みモデルを再利用できます。

この統合が特に実用的なのは、既存のUltralyticsワークフローにシームレスに組み込める点です。トレーニングや推論で使用するものと同じインターフェースでモデルをエクスポートでき、追加のツールや複雑なセットアップは必要ありません。

エクスポート後のモデルは、必要な制御性と柔軟性のレベルに応じて、Ultralytics PythonパッケージまたはOpenVINO Runtimeを通じて推論に使用できます。

AI推論向けのOpenVINOとIntel Panther Lakeハードウェアの詳細#

エクスポートしたUltralytics YOLO26モデルがIntelハードウェア上でどれほど効率的に動作するかを見る前に、OpenVINOとIntelハードウェアが連携して効率的な推論を実現する仕組みを確認しましょう。

OpenVINOは、CPU、統合GPU、NPUなどのIntelハードウェア全体でAI推論を最適化・実行するために設計されたオープンソースのツールキットです。統合ランタイムを提供するため、モデルを書き直すことなく、これらの異なるコンピュートユニット上で同じモデルを実行できます。

図1. OpenVINOにより、複数のハードウェアターゲットへのモデルのデプロイが容易になります。（出典）

新しいIntel® Core™ Ultra™ Series 3プロセッサー（コードネーム：Panther Lake）では、AIワークロードが同じプロセッサー内の複数のコンピュートユニットに分散して実行されます。各チップには、汎用タスク向けのCPUコア、並列処理向けの統合GPU、AI推論専用に設計されたNPUが組み込まれています。

OpenVINOは、コードを変更せずにCPU、GPU、NPUのいずれのコンピュートユニットも対象にできる統合APIを提供します。実行時に推論を実行するデバイスを指定するだけで、パフォーマンスと効率性の要件に応じて3つのデバイスを簡単に切り替えられます。

Intel® Core™ Ultra™シリーズでのUltralytics YOLO26のベンチマーク#

UltralyticsとOpenVINOの統合を検討する中で、YOLO26をOpenVINO形式へエクスポートすると、モデルのパフォーマンスがどの程度向上するのか気になるかもしれません。

YOLO26モデルを異なる形式と精度レベルでベンチマークすると、推論速度の違いが明確になります。例えば、Panther LakeプロセッサーであるIntel Core Ultra X7 358H上でYOLO26のnanoバリアント（YOLO26n）を実行した場合、推論時間はPyTorchのFP32精度で画像1枚あたり25.18 msだったものが、統合NPU上で同じ精度のOpenVINOを使用すると2.64 msに短縮されます。

これは元のPyTorch FP32ベースラインより高速であり、レイテンシーが重要なリアルタイムアプリケーションやエッジアプリケーションで大きな違いを生みます。同じモデルを統合Intel Arc GPU上で実行すると、この向上はさらに明確になります。

図2. OpenVINOを使用したIntel Panther Lake GPU上でのUltralytics YOLO26推論のベンチマーク（出典）

図3. OpenVINOを使用したIntel Panther Lake NPU上でのUltralytics YOLO26推論のベンチマーク（出典）

Ultralytics YOLO26をOpenVINO形式へエクスポートする2つの方法#

YOLO26モデルをOpenVINO形式へエクスポートする主な方法は2つあります。Ultralytics Pythonパッケージを使用する方法と、コンピュータービジョンワークフローの構築・管理を1か所で行えるエンドツーエンドのワークスペースであるUltralytics Platformから直接エクスポートする方法です。次に、両方の方法を説明します。

Ultralytics Pythonパッケージを使用したYOLO26のエクスポート#

Ultralytics Pythonパッケージは、コードベースのワークフロー内でYOLO26モデルをOpenVINO形式へ簡単にエクスポートする方法を提供します。トレーニングや推論と同じインターフェースを使用するため、追加のツールを必要とせず、既存のパイプラインに自然な形でモデルのエクスポートを組み込めます。

開始するには、Ultralyticsパッケージをインストールします。ターミナルまたはコマンドプロンプトで「pip install ultralytics」コマンドを実行してください。Jupyter NotebookやGoogle Colabなどのインタラクティブ環境では、同じコマンドの先頭に感嘆符を付けて実行できます。

インストール後、トレーニング済みのYOLO26モデルを読み込み、OpenVINO形式へ直接エクスポートできます。以下に示すように、事前トレーニング済みのYOLO26nモデル（yolo26n.pt）を読み込み、exportメソッドを使用してOpenVINO形式へ変換します。

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="openvino")

コードを実行すると、変換されたモデルが新しいディレクトリに保存され、デプロイに使用できるようになります。

Ultralytics PlatformでのYOLO26のエクスポート#

より簡単なノーコードの方法をお探しの場合は、YOLO26モデルをエクスポートする操作をUltralytics Platformから直接行えます。このプラットフォームは、コンピュータービジョンのワークフロー全体を単一のワークスペースに統合し、追加のセットアップなしでトレーニングからデプロイへ簡単に移行できるようにします。

モデルの準備ができたら、プラットフォーム上でモデルを開き、Exportタブに移動します。そこからエクスポート形式としてOpenVINOを選択し、画像サイズや精度などの設定を必要に応じて調整できます。

図4. Ultralytics PlatformでのYOLO26のエクスポート画面

プラットフォームが変換を自動的に処理するため、スクリプト、依存関係、環境設定を管理する必要はありません。エクスポートが完了すると、最適化されたモデルをダウンロードし、IntelのCPU、GPU、NPU全体へのデプロイに使用できます。

UltralyticsとOpenVINOの統合で可能になるデプロイオプション#

YOLO26モデルをOpenVINO形式へエクスポートした後は、ワークフローと必要な制御レベルに応じて、いくつかの方法で推論を実行できます。よりシンプルで統合された方法にはUltralytics Pythonパッケージを使用し、柔軟性と制御性を高めるにはネイティブのOpenVINOランタイムを使用できます。

Ultralytics Pythonパッケージでの推論実行#

モデルをOpenVINO形式へエクスポートした後は、Ultralytics Pythonパッケージを使用して推論を実行できます。この方法は、トレーニングやエクスポートと同じインターフェースを使用するため、迅速なテストや効率的なデプロイに適しています。

この方法では、ディレクトリからエクスポート済みのOpenVINOモデルを読み込み、画像や動画などの入力に対して推論を実行できます。また、システムで利用可能なハードウェアに応じて、「intel:cpu」、「intel:gpu」、「intel:npu」などのオプションを指定し、実行デバイスを選択できます。

以下のコードスニペットは、エクスポート済みモデルを読み込み、GPUを対象として画像の推論を実行する方法を示しています。推論が完了すると、出力画像は「runs/detect/predict」ディレクトリに保存されます。

ov_model = YOLO("yolo26n_openvino_model/")

results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

ネイティブOpenVINOパッケージを活用した推論#

本番環境でのモデルの実行方法をより細かく制御する必要がある場合は、推論にネイティブのOpenVINOランタイムを使用できます。この方法は、モデルを大規模なアプリケーションに統合する場合や、特定のハードウェア上での推論実行方法を細かく調整したい場合に役立ちます。

OpenVINOは、非同期実行や利用可能なコンピュートリソースの効率的な使用などの機能とともに、IntelのCPU、GPU、NPU全体でモデルを実行する統合方式を提供します。セットアップでは、エクスポート済みモデルファイルを直接操作できます。これには、モデル構造を定義する.xmlファイルと、トレーニング済みの重みを含む.binファイルが含まれます。

ユースケースに応じて、入力サイズや前処理ステップなどの設定も調整できます。推論のセットアップでは、OpenVINOランタイムを初期化し、対象デバイス向けにモデルを読み込んでコンパイルし、入力データを準備してから推論を実行します。

図5. OpenVINOを使用した一般的な推論パイプラインの例（出典）

これにより、モデルの実行方法と全体のデプロイへの組み込み方を制御できます。OpenVINOランタイムを使用した推論のセットアップと実行方法については、公式のUltralyticsドキュメントをご覧ください。

Intelハードウェア上でのUltralytics YOLO26の実環境でのアプリケーション#

UltralyticsとOpenVINOの統合による実際の価値は、信頼性の高い低レイテンシー推論が具体的な違いを生み出す本番環境で発揮されます。この統合が大きな成果をもたらす主な業界を紹介します。

• 製造業：Ultralytics YOLO26をOpenVINOへエクスポートすることで、生産ラインシステムはIntelハードウェア上で、部品の欠落、位置ずれ、表面損傷などの外観上の欠陥を自動検出できます。これにより、製品品質の向上と高コストなエラーの削減につながります。

• ヘルスケア：医用画像処理や患者モニタリングシステムは、エクスポート済みのUltralytics YOLO26モデルをIntelハードウェア上でローカル実行できます。厳格なデータプライバシー要件に対応しながら、信頼性の高い推論パフォーマンスを維持できます。

• スマートシティ：交通モニタリングや群衆分析を、Intel搭載エッジカメラ上でエクスポート済みのUltralytics YOLO26モデルを使用してデプロイできます。車両カウント、歩行者追跡、インシデント検出などのリアルタイムのインサイトが可能になります。

• 自動車：ドライバーモニタリングや車内センシングでは、低レイテンシーと電力効率が重要です。そのため、エクスポート済みのUltralytics YOLO26モデルと組み合わせたIntelハードウェアは、組み込み型自動車システムに適しています。

この統合について詳しく知りたい方は、Intel OpenVINO DevConワークショップシリーズの「アノテーションからデプロイまで：Geti、Ultralytics YOLO26、OpenVINO™で物体検出パイプラインを構築する」にご参加ください。ここでは、当社のパートナーシップおよびエコシステムマネージャーであるFrancesco Mattioliが、IntelのAIソフトウェアエバンジェリストであるAdrian Boguszewskiとともに、実環境の産業シナリオ向けに本番利用可能なコンピュータービジョンパイプラインを構築する方法をライブデモとウォークスルーで紹介します。ワークショップでは、データセットの作成とモデルのトレーニングから最適化、エッジデプロイまで、完全なエンドツーエンドの物体検出ワークフローを取り上げます。

OpenVINOエクスポート形式を使用するメリット#

OpenVINOエクスポート形式を使用する主なメリットは次のとおりです。

• アクセスしやすく、統合が容易：統合APIと80を超えるチュートリアルノートブックにより、OpenVINOは大きな複雑さを持ち込むことなく、実験からデプロイへの移行を容易にします。

• 異なるハードウェアで同じモデルを実行：OpenVINOでは、サポート対象のIntelハードウェア全体で単一のエクスポート済みモデルを使用できます。デバイスごとにモデルを書き直したり適応させたりすることなく、CPU、GPU、NPUにデプロイできます。

• エクスポート時の最適化機能：OpenVINOへエクスポートすると、PyTorchやTensorFlowなどの一般的なフレームワークのモデルが推論に適した最適化形式へ変換されるため、別途変換する手順が不要になります。

• ハードウェアリソースの有効活用：OpenVINOはIntelハードウェア全体での非同期推論と負荷分散をサポートし、実環境のアプリケーションにおける効率の向上に役立ちます。

ExecuTorchとOpenVINOバックエンドでUltralytics YOLO26を実行する#

より負荷の高い本番環境でUltralytics YOLO26をデプロイする場合は、デバイス上の効率性と高度なモデル圧縮を組み合わせた別の選択肢もあります。

PyTorchのデバイス上推論フレームワークであるExecuTorchは、OpenVINOバックエンドをサポートしています。これにより、異なるエクスポートおよびランタイム経路を通じて、Intelハードウェア上にUltralytics YOLO26をデプロイできます。

ExecuTorchがモデルのエクスポートとランタイム実行を処理し、OpenVINOが基盤となるハードウェアアクセラレーション層として機能して、IntelのCPU、GPU、NPU全体で実際の計算を処理します。両者が連携することで、ExecuTorchの移植性とデバイス上の効率性に、OpenVINOが提供するハードウェア固有の最適化を組み合わせられます。

この仕組みと、ExecuTorchおよびOpenVINOバックエンドでUltralytics YOLO26を使い始める方法については、最新のExecuTorchとOpenVINOの更新情報を紹介しているIntelのブログをご覧ください。

主なポイント#

UltralyticsとOpenVINOの統合を通じてYOLO26モデルをエクスポートすると、ワークフローに複雑さを加えることなく、Intelハードウェア全体でパフォーマンスを向上できます。パイプラインを作り直さずに、トレーニングからデプロイへ移行できます。全体として、実環境のアプリケーションでIntelのCPU、GPU、NPU全体にモデルを効率的に実行するための、シンプルな方法を提供します。

コミュニティに参加し、GitHubリポジトリを確認してVision AIについて詳しく学びましょう。ライセンスオプションを確認して、コンピュータービジョンプロジェクトを始めましょう。製造業におけるAIや自動車業界におけるコンピュータービジョンなどのイノベーションに関心がありますか。ソリューションページで詳細をご覧ください。