Ultralytics YOLO

Intel OpenVINO での推論のために Ultralytics YOLOv8 をエクスポートおよび最適化

OpenVINO を使用して推論用に Ultralytics YOLOv8 モデルを最適化しましょう。PyTorch モデルを ONNX に変換し、リアルタイムアプリケーション向けに最適化するためのガイドに従ってください。

NUNuvola Ladi

2 min readMay 24, 2024

Intel OpenVINO での推論のために Ultralytics YOLOv8 をエクスポートおよび最適化

本ブログ記事では、事前学習済みまたは独自に学習させたUltralytics YOLOv8モデルを、OpenVINOを使用した推論用にエクスポートおよび最適化する方法を解説します。CPUやGPUを問わずIntelベースのシステムを使用している場合、本ガイドを参考にすることで、最小限の作業でモデルの推論速度を大幅に向上させることができます。

Link to this sectionOpenVINOでYOLOv8を最適化する理由#

OpenVINOを使用してYOLOv8モデルを最適化すると、特にIntel CPUで実行する場合、推論タスクの速度が最大3倍向上する可能性があります。このパフォーマンス向上は、物体検出からセグメンテーション、セキュリティシステムに至るまで、リアルタイムアプリケーションにおいて非常に大きな違いをもたらします。

Link to this sectionYOLOv8モデルをエクスポートおよび最適化する手順#

Link to this sectionプロセスの理解#

まずは、プロセスの全体像を把握しましょう。PyTorchモデルをONNXに変換し、それをOpenVINOで最適化します。このプロセスはいくつかの簡単なステップで行われ、TensorFlow、PyTorch、Caffe、ONNXなど、さまざまなモデルやフォーマットに適用可能です。

Link to this sectionモデルのエクスポート#

Ultralyticsのドキュメントによると、YOLOv8モデルのエクスポートにはUltralyticsフレームワークのexportメソッドを使用します。このメソッドを使うと、PyTorchからONNXへモデルを変換し、最終的にOpenVINO向けに最適化することができます。その結果、Intelの強力なハードウェアを最大限に活用し、大幅に高速化されたモデルが得られます。

Link to this section依存ライブラリのインストール#

エクスポートスクリプトを実行する前に、必要な依存関係がすべてインストールされていることを確認する必要があります。これにはUltralyticsライブラリ、ONNX、OpenVINOが含まれます。これらのパッケージのインストールは、Pythonパッケージインストーラーであるpipを使用して簡単に行えます。

Link to this sectionエクスポートスクリプトの実行#

環境が整ったら、エクスポートスクリプトを実行できます。このスクリプトはPyTorchモデルをONNXへ、さらにOpenVINOへと変換します。プロセスはシンプルで、単一の関数を呼び出すだけでエクスポート処理を実行できます。Ultralyticsフレームワークにより、モデルの変換と最適化が容易になり、手間を最小限に抑えながら最高のパフォーマンスを実現できます。

モデルエクスポートスクリプトの実行方法を解説するNicolai Nielsen

図1. Nicolai Nielsenによるエクスポートスクリプト実行方法の解説

Link to this sectionパフォーマンスの比較#

エクスポート後は、元モデルと最適化済みモデルのパフォーマンスを比較することが不可欠です。両方の推論時間をベンチマークすることで、パフォーマンス向上の成果を明確に確認できます。通常、OpenVINOモデルは元のPyTorchモデルと比較して推論時間が大幅に短縮されます。これは、パフォーマンスの向上が最も顕著になる大規模なモデルで特に当てはまります。