Intel OpenVINOでの推論に向けてUltralytics YOLOv8をエクスポート、最適化する

このブログ記事では、事前トレーニング済みまたはカスタムトレーニング済みのUltralytics YOLOv8モデルをエクスポートして最適化し、OpenVINOを使って推論する方法を紹介します。CPUでもGPUでも、Intelベースのシステムを使用している方に向けて、最小限の手間でモデルを大幅に高速化する方法を説明します。

Ultralytics YOLOv8をOpenVINOで最適化する理由#

Ultralytics YOLOv8モデルをOpenVINOで最適化すると、推論タスクを最大3倍高速化できます。特にIntel CPUを使用している場合に効果的です。この性能向上は、物体検出からセグメンテーション、セキュリティシステムまで、リアルタイムアプリケーションに大きな違いをもたらします。

Ultralytics YOLOv8モデルをエクスポートして最適化する手順#

プロセスを理解する#

まず、プロセスを説明します。PyTorchモデルをOpenVINO形式に変換して最適化します。動画の作成時点では、この変換に中間形式としてONNXを使用していましたが、現在のUltralyticsバージョンではPyTorchから直接変換できます。このプロセスには簡単な手順がいくつかあり、TensorFlow、PyTorch、ONNXなど、さまざまなモデルや形式に適用できます。

モデルのエクスポート#

Ultralyticsのドキュメントを見てみると、YOLOv8モデルのエクスポートには、Ultralyticsフレームワークのエクスポートメソッドを使用することがわかります。このメソッドは、モデルをPyTorchから変換し、OpenVINO向けに最適化します。その結果、Intelハードウェア上で大幅に高速に動作するモデルが得られます。

依存関係のインストール#

エクスポートスクリプトを実行する前に、必要な依存関係がすべてインストールされていることを確認してください。これには、UltralyticsライブラリとOpenVINOが含まれます。これらのパッケージは、Pythonのパッケージインストーラーであるpipを使って簡単にインストールできます。

エクスポートスクリプトの実行#

環境を設定したら、エクスポートスクリプトを実行できます。このスクリプトは、PyTorchモデルをOpenVINOに変換します。処理は簡単で、エクスポートを実行する関数を1つ呼び出すだけです。Ultralyticsフレームワークを使えば、モデルを簡単に変換して最適化できるため、手間を最小限に抑えながら最高のパフォーマンスを実現できます。

図1：Nicolai Nielsenがエクスポートスクリプトの実行方法を説明しています。

性能の比較#

エクスポート後は、元のモデルと最適化したモデルの性能を比較することが重要です。両モデルの推論時間をベンチマークすると、性能向上を明確に確認できます。通常、OpenVINOモデルは元のPyTorchモデルと比べて推論時間が大幅に短縮されます。特に、大規模なモデルでは性能向上が顕著です。

実用例とメリット#

Ultralytics YOLOv8モデルをOpenVINOで最適化すると、リアルタイム処理が必要なアプリケーションで特に効果があります。例をいくつか紹介します。

• セキュリティシステム：リアルタイム物体検出により、セキュリティ担当者に即座に警告を通知し、安全性と対応力を高められます。
• 自動運転車：推論速度の向上により、自動運転システムの応答性が高まり、安全性と信頼性を向上できます。
• 医療：診断ツールで画像を迅速に処理することで、結果をより早く提供し、適切なタイミングでの処置を可能にして命を救えます。

こうした最適化を実施すると、性能が向上するだけでなく、アプリケーションの信頼性と効率性も高まります。その結果、ユーザー体験の向上、生産性の増加、より革新的なソリューションの実現につながります。

まとめ#

Ultralytics YOLOv8モデルをエクスポートしてOpenVINO向けに最適化することは、Intelハードウェアを活用し、より高速で効率的なAIアプリケーションを実現する効果的な方法です。簡単な手順をいくつか実行するだけで、モデルのパフォーマンスを大幅に向上させ、実環境のシナリオに効果的に適用できます。

AIプロジェクトをさらに強化するため、Ultralytics AcademyのCPUでのOpenVINOレッスンなど、Ultralyticsのチュートリアルやガイドもぜひご覧ください。GitHubリポジトリにアクセスし、Ultralyticsコミュニティに参加すると、さらに多くの知見や最新情報を得られます。

モデルの最適化は、単に速度を上げることだけではありません。新たな可能性を切り開き、AIソリューションの堅牢性と効率性を確保して、将来に備えることも重要です。