Intel OpenVINOでの推論に向けたUltralytics YOLOv8のエクスポートと最適化
OpenVINOを使用してUltralytics YOLOv8モデルを推論向けに最適化します。ガイドに従ってPyTorchモデルをONNXに変換し、リアルタイムアプリケーション向けに最適化してください。
このブログ記事では、事前学習済みまたはカスタム学習済みのUltralytics YOLOv8モデルをOpenVINOを使用した推論向けにエクスポートして最適化する方法をご紹介します。IntelベースのシステムでCPUまたはGPUを使用している場合、このガイドを利用すれば、最小限の手間でモデルを大幅に高速化できます。
OpenVINOでUltralytics YOLOv8を最適化する理由#
OpenVINOでUltralytics YOLOv8モデルを最適化すると、推論タスクを最大3倍高速化できます。特にIntel CPUを実行している場合に効果的です。この性能向上は、物体検出からセグメンテーション、セキュリティシステムまで、リアルタイムアプリケーションに大きな違いをもたらします。
Ultralytics YOLOv8モデルをエクスポートして最適化する手順#
プロセスの理解#
まず、プロセスを分解して説明します。PyTorchモデルをONNXに変換し、その後OpenVINOを使用して最適化します。このプロセスには、いくつかの簡単な手順が含まれており、TensorFlow、PyTorch、Caffe、ONNXなど、さまざまなモデルや形式に適用できます。
モデルのエクスポート#
Ultralyticsのドキュメントを確認すると、YOLOv8モデルのエクスポートには、Ultralyticsフレームワークのexportメソッドを使用することがわかります。このメソッドを使用すると、モデルをPyTorchからONNXに変換し、最終的にOpenVINO向けに最適化できます。その結果、Intelの高性能なハードウェアを活用して、モデルを大幅に高速に実行できるようになります。
依存関係のインストール#
エクスポートスクリプトを実行する前に、必要な依存関係がすべてインストールされていることを確認する必要があります。これには、Ultralyticsライブラリ、ONNX、OpenVINOが含まれます。これらのパッケージは、Pythonパッケージインストーラーであるpipを使用して簡単にインストールできます。
エクスポートスクリプトの実行#
環境のセットアップが完了したら、エクスポートスクリプトを実行できます。このスクリプトは、PyTorchモデルをONNXに変換し、その後OpenVINOに変換します。このプロセスは簡単で、単一の関数を呼び出してエクスポートを処理します。Ultralyticsフレームワークを使用すると、モデルの変換と最適化を簡単に行えるため、最小限の手間で最高のパフォーマンスを得られます。
図1. エクスポートスクリプトの実行方法を説明するNicolai Nielsen。
パフォーマンスの比較#
エクスポート後は、元のモデルと最適化されたモデルのパフォーマンスを比較することが重要です。両方のモデルの推論時間をベンチマークすることで、性能向上を明確に確認できます。通常、OpenVINOモデルは、元のPyTorchモデルと比較して推論時間が大幅に短縮されます。これは、性能向上が最も顕著になる大規模モデルで特に当てはまります。
実際のアプリケーションとメリット#
OpenVINOによるUltralytics YOLOv8モデルの最適化は、リアルタイム処理を必要とするアプリケーションに特に有効です。以下にいくつかの例を示します。
- セキュリティシステム：リアルタイムの物体検出により、セキュリティ担当者に即座に警告を通知でき、安全性と対応力を高められます。
- 自動運転車：推論速度が向上すると、自動運転システムの応答性が改善し、安全性と信頼性が高まります。
- ヘルスケア：診断ツールで画像を迅速に処理することで、より早く結果を提供して適時の介入を可能にし、命を救える可能性があります。
これらの最適化を実装することで、パフォーマンスを向上させるだけでなく、アプリケーションの信頼性と効率性も高められます。その結果、ユーザーエクスペリエンスの向上、生産性の向上、より革新的なソリューションにつながります。
まとめ#
Ultralytics YOLOv8モデルをOpenVINO向けにエクスポートして最適化することは、Intelハードウェアを活用して、より高速で効率的なAIアプリケーションを実現する強力な方法です。いくつかの簡単な手順だけで、モデルのパフォーマンスを大きく向上させ、実際のシナリオに効果的に適用できます。
AIプロジェクトの改善を続けるために、Ultralyticsのチュートリアルやガイドもぜひご覧ください。GitHubリポジトリにアクセスし、Ultralyticsコミュニティに参加して、さらなる知見や最新情報を入手してください。一緒にイノベーションを起こしましょう。
モデルの最適化は、単に速度を高めることだけではありません。新たな可能性を引き出し、AIソリューションの堅牢性、効率性、将来への対応力を確保することでもあります。
