DeciでUltralytics YOLOv5をコンパイルおよび量子化してパフォーマンスを向上させる
Deciのプラットフォームを使用してUltralytics YOLOv5モデルを最適化・デプロイし、パフォーマンスを最大10倍向上させます。無料で開始し、自動モデル最適化を活用しましょう。
Ultralyticsでは、YOLOv5のような優れたオープンソースツールの研究開発資金を確保し、誰でも無料で利用できるようにするため、他のスタートアップ企業と商業的なパートナーシップを結んでいます。この記事には、それらのパートナーへのアフィリエイトリンクが含まれている場合があります。
The Deci platformは、あらゆる本番環境でYOLOv5モデルを簡単に管理、最適化、デプロイするための無料ツールを提供しています。Deciは、TensorFlow、PyTorch、Keras、ONNXなど、すべての主要なDLフレームワークをサポートしています。必要なのは、Webベースのプラットフォームか、コードから実行するためのPythonクライアントだけです。
なぜDeciなのか？#
Deciはモデルのエクスポートだけでなく、プルーニングや量子化にも使用できます！
Deciは、あらゆる形式へのエクスポートや、変換前後でのモデルのパフォーマンス比較を行うための優れたインターフェースを提供します。ユーザーは量子化によってモデルをさらに最適化することを選択できます。
Deciでできること：#
推論パフォーマンスを最大10倍向上#
モデルを自動的にコンパイルおよび量子化し、さまざまな本番環境の設定を評価することで、レイテンシとスループットを改善し、ハードウェア上のモデルサイズとメモリフットプリントを削減します。
アプリケーションに最適な推論ハードウェアを見つける#
ボタン1つで、さまざまなハードウェア（エッジデバイスを含む）上でモデルのパフォーマンスをベンチマークします。複数のハードウェアや本番環境の設定を手動でセットアップしてテストする必要はありません。
数行のコードでデプロイ#
DeciのPythonベースの推論エンジンを活用します。複数のフレームワークやハードウェアタイプと互換性があります。
Deciプラットフォームの詳細については、Deciのwebsiteをご覧ください。
初回セットアップ#
ステップ1#
無料アカウントを開設します。
ステップ2#
事前トレーニング済みのYOLOv5モデルの最適化を開始するには、モデルをONNX形式に変換する必要があります。モデルをONNX形式に変換する方法については、YOLOv5 Export Tutorialを参照してください。
ステップ3#
「Lab」タブに移動し、画面右上の「New Model」ボタンをクリックして、YOLOv5のONNXモデルをアップロードします。
モデルアップロードウィザードのステップに従い、モデルコンパイルのターゲットハードウェア、希望するバッチサイズ、および量子化レベルを選択します。
関連情報を入力したら、「Start」をクリックします。Deciプラットフォームは、選択したハードウェアに合わせてUltralytics YOLOv5モデルのランタイム最適化を自動的に実行し、さまざまなハードウェアタイプでモデルのベンチマーク測定を行います。このプロセスには約10分かかります。
完了すると、以前にアップロードしたベースラインモデルの下に、新しい行が画面に表示されます。ここで、事前学習済みのUltralytics YOLOv5モデルの最適化されたバージョンを確認できます。
次はどうする？#
「Deploy」ボタンをクリックすると、最適化されたモデルをダウンロードできます。
モデルのダウンロードを促され、Deciのランタイム推論エンジンであるInferyのインストールおよび使用方法に関する説明が表示されます。
Inferyの使用は任意です。Pythonの生ファイルを取得し、他の任意の推論エンジンで使用することもできます。
「Insights」タブで、最適化およびベンチマークの結果を確認してください。
始める準備はできましたか？#
最後に、Deciが提供する利点をいくつか説明します：
- 精度を損なうことなく、モデルの推論スループットとレイテンシを最適化します
- 主要なすべてのフレームワークからモデルを最適化できます
- あらゆるディープラーニングタスクをターゲットにしたモデルをサポートします
- 主要なCPUおよびGPUマシンへのデプロイをサポートします
- さまざまなハードウェアホストやクラウドプロバイダー上でのモデルの適合性をベンチマークします
- アップロードされたモデルをサービング、推論、デプロイ用に準備します
ご覧いただいたように、全体で15分の時間でUltralytics YOLOv5モデルのパフォーマンスを2倍に向上させることができます。Deciプラットフォームは非常に使いやすく、直感的です。
ご質問はありますか？私たちのcommunityに参加して、今すぐ質問を投稿してください！
