DeciでUltralytics YOLOv5をコンパイルおよび量子化してパフォーマンスを向上させる
Deciのプラットフォームを使用してUltralytics YOLOv5モデルを最適化・デプロイし、パフォーマンスを最大10倍向上させます。無料で開始し、自動モデル最適化を活用しましょう。

Ultralyticsでは、YOLOv5のような優れたオープンソースツールの研究開発資金を確保し、誰でも無料で利用できるようにするため、他のスタートアップ企業と商業的なパートナーシップを結んでいます。この記事には、それらのパートナーへのアフィリエイトリンクが含まれている場合があります。
The Deci platformには、あらゆる本番環境でYOLOv5モデルを簡単に管理、最適化、デプロイするための無料ツールが含まれています。Deciは、TensorFlow、PyTorch、Keras、ONNXなど、主要なDLフレームワークをすべてサポートしています。WebベースのプラットフォームまたはPythonクライアントを使用するだけで、コードから実行可能です。
Link to this sectionなぜDeciなのか?#
Deciはモデルのエクスポートだけでなく、プルーニングや量子化にも使用できます!
Deciは、あらゆる形式へのエクスポートや、変換前後でのモデルのパフォーマンス比較を行うための優れたインターフェースを提供します。ユーザーは量子化によってモデルをさらに最適化することを選択できます。
Link to this sectionDeciでできること:#
Link to this section推論パフォーマンスを最大10倍向上#
モデルを自動的にコンパイルおよび量子化し、さまざまな本番環境の設定を評価することで、レイテンシとスループットを改善し、ハードウェア上のモデルサイズとメモリフットプリントを削減します。
Link to this sectionアプリケーションに最適な推論ハードウェアを見つける#
ボタン1つで、さまざまなハードウェア(エッジデバイスを含む)上でモデルのパフォーマンスをベンチマークします。複数のハードウェアや本番環境の設定を手動でセットアップしてテストする必要はありません。
Link to this section数行のコードでデプロイ#
DeciのPythonベースの推論エンジンを活用します。複数のフレームワークやハードウェアタイプと互換性があります。
Deciプラットフォームの詳細については、Deciのwebsiteをご覧ください。
Link to this section初回セットアップ#
Link to this sectionステップ1#
無料アカウントを開設します。

Link to this sectionステップ2#
学習済みYOLOv5モデルの最適化を開始するには、ONNX形式に変換する必要があります。モデルをONNX形式に変換する方法については、YOLOv5 Export Tutorialを参照してください。
Link to this sectionステップ3#
「Lab」タブに移動し、画面右上の「New Model」ボタンをクリックして、YOLOv5 ONNXモデルをアップロードします。

モデルアップロードウィザードのステップに従い、モデルコンパイルのターゲットハードウェア、希望するバッチサイズ、および量子化レベルを選択します。

関連情報を入力後、「Start」をクリックします。Deciプラットフォームは、選択したハードウェアに合わせてYOLOv5モデルのランタイム最適化を自動的に実行し、さまざまなハードウェアタイプでのベンチマークを行います。このプロセスには約10分かかります。
完了すると、以前にアップロードしたベースラインモデルの下に新しい行が表示されます。ここで、学習済みYOLOv5モデルの最適化バージョンを確認できます。

Link to this section次はどうする?#
「Deploy」ボタンをクリックすると、最適化されたモデルをダウンロードできます。

モデルのダウンロードを促され、Deciのランタイム推論エンジンであるInferyのインストールおよび使用方法に関する説明が表示されます。
Inferyの使用は任意です。Pythonの生ファイルを取得し、他の任意の推論エンジンで使用することもできます。

「Insights」タブで、最適化およびベンチマークの結果を確認してください。

Link to this section始める準備はできましたか?#
最後に、Deciが提供する利点をいくつか説明します:
- 精度を損なうことなく、モデルの推論スループットとレイテンシを最適化します
- 主要なすべてのフレームワークからモデルを最適化できます
- あらゆるディープラーニングタスクをターゲットにしたモデルをサポートします
- 主要なCPUおよびGPUマシンへのデプロイをサポートします
- さまざまなハードウェアホストやクラウドプロバイダー上でのモデルの適合性をベンチマークします
- アップロードされたモデルをサービング、推論、デプロイ用に準備します
ご覧の通り、YOLOv5モデルのパフォーマンスを全体で15分以内に2倍にすることができます。Deciプラットフォームは非常に使いやすく直感的です。
質問はありますか?私たちのcommunityに参加して、今すぐ質問してください!






