ヨロビジョン深圳
深セン
今すぐ参加

Deciを使用してUltralytics YOLOv5をコンパイルおよび量子化し、パフォーマンスを向上させる

Ultralyticsチーム

4分で読めます

2022年10月26日

DeciのプラットフォームでUltralytics YOLOv5モデルを最適化およびデプロイし、パフォーマンスを最大10倍向上させます。無料で開始して、自動モデル最適化を活用してください。

Ultralyticsでは、YOLOv5のような素晴らしいオープンソースツールをすべての人に無料で提供し続けるために、他のスタートアップ企業と提携して、研究開発の資金を調達しています。この記事には、これらのパートナーへのアフィリエイトリンクが含まれている場合があります。

Deciプラットフォームには、YOLOv5モデルをあらゆる本番環境で簡単に管理、最適化、およびデプロイするための無料ツールが含まれています。Deciは、TensorFlow、PyTorch、Keras、ONNXなどの一般的なDLフレームワークをすべてサポートしています。必要なのは、当社のWebベースのプラットフォームまたはPythonクライアントを使用して、コードから実行することだけです。

Deciを選ぶ理由

Deciを使用すると、エクスポートだけでなく、モデルの枝刈りや量子化も可能です。

Deciは、あらゆる形式でのエクスポートや、オリジナルモデルと変換されたモデル間の性能比較を行うための優れたインターフェースを提供します。ユーザーは量子化によってモデルをさらに最適化することを選択できます。

Deciでできること:

推論パフォーマンスを最大10倍向上

モデルを自動的にコンパイルおよび量子化し、さまざまな本番環境設定を評価して、レイテンシ、スループットを向上させ、ハードウェア上のモデルサイズとメモリフットプリントを削減します。

アプリケーションに最適な推論ハードウェアを見つける‍

ボタン1つで、さまざまなハードウェア(エッジを含む)デバイスでのモデルのパフォーマンスをベンチマークします。複数のハードウェアおよび本番環境設定を手動でセットアップしてテストする必要がなくなります。

数行のコードでデプロイ

Deciのpythonベースの推論エンジンを活用してください。複数のフレームワークおよびハードウェアタイプと互換性があります。

Deci Platformの詳細については、Deciのウェブサイトをご覧ください。

初回設定

ステップ1

無料アカウントを開設してください。

DeciとUltralytics YOLOv5を使い始める

ステップ2

トレーニング済みのYOLOv5モデルの最適化を開始するには、ONNX形式に変換する必要があります。モデルをONNX形式に変換する方法については、YOLOv5エクスポートチュートリアルを参照してください。

ステップ3

「Lab」タブに移動し、画面右上にある「New Model」ボタンをクリックして、YOLOv5 ONNX モデルをアップロードします。

Ultralytics YOLOv5モデルをONNXに変換して、Deciで将来のデプロイメントに備える

モデルアップロードウィザードの手順に従って、ターゲットハードウェアと、モデルコンパイルに必要なバッチサイズおよび量子化レベルを選択してください。

Deci を使用したデプロイメントのための Ultralytics YOLOv5 モデルコンパイル

関連情報を入力したら、「Start」をクリックします。Deciプラットフォームは、選択したハードウェアに対してYOLOv5モデルのランタイム最適化を自動的に実行し、さまざまなハードウェアタイプでモデルをベンチマークします。このプロセスには約10分かかります。

完了すると、以前にアップロードしたベースラインモデルの下に、新しい行が画面に表示されます。ここでは、事前トレーニング済みのYOLOv5モデルの最適化されたバージョンを確認できます。

Deci を使用したデプロイメントのために最適化された Ultralytics YOLOv5 モデル

今後の展望は?

次に、「Deploy」ボタンをクリックして、最適化されたモデルをダウンロードできます。

Deci を使用したデプロイメントに対応した Ultralytics YOLOv5 モデル

モデルをダウンロードするように促され、Deciのランタイム推論エンジンであるInferyのインストール方法と使用方法に関する指示が表示されます。

Inferyの使用はオプションです。Pythonのrawファイルを入手して、お好みの他の推論エンジンで使用できます。

Deci Inferyを使用してUltralytics YOLOv5をデプロイする

「Insights」タブで、最適化とベンチマークの結果をご覧ください。

Ultralytics YOLOv5モデルのDeciによる最適化

さあ、始めましょうか?

締めくくりとして、Deciが提供する利点をいくつかご紹介します。

  • 精度を損なうことなく、モデルの推論スループットとレイテンシを最適化します
  • すべての主要なフレームワークのモデルを最適化できます
  • あらゆる深層学習タスクを対象としたモデルをサポート
  • 一般的なCPUおよびGPUマシンへのデプロイをサポート
  • 異なるハードウェアホストおよびクラウドプロバイダー上でのモデルの適合性を評価します。
  • アップロードされたモデルを、提供、推論、およびデプロイの準備をします

ご覧いただいたように、YOLOv5モデルの性能をわずか15分で2倍にすることができます。Deciプラットフォームは非常に簡単で直感的に使用できます。

ご質問はありますか?コミュニティに参加して、今すぐ質問を投稿してください!

AIの未来を
共に築きましょう!

未来の機械学習で、新たな一歩を踏み出しましょう。

無料ではじめる
クリップボードにコピーしました