Yolo 深圳
深セン
今すぐ参加

Ultralytics YOLOv5 コンパイル&クオンタイズしてDeliのパフォーマンスを改善

Ultralytics

4分で読めます

2022年10月26日

DeliのプラットフォームでUltralytics YOLOv5 モデルを最適化して展開し、パフォーマンスを最大10倍向上させます。無料で始めて、モデルの自動最適化を活用しましょう。

Ultralytics 、YOLOv5ような素晴らしいオープンソースツールの研究開発に資金を提供するために、他のスタートアップ企業と商業的に提携しています。この記事には、それらのパートナーへのアフィリエイトリンクが含まれている場合があります。

Deliプラットフォームには、簡単に管理、最適化、展開するための無料のツールが含まれています。 YOLOv5モデルの管理、最適化、デプロイを簡単に行うための無償ツールが含まれています。Deliは、TensorFlow、PyTorch、Keras、ONNX一般的なDLフレームワークをサポートしています。あなたのコードから実行するために必要なのは、ウェブベースのプラットフォームかPython クライアントだけです。

Deciを選ぶ理由

Deciを使用すると、エクスポートだけでなく、モデルの枝刈りや量子化も可能です。

Deciは、あらゆる形式でのエクスポートや、オリジナルモデルと変換されたモデル間の性能比較を行うための優れたインターフェースを提供します。ユーザーは量子化によってモデルをさらに最適化することを選択できます。

Deciでできること:

推論パフォーマンスを最大10倍向上

モデルを自動的にコンパイルおよび量子化し、さまざまな本番環境設定を評価して、レイテンシ、スループットを向上させ、ハードウェア上のモデルサイズとメモリフットプリントを削減します。

アプリケーションに最適な推論ハードウェアを見つける‍

ボタン1つで、さまざまなハードウェア(エッジを含む)デバイスでのモデルのパフォーマンスをベンチマークします。複数のハードウェアおよび本番環境設定を手動でセットアップしてテストする必要がなくなります。

数行のコードでデプロイ

Deliのpython推論エンジンを活用。複数のフレームワークとハードウェアタイプに対応。

Deci Platformの詳細については、Deciのウェブサイトをご覧ください。

初回設定

ステップ1

無料アカウントを開設してください。

DeciとUltralytics YOLOv5始めよう

ステップ2

学習済みYOLOv5 モデルの最適化を開始するには、ONNX 形式に変換する必要があります。モデルをONNX 形式に変換する方法については、YOLOv5 エクスポートチュートリアルを参照してください。

ステップ3

Lab "タブに移動し、画面右上の "New Model "ボタンをクリックしてアップロードします。 YOLOv5ONNX モデルをアップロードします。

Ultralytics YOLOv5 モデルをONNX 変換し、将来Deliで展開できるようにする。

モデルアップロードウィザードの手順に従って、ターゲットハードウェアと、モデルコンパイルに必要なバッチサイズおよび量子化レベルを選択してください。

Ultralytics YOLOv5 モデルをDeliで展開するためのコンパイル

関連情報を入力後、"Start "をクリックしてください。Deliプラットフォームは、選択したハードウェアに対してYOLOv5 モデルのランタイム最適化を自動的に実行し、様々なハードウェアタイプでモデルのベンチマークを行います。このプロセスには約10分かかります。

完了すると、以前にアップロードしたベースラインモデルの下に新しい行が表示されます。ここで、事前にトレーニングされたYOLOv5 モデルの最適化されたバージョンを見ることができます。

Ultralytics YOLOv5 最適化モデル Deciとの展開のために

今後の展望は?

次に、「Deploy」ボタンをクリックして、最適化されたモデルをダウンロードできます。

Ultralytics YOLOv5 モデル、Deliでの展開準備完了

モデルをダウンロードするように促され、Deciのランタイム推論エンジンであるInferyのインストール方法と使用方法に関する指示が表示されます。

Inferyの使用は任意である。python rawファイルを取得し、他の推論エンジンで使用することができます。

Deci Inferyを使用してUltralytics YOLOv5展開する

「Insights」タブで、最適化とベンチマークの結果をご覧ください。

Ultralytics YOLOv5 モデルのデシによる最適化

さあ、始めましょうか?

締めくくりとして、Deciが提供する利点をいくつかご紹介します。

  • 精度を損なうことなく、モデルの推論スループットとレイテンシを最適化します
  • すべての主要なフレームワークのモデルを最適化できます
  • あらゆる深層学習タスクを対象としたモデルをサポート
  • 一般的なCPU およびGPU マシンでの展開をサポート
  • 異なるハードウェアホストおよびクラウドプロバイダー上でのモデルの適合性を評価します。
  • アップロードされたモデルを、提供、推論、およびデプロイの準備をします

今見ていただいたように、YOLOv5 モデルのパフォーマンスを15分で2倍にすることができます。Deliプラットフォームは、超簡単で直感的に使えます。

ご質問はありますか?コミュニティに参加して、今すぐ質問を投稿してください!

AIの未来を
共に築きましょう!

未来の機械学習で、新たな一歩を踏み出しましょう。

無料ではじめる