DeciでUltralytics YOLOv5をコンパイル・量子化してパフォーマンスを向上
DeciのプラットフォームでUltralytics YOLOv5モデルを最適化・デプロイし、パフォーマンスを最大10倍向上させます。無料で始めて、自動モデル最適化を活用できます。
Ultralyticsでは、YOLOv5のような優れたオープンソースツールを誰でも無料で利用できる状態に保つため、研究開発費の支援を目的として、他のスタートアップ企業と商業的に提携しています。この記事には、提携先へのアフィリエイトリンクが含まれている場合があります。
Deciプラットフォームには、あらゆる本番環境でYOLOv5モデルを簡単に管理、最適化、デプロイするための無料ツールが含まれています。Deciは、TensorFlow、PyTorch、Keras、ONNXなど、一般的なすべてのDLフレームワークをサポートしています。必要なのは、Webベースのプラットフォームまたはコードから実行するためのPythonクライアントだけです。
Deciを使用する理由#
Deciは、モデルのエクスポートだけでなく、プルーニングや量子化にも使用できます。
Deciは、あらゆる形式へのエクスポートや、元のモデルと変換後のモデルのパフォーマンス比較を行うための使いやすいインターフェースを提供します。ユーザーは、量子化によってモデルをさらに最適化できます。
Deciでできること#
推論パフォーマンスを最大10倍向上#
モデルを自動的にコンパイルおよび量子化し、さまざまな本番設定を評価することで、ハードウェア上でのレイテンシ、スループット、モデルサイズ、メモリフットプリントを改善できます。
アプリケーションに最適な推論ハードウェアを見つける#
ボタンをクリックするだけで、さまざまなハードウェア（エッジデバイスを含む）上でモデルのパフォーマンスをベンチマークできます。複数のハードウェアや本番設定を手動でセットアップしてテストする必要がなくなります。
数行のコードでデプロイ#
DeciのPythonベースの推論エンジンを活用できます。複数のフレームワークとハードウェアタイプに対応しています。
Deciプラットフォームの詳細については、DeciのWebサイトをご覧ください。
初回セットアップ#
ステップ1#
無料アカウントを開設します。
ステップ2#
事前学習済みのYOLOv5モデルの最適化を開始するには、モデルをONNX形式に変換する必要があります。モデルをONNX形式に変換する方法については、YOLOv5エクスポートチュートリアルをご覧ください。
ステップ3#
「Lab」タブに移動し、画面右上の「New Model」ボタンをクリックして、YOLOv5 ONNXモデルをアップロードします。
モデルのアップロードウィザードの手順に従い、モデルのコンパイルに使用する対象ハードウェア、希望するバッチサイズ、量子化レベルを選択します。
関連情報を入力したら、「Start」をクリックします。Deciプラットフォームは、選択したハードウェア向けにUltralytics YOLOv5モデルのランタイム最適化を自動的に実行し、さまざまなハードウェアタイプでモデルのベンチマークも行います。このプロセスには約10分かかります。
完了すると、以前にアップロードしたベースラインモデルの下に、新しい行が画面に表示されます。ここで、事前学習済みのUltralytics YOLOv5モデルの最適化バージョンを確認できます。
次のステップ#
その後、「Deploy」ボタンをクリックして、最適化されたモデルをダウンロードできます。
その後、モデルのダウンロードと、Infery（Deciのランタイム推論エンジン）のインストールおよび使用方法に関する手順が表示されます。
Inferyの使用は任意です。Pythonのrawファイルを取得し、任意の推論エンジンで使用することもできます。
「Insights」タブで最適化結果とベンチマーク結果を確認できます。
始める準備はできましたか？#
最後に、Deciが提供するいくつかのメリットについて説明します。
- 精度を損なうことなく、モデルの推論スループットとレイテンシを最適化できます
- 一般的なすべてのフレームワークのモデルを最適化できます
- あらゆる深層学習タスクを対象とするモデルをサポートします
- 一般的なCPUおよびGPUマシンへのデプロイをサポートします
- さまざまなハードウェアホストおよびクラウドプロバイダー上で、モデルの適合性をベンチマークします
- アップロードしたモデルをサービング、推論、デプロイに対応できる状態にします
ご覧いただいたように、Ultralytics YOLOv5モデルのパフォーマンスを、合計15分で2倍にできます。Deciプラットフォームは非常に使いやすく、直感的に操作できます。
ご質問はありますか？コミュニティに参加して、ぜひ今日質問を投稿してください。
