Ultralytics Platform: あらゆるリージョンへのコンピュータービジョンモデルのデプロイ

今週初め、UltralyticsはUltralytics Platformを立ち上げました。これは、データ準備やモデル開発からデプロイまで、ビジョンAIワークフローのあらゆる段階を効率化することで、コンピュータビジョン（CV）システムのリリースを迅速化するために設計された新しいエンドツーエンドの環境です。

Ultralytics Platformを開発した主な動機のひとつは、マシンが画像やビデオを解析できるようにするコンピュータビジョンソリューションにおいて、アイデアから実用化までを実現するには、優れたモデルを構築する以上のことが必要だからです。モデルが学習され、検証を通過した後は、アプリケーションが画像を送信し、予測を受け取り、実際の環境で推論を確実に実行できるようにデプロイする必要があります。

機械学習ライフサイクルのこの段階は、コンピュータビジョンモデルが実験の域を超え、実用的なシステムの構築を開始するフェーズです。データセットの準備、アノテーション、モデルの学習、テストといった初期のステップが順調に進んだとしても、モデルをデプロイする信頼性の高い方法がなければ、その結果は実用化につながりません。

多くのコンピュータビジョンプロジェクトにおいて、デプロイはワークフローの中で最も複雑なステップのひとつとなるのが現実です。

チームは多くの場合、推論APIの構成、計算リソースの管理、レイテンシを削減するためのユーザーに近い場所へのモデルのデプロイ、そして本番環境でシステムが稼働した後のパフォーマンス監視を行う必要があります。

Ultralytics Platformは、モデルのエクスポートフォーマット、共有推論サービス、世界中のリージョンにまたがる専用エンドポイントなど、複数のデプロイオプションを提供することで、このプロセスを効率化および自動化します。マネージドインフラストラクチャと組み込みのモニタリング機能により、チームは学習済みモデルから本番環境対応のコンピュータビジョンシステムへ容易に移行できます。

図1. Ultralytics Platformを使用したモデルデプロイの様子 (ソース)

この記事では、Ultralytics Platformの専用エンドポイントを使用して、コンピュータビジョンモデルをあらゆる地域にデプロイする方法を探ります。それでは始めましょう！

Link to this sectionCVモデルデプロイとは？#

Ultralytics Platformを使用してディープラーニングモデルをデプロイする方法を掘り下げる前に、コンピュータビジョンモデルのデプロイが実際に何を意味するのかを理解しておきましょう。

コンピュータビジョンのモデルデプロイは、学習済みモデルを実際の環境で使用できるようにするプロセスです。モデルは単に学習環境で実行されるだけでなく、アプリケーションが画像やビデオを送信し、その結果として予測を受け取れるようにセットアップされます。

例えば、モデルは画像内のオブジェクト検出、セグメンテーションの実行、倉庫内のアイテム識別、あるいはビデオ映像内のパターン認識を行います。ほとんどの実環境システムでは、これはAPIや推論エンドポイントを通じて行われます。

アプリケーションがモデルに画像を送信すると、モデルはそれを処理し、数ミリ秒以内に予測を返します。これこそが、Ultralytics YOLOのようなコンピュータビジョンモデルがリアルタイムアプリケーションを実現できる理由です。

モデルはユースケースに応じて異なる環境にデプロイ可能です。クラウド上で実行され多数のアプリケーションからアクセスできるものもあれば、オンプレミスのカメラ、ロボット、あるいは迅速なローカル予測が必要な組み込みシステムなどのエッジデバイスで実行されるものもあります。

Link to this sectionUltralytics PlatformにおけるAIモデルデプロイオプション#

Ultralytics Platformは、コンピュータビジョンコミュニティが直面する多くの課題、特にモデルのデプロイに関する課題に対処し、アプリケーションのニーズに応じて柔軟な推論実行方法を提供します。

プラットフォームで利用可能なモデルデプロイオプションの概要は以下の通りです：

• モデルエクスポート: モデルをONNX、TensorRT、CoreML、TFLiteを含む17種類の形式にエクスポートできます。これにより、Raspberry PiやNVIDIA Jetsonといったエッジデバイス、モバイルアプリ、Dockerコンテナ、カスタムインフラなど、幅広い環境でモデルを実行可能です。
• 共有推論: プラットフォームでは、マネージド型の共有推論サービスを通じて予測を実行できます。これはモデルを素早くテストするのに最適です。
• 専用エンドポイント: モデルを独立したサービスとして簡単にデプロイできます。これには独自のAPI URLが割り当てられ、世界43リージョンで実行可能です。本番デプロイ用の自動スケーリング、モニタリング、ヘルスチェック機能も組み込まれています。

Link to this section専用エンドポイントを使用したデプロイ#

Ultralytics Platform上で学習済みモデルやカスタム学習済みのコンピュータビジョンモデルを本番環境で実行するための最もスケーラブルな方法のひとつが、専用エンドポイントの使用です。専用エンドポイントを使用すると、学習済みモデルを単独のサービスとしてデプロイでき、アプリケーションはAPI経由で画像を送信して予測を受け取ることができます。

モデルを学習環境やローカルのノートブックで実行するだけでなく、エンドポイントとしてデプロイすることで、実際のアプリケーションからアクセス可能になります。例えば、倉庫システムがパッケージの画像を送信してオブジェクト検出を行ったり、スマートカメラがビデオフレームを解析したり、ロボティクスシステムが予測を使用してアクションをガイドしたりできます。

各専用エンドポイントはシングルテナントサービスとして実行されるため、モデルを実行しているインフラストラクチャは他のユーザーと共有されません。これによりパフォーマンスが予測しやすくなり、本番環境でのモデルの挙動を監視しやすくなります。

Link to this section専用推論エンドポイントの機能について#

専用エンドポイントは、モデルのためのホスト型サービスと考えることができます。Ultralytics Platformは、アプリケーションの入り口として機能する独自のエンドポイントURLを提供します。

アプリケーションがそのURLにリクエストを送信する際、画像や信頼度のしきい値、画像サイズなどのオプションパラメータ、そして認証用のAPIキーを含めます。

サービスはモデルを使用して画像に対する推論を実行し、構造化されたレスポンスで予測を返します。このセットアップにより、開発者は標準的なWebツールを使用して、コンピュータビジョンモデルを実際のシステムに統合できます。

アプリケーションはPython、JavaScript、cURL、その他のHTTPクライアントを使用してリクエストを送信できるため、ダッシュボード、ロボティクスシステム、クラウドアプリケーションへのモデルの接続が容易です。エンドポイントは独立して実行されるため、スケーリング、モニタリング、グローバルデプロイもサポートしており、チームは信頼性の高い本番用コンピュータビジョンシステムを構築できます。

Link to this sectionマルチリージョンデプロイによるリアルタイム推論の改善#

Ultralytics Platformにおける専用エンドポイントの主な利点は、世界43リージョンにモデルをデプロイできることです。これらのリージョンは、北米、南米、ヨーロッパ、アジア太平洋、中東、アフリカなど、世界の複数の地域に広がっています。

図2. Ultralytics Platformは43の世界リージョンをサポート (ソース)

アプリケーションが実行されている場所に近いリージョンにモデルをデプロイすると、レイテンシ（アプリケーションが画像を送信してから予測を受け取るまでの時間）を短縮できます。また、データの発生元に近い場所でデータ処理を行うことで、データプライバシーやデータレジデンシーの要件を満たすのにも役立ちます。

低レイテンシは、ロボティクスシステム、IoTデバイス、産業用検査パイプライン、スマートシティインフラなど、リアルタイム推論に依存する多くのコンピュータビジョンアプリケーションにとって重要です。

例えば、アプリケーションが主にヨーロッパで使用されている場合、遠隔地のリージョンでモデルを実行するよりも、ヨーロッパのリージョンにモデルをデプロイすることで、応答時間を大幅に改善できます。

Link to this sectionUltralytics Platformを使用してあらゆる地域にデプロイする方法#

特定のリージョンへのモデルのデプロイは簡単で、通常わずか数分で完了します。プラットフォームがインフラのセットアップを行うため、開発者はモデルをアプリケーションに統合することに集中できます。必要なステップを順を追って説明します。

Link to this sectionステップ1: モデルの学習またはアップロード#

デプロイする前に、プロジェクト内で使用可能な学習済みモデルが必要です。これは、Ultralytics Platformで直接学習させたモデル、他で学習させた後にアップロードしたモデル、あるいは「Exploreタブ」で見つけたコミュニティプロジェクトからクローンしたモデルなどが該当します。他ユーザーが共有したパブリックプロジェクトは、ワンクリックで自分のアカウントにコピーできます。

モデルの準備ができたら、プロジェクト内のモデルページを開いて進めます。

Link to this sectionステップ2: デプロイタブを開く#

モデルの「Deploy」タブに移動します。プラットフォームのこのセクションで、デプロイの構成と開始を行うことができます。

そのページには、リージョンテーブルと、世界中の利用可能なデプロイ場所を示すインタラクティブマップが表示されます。プラットフォームはお客様の現在地からのレイテンシを測定し、最適なリージョンを選択できるようにリージョンを並べ替えます。

図3. Ultralytics Platformでレイテンシ順に並べ替えられたリージョン (ソース)

Link to this sectionステップ3: デプロイリージョンの選択#

ユーザーやアプリケーションの所在地に基づいてリージョンを選択します。リクエストの発生元に近い場所へモデルをデプロイすることで、応答時間を大幅に短縮できます。

Link to this sectionステップ4: エンドポイントのデプロイ#

リージョンを選択し、構成を確認した後、「Deploy」をクリックします。

その後、プラットフォームがデプロイ環境の準備、モデルイメージのプル、サービスの開始を行い、エンドポイントが準備完了状態であることを確認するためのヘルスチェックを実行します。このプロセスには通常1～2分かかります。

デプロイが完了すると、プラットフォームはアプリケーションが推論リクエストを送信するために使用できる独自のエンドポイントURLを生成します。

図4. デプロイされたエンドポイントの例 (ソース)

Link to this sectionステップ5: 推論リクエストの開始#

エンドポイントが稼働したら、アプリケーションは提供されたREST APIエンドポイントとAuthorizationヘッダーに渡されるAPIキーを使用して、モデルへ画像を送信し始めることができます。エンドポイントは各リクエストを処理し、検出されたオブジェクト、バウンディングボックス、その他のタスク固有の出力などの予測を返します。

モデルデプロイに関する詳細については、公式のUltralytics Platformドキュメントをご確認ください。

Link to this sectionデプロイされたエンドポイントのモデルパフォーマンスとメトリクスの監視#

コンピュータビジョンモデルをデプロイした後、システムの信頼性と堅牢性を維持するためには、パフォーマンスを監視することが重要な役割を果たします。適切に学習されたモデルであっても、本番環境で迅速に応答し、着信リクエストを適切に処理し、正確な予測を提供し続けていることを確認するために観測が必要です。

Ultralytics Platformには、デプロイされたエンドポイントのパフォーマンスをチームが把握できる組み込みの監視ツールが用意されています。プラットフォームのDeployページは監視ダッシュボードとして機能し、稼働中のすべてのエンドポイントを一元的に表示し、システムの健全性と使用状況を追跡するための主要なメトリクスを提供します。

プラットフォームを使用して監視可能なメトリクスの例をいくつか挙げます：

• P95レイテンシ: このメトリクスは、推論リクエストに対する95パーセンタイルのサーバー側応答時間を測定します。ほとんどの推論リクエストにどれくらいの時間がかかっているかを把握し、パフォーマンスの低下を特定するのに役立ちます。
• エラー率: 選択した監視期間中に失敗またはエラーを返したリクエストの割合を表します。エラー率を監視することで、チームはデプロイや着信リクエストの問題を素早く検出できます。
• 合計リクエスト数: このメトリクスは、選択した期間（例: 直近24時間）にデプロイされたエンドポイントで処理された推論リクエストの総数を示します。チームがトラフィックレベルやモデルの使用頻度を理解するのに役立ちます。

これらのメトリクスに加えて、プラットフォームはエンドポイントのヘルスチェックとデプロイログも提供します。ヘルスチェックはエンドポイントが正しく応答しているかどうかを示し、ログは最近のリクエストやシステムアクティビティに関する詳細情報を提供します。

Link to this section重要なポイント#

コンピュータビジョンモデルのデプロイは、学習済みモデルを実世界のアプリケーションを駆動するシステムへと変えるための重要なステップです。Ultralytics Platformを使用すると、チームは世界43リージョンにまたがる専用エンドポイントを通じてモデルを簡単にデプロイし、API経由でリアルタイム推論を実行し、単一の環境からパフォーマンスを監視できます。柔軟なデプロイオプション、組み込みの監視機能、スケーラブルなインフラストラクチャを組み合わせることで、本プラットフォームは開発者が学習済み機械学習モデルから信頼性の高いコンピュータビジョンアプリケーションへ迅速に移行することを支援します。

私たちの成長を続けるコミュニティの一員になりませんか！GitHubリポジトリにアクセスして、AIについての詳細を学びましょう。コンピュータビジョンソリューションを構築したい場合は、当社のライセンスオプションをご覧ください。医療におけるコンピュータビジョンのメリットを探り、物流におけるAIがどのように変革をもたらしているかをご確認ください！