Ultralytics Platform：コンピュータービジョンモデルを任意のリージョンにデプロイする

今週初め、UltralyticsはUltralytics Platformをローンチしました。これは、データ準備やモデル開発からデプロイまで、ビジョンAIワークフローのあらゆる段階を効率化し、コンピュータビジョン（CV）システムのリリースを迅速化するために設計された新しいエンドツーエンド環境です。

Ultralytics Platformの開発を推進した主な理由の一つは、機械が画像や動画を分析できるコンピュータビジョンソリューションを、アイデアの段階から実際に成果を生み出す段階まで進めるには、強力なモデルを構築する以上の作業が必要だからです。モデルのトレーニングと検証が完了した後は、アプリケーションが画像を送信し、予測を受け取り、実環境で安定して推論を実行できるようにデプロイする必要があります。

機械学習ライフサイクルのこの段階で、コンピュータビジョンモデルは実験の枠を超え、実用的なシステムを支えるようになります。データセットの準備、アノテーション、モデルのトレーニング、テストなどの前段階が順調に進んだとしても、モデルを信頼性の高い方法でデプロイできなければ、その成果を実用化できません。

多くのコンピュータビジョンプロジェクトでは、デプロイがワークフローの中でも特に複雑な工程の一つになることが現実です。

チームは、推論APIの設定、コンピューティングリソースの管理、レイテンシを削減するためのユーザーに近い場所へのモデルのデプロイ、本番環境で稼働した後のパフォーマンス監視などを行う必要があります。

Ultralytics Platformは、モデルのエクスポート形式、共有推論サービス、グローバルリージョン全体にわたる専用エンドポイントなど、複数のデプロイオプションを提供することで、このプロセスを効率化および自動化します。マネージドインフラストラクチャと組み込みの監視機能により、チームはトレーニング済みモデルから本番環境対応のコンピュータビジョンシステムへ簡単に移行できます。

図1. Ultralytics Platformを使用したモデルのデプロイ例（出典）

この記事では、Ultralytics Platformの専用エンドポイントを使用して、コンピュータビジョンモデルをあらゆるリージョンにデプロイする方法を紹介します。早速始めましょう。

CVモデルのデプロイとは？#

Ultralytics Platformを使用してディープラーニングモデルをデプロイする方法を説明する前に、コンピュータビジョンモデルのデプロイが実際に何を意味するのかを詳しく確認しましょう。

コンピュータビジョンのモデルデプロイとは、トレーニング済みモデルを実環境で利用できる状態にするプロセスです。トレーニング環境内だけで実行するのではなく、アプリケーションが画像や動画をモデルに送信し、その結果として予測を受け取れるようにモデルを設定します。

たとえば、モデルは画像内の物体検出、画像セグメンテーション、倉庫内の物品の識別、動画映像内のパターン認識などを実行できます。ほとんどの実環境のシステムでは、これらはAPIまたは推論エンドポイントを介して行われます。

アプリケーションが画像をモデルに送信すると、モデルが処理し、数ミリ秒以内に予測を返します。これにより、Ultralytics YOLOなどのコンピュータビジョンモデルでリアルタイムアプリケーションを実現できます。

モデルは、ユースケースに応じてさまざまな環境にデプロイできます。クラウドで実行され、多数のアプリケーションからアクセスできるモデルがある一方、オンプレミスのカメラ、ロボット、あるいは高速なローカル予測を必要とする組み込みシステムなどのエッジデバイスで実行されるモデルもあります。

Ultralytics PlatformのAIモデルデプロイオプション#

Ultralytics Platformは、特にモデルのデプロイに関してコンピュータビジョンコミュニティが直面する多くの課題に対応しながら、アプリケーションのニーズに応じて柔軟に推論を実行する方法を提供します。

プラットフォームで利用できるモデルデプロイオプションを簡単に見てみましょう。

• モデルのエクスポート：ONNX、TensorRT、CoreML、TFLiteなど17種類の形式にモデルをエクスポートできます。これにより、Raspberry PiやNVIDIA Jetsonなどのエッジデバイス、モバイルアプリ、Dockerコンテナ、カスタムインフラストラクチャなど、幅広い環境でモデルを実行できます。
• 共有推論： プラットフォームでは、マネージド共有推論サービスを介して予測を実行できます。モデルを迅速にテストする場合に適しています。
• 専用エンドポイント：モデルを独立したサービスとして簡単にデプロイできます。固有のAPI URLを使用し、グローバル43リージョンで実行できるほか、本番環境へのデプロイに必要な自動スケーリング、監視、ヘルスチェックが組み込まれています。

専用エンドポイントを使用したデプロイ#

Ultralytics Platformで事前トレーニング済みモデルやカスタムトレーニングしたコンピュータビジョンモデルを本番環境で実行する際、専用エンドポイントは最もスケーラブルな方法の一つです。専用エンドポイントを使用すると、トレーニング済みモデルを独自のサービスとしてデプロイできるため、アプリケーションは画像を送信し、API経由で予測を受け取れます。

モデルをトレーニング環境やローカルノートブックだけで実行するのではなく、エンドポイントとしてデプロイすることで、実際のアプリケーションからアクセスできるようになります。たとえば、倉庫システムが物体検出のために荷物の画像を送信したり、スマートカメラが動画フレームを分析したり、ロボティクスシステムが予測を使って動作を制御したりできます。

各専用エンドポイントはシングルテナントサービスとして実行されます。つまり、モデルを実行するインフラストラクチャは他のユーザーと共有されません。これにより、より予測可能なパフォーマンスが得られ、本番環境でのモデルの動作を監視しやすくなります。

専用推論エンドポイントの機能を理解する#

専用エンドポイントは、モデル向けのホステッドサービスと考えることができます。Ultralytics Platformは、アプリケーションの入口として機能する固有のエンドポイントURLを提供します。

アプリケーションがそのURLにリクエストを送信すると、画像と、信頼度しきい値や画像サイズなどのオプションパラメーターに加えて、認証用のAPIキーも含めます。

サービスはモデルを使用して画像の推論を実行し、構造化されたレスポンスで予測を返します。この構成により、開発者は標準的なWebツールを使ってコンピュータビジョンモデルを実際のシステムに統合できます。

アプリケーションはPython、JavaScript、cURL、その他のHTTPクライアントを使用してリクエストを送信できるため、モデルをダッシュボード、ロボティクスシステム、クラウドアプリケーションに簡単に接続できます。エンドポイントは独立して実行されるため、スケーリング、監視、グローバルデプロイにも対応でき、チームは信頼性の高い本番環境向けコンピュータビジョンシステムを構築できます。

マルチリージョンデプロイでリアルタイム推論を改善#

Ultralytics Platformの専用エンドポイントの主な利点は、43のグローバルリージョンにモデルをデプロイできることです。これらのリージョンは、北米、南米、ヨーロッパ、アジア太平洋、中東・アフリカなど、世界の複数の地域に広がっています。

図2. Ultralytics Platformは43のグローバルリージョンに対応（出典）

アプリケーションが実行されている場所に近いリージョンにモデルをデプロイすると、レイテンシを削減できます。レイテンシとは、アプリケーションが画像を送信して予測を受け取るまでにかかる時間です。また、データ処理をデータの発生元に近い場所で行うことで、組織がデータプライバシーやデータレジデンシーの要件を満たすのにも役立ちます。

ロボティクスシステム、モノのインターネット（IoT）デバイス、産業検査パイプライン、スマートシティインフラストラクチャなど、リアルタイム推論に依存する多くのコンピュータビジョンアプリケーションでは、低レイテンシが重要です。

たとえば、アプリケーションが主にヨーロッパで使用される場合、ヨーロッパのリージョンにモデルをデプロイすると、遠隔地のリージョンでモデルを実行する場合と比べて応答時間を大幅に改善できます。

Ultralytics Platformであらゆるリージョンにデプロイする方法#

特定のリージョンへのモデルのデプロイは簡単で、通常は数分しかかかりません。プラットフォームがインフラストラクチャのセットアップを処理するため、開発者はモデルのアプリケーションへの統合に集中できます。手順を見ていきましょう。

ステップ1：モデルをトレーニングまたはアップロードする#

デプロイする前に、プロジェクトで利用できるトレーニング済みモデルが必要です。Ultralytics Platform上で直接トレーニングしたモデル、別の場所でトレーニングした後にアップロードしたモデル、またはコミュニティプロジェクトからクローンしたモデルを使用できます。「Explore tab」では、他のユーザーが共有した公開プロジェクトをワンクリックで自分のアカウントにコピーできます。

モデルの準備ができたら、プロジェクト内でモデルページを開いて次に進みます。

ステップ2：「Deploy」タブを開く#

モデルの「Deploy」タブに移動します。このプラットフォームセクションでは、デプロイを設定して開始できます。

このページには、リージョンテーブルと、世界各地で利用可能なデプロイ先を示すインタラクティブマップが表示されます。プラットフォームは現在地からのレイテンシを測定し、それに応じてリージョンを並べ替えるため、最適なリージョンを選択できます。

図3. Ultralytics Platformでレイテンシ順に並べられたリージョン（出典）

ステップ3：デプロイリージョンを選択する#

ユーザーまたはアプリケーションの所在地に基づいてリージョンを選択します。リクエストの送信元に近い場所にモデルをデプロイすると、応答時間を大幅に短縮できます。

ステップ4：エンドポイントをデプロイする#

リージョンを選択して設定を確認したら、「Deploy」をクリックします。

その後、プラットフォームがデプロイ環境を準備し、モデルイメージを取得してサービスを開始し、ヘルスチェックを実行してエンドポイントの準備が整っていることを確認します。このプロセスには通常1～2分ほどかかります。

デプロイが完了すると、プラットフォームはアプリケーションが推論リクエストの送信に使用できる固有のエンドポイントURLを生成します。

図4. デプロイされたエンドポイントの例（出典）

ステップ5：推論リクエストの送信を開始する#

エンドポイントが稼働すると、アプリケーションは提供されたREST APIエンドポイントと、Authorizationヘッダーに渡すAPIキーを使用してモデルに画像を送信できます。エンドポイントは各リクエストを処理し、検出された物体、バウンディングボックス、その他のタスク固有の出力などの予測を返します。

モデルのデプロイについて詳しくは、公式のUltralytics Platformドキュメントをご覧ください。

デプロイされたエンドポイントのモデルパフォーマンスとメトリクスを監視する#

コンピュータビジョンモデルをデプロイした後は、システムの信頼性と堅牢性を維持するうえで、パフォーマンスの監視が重要になります。十分にトレーニングされたモデルであっても、迅速な応答を継続し、受信リクエストを適切に処理し、正確な予測を提供できていることを確認するために、本番環境で監視する必要があります。

Ultralytics Platformには、デプロイされたエンドポイントのパフォーマンスをチームが把握できる組み込みの監視ツールが用意されています。プラットフォームの「Deploy」ページは監視ダッシュボードとして機能し、稼働中のすべてのエンドポイントを一元的に表示するとともに、システムの状態と使用状況を追跡するための主要なメトリクスを提供します。

Platformで監視できるメトリクスには、次のようなものがあります。

• P95レイテンシ： 推論リクエストに対するサーバー側の応答時間の95パーセンタイルを測定するメトリクスです。ほとんどの推論リクエストにかかる時間を把握し、パフォーマンスの低下を特定できます。
• エラー率： 選択した監視期間内に失敗した、またはエラーを返したリクエストの割合を示します。エラー率を監視することで、デプロイや受信リクエストに関する問題をチームが迅速に検出できます。
• 総リクエスト数： 選択した期間（たとえば過去24時間）に、デプロイされたエンドポイント全体で処理された推論リクエストの総数を示すメトリクスです。トラフィックの規模やモデルが使用される頻度をチームが把握するのに役立ちます。

これらのメトリクスに加えて、プラットフォームはエンドポイントのヘルスチェックとデプロイログも提供します。ヘルスチェックはエンドポイントが正常に応答しているかどうかを示し、ログは最近のリクエストやシステムアクティビティに関する詳細情報を提供します。

主なポイント#

コンピュータビジョンモデルのデプロイは、トレーニング済みモデルを実際のアプリケーションを支えるシステムへと変えるための重要なステップです。Ultralytics Platformを使用すると、チームは43のグローバルリージョンに専用エンドポイント経由でモデルを簡単にデプロイし、APIを介してリアルタイム推論を実行し、単一の環境からパフォーマンスを監視できます。柔軟なデプロイオプション、組み込みの監視機能、スケーラブルなインフラストラクチャを組み合わせることで、プラットフォームは開発者がトレーニング済みの機械学習モデルから信頼性の高いコンピュータビジョンアプリケーションへ、より迅速に移行できるよう支援します。

成長を続けるコミュニティに参加しましょう。GitHubリポジトリでAIについて詳しく学べます。コンピュータビジョンソリューションの構築をお考えの場合は、ライセンスオプションをご覧ください。ヘルスケアにおけるコンピュータビジョンのメリットを確認し、物流におけるAIがどのように変化をもたらしているかをご覧ください。