Ultralytics Platform: あらゆるリージョンへのコンピュータービジョンモデルのデプロイ
Ultralytics Platformの拡張性、高速性、柔軟性に優れたAIデプロイを活用して、コンピュータービジョンモデルをあらゆるリージョンにデプロイする方法を学びましょう。
今週初め、Ultralyticsは、データ準備やモデル開発からデプロイに至るまで、ビジョンAIワークフローのあらゆるステージを効率化し、コンピュータビジョン（CV）システムの出荷を迅速に行うために設計された新しいエンドツーエンド環境であるUltralytics Platformをリリースしました。
Ultralytics Platformを開発した主な動機のひとつは、マシンが画像やビデオを解析できるようにするコンピュータビジョンソリューションにおいて、アイデアから実用化までを実現するには、優れたモデルを構築する以上のことが必要だからです。モデルが学習され、検証を通過した後は、アプリケーションが画像を送信し、予測を受け取り、実際の環境で推論を確実に実行できるようにデプロイする必要があります。
機械学習ライフサイクルのこの段階は、コンピュータビジョンモデルが実験の域を超え、実用的なシステムの構築を開始するフェーズです。データセットの準備、アノテーション、モデルの学習、テストといった初期のステップが順調に進んだとしても、モデルをデプロイする信頼性の高い方法がなければ、その結果は実用化につながりません。
多くのコンピュータビジョンプロジェクトにおける現実として、デプロイはワークフローの中で最も複雑なステップの1つとなり得ます。
チームは多くの場合、推論APIの構成、計算リソースの管理、レイテンシを削減するためのユーザーに近い場所へのモデルのデプロイ、そして本番環境でシステムが稼働した後のパフォーマンス監視を行う必要があります。
Ultralytics Platformは、モデルのエクスポートフォーマット、共有推論サービス、世界中のリージョンにまたがる専用エンドポイントなど、複数のデプロイオプションを提供することで、このプロセスを効率化および自動化します。マネージドインフラストラクチャと組み込みのモニタリング機能により、チームは学習済みモデルから本番環境対応のコンピュータビジョンシステムへ容易に移行できます。
図1：Ultralytics Platformを使用したモデルデプロイの外観（ソース）
この記事では、Ultralytics Platformの専用エンドポイントを使用して、コンピュータビジョンモデルをあらゆる地域にデプロイする方法を探ります。それでは始めましょう！
CVモデルデプロイとは？#
Ultralytics Platformを使用してディープラーニングモデルをデプロイする方法を掘り下げる前に、コンピュータビジョンモデルのデプロイが実際に何を意味するのかを理解しておきましょう。
コンピュータビジョンのモデルデプロイとは、トレーニング済みのモデルを取得し、現実世界で使用できるようにするプロセスのことです。モデルはトレーニング環境でのみ実行されるのではなく、アプリケーションがモデルに画像や動画を送信し、その見返りとして予測を受け取ることができるようにセットアップされます。
例えば、モデルは画像内のオブジェクト検出、セグメンテーションの実行、倉庫内のアイテム識別、あるいはビデオ映像内のパターン認識を行います。ほとんどの実環境システムでは、これはAPIや推論エンドポイントを通じて行われます。
アプリケーションが画像をモデルに送信し、モデルがそれを処理し、ミリ秒単位で予測を返します。これにより、Ultralytics YOLOのようなコンピュータビジョンモデルがリアルタイムアプリケーションを実現できるようになります。
モデルはユースケースに応じて異なる環境にデプロイ可能です。クラウド上で実行され多数のアプリケーションからアクセスできるものもあれば、オンプレミスのカメラ、ロボット、あるいは迅速なローカル予測が必要な組み込みシステムなどのエッジデバイスで実行されるものもあります。
Ultralytics PlatformにおけるAIモデルデプロイオプション#
Ultralytics Platformは、コンピュータビジョンコミュニティが直面する多くの課題、特にモデルのデプロイに関する課題に対処し、アプリケーションのニーズに応じて柔軟な推論実行方法を提供します。
プラットフォームで利用可能なモデルデプロイオプションの概要は以下の通りです：
- モデルエクスポート：ONNX、TensorRT、CoreML、TFLiteなど17種類のフォーマットにモデルをエクスポートできるため、Raspberry PiやNVIDIA Jetsonなどのエッジデバイス、モバイルアプリ、Dockerコンテナ、カスタムインフラストラクチャなど、幅広い環境でモデルを実行することが可能です。
- 共有推論: プラットフォームでは、マネージド型の共有推論サービスを通じて予測を実行できます。これはモデルを素早くテストするのに最適です。
- 専用エンドポイント：本番環境へのデプロイメント向けに、組み込みの自動スケーリング、モニタリング、ヘルスチェックを備え、世界43リージョンで稼働可能な固有のAPI URLを持つ独立したサービスとして、モデルを簡単にデプロイできます。
専用エンドポイントを使用したデプロイ#
Ultralytics Platform上で学習済みモデルやカスタム学習済みのコンピュータビジョンモデルを本番環境で実行するための最もスケーラブルな方法のひとつが、専用エンドポイントの使用です。専用エンドポイントを使用すると、学習済みモデルを単独のサービスとしてデプロイでき、アプリケーションはAPI経由で画像を送信して予測を受け取ることができます。
モデルを学習環境やローカルのノートブックで実行するだけでなく、エンドポイントとしてデプロイすることで、実際のアプリケーションからアクセス可能になります。例えば、倉庫システムがパッケージの画像を送信してオブジェクト検出を行ったり、スマートカメラがビデオフレームを解析したり、ロボティクスシステムが予測を使用してアクションをガイドしたりできます。
各専用エンドポイントはシングルテナントサービスとして実行されるため、モデルを実行しているインフラストラクチャは他のユーザーと共有されません。これによりパフォーマンスが予測しやすくなり、本番環境でのモデルの挙動を監視しやすくなります。
専用推論エンドポイントの機能について#
専用エンドポイントは、モデルのためのホスト型サービスと考えることができます。Ultralytics Platformは、アプリケーションの入り口として機能する独自のエンドポイントURLを提供します。
アプリケーションがそのURLにリクエストを送信する際、画像や信頼度のしきい値、画像サイズなどのオプションパラメータ、そして認証用のAPIキーを含めます。
サービスはモデルを使用して画像に対する推論を実行し、構造化されたレスポンスで予測を返します。このセットアップにより、開発者は標準的なWebツールを使用して、コンピュータビジョンモデルを実際のシステムに統合できます。
アプリケーションはPython、JavaScript、cURL、その他のHTTPクライアントを使用してリクエストを送信できるため、ダッシュボード、ロボティクスシステム、クラウドアプリケーションへのモデルの接続が容易です。エンドポイントは独立して実行されるため、スケーリング、モニタリング、グローバルデプロイもサポートしており、チームは信頼性の高い本番用コンピュータビジョンシステムを構築できます。
マルチリージョンデプロイによるリアルタイム推論の改善#
Ultralytics Platformにおける専用エンドポイントの主な利点は、世界43リージョンにモデルをデプロイできることです。これらのリージョンは、北米、南米、ヨーロッパ、アジア太平洋、中東、アフリカなど、世界の複数の地域に広がっています。
図2：Ultralytics Platformは世界43リージョンをサポートしています（ソース）
アプリケーションが実行されている場所に近いリージョンにモデルをデプロイすると、レイテンシ（アプリケーションが画像を送信してから予測を受け取るまでの時間）を短縮できます。また、データの発生元に近い場所でデータ処理を行うことで、データプライバシーやデータレジデンシーの要件を満たすのにも役立ちます。
低レイテンシは、ロボティクスシステム、IoTデバイス、産業用検査パイプライン、スマートシティインフラなど、リアルタイム推論に依存する多くのコンピュータビジョンアプリケーションにとって重要です。
例えば、アプリケーションが主にヨーロッパで使用されている場合、遠隔地のリージョンでモデルを実行するよりも、ヨーロッパのリージョンにモデルをデプロイすることで、応答時間を大幅に改善できます。
Ultralytics Platformを使用してあらゆる地域にデプロイする方法#
特定のリージョンへのモデルのデプロイは簡単で、通常わずか数分で完了します。プラットフォームがインフラのセットアップを行うため、開発者はモデルをアプリケーションに統合することに集中できます。必要なステップを順を追って説明します。
ステップ1: モデルの学習またはアップロード#
デプロイする前に、プロジェクト内で使用可能な学習済みモデルが必要です。これは、Ultralytics Platformで直接学習させたモデル、他で学習させた後にアップロードしたモデル、あるいは「Exploreタブ」で見つけたコミュニティプロジェクトからクローンしたモデルなどが該当します。他ユーザーが共有したパブリックプロジェクトは、ワンクリックで自分のアカウントにコピーできます。
モデルの準備ができたら、プロジェクト内のモデルページを開いて進めます。
ステップ2: デプロイタブを開く#
モデルの「Deploy」タブに移動します。プラットフォームのこのセクションで、デプロイの構成と開始を行うことができます。
そのページには、リージョンテーブルと、世界中の利用可能なデプロイ場所を示すインタラクティブマップが表示されます。プラットフォームはお客様の現在地からのレイテンシを測定し、最適なリージョンを選択できるようにリージョンを並べ替えます。
図3：Ultralytics Platform上のレイテンシでソートされたリージョン（ソース）
ステップ3: デプロイリージョンの選択#
ユーザーやアプリケーションの所在地に基づいてリージョンを選択します。リクエストの発生元に近い場所へモデルをデプロイすることで、応答時間を大幅に短縮できます。
ステップ4: エンドポイントのデプロイ#
リージョンを選択し、構成を確認した後、「Deploy」をクリックします。
その後、プラットフォームがデプロイ環境の準備、モデルイメージのプル、サービスの開始を行い、エンドポイントが準備完了状態であることを確認するためのヘルスチェックを実行します。このプロセスには通常1～2分かかります。
デプロイが完了すると、プラットフォームはアプリケーションが推論リクエストを送信するために使用できる独自のエンドポイントURLを生成します。
図4：デプロイされたエンドポイントの例（ソース）
ステップ5: 推論リクエストの開始#
エンドポイントが稼働したら、アプリケーションは提供されたREST APIエンドポイントとAuthorizationヘッダーに渡されるAPIキーを使用して、モデルへ画像を送信し始めることができます。エンドポイントは各リクエストを処理し、検出されたオブジェクト、バウンディングボックス、その他のタスク固有の出力などの予測を返します。
モデルデプロイに関する詳細については、公式のUltralytics Platform docsをご確認ください。
デプロイされたエンドポイントのモデルパフォーマンスとメトリクスの監視#
コンピュータビジョンモデルをデプロイした後、システムの信頼性と堅牢性を維持するためには、パフォーマンスを監視することが重要な役割を果たします。適切に学習されたモデルであっても、本番環境で迅速に応答し、着信リクエストを適切に処理し、正確な予測を提供し続けていることを確認するために観測が必要です。
Ultralytics Platformは、デプロイされたエンドポイントのパフォーマンスをチームが把握できるようにする組み込みモニタリングツールを提供します。プラットフォームの「Deploy」ページはモニタリングダッシュボードとして機能し、実行中のすべてのエンドポイントの一元的なビューと、システムのヘルスや使用状況を追跡するのに役立つ主要なメトリクスを提供します。
プラットフォームを使用して監視可能なメトリクスの例をいくつか挙げます：
- P95レイテンシ: このメトリクスは、推論リクエストに対する95パーセンタイルのサーバー側応答時間を測定します。ほとんどの推論リクエストにどれくらいの時間がかかっているかを把握し、パフォーマンスの低下を特定するのに役立ちます。
- エラー率: 選択した監視期間中に失敗またはエラーを返したリクエストの割合を表します。エラー率を監視することで、チームはデプロイや着信リクエストの問題を素早く検出できます。
- 合計リクエスト数: このメトリクスは、選択した期間（例: 直近24時間）にデプロイされたエンドポイントで処理された推論リクエストの総数を示します。チームがトラフィックレベルやモデルの使用頻度を理解するのに役立ちます。
これらのメトリクスに加えて、プラットフォームはエンドポイントのヘルスチェックとデプロイログも提供します。ヘルスチェックはエンドポイントが正しく応答しているかどうかを示し、ログは最近のリクエストやシステムアクティビティに関する詳細情報を提供します。
重要なポイント#
コンピュータビジョンモデルのデプロイは、学習済みモデルを実世界のアプリケーションを駆動するシステムへと変えるための重要なステップです。Ultralytics Platformを使用すると、チームは世界43リージョンにまたがる専用エンドポイントを通じてモデルを簡単にデプロイし、API経由でリアルタイム推論を実行し、単一の環境からパフォーマンスを監視できます。柔軟なデプロイオプション、組み込みの監視機能、スケーラブルなインフラストラクチャを組み合わせることで、本プラットフォームは開発者が学習済み機械学習モデルから信頼性の高いコンピュータビジョンアプリケーションへ迅速に移行することを支援します。
成長を続ける私たちのコミュニティに参加しましょう！AIについて詳しく知るには、私たちのGitHub repositoryをご覧ください。コンピュータビジョンソリューションの構築をお考えの場合は、私たちのライセンスオプションをご確認ください。ヘルスケアにおけるコンピュータビジョンのメリットを探求し、物流におけるAIがどのように違いを生み出しているかをご覧ください。
