Ultralytics Platformがコンピュータービジョンモデルのデプロイを簡素化する方法

Ultralyticsは長年にわたりコンピュータービジョンコミュニティと連携し、ビジョンAIを誰もがより利用しやすくするモデルやツールを開発してきました。Ultralytics Platformでは、データセット管理やアノテーションからモデルのトレーニング、検証、デプロイまで、コンピュータービジョン開発のワークフロー全体を1つの統合環境に集約し、さらに一歩進めています。

特に、コンピュータービジョンモデルのデプロイをより簡単にできることを嬉しく思います。コンピュータービジョンが実世界のアプリケーションで利用されるようになる中、管理された環境の外で画像や動画を分析することは、依然として複雑です。

条件が予測可能なテスト環境とは異なり、実世界のシナリオでは照明条件が変化し、入力が変わり、ワークロードも予測できないため、デプロイはビジョンワークフローの中でも特に難しい部分の1つとなります。

デプロイには、モデルを利用可能にするだけでは不十分です。実世界のデータを処理できるプロセスを構築し、利用量やプロジェクトの規模が拡大してもすべてが円滑に動作するようにする必要があります。

チームはパフォーマンスを追跡し、長期にわたって信頼性を維持する必要もあります。そのため、テスト、統合、デプロイ、モニタリングに異なるAIツールを切り替えて使用することが多く、モデル開発の速度が低下し、不要な複雑さが加わる可能性があります。

ワークフローは分断されがちです。Ultralytics Platformはこのプロセスを統合し、簡素化します。

単一の環境内で、モデルサービング、テスト、モニタリングを標準でサポートします。チームはブラウザベースの推論でモデルを検証し、共有推論サービスを通じてアプリケーションに統合し、パフォーマンスモニタリング機能を備えた専用エンドポイントにデプロイできます。

図1. Ultralytics Platformのデプロイページ（出典）

この記事では、テストや統合から本番環境へのデプロイ、モニタリングまで、Ultralytics Platformがコンピュータービジョンのモデルデプロイをどのように再定義するかを紹介します。早速見ていきましょう。

コンピュータービジョンモデルのデプロイ概要#

機械学習のライフサイクルにおいて、モデルデプロイはモデルを実験段階から実世界での利用へ移行する段階です。ディープラーニングと畳み込みニューラルネットワークを使用して構築されたコンピュータービジョンモデルの場合、一般的には画像や動画をリアルタイムで処理できるようにすることを意味します。

デプロイ後、これらのモデルは新しいデータを受け取ります。データは通常、リサイズ、正規化、フォーマット変換などの前処理を経ます。処理済みのデータはモデルに渡され、モデルはトレーニング中に学習したパターンを適用して、高精度な予測を生成します。

ユースケースによっては、さまざまなコンピュータービジョンタスクが含まれます。たとえば、Ultralytics YOLO26などのUltralytics YOLOモデルは、物体検出、画像分類、インスタンスセグメンテーション、姿勢推定、指向性バウンディングボックス（OBB）検出など、幅広いビジョンタスクをサポートします。

実世界のアプリケーションで実用化するには、モデルを前処理と推論の両方を効率的に処理できるシステムに統合する必要があります。ここでデプロイインフラストラクチャが重要になります。

本番環境では、モデルには通常、REST APIまたはモデルサービングシステムを介してアクセスします。これらのインターフェースにより、アプリケーションはプログラムからデータを送信して予測を受け取れるため、外部アプリケーション、IoTデバイス、リアルタイムの視覚的理解に依存するロボティクスシステムとの統合が容易になります。

従来のコンピュータービジョンデプロイツールの限界#

コンピュータービジョンモデルのデプロイは簡単そうに聞こえますが、これまでは実際の運用は大きく異なっていました。一般的な構成を考えてみましょう。まずカメラやセンサーからデータを取得し、推論のためにモデルへ送り、その後、予測結果としてアプリケーションに返します。

実際には、これらの各ステップが別々のツールやサービスで処理されることが多くあります。あるシステムがデータ取得を担当し、別のシステムがモデルサービングを管理し、さらに別のツールをスケーリング、モニタリング、ロギングに使用します。これらのコンポーネントを接続し、信頼性を保って稼働させることは、すぐに複雑になる可能性があります。

利用量が増えると、この複雑さも増します。インフラストラクチャの管理、依存関係の処理、エンドツーエンドのパイプライン全体で一貫したパフォーマンスを維持することにより、開発速度が低下し、実世界のアプリケーションにコンピュータービジョンモデルをデプロイすることが難しくなる可能性があります。

Ultralytics Platformは、これらのコンポーネントを単一の統合環境に集約します。これにより、規模に応じたパフォーマンスと信頼性を維持しながら、デプロイワークフロー全体をより一貫した方法で管理できます。

Ultralytics Platformで利用できるモデルデプロイの選択肢#

Ultralytics Platformはモデルデプロイのプロセスを統合するだけでなく、モデルのデプロイ方法と利用方法にも柔軟性をもたらします。

コンピュータービジョンモデルのデプロイにおけるさまざまな段階をサポートするため、プラットフォームには4つの選択肢があります。即時推論が可能なブラウザベースのテスト、開発向けのAPIを介した共有推論、グローバルリージョンにまたがるスケーラブルな本番デプロイ向けの専用エンドポイント、外部インフラストラクチャやエッジデバイスでモデルを実行するためのモデルエクスポートです。

それでは、これらの各選択肢の仕組みを詳しく見ていきましょう。

Predictタブでモデルを迅速に検証する#

モデルを本番環境に移行する前に、新しい未知のデータに対するパフォーマンスを把握することが重要です。Ultralytics PlatformにはPredictタブが組み込まれており、セットアップ、インフラストラクチャ、依存関係なしで、ブラウザから直接推論を実行できます。

Predictタブを使うと、モデルの検証を迅速かつインタラクティブに行えます。画像をアップロードしたり、プリロードされたサンプルを使用したり、ウェブカメラで入力をキャプチャしたりでき、データが提供されるとすぐに推論が自動実行されます。

結果はビジュアルオーバーレイ、信頼度スコア、詳細な出力とともに即座に表示され、モデルの挙動を明確に把握できます。

図2. Predictタブを使用したモデル検証の例（出典）

つまり、数回クリックするだけで、デプロイに移行する前に、単一のインターフェース内でさまざまな入力を試し、パラメーターを調整し、パフォーマンスを評価できます。

テストや軽量な利用のために共有推論を実行する#

モデルをトレーニングし、Predictタブで検証したとします。次のステップでは、多くの場合、そのモデルをアプリケーションやワークフローに統合し始めます。

インフラストラクチャのセットアップやサーバー管理を行う代わりに、Ultralytics Platformの共有推論サービスを使用すると、シンプルなREST APIを通じてモデルにデータを送信し、予測を受け取れます。

共有推論は内部で、いくつかの主要リージョンにまたがるマルチテナントシステム上で実行され、リクエストは利用可能な最寄りのサービスへ自動的にルーティングされます。これにより応答性の高いパフォーマンスを維持しながら、異なる場所のユーザーがモデルに一貫してアクセスできます。

標準的なHTTPリクエストで入力を送信し、構造化された出力を受け取れるため、モデルをアプリケーション、スクリプト、オートメーションワークフローに簡単に接続できます。この構成は、本番環境でより大規模なデプロイに移行する前の開発、テスト、統合、または軽量な利用に適しています。

専用エンドポイントを通じてモデルをグローバルにデプロイする#

モデルを本番環境で利用できる状態になったら、実世界のトラフィックを大規模かつ確実に処理する必要があります。Ultralytics Platformは、モデルを43のグローバルリージョンにまたがるシングルテナントサービスとして実行する専用エンドポイントでこれをサポートします。エンドユーザーに近い場所にデプロイすることで、レイテンシを削減し、異なる場所で一貫したパフォーマンスを維持できます。

各エンドポイントは、割り当てられた専用のコンピュートリソースと、推論リクエスト用の一意のURLで実行されます。このレベルの制御により、軽量なユースケースから、より多くの計算リソースを必要とする高スループットのアプリケーションまで、パフォーマンス要件に応じてデプロイを簡単に調整できます。

図3. Ultralytics Platformを使用すると、43のグローバルリージョンにモデルをデプロイできます（出典）

ただし、専用エンドポイントは、受信トラフィックに基づいてリソースを調整するオートスケーリングにより、変化するワークロード自体に対応するよう設計されています。需要が高い期間にはスケールアップし、利用量が減るとスケールダウンします。デフォルトでスケール・トゥ・ゼロが有効になっているため、アイドル状態のエンドポイントは自動的に停止し、新しいリクエストが到着すると再起動します。手動操作なしでリソース使用量を最適化できます。

Ultralytics Platformでモデルを簡単にエクスポートする#

現在、スマートフォン、カメラ、組み込みシステムなどのデバイス上でモデルを直接実行するアプリケーションが増えており、エッジAIの重要性が高まっています。モデルをローカルで実行すると、画像やビデオストリームなどの機密データを外部サーバーに送信せず、デバイス上で直接処理できるため、データプライバシー要件への対応にも役立ちます。

このようなシナリオでは、モデルをUltralytics Platformの外部で実行する必要があるため、モデルエクスポートはデプロイプロセスの重要な部分です。Ultralytics YOLOモデルは通常、PythonとPyTorchを使用してトレーニングされ、その後、ONNX、TensorRT、CoreML、OpenVINOなど17種類以上の形式にエクスポートできます。

この幅広い形式により、高性能なグラフィックス処理ユニット（GPUs）からモバイルデバイスや組み込みデバイスまで、多様なハードウェアとの互換性が確保されます。さらに、エクスポートによって特定の環境向けにパフォーマンスをチューニングできます。

形式によっては、TensorRTによるGPUパフォーマンスの向上や、ONNXおよびOpenVINOによるCPU実行の最適化など、より高速な推論速度を実現できます。FP16やINT8量子化などのオプションにより、モデルサイズをさらに削減し、スループットを向上できます。これは特にエッジデプロイに有用です。

Ultralytics Platformでは、エクスポートがワークフローに直接組み込まれているため、数回クリックするだけで最適化されたモデルをすばやく生成できます。チームは余分なオーバーヘッドを加えることなく、トレーニングから外部システム上でのモデル実行へ移行できます。

図4. Ultralytics Platformのエクスポート形式の選択画面。

適切なモデルデプロイの選択肢を選ぶ#

Ultralytics Platformの各デプロイオプションは、初期テストから本番利用まで、ワークフローの異なる段階をサポートします。各オプションを使用するタイミングの概要は次のとおりです。

• Predictタブ：通常、トレーニングまたはファインチューニングの直後に使用し、ブラウザベースの推論で新しいデータに対するモデルのパフォーマンスを検証します。
• 共有推論：この段階では、APIを通じてモデルをアプリケーションに統合し、開発中に実世界のインタラクションをテストできます。
• 専用エンドポイント：一貫したパフォーマンス、専用リソース、グローバルリージョンにまたがってスケールする機能が必要な本番デプロイに使用します。
• モデルエクスポート：モデルをプラットフォーム外で実行する必要がある場合、エクスポート機能によってエッジデバイス、モバイルアプリ、カスタムインフラストラクチャへのデプロイが可能になります。

チームは多くの場合、これらの選択肢を段階的に進み、検証から統合、そして最終的に本番デプロイへと、すべてをプラットフォーム内で行います。

Ultralytics Platformでデプロイ済みモデルをモニタリングする#

デプロイが重要であることに変わりはありませんが、ビジョンパイプラインはそこで終わりではありません。モデルが本番環境で稼働し始めたら、長期にわたって信頼性の高いパフォーマンスを発揮できているかを確認するため、継続的なモニタリングが重要になります。

Ultralytics Platformは、ビジョンAIモデルの長期的な挙動をチームが明確に把握できる組み込みモニタリングツールを提供し、より体系的な機械学習運用（MLOps）ワークフローをサポートします。

Deployページには、総リクエスト数、アクティブなデプロイ、レスポンスレイテンシ、エラー率などの主要メトリクスを追跡するダッシュボードが含まれています。これらのインサイトにより、チームは利用パターンを把握し、システムの応答性を評価し、さまざまなワークロードで低レイテンシのパフォーマンスを確保できます。

図5. Ultralytics Platformを使えば、デプロイ済みモデルを簡単にモニタリングできます。（出典）

各専用エンドポイントでは、個別のデプロイビューを通じて詳細なオブザーバビリティも提供されます。これには、ログ、モデルのヘルスステータス、リアルタイムのパフォーマンスデータへのアクセスが含まれます。ログを使用して問題をデバッグし、失敗したリクエストを追跡し、依存関係やインフラストラクチャに関連する潜在的な問題を特定できます。

本番環境が変化すると、入力データの変化、スケーリング要件、利用パターンの変化などの要因が、モデルの精度や堅牢性に影響を与える可能性があります。パフォーマンスメトリクスを継続的にモニタリングすることで、チームは異常を検出し、ボトルネックを特定し、モデルの最適化やリソースの調整などの是正措置を講じて、一貫性と信頼性の高いモデルサービングを維持できます。

コンピュータービジョンモデルのデプロイにスケーラビリティを組み込む#

コンピュータービジョンシステムのスケーリングは、従来、1つのシステムとして連携するよう設計されていないワークフローやフレームワークをつなぎ合わせることを意味していました。データパイプライン、トレーニングループ、デプロイインフラストラクチャ、モニタリングシステムが別々の場所に存在することが多く、あらゆる段階で摩擦が生じます。

本当の課題は、モデルを構築することだけではなく、モデルを動かし続けることです。データから本番環境へ移行し、新しい入力に適応し、増大する需要に対応し、速度を落とさず継続的に改善していく必要があります。

Ultralytics Platformで際立っているのは、この一連の流れが組み込まれている点です。各段階を別々のステップとして扱うのではなく、同じ環境内でモデルの開発、デプロイ、可観測化、更新を行える継続的なループとして接続します。

この変化によって、チームのスケーリング方法が変わります。もはやツールやインフラストラクチャをオーケストレーションすることではなく、システムの成長に合わせて勢いを維持することが重要になります。

主なポイント#

コンピュータービジョンモデルのような機械学習モデルを実世界のアプリケーションに導入するには、信頼性、スケーラビリティ、管理のしやすさが必要です。Ultralytics Platformは、モデルサービング、デプロイ、モニタリングなどのさまざまな機能を1つの統合環境に集約することで、このプロセスを簡素化します。柔軟なデプロイオプションと組み込みツールにより、チームはより少ない複雑さで、実験から本番環境へより迅速に移行できます。

詳しくは、私たちのコミュニティを確認し、GitHubリポジトリをご覧ください。ヘルスケアにおけるAIや物流におけるコンピュータービジョンなど、さまざまな用途についてはソリューションページをご覧ください。ライセンスオプションを確認して、今日から開発を始めましょう。