Ultralytics Platformがコンピュータービジョンモデルのデプロイを簡素化する方法

Ultralyticsは長年にわたりコンピュータービジョンコミュニティと連携し、ビジョンAIを誰もが利用しやすくするモデルやツールを開発してきました。Ultralytics Platformではさらに一歩進み、データセット管理やアノテーションからモデルのトレーニング、検証、デプロイまで、コンピュータービジョン開発のワークフロー全体を1つの統合環境にまとめています。

特に、コンピュータービジョンモデルのデプロイをより簡単にすることを目指しています。コンピュータービジョンが実際のアプリケーションに広がる一方で、管理された環境以外で画像や動画を分析することは、依然として複雑です。

条件を予測できるテスト環境とは異なり、実環境では照明の変化、入力の変動、予測できないワークロードが発生するため、デプロイはビジョンワークフローの中でも特に難しい工程の一つです。

デプロイとは、モデルを利用可能にするだけではありません。実環境のデータに対応できるプロセスを構築し、利用が増加してプロジェクトが拡大しても、すべてが円滑に動作するようにする必要があります。

チームはパフォーマンスを追跡し、長期にわたって信頼性を維持する必要もあります。そのためには、テスト、統合、デプロイ、監視に異なるAIツールを使い分けることが多く、モデル開発が遅れ、不必要な複雑さが加わる場合があります。

その結果、ワークフローは分断されてしまいます。Ultralytics Platformは、このプロセスを統合して簡素化します。

単一の環境で、モデルサービング、テスト、監視の機能を標準搭載しています。チームはブラウザー上の推論でモデルを検証し、共有推論サービスを通じてアプリケーションに統合し、パフォーマンス監視機能を備えた専用エンドポイントにデプロイできます。

図1. Ultralytics Platformのデプロイページ (出典)

この記事では、Ultralytics Platformがコンピュータービジョンのモデルデプロイをどのように簡素化するかを、テストや統合から本番環境へのデプロイ、監視まで解説します。それでは始めましょう。

コンピュータービジョンモデルのデプロイの概要#

機械学習のライフサイクルにおいて、モデルデプロイは、モデルを実験段階から実環境での利用へと移行させる工程です。ディープラーニングと畳み込みニューラルネットワークを使用して構築されたコンピュータービジョンモデルの場合、一般的には画像や動画をリアルタイムで処理できるようにすることを意味します。

デプロイ後、モデルは新しいデータを受け取ります。通常、そのデータにはサイズ変更、正規化、フォーマット変換などの前処理が行われます。処理済みのデータがモデルに渡され、モデルは学習中に獲得したパターンを適用して、高精度の予測を生成します。

ユースケースに応じて、さまざまなコンピュータービジョンタスクが含まれます。たとえば、Ultralytics YOLO26などのUltralytics YOLOモデルは、物体検出、インスタンスセグメンテーション、画像分類、姿勢推定、回転バウンディングボックス（OBB）検出など、幅広いビジョンタスクに対応しています。

実際のアプリケーションで活用するには、前処理と推論の両方を効率的に処理できるシステムにモデルを統合する必要があります。そこで、デプロイインフラストラクチャが不可欠になります。

本番環境では、通常、REST APIまたはモデルサービングシステムを介してモデルにアクセスします。これらのインターフェースを通じて、アプリケーションはプログラムからデータを送信し、予測を受け取れるため、リアルタイムの視覚的理解を必要とする外部アプリケーション、IoTデバイス、ロボティクスシステムとの統合が容易になります。

従来のコンピュータービジョン向けデプロイツールの限界#

コンピュータービジョンモデルのデプロイは簡単に思えるかもしれませんが、これまでは実際の運用はかなり異なっていました。一般的な構成を考えてみましょう。まず、カメラやセンサーからデータを取得し、推論のためにモデルへ送り、その後、予測としてアプリケーションに返します。

実際には、これらの各工程を別々のツールやサービスで処理することがよくあります。あるシステムがデータ取得を担当し、別のシステムがモデルサービングを管理する一方、スケーリング、監視、ログ記録にはさらに別のツールを使用します。これらのコンポーネントを連携させ、安定して稼働させることは、すぐに複雑になり得ます。

利用が増えるにつれて、この複雑さも増していきます。インフラストラクチャの管理、依存関係への対応、エンドツーエンドのパイプライン全体で一貫したパフォーマンスを維持することは、開発を遅らせ、実際のアプリケーションへのコンピュータービジョンモデルのデプロイを難しくする可能性があります。

Ultralytics Platformは、これらのコンポーネントを単一の統合環境にまとめます。これにより、デプロイワークフロー全体をより一貫した方法で管理しながら、大規模な環境でもパフォーマンスと信頼性を維持できます。

Ultralytics Platformで利用できるモデルデプロイの選択肢#

モデルデプロイのプロセスを統合するだけでなく、Ultralytics Platformはモデルのデプロイ方法や使用方法にも柔軟性をもたらします。

コンピュータービジョンモデルのデプロイにおける各段階をサポートするため、プラットフォームでは4つの選択肢を用意しています。即時推論が可能なブラウザー上でのテスト、開発向けのAPIを介した共有推論、グローバルリージョンでスケーラブルな本番デプロイを実現する専用エンドポイント、そして外部インフラストラクチャやエッジデバイスでモデルを実行するためのモデルエクスポートです。

それぞれの選択肢の仕組みを詳しく見ていきましょう。

Predictタブを使ってモデルをすばやく検証する#

モデルを本番環境に移行する前に、未学習の新しいデータに対するモデルの性能を把握することが重要です。Ultralytics PlatformにはPredictタブが標準搭載されており、セットアップ、インフラストラクチャ、依存関係なしで、ブラウザーから直接推論を実行できます。

Predictタブを使えば、モデルをすばやく対話的に検証できます。画像をアップロードしたり、事前に読み込まれたサンプルを使用したり、ウェブカメラで入力を取り込んだりでき、データが提供されるとすぐに推論が自動的に実行されます。

結果は視覚的なオーバーレイ、信頼度スコア、詳細な出力とともにすぐに表示されるため、モデルの動作を明確に把握できます。

図2. Predictタブを使ったモデル検証の例 (出典)

つまり、数回クリックするだけで、デプロイ前に単一のインターフェース上でさまざまな入力を試し、パラメーターを調整し、パフォーマンスを評価できます。

テストや少量利用向けの共有推論の実行#

モデルをトレーニングし、Predictタブで検証したとします。次のステップとして、そのモデルをアプリケーションやワークフローに統合することがよくあります。

インフラストラクチャのセットアップやサーバーの管理を行う代わりに、Ultralytics Platformが提供する共有推論サービスを使えば、シンプルなREST APIを通じてモデルにデータを送信し、予測を受け取れます。

共有推論は、内部では複数のコアリージョンにまたがるマルチテナントシステム上で実行され、リクエストは利用可能な最寄りのサービスに自動的にルーティングされます。これにより、応答性の高いパフォーマンスを維持しながら、異なる場所にいるユーザーが一貫してモデルにアクセスできます。

標準的なHTTPリクエストで入力を送信し、構造化された出力を受け取れるため、モデルをアプリケーション、スクリプト、自動化ワークフローに簡単に接続できます。この構成は、スケーラブルな本番環境へのデプロイに移行する前の開発、テスト、統合、または小規模な利用に適しています。

専用エンドポイントを通じてモデルをグローバルにデプロイする#

モデルを本番環境で利用できる状態になったら、実環境のトラフィックを確実かつ大規模に処理する必要があります。Ultralytics Platformは、モデルを専用エンドポイントで実行することで、これを実現します。モデルは42のグローバルリージョンでシングルテナントサービスとして稼働します。エンドユーザーに近い場所にデプロイすることで、レイテンシを低減し、場所を問わず一貫したパフォーマンスを維持できます。

各エンドポイントには、割り当てられた独自のコンピューティングリソースと、推論リクエスト用の固有のURLが用意されています。このレベルの制御により、軽量な用途から、より多くの計算リソースを必要とする高負荷・高スループットのアプリケーションまで、パフォーマンスの要件に応じてデプロイを簡単に調整できます。

図3. Ultralytics Platformを使用すると、42のグローバルリージョンにモデルをデプロイできます（出典）

デフォルトのリソースを使用する場合、アイドル状態の専用エンドポイントはゼロまでスケールし、新しいリクエストが届くと再起動するため、手動で操作せずにリソース使用を最適化できます。一方、カスタムサイズのエンドポイントでは、インスタンスを1つウォーム状態に保ちます。

Ultralytics Platformでモデルを簡単にエクスポートする#

現在、スマートフォン、カメラ、組み込みシステムなどのデバイス上で直接モデルを実行するアプリケーションが増えており、エッジAIの重要性が高まっています。モデルをローカルで実行すれば、画像や動画ストリームなどの機密データを外部サーバーに送信せず、デバイス上で直接処理できるため、データプライバシー要件への対応にも役立ちます。

こうしたシナリオでは、モデルをUltralytics Platformの外部で実行する必要があるため、モデルのエクスポートはデプロイプロセスの重要な要素です。Ultralytics YOLOモデルは通常、PythonとPyTorchを使って学習され、その後、ONNX、TensorRT、CoreML、OpenVINOなど、17種類以上の形式にエクスポートできます。

幅広い形式に対応することで、高性能のグラフィックス処理装置（GPUs）からモバイルデバイスや組み込みデバイスまで、多様なハードウェアとの互換性を確保できます。また、エクスポートによって、特定の環境に合わせたパフォーマンス調整も可能になります。

形式によっては、推論速度の向上が可能です。たとえば、TensorRTではGPUパフォーマンスを向上させ、ONNXやOpenVINOではCPU実行を最適化できます。FP16やINT8量子化などの選択肢を使えば、モデルサイズをさらに縮小してスループットを向上できるため、エッジへのデプロイで特に役立ちます。

Ultralytics Platformでは、エクスポート機能がワークフローに直接組み込まれているため、数回クリックするだけで最適化されたモデルをすばやく生成できます。チームは余分な作業を追加することなく、学習から外部システムでのモデル実行へ移行できます。

図4. Ultralytics Platformで選択できるエクスポート形式。

適切なモデルデプロイ方法の選択#

Ultralytics Platformの各デプロイ方法は、初期テストから本番利用まで、ワークフローの異なる段階をサポートします。それぞれの利用場面の概要を以下に示します。

• Predictタブ: 通常、トレーニングやファインチューニングの直後に使用します。ブラウザー上の推論を利用し、新しいデータに対するモデルの性能を検証できます。
• 共有推論: この段階では、APIを通じてモデルをアプリケーションに統合できるため、開発中に実環境での連携をテストできます。
• 専用エンドポイント: 一貫したパフォーマンス、専用リソース、グローバルリージョンでのスケーリングが必要な本番デプロイで使用します。
• モデルエクスポート: プラットフォーム外でモデルを実行する必要がある場合は、エクスポートすることで、エッジデバイス、モバイルアプリ、カスタムインフラストラクチャにデプロイできます。

チームは、プラットフォーム内で検証から統合、そして本番デプロイへと、こうした選択肢を段階的に活用することがよくあります。

Ultralytics Platformによるデプロイ済みモデルの監視#

デプロイは重要ですが、ビジョンパイプラインはそこで終わりではありません。モデルを本番環境で稼働させた後は、長期にわたって安定した性能を発揮できるようにするため、継続的な監視が欠かせません。

Ultralytics Platformには標準搭載の監視ツールが用意されており、チームはビジョンAIモデルの経時的な動作を明確に把握できます。また、より体系的な機械学習運用（MLOps）ワークフローをサポートします。

Deployページには、総リクエスト数、アクティブなデプロイ、応答レイテンシー、エラー率などの主要な指標を追跡するダッシュボードがあります。こうした分析情報は、チームが利用パターンを把握し、システムの応答性を評価し、さまざまなワークロードで低レイテンシーのパフォーマンスを確保するのに役立ちます。

図5. Ultralytics Platformを使えば、デプロイ済みモデルを簡単に監視できます。(出典)

各専用エンドポイントでは、個別のデプロイビューから詳細なオブザーバビリティも利用できます。これには、ログ、モデルのヘルスステータス、リアルタイムのパフォーマンスデータへのアクセスが含まれます。ログを利用すると、問題のデバッグ、失敗したリクエストの追跡、依存関係やインフラストラクチャに関する潜在的な問題の特定ができます。

本番環境の変化に伴い、入力データの変化、スケーリング需要、利用パターンの変化などが、モデルの精度や堅牢性に影響を与える可能性があります。パフォーマンス指標を継続的に監視することで、チームは異常を検知し、ボトルネックを特定して、モデルの最適化やリソース調整などの是正措置を講じ、モデルサービングの一貫性と信頼性を維持できます。

コンピュータービジョンモデルのデプロイにスケーラビリティを組み込む#

従来、コンピュータービジョンシステムのスケーリングには、連携を想定して設計されていないワークフローやフレームワークをつなぎ合わせる必要がありました。データパイプライン、トレーニングループ、デプロイインフラストラクチャ、監視システムが別々に存在することが多く、各段階で摩擦が生じていました。

本当の課題は、モデルを構築することだけではなく、データから本番環境への移行、新たな入力への適応、増大する需要への対応、そして速度を落とさずに継続的に改善することです。

Ultralytics Platformの特長は、この一連の流れが組み込まれていることです。各段階を個別の工程として扱うのではなく、モデルの開発、デプロイ、観察、更新を同じ環境内で行える継続的なループとして結び付けます。

この変化によって、チームのスケーリング方法も変わります。もはやツールやインフラストラクチャのオーケストレーションではなく、システムの成長に合わせて勢いを維持することが重要になります。

重要なポイント#

コンピュータービジョンモデルなどの機械学習モデルを実際のアプリケーションに導入するには、信頼性、スケーラビリティ、管理のしやすさが求められます。Ultralytics Platformは、モデルサービング、デプロイ、監視などの機能を統合環境にまとめることで、このプロセスを簡素化します。柔軟なデプロイ方法と標準搭載のツールを活用することで、チームは実験から本番環境へ、より迅速かつシンプルに移行できます。

詳しくは、コミュニティに参加し、GitHubリポジトリをご覧ください。医療分野のAIや物流分野のコンピュータービジョンなど、さまざまな用途についてはソリューションページをご覧ください。ライセンスの選択肢を確認して、今日から開発を始めましょう。