Scalability

スケーラビリティとは、リソースを追加することで、システム、ネットワーク、またはプロセスが急増する作業量を処理する能力を指します。人工知能 (AI) および 機械学習 (ML) の文脈において、スケーラビリティは、需要の増加に伴いパフォーマンスレベルを維持するモデルやインフラストラクチャの能力を説明します。この需要は通常、トレーニング中のより大きなデータセット、推論中のより高いユーザー トラフィック、または計算タスクの複雑性の増大として現れます。スケーラブルなアーキテクチャにより、コンピュータビジョン モデルを単一のエッジデバイスにデプロイする場合でも、クラウドクラスターを介して数百万の API リクエストを処理する場合でもシームレスな拡張が可能になり、高負荷の下でも 推論レイテンシ が低く維持されます。

AIにおけるスケーラビリティの重要性#

スケーラビリティを考慮した設計は、成功する 機械学習運用 (MLOps) の重要な要素です。制御された研究環境で完全に機能するモデルは、本番環境で見られる高速データストリームにさらされると失敗する可能性があります。ビッグデータ を効果的に管理するには、水平方向（クラスターへのマシンの追加）または垂直方向（既存のマシンへの RAM や GPU などのパワーの追加）にスケールできるシステムが必要です。

スケーラブルなAIシステムの主な利点は以下の通りです。

• 信頼性: スケーラブルなシステムは、予期せぬトラフィックの急増時でも一貫したサービスの稼働時間を保証し、重要なアプリケーションでのクラッシュを防ぎます。
• コスト効率: 動的スケーリングにより、使用量が少ない期間にリソースを縮小できます。この機能は、AWS や Google Cloud などの クラウドコンピューティング プラットフォームによって管理されることがよくあります。
• 将来への適合性: スケーラブルなインフラストラクチャは、ハードウェアエコシステムの完全な刷新を必要とせずに、ビジョンTransformer (ViT) などのより新しく複雑なアルゴリズムに対応します。

スケーラビリティを実現するための戦略#

スケーラブルなAIソリューションの構築には、モデルアーキテクチャとデプロイインフラストラクチャの両方の最適化が含まれます。

• 分散学習: トレーニングデータセットが単一のプロセッサにとって大きすぎる場合、分散学習 は複数の グラフィックス処理装置 (GPU) にワークロードを分散します。PyTorch Distributed などのフレームワークにより、開発者は計算を並列化でき、基盤モデルのトレーニングに必要な時間を大幅に短縮できます。Ultralytics Platform などのツールは、クラウドトレーニングリソースを自動的に管理することで、このプロセスを簡素化します。
• 効率的なモデルアーキテクチャ: スループットには、適切なモデルアーキテクチャを選択することが不可欠です。最新の Ultralytics YOLO26 は、従来のものよりも小型で高速になるように設計されており、エッジAI デバイスから大規模なサーバーファームまで、さまざまなハードウェアでネイティブに拡張可能です。
• コンテナ化とオーケストレーション: Docker でアプリケーションをパッケージ化すると、異なる環境で一貫して実行できるようになります。大規模なコンテナクラスターを管理するために、Kubernetes はコンテナ化されたアプリケーションのデプロイ、スケーリング、および管理を自動化します。
• モデルの最適化: モデル量子化 や プルーニング などのテクニックにより、モデルのメモリフットプリントと計算コストが削減されます。NVIDIA TensorRT などのツールは、推論速度をさらに加速し、既存のハードウェアでのより高いスループットを可能にします。

コード例: スケーラブルなバッチ推論#

推論時のスケーラビリティを向上させる効果的な方法の一つとして、入力を逐次処理するのではなくバッチで処理することが挙げられます。これにより、GPUの利用率が最大化され、全体的なスループットが向上します。

from ultralytics import YOLO

# Load a scalable YOLO26 model (smaller 'n' version for speed)
model = YOLO("yolo26n.pt")

# Define a batch of images (URLs or local paths)
# Processing multiple images at once leverages parallel computation
batch_images = ["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"]

# Run inference on the batch
results = model(batch_images)

# Print the number of detections for the first image
print(f"Detected {len(results[0].boxes)} objects in the first image.")

実社会での応用#

スケーラビリティにより、AI技術は理論的な研究から世界規模の産業ツールへと移行することが可能になります。

• スマート製造: 製造業におけるAI の分野では、自動検査システムが高速組立ラインで毎時数千の部品を分析する必要があります。スケーラブルな 物体検出 システムにより、生産速度が向上しても、品質管理プロセスがボトルネックになることなく高い 精度 を維持できます。
• リテール向けレコメンデーションエンジン: 大手Eコマースプラットフォームは、レコメンデーションシステム を利用して、何百万ものパーソナライズされた商品提案を瞬時に提供します。スケーラブルなインフラストラクチャにより、Microsoft Azure や同様のプロバイダーを介して追加のサーバーノードを動的にプロビジョニングすることで、トラフィックが100倍に急増するブラックフライデーなどの大規模なイベントをこれらのプラットフォームで処理できるようになります。

スケーラビリティと関連概念の比較#

これらはしばしば混同されて使われますが、スケーラビリティはパフォーマンスや効率とは明確に区別されます。

• スケーラビリティ対パフォーマンス: パフォーマンス は通常、特定の瞬間におけるシステムの速度や精度（例：1秒あたりのフレーム数）を指します。スケーラビリティは、ワークロードが増加してもそのパフォーマンスを維持するシステムの能力を説明します。
• スケーラビリティと効率の比較: 効率は、特定のタスクを完了するために使用されるリソース（例: 推論1回あたりのエネルギー消費量）を測定します。システムは効率的であってもスケーラブルではない場合（並列タスクを処理できない場合）もあれば、スケーラブルであっても非効率的である場合（成長に対応するために過剰なリソースを使用する場合）もあります。
• スケーラビリティ対柔軟性: 柔軟性により、YOLO11 が検出、セグメンテーション、ポーズ推定を処理するように、システムがさまざまな種類のタスクを処理できるようになります。スケーラビリティは、同じタスクをより多く処理することに特化しています。