Scalability

スケーラビリティとは、リソースを追加することで、増加する作業量を処理するシステム、ネットワーク、またはプロセスの能力を指します。人工知能 (AI)と機械学習 (ML)の文脈では、スケーラビリティは、需要の増加に伴ってパフォーマンスレベルを維持するモデルまたはインフラストラクチャの能力を表します。この需要は通常、トレーニング時のデータセットの大規模化、推論時のユーザートラフィックの増加、または計算タスクの複雑化として現れます。スケーラブルなアーキテクチャにより、単一の組み込みデバイスへのコンピュータビジョンモデルのデプロイから、クラウドクラスターを介した数百万件の API リクエストへの対応まで、シームレスな拡張が可能になり、高負荷時でも推論レイテンシを低く維持できます。

AIにおけるスケーラビリティの重要性#

スケーラビリティを考慮した設計は、機械学習オペレーション (MLOps)を成功させるための重要な要素です。管理された研究環境では完全に機能するモデルでも、本番環境で見られる高速なデータストリームにさらされると、動作しなくなる可能性があります。ビッグデータを効果的に管理するには、水平スケーリング（クラスターにマシンを追加）または垂直スケーリング（既存のマシンにRAMやGPUなどのより大きな計算能力を追加）が可能なシステムが必要です。

スケーラブルなAIシステムの主な利点は次のとおりです。

• 信頼性: スケーラブルなシステムは、予期しないトラフィック急増時にも一貫したサービス稼働時間を確保し、重要なアプリケーションのクラッシュを防ぎます。
• コスト効率: 動的スケーリングにより、使用量が少ない期間はリソースを縮小できます。この機能は、AWSやGoogle Cloudなどのクラウドコンピューティングプラットフォームで管理されることがよくあります。
• 将来性: スケーラブルなインフラストラクチャは、ハードウェアエコシステム全体を刷新することなく、ビジョントランスフォーマー (ViT)など、より新しく複雑なアルゴリズムに対応できます。

スケーラビリティを実現するための戦略#

スケーラブルなAIソリューションの構築には、モデルアーキテクチャとデプロイインフラストラクチャの両方を最適化する必要があります。

• 分散トレーニング: トレーニングデータセットが単一のプロセッサで処理できないほど大きくなった場合、分散トレーニングによってワークロードを複数のグラフィックス処理ユニット (GPUs)に分割します。PyTorch Distributedなどのフレームワークを使用すると、開発者は計算を並列化でき、基盤モデルのトレーニングに必要な時間を大幅に短縮できます。Ultralytics Platformなどのツールは、クラウドトレーニングリソースを自動的に管理することで、このプロセスを簡素化します。
• 効率的なモデルアーキテクチャ: 適切なモデルアーキテクチャを選択することは、スループットにとって重要です。最新のUltralytics YOLO26は、前世代のモデルよりも小型かつ高速になるよう設計されており、エッジAIデバイスから大規模なサーバーファームまで、さまざまなハードウェアでネイティブにスケーラブルです。
• コンテナ化とオーケストレーション: Dockerでアプリケーションをパッケージ化すると、異なる環境間で一貫して実行できるようになります。大規模なコンテナクラスターの管理には、Kubernetesによってコンテナ化されたアプリケーションのデプロイ、スケーリング、管理を自動化できます。
• モデル最適化: モデル量子化やプルーニングなどの手法により、モデルのメモリフットプリントと計算コストを削減できます。NVIDIA TensorRTなどのツールを使用すると、推論速度をさらに高速化し、既存のハードウェアでより高いスループットを実現できます。

コード例: スケーラブルなバッチ推論#

推論時のスケーラビリティを向上させる効果的な方法の1つは、入力を逐次処理するのではなく、バッチで処理することです。これによりGPUの使用率が最大化され、全体的なスループットが向上します。

from ultralytics import YOLO

# Load a scalable YOLO26 model (smaller 'n' version for speed)
model = YOLO("yolo26n.pt")

# Define a batch of images (URLs or local paths)
# Processing multiple images at once leverages parallel computation
batch_images = ["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"]

# Run inference on the batch
results = model(batch_images)

# Print the number of detections for the first image
print(f"Detected {len(results[0].boxes)} objects in the first image.")

実世界での利用例#

スケーラビリティにより、AIテクノロジーは理論研究から世界規模の産業用ツールへと移行できます。

• スマートマニュファクチャリング: 製造業におけるAIの分野では、自動検査システムが高速な組立ライン上で1時間あたり数千個の部品を分析する必要があります。スケーラブルな物体検出システムにより、生産速度が向上しても、品質管理プロセスがボトルネックにならず、高い精度を維持できます。
• 小売レコメンデーションエンジン: 大手eコマースプラットフォームは、レコメンデーションシステムを利用して、数百万件のパーソナライズされた商品提案を瞬時に提供しています。スケーラブルなインフラストラクチャにより、これらのプラットフォームは、トラフィックが100倍に急増する可能性があるブラックフライデーのような大規模イベントにも、Microsoft Azureなどのプロバイダーを介して追加のサーバーノードを動的にプロビジョニングすることで対応できます。

スケーラビリティと関連概念の比較#

スケーラビリティはしばしば同じ意味で使われますが、パフォーマンスや効率とは異なる概念です。

• スケーラビリティとパフォーマンス: パフォーマンスは通常、特定の時点でシステムがどれだけ高速または正確であるか（例: 1秒あたりのフレーム数）を指します。スケーラビリティは、ワークロードが増加しても、そのパフォーマンスを維持するシステムの能力を表します。
• スケーラビリティと効率: 効率は、特定のタスクを完了するために使用されるリソース（例: 推論あたりのエネルギー消費量）を測定します。システムは、並列タスクを処理できなければ効率的でもスケーラブルではない場合があり、また、増加に対応するために過剰なリソースを使用すれば、スケーラブルでも非効率な場合があります。
• スケーラビリティと柔軟性: 柔軟性があると、YOLO11で検出、セグメンテーション、ポーズ推定を処理するなど、異なる種類のタスクに対応できます。スケーラビリティは、同じタスクをより多く処理することに特化しています。