Serverless Computing

サーバーレスコンピューティングは、開発者がインフラストラクチャの管理の複雑さを伴わずにアプリケーションを構築および実行できるようにするクラウド実行モデルです。このパラダイムでは、クラウドプロバイダーがサーバーの割り当てとプロビジョニングを動的に管理し、基盤となるハードウェアやオペレーティングシステムをユーザーから抽象化します。コードは、HTTPリクエスト、データベースの変更、ファイルのアップロードなどの特定のイベントによってトリガーされるステートレスコンテナで実行されます。このアプローチは、トラフィックの需要に応じてゼロから数千のインスタンスに拡張することでスケーラビリティの要件に自動的に適応し、消費されたコンピュート時間に対してのみ組織が支払うことを可能にするため、現代のクラウドコンピューティング戦略において非常に重要です。

AIにおけるサーバーレスの仕組み#

サーバーレスコンピューティングの核心にあるのは、Function-as-a-Service (FaaS)の概念であり、ここではアプリケーションが個別のタスクを実行する個々の機能に分割されます。Machine Learning (ML)の実践者にとって、これはモデルデプロイに向けた効率的な道筋を提供します。トラフィックが少ない期間にアイドル状態になる専用サーバーを維持する代わりに、サーバーレス関数はオンデマンドで起動してデータを処理し、直後にシャットダウンすることができます。

ただし、このアーキテクチャにおける重要な考慮事項は、「コールドスタート」、つまり関数が初めて呼び出されたときや非アクティブ期間の後に発生するレイテンシです。これを軽減するために、開発者はYOLO26のような軽量アーキテクチャやモデル量子化のようなテクニックを使用して迅速な読み込み時間を確保することが多く、これは低い推論レイテンシを維持するために不可欠です。

機械学習における実世界の応用#

サーバーレスアーキテクチャは、イベント駆動型のコンピュータビジョン (CV)ワークフローやデータパイプラインに特に効果的です。

• 自動化されたデータ前処理: ユーザーが生データセットをAmazon S3のようなストレージサービスにアップロードすると、サーバーレス関数をトリガーして即座にデータ前処理を実行できます。この関数は、データが学習データパイプラインに入る前に、画像のサイズ変更、ピクセル値の正規化、またはファイル形式の検証を行い、手動の介入なしで一貫性を確保します。
• オンデマンドのスマート監視: AI in Securityにおいて、モーションセンサーがカメラにフレームのキャプチャをトリガーできます。このイベントは、物体検出モデルをホストするクラウド関数を呼び出します。モデルは画像を分析して無害な動物と潜在的な侵入者を区別し、必要な場合にのみアラートを送信します。これにより、連続ストリーミングと比較して帯域幅とストレージのコストが大幅に削減されます。

Pythonの例: サーバーレス推論ハンドラー#

以下のコードは、概念的なサーバーレスハンドラーを示しています。これはグローバルなモデルインスタンスを初期化して「ウォームスタート」（コンテナがリクエスト間でアクティブな状態を維持すること）を活用し、入力された画像のパスを処理します。

from ultralytics import YOLO

# Initialize the model outside the handler to cache it for subsequent requests
# YOLO26n is ideal for serverless due to its compact size and speed
model = YOLO("yolo26n.pt")


def lambda_handler(event, context):
    """Simulates a serverless function handler triggered by an event. 'event' represents the input payload containing
    the image source.
    """
    image_source = event.get("url", "https://ultralytics.com/images/bus.jpg")

    # Perform inference
    results = model(image_source)

    # Return prediction summary
    return {
        "statusCode": 200,
        "body": {
            "objects_detected": len(results[0].boxes),
            "top_class": results[0].names[int(results[0].boxes.cls[0])] if len(results[0].boxes) > 0 else "None",
        },
    }

関連技術の区別#

サーバーレスコンピューティングを理解するには、MLOpsでよく使用される他のインフラストラクチャモデルと区別する必要があります。

• サーバーレス対エッジコンピューティング: どちらも効率の最適化を目指していますが、異なる場所で動作します。エッジコンピューティングは、ネットワークの移動時間を最小限に抑えるために、デバイス（スマートカメラやIoTデバイスなど）上でローカルにデータを処理します。サーバーレスコンピューティングは、一元化されたパブリッククラウドで行われます。ハイブリッドソリューションでは、初期データをエッジで処理し、複雑な異常をサーバーレスのクラウド関数に送信して、より深い医療画像解析やフォレンジックレビューを行います。
• サーバーレス対Kubernetes: Kubernetesは、開発者にクラスター環境、ネットワーク、およびポッドに対するきめ細かい制御を提供するコンテナ化のためのオーケストレーションプラットフォームです。強力ではありますが、多大な管理オーバーヘッドが必要です。Google Cloud FunctionsやAzure Functionsなどのサーバーレスプラットフォームは、このオーケストレーションを完全に抽象化し、チームがノードの健全性ではなくコードのロジックだけに集中できるようにします。
• サーバーレス対IaaS: Infrastructure-as-a-Service (IaaS)は、Amazon EC2のように、インターネットを介して仮想化されたコンピューティングリソースを提供します。IaaSでは、ユーザーがオペレーティングシステムのパッチ適用やミドルウェアの管理を行う責任を負います。対照的に、サーバーレスコンピューティングはこれらの運用上の責任を排除し、開発者が画像分類の精度向上のようにより高レベルのタスクに集中できるようにします。

サーバーレスアーキテクチャを活用することで、開発者はコスト効率が高く予測不可能なワークロードを処理できる堅牢なAIソリューションを展開でき、デプロイ前のモデルの学習と管理のプロセスを合理化するためにUltralytics Platformなどのツールを利用できます。