Serverless Computing

Serverless computing is a cloud execution model that enables developers to build and run applications without the complexity of managing infrastructure. In this paradigm, the cloud provider dynamically manages the allocation and provisioning of servers, abstracting the underlying hardware and operating systems away from the user. Code is executed in stateless containers triggered by specific events, such as an HTTP request, a database modification, or a file upload. This approach is highly relevant to modern cloud computing strategies, as it allows organizations to pay only for the compute time consumed, automatically adhering to scalability requirements by expanding from zero to thousands of instances based on traffic demand.

Link to this sectionAI를 위한 서버리스 메커니즘#

서버리스 컴퓨팅의 핵심은 FaaS(Function-as-a-Service) 개념으로, 애플리케이션을 개별적인 작업을 수행하는 단위 함수로 분할하는 것입니다. 기계 학습(ML) 실무자에게 이는 모델 배포를 위한 간소화된 경로를 제공합니다. 트래픽이 적은 기간 동안 유휴 상태로 유지되는 전용 서버를 관리하는 대신, 서버리스 함수를 온디맨드 방식으로 실행하여 데이터를 처리하고 즉시 종료할 수 있습니다.

그러나 이 아키텍처에서 고려해야 할 주요 사항은 "콜드 스타트"입니다. 이는 함수가 처음 호출되거나 비활성 기간 이후에 호출될 때 발생하는 지연 시간입니다. 이를 완화하기 위해 개발자들은 YOLO26과 같은 경량 아키텍처나 모델 양자화와 같은 기술을 사용하여 빠른 로딩 시간을 보장하며, 이는 낮은 추론 지연 시간을 유지하는 데 필수적입니다.

Link to this section머신러닝에서의 실질적인 적용 사례#

서버리스 아키텍처는 이벤트 기반 컴퓨터 비전(CV) 워크플로 및 데이터 파이프라인에 특히 효과적입니다.

• 자동화된 데이터 전처리: 사용자가 Amazon S3와 같은 저장소 서비스에 원시 데이터셋을 업로드하면 서버리스 함수가 트리거되어 즉각적인 데이터 전처리를 수행할 수 있습니다. 이 함수는 데이터가 훈련 데이터 파이프라인에 들어가기 전에 이미지 크기를 조정하거나 픽셀 값을 정규화하거나 파일 형식을 검증하여 수동 개입 없이도 일관성을 유지합니다.
• 온디맨드 스마트 감시: AI 보안 분야에서 동작 센서는 카메라가 프레임을 캡처하도록 트리거할 수 있습니다. 이 이벤트는 객체 탐지 모델을 호스팅하는 클라우드 함수를 호출합니다. 모델은 이미지를 분석하여 무해한 동물과 잠재적인 침입자를 구분하고 필요할 때만 알림을 보냅니다. 이는 지속적인 스트리밍과 비교하여 대역폭 및 저장 비용을 획기적으로 줄여줍니다.

Link to this sectionPython 예제: 서버리스 추론 핸들러#

다음 코드는 개념적인 서버리스 핸들러를 보여줍니다. 이 코드는 "웜 스타트"(요청 사이에 컨테이너가 활성 상태로 유지되는 경우)를 활용하기 위해 전역 모델 인스턴스를 초기화하고 들어오는 이미지 경로를 처리합니다.

from ultralytics import YOLO

# Initialize the model outside the handler to cache it for subsequent requests
# YOLO26n is ideal for serverless due to its compact size and speed
model = YOLO("yolo26n.pt")


def lambda_handler(event, context):
    """Simulates a serverless function handler triggered by an event. 'event' represents the input payload containing
    the image source.
    """
    image_source = event.get("url", "https://ultralytics.com/images/bus.jpg")

    # Perform inference
    results = model(image_source)

    # Return prediction summary
    return {
        "statusCode": 200,
        "body": {
            "objects_detected": len(results[0].boxes),
            "top_class": results[0].names[int(results[0].boxes.cls[0])] if len(results[0].boxes) > 0 else "None",
        },
    }

Link to this section관련 기술 구분하기#

서버리스 컴퓨팅을 이해하려면 MLOps에서 자주 사용되는 다른 인프라 모델과 차별화해야 합니다.

• 서버리스 vs. 엣지 컴퓨팅: 두 기술 모두 효율성 최적화를 목표로 하지만 작동 위치가 다릅니다. 엣지 컴퓨팅은 네트워크 이동 시간을 최소화하기 위해 장치(예: 스마트 카메라 또는 IoT 장치)에서 로컬로 데이터를 처리합니다. 서버리스 컴퓨팅은 중앙 집중식 퍼블릭 클라우드에서 발생합니다. 하이브리드 솔루션은 종종 엣지에서 초기 데이터를 처리하고 복잡한 이상 징후는 심층적인 의료 영상 분석이나 법의학적 검토를 위해 서버리스 클라우드 함수로 전송합니다.
• 서버리스 vs. Kubernetes: Kubernetes는 컨테이너화를 위한 오케스트레이션 플랫폼으로, 개발자에게 클러스터 환경, 네트워킹 및 파드에 대한 세밀한 제어 권한을 제공합니다. 강력하지만 상당한 관리 오버헤드가 필요합니다. Google Cloud Functions 또는 Azure Functions와 같은 서버리스 플랫폼은 이러한 오케스트레이션을 완전히 추상화하여 팀이 노드의 상태보다는 코드 로직에만 집중할 수 있도록 합니다.
• 서버리스 vs. IaaS: IaaS(Infrastructure-as-a-Service)는 Amazon EC2와 같이 인터넷을 통해 가상화된 컴퓨팅 리소스를 제공합니다. IaaS를 사용하면 사용자가 운영 체제 패치 및 미들웨어 관리를 책임져야 합니다. 반면, 서버리스 컴퓨팅은 이러한 운영 책임을 제거하여 개발자가 이미지 분류 정확도 향상과 같은 더 높은 수준의 작업에 집중할 수 있게 합니다.

개발자는 서버리스 아키텍처를 활용하여 비용 효율적이고 예측할 수 없는 워크로드를 처리할 수 있는 강력한 AI 솔루션을 배포할 수 있으며, Ultralytics Platform과 같은 도구를 사용하여 배포 전 모델 훈련 및 관리 프로세스를 간소화할 수 있습니다.