Scalability

확장성은 리소스를 추가하여 시스템, 네트워크 또는 프로세스가 증가하는 작업량을 처리할 수 있는 능력을 의미합니다. 인공지능 (AI) 및 머신 러닝 (ML)의 맥락에서 확장성은 수요가 증가할 때 모델 또는 인프라가 성능 수준을 유지할 수 있는 능력을 설명합니다. 이러한 수요는 일반적으로 학습 중 더 큰 데이터셋, 추론 중 더 높은 사용자 트래픽 또는 계산 작업의 복잡성 증가로 나타납니다. 확장 가능한 아키텍처를 사용하면 단일 임베디드 디바이스에 컴퓨터 비전 모델을 배포하거나 클라우드 클러스터를 통해 수백만 건의 API 요청을 처리하는 등 원활한 확장이 가능하며, 높은 부하에서도 추론 지연 시간을 낮게 유지할 수 있습니다.

AI에서 확장성의 중요성#

확장성을 고려한 설계는 성공적인 머신 러닝 운영 (MLOps)의 핵심 요소입니다. 통제된 연구 환경에서 완벽하게 작동하는 모델도 프로덕션에서 발생하는 고속 데이터 스트림에 노출되면 실패할 수 있습니다. 빅 데이터를 효과적으로 관리하려면 수평 확장(클러스터에 머신을 더 추가하는 방식) 또는 수직 확장(기존 머신에 RAM이나 GPU와 같은 성능을 추가하는 방식)이 가능한 시스템이 필요합니다.

확장 가능한 AI 시스템의 주요 장점은 다음과 같습니다.

• 신뢰성: 확장 가능한 시스템은 예기치 않은 트래픽 급증 중에도 일관된 서비스 가동 시간을 보장하여 중요 애플리케이션의 충돌을 방지합니다.
• 비용 효율성: 동적 확장을 사용하면 사용량이 적은 기간에 리소스를 축소할 수 있으며, 이는 AWS나 Google Cloud와 같은 클라우드 컴퓨팅 플랫폼에서 자주 관리되는 기능입니다.
• 미래 대비: 확장 가능한 인프라는 하드웨어 생태계를 전면 개편하지 않고도 비전 트랜스포머 (ViT)와 같은 더 새롭고 복잡한 알고리즘을 수용할 수 있습니다.

확장성을 달성하기 위한 전략#

확장 가능한 AI 솔루션을 만들려면 모델 아키텍처와 배포 인프라를 모두 최적화해야 합니다.

• 분산 학습: 학습 데이터셋이 단일 프로세서로 처리하기에 너무 커지면 분산 학습은 여러 그래픽 처리 장치 (GPUs)에 작업을 분할합니다. PyTorch Distributed와 같은 프레임워크를 사용하면 개발자가 계산을 병렬화하여 파운데이션 모델을 학습하는 데 필요한 시간을 크게 줄일 수 있습니다. Ultralytics Platform과 같은 도구는 클라우드 학습 리소스를 자동으로 관리하여 이 프로세스를 간소화합니다.
• 효율적인 모델 아키텍처: 적절한 모델 아키텍처를 선택하는 것은 처리량에 매우 중요합니다. 최신 Ultralytics YOLO26은 이전 모델보다 더 작고 빠르게 설계되어 엣지 AI 디바이스부터 대규모 서버 팜까지 다양한 하드웨어에서 기본적으로 확장 가능하게 작동합니다.
• 컨테이너화 및 오케스트레이션: Docker를 사용하여 애플리케이션을 패키징하면 서로 다른 환경에서 일관되게 실행할 수 있습니다. 대규모 컨테이너 클러스터를 관리할 때는 Kubernetes가 컨테이너화된 애플리케이션의 배포, 확장 및 관리를 자동화합니다.
• 모델 최적화: 모델 양자화 및 가지치기와 같은 기법은 모델의 메모리 사용량과 계산 비용을 줄입니다. NVIDIA TensorRT와 같은 도구를 사용하면 추론 속도를 더욱 높여 기존 하드웨어에서 더 높은 처리량을 달성할 수 있습니다.

코드 예제: 확장 가능한 배치 추론#

추론 중 확장성을 개선하는 효과적인 방법 중 하나는 입력을 순차적으로 처리하는 대신 배치 단위로 처리하는 것입니다. 이를 통해 GPU 활용률을 극대화하고 전체 처리량을 높일 수 있습니다.

from ultralytics import YOLO

# Load a scalable YOLO26 model (smaller 'n' version for speed)
model = YOLO("yolo26n.pt")

# Define a batch of images (URLs or local paths)
# Processing multiple images at once leverages parallel computation
batch_images = ["https://ultralytics.com/images/bus.jpg", "https://ultralytics.com/images/zidane.jpg"]

# Run inference on the batch
results = model(batch_images)

# Print the number of detections for the first image
print(f"Detected {len(results[0].boxes)} objects in the first image.")

실제 적용 사례#

확장성을 통해 AI 기술은 이론적 연구에서 글로벌 산업 도구로 전환될 수 있습니다.

• 스마트 제조: 제조 분야의 AI에서는 자동 검사 시스템이 고속 조립 라인에서 시간당 수천 개의 부품을 분석해야 합니다. 확장 가능한 객체 감지 시스템은 생산 속도가 증가하더라도 품질 관리 프로세스가 병목 현상 없이 높은 정확도를 유지하도록 보장합니다.
• 리테일 추천 엔진: 주요 전자상거래 플랫폼은 추천 시스템을 활용하여 수백만 건의 개인화된 제품 추천을 즉시 제공합니다. 확장 가능한 인프라를 사용하면 이러한 플랫폼은 Microsoft Azure 또는 유사한 제공업체를 통해 추가 서버 노드를 동적으로 프로비저닝하여 트래픽이 100배까지 급증할 수 있는 Black Friday와 같은 대규모 이벤트를 처리할 수 있습니다.

확장성과 관련 개념의 비교#

확장성은 흔히 성능 및 효율성과 같은 의미로 사용되지만, 이들과는 구별되는 개념입니다.

• 확장성과 성능: 성능은 일반적으로 특정 시점에 시스템이 얼마나 빠르거나 정확한지를 의미합니다(예: 초당 프레임 수). 확장성은 작업량이 증가할 때 시스템이 해당 성능을 유지할 수 있는 능력을 설명합니다.
• 확장성과 효율성: 효율성은 특정 작업을 완료하는 데 사용되는 리소스를 측정합니다(예: 추론당 에너지 소비량). 시스템은 병렬 작업을 처리할 수 없다면 효율적이지만 확장 가능하지 않을 수 있고, 성장을 처리하는 데 과도한 리소스를 사용한다면 확장 가능하지만 비효율적일 수 있습니다.
• 확장성과 유연성: 유연성은 시스템이 YOLO11에서 감지, 세그멘테이션 및 포즈 추정과 같이 서로 다른 유형의 작업을 처리할 수 있도록 합니다. 확장성은 구체적으로 동일한 작업을 더 많이 처리하는 데 중점을 둡니다.