확장성

인공 지능(AI) 및 머신 러닝(ML)에서 확장성은 증가하는 작업량을 효율적으로 처리하거나 해당 증가를 수용하기 위해 확장될 수 있는 시스템의 능력을 의미합니다. 확장 가능한 시스템은 데이터 볼륨 증가, 동시 사용자 수 또는 단순한 객체 감지에서 복잡한 인스턴스 분할로 이동하는 것과 같은 계산 작업의 복잡성 증가로 인해 테스트할 때 처리량 또는 추론 지연 시간과 같은 성능 수준을 유지하거나 향상시킬 수 있습니다.

확장성이 중요한 이유는 무엇인가?

확장성은 강력하고 미래 지향적인 AI 시스템을 구축하기 위한 중요한 아키텍처 고려 사항입니다. 확장성이 없으면 프로토타입 제작 중에는 성능이 좋았던 모델도 프로덕션 환경에서는 실패할 수 있습니다. 확장성이 중요한 주된 이유는 끊임없이 증가하는 데이터 볼륨(빅 데이터)을 처리하고, 증가하는 사용자 기반을 지원하며, 전체 시스템을 재설계하지 않고도 더 복잡한 문제에 적응할 수 있기 때문입니다. 처음부터 확장을 고려하여 설계하면 AI 애플리케이션이 안정적이고 비용 효율적이며, 성장함에 따라 긍정적인 사용자 경험을 유지할 수 있습니다. 이는 효과적인 MLOps(Machine Learning Operations)의 핵심 원칙입니다.

확장성(Scalability)을 달성하는 방법

확장 가능한 AI 시스템 구축에는 데이터 처리, 모델 학습 및 배포를 다루는 전략의 조합이 포함됩니다.

• 분산 시스템: 대규모 데이터 세트 및 복잡한 모델의 경우 분산 학습은 계산 부하를 여러 프로세서 또는 시스템에 분산시킵니다. Apache Spark와 같은 프레임워크와 데이터 병렬 처리 및 모델 병렬 처리와 같은 기술은 이 접근 방식의 기본입니다.
• 효율적인 모델 아키텍처: 모델 아키텍처의 선택은 확장성에 큰 영향을 미칩니다. Ultralytics YOLO11과 같은 모델은 정확도와 속도의 강력한 균형을 제공하도록 설계되어 경량 에지 장치에서 강력한 클라우드 서버로 효과적으로 확장할 수 있습니다.
• 클라우드 컴퓨팅 및 컨테이너화: Amazon Web Services(AWS) 및 Google Cloud와 같은 클라우드 컴퓨팅 플랫폼은 필요에 따라 확장할 수 있는 탄력적인 리소스를 제공합니다. Docker와 같은 컨테이너화 기술과 Kubernetes와 같은 오케스트레이션 플랫폼은 모델 배포를 간소화하고 확장을 더 쉽게 관리할 수 있도록 합니다.
• 모델 최적화: 모델 양자화 및 모델 가지치기와 같이 모델 효율성을 향상시키는 기술은 추론에 필요한 계산 리소스를 줄여 확장성에 매우 중요합니다.

실제 애플리케이션

1. 소매 분야의 AI: 전자 상거래 플랫폼은 수백만 명의 사용자에게 제품을 추천하기 위해 추천 시스템을 사용합니다. 이 시스템은 판매 이벤트 중 트래픽 급증을 처리하고, 끊임없이 증가하는 제품 카탈로그를 처리하고, 실시간 사용자 행동을 통합하도록 확장되어야 합니다. 이를 위해서는 많은 양의 요청과 방대한 양의 데이터를 모두 처리할 수 있는 확장 가능한 아키텍처가 필요합니다.
2. 스마트 제조: 공장에서 컴퓨터 비전 시스템이 생산 라인에서 품질 관리를 수행합니다. 공장의 생산량이 증가함에 따라 비전 시스템은 정확도를 희생하지 않고 분당 더 많은 품목을 분석할 수 있도록 확장되어야 합니다. YOLO11로 구동되는 확장 가능한 시스템은 증가하는 생산량을 처리하고 일관된 실시간 추론을 보장할 수 있습니다.

확장성 vs. 관련 개념

확장성을 유사한 용어와 구별하는 것이 중요합니다.

• 성능: 성능은 일반적으로 시스템이 특정 부하에서 작업을 얼마나 잘 수행하는지를 나타내며, 종종 속도 또는 정확도와 같은 지표로 측정됩니다. 그러나 확장성은 부하가 증가함에 따라 시스템이 성능을 유지하거나 정상적으로 조정하는 능력에 중점을 둡니다. 시스템은 낮은 부하에서 높은 성능을 가질 수 있지만 더 높은 부하에서 빠르게 저하되면 확장성이 떨어집니다.
• 효율성: 효율성은 작업을 수행하기 위한 리소스(계산, 메모리, 에너지 등)의 최적 사용과 관련됩니다. 확장 가능한 시스템은 종종 효율적으로 설계되지만, 확장성은 특히 작업량의 증가를 처리하는 데 중점을 두는 반면, 효율성은 주어진 규모에서 리소스 소비에 중점을 둡니다. 모델 최적화 기술은 효율성을 향상시켜 확장성을 지원합니다.
• 유연성/다재다능함: 유연성은 다양한 작업, 데이터 유형 또는 요구 사항에 적응하는 시스템의 능력을 의미합니다. 예를 들어, Ultralytics YOLOv8은 다재다능하며 탐지, 분할, 분류 및 포즈 추정을 지원합니다. 대조적으로 확장성은 작업의 양 또는 복잡성 증가를 처리하는 것에 대한 것이지 작업 유형에 대한 것이 아닙니다.