확장성

인공 지능(AI)과 머신 러닝(ML)에서 확장성은 증가하는 작업량을 효율적으로 처리하는 시스템의 능력 또는 이러한 증가를 수용하기 위해 확장할 수 있는 잠재력을 의미합니다. 확장 가능한 시스템은 처리량이나 추론 지연 시간 등의 성능 수준을 유지하거나 개선할 수 있으며, 더 큰 운영 요구 사항에 의해 테스트될 수 있습니다. 이러한 요구는 데이터 볼륨, 동시 사용자 수의 증가 또는 단순한 객체 감지에서 복잡한 인스턴스 세분화로의 전환과 같은 계산 작업의 복잡성에서 비롯될 수 있습니다.

확장성이 중요한 이유는 무엇인가요?

확장성은 견고하고 미래 지향적인 AI 시스템을 구축하기 위한 중요한 아키텍처 고려 사항입니다. 확장성이 없으면 프로토타입에서는 잘 작동하는 모델이 프로덕션 환경에서는 실패할 수 있습니다. 확장성이 중요한 주요 이유로는 계속 증가하는 데이터 양(빅데이터)을 처리하고, 증가하는 사용자 기반을 지원하며, 시스템을 완전히 재설계할 필요 없이 더 복잡한 문제에 적응하는 것을 들 수 있습니다. 처음부터 확장성을 고려하여 설계하면 AI 애플리케이션이 안정적이고 비용 효율적이며 성장하는 동안에도 긍정적인 사용자 경험을 유지할 수 있습니다. 이는 효과적인 머신 러닝 운영(MLOps)의 핵심 원칙입니다.

확장성을 달성하는 방법

확장 가능한 AI 시스템을 구축하려면 데이터 처리, 모델 학습 및 배포를 다루는 여러 가지 전략을 조합해야 합니다.

• 분산 시스템: 대규모 데이터 세트와 복잡한 모델의 경우, 분산 학습은 여러 프로세서 또는 머신에 걸쳐 계산 부하를 분산시킵니다. Apache Spark와 같은 프레임워크와 데이터 병렬 처리 및 모델 병렬 처리와 같은 기술이 이 접근 방식의 기본입니다.
• 효율적인 모델 아키텍처: 모델 아키텍처의 선택은 확장성에 큰 영향을 미칩니다. Ultralytics YOLO11과 같은 모델은 정확도와 속도 간의 강력한 균형을 제공하도록 설계되어 경량 엣지 디바이스에서 강력한 클라우드 서버에 이르기까지 효과적으로 확장할 수 있습니다.
• 클라우드 컴퓨팅 및 컨테이너화: AWS(Amazon Web Services) 및 Google Cloud와 같은 클라우드 컴퓨팅 플랫폼은 필요에 따라 확장할 수 있는 탄력적인 리소스를 제공합니다. Docker와 같은 컨테이너화 기술과 Kubernetes와 같은 오케스트레이션 플랫폼은 모델 배포를 간소화하고 확장을 더욱 쉽게 관리할 수 있게 해줍니다.
• 모델 최적화: 모델 정량화 및 모델 가지치기와 같이 모델 효율성을 개선하는 기술은 추론에 필요한 계산 리소스를 줄여 확장성에 중요한 역할을 합니다.

실제 애플리케이션

1. 소매업의 AI: 이커머스 플랫폼은 추천 시스템을 사용하여 수백만 명의 사용자에게 상품을 제안합니다. 이 시스템은 세일 이벤트 기간 동안 급증하는 트래픽을 처리하고, 지속적으로 증가하는 제품 카탈로그를 처리하며, 실시간 사용자 행동을 통합할 수 있도록 확장되어야 합니다. 이를 위해서는 대량의 요청과 방대한 양의 데이터를 모두 처리할 수 있는 확장 가능한 아키텍처가 필요합니다.
2. 스마트 제조: 공장에서 컴퓨터 비전 시스템은 생산 라인에서 품질 관리를 수행합니다. 공장의 생산량이 증가함에 따라 비전 시스템은 정확도를 유지하면서 분당 더 많은 품목을 분석할 수 있도록 확장되어야 합니다. YOLO11로 구동되는 시스템과 같은 확장 가능한 시스템은 증가하는 생산량을 처리하고 일관된 실시간 추론을 보장할 수 있습니다.

확장성 대 관련 개념

확장성을 유사한 용어와 구별하는 것이 중요합니다:

• 성능: 성능은 일반적으로 시스템이 특정 부하에서 작업을 얼마나 잘 실행하는지를 의미하며, 속도나 정확도와 같은 메트릭으로 측정하는 경우가 많습니다. 그러나 확장성은 부하가 증가함에 따라 성능을 유지하거나 부드럽게 조정하는 시스템의 능력에 중점을 둡니다. 시스템이 낮은 부하에서는 성능이 뛰어나지만 부하가 높아지면 성능이 빠르게 저하되면 확장성이 떨어질 수 있습니다.
• 효율성: 효율성: 효율성은 작업을 수행하기 위한 리소스(예: 계산, 메모리, 에너지)의 최적 사용과 관련이 있습니다. 확장 가능한 시스템은 종종 효율적으로 설계되지만, 확장성은 특히 워크로드 증가를 처리하는 데 중점을 두는 반면 효율성은 주어진 규모에서의 리소스 소비에 초점을 맞춥니다. 모델 최적화 기술은 효율성을 개선하여 확장성을 지원합니다.
• 유연성/다양성: 유연성은 다양한 작업, 데이터 유형 또는 요구사항에 적응할 수 있는 시스템의 능력을 의미합니다. 예를 들어, Ultralytics YOLOv8은 탐지, 세분화, 분류 및 포즈 추정을 지원하므로 다용도로 사용할 수 있습니다. 반면 확장성은 작업의 유형이 아니라 작업의 양이나 복잡성의 증가를 처리하는 것입니다.