머신러닝 운영 (MLOps)

MLOps(Machine Learning Operations)는 머신러닝(ML) 모델을 안정적이고 효율적으로 프로덕션 환경에 배포하고 유지 관리하기 위한 일련의 사례입니다. DevOps 원칙에서 영감을 얻어 데이터 수집 및 모델 학습에서 배포 및 모니터링에 이르기까지 전체 AI 모델 수명 주기에 유사한 개념을 적용합니다. 주요 목표는 ML 모델을 연구 프로토타입에서 강력하고 확장 가능한 프로덕션 애플리케이션으로 전환하는 데 관련된 프로세스를 자동화하고 간소화하는 것입니다. 이를 통해 모델은 초기에 우수한 성능을 보일 뿐만 아니라 새로운 데이터를 사용할 수 있게 되면서 시간이 지나도 효과를 유지할 수 있습니다.

MLOps와 관련 개념

MLOps를 관련은 있지만 구별되는 개념과 구별하는 것이 중요합니다.

• MLOps vs. AutoML: 함께 작동할 수 있지만, 중점 사항은 다릅니다. AutoML(Automated Machine Learning)은 데이터 전처리, 특징 엔지니어링 및 하이퍼파라미터 튜닝과 같은 모델 생성 프로세스 자동화에 중점을 둡니다. 반면 MLOps는 모델 배포, 모니터링 및 거버넌스와 같이 모델 구축 이후의 전체 라이프사이클을 다룹니다. AutoML은 개발 단계를 가속화하는 더 큰 MLOps 프레임워크 내의 도구로 간주할 수 있습니다.
• MLOps vs. DevOps: MLOps는 머신 러닝의 고유한 요구 사항에 맞춘 DevOps의 전문 분야입니다. DevOps는 CI/CD(Continuous Integration and Continuous Deployment)를 통해 소프트웨어 제공을 자동화하는 데 중점을 두는 반면, MLOps는 이 패러다임을 확장하여 데이터 및 모델 파이프라인을 포함합니다. 이는 데이터 드리프트, 모델 버전 관리 및 지속적인 재학습의 필요성과 같이 기존 소프트웨어 개발에서 일반적으로 발견되지 않는 문제를 해결합니다.

실제 애플리케이션

MLOps 사례는 프로덕션 환경에서 복잡한 ML 시스템을 관리하는 데 필수적입니다.

1. 추천 시스템: Netflix 또는 Spotify와 같은 회사는 새로운 사용자 상호 작용 데이터를 기반으로 추천 시스템 모델을 지속적으로 재학습하기 위해 MLOps를 사용합니다. MLOps 파이프라인을 통해 다양한 모델 버전을 A/B 테스트하고, 참여 지표를 모니터링하고, 성능이 저조한 모델을 빠르게 롤백하여 추천이 항상 최신 상태로 유지되고 개인화되도록 할 수 있습니다.
2. 사기 탐지: 금융 기관은 사기 탐지 모델을 관리하기 위해 MLOps를 배포합니다. 여기에는 새로운 사기 행위 패턴에 대한 거래 데이터 모니터링, 새로운 데이터로 모델 자동 재학습, 실시간 탐지를 위한 낮은 추론 지연 시간 보장, 규정 준수를 위한 감사 추적 유지 관리가 포함됩니다. 시각적 검사 시스템에 사용되는 Ultralytics YOLO 모델은 사기 탐지에 활용될 수 있으며, 에지 장치에서의 배포 및 모니터링을 위해 MLOps의 이점을 누릴 수 있습니다.

도구 및 플랫폼

다양한 도구가 MLOps 라이프사이클의 여러 단계를 지원하여 팀이 효율적이고 확장 가능한 워크플로를 구축할 수 있도록 합니다.

• 실험 추적 및 버전 관리: MLflow, Weights & Biases 및 Data Version Control (DVC)는 실험 추적과 데이터 및 모델 버전 관리에 널리 사용됩니다. Ultralytics는 Weights & Biases를 포함하여 이러한 도구와 기본적으로 통합됩니다.
• 워크플로 오케스트레이션: Kubeflow Pipelines 및 Apache Airflow와 같은 도구는 복잡한 ML 워크플로를 자동화하고 관리하는 데 도움이 됩니다.
• 모델 서빙: 모델을 대규모로 배포하기 위해 KServe, BentoML 및 NVIDIA Triton Inference Server와 같은 플랫폼이 널리 사용됩니다. Ultralytics 모델은 이러한 서버와의 호환성을 위해 ONNX와 같은 형식으로 내보낼 수 있습니다.
• 모니터링: Grafana와 Prometheus는 모델 성능 및 시스템 상태를 모니터링하기 위한 대시보드를 만드는 데 자주 사용됩니다.
• End-to-End 플랫폼: Amazon SageMaker, Google Cloud AI Platform, Microsoft Azure Machine Learning 및 Ultralytics HUB와 같은 포괄적인 플랫폼은 데이터 관리에서 모델 배포 및 모니터링에 이르기까지 대부분의 MLOps 단계를 다루는 통합 환경을 제공합니다. 이러한 플랫폼은 맞춤형 모델 훈련을 위한 확장 가능한 리소스를 제공하기 위해 클라우드 컴퓨팅을 활용합니다.