컨테이너화

주요 개념 및 구성 요소

컨테이너화를 이해하려면 몇 가지 핵심 아이디어가 필요합니다:

• 컨테이너 이미지: 코드, 런타임, 시스템 도구, 시스템 라이브러리, 설정 등 소프트웨어를 실행하는 데 필요한 모든 것을 포함하는 경량의 독립 실행형 실행 패키지입니다. 이미지는 종종 특수 파일(예: Docker파일)의 지침에 따라 빌드됩니다.
• 컨테이너: 컨테이너 이미지의 실행 중인 인스턴스. 다른 컨테이너 및 호스트 시스템과 분리되어 실행되지만 호스트 OS 커널은 공유합니다. 동일한 호스트 시스템에서 여러 개의 컨테이너를 실행할 수 있습니다.
• Docker: 가장 널리 사용되는 컨테이너화 플랫폼으로, Docker, Inc.에서 개발했습니다. 컨테이너화된 애플리케이션을 쉽게 빌드, 공유 및 실행할 수 있는 도구를 제공합니다. Ultralytics YOLO 모델을 설정하기 위한 Docker 빠른 시작 가이드를 제공합니다.
• 컨테이너 레지스트리: 컨테이너 이미지를 저장하고 배포하기 위한 리포지토리입니다. Docker Hub는 널리 사용되는 공용 레지스트리이지만 비공개 레지스트리도 흔히 사용됩니다.
• 오케스트레이션: 컨테이너의 수명주기를 대규모로 관리하고 여러 호스트 머신에서 배포, 확장, 네트워킹 및 가용성을 처리하는 데는 Kubernetes 및 Docker Swarm 같은 도구가 사용됩니다. 클라우드 네이티브 컴퓨팅 재단(CNCF)은 컨테이너 오케스트레이션과 관련된 많은 프로젝트를 호스팅합니다.

AI/ML에서 컨테이너화의 이점

컨테이너화는 ML 및 AI 프로젝트에 상당한 이점을 제공합니다:

• 재현성: 컨테이너는 정확한 환경(라이브러리, 다음과 같은 버전의 PyTorch 또는 OpenCV와 같은 버전, 구성) 애플리케이션이나 모델을 실행하는 데 필요한 정확한 환경을 캡슐화하여 개발, 테스트, 프로덕션 간의 일관성을 보장합니다. 이는 재현 가능한 연구와 안정적인 모델 배포를 위해 매우 중요합니다.
• 종속성 관리: AI/ML 프로젝트는 수많은 라이브러리의 특정 버전에 의존하는 경우가 많습니다. 컨테이너는 이러한 종속성을 격리하여 서로 다른 프로젝트 또는 시스템 라이브러리 간의 충돌을 방지합니다.
• 확장성: 컨테이너를 빠르게 시작하고 중지할 수 있어 수요에 따라 애플리케이션을 쉽게 확장하거나 축소할 수 있으며, 이는 실시간 추론에서 다양한 워크로드를 처리하는 데 필수적인 요소입니다. 이는 컴퓨팅 확장성 요구 사항을 지원합니다.
• 이동성: 컨테이너는 개발자의 노트북부터 온프레미스 서버 또는 AWS, Google Cloud 또는 Microsoft Azure와 같은 퍼블릭 클라우드에 이르기까지 다양한 환경에서 일관되게 실행됩니다. 따라서 에지 디바이스를 비롯한 다양한 대상에 배포가 간소화됩니다. 컨테이너화를 통한 다양한 모델 배포 옵션을 살펴보세요.
• 효율성: 컨테이너는 각 인스턴스마다 별도의 OS가 필요하지 않기 때문에 VM보다 더 적은 리소스CPU, 메모리, 스토리지CPU를 사용하므로 동일한 하드웨어에 더 높은 밀도의 애플리케이션을 구축할 수 있습니다. 이는 효율적인 머신 러닝 운영(MLOps)과도 일치합니다.

컨테이너화 대 가상화

컨테이너화와 가상화는 모두 격리된 환경을 만들지만 접근 방식은 크게 다릅니다. 가상 머신(VM)은 전체 하드웨어 시스템을 에뮬레이션하여 하이퍼바이저 상에서 완전한 게스트 운영 체제를 실행합니다. 이는 강력한 격리 기능을 제공하지만 리소스 소비 측면에서 상당한 오버헤드가 발생합니다(CPU, 메모리) 및 시작 시간 측면에서 상당한 오버헤드가 발생합니다. 반대로 컨테이너는 운영 체제 자체를 가상화하여 Docker와 같은 컨테이너화 엔진을 통해 호스트 OS 커널을 공유합니다. 그 결과 훨씬 더 작은 설치 공간, 빠른 시작, 더 나은 성능을 제공합니다. 특히 빠른 확장성이 필요한 마이크로서비스나 애플리케이션을 배포하는 많은 AI/ML 작업의 경우 컨테이너가 선호되는 경우가 많습니다. 동일한 하드웨어에서 서로 다른 운영 체제를 실행해야 하거나 애플리케이션 간에 최대한의 격리가 필요한 경우에는 여전히 VM이 적합합니다.

AI/ML의 실제 애플리케이션

컨테이너화는 AI/ML 라이프사이클 전반에 걸쳐 널리 사용됩니다:

1. 객체 감지 모델 배포하기: An Ultralytics YOLO객체 감지를 위해 훈련된 모델을 Docker 컨테이너에 패키징할 수 있습니다. 이 컨테이너에는 모델 가중치, 추론 스크립트 및 필요한 모든 종속성(PyTorch, CUDA 라이브러리 등). 그런 다음 이 컨테이너를 강력한 클라우드 GPU부터 리소스 제약이 있는 에지 AI 디바이스에 이르기까지 다양한 플랫폼에 일관되게 배포하여 환경에 관계없이 모델이 예상대로 작동하도록 보장할 수 있습니다. Ultralytics 이를 용이하게 하기 위해 Docker 빠른 시작 가이드를 제공합니다.
2. NLP 모델을 마이크로서비스로 제공하기: 다음과 같은 플랫폼의 모델을 사용하여 자연어 처리(NLP) 애플리케이션을 개발하는 팀입니다. Hugging Face 와 같은 플랫폼의 모델을 사용하는 팀은 다양한 구성 요소(예: 텍스트 전처리, 모델 추론, API 엔드포인트)를 별도의 마이크로서비스로 컨테이너화할 수 있습니다. 이러한 컨테이너는 각 구성 요소를 독립적으로 확장하고 업데이트할 수 있는 Kubernetes를 사용해 관리할 수 있으며, 마이크로서비스 아키텍처 원칙에 따라 보다 탄력적이고 관리하기 쉬운 시스템 아키텍처로 이어집니다. 또한, 간소화된 모델 관리 및 배포를 위해 컨테이너화 원칙을 활용하는 Ultralytics HUB와 같은 플랫폼도 있습니다.

오픈 컨테이너 이니셔티브(OCI)와 같은 노력으로 표준화된 컨테이너화는 특히 빠르게 진화하는 AI 및 컴퓨터 비전(CV) 분야에서 최신 소프트웨어 개발 및 배포의 초석이 되었습니다.