Ultralytics Platform이 컴퓨터 비전 모델 배포를 간소화하는 방법

Ultralytics는 수년간 컴퓨터 비전 커뮤니티와 협력하며 비전 AI를 누구나 더 쉽게 활용할 수 있도록 지원하는 모델과 도구를 개발해 왔습니다. Ultralytics Platform을 통해 데이터셋 관리와 어노테이션부터 모델 학습, 검증, 배포에 이르는 전체 컴퓨터 비전 개발 워크플로를 하나의 통합 환경으로 제공하여 한 단계 더 발전시켰습니다.

특히 컴퓨터 비전 모델 배포를 더 쉽게 만들 수 있게 되어 기쁘게 생각합니다. 컴퓨터 비전이 실제 애플리케이션에 점점 더 많이 활용되고 있지만, 통제된 환경 밖에서 이미지와 비디오를 분석하는 작업은 여전히 복잡합니다.

조건을 예측할 수 있는 테스트 설정과 달리 실제 환경에서는 조명이 달라지고 입력이 변하며 워크로드를 예측하기 어렵기 때문에 배포는 비전 워크플로에서 가장 까다로운 부분 중 하나가 됩니다.

배포는 단순히 모델을 사용할 수 있게 만드는 것 이상의 작업입니다. 실제 데이터를 처리할 수 있는 프로세스를 설정하고, 사용량과 프로젝트 규모가 증가해도 모든 요소가 원활하게 실행되도록 해야 합니다.

또한 팀은 시간에 따른 성능을 추적하고 안정성을 유지해야 합니다. 이를 위해 테스트, 통합, 배포, 모니터링에 서로 다른 AI 도구를 사용하는 경우가 많으며, 이로 인해 모델 개발이 느려지고 불필요한 복잡성이 추가될 수 있습니다.

결국 워크플로가 단편화됩니다. Ultralytics Platform은 이 프로세스를 통합하고 간소화합니다.

하나의 환경에서 모델 서빙, 테스트, 모니터링을 기본적으로 지원합니다. 팀은 브라우저 기반 추론으로 모델을 검증하고, 공유 추론 서비스를 통해 애플리케이션에 통합하며, 성능 모니터링 기능을 갖춘 전용 엔드포인트에 배포할 수 있습니다.

그림 1. Ultralytics Platform의 배포 페이지 (출처)

이 글에서는 테스트와 통합부터 프로덕션 배포 및 모니터링에 이르기까지 Ultralytics Platform이 컴퓨터 비전 모델 배포를 어떻게 새롭게 정의하는지 살펴보겠습니다. 시작해 보겠습니다!

컴퓨터 비전 모델 배포 개요#

머신러닝 수명 주기에서 모델 배포는 모델이 실험 단계에서 실제 사용 단계로 전환되는 과정입니다. 딥러닝과 합성곱 신경망을 사용해 구축한 컴퓨터 비전 모델의 경우 일반적으로 이미지와 비디오를 실시간으로 처리할 수 있도록 만드는 것을 의미합니다.

배포된 모델은 새로운 데이터를 입력받으며, 데이터는 일반적으로 크기 조정, 정규화, 형식 변환과 같은 전처리 단계를 거칩니다. 그런 다음 처리된 데이터가 모델에 전달되고, 모델은 학습 중 습득한 패턴을 적용하여 정밀도 높은 예측을 생성합니다.

사용 사례에 따라 여기에는 다양한 컴퓨터 비전 태스크가 포함될 수 있습니다. 예를 들어 Ultralytics YOLO26과 같은 Ultralytics YOLO 모델은 객체 탐지, 이미지 분류, 인스턴스 세그멘테이션, 포즈 추정, 방향성 바운딩 박스(OBB) 탐지를 비롯한 광범위한 비전 태스크를 지원합니다.

이를 실제 애플리케이션에서 활용하려면 전처리와 추론을 모두 효율적으로 처리할 수 있는 시스템에 모델을 통합해야 하는 경우가 많습니다. 이때 배포 인프라가 필수적입니다.

프로덕션 환경에서는 일반적으로 REST API 또는 모델 서빙 시스템을 통해 모델에 액세스합니다. 이러한 인터페이스를 사용하면 애플리케이션에서 프로그래밍 방식으로 데이터를 전송하고 예측을 받을 수 있으므로, 실시간 시각적 이해에 의존하는 외부 애플리케이션, IoT 디바이스 또는 로보틱스 시스템과 쉽게 통합할 수 있습니다.

기존 컴퓨터 비전 배포 도구의 한계#

컴퓨터 비전 모델 배포는 간단해 보일 수 있지만, 지금까지 실제 구현 방식은 상당히 달랐습니다. 일반적인 설정을 생각해 보겠습니다. 먼저 카메라나 센서에서 데이터를 캡처하고, 모델로 보내 추론한 다음, 예측 결과를 애플리케이션으로 반환합니다.

실제로 이러한 각 단계는 별도의 도구와 서비스에서 처리되는 경우가 많습니다. 한 시스템은 데이터 캡처를 담당하고, 다른 시스템은 모델 서빙을 관리하며, 추가 도구는 확장, 모니터링, 로깅에 사용됩니다. 이러한 구성 요소를 연결하고 안정적으로 실행하는 일은 빠르게 복잡해질 수 있습니다.

사용량이 증가하면 이러한 복잡성도 커집니다. 인프라를 관리하고 종속성을 처리하며 엔드투엔드 파이프라인 전반에서 일관된 성능을 유지하는 작업은 개발을 늦추고 실제 애플리케이션에 컴퓨터 비전 모델을 배포하기 어렵게 만들 수 있습니다.

Ultralytics Platform은 이러한 구성 요소를 하나의 통합 환경으로 결합합니다. 이를 통해 전체 배포 워크플로를 더욱 일관된 방식으로 관리하면서 규모에 따른 성능과 안정성을 지원할 수 있습니다.

Ultralytics Platform이 지원하는 모델 배포 옵션#

Ultralytics Platform은 모델 배포 프로세스를 통합할 뿐만 아니라 모델을 배포하고 사용하는 방식에 유연성도 제공합니다.

컴퓨터 비전 모델 배포의 다양한 단계를 지원하기 위해 플랫폼은 네 가지 옵션을 제공합니다. 즉시 추론을 지원하는 브라우저 기반 테스트, 개발을 위한 API 기반 공유 추론, 전 세계 리전에 걸친 확장 가능한 프로덕션 배포를 위한 전용 엔드포인트, 외부 인프라 또는 엣지 디바이스에서 모델을 실행하기 위한 모델 내보내기입니다.

이제 각 옵션의 작동 방식을 자세히 살펴보겠습니다.

Predict 탭을 사용해 신속하게 모델 검증하기#

모델을 프로덕션으로 전환하기 전에 새롭고 보지 못한 데이터에서 모델이 어떻게 작동하는지 파악하는 것이 중요합니다. Ultralytics Platform에는 설정, 인프라, 종속성 없이 브라우저에서 직접 추론을 실행할 수 있는 기본 제공 Predict 탭이 포함되어 있습니다.

Predict 탭을 사용하면 모델 검증을 빠르고 대화형으로 수행할 수 있습니다. 이미지를 업로드하거나 미리 로드된 예제를 사용하거나 웹캠으로 입력을 캡처할 수 있으며, 데이터가 제공되는 즉시 추론이 자동으로 실행됩니다.

시각적 오버레이, 신뢰도 점수, 상세한 출력이 포함된 결과가 즉시 표시되므로 모델의 동작을 명확하게 파악할 수 있습니다.

그림 2. Predict 탭을 사용한 모델 검증 예시 (출처)

즉, 몇 번의 클릭만으로 다양한 입력을 테스트하고 파라미터를 조정하며 배포를 진행하기 전에 하나의 인터페이스에서 성능을 평가할 수 있습니다.

테스트 또는 가벼운 사용을 위한 공유 추론 실행#

모델을 학습하고 Predict 탭을 사용해 검증했다고 가정해 보겠습니다. 다음 단계는 대개 해당 모델을 애플리케이션이나 워크플로에 통합하는 것입니다.

Ultralytics Platform은 인프라를 설정하거나 서버를 관리하는 대신 간단한 REST API를 통해 모델에 데이터를 보내고 예측을 받을 수 있는 공유 추론 서비스를 제공합니다.

공유 추론은 백그라운드에서 몇몇 핵심 리전에 걸친 멀티 테넌트 시스템에서 실행되며, 요청은 사용 가능한 가장 가까운 서비스로 자동 라우팅됩니다. 이를 통해 응답성이 높은 성능을 유지하고 서로 다른 위치의 사용자가 모델에 일관되게 액세스할 수 있습니다.

표준 HTTP 요청을 사용해 입력을 보내고 구조화된 출력을 받을 수 있으므로 모델을 애플리케이션, 스크립트 또는 자동화 워크플로에 쉽게 연결할 수 있습니다. 이 설정은 개발, 테스트, 통합 또는 더 확장 가능한 프로덕션 배포로 전환하기 전의 가벼운 사용에 적합합니다.

전용 엔드포인트를 통해 전 세계에 모델 배포하기#

모델이 프로덕션에 사용할 준비가 되면 실제 트래픽을 안정적으로 대규모 처리할 수 있어야 합니다. Ultralytics Platform은 모델을 43개 글로벌 리전에 걸친 단일 테넌트 서비스로 실행하는 전용 엔드포인트를 통해 이를 지원합니다. 최종 사용자와 가까운 위치에 배포하면 지연 시간을 줄이고 여러 위치에서 일관된 성능을 유지할 수 있습니다.

각 엔드포인트는 할당된 자체 컴퓨팅 리소스와 추론 요청을 위한 고유 URL을 사용합니다. 이러한 수준의 제어를 통해 가벼운 사용 사례부터 더 많은 컴퓨팅 리소스가 필요한 고처리량 애플리케이션까지 성능 요구 사항에 따라 배포를 쉽게 조정할 수 있습니다.

그림 3. Ultralytics Platform을 사용하면 43개 글로벌 리전에 모델을 배포할 수 있습니다 (출처)

하지만 전용 엔드포인트는 수신 트래픽에 따라 리소스를 조정하는 오토 스케일링을 통해 변화하는 워크로드를 자체적으로 처리하도록 설계되었습니다. 수요가 높을 때는 확장되고 사용량이 감소하면 축소됩니다. 기본적으로 스케일 투 제로가 활성화되어 유휴 엔드포인트는 자동으로 종료되고 새 요청이 도착하면 다시 시작되므로 수동 개입 없이 리소스 사용을 최적화할 수 있습니다.

Ultralytics Platform으로 간편하게 모델 내보내기#

오늘날 스마트폰, 카메라, 임베디드 시스템과 같은 디바이스에서 모델을 직접 실행하는 애플리케이션이 증가하면서 엣지 AI가 점점 더 중요해지고 있습니다. 민감한 이미지나 비디오 스트림과 같은 데이터를 외부 서버로 보내지 않고 디바이스에서 직접 처리할 수 있으므로 모델을 로컬에서 실행하면 데이터 개인정보 보호 요구 사항을 충족하는 데도 도움이 됩니다.

이러한 시나리오에서는 모델이 Ultralytics Platform 외부에서 실행되어야 하므로 모델 내보내기가 배포 프로세스의 중요한 부분이 됩니다. Ultralytics YOLO 모델은 대개 Python과 PyTorch를 사용해 학습하며, 이후 ONNX, TensorRT, CoreML, OpenVINO를 비롯한 17개 이상의 다양한 형식으로 내보낼 수 있습니다.

이처럼 다양한 형식을 지원하면 고성능 그래픽 처리 장치(GPUs)부터 모바일 및 임베디드 디바이스까지 다양한 하드웨어와의 호환성을 확보할 수 있습니다. 또한 내보내기를 통해 특정 환경에 맞는 성능 튜닝이 가능합니다.

형식에 따라 모델은 더 빠른 추론 속도를 달성할 수 있습니다. 예를 들어 TensorRT를 사용하면 GPU 성능을 개선하고 ONNX와 OpenVINO를 사용하면 CPU 실행을 최적화할 수 있습니다. FP16 및 INT8 양자화와 같은 옵션은 모델 크기를 더욱 줄이고 처리량을 개선할 수 있어 엣지 배포에 특히 유용합니다.

Ultralytics Platform에서는 내보내기가 워크플로에 직접 통합되어 몇 번의 클릭만으로 최적화된 모델을 빠르게 생성할 수 있습니다. 팀은 추가적인 오버헤드 없이 학습에서 외부 시스템의 모델 실행으로 전환할 수 있습니다.

그림 4. Ultralytics Platform의 내보내기 형식 선택.

적합한 모델 배포 옵션 선택하기#

Ultralytics Platform의 각 배포 옵션은 초기 테스트부터 프로덕션 사용까지 워크플로의 서로 다른 단계를 지원합니다. 각 옵션을 언제 사용할 수 있는지 다음과 같이 살펴보겠습니다.

• Predict 탭: 일반적으로 학습 또는 파인튜닝 직후에 사용하며, 브라우저 기반 추론으로 새 데이터에서 모델이 어떻게 작동하는지 검증할 때 적합합니다.
• 공유 추론: 이 단계에서는 API를 통해 모델을 애플리케이션에 통합하여 개발 중 실제 환경의 상호작용을 테스트할 수 있습니다.
• 전용 엔드포인트: 일관된 성능과 전용 리소스가 필요하고 전 세계 리전으로 확장할 수 있어야 하는 프로덕션 배포에 사용합니다.
• 모델 내보내기: 모델을 플랫폼 외부에서 실행해야 할 때 내보내기 옵션을 사용하면 엣지 디바이스, 모바일 앱 또는 사용자 지정 인프라에 배포할 수 있습니다.

팀은 대개 이러한 옵션을 단계별로 거치며 플랫폼 내에서 검증부터 통합, 최종적으로 프로덕션 배포까지 진행합니다.

Ultralytics Platform을 통한 배포 모델 모니터링#

배포가 중요한 만큼 비전 파이프라인은 배포로 끝나지 않습니다. 모델이 프로덕션에서 실행되기 시작하면 시간이 지나도 안정적으로 작동하는지 확인하기 위해 지속적인 모니터링이 핵심입니다.

Ultralytics Platform은 팀이 비전 AI 모델의 시간에 따른 동작을 명확하게 파악할 수 있는 기본 제공 모니터링 도구를 제공하여 더욱 체계적인 머신러닝 운영(MLOps) 워크플로를 지원합니다.

Deploy 페이지에는 총 요청 수, 활성 배포, 응답 지연 시간, 오류율과 같은 주요 지표를 추적하는 대시보드가 포함되어 있습니다. 이러한 인사이트는 팀이 사용 패턴을 파악하고 시스템 응답성을 평가하며 다양한 워크로드에서 낮은 지연 시간의 성능을 보장하는 데 도움이 됩니다.

그림 5. Ultralytics Platform을 사용하면 배포 모델을 쉽게 모니터링할 수 있습니다. (출처)

각 전용 엔드포인트는 개별 배포 뷰를 통해 상세한 옵저버빌리티도 제공합니다. 여기에는 로그, 모델 상태, 실시간 성능 데이터에 대한 액세스가 포함됩니다. 로그를 사용하면 문제를 디버깅하고 실패한 요청을 추적하며 종속성 또는 인프라와 관련된 잠재적 문제를 식별할 수 있습니다.

프로덕션 환경이 변화함에 따라 입력 데이터의 변화, 확장 요구 사항, 사용 패턴의 변화와 같은 요인이 모델 정확도와 견고성에 영향을 줄 수 있습니다. 성능 지표를 지속적으로 모니터링하면 팀이 이상 징후를 감지하고 병목 현상을 식별하며 모델 최적화나 리소스 조정과 같은 수정 조치를 취해 일관되고 안정적인 모델 서빙을 유지할 수 있습니다.

컴퓨터 비전 모델 배포에 확장성 구축하기#

컴퓨터 비전 시스템의 확장은 전통적으로 하나의 시스템으로 작동하도록 설계되지 않은 워크플로와 프레임워크를 이어 붙이는 작업을 의미했습니다. 데이터 파이프라인, 학습 루프, 배포 인프라, 모니터링 시스템이 서로 다른 위치에 존재하는 경우가 많아 모든 단계에서 마찰이 발생합니다.

진정한 과제는 단순히 모델을 구축하는 것이 아니라 모델을 계속 발전시키는 것입니다. 데이터에서 프로덕션으로 전환하고, 새로운 입력에 적응하며, 증가하는 수요를 처리하고, 속도를 늦추지 않으면서 지속적으로 개선해야 합니다.

Ultralytics Platform에서 주목할 점은 이러한 흐름이 기본적으로 구축되어 있다는 것입니다. 각 단계를 별도의 작업으로 취급하는 대신 하나의 연속적인 루프로 연결하여 동일한 환경에서 모델을 개발하고 배포하며 관찰하고 업데이트할 수 있습니다.

이러한 변화는 팀의 확장 방식을 바꿉니다. 더 이상 도구나 인프라를 오케스트레이션하는 것이 아니라 시스템이 성장하는 동안 추진력을 유지하는 것이 핵심입니다.

핵심 요점#

컴퓨터 비전 모델과 같은 머신러닝 모델을 실제 애플리케이션에 도입하려면 안정적이고 확장 가능하며 관리하기 쉬워야 합니다. Ultralytics Platform은 모델 서빙, 배포, 모니터링과 같은 다양한 기능을 하나의 통합 환경으로 결합하여 이 프로세스를 간소화합니다. 유연한 배포 옵션과 기본 제공 도구를 통해 팀은 복잡성을 줄이면서 실험에서 프로덕션으로 더 빠르게 전환할 수 있습니다.

자세한 내용은 커뮤니티를 확인하고 GitHub 저장소를 살펴보세요. 헬스케어 분야의 AI 및 물류 분야의 컴퓨터 비전과 같은 다양한 애플리케이션을 확인하려면 솔루션 페이지를 살펴보세요. 라이선싱 옵션을 확인하고 지금 바로 구축을 시작해 보세요!