Ultralytics Platform으로 컴퓨터 비전 모델 배포를 간소화하는 방법

Ultralytics는 수년간 컴퓨터 비전 커뮤니티와 협력하며 비전 AI를 누구나 더 쉽게 이용할 수 있도록 모델과 도구를 만들어 왔습니다. Ultralytics Platform을 통해 데이터셋 관리와 어노테이션부터 모델 학습, 검증, 배포까지 컴퓨터 비전 개발 워크플로 전체를 하나의 통합 환경에 담아 한 단계 더 나아갑니다.

특히 컴퓨터 비전 모델 배포를 더 쉽게 만들게 되어 기쁩니다. 컴퓨터 비전이 실제 애플리케이션에 점점 더 많이 활용되고 있지만, 통제된 환경 밖에서 이미지와 동영상을 분석하는 일은 여전히 복잡합니다.

조건을 예측할 수 있는 테스트 환경과 달리 실제 환경에서는 조명이 달라지고 입력이 바뀌며 워크로드도 예측하기 어렵습니다. 따라서 배포는 비전 워크플로에서 가장 어려운 단계 중 하나입니다.

배포는 모델을 사용할 수 있도록 제공하는 것만을 의미하지 않습니다. 실제 데이터를 처리할 수 있는 프로세스를 설정하고, 사용량이 늘고 프로젝트 규모가 커져도 모든 작업이 원활하게 실행되도록 해야 합니다.

팀은 성능을 추적하고 시간이 지나도 안정성을 유지해야 합니다. 이를 위해 테스트, 통합, 배포, 모니터링에 서로 다른 AI 도구를 번갈아 사용하는 경우가 많으며, 이는 모델 개발을 지연시키고 불필요한 복잡성을 더할 수 있습니다.

결국 워크플로가 파편화됩니다. Ultralytics Platform은 이 프로세스를 통합하고 간소화합니다.

단일 환경에서 모델 서빙, 테스트, 모니터링을 기본적으로 지원합니다. 팀은 브라우저 기반 추론으로 모델을 검증하고, 공유 추론 서비스를 통해 애플리케이션에 통합하며, 성능 모니터링 기능을 갖춘 전용 엔드포인트에 배포할 수 있습니다.

그림 1. Ultralytics Platform의 배포 페이지 살펴보기 (출처)

이 문서에서는 Ultralytics Platform이 테스트와 통합부터 프로덕션 배포 및 모니터링까지 컴퓨터 비전 모델 배포를 어떻게 간소화하는지 살펴봅니다. 시작해 보겠습니다!

컴퓨터 비전 모델 배포 개요#

머신러닝 수명 주기에서 모델 배포는 모델이 실험 단계에서 실제 사용 단계로 넘어가는 과정입니다. 딥러닝과 합성곱 신경망을 사용해 구축한 컴퓨터 비전 모델의 경우, 일반적으로 이미지와 동영상을 실시간으로 처리할 수 있도록 모델을 제공하는 것을 의미합니다.

배포된 모델은 새로운 데이터를 입력받으며, 이 데이터는 보통 크기 조정, 정규화, 형식 변환 등의 전처리 단계를 거칩니다. 그런 다음 처리된 데이터가 모델에 전달되고, 모델은 학습 중에 습득한 패턴을 적용해 정밀도 높은 예측을 생성합니다.

사용 사례에 따라 다양한 컴퓨터 비전 작업이 포함될 수 있습니다. 예를 들어 Ultralytics YOLO26과 같은 Ultralytics YOLO 모델은 객체 감지, 인스턴스 분할, 이미지 분류, 포즈 추정, 방향성 바운딩 박스(OBB) 감지를 포함한 다양한 비전 작업을 지원합니다.

실제 애플리케이션에서 이를 효과적으로 활용하려면 전처리와 추론을 모두 효율적으로 처리할 수 있는 시스템에 모델을 통합해야 하는 경우가 많습니다. 이때 배포 인프라가 필수적입니다.

프로덕션 환경에서는 일반적으로 REST API나 모델 서빙 시스템을 통해 모델에 접근합니다. 이러한 인터페이스를 사용하면 애플리케이션이 데이터를 보내고 예측을 프로그래밍 방식으로 받을 수 있어, 실시간 시각적 이해에 의존하는 외부 애플리케이션, IoT 장치, 로보틱스 시스템과 모델을 쉽게 통합할 수 있습니다.

기존 컴퓨터 비전 배포 도구의 한계#

컴퓨터 비전 모델 배포는 간단해 보일 수 있지만, 지금까지는 실제로 상당히 다른 방식으로 이루어졌습니다. 흔히 사용하는 설정을 살펴보겠습니다. 먼저 카메라나 센서에서 데이터를 캡처해 추론을 위해 모델에 보내고, 예측 결과를 애플리케이션으로 반환합니다.

실제로는 이 각 단계를 별도의 도구와 서비스가 처리하는 경우가 많습니다. 한 시스템은 데이터 캡처를 담당하고, 다른 시스템은 모델 서빙을 관리하며, 확장, 모니터링, 로깅에는 추가 도구를 사용합니다. 이러한 구성 요소를 서로 연결하고 안정적으로 실행하는 일은 빠르게 복잡해질 수 있습니다.

사용량이 늘면 복잡성도 커집니다. 인프라 관리, 종속성 처리, 엔드투엔드 파이프라인 전반의 일관된 성능 유지로 개발이 지연되고, 실제 애플리케이션에 컴퓨터 비전 모델을 배포하기가 더 어려워질 수 있습니다.

Ultralytics Platform은 이러한 구성 요소를 하나의 통합 환경으로 모읍니다. 따라서 전체 배포 워크플로를 더 일관된 방식으로 관리하면서 대규모 환경에서도 성능과 안정성을 지원할 수 있습니다.

Ultralytics Platform에서 지원하는 모델 배포 옵션#

Ultralytics Platform은 모델 배포 프로세스를 통합할 뿐만 아니라 모델 배포 및 사용 방식에도 유연성을 제공합니다.

컴퓨터 비전 모델 배포의 여러 단계를 지원하기 위해 플랫폼은 네 가지 옵션을 제공합니다. 즉시 추론을 제공하는 브라우저 기반 테스트, 개발용 API를 통한 공유 추론, 전 세계 여러 지역에 확장 가능한 프로덕션 배포를 위한 전용 엔드포인트, 외부 인프라나 엣지 장치에서 모델을 실행하기 위한 모델 내보내기입니다.

각 옵션의 작동 방식을 자세히 살펴보겠습니다.

Predict 탭으로 모델을 빠르게 검증하기#

모델을 프로덕션 환경에 배포하기 전에 새롭고 보지 못한 데이터에서 모델의 성능을 파악하는 것이 중요합니다. Ultralytics Platform에는 설정, 인프라, 종속성 없이 브라우저에서 직접 추론을 실행할 수 있는 Predict 탭이 기본 제공됩니다.

Predict 탭을 사용하면 모델을 빠르고 대화형으로 검증할 수 있습니다. 이미지를 업로드하거나 미리 로드된 예시를 사용하거나 웹캠으로 입력을 캡처할 수 있으며, 데이터가 제공되는 즉시 추론이 자동으로 실행됩니다.

결과는 시각적 오버레이, 신뢰도 점수, 상세 출력과 함께 즉시 표시되어 모델의 동작을 명확하게 파악할 수 있습니다.

그림 2. Predict 탭으로 모델을 검증하는 예시 (출처)

즉, 몇 번만 클릭하면 단일 인터페이스에서 다양한 입력을 테스트하고, 매개변수를 조정하며, 성능을 평가한 후 배포할 수 있습니다.

테스트 또는 가벼운 사용을 위한 공유 추론 실행#

모델을 학습하고 Predict 탭으로 검증했다고 가정해 보겠습니다. 다음 단계는 대개 해당 모델을 애플리케이션이나 워크플로에 통합하는 것입니다.

인프라를 설정하거나 서버를 관리하는 대신, Ultralytics Platform의 공유 추론 서비스를 사용하면 간단한 REST API를 통해 모델에 데이터를 보내고 예측을 받을 수 있습니다.

공유 추론은 내부적으로 몇 개의 핵심 리전에 분산된 멀티테넌트 시스템에서 실행되며, 요청은 가장 가까운 가용 서비스로 자동 라우팅됩니다. 이를 통해 응답 성능을 유지하면서 서로 다른 위치의 사용자가 모델에 일관되게 접근할 수 있습니다.

표준 HTTP 요청을 사용해 입력을 전송하고 구조화된 출력을 받을 수 있어 모델을 애플리케이션, 스크립트 또는 자동화 워크플로에 간편하게 연결할 수 있습니다. 이 설정은 더 확장 가능한 프로덕션 배포로 전환하기 전 개발, 테스트, 통합 또는 가벼운 사용에 적합합니다.

전용 엔드포인트를 통해 전 세계에 모델 배포하기#

모델을 프로덕션 환경에 사용할 준비가 되면 실제 트래픽을 안정적으로 대규모 처리할 수 있어야 합니다. Ultralytics Platform은 모델이 전 세계 42개 지역에서 단일 테넌트 서비스로 실행되는 전용 엔드포인트를 통해 이를 지원합니다. 최종 사용자와 가까운 곳에 배포하면 지연 시간을 줄이고 여러 위치에서 일관된 성능을 유지할 수 있습니다.

각 엔드포인트는 별도로 할당된 컴퓨팅 리소스와 추론 요청용 고유 URL을 사용해 실행됩니다. 이러한 제어 기능을 통해 가벼운 사용 사례부터 더 많은 컴퓨팅 리소스가 필요한 고부하·대용량 처리 애플리케이션까지 성능 요구 사항에 맞게 배포를 쉽게 조정할 수 있습니다.

그림 3. Ultralytics Platform을 사용하면 전 세계 42개 지역에 모델을 배포할 수 있습니다 (출처)

기본 리소스를 사용하는 유휴 전용 엔드포인트는 0개로 축소되며 새 요청이 들어오면 다시 시작하므로 수동 개입 없이 리소스 사용을 최적화할 수 있습니다. 대신 사용자 지정 크기의 엔드포인트는 인스턴스 하나를 항상 실행 상태로 유지합니다.

Ultralytics Platform으로 간편하게 모델 내보내기#

점점 더 많은 애플리케이션이 스마트폰, 카메라, 임베디드 시스템과 같은 장치에서 모델을 직접 실행함에 따라 엣지 AI가 갈수록 중요해지고 있습니다. 민감한 이미지나 동영상 스트림을 외부 서버로 보내지 않고 장치에서 직접 처리할 수 있으므로, 모델을 로컬에서 실행하면 데이터 개인정보 보호 요구 사항을 충족하는 데도 도움이 됩니다.

이러한 시나리오에서는 모델을 Ultralytics Platform 외부에서 실행해야 하므로 모델 내보내기가 배포 프로세스의 중요한 부분입니다. Ultralytics YOLO 모델은 일반적으로 Python과 PyTorch를 사용해 학습한 다음 ONNX, TensorRT, CoreML, OpenVINO를 포함한 17개 이상의 형식으로 내보낼 수 있습니다.

다양한 형식을 지원하므로 고성능 그래픽 처리 장치(GPUs)부터 모바일 및 임베디드 장치까지 폭넓은 하드웨어와 호환됩니다. 또한 내보내기를 통해 특정 환경에 맞게 성능을 튜닝할 수 있습니다.

형식에 따라 TensorRT를 통한 GPU 성능 향상이나 ONNX 및 OpenVINO를 통한 최적화된 CPU 실행처럼 더 빠른 추론 속도를 얻을 수 있습니다. FP16 및 INT8 양자화와 같은 옵션을 사용하면 모델 크기를 더 줄이고 처리량을 높일 수 있어, 특히 엣지 배포에 유용합니다.

Ultralytics Platform에서는 내보내기 기능이 워크플로에 직접 통합되어 있어 몇 번의 클릭만으로 최적화된 모델을 빠르게 생성할 수 있습니다. 팀은 추가적인 부담 없이 학습에서 외부 시스템의 모델 실행까지 진행할 수 있습니다.

그림 4. Ultralytics Platform에서 선택할 수 있는 내보내기 형식.

적합한 모델 배포 옵션 선택하기#

Ultralytics Platform의 각 배포 옵션은 초기 테스트부터 프로덕션 사용까지 워크플로의 서로 다른 단계를 지원합니다. 각 옵션을 언제 사용할 수 있는지 살펴보겠습니다.

• Predict 탭: 일반적으로 학습이나 미세 조정 직후, 브라우저 기반 추론으로 새 데이터에서 모델 성능을 검증할 때 사용합니다.
• 공유 추론: 이 단계에서는 API를 통해 모델을 애플리케이션에 통합하여 개발 중 실제 환경과 유사한 상호작용을 테스트할 수 있습니다.
• 전용 엔드포인트: 일관된 성능과 전용 리소스, 전 세계 여러 리전으로 확장할 수 있는 기능이 필요한 프로덕션 배포에 사용됩니다.
• 모델 내보내기: 플랫폼 외부에서 모델을 실행해야 할 때 모델을 내보내면 엣지 장치, 모바일 앱, 맞춤형 인프라에 배포할 수 있습니다.

팀은 플랫폼 내에서 검증부터 통합, 최종 프로덕션 배포까지 이러한 옵션을 단계별로 진행하는 경우가 많습니다.

Ultralytics Platform으로 배포된 모델 모니터링하기#

배포만큼 중요한 것은 비전 파이프라인이 배포로 끝나지 않는다는 점입니다. 모델을 프로덕션 환경에서 실행한 후에는 시간이 지나도 안정적으로 성능을 발휘하는지 확인하기 위해 지속적인 모니터링이 중요합니다.

Ultralytics Platform은 팀이 비전 AI 모델의 시간 경과에 따른 동작을 명확히 파악하도록 돕는 기본 제공 모니터링 도구를 제공하여 더욱 체계적인 기계 학습 운영(MLOps) 워크플로를 지원합니다.

Deploy 페이지에는 총 요청 수, 활성 배포, 응답 지연 시간, 오류율과 같은 주요 지표를 추적하는 대시보드가 포함되어 있습니다. 이러한 인사이트를 통해 팀은 사용 패턴을 파악하고, 시스템의 응답성을 평가하며, 다양한 워크로드에서 낮은 지연 시간을 유지할 수 있습니다.

그림 5. Ultralytics Platform을 사용하면 배포된 모델을 쉽게 모니터링할 수 있습니다. (출처)

각 전용 엔드포인트는 개별 배포 화면을 통해 상세한 관측 가능성도 제공합니다. 여기에는 로그, 모델 상태, 실시간 성능 데이터가 포함됩니다. 로그를 사용하면 문제를 디버깅하고, 실패한 요청을 추적하며, 종속성이나 인프라와 관련된 잠재적 문제를 식별할 수 있습니다.

프로덕션 환경이 바뀌면 입력 데이터의 변화, 확장 요구, 사용 패턴의 변화 등이 모델 정확도와 견고성에 영향을 줄 수 있습니다. 성능 지표를 지속적으로 모니터링하면 팀은 이상 징후를 감지하고 병목 현상을 파악하며, 일관되고 안정적인 모델 서빙을 유지하기 위해 모델 최적화나 리소스 조정과 같은 시정 조치를 취할 수 있습니다.

컴퓨터 비전 모델 배포에 확장성 구축하기#

컴퓨터 비전 시스템의 확장은 전통적으로 하나의 시스템으로 작동하도록 설계되지 않은 워크플로와 프레임워크를 이어 붙이는 작업을 의미했습니다. 데이터 파이프라인, 학습 루프, 배포 인프라, 모니터링 시스템이 서로 다른 곳에 있는 경우가 많아 모든 단계에서 마찰이 발생합니다.

진정한 과제는 모델을 구축하는 데 그치지 않고, 데이터에서 프로덕션까지 모델이 계속 발전하도록 유지하고, 새로운 입력에 적응시키며, 증가하는 수요를 처리하고, 속도를 늦추지 않으면서 지속적으로 개선하는 것입니다.

Ultralytics Platform의 두드러진 점은 이러한 진행 과정이 기본적으로 내장되어 있다는 것입니다. 각 단계를 별개의 과정으로 취급하는 대신, 하나의 연속적인 루프로 연결해 동일한 환경에서 모델을 개발하고 배포하며 관찰하고 업데이트할 수 있습니다.

이러한 변화는 팀의 확장 방식을 바꿉니다. 이제 도구나 인프라를 오케스트레이션하는 것이 아니라 시스템이 성장하는 동안 추진력을 유지하는 데 초점을 둡니다.

핵심 요점#

컴퓨터 비전 모델과 같은 머신러닝 모델을 실제 애플리케이션에 도입하려면 안정적이고 확장 가능하며 관리하기 쉬워야 합니다. Ultralytics Platform은 모델 서빙, 배포, 모니터링 등 다양한 기능을 하나의 통합 환경에 결합해 이 프로세스를 간소화합니다. 유연한 배포 옵션과 기본 제공 도구를 통해 팀은 복잡성을 줄이면서 실험 단계에서 프로덕션 단계로 더 빠르게 진행할 수 있습니다.

자세히 알아보려면 커뮤니티를 확인하고 GitHub 저장소를 살펴보세요. 솔루션 페이지에서 헬스케어 분야의 AI, 물류 분야의 컴퓨터 비전과 같은 다양한 애플리케이션을 확인하세요. 라이선스 옵션을 살펴보고 지금 바로 구축을 시작하세요!