Ultralytics Platform을 사용하여 Ultralytics YOLO 모델을 내보내는 방법

지난달, 전체 컴퓨터 비전 워크플로를 간소화하도록 설계된 통합 작업 공간인 Ultralytics Platform을 출시했습니다. 데이터셋 관리, 어노테이션, 모델 학습, 테스트, 배포, 모니터링을 비롯한 주요 비전 AI 기능을 하나의 간결한 인터페이스로 통합합니다.

그림 1. Ultralytics Platform 미리 보기 (출처)

이 엔드투엔드 워크플로에서 배포는 모델을 실험 단계에서 실제 사용 단계로 전환하는 데 중요한 역할을 합니다. 이전에는 API를 통한 공유 추론, 확장 가능한 프로덕션 배포를 위한 전용 엔드포인트, 엣지 디바이스 또는 외부 인프라에서 실행하기 위한 모델 내보내기 등 플랫폼에서 제공하는 다양한 배포 옵션을 살펴보았습니다.

이제 모델 내보내기와 다양한 환경에서의 배포를 지원하는 방식을 자세히 살펴보겠습니다. Ultralytics Platform에서 관리하는 인프라 내에서 모델을 실행하는 공유 추론 및 전용 엔드포인트와 달리, 모델 내보내기를 사용하면 엣지 디바이스, 모바일 애플리케이션, 사용자 지정 인프라와 같은 외부 환경에 모델을 배포하고 실행할 수 있습니다.

모델을 이러한 환경에서 실행하려면 먼저 대상 런타임에서 지원하는 형식으로 변환해야 합니다. 각 배포 구성에는 모바일 및 엣지 디바이스를 위한 경량 형식부터 클라우드 및 GPU 기반 시스템을 위한 고성능 형식까지 고유한 요구 사항이 있습니다.

기존에는 이 과정에 스크립트, 종속성, 여러 도구가 필요하여 시간이 오래 걸릴 수 있었습니다. Ultralytics Platform을 사용하면 내보내기가 훨씬 간단해집니다. 추가 설정 없이 몇 번의 클릭만으로 모델을 변환하고 최적화할 수 있습니다.

이 글에서는 모델 내보내기의 의미, Ultralytics Platform에서 지원하는 형식, 사용 사례에 적합한 형식을 선택하는 방법을 살펴보겠습니다. 시작해 보겠습니다!

모델 내보내기 개요#

모델 내보내기란 사전 학습된 모델 또는 사용자 지정 학습 모델을 원래 프레임워크 외부에서 사용할 수 있는 형식으로 변환하는 과정입니다. Ultralytics YOLO 모델은 PyTorch를 사용하여 구축되며 기본 형식으로 저장됩니다. 이 형식은 PyTorch 생태계 내에서 학습, 평가, 실험을 수행하는 데 적합합니다.

그러나 배포 환경에는 서로 다른 런타임과 하드웨어 요구 사항이 적용되는 경우가 많습니다. 따라서 학습 중 사용한 형식이 배포에 항상 적합한 것은 아닙니다.

예를 들어 모바일 애플리케이션에는 낮은 전력 소비에 맞게 최적화된 경량 형식이 필요할 수 있으며, 브라우저 기반 앱에는 웹 환경에서 효율적으로 실행되는 형식이 필요합니다.

카메라 및 임베디드 시스템과 같은 엣지 디바이스는 작고 빠른 모델의 이점을 얻을 수 있는 반면, 클라우드 시스템은 고성능 추론을 위해 설계됩니다. 이러한 다양한 시나리오를 지원하려면 모델을 호환 가능한 형식으로 내보내야 합니다.

모델 내보내기 옵션이 그 어느 때보다 중요한 이유#

오늘날 컴퓨터 비전 모델은 데이터가 생성되는 위치에 더 가까운 곳, 특히 엣지 디바이스에 배포되고 있습니다. 스마트폰은 실시간 비전 애플리케이션을 실행하고, CCTV 카메라는 디바이스에서 모니터링을 수행하며, 자율 시스템은 즉각적인 의사 결정에 의존합니다.

그러나 이러한 환경에 배포하면 고유한 과제가 발생합니다. 엣지 디바이스는 컴퓨팅 성능이 제한적이고, 엄격한 지연 시간 요구 사항이 적용되며, 메모리와 에너지 소비에도 제약이 있습니다. 충분한 리소스를 사용한 학습에서 우수한 성능을 보이는 모델이라도 이러한 제한된 조건에서는 효율적으로 실행되지 않을 수 있습니다.

모델을 적절한 형식으로 내보내면 이러한 과제를 해결하는 데 도움이 됩니다. 모델을 적절히 변환하면 속도에 맞게 최적화하고 크기를 줄이며 특정 하드웨어와 호환되도록 만들 수 있습니다.

동시에 내보내기는 유연성도 제공합니다. 특정 요구 사항에 따라 모델을 여러 형식으로 변환하면 동일한 모델을 다양한 배포 환경에 맞게 조정할 수 있습니다.

그림 2. Ultralytics Platform에서 사용할 수 있는 일부 내보내기 형식 (출처)

예를 들어 NCNN 모델 형식은 리소스 사용량이 낮은 모바일 및 엣지 디바이스에 맞게 최적화되어 있습니다. 반면 OpenVINO 형식은 Intel 하드웨어에 맞게 설계되었으며 중앙 처리 장치(CPUs), 그래픽 처리 장치(GPUs), 신경망 처리 장치(NPUs)에서 더 나은 성능을 제공합니다.

대부분의 경우 이러한 수준의 유연성을 확보하려면 수동 변환, 종속성, 여러 도구를 처리해야 하므로 과정이 복잡하고 시간이 오래 걸렸습니다. Ultralytics Platform은 모델 내보내기에 더 쉽게 접근하고 관리할 수 있도록 이 워크플로를 간소화합니다.

Ultralytics Platform이 모델 내보내기를 간소화하는 방법#

일반적으로 모델 내보내기는 컴퓨터 비전 워크플로에서 별도의 복잡한 단계로 취급됩니다. Ultralytics Platform은 학습부터 배포까지 모든 과정을 지원하는 하나의 작업 공간에 모델 내보내기 옵션을 직접 통합하여 이러한 방식을 바꿉니다.

주요 장점 중 하나는 코드 없이 내보낼 수 있다는 점입니다. 스크립트를 작성하거나 환경을 관리하거나 프레임워크별 명령을 사용할 필요가 없습니다. 간단한 인터페이스를 통해 몇 번의 클릭만으로 모델을 내보낼 수 있습니다.

그림 3. Ultralytics Platform에서 모델을 내보내는 예시 (출처)

플랫폼이 내부적으로 복잡한 작업을 처리합니다. 일반적으로 여러 도구와 수동 설정이 필요한 작업을 하나의 프로세스로 간소화합니다. 추가 종속성을 설치하거나 호환성 문제를 처리할 필요가 없으므로 학습된 모델에서 프로덕션에 바로 사용할 수 있는 솔루션으로 훨씬 쉽게 전환할 수 있습니다.

Ultralytics Platform에서 지원하는 모델 내보내기 형식#

Ultralytics Platform은 17개의 내보내기 형식을 지원하므로 복잡성을 추가하지 않고도 다양한 배포 환경에 맞게 모델을 쉽게 준비할 수 있습니다.

다음은 일반적으로 사용되는 내보내기 형식의 개요입니다.

• 크로스 플랫폼 및 상호 운용성: ONNX와 TorchScript는 서로 다른 프레임워크와 환경에서 모델을 실행하는 데 널리 사용됩니다. ONNX는 생태계 간의 브리지 역할을 하여 도구 간에 모델을 쉽게 이동할 수 있도록 하며, TorchScript를 사용하면 Python 런타임 없이도 프로덕션에서 PyTorch 모델을 실행할 수 있습니다.
• GPU에서의 고성능 추론: TensorRT는 NVIDIA GPU를 위해 설계되었으며 낮은 지연 시간과 높은 처리량을 위한 모델 최적화에 중점을 둡니다. 정밀도 감소 및 레이어 융합과 같은 기법을 지원하여 추론을 가속하므로 실시간 및 프로덕션 규모의 애플리케이션에 적합합니다.
• 모바일 및 엣지 배포: CoreML, LiteRT (TensorFlow Lite), NCNN은 컴퓨팅 성능과 메모리가 제한된 디바이스에 맞게 최적화되어 있습니다. 이러한 형식은 모델 크기를 줄이고 효율성을 높여 스마트폰, 임베디드 시스템, 엣지 하드웨어에서 원활한 성능을 제공합니다. CoreML은 일반적으로 Apple 생태계에서 사용되며, LiteRT는 Android에서 널리 사용됩니다.
• 하드웨어 최적화 실행: OpenVINO는 CPU, GPU, VPU를 비롯한 Intel 하드웨어에 맞게 설계되었으며 해당 디바이스에서 추론 속도와 효율성을 향상하는 데 도움이 됩니다. 이와 같은 하드웨어별 형식은 특정 시스템에서 최고의 성능을 이끌어내야 할 때 유용합니다.
• 프레임워크별 및 특수 런타임: PaddlePaddle 및 ExecuTorch와 같은 형식은 특정 생태계와 배포 요구 사항을 지원하며, 엣지 디바이스에서 모델을 효율적으로 실행하거나 특정 딥러닝 스택과 통합하는 기능을 포함합니다.

Ultralytics Platform을 사용하여 모델을 내보내는 방법#

Ultralytics Platform에서 모델을 내보내는 과정은 간단한 UI 기반 프로세스입니다. 스크립트나 커맨드라인 도구 없이 전체 워크플로를 인터페이스에서 처리할 수 있습니다.

플랫폼을 사용하여 모델을 내보내는 방법은 다음과 같습니다.

• 로그인하고 모델 선택: 프로젝트로 이동하여 내보내려는 학습된 모델을 엽니다.
• Export 탭으로 이동: 모델 대시보드에서 Export 탭을 클릭하여 사용 가능한 내보내기 옵션을 확인합니다.
• 내보내기 형식 선택: 배포 요구 사항에 따라 ONNX, TensorRT 또는 CoreML과 같은 형식을 선택합니다.
• 내보내기 설정 구성(선택 사항): 성능을 최적화하도록 이미지 크기, 정밀도 또는 배치 크기와 같은 매개변수를 조정합니다.
• 내보내기 프로세스 시작: “Start Export”를 클릭하여 프로세스를 시작합니다. 플랫폼이 자동으로 변환을 처리합니다.
• 내보낸 모델 다운로드: 내보내기가 완료되면 모델을 다운로드하여 배포 파이프라인에서 사용할 수 있습니다.

그림 4. Ultralytics Platform에서 내보내기 설정을 구성하는 모습

적합한 내보내기 형식 선택#

Ultralytics Platform에서 지원하는 다양한 내보내기 형식을 살펴보다 보면 어떤 형식을 선택해야 할지 궁금할 수 있습니다. 답은 모델을 어디에서 어떻게 사용할 계획인지에 따라 달라집니다.

다음과 같은 몇 가지 요소를 고려할 수 있습니다.

• 지연 시간 요구 사항: 비디오 분석이나 자율 시스템과 같은 실시간 애플리케이션에서는 낮은 지연 시간이 중요합니다. TensorRT와 같이 고성능 추론에 최적화된 형식이 더 적합한 경우가 많습니다.
• 하드웨어 제약: 휴대폰이나 임베디드 시스템처럼 메모리와 처리 성능이 제한된 디바이스에는 LiteRT 또는 NCNN과 같은 경량 형식이 필요합니다.
• 모델 크기 및 전력 소비: 엣지 디바이스를 사용할 때는 모델 크기와 전력 소비가 중요해집니다. 더 작고 최적화된 모델은 리소스를 과도하게 소모하지 않고 일관된 성능을 유지하는 데 도움이 됩니다.
• 배포 환경: 모델을 여러 플랫폼에서 실행해야 한다면 ONNX와 같은 형식이 유연성을 제공합니다. iOS 앱과 같은 플랫폼별 사용 사례에는 CoreML이 더 적합한 경우가 많습니다.

모든 상황에 맞는 단 하나의 형식은 없습니다. 성능, 호환성, 대상 환경의 제한 사항 사이에서 균형을 맞추는 것이 중요합니다. Ultralytics Platform을 사용하면 추가 작업 없이 다양한 형식을 시도하고 비교할 수 있어 이 과정이 더 쉬워집니다.

핵심 요점#

내보내기는 다양한 환경에서 모델을 실제 사용에 맞게 준비하는 데 필수적인 단계입니다. Ultralytics Platform을 사용하면 추가 설정이나 복잡성 없이 모델을 변환하고 최적화할 수 있어 이 과정이 훨씬 간단해집니다. 사용 사례에 적합한 형식을 선택하면 모델을 배포하는 위치와 관계없이 효율적으로 실행되도록 할 수 있습니다.

성장하는 커뮤니티에 참여하고 GitHub 리포지토리를 확인하여 컴퓨터 비전에 대해 자세히 알아보세요. 로보틱스의 AI 및 물류의 컴퓨터 비전과 같은 애플리케이션에 대해 더 알아보려면 솔루션 페이지를 살펴보세요. 라이선싱 옵션을 확인하고 비전 AI 구축을 시작해 보세요!