Ultralytics Platform을 사용해 Ultralytics YOLO 모델을 내보내는 방법

지난달, 전체 컴퓨터 비전 워크플로를 간소화하도록 설계된 통합 작업 공간인 Ultralytics Platform을 출시했습니다. 데이터셋 관리, 어노테이션, 모델 학습, 테스트, 배포, 모니터링을 비롯한 주요 비전 AI 기능을 하나의 간결한 인터페이스에 통합합니다.

그림 1. Ultralytics Platform 미리 보기(출처)

엔드투엔드 워크플로에서 배포는 모델을 실험 단계에서 실제 사용 환경으로 전환하는 데 중요한 역할을 합니다. 이전에는 API를 통한 공유 추론, 확장 가능한 프로덕션 배포를 위한 전용 엔드포인트, 엣지 디바이스나 외부 인프라에서 실행하기 위한 모델 내보내기 등 플랫폼에서 이용할 수 있는 다양한 배포 옵션을 살펴보았습니다.

이제 모델 내보내기와 다양한 환경에서 배포를 지원하는 방법을 자세히 살펴보겠습니다. Ultralytics Platform이 관리하는 인프라 내에서 모델을 실행하는 공유 추론 및 전용 엔드포인트와 달리, 모델 내보내기를 사용하면 엣지 디바이스, 모바일 애플리케이션, 맞춤형 인프라와 같은 외부 환경에 모델을 배포하고 실행할 수 있습니다.

이러한 환경에서 모델을 실행하려면 먼저 대상 런타임이 지원하는 형식으로 변환해야 합니다. 각 배포 환경에는 모바일 및 엣지 디바이스용 경량 형식부터 클라우드 및 GPU 기반 시스템용 고성능 형식까지 고유한 요구사항이 있습니다.

일반적으로 이 과정은 스크립트, 종속 항목, 여러 도구가 필요해 시간이 오래 걸릴 수 있습니다. Ultralytics Platform을 사용하면 내보내기가 훨씬 간단해집니다. 별도의 설정 없이 몇 번의 클릭만으로 모델을 변환하고 최적화할 수 있습니다.

이 글에서는 모델 내보내기의 의미와 Ultralytics Platform이 지원하는 형식, 사용 사례에 적합한 형식을 선택하는 방법을 살펴봅니다. 시작해 보겠습니다!

모델 내보내기 개요#

모델 내보내기는 사전 학습되었거나 맞춤 학습된 모델을 원래 프레임워크 외부에서 사용할 수 있는 형식으로 변환하는 과정입니다. Ultralytics YOLO 모델은 PyTorch를 사용해 구축되며 네이티브 형식으로 저장됩니다. 이 형식은 PyTorch 생태계 내에서 학습, 평가, 실험을 진행하는 데 적합합니다.

그러나 배포 환경에는 서로 다른 런타임과 하드웨어 요구사항이 적용되는 경우가 많습니다. 따라서 학습에 사용한 형식이 배포에 항상 적합한 것은 아닙니다.

예를 들어 모바일 애플리케이션에는 저전력 소비에 최적화된 경량 형식이 필요할 수 있으며, 브라우저 기반 앱에는 웹 환경에서 효율적으로 실행되는 형식이 필요합니다.

카메라나 임베디드 시스템 같은 엣지 디바이스에는 작고 빠른 모델이 적합한 반면, 클라우드 시스템은 고성능 추론을 위해 설계됩니다. 이러한 다양한 시나리오를 지원하려면 모델을 호환 가능한 형식으로 내보내야 합니다.

모델 내보내기 옵션이 그 어느 때보다 중요한 이유#

오늘날 컴퓨터 비전 모델은 데이터가 생성되는 장소와 더 가까운 곳, 특히 엣지 디바이스에 배포되고 있습니다. 스마트폰은 실시간 비전 애플리케이션을 실행하고, CCTV 카메라는 디바이스 내 모니터링을 수행하며, 자율 시스템은 즉각적인 의사 결정에 의존합니다.

그러나 이러한 환경에 배포하면 여러 과제가 발생합니다. 엣지 디바이스는 연산 성능이 제한적이고 지연 시간 요구사항이 엄격하며 메모리와 에너지 소비에도 제약이 있습니다. 충분한 리소스를 사용해 학습할 때는 잘 작동하는 모델도 이러한 제한적인 조건에서는 효율적으로 실행되지 않을 수 있습니다.

모델을 적절한 형식으로 내보내면 이러한 과제를 해결하는 데 도움이 됩니다. 모델을 적절히 변환하면 속도에 맞게 최적화하고, 크기를 줄이며, 특정 하드웨어와 호환되도록 만들 수 있습니다.

또한 내보내기를 통해 유연성을 확보할 수 있습니다. 요구사항에 따라 모델을 여러 형식으로 변환하면 동일한 모델을 다양한 배포 환경에 맞게 조정할 수 있습니다.

그림 2. Ultralytics Platform에서 사용할 수 있는 일부 내보내기 형식(출처)

예를 들어 NCNN 모델 형식은 리소스 사용량이 적은 모바일 및 엣지 디바이스에 최적화되어 있습니다. 반면 OpenVINO 형식은 Intel 하드웨어에 맞춰 설계되었으며 중앙 처리 장치(CPU), 그래픽 처리 장치(GPU), 신경망 처리 장치(NPU)에서 더 뛰어난 성능을 제공합니다.

대부분의 경우 이러한 유연성을 확보하려면 수동 변환, 종속 항목 관리, 여러 도구 사용이 필요해 시간과 노력이 많이 들고 과정도 복잡했습니다. Ultralytics Platform은 모델 내보내기를 더욱 쉽고 편리하게 이용하고 관리할 수 있도록 이 워크플로를 간소화합니다.

Ultralytics Platform이 모델 내보내기를 간소화하는 방법#

일반적으로 모델 내보내기는 컴퓨터 비전 워크플로에서 별도의 복잡한 단계로 취급됩니다. Ultralytics Platform은 학습부터 배포까지 모든 과정을 아우르는 단일 작업 공간에 모델 내보내기 옵션을 직접 통합하여 이를 개선합니다.

주요 장점 중 하나는 코드 없이 내보낼 수 있다는 점입니다. 스크립트를 작성하거나 환경을 관리하거나 프레임워크별 명령어를 사용할 필요가 없습니다. 간편한 인터페이스를 통해 몇 번의 클릭만으로 모델을 내보낼 수 있습니다.

그림 3. Ultralytics Platform에서 모델을 내보내는 예시(출처)

플랫폼은 내부적으로 복잡한 작업을 처리합니다. 일반적으로 여러 도구와 수동 설정이 필요한 작업을 하나의 프로세스로 간소화합니다. 추가 종속 항목을 설치하거나 호환성 문제를 해결할 필요가 없어, 학습된 모델을 프로덕션에 바로 적용할 수 있는 솔루션으로 전환하기가 훨씬 수월합니다.

Ultralytics Platform이 지원하는 모델 내보내기 형식#

Ultralytics Platform은 21가지 내보내기 형식을 지원하므로, 복잡성을 더하지 않고도 다양한 배포 환경에 맞게 모델을 쉽게 준비할 수 있습니다.

자주 사용되는 내보내기 형식은 다음과 같습니다.

• 크로스 플랫폼 및 상호 운용성: ONNX와 TorchScript는 다양한 프레임워크와 환경에서 모델을 실행하는 데 널리 사용됩니다. ONNX는 생태계 간의 가교 역할을 하여 도구 간 모델 이동을 쉽게 해 주며, TorchScript를 사용하면 Python 런타임 없이 프로덕션 환경에서 PyTorch 모델을 실행할 수 있습니다.
• GPU에서의 고성능 추론: TensorRT는 NVIDIA GPU용으로 설계되었으며, 지연 시간을 낮추고 처리량을 높이도록 모델을 최적화하는 데 중점을 둡니다. 정밀도 감소와 레이어 융합 같은 기법을 지원해 추론 속도를 높이므로 실시간 애플리케이션과 프로덕션 규모의 애플리케이션에 적합합니다.
• 모바일 및 엣지 배포: CoreML, LiteRT(TensorFlow Lite), NCNN은 연산 성능과 메모리가 제한된 디바이스에 최적화되어 있습니다. 이러한 형식은 모델 크기를 줄이고 효율성을 높여 스마트폰, 임베디드 시스템, 엣지 하드웨어에서 원활한 성능을 제공합니다. CoreML은 주로 Apple 생태계에서 사용되며, LiteRT는 Android에서 널리 사용됩니다.
• 하드웨어 최적화 실행: OpenVINO는 CPU, GPU, VPU를 포함한 Intel 하드웨어에 맞춰 설계되었으며, 해당 디바이스의 추론 속도와 효율성을 개선하는 데 도움이 됩니다. 이와 같은 하드웨어별 형식은 특정 시스템에서 최상의 성능을 얻고자 할 때 유용합니다.
• 프레임워크별 및 특수 런타임: PaddlePaddle 및 ExecuTorch와 같은 형식은 엣지 디바이스에서 모델을 효율적으로 실행하거나 특정 딥러닝 스택과 통합하는 등 특정 생태계와 배포 요구사항을 지원합니다.

Ultralytics Platform에서 모델을 내보내는 방법#

Ultralytics Platform에서 모델을 내보내는 과정은 UI 기반으로 간단하게 진행됩니다. 스크립트나 명령줄 도구 없이 인터페이스에서 전체 워크플로를 처리할 수 있습니다.

플랫폼에서 모델을 내보내는 방법은 다음과 같습니다.

• 로그인하고 모델 선택: 프로젝트로 이동한 다음 내보낼 학습된 모델을 엽니다.
• Export 탭으로 이동: 모델 대시보드에서 Export 탭을 클릭해 사용 가능한 내보내기 옵션을 확인합니다.
• 내보내기 형식 선택: 배포 요구사항에 따라 ONNX, TensorRT, CoreML과 같은 형식을 선택합니다.
• 내보내기 설정 구성(선택 사항): 성능을 최적화하도록 이미지 크기, 정밀도, 배치 크기 등의 매개변수를 조정합니다.
• 내보내기 시작: “Start Export”를 클릭해 프로세스를 시작합니다. 플랫폼이 자동으로 변환을 처리합니다.
• 내보낸 모델 다운로드: 내보내기가 완료되면 모델을 다운로드해 배포 파이프라인에서 사용할 수 있습니다.

그림 4. Ultralytics Platform에서 내보내기 설정을 구성하는 모습

적합한 내보내기 형식 선택#

Ultralytics Platform이 지원하는 다양한 내보내기 형식을 살펴보다 보면 어떤 형식을 선택해야 할지 궁금할 수 있습니다. 답은 모델을 어디에서 어떻게 사용할 계획인지에 따라 달라집니다.

고려할 요소는 다음과 같습니다.

• 지연 시간 요구사항: 비디오 분석이나 자율 시스템과 같은 실시간 애플리케이션에서는 낮은 지연 시간이 매우 중요합니다. TensorRT와 같이 고성능 추론에 최적화된 형식이 더 적합한 경우가 많습니다.
• 하드웨어 제약: 휴대전화나 임베디드 시스템처럼 메모리와 처리 성능이 제한된 디바이스에는 LiteRT 또는 NCNN과 같은 경량 형식이 필요합니다.
• 모델 크기 및 전력 소비: 엣지 디바이스를 사용할 때는 모델 크기와 전력 소비가 중요합니다. 크기가 작고 최적화된 모델은 리소스를 소진하지 않으면서 일관된 성능을 보장하는 데 도움이 됩니다.
• 배포 환경: 모델을 여러 플랫폼에서 실행해야 한다면 ONNX와 같은 형식이 유연성을 제공합니다. iOS 앱처럼 특정 플랫폼에 맞는 사용 사례에는 CoreML이 더 적합한 경우가 많습니다.

모든 상황에 맞는 단 하나의 형식은 없습니다. 성능, 호환성, 대상 환경의 제약 사이에서 균형을 맞추는 것이 중요합니다. Ultralytics Platform을 사용하면 별도의 번거로움 없이 여러 형식을 시험하고 비교할 수 있어 이 과정이 더욱 쉬워집니다.

핵심 요점#

내보내기는 다양한 환경에서 모델을 실제로 사용할 수 있도록 준비하는 데 필수적인 단계입니다. Ultralytics Platform을 사용하면 추가 설정이나 복잡한 절차 없이 모델을 변환하고 최적화할 수 있어 이 과정이 훨씬 간단해집니다. 사용 사례에 적합한 형식을 선택하면 모델이 배포 위치와 관계없이 효율적으로 실행되도록 할 수 있습니다.

성장 중인 커뮤니티에 참여하고 GitHub 저장소를 확인해 컴퓨터 비전에 대해 더 알아보세요. 로보틱스 분야의 AI와 물류 분야의 컴퓨터 비전 같은 애플리케이션에 대해 알아보려면 솔루션 페이지를 살펴보세요. 라이선스 옵션을 확인하고 비전 AI 개발을 시작해 보세요!