Ultralytics 사용하여 Ultralytics YOLO 내보내는 방법

지난달, 저희는 컴퓨터 비전 워크플로우 전반을 간소화하기 위해 설계된 통합 작업 공간인 Ultralytics 출시했습니다. 이 플랫폼은 데이터셋 관리, 라벨링, 모델 훈련, 테스트, 배포 및 모니터링을 포함한 주요 비전 AI 기능을 하나의 간소화된 인터페이스로 통합합니다.

이러한 종단간 워크플로우에서 배포는 모델을 실험 단계에서 실제 적용 단계로 넘어가게 하는 데 있어 핵심적인 역할을 합니다. 앞서 우리는 API를 통한 공유 추론, 확장 가능한 운영 환경 배포를 위한 전용 엔드포인트, 에지 디바이스나 외부 인프라에서 실행하기 위한 모델 내보내기 등 플랫폼에서 제공되는 다양한 배포 옵션을 살펴보았습니다.

이제 모델 내보내기 기능과 이 기능이 다양한 환경에 걸친 배포를 어떻게 지원하는지 자세히 살펴보겠습니다. Ultralytics 인프라 내에서 모델을 실행하는 공유 추론 및 전용 엔드포인트와 달리, 모델 내보내기 기능을 사용하면 에지 디바이스, 모바일 애플리케이션, 사용자 지정 인프라와 같은 외부 환경에 모델을 배포하고 실행할 수 있습니다.

모델을 이러한 환경에서 실행하려면 먼저 대상 런타임에서 지원하는 형식으로 변환해야 합니다. 모바일 및 엣지 디바이스를 위한 경량 형식부터 클라우드 및 GPU 시스템을 위한 고성능 형식에 이르기까지, 각 배포 환경마다 고유한 요구 사항이 있습니다.

일반적으로 이 과정은 스크립트, 종속성, 다양한 도구를 다루어야 하기 때문에 시간이 많이 소요될 수 있습니다. 하지만 Ultralytics 사용하면 내보내기 작업이 훨씬 간편해집니다. 별도의 설정 없이도 몇 번의 클릭만으로 모델을 변환하고 최적화할 수 있습니다.

이 글에서는 모델 내보내기가 무엇인지, Ultralytics 에서 지원하는 형식들, 그리고 사용 사례에 맞는 형식을 선택하는 방법을 단계별로 살펴보겠습니다. 그럼 시작해 볼까요!

모델 내보내기 개요

모델을 내보낸다는 것은 사전 학습된 모델이나 사용자 정의 모델을 원래 프레임워크 외부에서도 사용할 수 있는 형식으로 변환하는 것을 의미합니다. Ultralytics YOLO PyTorch 사용하여 구축되며 네이티브 형식으로 PyTorch , 이는 PyTorch 내에서 모델 훈련, 평가 및 실험을 수행하는 데 적합합니다.

그러나 배포 환경은 종종 서로 다른 런타임과 하드웨어 사양을 갖습니다. 이 때문에 훈련 과정에서 사용된 형식이 배포 시에도 항상 적합한 것은 아닙니다.

예를 들어, 모바일 애플리케이션의 경우 저전력 소비에 최적화된 경량 형식이 필요할 수 있는 반면, 브라우저 기반 앱은 웹 환경에서 효율적으로 실행되는 형식이 필요합니다. 

카메라나 임베디드 시스템과 같은 에지 디바이스는 소형이고 빠른 모델의 이점을 누리는 반면, 클라우드 시스템은 고성능 추론을 위해 설계되었습니다. 이러한 서로 다른 시나리오를 지원하기 위해서는 모델을 호환 가능한 형식으로 내보내야 합니다. 

모델 내보내기 기능이 그 어느 때보다 중요한 이유

오늘날 컴퓨터 비전 모델은 데이터가 생성되는 곳, 특히 엣지 기기에서 더 가깝게 배포되고 있습니다. 스마트폰은 실시간 비전 애플리케이션을 실행하고, CCTV 카메라는 기기 내에서 모니터링을 수행하며, 자율 시스템은 즉각적인 의사 결정에 의존합니다.

그러나 이러한 환경에 모델을 배포하는 데는 여러 가지 어려움이 따릅니다. 엣지 디바이스는 연산 능력이 제한적이고, 지연 시간에 대한 요구 사항이 엄격하며, 메모리 및 전력 소비에 제약이 있습니다. 충분한 자원을 갖춘 환경에서 훈련 시 우수한 성능을 보인 모델이라도, 이러한 제한적인 조건 하에서는 효율적으로 실행되지 않을 수 있습니다.

모델을 적절한 형식으로 내보내면 이러한 문제들을 해결하는 데 도움이 될 수 있습니다. 모델을 적절하게 변환함으로써 처리 속도를 최적화하고, 파일 크기를 줄이며, 특정 하드웨어와 호환되도록 만들 수 있습니다. 

동시에, 내보내기 기능은 유연성을 제공합니다. 특정 요구 사항에 따라 동일한 모델을 여러 형식으로 변환함으로써 다양한 배포 환경에 맞게 조정할 수 있습니다.

예를 들어, NCNN 형식은 리소스 사용량이 적은 모바일 및 엣지 기기에 최적화되어 있습니다. 반면 OpenVINO Intel 맞춰 설계되어 중앙 처리 장치(CPU), 그래픽 처리 장치(GPU), 신경망 처리 장치(NPU)에서 더 뛰어난 성능을 발휘합니다. 

대부분의 경우, 이러한 수준의 유연성을 확보하려면 수동 변환, 종속성 문제, 그리고 여러 도구를 다루어야 했기 때문에 프로세스가 시간이 많이 걸리고 복잡해졌습니다. Ultralytics 모델 내보내기 기능을 더욱 편리하게 제공하고 관리하기 쉽게 만들어 이 워크플로를 간소화합니다.

Ultralytics 모델 내보내기를 어떻게 간소화하는지

일반적으로 모델 내보내기는 컴퓨터 비전 워크플로우에서 별개의 복잡한 단계로 취급됩니다. Ultralytics 훈련부터 배포에 이르기까지 모든 과정을 아우르는 단일 작업 공간에 모델 내보내기 기능을 직접 통합함으로써 이러한 관행을 바꾸고 있습니다.

이 솔루션의 주요 장점 중 하나는 코딩 없이도 쉽게 내보낼 수 있다는 점입니다. 스크립트를 작성하거나 환경을 관리할 필요도 없고, 특정 프레임워크 전용 명령어를 사용할 필요도 없습니다. 직관적인 인터페이스를 통해 몇 번의 클릭만으로 모델을 내보낼 수 있습니다.

이 플랫폼은 뒤에서 모든 복잡한 작업을 처리합니다. 일반적으로 여러 도구와 수동 설정이 필요했던 작업들이 하나의 프로세스로 간소화됩니다. 별도의 종속성을 설치하거나 호환성 문제를 해결할 필요가 없어, 훈련된 모델을 실제 운영에 바로 적용할 수 있는 솔루션으로 전환하는 과정이 훨씬 수월해집니다.

Ultralytics 에서 지원하는 모델 내보내기 형식

Ultralytics 17가지 내보내기 형식을 지원하므로, 복잡성을 더하지 않고도 다양한 배포 환경에 맞게 모델을 손쉽게 준비할 수 있습니다.

다음은 자주 사용되는 내보내기 형식들에 대한 개요입니다:

• 크로스 플랫폼 및 상호 운용성: ONNX TorchScript 서로 다른 프레임워크와 환경에서 모델을 실행하는 데 널리 TorchScript . ONNX 생태계 간의 가교 ONNX 도구 간에 모델을 쉽게 이동할 수 있게 해주는 반면, TorchScript Python 없이도 프로덕션 환경에서 PyTorch 실행할 수 TorchScript .
• GPU 기반 고성능 추론: TensorRT NVIDIA 위해TensorRT , 낮은 지연 시간과 높은 처리량을 달성하기 위해 모델 최적화에 중점을 둡니다. 이 기술은 정밀도 축소 및 레이어 융합과 같은 기법을 지원하여 추론 속도를 높여주므로, 실시간 및 프로덕션 규모의 애플리케이션에 이상적인 선택입니다.
• 모바일 및 엣지 배포: CoreML, LiteRT(TensorFlow ) 및 NCNN 연산 능력과 메모리가 제한된 기기에 최적화되어 NCNN . 이러한 형식은 모델 크기를 줄이고 효율성을 높여 스마트폰, 임베디드 시스템 및 엣지 하드웨어에서 원활한 성능을 제공합니다. CoreML 주로 Apple 생태계에서 CoreML , LiteRT는 Android 흔히 사용됩니다.
• 하드웨어 최적화 실행: OpenVINO CPU, GPU, VPU를 포함한 Intel OpenVINO , 해당 장치에서 추론 속도와 효율성을 높이는 데 기여합니다. 이와 같은 하드웨어 전용 형식은 특정 시스템에서 최고의 성능을 끌어내야 할 때 유용합니다.
• 프레임워크 전용 및 특수 목적 런타임: PaddlePaddle ExecuTorch와 같은 포맷은 엣지 디바이스에서 모델을 효율적으로 실행하거나 특정 딥러닝 스택과 통합하는 등, 특정 생태계와 배포 요구 사항을 지원합니다.

Ultralytics 사용하여 모델을 내보내는 방법

Ultralytics 모델을 내보내는 것은 직관적인 UI 기반의 간단한 과정입니다. 전체 워크플로는 스크립트나 명령줄 도구 없이 인터페이스를 통해 처리됩니다.

플랫폼을 사용하여 모델을 내보내는 방법은 다음과 같습니다:

• 로그인 후 모델을 선택하세요: 프로젝트로 이동하여 내보내려는 훈련된 모델을 엽니다.
• ‍‘내보내기’ 탭으로 이동: 모델 대시보드에서 ‘내보내기’ 탭을 클릭하면 사용 가능한 내보내기 옵션을 확인할 수 있습니다.
• 내보내기 형식 선택: 배포 요구 사항에 CoreML ONNX, TensorRT 또는 CoreML 같은 형식을 선택하세요.
• ‍내보내기 설정 구성 (선택 사항): 성능 최적화를 위해 이미지 크기, 정밀도 또는 일괄 처리 크기 등의 매개변수를 조정합니다.
• 내보내기 프로세스 시작: “내보내기 시작”을 클릭하여 프로세스를 시작하세요. 플랫폼에서 변환을 자동으로 처리합니다.
• 내보낸 모델 다운로드: 내보내기가 완료되면모델을 다운로드하여 배포 파이프라인에서 사용할 수 있습니다.

적절한 내보내기 형식 선택하기

Ultralytics 지원하는 다양한 내보내기 형식을 살펴보시면서 어떤 형식을 선택해야 할지 고민되실 수 있습니다. 정답은 결국 모델을 어디에서, 어떻게 사용할 계획인지에 따라 달라집니다.

다음은 고려해야 할 몇 가지 요소입니다:

• 지연 시간 요구 사항: 비디오 분석이나 자율 주행 시스템과 같은 실시간 애플리케이션의 경우, 낮은 지연 시간이 매우 중요합니다. 고성능 추론에 최적화된 형식, 예를 들어 TensorRT와 같이 고성능 추론에 최적화된 포맷이 더 적합한 경우가 많습니다.‍
• 하드웨어 제약: 휴대폰이나 임베디드 시스템과 같이 메모리 및 처리 능력이 제한된 장치에는 LiteRT나 NCNN 같은 경량 형식이 필요합니다. 
• 모델 크기와 전력 소비: 엣지 디바이스를 사용할 때는 모델 크기와 전력 소비가 중요한 요소가 됩니다. 더 작고 최적화된 모델은 리소스를 과도하게 소모하지 않으면서도 일관된 성능을 보장하는 데 도움이 됩니다.
• 배포 환경: 모델을 다양한 플랫폼에서 실행해야 하는 경우, ONNX 같은 형식이 유연성을 ONNX . iOS 같이 특정 플랫폼에 국한된 사용 사례의 경우, CoreML 더 나은 CoreML 많습니다.

모든 상황에 딱 맞는 단일 형식은 없습니다. 결국 성능, 호환성, 그리고 대상 환경의 제약 조건 사이에서 적절한 균형을 찾는 것이 핵심입니다. Ultralytics 사용하면 별다른 노력 없이 다양한 형식을 직접 시도하고 비교해 볼 수 있어 이 과정을 훨씬 수월하게 만들어 줍니다.

주요 내용

모델을 다양한 환경에서 실제 사용에 대비해 준비하는 데 있어 내보내기 단계는 매우 중요합니다. Ultralytics 사용하면 이 과정이 훨씬 간편해지며, 별도의 설정이나 복잡한 절차 없이 모델을 변환하고 최적화할 수 있습니다. 사용 사례에 적합한 형식을 선택하면, 모델을 배포하는 모든 환경에서 효율적으로 실행될 수 있도록 보장할 수 있습니다.

점점 더 성장하고 있는 저희 커뮤니티에 참여하시고, GitHub 저장소를 방문하여 컴퓨터 비전에 대해 자세히 알아보세요. 솔루션 페이지를 살펴보시면 로봇 공학 분야의 AI 및 물류 분야의 컴퓨터 비전과 같은 응용 사례에 대해 더 자세히 확인하실 수 있습니다. 다양한 라이선스 옵션을 확인하고 비전 AI를 활용한 개발을 시작해 보세요!