ExecuTorch 통합을 사용하여 Ultralytics YOLO 모델 배포하기

자동화된 품질 검사, 자율 드론 또는 스마트 보안 시스템과 같은 특정 컴퓨터 비전 애플리케이션은 이미지를 캡처하는 센서 가까이에서 Ultralytics YOLO11과 같은 Ultralytics YOLO 모델을 실행할 때 가장 뛰어난 성능을 발휘합니다. 다시 말해, 이러한 모델은 데이터를 클라우드로 전송하는 대신 카메라, 드론 또는 임베디드 시스템처럼 데이터가 생성되는 곳에서 직접 처리해야 합니다.

엣지 AI로 알려진 이 접근 방식은 데이터가 캡처되는 디바이스에서 모델이 직접 추론을 수행할 수 있도록 합니다. 원격 서버에 의존하는 대신 정보를 로컬에서 처리하면 인터넷 연결이 제한적이거나 없는 환경에서도 시스템의 지연 시간을 줄이고, 데이터 프라이버시를 강화하며, 안정성을 높일 수 있습니다.

예를 들어, 매분 수천 개의 제품을 검사하는 제조 카메라나 복잡한 환경을 탐색하는 드론은 클라우드 처리로 인해 발생하는 지연을 감당할 수 없습니다. Ultralytics YOLO11을 디바이스에서 직접 실행하면 즉각적인 온디바이스 추론이 가능합니다.

엣지에서 Ultralytics YOLO 모델을 더 쉽고 효율적으로 실행할 수 있도록 Ultralytics가 지원하는 새로운 ExecuTorch 통합은 모델을 모바일 및 임베디드 디바이스로 직접 내보내고 배포하는 간소화된 방법을 제공합니다. ExecuTorch는 PyTorch Edge 생태계의 일부이며, 휴대폰, 웨어러블, 임베디드 보드 및 마이크로컨트롤러를 비롯한 모바일 및 엣지 하드웨어에서 AI 모델을 직접 실행하기 위한 엔드투엔드 솔루션을 제공합니다.

이 통합을 사용하면 YOLO11과 같은 Ultralytics YOLO 모델을 학습부터 엣지 디바이스 배포까지 쉽게 진행할 수 있습니다. YOLO11의 비전 기능과 ExecuTorch의 경량 런타임 및 PyTorch 내보내기 파이프라인을 결합하면 PyTorch 기반 추론의 정확도와 성능을 유지하면서 엣지 하드웨어에서 효율적으로 실행되는 모델을 배포할 수 있습니다.

이 글에서는 ExecuTorch 통합의 작동 방식, 엣지 AI 애플리케이션에 적합한 이유, 그리고 ExecuTorch를 사용하여 Ultralytics YOLO 모델 배포를 시작하는 방법을 자세히 살펴봅니다. 시작하겠습니다!

ExecuTorch란 무엇인가요?#

일반적으로 PyTorch에서 모델을 학습하면 클라우드의 강력한 서버 또는 그래픽 처리 장치(GPUs)에서 실행됩니다. 그러나 동일한 모델을 스마트폰, 드론 또는 마이크로컨트롤러와 같은 모바일 또는 임베디드 디바이스에 배포하려면 제한된 컴퓨팅 성능, 메모리 및 연결성을 처리할 수 있는 특수 솔루션이 필요합니다.

ExecuTorch는 바로 이러한 기능을 제공합니다. ExecuTorch는 PyTorch Edge 생태계의 일부로 개발된 엔드투엔드 솔루션으로, 모바일, 임베디드 및 엣지 플랫폼 전반에서 효율적인 온디바이스 추론을 지원합니다. PyTorch의 기능을 클라우드 너머로 확장하여 AI 모델을 로컬 디바이스에서 직접 실행할 수 있도록 합니다.

PyTorch 추론을 엣지로 가져오기#

ExecuTorch는 핵심적으로 PyTorch 모델을 디바이스에서 직접 실행할 수 있도록 하는 경량 C++ 런타임을 제공합니다. ExecuTorch는 PyTorch ExecuTorch (.pte) 모델 형식을 사용하며, 이는 더 빠른 로딩, 더 작은 메모리 사용량 및 향상된 이식성을 위해 최적화된 내보내기 형식입니다.

효율적인 중앙 처리 장치(CPU) 추론을 위한 기본 백엔드로 XNNPACK을 지원하며, CoreML, Metal, Vulkan, Qualcomm, MediaTek, Arm EthosU, OpenVINO 등을 포함한 다양한 하드웨어 백엔드와의 호환성을 확장합니다.

이러한 백엔드는 모바일, 임베디드 및 특수 엣지 디바이스에서 최적화된 가속을 제공합니다. 또한 ExecuTorch는 PyTorch 내보내기 파이프라인과 통합되어 양자화 및 동적 shape 처리와 같은 고급 기능을 지원하므로 다양한 배포 환경에서 성능과 적응성을 향상할 수 있습니다.

양자화는 고정밀 값(예: 32비트 부동 소수점)을 더 낮은 정밀도의 값으로 변환하여 모델 크기를 줄이고 추론 속도를 높이며, 동적 shape 처리는 모델이 다양한 입력 크기를 효율적으로 처리할 수 있도록 합니다. 두 기능 모두 리소스가 제한된 엣지 디바이스에서 AI 모델을 실행하는 데 매우 중요합니다.

그림 1. ExecuTorch의 작동 방식(출처)

엣지 하드웨어를 위한 통합 레이어#

ExecuTorch는 런타임을 넘어 여러 하드웨어 백엔드를 위한 통합 추상화 레이어로도 작동합니다. 간단히 말해 하드웨어별 세부 사항을 추상화하고 CPU, GPU 및 신경망 처리 장치(NPUs)를 비롯한 다양한 처리 장치와 모델의 상호 작용을 관리합니다.

모델을 내보낸 후 ExecuTorch는 특정 디바이스에 가장 적합한 백엔드를 대상으로 구성할 수 있습니다. 개발자는 디바이스별 맞춤 코드를 작성하거나 별도의 변환 워크플로를 유지하지 않고도 다양한 하드웨어에 모델을 효율적으로 배포할 수 있습니다.

모듈식이고 이식 가능한 설계와 원활한 PyTorch 통합을 제공하는 ExecuTorch는 Ultralytics YOLO11과 같은 컴퓨터 비전 모델을 모바일 및 임베디드 시스템에 배포하기 위한 훌륭한 옵션입니다. 모델 학습과 실제 배포 간의 격차를 해소하여 엣지 AI를 더 빠르고 효율적이며 쉽게 구현할 수 있도록 합니다.

ExecuTorch의 주요 기능#

Ultralytics YOLO 모델을 ExecuTorch 형식으로 내보내는 방법을 살펴보기 전에, ExecuTorch가 엣지에서 AI를 배포하기 위한 안정적인 옵션이 되는 이유를 알아보겠습니다.

다음은 주요 기능 중 일부를 간략히 살펴본 내용입니다.

• 양자화 지원: ExecuTorch는 모델 크기를 줄이고 추론 속도를 높이기 위해 고정밀 값을 더 낮은 정밀도의 값으로 변환하는 기술인 모델 양자화를 지원합니다. 이를 통해 거의 동일한 정확도를 유지하면서 엣지 디바이스에서 모델을 더 빠르게 실행하고 메모리를 적게 사용할 수 있습니다.
• 효율적인 메모리 사용: ExecuTorch의 가장 큰 장점 중 하나는 메모리를 처리하는 방식입니다. 지연 시간과 전력 오버헤드를 유발할 수 있는 동적 메모리 할당에 의존하는 대신, ExecuTorch는 사전 컴파일(AOT) 메모리 계획을 사용합니다. 내보내는 동안 모델 그래프를 분석하고 각 연산에 필요한 메모리 용량을 미리 계산합니다. 이를 통해 런타임은 정적 메모리 계획을 사용하여 모델을 실행할 수 있으며, 성능을 예측 가능하게 유지하고 RAM 또는 처리 용량이 제한된 디바이스에서 속도 저하나 충돌을 방지합니다.
• 내장 모델 메타데이터: Ultralytics가 지원하는 통합을 사용하여 내보낼 때 각 모델에는 입력 이미지 크기, 클래스 이름 및 구성 매개변수와 같은 중요한 메타데이터가 포함된 YAML 파일이 함께 생성됩니다. 이 추가 파일은 다양한 애플리케이션에 모델을 통합하는 과정을 간소화하고 서로 다른 엣지 플랫폼에서 일관된 동작을 보장합니다.

Ultralytics YOLO 모델을 ExecuTorch 형식으로 내보내는 방법#

이제 ExecuTorch가 제공하는 기능을 더 잘 이해했으므로, Ultralytics YOLO 모델을 ExecuTorch 형식으로 내보내는 방법을 단계별로 살펴보겠습니다.

1단계: Ultralytics Python 패키지 설치#

시작하려면 패키지 설치 프로그램인 pip를 사용하여 Ultralytics Python 패키지를 설치해야 합니다. 터미널 또는 명령 프롬프트에서 “pip install ultralytics”를 실행하면 됩니다.

Jupyter Notebook 또는 Google Colab 환경에서 작업하는 경우 명령 앞에 느낌표를 추가하여 "!pip install ultralytics"와 같이 실행하면 됩니다. 설치가 완료되면 Ultralytics 패키지는 Ultralytics YOLO11을 포함한 컴퓨터 비전 모델을 학습, 테스트 및 내보내는 데 필요한 모든 도구를 제공합니다.

설치 중 또는 모델 내보내기 중 문제가 발생하면 공식 Ultralytics 문서와 일반적인 문제 해결 가이드에서 원활하게 시작할 수 있도록 자세한 문제 해결 단계와 모범 사례를 확인할 수 있습니다.

2단계: Ultralytics YOLO11 내보내기#

Ultralytics 패키지를 설치한 후 YOLO11 모델의 변형을 로드하여 내보낼 수 있으며, 이를 ExecuTorch 형식으로 변환할 수 있습니다. 예를 들어 “yolo11n.pt”와 같은 사전 학습된 모델을 사용하고 format을 “executorch”로 설정하여 export 함수를 호출하면 됩니다.

그러면 “yolo11n_executorch_model”이라는 디렉터리가 생성되며, 여기에는 최적화된 모델 파일(.pte)과 이미지 크기 및 클래스 이름과 같은 중요한 세부 정보가 포함된 별도의 메타데이터 YAML 파일이 들어 있습니다.

다음은 모델을 내보내는 코드입니다.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="executorch")

3단계: 모델 내보내기 후 추론 실행#

내보내기가 완료되면 ExecuTorch 런타임을 사용하여 엣지 및 모바일 디바이스에 모델을 배포할 수 있습니다. 내보낸 .pte 모델 파일을 애플리케이션에 로드하면 클라우드 연결 없이 실시간 온디바이스 추론을 실행할 수 있습니다.

예를 들어 아래 코드 스니펫은 내보낸 모델을 로드하고 추론을 실행하는 방법을 보여줍니다. 추론은 학습된 모델을 사용하여 새로운 데이터에 대한 예측을 수행하는 것을 의미합니다. 여기서는 공개 URL에서 가져온 버스 이미지로 모델을 테스트합니다.

executorch_model = YOLO("yolo11n_executorch_model")
results = executorch_model.predict("https://ultralytics.com/images/bus.jpg", save=True)

코드를 실행하면 감지된 객체가 포함된 출력 이미지가 “runs/detect/predict” 폴더에 저장된 것을 확인할 수 있습니다.

그림 2. ExecuTorch 형식으로 내보낸 Ultralytics YOLO11 모델을 사용한 객체 감지입니다.

ExecuTorch 통합 사용의 이점#

Ultralytics가 지원하는 다양한 내보내기 옵션을 살펴보면 ExecuTorch 통합이 무엇 때문에 특별한지 궁금할 수 있습니다. 핵심적인 차이점은 성능, 간편성 및 유연성을 얼마나 잘 결합하는지에 있으며, 이를 통해 강력한 AI 모델을 모바일 및 엣지 디바이스에 직접 쉽게 배포할 수 있습니다.

다음은 ExecuTorch 통합 사용의 주요 장점 중 일부입니다.

• 유연한 배포 옵션: ExecuTorch 모델은 모바일 애플리케이션, 임베디드 시스템, IoT(사물 인터넷) 디바이스 및 특수 엣지 AI 하드웨어 전반에 배포할 수 있습니다. 이러한 유연성을 통해 개발자는 다양한 플랫폼과 환경에서 일관되게 작동하는 확장 가능한 AI 솔루션을 구축할 수 있습니다.
• 벤치마크로 입증된 성능: Raspberry Pi 5와 같은 디바이스에서 실시한 테스트에 따르면 ExecuTorch 형식으로 내보낸 Ultralytics YOLO11 모델은 거의 동일한 정확도를 유지하면서 PyTorch 모델보다 약 2배 빠르게 실행됩니다.
• 유연한 통합 API: ExecuTorch는 iOS, Android 및 임베디드 Linux를 위한 C++, Kotlin 및 Objective-C API를 제공하므로 개발자가 YOLO 모델을 네이티브 앱에 직접 통합할 수 있습니다.
• 하드웨어 가속 지원: ExecuTorch는 모바일 GPU용 Vulkan 및 Metal을 비롯한 여러 하드웨어 가속 백엔드를 지원하며, OpenCL 및 기타 공급업체별 API와의 선택적 통합도 제공합니다. 또한 NPU 및 DSP와 같은 전용 가속기를 활용하여 CPU만 사용하는 추론보다 상당한 속도 향상을 달성할 수 있습니다.

Ultralytics YOLO11 및 ExecuTorch 내보내기의 실제 활용 사례#

최근 Ultralytics는 PyTorch ExecuTorch 성공 사례로 소개되었으며, 이는 온디바이스 추론에 대한 초기 지원과 PyTorch 생태계에 대한 지속적인 기여를 보여줍니다. 이번 선정은 고성능 AI를 모바일 및 엣지 플랫폼에서 더 쉽게 사용할 수 있도록 하려는 공동의 목표를 반영합니다.

클라우드에서 엣지로: ExecuTorch와 Ultralytics YOLO11이 비전 AI를 구현하는 방법#

실제로 이는 스마트폰부터 임베디드 시스템까지 다양한 디바이스에서 효율적으로 실행되는 실제 비전 AI 솔루션의 형태로 나타납니다. 예를 들어 제조 분야에서는 엣지 디바이스가 생산 라인을 모니터링하고 결함을 실시간으로 감지하는 데 중요한 역할을 합니다.

그림 3. Ultralytics YOLO11을 사용하여 제조 조립 라인을 분석하는 예시입니다. (출처)

처리를 위해 이미지나 센서 데이터를 클라우드로 전송하면 지연이 발생하고 인터넷 연결에 의존해야 하는 대신, ExecuTorch 통합을 사용하면 Ultralytics YOLO11 모델을 로컬 하드웨어에서 직접 실행할 수 있습니다. 즉, 공장은 품질 문제를 즉시 감지하고 가동 중지 시간을 줄이며 데이터 프라이버시를 유지하면서도 제한된 컴퓨팅 리소스로 운영할 수 있습니다.

다음은 ExecuTorch 통합과 Ultralytics YOLO 모델을 적용할 수 있는 몇 가지 다른 예시입니다.

• 스마트 시티: ExecuTorch를 사용하여 Ultralytics YOLO11 모델을 로컬에서 실행하면 도시는 교통 체증 감지부터 위험 요소 식별까지 더 빠르고 데이터에 기반한 의사 결정을 내릴 수 있어 전반적인 이동성과 안전성을 향상할 수 있습니다.
• 소매 및 창고 관리: 온디바이스 추론을 사용하면 소매업체는 클라우드 연결에 의존하지 않고 선반 모니터링을 자동화하고 재고를 추적하며 패키지를 빠르고 안전하게 검사할 수 있습니다.
• 로보틱스 및 드론: 엣지에 최적화된 Ultralytics YOLO11 모델을 사용하면 로봇과 드론이 인터넷에 연결되지 않은 경우에도 객체를 인식하고 환경을 탐색하며 실시간으로 의사 결정을 내릴 수 있습니다.

그림 4. YOLO11을 사용한 교통 상황의 차량 감지 및 카운팅(출처)

핵심 요점#

Ultralytics YOLO 모델을 ExecuTorch 형식으로 내보내면 스마트폰, 태블릿 및 Raspberry Pi와 같은 임베디드 시스템을 비롯한 다양한 디바이스에 컴퓨터 비전 모델을 쉽게 배포할 수 있습니다. 따라서 클라우드 연결에 의존하지 않고도 최적화된 온디바이스 추론을 실행하여 속도, 프라이버시 및 안정성을 향상할 수 있습니다.

Ultralytics는 ExecuTorch와 함께 TensorRT, OpenVINO, CoreML 등을 비롯한 다양한 통합을 지원하므로 개발자는 여러 플랫폼에서 모델을 실행할 수 있는 유연성을 확보할 수 있습니다. 비전 AI 도입이 확대됨에 따라 이러한 통합은 실제 환경에서 효율적으로 작동하도록 구축된 지능형 시스템의 배포를 간소화합니다.

AI에 관심이 있으신가요? GitHub 저장소를 확인하고, 커뮤니티에 참여하며, 라이선스 옵션을 살펴보고 비전 AI 프로젝트를 시작해 보세요. 솔루션 페이지를 방문하여 소매 분야의 AI 및 물류 분야의 컴퓨터 비전과 같은 혁신에 대해 자세히 알아보세요.