ONNX 통합을 사용하여 Ultralytics YOLO 모델 export하기

AI 솔루션이 처음 주목받기 시작했을 때 대부분의 모델은 통제된 환경의 강력한 서버에 배포되었습니다. 그러나 기술이 발전하면서 배포 범위는 데이터센터를 훨씬 넘어 확장되었습니다.

오늘날 AI 모델은 클라우드 서버와 데스크톱부터 스마트폰과 엣지 디바이스까지 다양한 환경에서 실행됩니다. 이러한 변화는 더 빠른 처리, 오프라인 기능, 그리고 데이터가 생성되는 곳에 더 가까이에서 작동하는 지능형 시스템을 지원합니다.

이러한 변화가 특히 뚜렷한 분야 중 하나가 컴퓨터 비전입니다. 컴퓨터 비전은 기계가 시각 데이터를 해석할 수 있도록 하는 AI의 한 분야입니다. 컴퓨터 비전은 얼굴 인식, 자율주행, 실시간 동영상 분석과 같은 애플리케이션을 구현하는 데 사용되고 있습니다. 이러한 사용 사례가 증가하면서 다양한 하드웨어와 플랫폼에서 원활하게 실행될 수 있는 모델의 필요성도 커지고 있습니다.

하지만 다양한 배포 대상에 컴퓨터 비전 모델을 배포하는 일이 항상 간단한 것은 아닙니다. 디바이스마다 하드웨어, 운영 체제, 지원되는 프레임워크가 다르므로 유연성과 호환성이 필수적입니다.

따라서 Ultralytics YOLO11과 같은 컴퓨터 비전 모델을 다양한 형식으로 내보낼 수 있는 옵션이 중요합니다. 예를 들어, Ultralytics가 지원하는 ONNX (오픈 신경망 교환) 통합은 학습과 배포 사이의 간극을 메우는 실용적인 방법을 제공합니다. ONNX는 모델을 프레임워크에 종속되지 않게 만들고 여러 플랫폼에서 배포할 수 있도록 준비해 주는 개방형 형식입니다.

그림 1. ONNX를 사용하면 한 프레임워크에서 학습한 모델을 다른 프레임워크에서 쉽게 실행할 수 있습니다.

이 글에서는 Ultralytics가 지원하는 ONNX 통합을 자세히 살펴보고, 유연한 크로스 플랫폼 배포를 위해 YOLO11 모델을 내보내는 방법을 알아봅니다.

ONNX와 ONNX Runtime이란 무엇인가요?#

오픈 신경망 교환은 머신러닝 모델을 위한 표준 형식을 정의하는 오픈 소스 프로젝트입니다. Microsoft와 Facebook이 처음 개발한 이 프로젝트를 사용하면 개발자가 PyTorch와 같은 한 프레임워크에서 모델을 학습한 후 TensorFlow와 같은 다른 프레임워크에서 실행할 수 있습니다. 따라서 특히 컴퓨터 비전과 같은 분야에서 AI 개발을 더욱 유연하고 협업 친화적이며 접근하기 쉽게 만들 수 있습니다.

ONNX는 공통 연산자 집합과 통합 파일 형식을 제공하므로 서로 다른 도구, 프레임워크, 런타임, 컴파일러 간에 모델을 더욱 쉽게 이동할 수 있습니다. 일반적으로 한 프레임워크에서 학습한 모델은 다른 프레임워크와 쉽게 호환되지 않지만, ONNX를 사용하면 모델을 한 번 내보낸 후 CPU(중앙 처리 장치), GPU(그래픽 처리 장치), 모바일 디바이스 또는 엣지 하드웨어 등 거의 모든 환경에 배포할 수 있습니다.

또한 ONNX Runtime은 ONNX 형식의 모델을 실행하도록 특별히 개발된 고성능 추론 엔진입니다. 서버, 모바일 디바이스, 엣지 하드웨어 등 다양한 플랫폼에서 ONNX 모델을 더 빠르고 효율적으로 실행하도록 설계되었습니다. ONNX Runtime은 PyTorch, TensorFlow, TensorFlow Lite, scikit-learn과 같은 널리 사용되는 프레임워크와 호환되므로 다양한 워크플로에 쉽게 통합하고 필요한 곳에 모델을 배포할 수 있습니다.

그림 2. ONNX와 ONNX Runtime은 유연한 크로스 플랫폼 모델 배포를 지원합니다.

ONNX의 주요 기능#

Ultralytics YOLO11을 ONNX 형식으로 내보내는 방법을 살펴보기 전에 ONNX 모델 형식의 주요 기능을 알아보겠습니다.

도구 간 전환, 다양한 디바이스에 배포, 시스템 업그레이드 중 어느 경우에도 ONNX는 모든 요소가 원활하게 작동하도록 지원합니다. ONNX 모델 형식이 특별한 이유는 다음과 같습니다.

• 하나의 표준 형식: ONNX는 레이어와 연산 같은 모델 구성 요소를 설명하는 공통 방식을 사용합니다. 이를 구성 블록이라고 생각할 수 있습니다. 모델을 ONNX로 변환하면 이 표준을 따르므로 ONNX를 지원하는 모든 시스템이 모델을 이해하고 실행할 수 있습니다.

• 하위 호환성: ONNX는 계속 개선되는 동시에 이전 모델이 최신 버전에서도 작동하도록 보장합니다. 따라서 ONNX가 업데이트될 때마다 모델을 다시 학습하거나 재구축할 필요가 없습니다.

• 그래프 기반 모델 설계: ONNX 모델은 계산 그래프로 구성됩니다. 각 노드는 레이어나 수학 함수와 같은 연산을 나타내며, 엣지는 데이터의 흐름을 나타냅니다. 이러한 그래프 기반 설계는 유사한 계산 그래프 구조를 사용하는 다양한 시스템과의 통합을 용이하게 합니다.

• 개발자 친화적인 도구: 모델을 변환, 검증, 최적화하는 데 도움이 되는 다양한 도구를 제공합니다. 이러한 도구는 서로 다른 프레임워크 간에 모델을 이동하는 과정을 간소화하고, 특히 컴퓨터 비전 애플리케이션의 배포 속도를 높일 수 있습니다.

ONNX 통합 개요#

Ultralytics YOLO11과 같은 Ultralytics YOLO 모델을 ONNX 형식으로 내보내는 작업은 간단하며 몇 단계만으로 완료할 수 있습니다.

시작하려면 ‘pip’와 같은 패키지 관리자를 사용하여 Ultralytics Python 패키지를 설치합니다. 명령 프롬프트나 터미널에서 “pip install ultralytics” 명령을 실행하면 됩니다.

Ultralytics 패키지를 사용하면 다양한 컴퓨터 비전 작업을 위한 모델의 학습, 테스트, 파인튜닝, 내보내기, 배포를 쉽게 수행할 수 있어 전체 프로세스를 더 빠르고 효율적으로 만들 수 있습니다. 설치 중 문제가 발생하면 일반적인 문제 가이드에서 해결 방법과 팁을 확인할 수 있습니다.

Ultralytics 패키지를 설치한 후에는 아래 코드를 사용하여 YOLO11 모델을 로드하고 ONNX 형식으로 내보낼 수 있습니다. 이 예제에서는 사전 학습된 YOLO11 모델(yolo11n.pt)을 로드하고 ONNX 파일(yolo11n.onnx)로 내보내 다양한 플랫폼과 디바이스에 배포할 수 있도록 준비합니다.

모델을 ONNX 형식으로 변환한 후에는 다양한 플랫폼에 배포할 수 있습니다.

아래 예제에서는 내보낸 YOLO11 모델(yolo11n.onnx)을 로드하고 이를 사용해 추론을 실행하는 방법을 보여 줍니다. 추론은 학습된 모델을 사용하여 새로운 데이터에 대한 예측을 수행하는 것을 의미합니다. 이 경우 버스 이미지의 URL을 사용하여 모델을 테스트합니다.

이 코드를 실행하면 다음 출력 이미지가 runs/detect/predict 폴더에 저장됩니다.

그림 3. 이미지에서 내보낸 Ultralytics YOLO11 모델을 사용하여 추론을 실행합니다.

ONNX 통합은 언제 선택해야 하나요?#

Ultralytics Python 패키지는 TorchScript, CoreML, TensorRT, ONNX를 포함한 여러 형식으로 모델을 내보내는 기능을 지원합니다. 그렇다면 ONNX를 선택해야 하는 이유는 무엇일까요?

ONNX가 돋보이는 이유는 프레임워크에 종속되지 않는 형식이기 때문입니다. 다른 많은 내보내기 형식이 특정 도구나 환경에 종속되는 반면, ONNX는 표준화된 형식과 공통 연산자 집합을 사용합니다. 따라서 ONNX는 높은 이식성, 우수한 하드웨어 호환성을 갖추며 클라우드 서버, 모바일 앱, 엣지 디바이스 등 다양한 환경에서 크로스 플랫폼 배포에 적합합니다.

ONNX 통합이 Ultralytics YOLO11 프로젝트에 적합한 선택이 될 수 있는 몇 가지 이유는 다음과 같습니다.

• 이식 가능한 배포: Ultralytics YOLO11 모델을 ONNX로 한 번 내보내면 코드 변경이나 재학습 없이 다양한 플랫폼에 배포할 수 있습니다.

• 업계 전반의 지원: ONNX는 주요 AI 기업과 프레임워크에서 지원되므로 신뢰할 수 있고 널리 인정받는 형식입니다. 다양한 디바이스에서 작동하는 PDF와 마찬가지로 장기적인 호환성을 보장합니다.

• 미래를 대비한 개발: ONNX를 사용하면 모델에 대한 투자를 보호하는 데 도움이 됩니다. 도구가 발전하더라도 ONNX는 새로운 환경이나 다른 환경에서 모델이 계속 유효하고 사용 가능하도록 지원합니다.

• 벤더 종속 없음: 일부 도구는 특정 시스템만 사용하도록 제한하여 모델의 활용 범위를 좁힐 수 있습니다. ONNX는 단일 설정에 묶이지 않고 필요에 가장 적합한 플랫폼을 선택할 수 있도록 하여 이러한 문제를 방지합니다.

Ultralytics YOLO11 및 ONNX 모델 형식의 활용 사례#

이제 ONNX 통합을 활용하여 Ultralytics YOLO11을 배포할 수 있는 실제 활용 사례를 살펴보겠습니다.

Ultralytics YOLO11을 사용한 창고 재고 추적#

분주한 창고에서는 모든 제품과 패키지를 항상 확인하기 어렵습니다. 컴퓨터 비전 시스템은 작업자가 선반에서 제품을 찾고 제품 수량, 종류 등의 정보를 파악하는 데 도움을 줄 수 있습니다. 이러한 시스템은 기업이 방대한 재고를 자동으로 관리하고 창고 작업자의 시간을 크게 절약하도록 지원합니다.

특히 스마트 창고에서는 ONNX로 내보낸 Ultralytics YOLO11 모델을 카메라와 엣지 디바이스를 사용하여 실시간으로 물품을 식별하고 개수를 세는 데 활용할 수 있습니다. 내보낸 모델은 선반이나 팔레트를 스캔하여 재고 수준, 누락된 물품 또는 빈 공간을 감지하는 데 도움을 줄 수 있습니다. ONNX로 내보내면 모델이 가볍고 효율적으로 변환되므로 스마트 카메라와 같은 소형 엣지 디바이스에서 직접 실행할 수 있어 고가의 서버나 지속적인 클라우드 액세스가 필요하지 않습니다.

그림 4. YOLO11을 사용하여 패키지를 감지하고 개수를 세는 예시입니다.

Ultralytics YOLO11을 활용한 병원 폐기물 관리#

전 세계 병원에서는 매일 사용한 장갑과 주사기부터 수술 중 사용한 장비까지 대량의 폐기물이 발생합니다. 여기에는 가위와 메스 같은 일회용 또는 오염된 수술 도구도 포함됩니다. 실제로 연구에 따르면 병원에서는 매년 약 500만 톤의 폐기물이 발생하며, 이는 하루에 병상당 폐기물 29파운드에 해당합니다.

이러한 폐기물을 올바르게 분류하는 것은 위생과 안전을 유지하고 규정을 준수하는 데 필수적입니다. ONNX 형식으로 내보낸 Ultralytics YOLO11 모델을 사용하면 병원에서 폐기물 처리를 자동화하고 실시간으로 모니터링할 수 있습니다.

예를 들어 수술실이나 복도와 같은 공간의 폐기물 수거함 근처에 설치된 카메라는 물품이 버려지는 과정을 모니터링할 수 있습니다. 다양한 유형의 의료 폐기물을 인식하도록 학습된 맞춤형 Ultralytics YOLO11 모델은 영상을 분석하고 버려지는 물품을 식별할 수 있습니다. 사용한 주사기가 일반 쓰레기통에 버려지는 등 물품이 잘못된 수거함에 들어가면 시스템이 조명이나 소리로 직원에게 즉시 알리도록 설정할 수 있어 오염을 방지하고 규정 준수를 보장하는 데 도움이 됩니다.

그림 5. Ultralytics YOLO11을 사용하여 의료 기구를 감지합니다.

Ultralytics YOLO11을 활용한 작물 모니터링#

작물을 수확하기에 적절한 시기를 파악하는 것은 농산물의 품질과 농장의 전반적인 생산성에 큰 영향을 미칠 수 있습니다. 전통적으로 농부들은 경험과 수동 검사에 의존했지만, 최근 기술이 발전하면서 이러한 방식이 변화하기 시작했습니다.

이제 ONNX 형식으로 내보낸 YOLO11과 같은 컴퓨터 비전 기술의 혁신을 활용하면 농부들은 현장에 자동화와 정밀성을 도입할 수 있습니다. 드론이나 트랙터 또는 기둥에 장착된 카메라를 사용하여 농부들은 토마토, 사과, 밀과 같은 작물의 이미지를 촬영할 수 있습니다. 그런 다음 YOLO11을 사용하여 색상, 크기, 작물 분포와 같은 주요 지표를 감지할 수 있습니다. 이 정보를 바탕으로 농부들은 작물이 수확할 준비가 되었는지, 아직 성장 중인지, 또는 이미 최적 수확 시기를 지났는지 판단할 수 있습니다.

그림 6. YOLO11을 사용하여 항공 드론 영상에서 작물을 감지할 수 있습니다.

고려해야 할 ONNX의 제한 사항#

ONNX는 이식성, 크로스 플랫폼 호환성, 프레임워크 상호 운용성 등 다양한 이점을 제공하지만 다음과 같은 몇 가지 제한 사항도 고려해야 합니다.

• 모델 크기: 모델을 ONNX 형식으로 변환하면 원래 형식에 비해 파일 크기가 커지는 경우가 있습니다. 양자화 및 가지치기와 같은 기법을 사용하면 성능에 큰 영향을 주지 않으면서 모델 크기를 줄여 이 문제를 완화할 수 있습니다.

• 런타임 호환성: ONNX Runtime은 크로스 플랫폼 호환성을 위해 설계되었지만 하드웨어와 운영 체제에 따라 성능과 지원 수준이 달라질 수 있습니다.

• 디버깅의 어려움: ONNX 모델의 디버깅은 PyTorch나 TensorFlow와 같은 네이티브 프레임워크보다 복잡할 수 있습니다. 오류 메시지가 충분히 구체적이지 않을 수 있어 문제의 원인을 정확히 파악하기 어렵습니다. 그러나 모델 시각화 도구인 Netron과 ONNX Runtime의 로깅 기능을 활용하면 문제를 해결하는 데 도움을 받을 수 있습니다.

핵심 요점#

Ultralytics YOLO11을 ONNX로 내보내면 학습된 컴퓨터 비전 모델을 노트북, 모바일 디바이스, 심지어 소형 스마트 카메라 등 거의 모든 환경에 쉽게 배포할 수 있습니다. ONNX 통합을 사용하면 단일 프레임워크나 플랫폼에 종속되지 않으므로 애플리케이션에 가장 적합한 환경에서 모델을 실행할 수 있는 유연성이 제공됩니다.

따라서 학습에서 실제 배포로 전환하는 과정이 더 빠르고 효율적으로 이루어집니다. 창고 재고를 추적하거나 병원 폐기물이 올바르게 처리되도록 관리하는 경우에도 이러한 구성을 통해 시스템을 더 원활하게 운영하고 오류를 줄이며 소중한 시간을 절약할 수 있습니다.

컴퓨터 비전과 AI에 대해 더 알아보고 싶으신가요? GitHub 저장소를 살펴보고, 커뮤니티에 참여하며, 라이선스 옵션을 확인하여 컴퓨터 비전 프로젝트를 시작해 보세요. 제조 분야의 AI 및 자동차 산업의 컴퓨터 비전과 같은 혁신을 살펴보고 있다면 솔루션 페이지를 방문하여 더 자세히 알아보세요.