ONNX 통합을 사용한 Ultralytics YOLO 모델 내보내기

AI 솔루션이 처음 주목받기 시작했을 때는 대부분의 모델이 통제된 환경의 고성능 서버에 배포되었습니다. 그러나 기술이 발전하면서 배포 범위는 데이터 센터를 훨씬 넘어섰습니다.

오늘날 AI 모델은 클라우드 서버와 데스크톱부터 스마트폰과 엣지 디바이스에 이르기까지 다양한 기기에서 실행됩니다. 이러한 변화는 더 빠른 처리, 오프라인 기능, 데이터가 생성되는 장소와 더 가까운 곳에서 작동하는 지능형 시스템을 지원합니다.

이러한 변화가 특히 두드러지는 분야 중 하나는 기계가 시각 데이터를 해석하도록 하는 AI 분야인 컴퓨터 비전입니다. 컴퓨터 비전은 얼굴 인식, 자율 주행, 실시간 비디오 분석과 같은 애플리케이션을 구현하는 데 사용되고 있습니다. 활용 사례가 늘어남에 따라 다양한 하드웨어와 플랫폼에서 원활하게 실행되는 모델의 필요성도 커지고 있습니다.

그러나 다양한 배포 대상에 컴퓨터 비전 모델을 배포하는 일이 항상 간단한 것은 아닙니다. 디바이스마다 하드웨어, 운영 체제, 지원 프레임워크가 다르므로 유연성과 호환성이 필수적입니다.

따라서 Ultralytics YOLO11과 같은 컴퓨터 비전 모델을 다양한 형식으로 내보내는 기능이 중요합니다. 예를 들어 Ultralytics가 지원하는 ONNX(개방형 신경망 교환) 통합은 학습과 배포 사이의 간극을 연결하는 실용적인 방법을 제공합니다. ONNX는 모델을 특정 프레임워크에 종속되지 않게 하고 여러 플랫폼에 배포할 수 있도록 준비하는 개방형 형식입니다.

그림 1. ONNX를 사용하면 한 프레임워크에서 학습한 모델을 다른 프레임워크에서 쉽게 실행할 수 있습니다.

이 문서에서는 Ultralytics가 지원하는 ONNX 통합을 자세히 살펴보고, 유연한 크로스 플랫폼 배포를 위해 YOLO11 모델을 내보내는 방법을 알아봅니다.

ONNX와 ONNX Runtime이란 무엇인가요?#

Open Neural Network Exchange는 머신러닝 모델의 표준 형식을 정의하는 오픈 소스 프로젝트입니다. Microsoft와 Facebook이 처음 개발했으며, 개발자는 PyTorch와 같은 한 프레임워크에서 모델을 학습하고 TensorFlow와 같은 다른 프레임워크에서 실행할 수 있습니다. 이를 통해 특히 컴퓨터 비전과 같은 분야에서 AI 개발의 유연성, 협업 및 접근성이 향상됩니다.

ONNX는 공통 연산자 집합과 통합 파일 형식을 제공하여 다양한 도구, 프레임워크, 런타임 및 컴파일러 간에 모델을 쉽게 이동할 수 있도록 합니다. 일반적으로 한 프레임워크에서 학습한 모델은 다른 프레임워크와 쉽게 호환되지 않지만, ONNX를 사용하면 모델을 한 번 내보내 거의 어디서나 배포할 수 있습니다. CPU(중앙 처리 장치), GPU(그래픽 처리 장치), 모바일 기기 또는 엣지 하드웨어에서 실행할 수 있습니다.

또한 ONNX Runtime은 ONNX 형식의 모델을 실행하기 위해 특별히 개발된 고성능 추론 엔진입니다. 서버, 모바일 기기, 엣지 하드웨어를 비롯한 다양한 플랫폼에서 ONNX 모델을 더 빠르고 효율적으로 실행하도록 설계되었습니다. ONNX Runtime은 PyTorch, TensorFlow, TensorFlow Lite, scikit-learn과 같은 인기 프레임워크와 호환되므로 다양한 워크플로에 쉽게 통합하고 필요한 곳에 모델을 배포할 수 있습니다.

그림 2. ONNX와 ONNX Runtime은 유연한 크로스 플랫폼 모델 배포를 지원합니다.

ONNX의 주요 기능#

ONNX 형식으로 Ultralytics YOLO11을 내보내는 방법을 살펴보기 전에 ONNX 모델 형식의 주요 기능을 알아보겠습니다.

도구를 전환하거나, 여러 기기에 배포하거나, 시스템을 업그레이드할 때 ONNX를 사용하면 모든 것이 원활하게 작동합니다. ONNX 모델 형식의 차별점은 다음과 같습니다.

• 하나의 표준 형식: ONNX는 레이어와 연산 같은 모델 구성 요소를 설명하는 공통 방식을 사용합니다. 모델을 ONNX로 변환하면 이 표준을 따르므로 ONNX를 지원하는 모든 시스템에서 모델을 이해하고 실행할 수 있습니다.

• 하위 호환성: ONNX는 계속 개선되면서도 이전 모델이 최신 버전에서 작동하도록 보장합니다. 따라서 ONNX가 업데이트될 때마다 모델을 다시 학습하거나 재구성할 필요가 없습니다.

• 그래프 기반 모델 설계: ONNX 모델은 연산 그래프로 구성됩니다. 각 노드는 레이어나 수학 함수와 같은 연산을 나타내고, 에지는 데이터의 흐름을 나타냅니다. 이러한 그래프 기반 설계는 유사한 연산 그래프 구조를 사용하는 다양한 시스템과의 통합을 용이하게 합니다.

• 개발자 친화적인 도구: 모델 변환, 검증 및 최적화에 도움이 되는 다양한 도구가 함께 제공됩니다. 이러한 도구는 여러 프레임워크 간에 모델을 이동하는 절차를 간소화하고, 특히 컴퓨터 비전 애플리케이션의 배포 속도를 높일 수 있습니다.

ONNX 통합 개요#

Ultralytics YOLO11과 같은 Ultralytics YOLO 모델을 ONNX 형식으로 내보내는 작업은 간단하며 몇 단계만 거치면 완료할 수 있습니다.

시작하려면 ‘pip’와 같은 패키지 관리자를 사용해 Ultralytics Python 패키지를 설치합니다. 명령 프롬프트나 터미널에서 “pip install ultralytics” 명령어를 실행하면 됩니다.

Ultralytics 패키지를 사용하면 다양한 컴퓨터 비전 작업에 사용할 모델을 쉽게 학습, 테스트, 미세 조정, 내보내기 및 배포할 수 있어 전체 프로세스가 더 빠르고 효율적으로 진행됩니다. 설치 중 문제가 발생하면 해결 방법과 팁을 확인할 수 있는 일반적인 문제 가이드를 참조하세요.

Ultralytics 패키지를 설치한 후에는 아래 코드를 사용해 YOLO11 모델을 불러오고 ONNX 형식으로 내보낼 수 있습니다. 이 예제에서는 사전 학습된 YOLO11 모델(yolo11n.pt)을 불러와 ONNX 파일(yolo11n.onnx)로 내보내므로, 다양한 플랫폼과 기기에 배포할 준비를 마칠 수 있습니다.

모델을 ONNX 형식으로 변환한 후에는 다양한 플랫폼에 배포할 수 있습니다.

아래 예제에서는 내보낸 YOLO11 모델(yolo11n.onnx)을 불러와 추론을 실행하는 방법을 보여줍니다. 추론은 학습된 모델을 사용해 새로운 데이터에 대한 예측을 수행하는 것을 의미합니다. 이 예제에서는 버스 이미지의 URL을 사용해 모델을 테스트합니다.

이 코드를 실행하면 다음 출력 이미지가 runs/detect/predict 폴더에 저장됩니다.

그림 3. 내보낸 Ultralytics YOLO11 모델을 이미지에 사용해 추론을 실행합니다.

ONNX 통합은 언제 선택해야 하나요?#

Ultralytics Python 패키지는 TorchScript, CoreML, TensorRT 및 ONNX를 비롯한 여러 형식으로 모델 내보내기를 지원합니다. 그렇다면 ONNX를 선택해야 하는 이유는 무엇일까요?

ONNX의 차별점은 프레임워크에 종속되지 않는 형식이라는 것입니다. 다른 많은 내보내기 형식이 특정 도구나 환경에 종속되는 반면, ONNX는 표준화된 형식과 공통 연산자 집합을 사용합니다. 따라서 클라우드 서버, 모바일 앱, 엣지 기기 등 다양한 환경에서 작업할 때 높은 이식성과 하드웨어 호환성을 제공하며 크로스 플랫폼 배포에 적합합니다.

Ultralytics YOLO11 프로젝트에 ONNX 통합이 이상적인 선택이 될 수 있는 이유는 다음과 같습니다.

• 이식성 높은 배포: ONNX로 내보낸 Ultralytics YOLO11 모델은 코드 변경이나 재학습 없이 다양한 플랫폼에 배포할 수 있습니다.

• 업계 전반의 지원: 주요 AI 기업과 프레임워크가 ONNX를 지원하므로 신뢰할 수 있고 널리 인정받는 형식입니다. PDF가 여러 기기에서 작동하는 것처럼 장기적인 호환성을 보장합니다.

• 미래를 고려한 개발: ONNX를 사용하면 모델에 대한 투자를 보호할 수 있습니다. 도구가 발전하더라도 ONNX를 통해 새롭거나 다른 환경에서 모델을 계속 활용할 수 있습니다.

• 벤더 종속 없음: 일부 도구는 특정 시스템만 사용하도록 제한하여 모델의 활용 범위를 좁힐 수 있습니다. ONNX를 사용하면 하나의 설정에 얽매이지 않고 요구 사항에 가장 적합한 플랫폼을 선택할 수 있습니다.

Ultralytics YOLO11 및 ONNX 모델 형식의 활용 사례#

이제 ONNX 통합을 활용해 Ultralytics YOLO11을 배포할 수 있는 실제 활용 사례를 살펴보겠습니다.

Ultralytics YOLO11을 활용한 창고 재고 추적#

분주한 창고에서는 모든 제품과 포장을 항상 살펴보기가 어렵습니다. 컴퓨터 비전 시스템은 작업자가 선반에서 제품을 찾고 제품 수량이나 유형과 같은 정보를 파악하는 데 도움을 줄 수 있습니다. 이러한 시스템은 기업이 방대한 재고를 자동으로 관리하고 창고 작업자의 시간을 크게 절약하도록 지원합니다.

특히 스마트 창고에서는 ONNX로 내보낸 Ultralytics YOLO11 모델을 카메라와 엣지 기기를 사용해 실시간으로 물품을 식별하고 개수를 세는 데 활용할 수 있습니다. 내보낸 모델은 선반이나 팔레트를 스캔해 재고 수준, 누락된 물품 또는 빈 공간을 감지하는 데 도움을 줄 수 있습니다. ONNX로 내보내면 모델이 경량화되고 효율적으로 작동하므로 스마트 카메라와 같은 소형 엣지 기기에서 직접 실행할 수 있어 고가의 서버나 지속적인 클라우드 액세스가 필요하지 않습니다.

그림 4. YOLO11을 사용해 포장을 감지하고 개수를 세는 예입니다.

Ultralytics YOLO11을 활용한 병원 폐기물 관리#

전 세계 병원에서는 사용한 장갑과 주사기부터 수술 중 사용한 장비(가위와 메스처럼 일회용이거나 오염된 수술 도구)에 이르기까지 매일 많은 양의 폐기물이 발생합니다. 실제로 연구에 따르면 병원에서는 매년 약 500만 톤의 폐기물이 발생하며, 이는 하루 병상당 폐기물 29파운드에 해당합니다.

이러한 폐기물을 올바르게 분류하는 것은 위생과 안전을 유지하고 규정을 준수하는 데 필수적입니다. ONNX 형식으로 내보낸 Ultralytics YOLO11 모델을 사용하면 병원에서 폐기물 처리를 자동화하고 실시간으로 모니터링할 수 있습니다.

예를 들어 수술실이나 복도와 같은 구역의 폐기물 통 근처에 카메라를 설치하면 물품이 버려지는 모습을 모니터링할 수 있습니다. 다양한 의료 폐기물을 인식하도록 학습된 맞춤형 Ultralytics YOLO11 모델은 영상을 분석해 버려지는 물품을 식별할 수 있습니다. 사용한 주사기가 일반 쓰레기통에 들어가는 것처럼 물품이 잘못된 통에 버려지면 시스템에서 조명이나 소리로 직원에게 즉시 알리도록 설정하여 오염을 방지하고 규정 준수를 보장할 수 있습니다.

그림 5. Ultralytics YOLO11을 사용한 의료 기구 감지입니다.

Ultralytics YOLO11을 활용한 작물 모니터링#

작물을 수확하기에 적절한 시기를 파악하는 것은 농산물의 품질과 농장 전체의 생산성에 큰 영향을 미칠 수 있습니다. 전통적으로 농부들은 경험과 수동 점검에 의존했지만, 최근 기술이 발전하면서 이러한 상황이 바뀌고 있습니다.

이제 ONNX 형식으로 내보낸 YOLO11과 같은 컴퓨터 비전 기술을 활용하면 농부들은 현장에 자동화와 정밀성을 도입할 수 있습니다. 드론이나 트랙터 또는 기둥에 장착된 카메라를 사용해 농부들은 토마토, 사과, 밀과 같은 작물의 이미지를 촬영할 수 있습니다. 그런 다음 YOLO11을 사용해 색상, 크기, 작물 분포와 같은 주요 지표를 감지할 수 있습니다. 이 정보를 바탕으로 작물을 수확할 시기가 되었는지, 아직 익어가는 중인지, 아니면 최적의 시기가 지났는지 판단할 수 있습니다.

그림 6. YOLO11을 사용해 항공 드론 영상에서 작물을 감지할 수 있습니다.

고려해야 할 ONNX의 한계#

ONNX는 이식성, 크로스 플랫폼 호환성, 프레임워크 간 상호 운용성 등 다양한 이점을 제공하지만 다음과 같은 한계도 고려해야 합니다.

• 모델 크기: 모델을 ONNX 형식으로 변환하면 원래 형식에 비해 파일 크기가 커지는 경우가 있습니다. 양자화 및 가지치기와 같은 기법을 사용하면 성능에 큰 영향을 주지 않으면서 모델 크기를 줄여 이 문제를 완화할 수 있습니다.

• 런타임 호환성: ONNX Runtime은 크로스 플랫폼 호환성을 제공하도록 설계되었지만, 하드웨어와 운영체제에 따라 성능과 지원 수준이 달라질 수 있습니다.

• 디버깅의 어려움: ONNX 모델 디버깅은 PyTorch나 TensorFlow와 같은 기본 프레임워크에서보다 복잡할 수 있습니다. 오류 메시지가 충분히 구체적이지 않아 문제의 원인을 찾기 어려울 수 있습니다. 하지만 모델 시각화 도구인 Netron과 ONNX Runtime의 로깅 기능을 사용하면 문제 해결에 도움이 됩니다.

핵심 요점#

Ultralytics YOLO11을 ONNX로 내보내면 학습된 컴퓨터 비전 모델을 노트북, 모바일 기기 또는 소형 스마트 카메라 등 거의 어디서나 쉽게 배포할 수 있습니다. ONNX 통합을 사용하면 하나의 프레임워크나 플랫폼에 종속되지 않으므로 애플리케이션에 가장 적합한 환경에서 모델을 실행할 수 있습니다.

이를 통해 학습에서 실제 배포까지의 전환이 더 빠르고 효율적으로 이루어집니다. 창고 재고를 추적하거나 병원 폐기물이 올바르게 처리되는지 확인하는 등 이 구성을 활용하면 시스템이 더 원활하게 작동하고 오류를 줄이며 귀중한 시간을 절약할 수 있습니다.

컴퓨터 비전과 AI에 대해 더 알아보고 싶으신가요? GitHub 저장소를 살펴보고, 커뮤니티에 참여하고, 라이선스 옵션을 확인해 컴퓨터 비전 프로젝트를 시작해 보세요. 제조 분야의 AI와 자동차 산업의 컴퓨터 비전 같은 혁신 기술을 살펴보고 있다면 솔루션 페이지를 방문해 자세히 알아보세요.