ONNX (Open Neural Network Exchange)
Open Neural Network Exchange 형식을 살펴보세요. 빠른 크로스 플랫폼 배포와 하드웨어 최적화를 위해 Ultralytics YOLO26을 ONNX로 내보내는 방법을 알아보세요.
**ONNX(개방형 신경망 교환)**는 머신 러닝 모델을 표현하도록 설계된 오픈 소스 형식으로, 다양한 AI 프레임워크와 도구 간의 상호 운용성을 지원합니다. 이는 딥러닝을 위한 범용 번역기 역할을 하여 개발자가 PyTorch, TensorFlow 또는 Scikit-learn과 같은 하나의 프레임워크에서 모델을 구축한 후 추론에 최적화된 다른 환경에 원활하게 배포할 수 있도록 합니다. 공통 연산자 집합과 표준 파일 형식을 정의함으로써 ONNX는 연구에서 프로덕션으로 모델을 이동할 때 과거에 필요했던 복잡한 사용자 지정 변환 스크립트를 없앱니다. 이러한 유연성은 강력한 클라우드 GPU에서 학습을 수행하는 동시에 엣지 디바이스, 모바일 기기 또는 웹 브라우저와 같은 다양한 하드웨어를 배포 대상으로 사용할 수 있는 최신 AI 워크플로에서 매우 중요합니다.
최신 AI에서 ONNX의 역할#
빠르게 발전하는 인공지능 환경에서 연구자와 엔지니어는 개발 수명 주기의 각 단계에 서로 다른 도구를 사용하는 경우가 많습니다. 데이터 과학자는 실험과 학습에 PyTorch의 유연성을 선호할 수 있지만, 프로덕션 엔지니어는 배포를 위해 TensorRT 또는 OpenVINO의 최적화된 성능을 필요로 합니다. 표준 교환 형식이 없다면 이러한 생태계 간에 모델을 이동하는 작업은 어렵고 오류가 발생하기 쉽습니다.
ONNX는 연산 그래프에 대한 공유 정의를 제공하여 이러한 격차를 해소합니다. 모델을 ONNX로 내보내면 네트워크 구조(레이어, 연결)와 매개변수(가중치, 편향)를 프레임워크에 구애받지 않는 방식으로 캡처하는 형식으로 직렬화됩니다. 이를 통해 하드웨어 가속에 맞게 특별히 조정된 추론 엔진(예: ONNX Runtime)이 Linux, Windows, macOS, Android, iOS를 비롯한 여러 플랫폼에서 모델을 효율적으로 실행할 수 있습니다.
ONNX 사용의 주요 이점#
Open Neural Network Exchange 형식을 도입하면 AI 프로젝트에 다음과 같은 여러 전략적 이점을 제공할 수 있습니다.
- 프레임워크 상호 운용성: 개발자는 하나의 생태계에 종속되지 않고 프레임워크를 전환할 수 있습니다. 사용자 친화적인 Ultralytics Python API를 사용하여 모델을 학습한 후 C++ 애플리케이션이나 웹 기반 JavaScript 환경에서 사용할 수 있도록 내보낼 수 있습니다.
- 하드웨어 최적화: 많은 하드웨어 제조업체는 ONNX와 연동되는 특수 실행 공급자를 제공합니다. 따라서 단일
.onnx파일을 OpenVINO 또는 CoreML과 같은 도구를 사용하여 NVIDIA GPU, Intel CPU 또는 모바일 NPU(신경 처리 장치)에서 가속할 수 있습니다. - 더 빠른 추론: ONNX Runtime은 노드 융합 및 상수 폴딩과 같은 그래프 최적화를 적용하여 추론 지연 시간을 크게 줄일 수 있습니다. 이는 자율 주행 차량이나 고속 제조 라인과 같은 실시간 애플리케이션에 필수적입니다.
- 간소화된 배포: 엔지니어링 팀은 모든 학습 프레임워크에 대해 별도의 배포 파이프라인을 유지하는 대신 ONNX를 제공 형식으로 표준화하여 ModelOps 프로세스를 간소화할 수 있습니다.
실제 적용 사례#
ONNX는 다양한 산업에서 활용될 만큼 높은 범용성을 갖추고 있습니다. 다음은 구체적인 적용 사례 두 가지입니다.
1. 모바일 디바이스에서의 엣지 AI#
실시간 작물 상태 모니터링을 위해 설계된 모바일 애플리케이션을 예로 들어 보겠습니다. 이 모델은 대규모 식물 이미지 데이터셋을 사용하여 강력한 클라우드 서버에서 학습될 수 있습니다. 그러나 앱은 농부의 스마트폰에서 오프라인으로 실행되어야 합니다. 학습된 모델을 ONNX로 내보내면 개발자는 ONNX Runtime Mobile을 사용하여 모바일 앱에 통합할 수 있습니다. 이를 통해 휴대폰의 프로세서가 객체 감지를 로컬에서 실행하여 인터넷 연결 없이도 해충이나 질병을 즉시 식별할 수 있습니다.
2. 크로스 플랫폼 웹 추론#
전자상거래에서 "가상 착용" 기능은 포즈 추정을 사용하여 사용자의 웹캠 영상에 의상을 합성할 수 있습니다. 이 모델은 Python에서 학습할 수 있지만 배포 대상은 웹 브라우저입니다. ONNX를 사용하면 모델을 변환하여 ONNX Runtime Web을 통해 사용자의 브라우저에서 직접 실행할 수 있습니다. 이 방식은 클라이언트 디바이스의 기능(WebGL 또는 WebAssembly)을 활용하여 컴퓨터 비전 작업을 수행하며, 영상 데이터가 사용자의 컴퓨터를 벗어나지 않으므로 원활하고 개인정보를 보호하는 환경을 제공합니다.
관련 용어와의 비교#
ONNX를 다른 모델 형식 및 도구와 구분하는 것이 유용합니다.
- TensorRT와 비교: ONNX가 교환 형식인 반면, TensorRT는 NVIDIA GPU를 위한 추론 엔진이자 최적화 도구입니다. 일반적인 워크플로에서는 먼저 모델을 ONNX로 내보낸 다음 해당 ONNX 파일을 TensorRT로 파싱하여 NVIDIA 하드웨어에서 최대 처리량을 달성합니다.
- TensorFlow SavedModel과 비교: SavedModel은 TensorFlow의 기본 직렬화 형식입니다. Google 생태계 내에서는 강력하지만 ONNX보다 보편적인 호환성이 낮습니다. 더 폭넓은 플랫폼 지원을 확보하기 위해 SavedModel을 ONNX로 변환하는 도구가 제공되는 경우가 많습니다.
- CoreML과 비교: CoreML은 디바이스에서 머신 러닝을 실행하기 위한 Apple의 프레임워크입니다. 서로 다른 형식이지만, iPhone과 iPad에서 효율적으로 실행하기 위해 모델을 PyTorch에서 ONNX로 변환한 후 ONNX에서 CoreML로 변환하거나 직접 변환하는 경우가 많습니다.
Ultralytics를 사용한 ONNX 내보내기#
Ultralytics 생태계는 YOLO26과 같은 최첨단 모델을 ONNX 형식으로 변환하는 과정을 간소화합니다. 내보내기 기능이 라이브러리에 직접 내장되어 있어 복잡한 그래프 순회와 연산자 매핑을 자동으로 처리합니다.
다음 예제에서는 사전 학습된 Ultralytics YOLO26 모델을 배포를 위해 ONNX 형식으로 내보내는 방법을 보여 줍니다.
from ultralytics import YOLO
# Load the YOLO26n model (Nano version recommended for edge deployment)
model = YOLO("yolo26n.pt")
# Export the model to ONNX format
# The 'dynamic' argument enables variable input sizes
path = model.export(format="onnx", dynamic=True)
print(f"Model exported successfully to: {path}")내보내기가 완료되면 이 .onnx 파일을 Ultralytics Platform에서 관리 목적으로 사용하거나 ONNX Runtime을 사용하여 엣지 디바이스에 직접 배포할 수 있으므로, 사실상 모든 환경에서 고성능 컴퓨터 비전을 활용할 수 있습니다.
