용어집

ONNX(개방형 신경망 교환)

ONNX가 어떻게 AI 모델 이동성과 상호 운용성을 향상시켜 다양한 플랫폼에서 Ultralytics YOLO 모델을 원활하게 배포할 수 있도록 지원하는지 알아보세요.

ONNX(오픈 신경망 교환)는 머신러닝(ML) 모델을 표현하기 위한 오픈 소스 형식입니다. Microsoft와 Facebook과 같은 회사에서 공동 개발한 ONNX는 범용 번역기 역할을 하여 개발자가 서로 다른 ML 프레임워크와 도구 간에 모델을 이동할 수 있게 해줍니다. 이러한 상호 운용성은 모델 개발에서 프로덕션에 이르는 여정을 간소화하는 데 매우 중요합니다. 팀은 단일 에코시스템에 종속되지 않고 PyTorch와 같은 하나의 프레임워크에서 모델을 학습시키고, TensorFlow 또는 전문 추론 엔진과 같은 다른 프레임워크를 사용하여 추론을 위해 배포할 수 있습니다. 예를 들어, Ultralytics YOLO 모델은 ONNX 형식으로 쉽게 내보낼 수 있어 다양한 플랫폼에 배포할 수 있는 유연성을 극대화할 수 있습니다.

ONNX 작동 방식

ONNX는 내장된 연산자 목록과 함께 계산 그래프에 대한 표준 정의를 제공합니다. 모델을 ONNX 형식으로 변환하면 레이어와 수학적 연산으로 구성된 아키텍처가 이 범용 표준에 매핑됩니다. 그 결과 .onnx 파일에는 네트워크 구조와 학습된 모델 가중치.

이 표준화된 파일은 ONNX 사양을 지원하는 모든 도구에서 로드할 수 있습니다. 여기에는 다음이 포함됩니다:

ONNX의 실제 적용 사례

ONNX의 유연성은 많은 컴퓨터 비전 및 머신러닝 시나리오에서 매우 유용합니다.

  1. 엣지 디바이스에 AI 배포: 개발자는 NVIDIA GPU가 탑재된 강력한 데스크톱에서 Ultralytics YOLO11과 같은 복잡한 객체 감지 모델을 훈련할 수 있습니다. 애플리케이션을 소매 분석에 사용되는 라즈베리 파이나 스마트 카메라와 같은 저전력 엣지 디바이스에서 실행하기 위해 모델을 ONNX로 내보냅니다. 그런 다음 원래 PyTorch 환경 없이도 대상 하드웨어에서 효율적인 성능을 발휘할 수 있도록 ONNX Runtime 또는 OpenVINO와 같은 런타임으로 최적화할 수 있습니다.

  2. 다양한 애플리케이션에 모델 통합하기: Python과 TensorFlow를 사용하여 의료 이미지 분석 모델을 구축하는 의료 회사를 생각해 보세요. 이 병원의 기존 소프트웨어 인프라는 C#과 .NET을 사용하여 구축되었습니다. 이 팀은 모델을 다시 작성하는 대신 ONNX로 내보냅니다. 그런 다음 C# 애플리케이션은 .NET용 ONNX 런타임을 사용하여 모델의 기능을 직접 통합할 수 있으므로 개발 시간과 복잡성을 크게 줄일 수 있습니다.

ONNX와 관련 개념

ONNX를 관련 용어와 구별하는 것이 중요합니다:

  • 프레임워크별 형식: PyTorch와 같은 형식 .pt 또는 텐서플로우의 저장된 모델 는 각각의 프레임워크에 고유합니다. ONNX는 중개자 역할을 하여 이러한 형식 간에 변환하거나 공통 런타임을 통해 배포할 수 있도록 합니다. 토치스크립트 는 파이토치 모델 직렬화를 위한 또 다른 포맷으로, 때때로 ONNX 내보내기의 대안 또는 전구체로 사용됩니다.
  • 추론 엔진/런타임: ONNX 런타임, TensorRT, OpenVINO와 같은 도구는 ML 모델을 효율적으로 실행하도록 설계된 소프트웨어 라이브러리입니다. 이러한 엔진 중 다수는 ONNX 모델을 사용할 수 있으며, 종종 특정 하드웨어 타겟에 대한 추가 최적화 (예: 양자화 또는 그래프 융합)를 적용할 수 있습니다. ONNX는 이러한 엔진에 표준화된 모델 입력을 제공합니다.

요약하자면, ONNX는 머신 러닝 작업(MLOps) 파이프라인에서 유연성과 상호 운용성을 보장하는 중요한 표준으로, 개발자가 프레임워크 제한의 제약 없이 학습 및 배포에 가장 적합한 도구를 선택할 수 있게 해줍니다. 울트라리틱스 허브와 같은 플랫폼은 이러한 형식을 활용하여 모델 개발에서 실제 적용까지의 여정을 간소화합니다. 자세히 알아보려면 공식 ONNX 웹사이트를 방문하고 GitHub에서 프로젝트를 살펴보세요.

울트라 애널리틱스 커뮤니티 가입

AI의 미래와 함께하세요. 글로벌 혁신가들과 연결, 협업, 성장하기

지금 가입하기
링크가 클립보드에 복사됨