Ultralytics YOLO

Intel OpenVINO에서 추론을 위해 Ultralytics YOLOv8 내보내기 및 최적화하기

OpenVINO를 사용하여 추론을 위한 Ultralytics YOLOv8 모델을 최적화하십시오. PyTorch 모델을 ONNX로 변환하고 실시간 애플리케이션을 위해 최적화하는 가이드를 따라 하십시오.

NUNuvola Ladi

2 min readMay 24, 2024

Intel OpenVINO 기반 추론을 위한 Ultralytics YOLOv8 내보내기 및 최적화

본 블로그 게시물에서는 사전 학습되었거나 사용자 지정 학습된 Ultralytics YOLOv8 모델을 OpenVINO를 사용한 추론 용으로 내보내고 최적화하는 방법을 살펴봅니다. CPU든 GPU든 Intel 기반 시스템을 사용하는 경우, 이 가이드를 통해 최소한의 노력으로 모델 속도를 크게 향상하는 방법을 확인할 수 있습니다.

Link to this sectionOpenVINO로 YOLOv8을 최적화해야 하는 이유는 무엇입니까?#

OpenVINO로 YOLOv8 모델을 최적화하면, 특히 Intel CPU에서 실행할 경우 추론 작업 속도를 최대 3배까지 높일 수 있습니다. 이러한 성능 향상은 객체 탐지부터 세그멘테이션 및 보안 시스템에 이르기까지 실시간 애플리케이션에서 엄청난 차이를 만들어냅니다.

Link to this sectionYOLOv8 모델 내보내기 및 최적화 단계#

Link to this section프로세스 이해하기#

먼저 프로세스를 단계별로 알아보겠습니다. PyTorch 모델을 ONNX로 변환한 다음 OpenVINO를 사용하여 최적화할 것입니다. 이 과정은 몇 가지 간단한 단계로 구성되며 TensorFlow, PyTorch, Caffe 및 ONNX를 포함한 다양한 모델과 형식에 적용할 수 있습니다.

Link to this section모델 내보내기#

Ultralytics 문서를 살펴보면 YOLOv8 모델 내보내기는 Ultralytics 프레임워크의 export 메서드를 사용하여 수행됨을 알 수 있습니다. 이 메서드를 사용하면 모델을 PyTorch에서 ONNX로 변환하고 최종적으로 OpenVINO에 최적화할 수 있습니다. 그 결과 Intel의 강력한 하드웨어를 활용하여 훨씬 빠르게 실행되는 모델이 완성됩니다.

Link to this section종속성 설치#

내보내기 스크립트를 실행하기 전에 필요한 모든 종속성이 설치되어 있는지 확인해야 합니다. 여기에는 Ultralytics 라이브러리, ONNX 및 OpenVINO가 포함됩니다. 이러한 패키지를 설치하는 것은 Python 패키지 설치 도구인 pip를 통해 간단하게 수행할 수 있습니다.

Link to this section내보내기 스크립트 실행#

환경이 설정되면 내보내기 스크립트를 실행할 수 있습니다. 이 스크립트는 PyTorch 모델을 ONNX로, 그 다음에는 OpenVINO로 변환합니다. 과정은 매우 간단하며 내보내기를 처리하는 단일 함수를 호출하기만 하면 됩니다. Ultralytics 프레임워크는 모델을 쉽게 변환하고 최적화할 수 있게 해주어 최소한의 번거로움으로 최고의 성능을 얻을 수 있도록 보장합니다.

모델 내보내기 스크립트를 실행하는 방법을 설명하는 Nicolai Nielsen

그림 1. Nicolai Nielsen이 내보내기 스크립트 실행 방법을 설명하고 있습니다.

Link to this section성능 비교#

내보내기 후 원본 모델과 최적화된 모델의 성능을 비교하는 것은 필수입니다. 두 모델의 추론 시간을 벤치마킹하면 성능 향상 정도를 명확하게 확인할 수 있습니다. 일반적으로 OpenVINO 모델은 원본 PyTorch 모델에 비해 추론 시간이 크게 단축됩니다. 이는 성능 향상이 가장 눈에 띄는 대형 모델의 경우 특히 더 그렇습니다.