Intel OpenVINO에서 추론하기 위한 Ultralytics YOLOv8 내보내기 및 최적화

이번 블로그 게시물에서는 사전 학습 또는 커스텀 학습한 Ultralytics YOLOv8 모델을 내보내고 OpenVINO를 사용해 추론에 최적화하는 방법을 살펴봅니다. CPU 또는 GPU를 사용하는 Intel 기반 시스템에서 이 가이드를 따라 하면 최소한의 노력으로 모델 속도를 크게 높일 수 있습니다.

OpenVINO로 Ultralytics YOLOv8을 최적화해야 하는 이유#

OpenVINO로 Ultralytics YOLOv8 모델을 최적화하면 추론 작업 속도를 최대 3배 높일 수 있으며, 특히 Intel CPU를 사용할 때 효과적입니다. 이러한 성능 향상은 객체 탐지, 세그멘테이션, 보안 시스템 등 실시간 애플리케이션에 큰 변화를 가져올 수 있습니다.

Ultralytics YOLOv8 모델 내보내기 및 최적화 단계#

프로세스 이해하기#

먼저 프로세스를 간단히 살펴보겠습니다. PyTorch 모델을 ONNX로 변환한 다음 OpenVINO를 사용해 최적화합니다. 이 과정은 몇 가지 간단한 단계로 이루어지며 TensorFlow, PyTorch, Caffe, ONNX를 비롯한 다양한 모델과 형식에 적용할 수 있습니다.

모델 내보내기#

Ultralytics 문서를 살펴보면, YOLOv8 모델을 내보낼 때는 Ultralytics 프레임워크의 export 메서드를 사용합니다. 이 메서드를 사용하면 모델을 PyTorch에서 ONNX로 변환한 다음 OpenVINO에 맞게 최적화할 수 있습니다. 그 결과 Intel의 강력한 하드웨어를 활용해 훨씬 빠르게 실행되는 모델을 얻을 수 있습니다.

종속성 설치#

내보내기 스크립트를 실행하기 전에 필요한 모든 종속성이 설치되어 있는지 확인해야 합니다. 여기에는 Ultralytics 라이브러리, ONNX, OpenVINO가 포함됩니다. 이러한 패키지는 Python 패키지 설치 프로그램인 pip를 통해 간단히 설치할 수 있습니다.

내보내기 스크립트 실행#

환경 설정이 완료되면 내보내기 스크립트를 실행할 수 있습니다. 이 스크립트는 PyTorch 모델을 ONNX로 변환한 다음 OpenVINO 형식으로 변환합니다. 단일 함수를 호출해 내보내기를 처리하는 간단한 과정입니다. Ultralytics 프레임워크를 사용하면 모델을 쉽게 변환하고 최적화하여 번거로운 절차를 최소화하면서 최고의 성능을 얻을 수 있습니다.

그림 1. Nicolai Nielsen이 내보내기 스크립트 실행 방법을 설명하는 모습.

성능 비교#

내보낸 후에는 원본 모델과 최적화된 모델의 성능을 비교하는 것이 중요합니다. 두 모델의 추론 시간을 벤치마킹하면 성능 향상을 명확하게 확인할 수 있습니다. 일반적으로 OpenVINO 모델은 원본 PyTorch 모델보다 추론 시간이 크게 단축됩니다. 성능 향상이 특히 두드러지는 대형 모델에서 더욱 그렇습니다.

실제 적용 사례와 이점#

OpenVINO로 Ultralytics YOLOv8 모델을 최적화하면 실시간 처리가 필요한 애플리케이션에 특히 유용합니다. 몇 가지 예를 살펴보겠습니다:

• 보안 시스템: 실시간 객체 탐지로 보안 담당자에게 즉시 경고를 보내 안전성과 대응력을 높일 수 있습니다.
• 자율주행 차량: 추론 속도가 빨라지면 자율주행 시스템의 응답성이 향상되어 더욱 안전하고 신뢰할 수 있습니다.
• 의료: 진단 도구에서 이미지를 빠르게 처리하면 더 신속하게 결과를 제공하고 적시에 개입할 수 있어 생명을 구할 수 있습니다.

이러한 최적화를 적용하면 성능뿐 아니라 애플리케이션의 안정성과 효율도 향상할 수 있습니다. 이를 통해 사용자 경험을 개선하고 생산성을 높이며 더욱 혁신적인 솔루션을 개발할 수 있습니다.

마무리#

Ultralytics YOLOv8 모델을 내보내고 OpenVINO에 맞게 최적화하면 Intel 하드웨어를 활용해 AI 애플리케이션의 속도와 효율을 높일 수 있습니다. 몇 가지 간단한 단계만으로 모델 성능을 개선하고 실제 시나리오에 효과적으로 적용할 수 있습니다.

AI 프로젝트를 계속 발전시킬 수 있도록 Ultralytics의 튜토리얼과 가이드도 확인해 보세요. GitHub 저장소를 방문하고 Ultralytics 커뮤니티에 참여해 더 많은 인사이트와 최신 소식을 확인하세요. 함께 혁신을 만들어 갑시다!

모델 최적화는 단순히 속도를 높이는 데 그치지 않습니다. 새로운 가능성을 열고 AI 솔루션을 견고하고 효율적으로 만들어 미래에 대비하는 일입니다.