Intel OpenVINO에서 추론하기 위한 Ultralytics YOLOv8 내보내기 및 최적화

이 블로그 게시물에서는 사전 학습되었거나 사용자 지정 학습된 Ultralytics YOLOv8 모델을 내보내고 최적화하여 OpenVINO를 사용한 추론을 수행하는 방법을 살펴보겠습니다. CPU 또는 GPU를 사용하는 Intel 기반 시스템이라면 이 가이드를 통해 최소한의 노력으로 모델 속도를 크게 높일 수 있습니다.

OpenVINO로 Ultralytics YOLOv8을 최적화해야 하는 이유#

Ultralytics YOLOv8 모델을 OpenVINO로 최적화하면 추론 작업에서 최대 3배 속도 향상을 얻을 수 있으며, 특히 Intel CPU를 사용하는 경우 효과가 큽니다. 이러한 성능 향상은 객체 탐지, 세그멘테이션, 보안 시스템 등 실시간 애플리케이션에서 큰 차이를 만들 수 있습니다.

Ultralytics YOLOv8 모델 내보내기 및 최적화 단계#

프로세스 이해하기#

먼저 전체 과정을 살펴보겠습니다. PyTorch 모델을 OpenVINO 형식으로 변환하고 최적화하겠습니다. 영상 제작 당시에는 변환 과정에서 중간 단계로 ONNX를 사용했지만, 현재 Ultralytics 버전은 PyTorch에서 직접 변환합니다. 이 과정에는 몇 가지 간단한 단계가 있으며 TensorFlow, PyTorch, ONNX를 비롯한 다양한 모델과 형식에 적용할 수 있습니다.

모델 내보내기#

Ultralytics 문서를 살펴보면 YOLOv8 모델을 내보내려면 Ultralytics 프레임워크의 내보내기 메서드를 사용해야 합니다. 이 메서드는 PyTorch 모델을 변환하고 OpenVINO에 맞게 최적화합니다. 그 결과 Intel 하드웨어에서 훨씬 빠르게 실행되는 모델을 얻을 수 있습니다.

종속성 설치#

내보내기 스크립트를 실행하기 전에 필요한 모든 종속 항목이 설치되어 있는지 확인해야 합니다. 여기에는 Ultralytics 라이브러리와 OpenVINO가 포함됩니다. 이러한 패키지는 Python 패키지 설치 프로그램인 pip를 통해 간단히 설치할 수 있습니다.

내보내기 스크립트 실행#

환경 설정을 마쳤다면 내보내기 스크립트를 실행할 수 있습니다. 이 스크립트는 PyTorch 모델을 OpenVINO로 변환합니다. 내보내기를 처리하는 단일 함수를 호출하면 되므로 과정은 간단합니다. Ultralytics 프레임워크를 사용하면 모델을 쉽게 변환하고 최적화하여 번거로움을 최소화하면서 최고의 성능을 얻을 수 있습니다.

그림 1. Nicolai Nielsen이 내보내기 스크립트 실행 방법을 설명하는 모습.

성능 비교#

내보낸 후에는 원본 모델과 최적화된 모델의 성능을 비교하는 것이 중요합니다. 두 모델의 추론 시간을 벤치마킹하면 성능 향상을 명확하게 확인할 수 있습니다. 일반적으로 OpenVINO 모델은 원본 PyTorch 모델보다 추론 시간이 크게 단축됩니다. 성능 향상이 특히 두드러지는 대형 모델에서 더욱 그렇습니다.

실제 적용 사례와 이점#

OpenVINO로 Ultralytics YOLOv8 모델을 최적화하면 실시간 처리가 필요한 애플리케이션에 특히 유용합니다. 몇 가지 예를 살펴보겠습니다:

• 보안 시스템: 실시간 객체 감지로 보안 담당자에게 즉시 알림을 전송하여 안전성과 대응 속도를 높일 수 있습니다.
• 자율주행차: 추론 속도가 빨라지면 자율주행 시스템의 반응성이 개선되어 더 안전하고 신뢰할 수 있게 됩니다.
• 헬스케어: 진단 도구의 이미지 처리를 신속하게 수행하면 결과를 더 빠르게 제공하고 적시에 개입할 수 있어 생명을 구할 수 있습니다.

이러한 최적화를 적용하면 성능뿐 아니라 애플리케이션의 안정성과 효율도 향상할 수 있습니다. 이를 통해 사용자 경험을 개선하고 생산성을 높이며 더욱 혁신적인 솔루션을 개발할 수 있습니다.

마무리#

Ultralytics YOLOv8 모델을 OpenVINO용으로 내보내고 최적화하면 Intel 하드웨어를 활용해 더 빠르고 효율적인 AI 애플리케이션을 구현할 수 있습니다. 몇 가지 간단한 단계만으로 모델 성능을 크게 향상하고 실제 환경에 효과적으로 적용할 수 있습니다.

AI 프로젝트를 계속 개선하려면 Ultralytics Academy의 CPU에서 OpenVINO 사용하기 강의와 같은 Ultralytics의 추가 튜토리얼 및 가이드를 확인해 보세요. GitHub 저장소를 방문하고 Ultralytics 커뮤니티에 참여하여 더 많은 인사이트와 최신 소식을 확인해 보세요.

모델 최적화는 단순히 속도를 높이는 데 그치지 않습니다. 새로운 가능성을 열고 AI 솔루션을 견고하고 효율적으로 만들어 미래에 대비하는 일입니다.