Intel OpenVINO에서 추론하기 위해 Ultralytics YOLOv8 내보내기 및 최적화

이 블로그 게시물에서는 사전 학습된 또는 사용자 지정 학습된 Ultralytics YOLOv8 모델을 OpenVINO를 사용한 추론에 맞게 내보내고 최적화하는 방법을 살펴보겠습니다. CPU 또는 GPU 여부와 관계없이 Intel 기반 시스템을 사용하고 있다면, 이 가이드에서 최소한의 노력으로 모델 속도를 크게 향상하는 방법을 확인할 수 있습니다.

OpenVINO를 사용하여 Ultralytics YOLOv8을 최적화해야 하는 이유#

OpenVINO를 사용하여 Ultralytics YOLOv8 모델을 최적화하면 추론 작업에서 최대 3배의 속도 향상을 얻을 수 있으며, 특히 Intel CPU를 실행하는 경우 효과가 큽니다. 이러한 성능 향상은 객체 감지부터 세그멘테이션 및 보안 시스템에 이르기까지 실시간 애플리케이션에서 큰 차이를 만들 수 있습니다.

Ultralytics YOLOv8 모델을 내보내고 최적화하는 단계#

프로세스 이해하기#

먼저 프로세스를 단계별로 살펴보겠습니다. PyTorch 모델을 ONNX로 변환한 다음 OpenVINO를 사용하여 최적화합니다. 이 프로세스는 몇 가지 간단한 단계로 구성되며 TensorFlow, PyTorch, Caffe, ONNX를 비롯한 다양한 모델과 형식에 적용할 수 있습니다.

모델 내보내기#

Ultralytics 문서를 살펴보면 YOLOv8 모델을 내보내려면 Ultralytics 프레임워크의 export 메서드를 사용해야 한다는 것을 알 수 있습니다. 이 메서드를 사용하면 모델을 PyTorch에서 ONNX로 변환한 후 OpenVINO에 맞게 최적화할 수 있습니다. 그 결과 Intel의 강력한 하드웨어를 활용하여 훨씬 더 빠르게 실행되는 모델을 얻을 수 있습니다.

종속 항목 설치#

내보내기 스크립트를 실행하기 전에 필요한 모든 종속 항목이 설치되어 있는지 확인해야 합니다. 여기에는 Ultralytics 라이브러리, ONNX 및 OpenVINO가 포함됩니다. 이러한 패키지는 Python 패키지 설치 프로그램인 pip를 통해 간단하게 설치할 수 있습니다.

내보내기 스크립트 실행#

환경을 설정한 후 내보내기 스크립트를 실행할 수 있습니다. 이 스크립트는 PyTorch 모델을 ONNX로 변환한 다음 OpenVINO 형식으로 변환합니다. 내보내기를 처리하는 단일 함수를 호출하면 되므로 프로세스가 간단합니다. Ultralytics 프레임워크를 사용하면 모델을 쉽게 변환하고 최적화할 수 있어 번거로움을 최소화하면서 최고의 성능을 얻을 수 있습니다.

그림 1. 내보내기 스크립트 실행 방법을 설명하는 Nicolai Nielsen.

성능 비교#

내보낸 후에는 원본 모델과 최적화된 모델의 성능을 비교하는 것이 중요합니다. 두 모델의 추론 시간을 벤치마킹하면 성능 향상을 명확하게 확인할 수 있습니다. 일반적으로 OpenVINO 모델은 원본 PyTorch 모델에 비해 추론 시간이 크게 단축됩니다. 이러한 효과는 성능 향상이 가장 두드러지는 대규모 모델에서 특히 크게 나타납니다.

실제 애플리케이션 및 이점#

OpenVINO를 사용하여 Ultralytics YOLOv8 모델을 최적화하면 실시간 처리가 필요한 애플리케이션에 특히 유용합니다. 다음은 몇 가지 예입니다.

• 보안 시스템: 실시간 객체 감지를 통해 보안 요원에게 즉시 경고를 전달하여 안전성과 대응력을 높일 수 있습니다.
• 자동화 차량: 더 빠른 추론 속도는 자율 주행 시스템의 응답성을 향상하여 더욱 안전하고 신뢰할 수 있게 합니다.
• 의료: 진단 도구에서 이미지를 신속하게 처리하면 더 빠른 결과를 제공하여 적시에 개입할 수 있으므로 생명을 구하는 데 도움이 될 수 있습니다.

이러한 최적화를 구현하면 성능을 향상할 뿐만 아니라 애플리케이션의 안정성과 효율성도 높일 수 있습니다. 이를 통해 더 나은 사용자 경험, 향상된 생산성 및 더욱 혁신적인 솔루션을 구현할 수 있습니다.

마무리#

OpenVINO용 Ultralytics YOLOv8 모델을 내보내고 최적화하면 Intel 하드웨어를 활용하여 더 빠르고 효율적인 AI 애플리케이션을 구축할 수 있습니다. 몇 가지 간단한 단계만으로 모델의 성능을 획기적으로 향상하고 실제 시나리오에 효과적으로 적용할 수 있습니다.

AI 프로젝트를 지속적으로 발전시킬 수 있도록 Ultralytics에서 제공하는 더 많은 튜토리얼과 가이드를 확인해 보시기 바랍니다. GitHub 저장소를 방문하고 Ultralytics 커뮤니티에 참여하여 더 많은 인사이트와 최신 소식을 확인해 보세요. 함께 혁신해 나가겠습니다!

모델 최적화는 단순히 속도를 높이는 것만을 의미하지 않습니다. 새로운 가능성을 열고 AI 솔루션의 견고성, 효율성 및 미래 대응력을 확보하는 일입니다.