Intel OpenVINO에서 추론을 위해 Ultralytics YOLOv8 내보내기 및 최적화하기
OpenVINO를 사용하여 추론을 위한 Ultralytics YOLOv8 모델을 최적화하십시오. PyTorch 모델을 ONNX로 변환하고 실시간 애플리케이션을 위해 최적화하는 가이드를 따라 하십시오.
이 블로그 포스트에서는 사전 훈련되었거나 커스텀 훈련된 Ultralytics YOLOv8 모델을 OpenVINO를 사용한 추론용으로 내보내고 최적화하는 방법을 살펴봅니다. CPU든 GPU든 Intel 기반 시스템을 사용하고 계신다면, 이 가이드를 통해 최소한의 노력으로 모델 속도를 크게 향상시키는 방법을 확인하실 수 있습니다.
OpenVINO로 Ultralytics YOLOv8을 최적화해야 하는 이유는 무엇입니까?#
Ultralytics YOLOv8 모델을 OpenVINO로 최적화하면 특히 Intel CPU를 실행하는 경우 추론 작업에서 최대 3배의 속도 향상을 제공할 수 있습니다. 이러한 성능 향상은 객체 감지부터 분할 및 보안 시스템에 이르기까지 실시간 애플리케이션에서 큰 차이를 만들 수 있습니다.
Ultralytics YOLOv8 모델을 내보내고 최적화하는 단계#
프로세스 이해하기#
먼저 프로세스를 단계별로 알아보겠습니다. PyTorch 모델을 ONNX로 변환한 다음 OpenVINO를 사용하여 최적화할 것입니다. 이 과정은 몇 가지 간단한 단계로 구성되며 TensorFlow, PyTorch, Caffe 및 ONNX를 포함한 다양한 모델과 형식에 적용할 수 있습니다.
모델 내보내기#
Ultralytics 문서를 살펴보면, YOLOv8 모델을 내보내는 과정에는 Ultralytics 프레임워크의 export 메서드를 사용하는 것이 포함됩니다. 이 메서드를 사용하면 모델을 PyTorch에서 ONNX로 변환하고 최종적으로 OpenVINO용으로 최적화할 수 있습니다. 그 결과 Intel의 강력한 하드웨어를 활용하여 훨씬 더 빠르게 실행되는 모델을 얻을 수 있습니다.
종속성 설치#
내보내기 스크립트를 실행하기 전에 필요한 모든 종속성이 설치되어 있는지 확인해야 합니다. 여기에는 Ultralytics 라이브러리, ONNX 및 OpenVINO가 포함됩니다. 이러한 패키지를 설치하는 것은 Python 패키지 설치 도구인 pip를 통해 간단하게 수행할 수 있습니다.
내보내기 스크립트 실행#
환경이 설정되면 내보내기 스크립트를 실행할 수 있습니다. 이 스크립트는 PyTorch 모델을 ONNX로, 그 다음에는 OpenVINO로 변환합니다. 과정은 매우 간단하며 내보내기를 처리하는 단일 함수를 호출하기만 하면 됩니다. Ultralytics 프레임워크는 모델을 쉽게 변환하고 최적화할 수 있게 해주어 최소한의 번거로움으로 최고의 성능을 얻을 수 있도록 보장합니다.
그림 1. 내보내기 스크립트 실행 방법을 설명하는 Nicolai Nielsen.
성능 비교#
내보내기 후 원본 모델과 최적화된 모델의 성능을 비교하는 것은 필수입니다. 두 모델의 추론 시간을 벤치마킹하면 성능 향상 정도를 명확하게 확인할 수 있습니다. 일반적으로 OpenVINO 모델은 원본 PyTorch 모델에 비해 추론 시간이 크게 단축됩니다. 이는 성능 향상이 가장 눈에 띄는 대형 모델의 경우 특히 더 그렇습니다.
실제 적용 및 이점#
OpenVINO로 Ultralytics YOLOv8 모델을 최적화하는 것은 실시간 처리가 필요한 애플리케이션에 특히 유용합니다. 다음은 몇 가지 예시입니다.
- 보안 시스템: 실시간 객체 감지를 통해 보안 인력에게 즉시 경고를 전달하여 안전성과 대응력을 강화할 수 있습니다.
- 자율주행 차량: 더 빠른 추론 속도는 자율주행 시스템의 응답성을 향상시켜 더욱 안전하고 신뢰성 있게 만들어 줍니다.
- 헬스케어: 진단 도구를 위한 빠른 이미지 처리는 더 빠른 결과를 제공하여 생명을 구할 수 있으며, 적시에 개입할 수 있도록 합니다.
이러한 최적화를 구현하면 성능이 향상될 뿐만 아니라 애플리케이션의 안정성과 효율성도 높아집니다. 이는 사용자 경험 개선, 생산성 증대 및 더욱 혁신적인 솔루션으로 이어질 수 있습니다.
마무리하며#
OpenVINO용 Ultralytics YOLOv8 모델을 내보내고 최적화하는 것은 더 빠르고 효율적인 AI 애플리케이션을 위해 Intel 하드웨어를 활용하는 강력한 방법입니다. 몇 가지 간단한 단계만 거치면 모델의 성능을 변환하고 실제 시나리오에 효과적으로 적용할 수 있습니다.
AI 프로젝트를 계속 발전시키기 위해 Ultralytics의 더 많은 튜토리얼과 가이드를 꼭 확인해 보세요. 더 많은 인사이트와 업데이트를 위해 GitHub 저장소를 방문하고 Ultralytics 커뮤니티에 참여하세요. 함께 혁신을 만들어 갑시다!
모델을 최적화하는 것은 단순히 속도만을 위한 것이 아니라 새로운 가능성을 열고 AI 솔루션을 강력하고 효율적이며 미래에 대비할 수 있게 만드는 과정임을 기억하십시오.
