OpenVINO™를 사용하여 원활하게 Ultralytics YOLO11 배포하기

AI 도입은 AI 솔루션의 접근성에 달려 있으며, 그중 중요한 부분은 사람들이 이미 보유한 하드웨어에서 쉽게 배포할 수 있도록 만드는 것입니다. GPU(그래픽 처리 장치)에서 AI 모델을 실행하는 것은 성능 및 병렬 처리 능력 측면에서 훌륭한 선택입니다.

하지만 현실적으로는 엣지 환경이나 일반 노트북에서 고사양 GPU를 항상 사용할 수 있는 것은 아닙니다. 그렇기 때문에 CPU(중앙 처리 장치), 통합 GPU, NPU(신경망 처리 장치)와 같이 널리 사용되는 하드웨어에서 모델이 효율적으로 실행되도록 최적화하는 것이 매우 중요합니다.

컴퓨터 비전은 기계가 이미지와 비디오 스트림을 실시간으로 분석하고 이해할 수 있도록 하는 AI의 한 분야입니다. Ultralytics YOLO11과 같은 비전 AI 모델은 객체 탐지 및 인스턴스 세그멘테이션과 같은 핵심 작업을 지원하여 리테일 분석부터 의료 진단에 이르는 다양한 애플리케이션을 구동합니다.

그림 1. Ultralytics YOLO11을 사용하여 리테일 매장에서 객체를 탐지하고 세그멘테이션하기.

컴퓨터 비전에 대한 접근성을 더욱 높이기 위해, Ultralytics는 CPU, GPU 및 NPU 전반에서 AI 추론을 최적화하고 실행하기 위한 오픈 소스 프로젝트인 OpenVINO 툴킷과의 업데이트된 통합 기능을 출시했습니다.

이 통합 기능을 통해 YOLO11 모델을 더 쉽게 내보내고(export) 배포할 수 있으며, CPU에서 최대 3배 빠른 추론 속도와 Intel GPU 및 NPU에서 가속화된 성능을 경험할 수 있습니다. 본 문서에서는 Ultralytics Python 패키지를 사용하여 YOLO11 모델을 OpenVINO 형식으로 내보내고 이를 추론에 사용하는 방법을 단계별로 설명하겠습니다. 시작해 보겠습니다!

Link to this sectionUltralytics YOLO11 개요#

Ultralytics에서 지원하는 OpenVINO 통합의 세부 사항을 살펴보기 전에, YOLO11이 신뢰할 수 있고 영향력 있는 컴퓨터 비전 모델로 평가받는 이유를 자세히 알아보겠습니다. YOLO11은 Ultralytics YOLO 시리즈의 최신 모델로, 속도와 정확도 측면에서 상당한 향상을 제공합니다.

핵심 장점 중 하나는 효율성입니다. 예를 들어, Ultralytics YOLO11m은 Ultralytics YOLOv8m보다 파라미터 수가 22% 적으면서도 COCO 데이터셋에서 더 높은 mAP(mean average precision)를 달성합니다. 이는 더 빠르게 실행되면서도 더 정확하게 객체를 탐지한다는 의미이며, 성능과 반응성이 중요한 실시간 애플리케이션에 이상적입니다.

그림 2. Ultralytics YOLO11의 성능 벤치마크.

YOLO11은 객체 탐지 외에도 인스턴스 세그멘테이션, 포즈 추정, 이미지 분류, 객체 추적, 그리고 방향성 경계 상자(oriented bounding box) 탐지와 같은 다양한 고급 컴퓨터 비전 작업을 지원합니다. 또한 YOLO11은 개발자 친화적이며, Ultralytics Python 패키지는 모델 학습, 평가 및 배포를 위한 간단하고 일관된 인터페이스를 제공합니다.

뿐만 아니라, Ultralytics Python 패키지는 OpenVINO, ONNX, TorchScript를 포함한 다양한 통합 및 여러 내보내기 형식을 지원하여 YOLO11을 다양한 배포 파이프라인에 쉽게 통합할 수 있게 합니다. 클라우드 인프라, 엣지 장치, 임베디드 시스템 중 무엇을 타겟팅하든 관계없이 내보내기 과정은 간단하며 하드웨어 요구 사항에 맞게 조정 가능합니다.

Link to this sectionOpenVINO™란 무엇입니까?#

OpenVINO™(Open Visual Inference and Neural Network Optimization)는 다양한 하드웨어 전반에서 AI 추론을 최적화하고 배포하기 위한 오픈 소스 툴킷입니다. 이를 통해 개발자는 CPU, 통합 및 외장 GPU, NPU, 그리고 FPGA(필드 프로그래머블 게이트 어레이)를 포함한 다양한 Intel 플랫폼에서 고성능 추론 애플리케이션을 효율적으로 실행할 수 있습니다.

OpenVINO는 장치별 플러그인을 통해 하드웨어 차이를 추상화하는 통합 런타임 인터페이스를 제공합니다. 이는 개발자가 일관된 API를 사용하여 한 번 코드를 작성하면 여러 Intel 하드웨어 타겟에 배포할 수 있음을 의미합니다.

OpenVINO가 배포를 위한 훌륭한 선택이 되는 몇 가지 핵심 기능은 다음과 같습니다:

• 모델 변환기(Model converter): 이 도구는 PyTorch, ONNX, TensorFlow, PaddlePaddle 등 인기 있는 프레임워크의 모델을 변환하고 준비하여 Intel 하드웨어에서 효율적인 추론을 위해 최적화될 수 있도록 합니다.
• 이종 실행(Heterogeneous execution): 다양한 Intel 하드웨어를 위해 코드를 다시 작성할 필요가 없습니다. OpenVINO를 사용하면 CPU부터 GPU까지 지원되는 모든 하드웨어에서 동일한 모델을 쉽게 실행할 수 있습니다.
• 양자화(Quantization) 지원: 툴킷은 FP16(기본값) 및 INT8과 같이 정밀도가 낮은 형식을 지원하여, 정확도를 크게 저해하지 않으면서도 모델 크기를 줄이고 추론 속도를 높이는 데 도움을 줍니다.

그림 3. OpenVINO는 다양한 배포 옵션을 가능하게 합니다.

Link to this sectionUltralytics와 OpenVINO 통합 살펴보기#

OpenVINO가 무엇이며 그 중요성이 무엇인지 알아보았으니, 이제 YOLO11 모델을 OpenVINO 형식으로 내보내고 Intel 하드웨어에서 효율적인 추론을 실행하는 방법을 논의하겠습니다.

Link to this section1단계: Ultralytics Python 패키지 설치#

모델을 OpenVINO 형식으로 내보내려면 먼저 Ultralytics Python 패키지를 설치해야 합니다. 이 패키지는 YOLO11을 포함한 YOLO 모델을 학습, 평가 및 내보내는 데 필요한 모든 것을 제공합니다.

터미널이나 명령 프롬프트에서 "pip install ultralytics" 명령을 실행하여 설치할 수 있습니다. Jupyter Notebook이나 Google Colab과 같은 대화형 환경에서 작업하는 경우, 명령 앞에 느낌표를 추가하기만 하면 됩니다.

또한 설치 또는 내보내기 중에 문제가 발생하면, Ultralytics 문서와 문제 해결 가이드가 문제를 해결하는 데 큰 도움이 됩니다.

Link to this section2단계: YOLO11 모델을 OpenVINO 형식으로 내보내기#

Ultralytics 패키지가 설정되면 다음 단계는 YOLO11 모델을 로드하고 OpenVINO와 호환되는 형식으로 변환하는 것입니다.

아래 예시에서는 사전 학습된 YOLO11 모델("yolo11n.pt")을 사용합니다. 내보내기 기능은 이를 OpenVINO 형식으로 변환하는 데 사용됩니다. 이 코드를 실행하면 변환된 모델이 "yolo11n_openvino_model"이라는 새 디렉토리에 저장됩니다.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="openvino")

Link to this section3단계: 내보낸 모델로 추론 실행하기#

YOLO11 모델이 OpenVINO 형식으로 내보내지면, Ultralytics Python 패키지를 사용하는 방법이나 기본 OpenVINO 런타임을 사용하는 방법 두 가지로 추론을 실행할 수 있습니다.

Link to this sectionUltralytics Python 패키지 사용#

내보낸 YOLO11 모델은 아래 코드 스니펫과 같이 Ultralytics Python 패키지를 사용하여 쉽게 배포할 수 있습니다. 이 방법은 빠른 실험과 Intel 하드웨어에서의 간소화된 배포에 이상적입니다.

시스템에서 사용 가능한 Intel 하드웨어에 따라 추론에 사용할 장치("intel:cpu", "intel:gpu" 또는 "intel:npu")를 지정할 수도 있습니다.

ov_model = YOLO("yolo11n_openvino_model/")
results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

위 코드를 실행하면 결과 이미지가 "runs/detect/predict" 디렉토리에 저장됩니다.

그림 4. 내보낸 YOLO11 모델을 사용하여 이미지 속 객체 탐지하기.

Link to this section기본 OpenVINO 런타임 사용#

특히 프로덕션 환경에서 추론을 실행하기 위한 맞춤형 방법을 찾는다면, OpenVINO 런타임이 모델 실행 방식에 대해 더 많은 제어권을 제공합니다. 비동기 실행(여러 추론 요청을 병렬로 실행) 및 로드 밸런싱(Intel 하드웨어 전반에 추론 워크로드를 효율적으로 분산)과 같은 고급 기능을 지원합니다.

기본 런타임을 사용하려면 내보낸 모델 파일이 필요합니다. .xml 파일(네트워크 아키텍처 정의)과 .bin 파일(모델의 학습된 가중치 저장)이 있어야 합니다. 또한 애플리케이션에 따라 입력 크기나 전처리 단계와 같은 추가 매개변수를 구성할 수도 있습니다.

일반적인 배포 흐름은 OpenVINO 코어 초기화, 대상 장치에 대한 모델 로드 및 컴파일, 입력 준비, 추론 실행을 포함합니다. 상세한 예시와 단계별 안내는 공식 Ultralytics OpenVINO 문서를 참조하십시오.

Link to this section왜 Ultralytics x OpenVINO 통합을 선택해야 할까요?#

Ultralytics 통합을 살펴보면, Ultralytics Python 패키지가 YOLO11 모델을 TorchScript, CoreML, TensorRT, ONNX 등 다양한 형식으로 내보내는 것을 지원함을 알 수 있습니다. 그렇다면 왜 OpenVINO 통합을 선택해야 할까요?

OpenVINO 내보내기 형식이 Intel 하드웨어에 모델을 배포하는 데 매우 적합한 이유는 다음과 같습니다:

• 성능 향상: Intel CPU에서 최대 3배 빠른 추론을 경험할 수 있으며, 통합 GPU 및 NPU에서 추가적인 가속이 가능합니다.
• 재학습 불필요: 기존 YOLO11 모델을 수정하거나 재학습할 필요 없이 직접 OpenVINO 형식으로 내보낼 수 있습니다.
• 확장성을 고려한 설계: 동일하게 내보낸 모델을 저전력 엣지 장치부터 대규모 클라우드 인프라까지 배포할 수 있어 AI 배포의 확장성을 단순화합니다.

또한 OpenVINO™ 모델 허브에서 다양한 Intel® 플랫폼 전반에 걸친 YOLO11 모델의 성능 벤치마크를 평가할 수 있습니다. OpenVINO 모델 허브는 개발자가 Intel 하드웨어에서 AI 모델을 평가하고 Intel CPU, 내장 GPU, NPU 및 외장 그래픽 전반에서 OpenVINO의 성능 이점을 발견할 수 있도록 돕는 리소스입니다.

그림 5. OpenVINO™ 모델 허브: 다양한 Intel® 플랫폼 전반에서의 YOLO11 모델 성능 벤치마크.

Link to this sectionYOLO11 및 OpenVINO 내보내기 형식의 애플리케이션#

OpenVINO 통합을 통해 실제 상황에서 Intel 하드웨어 전반에 YOLO11 모델을 배포하는 것이 훨씬 간단해집니다.

좋은 예로 스마트 리테일을 들 수 있습니다. YOLO11은 실시간으로 매대의 빈 공간을 탐지하고, 재고가 부족한 상품을 추적하며, 고객이 매장을 어떻게 이동하는지 분석하는 데 도움을 줄 수 있습니다. 이를 통해 소매업체는 재고 관리를 개선하고 매장 레이아웃을 최적화하여 고객 참여를 향상할 수 있습니다.

마찬가지로 스마트 시티 분야에서 YOLO11은 실시간으로 차량 대수를 세고, 보행자를 추적하며, 신호 위반을 탐지하여 교통을 모니터링하는 데 사용될 수 있습니다. 이러한 통찰력은 교통 흐름 최적화, 도로 안전 개선 및 자동 단속 시스템을 지원할 수 있습니다.

그림 6. YOLO11을 사용하여 차량 계수하기.

또 다른 흥미로운 사례는 산업 검사입니다. YOLO11을 생산 라인에 배포하여 부품 누락, 부정렬 또는 표면 손상과 같은 시각적 결함을 자동으로 탐지할 수 있습니다. 이는 효율성을 높이고 비용을 절감하며 제품 품질 향상을 지원합니다.

Link to this sectionOpenVINO 툴킷 사용 시 고려해야 할 핵심 요소#

OpenVINO로 YOLO11 모델을 배포할 때 최상의 결과를 얻기 위해 명심해야 할 몇 가지 중요한 사항이 있습니다:

• 하드웨어 호환성 확인: 모델이 효율적으로 실행될 수 있도록 CPU, 통합 GPU, NPU 등 Intel 하드웨어가 OpenVINO에서 지원되는지 확인하십시오.
• 올바른 드라이버 설치: Intel GPU나 NPU를 사용하는 경우, 필요한 모든 드라이버가 올바르게 설치되어 있고 최신 버전인지 다시 한 번 확인하십시오.
• 정밀도 트레이드오프 이해: OpenVINO는 FP32, FP16 및 INT8 모델 정밀도를 지원합니다. 각각 속도와 정확도 사이의 트레이드오프가 존재하므로, 성능 목표와 사용 가능한 하드웨어에 따라 올바른 옵션을 선택하는 것이 중요합니다.

Link to this section핵심 요약#

Ultralytics YOLO11을 OpenVINO 형식으로 내보내면 Intel 하드웨어에서 빠르고 효율적인 비전 AI 모델을 쉽게 실행할 수 있습니다. 재학습하거나 코드를 변경할 필요 없이 CPU, GPU 및 NPU 전반에 배포할 수 있습니다. 이는 간단하고 확장 가능한 상태를 유지하면서 성능을 향상할 수 있는 훌륭한 방법입니다.

Ultralytics Python 패키지에 통합된 기능을 통해 OpenVINO로 내보내고 추론을 실행하는 과정은 매우 간단합니다. 단 몇 단계만으로 모델을 최적화하고 다양한 Intel 플랫폼에서 실행할 수 있습니다. 스마트 리테일, 교통 모니터링, 산업 검사 등 어떤 분야에서 작업하든, 이 워크플로우를 통해 개발에서 배포까지 신속하고 자신 있게 진행할 수 있습니다.

YOLO 커뮤니티에 참여하고 Ultralytics GitHub 저장소를 확인하여 Ultralytics가 지원하는 영향력 있는 통합 기능에 대해 자세히 알아보십시오. 또한 Ultralytics 라이선스 옵션을 살펴보고 오늘 바로 컴퓨터 비전을 시작해 보십시오!

곧 진행될 웨비나에 등록하여 Ultralytics × OpenVINO 통합이 실제로 작동하는 모습을 확인하고, OpenVINO 웹사이트를 방문하여 AI를 대규모로 최적화하고 배포하기 위한 도구를 살펴보십시오.