모바일, 임베디드 및 저전력 플랫폼에서 빠른 추론을 위해 MNN 통합을 통해 Ultralytics YOLOv8 모델을 내보내고 배포하는 방법에 대해 알아보세요.
모바일, 임베디드 및 저전력 플랫폼에서 빠른 추론을 위해 MNN 통합을 통해 Ultralytics YOLOv8 모델을 내보내고 배포하는 방법에 대해 알아보세요.
오늘날 AI 혁신은 원격 서버 환경을 넘어 확장되고 있습니다. AI 솔루션은 센서, 스마트폰과 같은 에지 장치에 통합되고 있습니다. 이러한 기술 변화 덕분에 데이터는 생성되는 위치에서 직접 처리할 수 있게 되어 응답 속도 향상, 개인 정보 보호 강화, 클라우드 연결에 대한 의존도 감소가 가능해졌습니다.
결과적으로 엣지 AI는 많은 산업 분야에서 점점 더 주목받고 있습니다. 더 많은 시스템이 더 빠르고 로컬 프로세싱으로 이동함에 따라 엣지 AI 소프트웨어 시장은 2031년까지 88억 8천만 달러에 이를 것으로 예상됩니다.
특히 이미지와 비디오 이해에 중점을 둔 AI의 한 분야인 컴퓨터 비전은 엣지 환경에서 빠르게 도입되고 있습니다. 포장되는 식품 품목을 계산하는 것부터 차량이 보행자를 감지하도록 돕는 것까지, 컴퓨터 비전은 다양한 분야에서 수많은 실용적인 애플리케이션을 지원합니다.
이는 컴퓨터 비전 모델을 통해 가능합니다. 예를 들어, Ultralytics YOLO11은 객체 감지, 인스턴스 분할, 객체 추적, 자세 추정과 같은 다양한 Vision AI 작업을 지원하는 모델입니다. 빠르고 효율적으로 설계되었으며 제한된 하드웨어 리소스를 가진 장치에서 뛰어난 성능을 발휘합니다.
Ultralytics에서 지원하는 다양한 통합을 통해 엣지 배포에 적합할 뿐만 아니라 YOLO11은 다양한 하드웨어 환경에 적합한 다양한 형식으로 내보낼 수 있습니다.
가장 효율적인 옵션 중 하나는 저사양 장치용으로 설계된 경량 추론 엔진인 MNN(Mobile Neural Network)입니다. YOLO11을 MNN으로 내보내면 빠르고 장치 내 처리가 필수적인 휴대폰, 임베디드 시스템 및 기타 에지 플랫폼에서 직접 실행할 수 있습니다.
이번 글에서는 MNN 통합이 어떻게 작동하는지 살펴보고, 일반적인 사용 사례를 강조하며, 내보낸 YOLO11 모델을 사용하여 추론을 시작하는 방법을 안내합니다. 그럼 시작해 볼까요!
모바일 폰, 산업용 센서, 휴대용 시스템과 같이 작은 장치에서 컴퓨터 비전 모델을 실행하는 것은 항상 간단하지 않습니다. 이러한 장치는 종종 메모리가 제한적이고 프로세서가 느리며 전력 제한이 엄격합니다.
Mobile Neural Network(MNN)는 Alibaba에서 개발한 경량 고성능 추론 엔진으로, AI 모델이 실시간 성능을 유지하면서 낮은 리소스 하드웨어에서 효율적으로 실행되도록 합니다. MNN은 Android, iOS, Linux를 포함한 광범위한 플랫폼을 지원하며 CPU(중앙 처리 장치) 및 GPU(그래픽 처리 장치)와 같은 다양한 하드웨어 유형에서 작동합니다.
Ultralytics에서 지원하는 MNN 통합을 통해 YOLO11 모델을 MNN 형식으로 쉽게 내보낼 수 있습니다. 간단히 말해서, 이는 모델을 YOLO 형식에서 MNN으로 변환할 수 있음을 의미합니다.
변환이 완료되면 효율적인 온-디바이스 추론을 위해 MNN 프레임워크를 지원하는 장치에 배포할 수 있습니다. MNN 형식을 사용하면 크기, 속도 및 리소스 효율성이 중요한 시나리오에서 YOLOv8 배포를 간소화할 수 있다는 주요 이점이 있습니다.
MNN 통합 사용법에 대해 자세히 알아보기 전에, MNN 프레임워크가 실제 장치에서 AI 모델을 실행하는 데 왜 훌륭한 선택인지 살펴보겠습니다. 빠르고 안정적인 성능을 제공하면서도 에지 환경의 고유한 제약 조건을 처리하도록 구축되었습니다.
흥미롭게도 MNN은 라이브 비디오, 짧은 형식 콘텐츠, 이미지 검색 및 장치 내 보안 검사와 같은 광범위한 시나리오에서 Taobao, Tmall, Youku, DingTalk 및 Xianyu를 포함하여 Alibaba 내부에서 30개 이상의 애플리케이션에서 사용됩니다. 대규모 배포를 지원하고 프로덕션 환경에서 하루에 수백만 건의 추론을 실행합니다.
MNN 프레임워크의 주요 기능은 다음과 같습니다:
다음으로, YOLO11 모델을 MNN 형식으로 내보내는 방법을 살펴보겠습니다.
첫 번째 단계는 YOLO11 모델을 MNN 형식으로 내보내는 데 필요한 모든 것을 제공하는 Ultralytics Python 패키지를 설치하는 것입니다. 터미널에서 "pip install ultralytics"를 실행하거나 명령 프롬프트를 사용하여 이 작업을 수행할 수 있습니다. Jupyter Notebook 또는 Google Colab을 사용하는 경우 명령 앞에 느낌표를 추가하십시오.
설치 중에 문제가 발생하면 문제 해결 팁은 일반적인 문제 가이드를 참조하십시오.
환경이 설정되면 아래 코드 스니펫에 표시된 것처럼 "yolo8n.pt"와 같은 사전 훈련된 YOLOv8 모델을 로드하고 MNN 형식으로 내보낼 수 있습니다. 사용자 정의 YOLOv8 모델을 학습한 경우 파일 이름을 모델 경로로 바꾸기만 하면 내보낼 수 있습니다.
from ultralytics import YOLO
model = YOLO("yolo11n.pt")
model.export(format="mnn")모델을 MNN으로 변환한 후 애플리케이션 요구 사항에 따라 다양한 모바일 및 임베디드 플랫폼에서 사용할 수 있습니다.
예를 들어, 교통 상황을 촬영한 비디오에서 내보낸 모델을 테스트하려는 경우, 아래 예시와 같이 YOLO11 모델을 MNN 형식으로 로드하여 차량, 보행자, 교통 표지판과 같은 객체를 장치에서 직접 탐지할 수 있습니다.
mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)추론이 완료되면 감지된 객체가 있는 출력 비디오가 'runs/detect/predict' 폴더에 자동으로 저장됩니다. 또한 MNN Python 패키지를 사용하여 직접 추론을 실행하려면 자세한 내용과 예제는 공식 Ultralytics 문서를 확인하십시오.
MNN을 사용한 YOLO11 배포는 클라우드 기반 처리가 현실적이지 않거나 불가능한 환경에서 객체 감지와 같은 빠르고 효율적인 컴퓨터 비전 작업을 가능하게 합니다. 이 통합이 실제 시나리오에서 어떻게 유용할 수 있는지 살펴봅시다.
이미지 분류를 사용하는 식물 질병 식별 앱이 정원사, 연구원 및 자연 애호가들 사이에서 인기를 얻고 있습니다. 사용자는 사진 한 장으로 잎 반점이나 변색과 같은 질병의 초기 징후를 빠르게 식별할 수 있습니다. 이러한 앱은 인터넷 접속이 제한적이거나 불가능할 수 있는 실외 지역에서 자주 사용되므로 클라우드 처리에 의존하는 것은 신뢰할 수 없습니다.
훈련 후 YOLO11 모델을 MNN 형식으로 내보내 모바일 장치에서 직접 실행할 수 있습니다. 그런 다음 모델은 데이터를 서버로 보내지 않고도 식물 종을 분류하고 눈에 보이는 질병 증상을 로컬에서 감지할 수 있습니다.
정확한 패키지 추적은 제조 시설의 분주한 생산 라인에서 필수적입니다. YOLO11은 각 품목이 주요 검문소를 통과할 때 추적하고 계산하는 데 사용될 수 있으며, 실시간으로 개수를 업데이트하고 불일치를 표시합니다. 이는 누락되거나 설명되지 않은 배송을 줄이고 더 원활하고 안정적인 운영을 지원합니다.
MNN 통합은 이러한 맥락에서 특히 큰 영향을 미칠 수 있습니다. YOLO11 모델이 MNN 형식으로 내보내지면 컨베이어를 따라 설치된 소형 저전력 장치에서 직접 실행할 수 있습니다.
모든 처리가 로컬에서 이루어지기 때문에 시스템은 즉각적인 피드백을 제공할 수 있으며 인터넷 연결이 필요하지 않습니다. 이를 통해 공장 현장에서 빠르고 안정적인 성능을 보장하여 높은 정확도와 제어력을 유지하면서 생산을 효율적으로 진행할 수 있습니다.
다음은 Ultralytics에서 제공하는 MNN 통합의 주요 이점입니다.
MNN을 배포 프레임워크로 선택하기 전에 프로젝트 요구 사항, 배포 대상 및 기술적 제한 사항에 얼마나 적합한지 평가하는 것도 중요합니다. 고려해야 할 몇 가지 주요 요소는 다음과 같습니다.
Ultralytics는 MNN 통합을 지원하여 모바일 및 임베디드 장치에서 사용하기 위해 YOLO11 모델을 쉽게 내보낼 수 있습니다. 클라우드 액세스나 지속적인 연결 없이 빠르고 안정적인 감지가 필요한 애플리케이션에 유용한 옵션입니다.
이 설정은 성능을 유지하고 리소스 요구 사항을 낮게 유지하면서 배포를 간소화하는 데 도움이 됩니다. 스마트 홈 시스템, 현장 도구 또는 소형 산업 장치를 구축하든 YOLO11을 MNN으로 내보내면 엣지 장치에서 직접 컴퓨터 비전 작업을 실행할 수 있는 유연하고 효율적인 방법을 제공합니다.
성장하는 커뮤니티에 참여하세요! GitHub 저장소를 탐색하여 AI에 대해 자세히 알아보세요. 컴퓨터 비전 프로젝트를 시작할 준비가 되셨나요? 라이선스 옵션을 확인하세요. 솔루션 페이지에서 헬스케어 분야의 AI 및 리테일 분야의 컴퓨터 비전에 대해 자세히 알아보세요!
.webp)