MNN 통합을 사용하여 원활하게 Ultralytics YOLO11 배포하기

오늘날 AI 혁신은 원격 서버 환경을 넘어 확장되었습니다. AI 솔루션은 센서나 스마트폰과 같은 엣지 디바이스에 통합되고 있습니다. 이러한 기술적 변화 덕분에 이제 데이터가 생성되는 곳에서 직접 데이터를 처리할 수 있게 되었으며, 이를 통해 더 빠른 응답, 향상된 개인정보 보호, 지속적인 클라우드 연결에 대한 의존도 감소가 가능해졌습니다.

그 결과, 엣지 AI는 많은 산업 분야에서 주목받고 있습니다. 더 많은 시스템이 더 빠르고 로컬 중심의 처리 방식으로 이동함에 따라 엣지 AI 소프트웨어 시장은 2031년까지 88억 8천만 달러 규모에 이를 것으로 예상됩니다.

특히 이미지와 비디오 이해에 중점을 두는 AI의 한 분야인 컴퓨터 비전은 엣지 환경에서 빠르게 채택되고 있습니다. 포장 중인 식품 개수 파악부터 차량의 보행자 감지 지원에 이르기까지, 컴퓨터 비전은 다양한 분야에서 수많은 실용적 애플리케이션을 지원합니다.

이는 컴퓨터 비전 모델을 통해 가능합니다. 예를 들어, Ultralytics YOLO11은 객체 탐지, 인스턴스 세그멘테이션, 객체 추적, 자세 추정과 같은 다양한 비전 AI 작업을 지원하는 모델입니다. 이 모델은 빠르고 효율적으로 설계되었으며 하드웨어 자원이 제한적인 디바이스에서도 우수한 성능을 발휘합니다.

그림 1. YOLO11을 사용하여 포장 중인 식품을 탐지 및 추적하는 모습 (출처).

엣지 배포에 적합할 뿐만 아니라, Ultralytics가 지원하는 다양한 통합을 통해 YOLO11은 다양한 하드웨어 환경에 맞는 여러 형식으로 내보낼 수 있습니다.

가장 효율적인 옵션 중 하나는 저사양 디바이스를 위해 설계된 경량 추론 엔진인 MNN(Mobile Neural Network)입니다. YOLO11을 MNN으로 내보내면 휴대폰, 임베디드 시스템 및 신속한 온디바이스 처리가 필수적인 기타 엣지 플랫폼에서 직접 실행할 수 있습니다.

이 글에서는 MNN 통합의 작동 방식과 일반적인 사용 사례를 살펴보고, 내보낸 YOLO11 모델을 사용하여 추론을 시작하는 방법을 단계별로 알아보겠습니다. 바로 시작해 봅시다!

Link to this sectionMNN 개요: 딥러닝 프레임워크#

휴대폰, 산업용 센서, 휴대용 시스템과 같은 소형 디바이스에서 컴퓨터 비전 모델을 실행하는 것이 항상 간단한 것은 아닙니다. 이러한 디바이스는 종종 메모리가 제한적이고 프로세서 속도가 느리며 전력 제한이 엄격합니다.

Mobile Neural Network(MNN)는 Alibaba에서 개발한 경량 고성능 추론 엔진으로, 실시간 성능을 유지하면서 저사양 하드웨어에서 AI 모델이 효율적으로 실행되도록 합니다. MNN은 Android, iOS, Linux를 포함한 다양한 플랫폼을 지원하며, CPU(중앙 처리 장치) 및 GPU(그래픽 처리 장치)와 같은 다양한 하드웨어 유형에서 작동합니다.

그림 2. MNN 프레임워크 살펴보기 (출처).

Ultralytics에서 지원하는 MNN 통합을 통해 YOLO11 모델을 MNN 형식으로 쉽게 내보낼 수 있습니다. 간단히 말해, 이는 모델을 YOLO 형식에서 MNN으로 변환할 수 있음을 의미합니다.

변환이 완료되면 효율적인 온디바이스 추론을 위해 MNN 프레임워크를 지원하는 디바이스에 배포할 수 있습니다. MNN 형식을 사용하는 주요 이점은 크기, 속도, 자원 효율성이 중요한 시나리오에서 YOLO11 배포를 간소화한다는 점입니다.

Link to this sectionMNN 추론 백엔드의 주요 기능#

MNN 통합 사용 방법을 살펴보기 전에, MNN 프레임워크가 실제 디바이스에서 AI 모델을 실행하기 위한 훌륭한 선택인 이유를 알아보겠습니다. MNN은 엣지 환경의 고유한 제약 조건을 처리하면서도 빠르고 안정적인 성능을 제공하도록 구축되었습니다.

흥미롭게도 MNN은 Alibaba 내부에서 Taobao, Tmall, Youku, DingTalk, Xianyu를 포함한 30개 이상의 애플리케이션에서 사용되고 있으며, 라이브 비디오, 숏폼 콘텐츠, 이미지 검색, 온디바이스 보안 검사와 같은 광범위한 시나리오에 적용됩니다. 대규모 배포를 지원하며 프로덕션 환경에서 매일 수백만 건의 추론을 실행합니다.

MNN 프레임워크의 주요 기능은 다음과 같습니다:

• 백엔드 자동 선택: MNN은 실행 중인 하드웨어를 기반으로 CPU 또는 GPU와 같은 가장 적합한 실행 백엔드를 자동으로 선택할 수 있습니다.
• 멀티 스레드 실행: 멀티 스레딩을 지원하여 멀티코어 프로세서를 최대한 활용해 추론 속도를 높일 수 있습니다.
• 모델 양자화 지원: FP16 또는 INT8 양자화를 사용하여 모델 크기를 크게 줄일 수 있어, 더 적은 메모리를 사용하면서 추론 속도를 개선하는 데 도움이 됩니다.
• 경량 및 고속: MNN은 매우 작은 설치 공간을 가지며, 핵심 라이브러리는 Android에서 약 400KB, iOS에서 약 5MB 수준으로 모바일 및 임베디드 디바이스에 이상적입니다.

Link to this sectionMNN 통합 작동 방식 이해하기#

다음으로, YOLO11 모델을 MNN 형식으로 내보내는 방법을 단계별로 알아보겠습니다.

첫 번째 단계는 YOLO11 모델을 MNN 형식으로 내보내는 데 필요한 모든 기능을 제공하는 Ultralytics Python 패키지를 설치하는 것입니다. 터미널에서 "pip install ultralytics"를 실행하거나 명령 프롬프트를 사용하여 설치할 수 있습니다. Jupyter Notebook이나 Google Colab을 사용하는 경우 명령 앞에 느낌표를 추가하십시오.

설치 중 문제가 발생하면 일반 문제 가이드에서 문제 해결 팁을 참조하십시오.

환경이 설정되면 "yolo11n.pt"와 같은 사전 훈련된 YOLO11 모델을 로드하고 아래 코드 스니펫과 같이 MNN 형식으로 내보낼 수 있습니다. 직접 훈련한 커스텀 YOLO11 모델이 있다면 파일 이름을 모델 경로로 바꾸기만 하면 간단히 내보낼 수 있습니다.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="mnn")

모델을 MNN으로 변환한 후에는 애플리케이션 요구 사항에 따라 다양한 모바일 및 임베디드 플랫폼에서 사용할 수 있습니다.

예를 들어, 교통 비디오에서 내보낸 모델을 테스트하고 싶다고 가정해 봅시다. 이 경우 아래 예제와 같이 MNN 형식의 YOLO11 모델을 로드하여 차량, 보행자, 교통 표지판과 같은 객체를 디바이스에서 직접 탐지할 수 있습니다.

mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)

추론이 완료되면 탐지된 객체가 포함된 출력 비디오가 'runs/detect/predict' 폴더에 자동으로 저장됩니다. 또한 MNN Python 패키지를 사용하여 직접 추론을 실행하려면 공식 Ultralytics 문서에서 더 자세한 내용과 예제를 확인하십시오.

그림 3. MNN 형식으로 내보낸 YOLO11 모델을 사용한 교통량 분석. 이미지 저자.

Link to this sectionYOLO11과 MNN으로 구현된 엣지 AI 모델 배포의 사용 사례#

YOLO11을 MNN과 함께 배포하면 클라우드 기반 처리가 실용적이지 않거나 불가능한 환경에서 객체 탐지와 같은 빠르고 효율적인 컴퓨터 비전 작업을 수행할 수 있습니다. 이 통합이 실제 시나리오에서 특히 어떻게 유용한지 살펴보겠습니다.

Link to this section식물 질병 식별을 위한 모바일 엣지 AI#

이미지 분류를 사용하는 식물 질병 식별 앱은 정원사, 연구원 및 자연 애호가들 사이에서 인기를 얻고 있습니다. 사용자는 사진 한 장으로 잎의 반점이나 변색과 같은 초기 질병 징후를 빠르게 식별할 수 있습니다. 이러한 앱은 인터넷 연결이 제한적이거나 불가능한 야외 구역에서 자주 사용되므로 클라우드 처리에 의존하는 것은 신뢰하기 어려울 수 있습니다.

훈련 후, YOLO11 모델은 MNN 형식으로 내보내져 모바일 디바이스에서 직접 실행될 수 있습니다. 모델은 서버로 데이터를 보낼 필요 없이 로컬에서 식물 종을 분류하고 눈에 보이는 질병 증상을 탐지할 수 있습니다.

그림 4. 잎에서 녹병(식물 질병)의 징후를 탐지하기 위해 YOLO11을 사용하는 예시 (출처).

Link to this section제조 분야의 효율적인 온디바이스 추론#

제조 시설의 바쁜 생산 라인에서는 정확한 패키지 추적이 필수적입니다. YOLO11을 사용하여 주요 검사 지점을 통과하는 각 항목을 추적 및 카운트하고, 실시간으로 수량을 업데이트하며 불일치를 표시할 수 있습니다. 이는 누락되거나 계산되지 않은 배송을 줄이고 더 원활하고 안정적인 운영을 지원합니다.

그림 5. YOLO11을 사용하여 패키지 추적 및 카운트 (출처).

MNN 통합은 이러한 맥락에서 특히 영향력을 발휘할 수 있습니다. YOLO11 모델을 MNN 형식으로 내보내면 컨베이어를 따라 설치된 소형 저전력 디바이스에서 직접 실행할 수 있습니다.

모든 처리가 로컬에서 발생하므로 시스템은 즉각적인 피드백을 제공할 수 있으며 인터넷 연결이 필요 없습니다. 이는 공장 현장에서 빠르고 안정적인 성능을 보장하며, 높은 정확도와 제어력을 유지하면서 생산을 효율적으로 지속시킵니다.

Link to this sectionYOLO11을 MNN 모델 형식으로 내보낼 때의 장점#

Ultralytics에서 제공하는 MNN 통합의 주요 이점은 다음과 같습니다:

• 더 빠른 응답 시간: 추론이 디바이스에서 실행되므로 지연 시간이 최소화되어 실시간으로 예측이 가능합니다.
• 향상된 데이터 개인정보 보호: 데이터가 디바이스에 남아 민감한 이미지나 비디오를 클라우드로 전송할 필요가 없습니다.
• 오픈 소스 및 활발한 유지 관리: Alibaba의 지원과 활발한 커뮤니티의 뒷받침을 받는 MNN은 신뢰할 수 있으며 성능 개선을 위해 정기적으로 업데이트됩니다.

Link to this sectionMNN 프레임워크 사용 시 고려해야 할 요소#

MNN을 배포 프레임워크로 선택하기 전에, 프로젝트 요구 사항, 배포 대상 및 기술적 제한 사항에 얼마나 잘 맞는지 평가하는 것도 중요합니다. 고려해야 할 몇 가지 주요 요소는 다음과 같습니다:

• 지속적인 호환성: 프레임워크 업데이트나 대상 플랫폼의 변경 사항이 있을 경우 모든 것이 원활하게 작동하도록 재테스트하거나 조정해야 할 수 있습니다.
• 더 적은 디버깅 도구: 대형 프레임워크와 비교했을 때 MNN은 모델 동작을 디버깅하고 검사하는 도구가 제한적이어서 문제 해결이 더 어려울 수 있습니다.
• 성능은 하드웨어에 따라 다름: 모델의 속도와 효율성은 디바이스에 따라 달라집니다. 대상 하드웨어가 성능 목표를 충족하는지 테스트하십시오.

Link to this section핵심 요약#

Ultralytics의 MNN 통합 지원을 통해 모바일 및 임베디드 디바이스용 YOLO11 모델을 쉽게 내보낼 수 있습니다. 이는 클라우드 접근이나 지속적인 연결에 의존하지 않고도 빠르고 안정적인 탐지가 필요한 애플리케이션을 위한 실용적인 옵션입니다.

이 설정은 성능을 유지하고 자원 요구 사항을 낮게 유지하면서 배포를 간소화하는 데 도움이 됩니다. 스마트 홈 시스템, 현장 도구, 소형 산업용 디바이스를 구축하든, YOLO11을 MNN으로 내보내는 것은 엣지 디바이스에서 직접 컴퓨터 비전 작업을 실행할 수 있는 유연하고 효율적인 방법을 제공합니다.

성장하는 저희 커뮤니티에 참여하십시오! AI에 대해 더 깊이 알아보려면 GitHub 저장소를 살펴보십시오. 컴퓨터 비전 프로젝트를 시작할 준비가 되셨습니까? 라이선스 옵션을 확인해 보십시오. 솔루션 페이지에서 의료 분야 AI 및 소매 분야 컴퓨터 비전에 대해 더 자세히 알아보십시오!