MNN 통합을 사용하여 원활하게 Ultralytics YOLO11 배포하기

오늘날 AI 혁신은 원격 서버 환경을 넘어 확장되었습니다. AI 솔루션은 센서나 스마트폰과 같은 엣지 디바이스에 통합되고 있습니다. 이러한 기술적 변화 덕분에 이제 데이터가 생성되는 곳에서 직접 데이터를 처리할 수 있게 되었으며, 이를 통해 더 빠른 응답, 향상된 개인정보 보호, 지속적인 클라우드 연결에 대한 의존도 감소가 가능해졌습니다.

결과적으로 edge AI는 많은 산업 분야에서 주목을 받고 있습니다. 더 많은 시스템이 더 빠르고 로컬 중심적인 처리로 이동함에 따라 edge AI software market은 2031년까지 88억 8천만 달러에 이를 것으로 예상됩니다.

특히 이미지와 비디오를 이해하는 데 초점을 맞춘 AI의 한 분야인 computer vision이 엣지에서 빠르게 도입되고 있습니다. 포장되는 식품 항목을 세는 것부터 차량이 보행자를 감지하도록 돕는 것까지, computer vision은 다양한 부문에서 수많은 실용적 애플리케이션을 지원합니다.

이는 computer vision 모델을 통해 가능해집니다. 예를 들어, Ultralytics YOLO11은 객체 감지, 인스턴스 세분화, 객체 추적, 포즈 추정 등 다양한 비전 AI 작업을 지원하는 모델입니다. 이 모델은 빠르고 효율적으로 설계되었으며 하드웨어 리소스가 제한된 기기에서도 잘 작동합니다.

그림 1. Ultralytics YOLO11을 사용한 포장 중인 식품 감지 및 추적 (출처).

엣지 배포에 적합할 뿐만 아니라, Ultralytics가 지원하는 다양한 integrations을 통해 YOLO11은 다양한 하드웨어 환경에 적합한 여러 포맷으로 내보낼 수 있습니다.

가장 효율적인 옵션 중 하나는 저리소스 장치용으로 설계된 경량 추론 엔진인 MNN (Mobile Neural Network)입니다. Ultralytics YOLO11을 MNN으로 내보내면 빠른 온디바이스 처리가 필수적인 휴대전화, 임베디드 시스템 및 기타 엣지 플랫폼에서 직접 실행할 수 있습니다.

이 글에서는 MNN integration의 작동 방식과 일반적인 유스케이스를 살펴보고, 내보낸 Ultralytics YOLO11 모델을 사용하여 추론을 실행하는 방법을 단계별로 알아봅니다. 시작해 보겠습니다!

MNN 개요: 딥러닝 프레임워크#

휴대폰, 산업용 센서, 휴대용 시스템과 같은 소형 기기에서 computer vision models을 실행하는 것은 항상 간단하지만은 않습니다. 이러한 기기는 종종 메모리가 제한되어 있고, 프로세서가 느리며, 엄격한 전력 제한이 있습니다.

Mobile Neural Network(MNN)는 Alibaba에서 개발한 경량 고성능 추론 엔진으로, 실시간 성능을 유지하면서 저사양 하드웨어에서 AI 모델이 효율적으로 실행되도록 합니다. MNN은 Android, iOS, Linux를 포함한 다양한 플랫폼을 지원하며, CPU(중앙 처리 장치) 및 GPU(그래픽 처리 장치)와 같은 다양한 하드웨어 유형에서 작동합니다.

그림 2. MNN 프레임워크 살펴보기 (Source).

Ultralytics에서 지원하는 MNN 통합을 통해 YOLO11 모델을 MNN 형식으로 쉽게 내보낼 수 있습니다. 간단히 말해, 이는 모델을 YOLO 형식에서 MNN으로 변환할 수 있음을 의미합니다.

변환된 모델은 MNN 프레임워크를 지원하는 장치에 배포하여 효율적인 온디바이스 추론을 수행할 수 있습니다. MNN 포맷을 사용하는 주요 이점은 크기, 속도, 리소스 효율성이 중요한 시나리오에서 Ultralytics YOLO11 배포를 간소화한다는 점입니다.

MNN 추론 백엔드의 주요 기능#

MNN 통합 사용 방법을 살펴보기 전에, MNN 프레임워크가 실제 디바이스에서 AI 모델을 실행하기 위한 훌륭한 선택인 이유를 알아보겠습니다. MNN은 엣지 환경의 고유한 제약 조건을 처리하면서도 빠르고 안정적인 성능을 제공하도록 구축되었습니다.

흥미롭게도 MNN은 Alibaba 내부에서 Taobao, Tmall, Youku, DingTalk, Xianyu를 포함한 30개 이상의 애플리케이션에서 사용되고 있으며, 라이브 비디오, 숏폼 콘텐츠, 이미지 검색, 온디바이스 보안 검사와 같은 광범위한 시나리오에 적용됩니다. 대규모 배포를 지원하며 프로덕션 환경에서 매일 수백만 건의 추론을 실행합니다.

MNN 프레임워크의 주요 기능은 다음과 같습니다:

• 백엔드 자동 선택: MNN은 실행 중인 하드웨어를 기반으로 CPU 또는 GPU와 같은 가장 적합한 실행 백엔드를 자동으로 선택할 수 있습니다.
• Multi-threaded execution: 멀티스레딩을 지원하므로 멀티코어 프로세서의 성능을 최대한 활용하여 더 빠른 추론이 가능합니다.
• 모델 양자화 지원: FP16 또는 INT8 양자화를 사용하여 모델 크기를 크게 줄일 수 있어, 더 적은 메모리를 사용하면서 추론 속도를 개선하는 데 도움이 됩니다.
• 경량 및 고속: MNN은 매우 작은 설치 공간을 가지며, 핵심 라이브러리는 Android에서 약 400KB, iOS에서 약 5MB 수준으로 모바일 및 임베디드 디바이스에 이상적입니다.

MNN 통합 작동 방식 이해하기#

다음으로 Ultralytics YOLO11 모델을 MNN 포맷으로 내보내는 방법을 단계별로 살펴보겠습니다.

첫 번째 단계는 YOLO11 모델을 MNN 포맷으로 내보내는 데 필요한 모든 것을 제공하는 Ultralytics Python package을 설치하는 것입니다. 터미널에서 "pip install ultralytics"를 실행하거나 명령 프롬프트를 사용하여 이를 수행할 수 있습니다. Jupyter Notebook 또는 Google Colab을 사용하는 경우 명령어 앞에 느낌표를 추가하세요.

설치하는 동안 문제가 발생하는 경우 Common Issues guide를 참조하여 문제 해결 팁을 확인하세요.

환경이 설정되면 "yolo11n.pt"와 같은 사전 훈련된 YOLO11 모델을 로드하고 아래 코드 스니펫과 같이 MNN 형식으로 내보낼 수 있습니다. 직접 훈련한 커스텀 YOLO11 모델이 있다면 파일 이름을 모델 경로로 바꾸기만 하면 간단히 내보낼 수 있습니다.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="mnn")

모델을 MNN으로 변환한 후에는 애플리케이션 요구 사항에 따라 다양한 모바일 및 임베디드 플랫폼에서 사용할 수 있습니다.

예를 들어 교통 영상에서 내보낸 모델을 테스트하려는 경우를 가정해 보겠습니다. 이 경우 아래 예제와 같이 Mnn 포맷으로 Ultralytics YOLO11 모델을 로드하여 차량, 보행자, 교통표지판 같은 객체를 장치에서 직접 감지할 수 있습니다.

mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)

추론이 완료되면 감지된 객체가 포함된 출력 비디오가 'runs/detect/predict' 폴더에 자동으로 저장됩니다. 또한 MNN Python package를 사용하여 직접 추론을 실행하려면 공식 Ultralytics documentation을 참조하여 자세한 내용과 예제를 확인할 수 있습니다.

그림 3. MNN 형식으로 내보낸 Ultralytics YOLO11 모델을 사용한 교통량 분석. 저자 제공 이미지.

Ultralytics YOLO11 및 MNN으로 활성화된 엣지 AI 모델 배포 사용 사례#

클라우드 기반 처리가 실용적이지 않거나 불가능한 환경에서 MNN과 함께 Ultralytics YOLO11을 배포하면 object detection과 같은 빠르고 효율적인 컴퓨터 비전 작업을 수행할 수 있습니다. 이 통합이 실제 시나리오에서 어떻게 특히 유용할 수 있는지 살펴보겠습니다.

식물 질병 식별을 위한 모바일 엣지 AI#

image classification을 사용하는 식물 질병 식별 앱은 정원사, 연구원, 자연 애호가들 사이에서 인기를 얻고 있습니다. 사용자는 사진 한 장만으로 잎 반점이나 변색과 같은 초기 질병 징후를 빠르게 식별할 수 있습니다. 이러한 앱은 인터넷 연결이 제한되거나 불가능할 수 있는 야외 지역에서 자주 사용되므로 클라우드 처리에 의존하는 것은 신뢰할 수 없을 수 있습니다.

학습 후 Ultralytics YOLO11 모델을 MNN 포맷으로 내보내 모바일 장치에서 직접 실행할 수 있습니다. 그런 다음 서버로 데이터를 전송하지 않고도 로컬에서 식물 종을 분류하고 눈에 보이는 병든 증상을 감지할 수 있습니다.

그림 4. 잎에서 식물 질병인 녹병의 징후를 감지하기 위해 YOLO11을 사용하는 예시 (Source).

제조 분야의 효율적인 온디바이스 추론#

manufacturing 시설의 바쁜 생산 라인에서는 정확한 패키지 추적이 필수적입니다. Ultralytics YOLO11을 사용하면 핵심 검사점을 통과할 때 각 항목을 추적 및 카운트하고, 실시간으로 개수를 업데이트하며, 불일치 사항을 플래그할 수 있습니다. 이를 통해 누락되거나 누락된 배송을 줄이고 더욱 원활하고 안정적인 운영을 지원할 수 있습니다.

그림 5. YOLO11을 사용한 패키지 추적 및 카운팅 (Source).

MNN 통합은 이러한 맥락에서 특히 큰 영향을 미칠 수 있습니다. Ultralytics YOLO11 모델이 MNN 포맷으로 내보내지면 컨베이어를 따라 설치된 소형의 저전력 장치에서 직접 실행될 수 있습니다.

모든 처리가 로컬에서 발생하므로 시스템은 즉각적인 피드백을 제공할 수 있으며 인터넷 연결이 필요 없습니다. 이는 공장 현장에서 빠르고 안정적인 성능을 보장하며, 높은 정확도와 제어력을 유지하면서 생산을 효율적으로 지속시킵니다.

Ultralytics YOLO11을 MNN 모델 포맷으로 내보낼 때의 장점#

Ultralytics에서 제공하는 MNN 통합의 주요 이점은 다음과 같습니다:

• 더 빠른 응답 시간: 추론이 디바이스에서 실행되므로 지연 시간이 최소화되어 실시간으로 예측이 가능합니다.
• 향상된 data privacy: 데이터가 기기에 유지되므로 민감한 이미지나 비디오를 클라우드로 전송할 필요성이 줄어듭니다.
• 오픈 소스 및 활발한 유지 관리: Alibaba의 지원과 활발한 커뮤니티의 뒷받침을 받는 MNN은 신뢰할 수 있으며 성능 개선을 위해 정기적으로 업데이트됩니다.

MNN 프레임워크 사용 시 고려해야 할 요소#

MNN을 배포 프레임워크로 선택하기 전에, 프로젝트 요구 사항, 배포 대상 및 기술적 제한 사항에 얼마나 잘 맞는지 평가하는 것도 중요합니다. 고려해야 할 몇 가지 주요 요소는 다음과 같습니다:

• 지속적인 호환성: 프레임워크 업데이트나 대상 플랫폼의 변경 사항이 있을 경우 모든 것이 원활하게 작동하도록 재테스트하거나 조정해야 할 수 있습니다.
• 더 적은 디버깅 도구: 대형 프레임워크와 비교했을 때 MNN은 모델 동작을 디버깅하고 검사하는 도구가 제한적이어서 문제 해결이 더 어려울 수 있습니다.
• 성능은 하드웨어에 따라 다름: 모델의 속도와 효율성은 디바이스에 따라 달라집니다. 대상 하드웨어가 성능 목표를 충족하는지 테스트하십시오.

핵심 요약#

Ultralytics의 MNN 통합 지원을 통해 모바일 및 임베디드 디바이스용 YOLO11 모델을 쉽게 내보낼 수 있습니다. 이는 클라우드 접근이나 지속적인 연결에 의존하지 않고도 빠르고 안정적인 탐지가 필요한 애플리케이션을 위한 실용적인 옵션입니다.

이 설정을 사용하면 성능을 유지하고 리소스 요구 사항을 낮게 유지하면서 배포를 간소화할 수 있습니다. 스마트 홈 시스템, 현장 도구, 소형 산업용 장치 중 무엇을 구축하든 Ultralytics YOLO11을 MNN으로 내보내면 엣지 장치에서 직접 컴퓨터 비전 작업을 실행할 수 있는 유연하고 효율적인 방법을 제공합니다.

성장하는 당사의 community에 참여하세요! GitHub repository를 탐색하여 AI에 대해 더 깊이 알아보세요. computer vision 프로젝트를 시작할 준비가 되셨나요? 당사의 licensing options을 확인해 보세요. 솔루션 페이지에서 AI in healthcare 및 computer vision in retail에 대해 자세히 알아보세요!