Ultralytics YOLO11 모델을 NCNN 모델 형식으로 내보내기

재난 관리, 폐기물 관리, 소방과 같은 고위험 분야에서도 AI 솔루션이 점점 더 일반화되고 있습니다. AI 도입이 계속 확대되면서 AI 모델은 서버나 클라우드뿐만 아니라 현장에서 작동하는 디바이스에 직접 배포되는 등 더욱 다양한 환경에서 사용되고 있습니다.

예를 들어, 소형 프로세서로 구동되는 엣지 컴포넌트가 장착된 드론과 장비는 재난 현장에서 중요한 역할을 할 수 있습니다. 열화상 카메라가 장착된 이러한 디바이스는 현장에서 데이터를 수집하고 분석하여 잔해 아래에 갇힌 사람을 찾을 수 있습니다. 이는 이미지와 동영상의 시각 정보를 해석하는 인공지능의 한 분야인 컴퓨터 비전을 통해 가능합니다.

그러나 엣지 디바이스에 비전 AI 모델을 배포하는 일은 보이는 것만큼 간단하지 않습니다. AI 모델은 컴퓨팅 성능과 메모리가 제한된 하드웨어에서 효율적으로 실행되도록 최적화해야 합니다. 따라서 NCNN과 같은 AI 프레임워크가 필수적입니다. 이러한 프레임워크는 정확도를 유지하면서 저전력 디바이스에서 실시간 성능을 발휘하도록 모델을 변환하고 최적화하는 데 도움을 줍니다.

특히 Ultralytics YOLO11과 같은 Ultralytics YOLO 모델은 Ultralytics에서 지원하는 NCNN 통합을 사용하여 NCNN 모델 형식으로 쉽게 내보낼 수 있습니다. YOLO11을 NCNN 모델 형식으로 변환하면 정확도를 유지하면서 모델을 더 빠르게 실행하고 메모리 사용량을 줄이며 다양한 디바이스에서 원활하게 작동하도록 할 수 있습니다.

이 글에서는 Ultralytics에서 지원하는 NCNN 통합을 살펴보고 YOLO11 모델을 NCNN 모델 형식으로 내보내는 방법을 단계별로 알아봅니다. 시작하겠습니다!

NCNN 개요: 경량 신경망 프레임워크#

NCNN은 Tencent에서 개발한 오픈 소스 신경망 추론 프레임워크입니다. 모바일 및 엣지 환경을 위해 특별히 설계되었으며, 최소한의 리소스만 사용하면서 고성능 추론을 제공합니다. 따라서 스마트폰, 드론, IoT(사물 인터넷) 디바이스와 같이 리소스가 제한된 디바이스에 배포하기에 적합합니다.

NCNN 프레임워크는 효율성, 이식성, 모바일 CPU(중앙 처리 장치)에 대한 최적화 덕분에 AI 및 딥러닝 커뮤니티에서 인기를 얻었습니다. 이를 통해 개발자는 메모리와 처리 성능이 제한된 저렴한 디바이스에서 신경망 모델을 실행할 수 있습니다. 간단하고 유연하게 설계된 NCNN은 다양한 컴퓨터 비전 모델을 지원하며 Android, Linux, iOS, macOS를 비롯한 여러 플랫폼에서 실행됩니다.

그림 1. NCNN 형식의 모델은 다양한 플랫폼에 배포할 수 있습니다.

NCNN 성능 최적화의 주요 기능#

다음은 NCNN을 효과적이고 널리 사용되는 신경망 추론 프레임워크로 만드는 주요 기능입니다.

• 경량 하드웨어 독립적 런타임: NCNN 프레임워크는 표준 CPU에서 모델을 실행하도록 최적화되어 있으며 GPU(그래픽 처리 장치) 또는 NPU(신경망 처리 장치)와 같은 특수 하드웨어가 필요하지 않습니다.
• 모델 양자화: 메모리와 속도가 중요한 애플리케이션을 위해 NCNN은 모델 크기를 줄이고 추론 시간을 개선하는 양자화 방법을 지원합니다. 이를 통해 모바일 및 임베디드 디바이스에서 AI 모델을 원활하게 실행할 수 있습니다.
• 오픈 소스 및 접근성: 오픈 소스 프레임워크인 NCNN은 누구나 자유롭게 사용하고 수정하며 개선할 수 있습니다. 이를 통해 다양한 사용 사례에서 혁신과 폭넓은 도입을 촉진합니다.
• 활발한 개발 및 커뮤니티: NCNN은 Tencent와 성장 중인 개발자 커뮤니티가 GitHub에서 활발하게 유지 관리하고 있으며, 정기적인 업데이트와 모델 호환성 개선이 이루어지고 있습니다.

Ultralytics YOLO11을 NCNN 모델 형식으로 내보내기: 빠른 가이드#

NCNN이 무엇인지 살펴보았으므로 이제 Ultralytics YOLO11 모델을 NCNN 형식으로 내보내는 방법을 자세히 알아보겠습니다.

1단계: Ultralytics Python 패키지 설치#

모델을 내보내기 전에 첫 번째 단계는 패키지 설치 프로그램인 pip를 사용하여 Ultralytics Python 패키지를 설치하는 것입니다. 터미널 또는 명령 프롬프트에서 "pip install ultralytics"를 실행하면 됩니다. Jupyter Notebook 또는 Google Colab에서 작업하는 경우 다음과 같이 명령 앞에 느낌표를 추가합니다: "!pip install ultralytics".

Ultralytics 패키지는 다양한 컴퓨터 비전 작업을 위한 비전 AI 모델의 학습, 테스트, 파인튜닝 및 내보내기 도구를 제공합니다. 설치 또는 모델 내보내기 중 문제가 발생하면 공식 Ultralytics 문서와 일반적인 문제 가이드를 문제 해결에 유용한 리소스로 활용할 수 있습니다.

2단계: Ultralytics YOLO11 내보내기#

Ultralytics 패키지를 설치한 후 YOLO11 모델을 로드하고 NCNN 형식으로 내보낼 수 있습니다. 아래 예제에서는 사전 학습된 모델("yolo11n.pt")을 사용하여 NCNN 형식으로 내보내고, 결과를 "/yolo11n_ncnn_model"이라는 폴더에 저장합니다.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="ncnn")

내보낸 Ultralytics YOLO11 모델은 스마트폰, 임베디드 시스템, IoT 플랫폼과 같은 다양한 경량 디바이스에 배포할 수 있습니다. 배포 과정도 매우 간소화되어 있습니다.

예를 들어, 아래 코드 스니펫은 내보낸 모델을 로드하고 추론을 실행하는 방법을 보여줍니다. 추론은 학습된 모델을 사용하여 새롭고 관측되지 않은 데이터에 대한 예측을 수행하는 프로세스를 의미합니다. 이 예제에서는 공개적으로 이용 가능한 URL에서 가져온 자전거를 타는 남성의 이미지로 모델을 테스트합니다.

ncnn_model = YOLO("./yolo11n_ncnn_model")
results = ncnn_model("https://images.pexels.com/photos/19431209/pexels-photo-19431209/free-photo-of-a-man-riding-a-bike-on-a-road.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2.jpg", save=True)

코드를 실행하면 "runs/detect/predict" 폴더에서 결과 이미지를 확인할 수 있습니다.

그림 2. NCNN 형식으로 내보낸 Ultralytics YOLO11 모델을 사용한 객체 감지. 이미지 작성자 제공.

NCNN을 사용한 실시간 감지를 선택하는 이유#

Ultralytics가 지원하는 다양한 통합을 살펴보면 여러 내보내기 옵션을 사용할 수 있다는 점을 알 수 있습니다. 그렇다면 언제 NCNN 형식을 선택해야 할까요?

NCNN 내보내기 형식은 리소스가 제한된 디바이스에 Ultralytics YOLO11 모델을 배포해야 할 때 신뢰할 수 있는 선택입니다. 클라우드 연결 없이 엣지 디바이스처럼 디바이스에서 직접 실행되는 실시간 애플리케이션에 특히 유용합니다. 따라서 모델이 현장에서 바로 객체 감지와 같은 작업을 처리할 수 있습니다.

다음은 NCNN이 적합한 일반적인 시나리오입니다.

• 모바일 배포: NCNN 형식은 Android와 iOS에 최적화되어 있어 모델을 모바일 앱에 쉽게 통합하고 지연 시간을 최소화하면서 디바이스에서 빠르게 추론할 수 있습니다.

• 임베디드 시스템 및 IoT 디바이스: Raspberry Pi 또는 NVIDIA Jetson과 같은 디바이스에 배포하는 경우 NCNN으로 내보내면 성능과 응답성을 향상할 수 있습니다.

• 데스크톱 및 서버 배포: NCNN은 저전력 디바이스에 적합할 뿐만 아니라 데스크톱 및 서버 환경을 위해 Linux, Windows, macOS도 지원합니다. 따라서 개발자에게 유연한 배포 옵션을 제공합니다.

그림 3. NCNN을 사용한 Ultralytics YOLO11 모델 배포 옵션. 이미지 작성자 제공.

NCNN을 사용한 Ultralytics YOLO11 모델 배포의 사용 사례#

이제 Ultralytics YOLO11 모델을 NCNN으로 내보낼 때 실질적인 차이를 만들어낼 수 있는 몇 가지 사용 사례를 살펴보겠습니다.

소방용 비전 AI 헬멧#

카메라와 임베디드 마이크로컴퓨터가 장착된 안전 헬멧은 건설 및 소방과 같은 분야에서 안전성과 상황 인식을 향상하는 데 사용할 수 있습니다. Ultralytics YOLO11과 같은 실시간 비전 AI 모델을 이러한 디바이스에서 실행하여 다양한 유형의 객체와 장비를 감지할 수 있습니다. 예를 들어 이러한 헬멧은 소방관이 시야가 제한된 환경에서 사람, 장애물 또는 위험 요소를 감지하는 데 도움을 줄 수 있습니다.

그러나 웨어러블 디바이스에서 대형 모델을 직접 실행하면 성능이 저하되고 배터리가 빠르게 소모될 수 있습니다. 이 경우 NCNN 통합을 사용하는 것이 현명한 선택입니다. 이를 통해 낮은 지연 시간과 높은 에너지 효율의 추론이 가능합니다.

폐기물 분류 및 스마트 쓰레기통#

마찬가지로 스마트 쓰레기통에 카메라와 소형 엣지 AI 프로세서를 통합하면 폐기되는 자재를 식별하고 분류할 수 있습니다. YOLO11과 같은 비전 AI 모델을 커스텀 학습하여 종이, 플라스틱, 고무 등 다양한 유형의 폐기물을 감지할 수 있습니다.

폐기물이 식별되면 재사용 가능성에 따라 별도의 칸으로 자동 분류할 수 있습니다. 내보낸 Ultralytics YOLO11 모델을 NCNN 형식으로 변환하여 엣지 AI와 함께 사용하면 이러한 쓰레기통은 인터넷 연결 없이 데이터를 로컬에서 처리할 수 있습니다. 따라서 최소한의 지연으로 자율적으로 작동하고 실시간 분류 결정을 내릴 수 있습니다.

그림 4. YOLO11을 사용한 플라스틱 폐기물 감지.

드론과 컴퓨터 비전을 사용한 소 모니터링#

때때로 외딴 지역의 농업 지대는 안정적인 인터넷 연결이나 지속적인 전력을 이용하기 어려워 AI 애플리케이션을 온라인으로 실행하는 데 제약이 있습니다. 이러한 경우 엣지 디바이스와 드론을 사용하여 다양한 작업을 처리할 수 있습니다.

좋은 예로 소, 양, 가금류와 같은 가축 모니터링을 들 수 있습니다. YOLO11과 같은 비전 AI 모델을 사용하여 동물의 움직임을 추적하고 부상, 질병 또는 비정상적인 행동의 징후를 감지하며 동물이 사라졌을 때 농부에게 알릴 수 있습니다. NCNN 통합을 사용하면 이 데이터를 엣지 디바이스에서 직접 실행하고 처리할 수 있으므로 외딴 지역이나 전력망이 없는 농장의 이미지 및 동영상 분석에 적합합니다.

그림 5. YOLO11을 사용한 가축 모니터링 예시.

핵심 요점#

Ultralytics에서 지원하는 NCNN 통합을 사용하여 YOLO11 모델을 내보내면 저전력 환경에 비전 AI를 도입할 수 있습니다. 재난 현장의 드론, 스마트 폐기물 분류 쓰레기통, 외딴 농장의 가축 모니터링 등 어떤 경우든 YOLO와 NCNN은 빠르고 효율적이며 이식 가능한 실시간 AI 추론을 가능하게 합니다. 이러한 접근 방식은 가장 중요한 순간에 AI 시스템의 접근성과 신뢰성을 높이는 데 도움을 줍니다.

AI에 대해 더 알아보고 싶으신가요? GitHub 저장소를 살펴보고, 커뮤니티에 참여하며, 라이선스 옵션을 확인하여 컴퓨터 비전 프로젝트를 시작해 보세요. 솔루션 페이지에서 소매업의 AI 및 헬스케어의 컴퓨터 비전과 같은 혁신이 미래를 어떻게 만들어 가는지 알아보세요.