TinyML

TinyML을 살펴보고 저전력 마이크로컨트롤러에 Ultralytics YOLO26을 배포하는 방법을 알아봅니다. 양자화와 Ultralytics Platform을 사용하여 IoT용 모델을 최적화하는 방법을 살펴봅니다.

일반적으로 TinyML이라고 하는 초소형 머신러닝은 마이크로컨트롤러 및 소형 IoT 디바이스와 같은 초저전력·리소스 제약 디바이스에 모델을 배포하는 데 중점을 둔 머신러닝의 특화된 하위 분야입니다. 막대한 컴퓨팅 리소스에 의존하는 기존 클라우드 기반 시스템과 달리 TinyML은 엣지에서 완전히 작동합니다. 전력 제약이 있는 디바이스에서 지능형 알고리즘을 흔히 수 밀리와트에 불과한 전력으로 로컬 실행하는 이 접근 방식은 지연 시간을 최소화하고 데이터 개인정보를 보호하며 대역폭 사용량을 크게 줄입니다. 이러한 패러다임은 TinyML Foundation과 같은 커뮤니티를 통해 지원되고 발전하고 있습니다.

복잡한 신경망 아키텍처를 ARM Cortex-M 프로세서와 같이 제약이 큰 하드웨어에 성공적으로 탑재하려면 모델을 엄격하게 최적화해야 합니다. 32비트 부동 소수점 가중치를 8비트 정수로 변환하는 모델 양자화와 같은 기법 및 모델 프루닝을 사용하면 전체 메모리 사용량을 크게 줄일 수 있습니다. 오늘날 Google의 TensorFlow Lite for Microcontrollers 및 PyTorch의 ExecuTorch와 같은 특화 프레임워크는 이러한 정밀한 압축 워크플로를 지원하여 일상적인 임베디드 하드웨어에 고급 시각 및 청각 지능을 구현합니다.

TinyML과 Edge AI 비교#

TinyML은 Edge AI와 밀접한 관련이 있지만, 주요 차이점은 하드웨어 규모와 전력 예산에 있습니다. Edge AI는 AI 모델을 로컬에서 실행하는 모든 방식을 포괄하는 더 광범위한 용어로, Raspberry Pi와 같은 싱글보드 컴퓨터나 NVIDIA Jetson과 같은 고성능 임베디드 GPU를 사용하는 경우가 많습니다. 반면 TinyML은 Arduino 보드나 STMicroelectronics 칩과 같이 수개월 또는 수년 동안 배터리로 작동하는 초소형 임베디드 시스템을 특별히 대상으로 합니다. 이러한 디바이스는 일반적으로 수백 킬로바이트의 RAM만 갖추고 있으므로 강력한 모델 압축이 필수적입니다.

실제 적용 사례#

최소한의 하드웨어에 직접 지능을 배포할 수 있게 되면서 다양한 산업 분야에서 수많은 실용적 사용 사례가 가능해졌습니다.

스마트 제조의 예측 유지보수: 공장에서는 초저전력 진동 및 오디오 센서를 기계에 직접 설치합니다. 이러한 TinyML 센서는 모터 주파수를 지속적으로 분석하여 임박한 고장을 나타내는 미세한 이상을 감지하므로, 유지보수 팀은 비용이 많이 드는 가동 중단이 발생하기 전에 문제를 해결할 수 있습니다.
스마트 정밀 농업: 배터리로 작동하는 TinyML 디바이스를 넓은 작물 재배지 곳곳에 배치하여 지역별 환경 조건을 모니터링하고 기본 카메라 모듈을 사용해 해충 침입이나 질병의 초기 징후를 감지합니다. 또한 대용량 이미지 파일 대신 가벼운 알림만 전송합니다.
야생동물 보호를 위한 오디오 모니터링: 연구자들은 TinyML로 구동되는 숨겨진 음향 센서 어레이를 사용하여 울창한 숲에서 멸종 위기종의 특정 소리나 불법 벌목 활동(예: 전기톱 소리)을 감지합니다. 태양광 또는 배터리로 작동하는 이러한 디바이스는 오디오를 로컬에서 분석하고 장거리 알림을 즉시 트리거합니다.

TinyML용 모델 내보내기#

마이크로컨트롤러용 모델을 준비하려면 엄격한 내보내기 형식을 적용해야 합니다. Ultralytics YOLO26을 사용하면 개발자는 강력한 객체 감지 파이프라인을 구축하고 이를 임베디드 대상에 맞게 압축할 수 있습니다. 로컬로 내보내기 전에 Ultralytics Platform에서 데이터셋과 모델 버전 관리를 원활하게 수행할 수 있습니다. 기본 제공되는 TFLite 통합을 사용하면 마이크로컨트롤러에 필요한 8비트 정수 형식으로 손쉽게 변환할 수 있으며, Apple의 CoreML, Google의 Edge TPU, NVIDIA의 TensorRT와 같은 기타 하드웨어별 모델 배포 옵션도 활용할 수 있습니다.

다음 예제에서는 INT8 양자화를 적용해 특별히 최적화한 경량 Ultralytics YOLO26 모델을 내보내는 방법을 보여 줍니다. 이를 통해 TinyML 호환 엣지 플랫폼에 배포할 수 있습니다.

from ultralytics import YOLO

# Initialize the lightweight YOLO26 Nano model for edge use cases
model = YOLO("yolo26n.pt")

# Export to TFLite format with INT8 quantization and a reduced image size
# This minimizes the memory footprint and accelerates inference on microcontrollers
model.export(format="tflite", int8=True, imgsz=160)