STMicroelectronics는 MCU에서 추론당 단 9.4 mJ로 Ultralytics YOLO를 실행합니다

산업 전반에서 AI 도입이 증가함에 따라 엣지에서 실시간 추론을 수행할 수 있는 고성능 저전력 솔루션에 대한 수요가 늘고 있습니다. 이러한 기술적 요구에 부응하기 위해 STMicroelectronics는 임베디드 AI 워크로드를 위해 설계된 NPU(Neural Processing Unit)가 통합된 STM32N6 마이크로컨트롤러를 출시했습니다.

STMicroelectronics는 STM32N6에서 Ultralytics YOLO 모델을 구동함으로써 마이크로컨트롤러에서도 정확하고 효율적인 임베디드 Vision AI가 가능함을 입증했으며, 스마트 시티, 헬스케어, 가전제품 등 다양한 분야에서 확장 가능한 온디바이스 인텔리전스의 새로운 기회를 열었습니다.

Link to this section엣지 환경의 저전력 장치를 위한 Vision AI 탐색#

STMicroelectronics는 전 세계 5만 명 이상의 직원과 20만 명 이상의 고객을 보유한 반도체 기술 분야의 글로벌 리더입니다. 이들은 전기 자동차, 산업용 장비부터 스마트 홈 장치 및 가전제품에 이르는 애플리케이션을 지원하는 칩을 설계하고 제조합니다.

더 많은 산업 분야에서 장치를 더 스마트하고 반응성 있게 만들기 위해 AI를 도입함에 따라, STMicroelectronics는 이러한 기능을 엣지로 직접 가져오는 데 주력해 왔습니다. 예를 들어, 강력하고 에너지 효율적인 칩인 STM32N6 마이크로컨트롤러는 computer vision과 같은 온디바이스 AI 작업을 처리할 수 있습니다.

개발자가 STM32N6에서 임베디드 비전 애플리케이션을 구축하도록 돕기 위해, STMicroelectronics는 마이크로컨트롤러에서 효율적으로 실행될 수 있는 유연하고 고성능인 모델을 찾았습니다. Ultralytics YOLO 모델은 속도, 정확도, 통합 용이성의 신뢰할 수 있는 조합을 제공하여 훌륭한 선택임이 입증되었습니다.

Link to this sectionAI 기반 임베디드 시스템 구현의 제약 사항#

Edge AI 개념이 널리 받아들여지기 전에는 컴퓨터 비전 모델이 주로 클라우드 서버나 GPU(Graphics Processing Units)와 같은 대규모 중앙 집중식 시스템에서 실행되도록 개발되었습니다. 이러한 플랫폼은 대규모 모델을 학습하고 배포하는 데 필요한 컴퓨팅 성능을 제공했지만, 높은 에너지 소비, 네트워크 의존성, 지연 시간, 증가하는 운영 비용과 같은 제약 사항을 야기했습니다.

헬스케어, 가전제품, 스마트 시티와 같은 산업에서 더 스마트한 real-time applications을 구현하는 데 관심이 높아짐에 따라, AI 처리를 데이터가 생성되는 장치 자체로 이동시키는 것이 기술적 필요성이자 전략적 기회라는 점이 분명해졌습니다.

그러나 저전력 마이크로컨트롤러에서 AI 모델을 실행하는 것은 어려울 수 있습니다. 이러한 장치는 일반적으로 메모리, 컴퓨팅 성능, 에너지 용량이 제한적이므로 성능이나 정확도를 희생하지 않고 복잡한 비전 모델을 배포하기가 어렵습니다.

STMicroelectronics는 개발자가 모델이나 워크플로우를 크게 간소화할 필요 없이 신뢰할 수 있는 실시간 컴퓨터 비전 기능을 STM32N6 마이크로컨트롤러에 구현할 수 있을 만큼 다재다능한 모델 제품군을 식별해야 했습니다. 그들의 목표는 임베디드 시스템의 엄격한 제약 조건을 준수하면서 의미 있는 온디바이스 AI를 제공하는 것이었습니다.

Link to this section마이크로컨트롤러에서의 효율적인 YOLO 모델 배포#

저전력 임베디드 장치에서 고급 AI를 구현하기 위해 STMicroelectronics는 Neural-ART Accelerator™를 탑재한 고성능 마이크로컨트롤러인 STM32N6를 선보였습니다. 이는 엣지 AI 워크로드를 위해 특별히 제작된 사내 NPU(Neural Processing Unit)입니다. 이 기술을 통해 개발자는 클라우드 컴퓨팅에 대한 의존도를 낮추면서 속도, 반응성 및 에너지 효율성을 향상시켜 장치에서 직접 AI 추론을 실행할 수 있습니다.

STMicroelectronics는 Ultralytics와 협력하여 마이크로컨트롤러에서 Ultralytics YOLO 모델을 구동함으로써 STM32N6의 기능을 평가하고 선보였습니다. 속도와 정확도의 균형으로 잘 알려진 Ultralytics YOLO 모델은 리소스가 제한된 환경과 임베디드 배포에 매우 적합합니다.

Fig 1. STM32N6에서 Ultralytics YOLO 모델을 실행하는 예시.

STMicroelectronics는 다양한 YOLO 모델 변형을 STM32N6에서 직접 실행함으로써 마이크로컨트롤러의 전력 및 메모리 제한 내에서 object detection, 분류, 추적과 같은 다양한 Vision AI 활용 사례를 시연할 수 있었습니다. 이 협업은 개발자에게 확장 가능하고 생산 준비가 완료된 비전 모델을 사용하여 실시간 AI 기반 임베디드 시스템을 배포할 수 있는 신뢰할 수 있는 옵션을 제공합니다.

Link to this section왜 Ultralytics YOLO 모델인가?#

Ultralytics YOLO 모델은 STMicroelectronics에 AI 지원 임베디드 시스템에 필요한 정확성, 효율성 및 다재다능함의 적절한 조합을 제공했습니다. 이 모델들은 STM32N6와 같은 저전력 마이크로컨트롤러에서 실행될 만큼 충분히 가벼우면서도 실시간 객체 탐지 및 인스턴스 분할 성능을 제공할 만큼 강력합니다.

예를 들어, STM32N6에서 256x256 해상도로 Ultralytics YOLOv8n 모델을 실행했을 때, 시스템은 초당 34프레임을 달성했으며 각 추론에 약 29밀리초가 소요되었습니다. 전력 측정 결과 추론당 9.4 millijoules per inference만 사용하여 저전력 장치에서의 실시간 비전 작업에 매우 적합함을 보여주었습니다.

여러 YOLO 모델 변형을 지원하므로 개발자는 애플리케이션의 제약 조건에 따라 속도, 크기 또는 정확도를 미세 조정할 수 있는 유연성을 갖게 됩니다. 통합하기 쉬운 아키텍처와 강력한 커뮤니티 및 문서 지원 덕분에 Ultralytics YOLO는 광범위한 임베디드 사용 사례에서 Vision AI 도입을 가속화하려는 STMicroelectronics의 목표에 자연스럽게 부합했습니다.

Ultralytics Enterprise license를 통해 STMicroelectronics는 고객에게 내부 테스트 및 개발을 위한 전체 YOLO 모델 제품군에 대한 액세스 권한을 제공합니다. 단, 상용 배포의 경우 고객은 라이선스 양식을 통해 Ultralytics에 직접 상용 라이선스를 요청해야 합니다. 이는 규정 준수를 보장하고 생산 준비가 완료된 Vision AI 솔루션으로 가는 확장 가능한 경로를 지원합니다.

Link to this section스마트 시티에서 헬스케어까지: 실현되는 확장 가능한 엣지 AI#

STM32N6 마이크로컨트롤러에서 직접 Ultralytics YOLO 모델을 실행할 수 있게 됨에 따라 STMicroelectronics와 해당 개발자 생태계는 다양한 Vision AI 애플리케이션을 구현할 수 있게 되었습니다. 외부 처리나 클라우드 연결에 의존하지 않고 장치 내에서 빠르고 정확한 추론을 제공함으로써 이 솔루션은 소형 저전력 시스템에 지능형 기능을 배포할 수 있게 합니다.

고객들은 스마트 시티 인프라에서의 실시간 보행자 및 차량 탐지, 산업 자동화에서의 온디바이스 안전 점검 및 품질 관리, 휴대용 헬스케어 도구에서의 AI 보조 진단 등 다양한 분야의 활용 사례를 탐색하고 있습니다. 마찬가지로, 가전제품 분야에서 YOLO 모델은 배터리로 작동하는 장치의 성능 제약 내에서 존재 감지, 제스처 인식 및 object tracking과 같은 반응형 기능을 지원합니다.

Link to this section미래의 Vision AI 솔루션을 오늘 구축하십시오#

AI가 지속적으로 발전함에 따라 STMicroelectronics는 강력하고 효율적인 솔루션을 엣지 장치에 더 쉽게 적용할 수 있도록 하는 데 집중하고 있습니다. Ultralytics와 같은 파트너와 긴밀히 협력함으로써, 개발자들이 즉시 사용 가능한 모델, 도구 및 STM32 호환 리소스를 사용하여 더 빠르게 시작할 수 있도록 돕고 있습니다.

엣지 AI 혁신의 다음 단계를 시작하십시오. GitHub repository를 방문하여 Ultralytics YOLO 모델이 어떻게 임베디드 비전을 혁신하고 있는지 알아보십시오. AI in healthcare 및 computer vision in retail의 응용 분야를 살펴보고 지금 바로 licensing options을 확인하십시오!