Arm Create 2026의 Ultralytics: 엣지에서 구현하는 실시간 비전 AI

2026년 9월 11일, 마케팅 어소시에이트 Ziyue Wang과 시니어 머신러닝 엔지니어 Rick Hou가 클라우드, 엣지, 모바일, 물리 AI 전반에서 AI를 구축하고 최적화하며 배포하는 개발자 행사인 Arm Create에 참여했습니다. 저희는 Ultralytics YOLO의 엣지 배포에 초점을 맞춰, 학습된 컴퓨터 비전 모델을 Arm 기반 디바이스에서 실시간으로 실행하는 방법을 다뤘습니다.

선전에서 열린 이번 행사는 앞서 상하이에서 진행된 행사에 이어 개최되었으며, 두 행사 모두 모든 AI 개발자가 언젠가는 마주하는 질문을 살펴봤습니다. 성능이 뛰어난 모델을 실제 환경에서 안정적으로 작동하는 소프트웨어로 어떻게 전환할 수 있을까요?

이번 세션과 모델 패널의 주요 내용을 돌아보고, Arm과 Ultralytics가 Arm 기반 제품을 개발하는 개발자에게 Ultralytics YOLO를 더 쉽게 제공하기 위해 어떻게 협력하는지 살펴보겠습니다.

실시간 엣지 AI를 위한 Ultralytics YOLO 배포#

수석 머신러닝 엔지니어 Rick Hou는 엣지 디바이스에서 Ultralytics YOLO 모델을 최적화하고 배포하는 방법을 실무적으로 다루는 세션 “Ultralytics YOLO 배포: 엣지에서 구현하는 실시간 비전 AI”를 발표했습니다. 발표에서는 전체 배포 경로를 살펴보고, 실제 운영 환경의 엣지 AI 애플리케이션에서 Ultralytics YOLO를 사용하며 얻은 교훈을 공유했습니다.

그림 1. Arm Create에서 Ultralytics YOLO 엣지 배포를 발표하는 Ultralytics의 Rick.

엣지 런타임용 Ultralytics YOLO 모델 내보내기#

엣지 배포의 첫 단계는 학습된 모델을 대상 런타임에서 지원하는 형식으로 내보내는 것입니다. Rick은 적합한 내보내기 형식이 디바이스, 추론 엔진, 애플리케이션의 성능 목표에 따라 달라진다고 설명했습니다.

디바이스 내 추론을 가속하는 모델 양자화#

양자화는 모델의 수치 정밀도를 낮춥니다. 예를 들어 FP32에서 FP16 또는 INT8로 낮추면 모델 크기가 줄고 추론 속도가 빨라지며, 정확도 손실은 대체로 최소화됩니다. 이 세션에서는 연산 성능, 메모리, 전력 예산이 빠듯한 상황에서 속도와 정확도의 균형을 맞추는 방법을 설명했습니다.

엣지 디바이스에서 실시간 컴퓨터 비전 성능 구현#

엣지에서 실시간 컴퓨터 비전을 구현하려면 모델만으로는 충분하지 않습니다. 전처리, 런타임 선택, 하드웨어 가속은 모두 지연 시간과 처리량에 영향을 줍니다. Rick은 병목 지점을 찾고 전체 추론 파이프라인을 최적화하는 방법을 공유했습니다.

프로덕션 엣지 AI 배포에서 얻은 교훈#

벤치마크는 출발점일 뿐이며, 실제 검증은 모델이 탑재될 디바이스에서 실제 운영 조건하에 어떻게 작동하는지 확인하는 것입니다. 실제 대상 하드웨어에서 검증하는 것이 세션의 핵심 교훈이었으며 Arm Create 전반에서 반복적으로 강조된 주제이기도 했습니다.

Arm, Alibaba Qwen, Tencent, ModelBest와 함께한 모델 패널#

Rick은 Arm, Alibaba Qwen, Tencent, ModelBest와 함께 모델 패널 토론에도 참여했습니다. 패널은 모델을 일대일로 비교하는 대신 애플리케이션 적합성에 초점을 맞춰, 워크로드에 필요한 요소와 실행 위치, 배포 후 동작 방식을 논의했습니다.

그림 2. Arm Create에서 Arm, Alibaba Qwen, Tencent, ModelBest, Ultralytics가 함께한 모델 패널.

워크로드에 적합한 모델 선택#

모바일 앱의 빠른 답장 기능, 대규모 문서 모음에 대해 추론하는 클라우드 에이전트, 엣지 비전 파이프라인에는 서로 매우 다른 모델이 필요합니다. 패널에서 비전 AI를 대표한 Rick은 지연 시간, 효율성, 디바이스 내 안정성이 모델 크기보다 중요한 경우가 많은 엣지 관점을 전했습니다.

Arm AI Portal: Arm에서 Ultralytics YOLO를 더 쉽게 이용하기#

Arm Create Shenzhen은 Arm이 Arm AI Portal을 출시한 지 불과 며칠 뒤에 열렸습니다. 이 포털은 개발자와 AI 에이전트가 Arm 컴퓨팅 플랫폼 전반에서 AI 소프트웨어를 검색하고 최적화하며 배포할 수 있도록 돕는 허브입니다. 개발자는 성능 및 정확도 데이터가 포함된 작업별 사전 최적화 모델을 찾고, 지연 시간과 메모리 및 모델 크기를 비교하며, 코드 예제와 배포 워크플로에 액세스할 수 있습니다.

출시 시점에 제공되는 사전 최적화 Ultralytics YOLO 모델#

Ultralytics YOLO는 Alibaba Qwen 및 Google Gemma와 함께 출시 시점에 제공되는 사전 최적화 모델 중 하나이며, Ultralytics는 생태계 파트너로서 포털을 지원합니다.

Arm에서 Ultralytics YOLO26n의 성능 향상#

초기 결과는 고무적입니다. Ultralytics YOLO26n은 두 가지 구성에서 단일 스레드 실행 시 40%가 넘는 성능 향상을 달성했습니다.

• SME2를 탑재한 vivo X300 스마트폰에서의 FP16 대 FP32
• NEON을 사용하는 Raspberry Pi 5에서 FP32와 FP16 및 INT8 혼합 양자화 비교

엣지 AI 개발자에게 의미하는 바#

Arm AI Portal은 개발자가 모델을 검색하고 벤치마킹하며 수동으로 미세 조정하는 데 쓰는 시간을 줄여, 모델 선택부터 Arm 기반 하드웨어에 배포하기까지의 경로를 단축합니다. 이는 최첨단 비전 AI를 누구나 쉽고 편리하게 이용할 수 있도록 하려는 우리의 사명을 뒷받침합니다. Arm AI Portal에서 Ultralytics YOLO 살펴보기.

핵심 요점#

초대해 주신 Arm 팀과 엣지 배포, 양자화, 실제 환경의 비전 AI에 관해 이야기를 나누기 위해 방문해 주신 모든 분께 감사드립니다. 선전에서 나눈 대화를 통해 모델, 도구, 하드웨어가 함께 작동하도록 설계될 때 엣지 AI 생태계가 얼마나 빠르게 성숙하는지 확인할 수 있었습니다.

다음 Arm Create는 미국에서 개최되며, 대화를 계속 이어가기를 기대합니다. 그동안 Ultralytics 문서를 방문해 자체 엣지 디바이스에 Ultralytics YOLO를 배포해 보세요.