엣지 AI를 위해 Ultralytics YOLO 모델을 Axelera AI 하드웨어에 적용하기

Ultralytics에서는 AI가 더 널리 도입되면서 컴퓨터 비전 모델을 엣지 디바이스에서 직접 실행하려는 움직임이 커지고 있습니다. 온라인과 최근 기술 컨퍼런스 현장에서 컴퓨터 비전 커뮤니티와 나눈 대화를 통해, 데이터가 생성되는 곳에 더 가까운 위치에 비전 AI를 배포하려는 관심이 커지고 있음을 확인했습니다.

스마트 리테일 환경과 산업 자동화부터 로보틱스까지, 실시간 인사이트가 필수 요소로 자리 잡고 있으며 더는 클라우드에만 의존하는 것으로는 충분하지 않습니다.

간단히 말해, 엣지 AI는 처리를 위해 데이터를 중앙 서버로 보내는 대신 디바이스에서 AI 모델을 로컬로 실행하는 것을 의미합니다. 이를 통해 지연 시간을 줄이고 안정성을 높이며 실제 환경의 이벤트에 실시간으로 대응할 수 있습니다.

하지만 이러한 환경에 고성능 모델을 배포하려면 여러 어려움이 따릅니다. 제한된 컴퓨팅 리소스와 전력 제약으로 인해 모델은 효율적이어야 할 뿐 아니라 실행되는 하드웨어에 맞게 최적화되어야 합니다.

Ultralytics YOLO26과 같은 Ultralytics YOLO 모델은 실시간 컴퓨터 비전을 위해 설계되었지만, 엣지에서 잠재력을 최대한 발휘하려면 적절한 소프트웨어와 하드웨어의 조합이 필요합니다. 이러한 이유로 Axelera AI와의 협업을 발표하게 되어 기쁩니다.

Axelera AI와 협력하여 업데이트된 내보내기 통합 기능을 선보입니다. 이를 통해 Metis® AI 처리 장치(AIPUs)에서 Ultralytics YOLO 모델을 효율적이고 고성능으로 배포할 수 있습니다.

그림 1. Metis AI 처리 장치 살펴보기 (출처)

이 글에서는 Ultralytics YOLO 모델을 Metis 배포용으로 손쉽게 컴파일하는 방법을 살펴봅니다. 시작하겠습니다!

엣지 AI는 컴퓨터 비전의 미래입니다#

컴퓨터 비전 애플리케이션이 계속 발전함에 따라 더 빠르고 효율적인 처리의 필요성이 점점 더 중요해지고 있습니다. 기존의 클라우드 기반 접근 방식은 지연 시간을 유발하고 안정적인 연결에 의존하며, 여러 지능형 비전 사용 사례의 실시간 요구 사항을 충족하지 못할 수 있습니다.

엣지 AI는 모델을 로컬 디바이스에서 직접 실행하여 데이터를 데이터 원본에 더 가까운 곳에서 처리할 수 있게 함으로써 이러한 문제를 해결합니다. 예를 들어, 수색 및 구조 작업에 사용되는 비전 기반 드론을 생각해 보세요.

이러한 시스템은 사람, 장애물 또는 위험 요소를 탐지하기 위해 비디오 피드를 실시간으로 분석해야 하며, 인터넷 연결이 제한되거나 전혀 없는 외딴 지역에서 작동하는 경우가 많습니다. 드론에서 컴퓨터 비전 모델을 직접 실행하면 클라우드 인프라에 의존하지 않고도 엣지 AI를 통해 더 빠른 의사 결정과 안정적인 성능을 구현할 수 있습니다.

이러한 변화는 여러 산업에서 새로운 가능성을 열어 주고 있습니다. 리테일의 실시간 객체 탐지, 제조업의 자동화된 품질 검사, 로보틱스의 인식과 같은 애플리케이션은 모두 더 빠른 응답 시간과 향상된 안정성의 이점을 얻습니다.

엣지 AI는 실제 환경에서 확장 가능하고 신속하게 대응하는 컴퓨터 비전 시스템을 배포하는 핵심 기반으로 빠르게 자리 잡고 있습니다.

Axelera AI의 Metis AI 처리 장치 살펴보기#

새로운 내보내기 통합 기능을 자세히 살펴보기 전에 잠시 돌아가 Axelera AI의 Metis AI 처리 장치와 효율적인 엣지 AI 구현에서 해당 장치가 수행하는 역할을 알아보겠습니다.

Axelera AI는 엣지에서 AI 추론을 가속하도록 특별히 설계된 목적별 하드웨어를 개발합니다. 핵심 구성 요소인 Metis AIPU, 즉 AI 처리 장치는 엣지 디바이스에서 신경망을 효율적으로 실행하도록 제작된 특수 프로세서입니다.

범용 중앙 처리 장치(CPUs)나 그래픽 처리 장치(GPUs)와 달리 AIPU는 AI 워크로드의 특정 연산 패턴을 처리하도록 설계되었습니다. 이를 통해 전력 소비를 낮게 유지하면서도 높은 성능을 제공할 수 있습니다. 리소스가 제한적인 경우가 많은 엣지 환경에서는 이러한 특성이 매우 중요합니다.

Axelera AI의 접근 방식이 특히 혁신적인 이유는 풀스택 설계에 있습니다. Metis는 디지털 인메모리 컴퓨팅(D-IMC)과 RISC-V를 기반으로 구축되어, 엣지 컴퓨팅에 필요한 에너지 효율성과 높은 성능을 제공합니다. Metis의 코어 네 개는 각각 독립적으로 프로그래밍할 수 있어 칩 하나에서 모델 네 개를 병렬로 실행할 수 있습니다. 하드웨어 외에도 Voyager SDK에는 배포용 모델 최적화를 함께 수행하는 컴파일러와 런타임이 포함되어 있습니다.

이를 통해 개발자는 학습된 모델에서 프로덕션에 바로 사용할 수 있는 추론 단계까지 더욱 효율적으로 진행할 수 있습니다. 특히 Metis AIPU를 사용하면 엔터프라이즈, 리테일, 헬스케어, 제조 환경은 물론 농업, 산업 장비, 위성에 이르기까지 엣지 디바이스에서 Ultralytics YOLO 모델과 같은 고급 컴퓨터 비전 모델을 직접 실행할 수 있습니다.

Metis 배포용 Ultralytics YOLO 모델 내보내기#

Ultralytics Python 패키지는 다양한 컴퓨터 비전 작업에 걸쳐 YOLO 모델을 학습, 평가, 배포할 수 있는 통합 인터페이스를 제공합니다. YOLO 모델은 일반적으로 실험과 모델 개발에 적합한 PyTorch를 사용해 개발하고 학습합니다.

하지만 이러한 모델을 특수 엣지 하드웨어에 배포하려면 대상 디바이스에 최적화된 형식으로 변환해야 합니다. 이때 Ultralytics Python 패키지에서 지원하는 내보내기 통합 기능을 사용할 수 있습니다.

Ultralytics는 배포 대상에 따라 YOLO 모델을 ONNX, TensorRT 및 기타 하드웨어별 백엔드와 같은 다양한 형식으로 변환할 수 있는 여러 내보내기 옵션을 제공합니다. 이러한 통합 기능은 필요한 최적화와 변환 단계를 처리하여 실제 애플리케이션에 사용할 모델을 준비하는 과정을 간소화합니다.

이를 바탕으로 Ultralytics는 Axelera AI와의 통합 기능을 업데이트하여 YOLO 모델을 Metis AIPU 배포용으로 내보낼 수 있도록 했습니다.

내보내는 동안 모델은 Axelera 하드웨어에 맞게 특별히 설계된 최적화 표현으로 컴파일되고 양자화됩니다. 이 과정에서 배포와 추론에 필요한 메타데이터와 함께 ".axm" 형식의 컴파일된 모델이 생성됩니다.

그림 2. Metis AIPU에서 Ultralytics YOLO 모델을 실행할 수 있습니다. (출처)

이 통합 기능은 Ultralytics YOLOv8, Ultralytics YOLO11, Ultralytics YOLO26 모델에서 객체 탐지, 포즈 추정, 인스턴스 분할, 방향 바운딩 박스(OBB) 탐지, 이미지 분류를 비롯한 다양한 컴퓨터 비전 작업을 지원합니다. 대부분의 작업은 내보내기 워크플로를 통해 바로 지원되며, YOLO26 분할은 Voyager SDK와 함께 모델 동물원을 통해 사용할 수 있습니다.

이러한 지원 확대로 개발자는 실시간 객체 탐지부터 장면 이해, 움직임 추적, 복잡한 시각 데이터 분석에 이르기까지 애플리케이션에 따라 다양한 유형의 비전 모델을 유연하게 배포할 수 있습니다.

내보낸 모델은 추론 시 PyTorch에 의존하지 않고 배포 및 실행할 수 있습니다. 대신 Voyager SDK 런타임으로 실행되며, 이 런타임은 엣지 디바이스에서 직접 비디오 처리, 실시간 탐지, 추적 등의 작업을 위한 엔드투엔드 파이프라인 구축을 지원합니다.

Ultralytics YOLO 모델 내보내기 시작하기#

새로운 내보내기 통합 기능을 살펴보았으니, 이제 Ultralytics YOLO 모델을 이 사용자 지정 형식으로 내보내고 엣지의 Metis 하드웨어에서 실행하는 방법을 알아보겠습니다.

1단계: Ultralytics Python 패키지 설치#

시작하려면 먼저 Ultralytics Python 패키지를 설치해야 합니다. 이 패키지는 YOLO 모델의 학습, 평가, 내보내기를 위한 간단하고 일관된 인터페이스를 제공합니다.

터미널이나 명령 프롬프트에서 다음 명령을 실행하여 pip로 설치할 수 있습니다.

pip install ultralytics

설치 또는 내보내기 중 문제가 발생하면 공식 Ultralytics 문서와 일반적인 문제 가이드를 참고하여 문제를 해결할 수 있습니다.

2단계: Axelera 드라이버와 Voyager SDK 설치#

Axelera 하드웨어에서 모델을 내보내고 실행하려면 Axelera 드라이버와 Voyager SDK도 설치해야 합니다. 이 단계에서는 Metis AIPU와 통신할 수 있도록 설정하고 필요한 런타임 및 컴파일러 도구를 제공합니다.

아래 단계는 Axelera AI Metis 하드웨어에 액세스할 수 있는 Linux 환경에서 수행해야 합니다. 시스템에서 터미널을 열거나, 호환되는 로컬 설정에서 Jupyter Notebook을 실행 중이라면 노트북 셀을 사용하여 아래 명령을 실행하세요.

먼저 다음과 같이 Axelera 저장소 키를 추가합니다.

sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

그런 다음 아래와 같이 Axelera 저장소를 시스템에 추가합니다.

sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

이어서 다음과 같이 Voyager SDK를 설치하고 Metis 드라이버를 로드합니다.

sudo apt update
sudo apt install -y metis-dkms=1.4.16
sudo modprobe metis

이 단계를 완료하면 Axelera AI Metis 디바이스에서 Ultralytics YOLO 모델을 내보내고 실행할 수 있도록 시스템이 준비됩니다.

3단계: Ultralytics YOLO 모델 내보내기#

Ultralytics 패키지를 설치한 뒤 YOLO 모델을 불러와 Metis용 컴파일 패키지로 내보낼 수 있습니다. 이 과정에서는 Axelera AI Metis 하드웨어 배포에 최적화된 형식으로 모델을 변환합니다.

아래 예제에서는 사전 학습된 YOLO26 nano 모델을 사용하여 Metis용으로 내보냅니다. 내보낸 모델은 "/yolo26n_axelera_model"이라는 디렉터리에 저장됩니다.

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="axelera")

4단계: 내보낸 모델로 추론 실행#

모델을 내보낸 후에는 모델을 불러와 보지 않은 이미지나 비디오 스트림에서 추론을 실행할 수 있습니다. 이를 통해 Axelera AI Metis 디바이스에서 직접 실시간 컴퓨터 비전 작업을 수행할 수 있습니다.

예를 들어 아래 코드 조각은 공개 URL에서 내보낸 모델을 불러와 추론을 실행하는 방법을 보여 줍니다.

axelera_model = YOLO("yolo26n_axelera_model")

results = axelera_model("https://ultralytics.com/images/bus.jpg", save=True)

이 경우 모델은 입력 이미지를 분석하고 객체를 탐지한 다음 결과를 "runs/detect/predict" 디렉터리에 저장합니다.

Ultralytics YOLO와 Axelera AI 하드웨어가 효과를 발휘할 수 있는 분야#

이어서 실제 환경에서 Axelera AI 하드웨어에 Ultralytics YOLO 모델을 배포할 수 있는 일반적인 엣지 AI 애플리케이션을 살펴보겠습니다.

Axelera AI의 Metis AIPU는 임베디드 시스템과 산업용 PC부터 로보틱스와 엣지 서버까지 다양한 배포 환경을 지원하도록 설계되었습니다. 고성능·고효율 추론을 통해 여러 산업의 컴퓨터 비전 애플리케이션을 디바이스에서 직접 실행할 수 있습니다. Voyager SDK에는 ML 및 애플리케이션 엔지니어가 엣지용 모델을 제품화할 수 있도록 지원하는 파이프라인 빌더도 포함되어 있습니다.

엣지에서 작동하는 리테일용 스마트 비전 시스템#

리테일 환경에서는 고객 행동을 실시간으로 파악하는 것이 큰 차이를 만들 수 있습니다.

Axelera AI 하드웨어에서 실행되는 Ultralytics YOLO 모델을 사용하면 매장에서 유동 인구를 모니터링하고 방문객 수를 세며 매장 내 이동 패턴을 실시간으로 분석할 수 있습니다. 모든 작업이 디바이스에서 실행되므로 클라우드 연결에 의존하지 않고 즉시 인사이트를 생성할 수 있습니다. 이를 통해 데이터 개인정보를 보호하면서 팀이 더 빠르게 대응할 수 있습니다.

그림 3. Ultralytics YOLO26을 사용한 쇼핑몰 방문객 탐지 및 계수

유틸리티 및 인프라 검사에 엣지 AI 활용#

전력선과 같은 대규모 인프라를 유지 관리하는 일은 복잡하고 많은 리소스를 필요로 합니다. 이러한 네트워크는 광범위한 지역에 걸쳐 있는 경우가 많아 검사가 오래 걸리고 비용이 많이 들며 잠재적으로 위험할 수도 있습니다. 결함이나 초기 마모 징후를 놓치면 정전, 장비 손상 또는 안전 위험으로 이어질 수 있습니다.

검사 효율을 높이기 위해 드론을 사용하는 사례가 늘고 있습니다. 드론은 먼 거리를 이동하고 접근하기 어려운 지역에 도달하며 주요 자산의 고해상도 이미지를 촬영할 수 있습니다.

드론과 엣지 AI를 결합하면 이러한 워크플로의 효율성을 더욱 높일 수 있습니다. Axelera AI 하드웨어에서 실행되는 Ultralytics YOLO 모델은 검사 중 실시간 분석을 수행하여 현장에서 결함을 식별하고 구성 요소를 분류하며 이상을 탐지합니다. 이로써 수동 검토의 필요성이 줄고 더 빠르고 안정적인 인프라 모니터링이 가능해집니다.

그림 4. Ultralytics YOLO26을 사용한 전력선의 여러 부품 탐지

실시간 비전 AI 인사이트로 로보틱스 지원#

로보틱스에서는 속도와 신속한 대응이 중요합니다. 창고를 이동하거나 역동적인 산업 환경에서 작업할 때 로봇은 주변 환경을 즉시 파악해야 합니다.

Axelera AI 하드웨어에서 실행되는 Ultralytics YOLO 모델을 통해 로봇은 장애물 탐지부터 사람 추적과 객체 식별까지 주변 환경을 실시간으로 파악할 수 있습니다. 이를 통해 시스템은 더 안전하게 이동하고 변화하는 상황에 적응하며 지속적인 클라우드 연결에 의존하지 않고도 더 높은 자율성으로 작동할 수 있습니다.

Metis AIPU에서 Ultralytics YOLO 모델을 실행할 때의 주요 이점#

새로운 통합 기능을 사용하여 Axelera AI의 Metis 하드웨어에 Ultralytics YOLO 모델을 배포하면 다음과 같은 주요 이점을 얻을 수 있습니다.

• Ultralytics 워크플로와의 원활한 통합: Metis 배포용 YOLO 모델 내보내기는 Ultralytics Python 패키지에 자연스럽게 통합되어 학습에서 추론으로의 전환을 간소화합니다.
• 다양한 컴퓨터 비전 작업 지원: YOLOv8, YOLO11, YOLO26에서 객체 탐지, 포즈 추정, 분할, 분류 등의 작업을 위한 모델을 배포할 수 있습니다.
• 모델 병렬 실행: Metis AIPU는 독립적으로 프로그래밍할 수 있는 코어 네 개를 갖추고 있어 필요에 따라 서로 다른 모델 네 개를 병렬로 실행할 수 있습니다.
• 다양한 엣지 AI 애플리케이션으로 확장 가능: 리테일 분석과 산업 검사부터 로보틱스와 스마트 인프라까지, 이 통합 기능은 다양한 실제 사용 사례를 지원합니다.

핵심 요점#

Ultralytics YOLO 모델과 Axelera AI의 Metis AIPU를 사용하면 고성능 컴퓨터 비전을 엣지에 더 쉽게 적용할 수 있습니다. 배포를 간소화하고 특수 하드웨어에 맞게 모델을 최적화하여 개발과 실제 애플리케이션 간의 간극을 줄이는 데 이 통합 기능이 도움이 됩니다.

엣지 AI가 계속 성장함에 따라 효율적이고 확장 가능한 배포 옵션은 신속하게 대응하고 안정적으로 작동하는 시스템을 구축하는 데 핵심이 될 것입니다. 이번 협업은 여러 산업에서 고급 비전 AI를 더욱 쉽게 활용할 수 있도록 하는 한 걸음입니다.

AI에 대해 더 자세히 알고 싶으신가요? GitHub 저장소를 살펴보고, 커뮤니티에 참여하고, 라이선스 옵션을 확인하여 컴퓨터 비전 프로젝트를 시작해 보세요. 리테일 분야의 AI와 헬스케어 분야의 컴퓨터 비전 같은 혁신이 미래를 어떻게 바꾸고 있는지도 알아보세요.