엣지 AI를 위한 Axelera AI 하드웨어용 Ultralytics YOLO 모델 도입

Ultralytics는 AI가 널리 채택됨에 따라 컴퓨터 비전 모델을 엣지 디바이스에서 직접 실행하려는 추세가 증가하고 있음을 확인하고 있습니다. 온라인 및 최근 기술 컨퍼런스에서 컴퓨터 비전 커뮤니티와 나눈 대화를 통해, 우리 팀은 데이터가 생성되는 곳과 더 가까운 지점에서 비전 AI를 배포하려는 관심이 높아지고 있음을 보았습니다.

스마트 리테일 환경과 산업 자동화부터 로봇 공학에 이르기까지 실시간 인사이트의 중요성이 커지고 있으며, 더 이상 클라우드에만 의존하는 것으로는 충분하지 않습니다.

간단히 말해, 엣지 AI는 데이터를 처리하기 위해 중앙 서버로 보내는 대신 디바이스에서 AI 모델을 로컬로 실행하는 것을 의미합니다. 이를 통해 지연 시간을 줄이고, 안정성을 향상하며, 실제 환경의 이벤트를 실시간으로 대응할 수 있습니다.

그러나 이러한 환경에 고성능 모델을 배포하는 것에는 고유한 과제가 따릅니다. 제한된 컴퓨팅 자원과 전력 제약 조건으로 인해 모델은 실행되는 하드웨어에 최적화된 효율성을 갖추어야 하기 때문입니다.

Ultralytics YOLO26과 같은 Ultralytics YOLO 모델은 실시간 컴퓨터 비전을 위해 설계되었지만, 엣지에서 그 잠재력을 완전히 발휘하려면 소프트웨어와 하드웨어의 적절한 조합이 필요합니다. 이것이 바로 저희가 Axelera AI와의 협업을 발표하게 된 이유입니다.

저희는 Axelera AI와 파트너십을 맺고 업데이트된 내보내기 통합 기능을 도입하여, Metis® AI Processing Units (AIPUs)에서 Ultralytics YOLO 모델을 효율적이고 고성능으로 배포할 수 있도록 지원합니다.

그림 1. Metis AI Processing Unit 살펴보기 (소스)

본 게시물에서는 Ultralytics YOLO 모델을 Metis 배포용으로 쉽게 컴파일하는 방법을 살펴보겠습니다. 시작해 보겠습니다!

Link to this section엣지 AI는 컴퓨터 비전의 미래입니다#

컴퓨터 비전 애플리케이션이 계속 발전함에 따라, 더 빠르고 효율적인 처리에 대한 필요성이 점점 더 중요해지고 있습니다. 전통적인 클라우드 기반 방식은 지연 시간을 유발할 수 있고, 안정적인 연결에 의존하며, 많은 지능형 비전 사용 사례의 실시간 요구 사항을 충족하지 못할 수 있습니다.

엣지 AI는 모델을 로컬 디바이스에서 직접 실행하여 데이터가 소스 근처에서 처리되도록 함으로써 이러한 문제를 해결합니다. 예를 들어, 수색 및 구조 작업에 사용되는 비전 탑재 드론을 고려해 보십시오.

이러한 시스템은 인터넷 연결이 제한적이거나 없는 원격 지역에서 사람, 장애물 또는 위험 요소를 감지하기 위해 실시간으로 비디오 피드를 분석해야 합니다. 드론에서 직접 컴퓨터 비전 모델을 실행함으로써, 엣지 AI는 클라우드 인프라에 의존하지 않고도 더 빠른 의사 결정과 더 안정적인 성능을 가능하게 합니다.

이러한 변화는 산업 전반에 걸쳐 새로운 가능성을 열어주고 있습니다. 소매업의 실시간 객체 감지, 제조 분야의 자동화된 품질 검사, 로봇 공학의 인식과 같은 애플리케이션들은 모두 더 빠른 응답 시간과 더 높은 안정성의 혜택을 누리고 있습니다.

엣지 AI는 실제 환경에서 확장 가능하고 반응성이 뛰어난 컴퓨터 비전 시스템을 배포하기 위한 핵심 요소로 빠르게 자리 잡고 있습니다.

Link to this sectionAxelera AI의 Metis AI Processing Unit 탐색#

새로운 내보내기 통합 기능을 살펴보기 전에, 한 걸음 물러나 Axelera AI의 Metis AI Processing Unit에 대해 더 알아보고, 이들이 효율적인 엣지 AI를 구현하는 데 어떤 역할을 하는지 알아보겠습니다.

Axelera AI는 엣지에서 AI 추론을 가속화하기 위해 특별히 설계된 맞춤형 하드웨어를 개발합니다. 그 핵심은 엣지 디바이스에서 신경망을 효율적으로 실행하기 위해 구축된 전문 프로세서인 Metis AIPU(AI Processing Unit)입니다.

범용 중앙 처리 장치(CPU)나 심지어 그래픽 처리 장치(GPU)와 달리, AIPU는 AI 워크로드의 특정 계산 패턴을 처리하도록 설계되었습니다. 이를 통해 자원이 종종 제한적인 엣지 환경에 필수적인 낮은 전력 소비를 유지하면서도 높은 성능을 제공할 수 있습니다.

Axelera AI의 접근 방식이 특히 혁신적인 이유는 풀스택 디자인에 있습니다. Metis는 엣지 컴퓨팅에 필요한 에너지 효율성을 갖춘 고성능을 위해 D-IMC(Digital In-Memory Compute)와 RISC-V를 기반으로 구축되었습니다. Metis의 4개 코어는 독립적으로 프로그래밍할 수 있으므로, 칩 하나당 4개의 모델을 병렬로 실행할 수 있습니다. 하드웨어 외에도 Voyager SDK에는 모델을 배포용으로 최적화하기 위해 함께 작동하는 컴파일러와 런타임이 포함되어 있습니다.

이를 통해 개발자는 학습된 모델에서 프로덕션 단계의 추론 단계로 더 효율적으로 전환할 수 있습니다. 구체적으로, Metis AIPU는 기업, 소매, 의료 및 제조 환경부터 농업 및 산업 장비, 위성에 이르기까지 엣지 디바이스에서 Ultralytics YOLO 모델과 같은 고급 컴퓨터 비전 모델을 직접 실행할 수 있게 합니다.

Link to this sectionMetis 배포를 위한 Ultralytics YOLO 모델 내보내기#

[Ultralytics Python 패키지는 다양한 컴퓨터 비전 작업에서 YOLO 모델을 학습, 평가 및 배포하기 위한 통합 인터페이스를 제공합니다. YOLO 모델은 일반적으로 실험 및 모델 개발에 적합한 PyTorch를 사용하여 개발 및 학습됩니다.

그러나 이러한 모델을 특수 엣지 하드웨어에 배포할 때는 대상 디바이스에 최적화된 형식으로 변환해야 합니다. 이것이 바로 Ultralytics Python 패키지에서 지원하는 내보내기 통합이 필요한 이유입니다.

Ultralytics는 YOLO 모델을 ONNX, TensorRT 및 기타 하드웨어 특정 백엔드와 같은 배포 대상에 따라 다양한 형식으로 변환할 수 있는 다양한 내보내기 옵션을 제공합니다. 이러한 통합은 필요한 최적화 및 변환 단계를 처리하여 실제 애플리케이션을 위한 모델 준비 과정을 단순화합니다.

이를 기반으로 Ultralytics는 Axelera AI와의 통합을 업데이트하여, YOLO 모델을 Metis AIPU에 배포할 수 있도록 내보내는 기능을 도입했습니다.

내보내는 동안 모델은 Axelera 하드웨어용으로 특별히 설계된 최적화된 표현으로 컴파일되고 양자화됩니다. 이 과정에서 배포 및 추론에 필요한 메타데이터와 함께 ".axm" 형식의 컴파일된 모델이 생성됩니다.

그림 2. Ultralytics YOLO 모델은 Metis AIPU에서 실행할 수 있습니다. (소스)

이 통합은 Ultralytics YOLOv8, Ultralytics YOLO11 및 Ultralytics YOLO26 모델 전반에 걸쳐 객체 탐지, 자세 추정, 인스턴스 세그멘테이션, 회전된 경계 상자(OBB) 탐지 및 이미지 분류를 포함한 광범위한 컴퓨터 비전 작업을 지원합니다. 대부분의 작업은 내보내기 워크플로우를 통해 직접 지원되지만, YOLO26 세그멘테이션은 Voyager SDK와 함께 model zoo를 통해 사용할 수 있습니다.

이러한 확장된 지원을 통해 개발자는 실시간으로 객체를 감지하는 것부터 장면을 이해하고, 움직임을 추적하며, 복잡한 시각 데이터를 분석하는 것에 이르기까지 애플리케이션에 따라 다양한 유형의 비전 모델을 배포할 수 있는 유연성을 갖게 됩니다.

일단 내보내기가 완료되면 모델을 배포하고 추론 시 PyTorch에 의존하지 않고 실행할 수 있습니다. 대신 Voyager SDK 런타임을 사용하여 실행되며, 이 런타임은 비디오 처리, 실시간 감지 및 추적과 같은 작업을 위한 엔드투엔드 파이프라인을 엣지 디바이스에서 직접 구축하는 것을 지원합니다.

Link to this sectionUltralytics YOLO 모델 내보내기 시작하기#

새로운 내보내기 통합 기능에 대해 더 잘 이해했으니, 이제 Ultralytics YOLO 모델을 이 커스텀 형식으로 내보내고 엣지 환경의 Metis 하드웨어에서 실행하는 방법을 살펴보겠습니다.

Link to this section1단계: Ultralytics Python 패키지 설치#

시작하려면 먼저 Ultralytics Python 패키지를 설치해야 합니다. 이는 YOLO 모델을 학습, 평가 및 내보내기 위한 간단하고 일관된 인터페이스를 제공합니다.

터미널이나 명령 프롬프트에서 다음 명령어를 실행하여 pip를 통해 설치할 수 있습니다:

pip install ultralytics

설치나 내보내기 중에 문제가 발생하면 공식 Ultralytics 문서 및 일반 문제 가이드가 문제 해결을 위한 훌륭한 리소스가 될 것입니다.

Link to this section2단계: Axelera 드라이버 및 Voyager SDK 설치#

Axelera 하드웨어에서 모델을 내보내고 실행하려면 Axelera 드라이버와 Voyager SDK도 설치해야 합니다. 이 단계를 통해 Metis AIPU와의 통신이 가능해지며 필요한 런타임 및 컴파일러 도구가 제공됩니다.

아래 단계는 Axelera AI Metis 하드웨어에 액세스할 수 있는 Linux 환경에서 수행해야 합니다. 시스템에서 터미널을 열거나 호환되는 로컬 설정에서 Jupyter Notebook을 실행 중인 경우 노트북 셀을 사용하고 아래 명령을 실행하십시오.

먼저 Axelera 저장소 키를 다음과 같이 추가하여 시작하십시오:

sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

다음으로, 아래와 같이 Axelera 저장소를 시스템에 추가하십시오:

sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

그런 다음 Voyager SDK를 설치하고 Metis 드라이버를 다음과 같이 로드하십시오:

sudo apt update
sudo apt install -y metis-dkms=1.4.16
sudo modprobe metis

이 단계들이 완료되면 시스템이 Axelera AI Metis 디바이스에서 Ultralytics YOLO 모델을 내보내고 실행할 준비가 됩니다.

Link to this section3단계: Ultralytics YOLO 모델 내보내기#

Ultralytics 패키지가 설치되면 YOLO 모델을 로드하고 Metis용 컴파일된 패키지로 내보낼 수 있습니다. 이 과정에서 모델이 Axelera AI Metis 하드웨어에 배포하기에 최적화된 형식으로 변환됩니다.

아래 예시에서는 사전 학습된 YOLO26 나노 모델을 사용하여 Metis용으로 내보냅니다. 내보낸 모델은 "/yolo26n_axelera_model"이라는 디렉토리에 저장됩니다.

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="axelera")

Link to this section4단계: 내보낸 모델로 추론 실행#

모델을 내보낸 후, 이를 로드하여 새로운 이미지나 비디오 스트림에서 추론을 실행할 수 있습니다. 이를 통해 Axelera AI Metis 디바이스에서 직접 실시간 컴퓨터 비전 작업을 수행할 수 있습니다.

예를 들어, 아래 코드 스니펫은 내보낸 모델을 로드하고 공개 URL에서 추론을 실행하는 방법을 보여줍니다.

axelera_model = YOLO("yolo26n_axelera_model")

results = axelera_model("https://ultralytics.com/images/bus.jpg", save=True)

이 경우 모델은 입력 이미지를 분석하고 객체를 감지하며 결과를 "runs/detect/predict" 디렉토리에 저장합니다.

Link to this sectionUltralytics YOLO 및 Axelera AI 하드웨어가 영향을 미칠 수 있는 분야#

다음으로, 실제 시나리오에서 Ultralytics YOLO 모델을 Axelera AI 하드웨어에 배포할 수 있는 몇 가지 일반적인 엣지 AI 애플리케이션에 대해 논의하겠습니다.

Axelera AI의 Metis AIPU는 임베디드 시스템 및 산업용 PC부터 로봇 공학 및 엣지 서버에 이르는 다양한 배포 환경을 위해 설계되었습니다. 고성능의 에너지 효율적인 추론을 통해 컴퓨터 비전 애플리케이션이 산업 전반에서 디바이스 내부에서 직접 실행될 수 있도록 합니다. Voyager SDK에는 또한 ML 및 APP 엔지니어가 엣지용 모델을 제품화할 수 있는 파이프라인 빌더가 포함되어 있습니다.

Link to this section엣지에서 작동하는 스마트 리테일 비전 시스템#

소매 환경에서는 고객 행동을 실시간으로 파악하는 것이 큰 차이를 만들 수 있습니다.

Axelera AI 하드웨어에서 실행되는 Ultralytics YOLO 모델을 사용하면 매장에서 유동 인구를 모니터링하고, 사람 수를 세며, 매장 내 이동 패턴을 실시간으로 분석할 수 있습니다. 모든 것이 디바이스 내에서 실행되므로 클라우드 연결에 의존하지 않고도 즉시 인사이트를 생성할 수 있어, 데이터 프라이버시를 유지하면서 팀이 더 빠르게 대응하도록 돕습니다.

그림 3. YOLO26을 사용하여 쇼핑몰에서 사람 감지 및 카운팅

Link to this section유틸리티 및 인프라 검사를 위한 엣지 AI 활용#

전력선과 같은 대규모 인프라를 유지 관리하는 것은 복잡하고 자원이 많이 소요됩니다. 이러한 네트워크는 종종 광범위한 거리에 걸쳐 있어 검사에 시간이 많이 걸리고 비용이 많이 들며 위험할 수 있습니다. 결함이나 초기 마모 징후가 감지되지 않으면 정전, 장비 손상 또는 안전 위험으로 확대될 수 있습니다.

드론은 검사 효율성을 향상하기 위해 점점 더 많이 사용되고 있습니다. 드론은 먼 거리를 이동하고 접근하기 어려운 지역에 도달하며 중요 자산의 고해상도 이미지를 캡처할 수 있습니다.

드론과 엣지 AI를 결합하면 이러한 워크플로우가 더욱 향상됩니다. Axelera AI 하드웨어에서 실행되는 Ultralytics YOLO 모델은 검사 중 실시간 분석을 가능하게 하여 현장에서 결함을 식별하고 구성 요소를 분류하며 이상 징후를 감지합니다. 이는 수동 검토의 필요성을 줄이고 더 빠르고 안정적인 인프라 모니터링을 지원합니다.

그림 4. YOLO26으로 전력선의 다양한 부품 감지

Link to this section실시간 비전 AI 인사이트로 로봇 공학 구동#

로봇 공학의 경우 속도와 응답성이 매우 중요합니다. 창고를 탐색하든 역동적인 산업 환경에서 작동하든, 로봇은 주변 환경을 즉시 해석해야 합니다.

Axelera AI 하드웨어에서 실행되는 Ultralytics YOLO 모델은 로봇이 장애물 감지부터 사람 추적, 객체 식별에 이르기까지 주변 환경을 실시간으로 해석할 수 있게 합니다. 이를 통해 시스템은 지속적인 클라우드 연결에 의존하지 않고도 더 안전하게 이동하고, 역동적인 조건에 적응하며, 더 큰 자율성을 가지고 작동할 수 있습니다.

Link to this sectionMetis AIPU에서 Ultralytics YOLO 모델을 실행하는 주요 이점#

새로운 통합 기능을 사용하여 Axelera AI의 Metis 하드웨어에 Ultralytics YOLO 모델을 배포할 때 얻을 수 있는 주요 이점은 다음과 같습니다:

• Ultralytics 워크플로우와의 원활한 통합: Metis 배포를 위해 YOLO 모델을 내보내는 과정은 Ultralytics Python 패키지에 자연스럽게 통합되어 학습에서 추론으로의 전환을 단순화합니다.
• 다양한 컴퓨터 비전 작업 지원: YOLOv8, YOLO11, YOLO26 전반에서 객체 감지, 포즈 추정, 세그멘테이션, 분류 등을 위한 모델을 배포할 수 있습니다.
• 모델 병렬 실행: Metis AIPU는 필요에 따라 4개의 개별 모델을 병렬로 실행할 수 있는 독립적으로 프로그래밍 가능한 4개의 코어로 설계되었습니다.
• 엣지 AI 애플리케이션 전반에 걸친 확장성: 리테일 분석 및 산업 검사부터 로봇 공학 및 스마트 인프라에 이르기까지, 이 통합은 광범위한 실제 사용 사례를 지원합니다.

Link to this section핵심 요약#

Ultralytics YOLO 모델과 Axelera AI의 Metis AIPU는 고성능 컴퓨터 비전을 엣지로 쉽게 도입할 수 있도록 합니다. 배포를 단순화하고 특수 하드웨어에 맞게 모델을 최적화함으로써, 이 통합은 개발과 실제 애플리케이션 사이의 간극을 줄이는 데 도움을 줍니다.

엣지 AI가 계속 성장함에 따라 효율적이고 확장 가능한 배포 옵션을 갖추는 것이 반응성이 뛰어나고 안정적인 시스템을 구축하는 핵심이 될 것입니다. 이번 협업은 고급 비전 AI를 다양한 산업 분야에서 더 쉽게 접근할 수 있도록 만드는 단계입니다.

AI에 대해 더 알고 싶으신가요? 저희 GitHub 저장소를 탐색하고, 커뮤니티와 소통하며, 라이선스 옵션을 확인하여 컴퓨터 비전 프로젝트를 시작해 보십시오. 리테일 AI 및 의료 컴퓨터 비전과 같은 혁신이 어떻게 미래를 만들어 가고 있는지 알아보십시오.