Axelera AI는 Voyager SDK에 Ultralytics YOLO 모델을 추가하여 고객이 Metis AI 처리 장치(AIPU)에서 실시간 컴퓨터 비전 솔루션을 별도의 설정 없이 바로 실행할 수 있도록 간소화했습니다.
Axelera AI는 엣지에서 컴퓨터 비전을 실행하기 위한 강력하고 에너지 효율적인 AI 칩을 개발하는 유럽 반도체 기업입니다. 예를 들어, 해당 기업의 Metis AI 처리 장치(AIPU)는 소매, 보안, 제조와 같은 산업에서 사용됩니다.
Axelera는 고객이 AI 애플리케이션을 더 쉽게 구축하고 배포할 수 있도록 Ultralytics YOLO 모델을 Voyager SDK에 통합했습니다. Voyager SDK는 Metis AIPU에서 모델 최적화, 배포, 가속을 간소화하는 소프트웨어 플랫폼으로, 실시간 비전 AI를 더 빠르고 간편하며 확장 가능하게 만듭니다.
비전 AI 하드웨어 가속의 새로운 정의#
2021년에 설립되어 네덜란드에 본사를 둔 Axelera AI는 근본적인 문제를 해결하고자 했습니다. 기존 AI 하드웨어는 엣지가 아니라 클라우드를 위해 구축되었다는 점입니다. 이러한 격차를 해소하기 위해 이 회사는 Metis AIPU를 개발했습니다.
이는 속도, 개인정보 보호, 에너지 효율성이 중요한 디바이스에서 로컬로 실행되는 AI 작업인 엣지 워크로드를 위해 특별히 설계된 고성능 저전력 칩입니다.
이 칩은 독점적인 디지털 인메모리 컴퓨팅(D-IMC) 기술을 기반으로 하며, 데이터를 저장된 위치에서 직접 처리하여 지연 시간과 에너지 사용량을 크게 줄입니다. 완전히 통합된 소프트웨어 스택과 AI의 대중화를 목표로 Axelera는 고성능 AI에 더 쉽게 접근할 수 있도록 하고 있습니다.
엣지 AI 하드웨어에서 모델을 실행하는 과제#
엣지에서 원활한 AI 경험을 제공하기 위해 Axelera AI는 고성능 하드웨어 이상의 것을 제공하고자 했습니다. 고객에게는 복잡한 도구나 시간이 많이 걸리는 커스터마이징 없이 실시간 컴퓨터 비전 솔루션을 실행할 수 있는 간단하고 안정적인 방법도 필요했습니다. 기존 모델 중 상당수는 너무 크거나 느렸으며, 리소스가 제한된 환경에 적합하지 않았습니다.
소매 분석, 공장 자동화, 감시 시스템은 운영을 지원하기 위해 빠르고 정확한 시각적 인사이트에 의존하는 경우가 많습니다. 그러나 기존 모델과 클라우드 기반 솔루션은 일반적으로 이러한 엣지 AI 애플리케이션에 필요한 짧은 지연 시간, 에너지 효율성, 디바이스 내 처리 요구 사항을 충족하지 못합니다.
Axelera는 정확하고 구현이 쉬우며 Metis AI 처리 장치에서 효율적으로 실행할 수 있는 모델 제품군을 찾기 시작했습니다. 적합한 솔루션은 하드웨어 역량을 보완하는 동시에 개발을 간소화하고 광범위한 엣지 AI 사용 사례 전반에서 배포를 가속해야 했습니다.
Ultralytics YOLO를 통한 엣지에서의 AI 추론 가속#
Axelera AI는 엣지 AI 애플리케이션의 구축과 배포를 더 빠르고 간편하며 확장 가능하게 만들기 위해 Ultralytics YOLO 모델을 Voyager SDK에 통합했습니다. 이 SDK에는 바로 사용할 수 있는 YOLO 모델이 포함된 Model Zoo가 있으며, Metis AI 처리 장치에 최적화된 전처리, 추론, 후처리를 포함한 전체 파이프라인을 자동화합니다.
그림 1. Metis AI 처리 장치(AIPU).
이 통합을 통해 고객은 사전 학습된 Ultralytics YOLO 모델을 별도의 설정 없이 바로 사용하거나 자체 모델을 가져와 엣지 하드웨어에서 원활하게 가속할 수 있습니다. 병렬 및 캐스케이드 모델 실행을 지원하는 Metis AIPU는 포즈 추정 후 세그멘테이션을 수행하는 것과 같은 고급 멀티 모델 구성을 지원합니다. 이는 소매, 보안, 산업 자동화의 복잡한 작업에 이상적입니다.
Ultralytics YOLO 모델이 지원하는 실시간 컴퓨터 비전 작업과 Axelera의 효율적인 하드웨어 및 소프트웨어 스택이 결합되어 와트당 및 비용당 뛰어난 성능을 제공합니다. 고객 입장에서는 더 정확한 결과, 더 빠른 배포, 그리고 엣지에서 비전 AI를 확장하는 데 필요한 진입 장벽의 완화를 의미합니다.
Ultralytics YOLO 모델을 선택한 이유#
Axelera AI는 정확도, 속도, 사용 편의성의 뛰어난 균형을 제공하는 Ultralytics YOLO 모델을 플랫폼에 통합하기 위해 Ultralytics와 협력했습니다. 여러 Ultralytics YOLO 변형을 지원하므로 Axelera AI 고객은 Metis AIPU에서 다양한 워크로드와 성능 요구 사항을 평가할 수 있습니다.
Ultralytics Enterprise License를 통해 Axelera는 평가 및 개발에 필요한 전체 YOLO 모델 제품군에 대한 액세스를 제공합니다. 상업적 배포를 위해서는 고객이 라이선스 양식을 통해 Ultralytics로부터 직접 자체 라이선스를 취득해야 하며, 이를 통해 규정을 준수하고 엣지에서 비전 AI의 확장 가능한 혁신을 지원할 수 있습니다.
Axelera AI의 Voyager SDK로 대규모 환경에서 Ultralytics YOLO 모델 활용#
Ultralytics YOLO 모델과 Axelera AI의 Voyager SDK를 사용하면 사용자는 정확하고 지연 시간이 짧은 컴퓨터 비전 애플리케이션을 Metis AI 처리 장치에 직접 배포할 수 있습니다. 또한 여러 YOLO 변형을 사용할 수 있으므로 고객은 애플리케이션의 구체적인 요구 사항에 따라 성능을 조정할 수 있습니다.
예를 들어 Axelera AI는 고객이 다음과 같은 다양한 분야에서 YOLO 기반 솔루션을 테스트하는 것을 확인했습니다.
- 소매: 포즈 추정, 세그멘테이션, 객체 감지를 결합한 멀티 모델 파이프라인을 재고 손실 감소 및 재고 추적과 같은 작업에 활용할 수 있습니다. 이러한 배포는 Metis AIPU와 결합된 Raspberry Pi 5와 같은 임베디드 플랫폼에서 효율적으로 실행됩니다.
- 제조: 고객은 병렬 모델 실행을 사용하여 단일 칩에서 결함 감지, 제품 분류, 포즈 추정과 같은 작업을 동시에 수행함으로써 처리량을 높이고 하드웨어 비용을 줄일 수 있습니다.
- 감시: YOLO의 실시간 객체 감지 기능을 사용하면 4K 및 8K 비디오 스트림을 전체 해상도로 분석하여 중요 환경에서 고정밀 안전 모니터링과 상황 인식을 지원할 수 있습니다. 이는 고해상도 카메라에서 기존 방식으로 다운스케일링하는 것보다 훨씬 나은 솔루션입니다.
- 의료: 최적화된 YOLO 파이프라인은 종양 식별을 지원하여 디바이스 내 의료 영상 처리에서 높은 추론 속도와 안정적인 정확도를 제공합니다.
이러한 사용 사례는 Axelera AI의 엣지 AI 하드웨어와 Ultralytics YOLO 모델이 다양한 산업에서 고성능·에너지 효율적인 비전 AI 혁신을 구현하는 방식을 보여줍니다.
Ultralytics YOLO로 엣지 AI의 다음 물결을 선도하다#
Axelera AI는 고성능 엣지 AI에 대한 접근성을 확대하는 데 지속적으로 집중하면서, 고객이 더 스마트하고 빠른 애플리케이션을 구축할 수 있도록 강력한 하드웨어와 안정적인 비전 모델을 결합하고 있습니다.
Voyager SDK와 Metis AIPU 하드웨어를 통해 Ultralytics YOLO 모델을 사용할 수 있으므로, 사용자는 다양한 산업에서 실시간 컴퓨터 비전 솔루션을 쉽게 개발하고 확장할 수 있습니다. 이 협력은 데이터가 생성되는 곳에 AI를 더 가깝게 구현하여 엣지에서 효율성, 응답성, 혁신을 향상하고자 하는 개발자와 기업으로 구성된 성장하는 커뮤니티를 지원합니다.
엣지 AI 여정을 가속화할 준비가 되셨습니까? GitHub 저장소를 살펴보고 YOLO 모델이 소매 분야의 AI 및 물류 분야의 컴퓨터 비전과 같은 혁신을 어떻게 구현하는지 확인해 보십시오. 비전 AI 도구를 직접 사용해 보고, 라이선스 옵션에 대해 알아보며, 엣지에서 고성능·에너지 효율적인 컴퓨터 비전의 가능성을 활용하는 방법을 확인해 보십시오.
