Axelera AI는 Ultralytics YOLO를 사용하여 34 FPS 에지 AI 추론을 제공합니다
Axelera AI가 어떻게 Ultralytics YOLO를 사용하여 Metis AI 칩에서 빠르고 정확하며 효율적인 에지 비전을 제공하는지 알아보십시오.
Problem
Axelera AI는 자사 하드웨어의 성능을 입증하고 고객이 실시간 AI 애플리케이션을 더 쉽게 구축할 수 있도록 돕기 위해 정확하고 효율적인 비전 모델이 필요했습니다.
Solution
Axelera AI는 Voyager SDK에 Ultralytics YOLO 모델을 추가함으로써, 고객이 Metis AI Processing Units (AIPUs)에서 실시간 컴퓨터 비전 솔루션을 즉시 실행할 수 있도록 했습니다.
Axelera AI는 엣지에서 컴퓨터 비전을 실행하기 위한 강력하고 에너지 효율적인 AI 칩을 제조하는 유럽의 반도체 기업입니다. 예를 들어, 이들의 Metis AI Processing Units (AIPUs)는 소매, 보안, 제조와 같은 산업 분야에서 사용됩니다.
고객이 AI 애플리케이션을 더 쉽게 구축하고 배포할 수 있도록, Axelera는 Ultralytics YOLO 모델을 자사의 Voyager SDK에 통합했습니다. 이 소프트웨어 플랫폼은 Metis AIPU에서의 모델 최적화, 배포 및 가속을 간소화하여 실시간 Vision AI를 더 빠르고 단순하며 확장성 있게 만듭니다.
Link to this sectionVision AI 하드웨어 가속의 재정의#
2021년에 설립되어 네덜란드에 본사를 둔 Axelera AI는 전통적인 AI 하드웨어가 클라우드용으로 구축되었고 엣지용은 아니라는 근본적인 문제를 해결하고자 했습니다. 이러한 격차를 해소하기 위해 회사는 Metis AIPU를 개발했습니다.
이는 엣지 워크로드, 즉 속도, 개인정보 보호 및 에너지 효율성이 중요한 장치에서 로컬로 실행되는 AI 작업을 위해 특별히 설계된 고성능 저전력 칩입니다.
이 칩은 독자적인 Digital In-Memory Compute (D-IMC) 기술로 뒷받침되며, 데이터를 저장된 곳에서 직접 처리할 수 있게 하여 지연 시간과 에너지 소비를 획기적으로 줄입니다. 완전히 통합된 소프트웨어 스택과 AI 대중화라는 사명을 바탕으로 Axelera는 고성능 AI를 더욱 접근하기 쉽게 만들고 있습니다.
Link to this section엣지 AI 하드웨어에서 모델을 실행할 때의 과제#
엣지에서 원활한 AI 경험을 제공하기 위해, Axelera AI는 고성능 하드웨어 이상의 것을 제공하고자 했습니다. 고객들은 복잡한 도구나 시간이 많이 소요되는 사용자 지정 과정 없이 실시간 컴퓨터 비전 솔루션을 실행할 수 있는 단순하고 안정적인 방법을 원했습니다. 기존 모델 중 다수는 너무 크거나, 너무 느리거나, 자원이 제한된 환경에 적합하지 않았습니다.
소매 분석, 공장 자동화 및 감시 시스템은 종종 운영을 지원하기 위해 빠르고 정확한 시각적 통찰력에 의존합니다. 그러나 기존 모델과 클라우드 기반 솔루션은 일반적으로 이러한 엣지 AI 애플리케이션의 낮은 지연 시간, 에너지 효율성 및 온디바이스 처리 요구 사항을 충족할 수 없습니다.
Axelera는 정확하고 구현하기 쉬우며 자사의 Metis AI Processing Units에서 효율적으로 실행될 수 있는 모델 제품군을 찾기 시작했습니다. 올바른 솔루션은 하드웨어 기능을 보완하는 동시에 개발을 단순화하고 광범위한 엣지 AI 사용 사례 전반에 걸쳐 배포 속도를 높일 것입니다.
Link to this sectionUltralytics YOLO로 엣지에서의 AI 추론 가속화#
Axelera AI는 Ultralytics YOLO 모델을 Voyager SDK에 통합하여 엣지 AI 애플리케이션 구축 및 배포를 더 빠르고 쉽게, 그리고 더 확장성 있게 만들었습니다. 이 SDK에는 즉시 사용 가능한 YOLO 모델이 포함된 Model Zoo가 포함되어 있으며, Metis AI Processing Units에 최적화된 전처리, 추론 및 후처리를 포함한 전체 파이프라인을 자동화합니다.
그림 1. Metis AI Processing Unit (AIPU).
이 통합을 통해 고객은 사전 훈련된 Ultralytics YOLO 모델을 즉시 사용하거나 자신만의 모델을 가져와 엣지 하드웨어에서 원활하게 가속할 수 있습니다. 병렬 및 계단식 모델 실행을 지원하는 Metis AIPU는 포즈 추정 후 세그멘테이션과 같은 고급 다중 모델 설정을 가능하게 합니다. 이는 소매, 보안 및 산업 자동화의 복잡한 작업에 이상적입니다.
Ultralytics YOLO 모델이 지원하는 실시간 컴퓨터 비전 작업과 Axelera의 효율적인 하드웨어 및 소프트웨어 스택의 결합은 전력 및 비용 대비 탁월한 성능을 제공합니다. 고객에게 이는 더 정확한 결과, 더 빠른 배포, 그리고 엣지에서 Vision AI를 확장하는 데 필요한 장벽을 낮추는 것을 의미합니다.
Link to this section왜 Ultralytics YOLO 모델인가?#
Axelera AI는 정확성, 속도, 사용 편의성의 탁월한 균형을 위해 Ultralytics와 협력하여 Ultralytics YOLO 모델을 자사 플랫폼에 통합했습니다. 다양한 Ultralytics YOLO 변형을 지원함으로써 Axelera AI 고객은 Metis AIPU에서 광범위한 워크로드와 성능 요구 사항을 평가할 수 있습니다.
Ultralytics Enterprise License를 통해 Axelera는 평가 및 개발을 위한 전체 YOLO 모델 제품군에 대한 액세스를 제공합니다. 상업적 배포를 위해 고객은 라이선스 양식을 통해 Ultralytics로부터 직접 라이선스를 취득해야 하며, 이를 통해 규정 준수를 보장하고 엣지에서 Vision AI의 확장 가능한 혁신을 지원합니다.
Link to this sectionAxelera AI의 Voyager SDK를 통한 Ultralytics YOLO 모델의 대규모 활용#
사용자는 Ultralytics YOLO 모델과 Axelera AI의 Voyager SDK를 사용하여 Metis AI Processing Units에서 직접 정확하고 지연 시간이 짧은 컴퓨터 비전 애플리케이션을 배포할 수 있습니다. 또한 여러 YOLO 변형에 액세스할 수 있으므로 고객은 애플리케이션의 특정 요구 사항에 따라 성능을 조정할 수 있습니다.
예를 들어, Axelera AI는 고객이 다음과 같은 다양한 도메인에서 YOLO 기반 솔루션을 테스트하는 것을 확인했습니다:
- 소매: 포즈 추정, 세그멘테이션 및 객체 탐지를 결합한 다중 모델 파이프라인을 사용하여 재고 손실 감소 및 재고 추적과 같은 작업을 지원할 수 있습니다. 이러한 배포는 Metis AIPU와 결합된 Raspberry Pi 5와 같은 임베디드 플랫폼에서 효율적으로 실행됩니다.
- 제조: 고객은 병렬 모델 실행을 사용하여 단일 칩에서 결함 탐지, 제품 분류 및 포즈 추정과 같은 동시 작업을 수행하여 처리량을 개선하고 하드웨어 비용을 절감할 수 있습니다.
- 감시: YOLO의 실시간 객체 탐지 기능은 4K 및 8K 비디오 스트림을 전체 해상도로 분석하여 중요한 환경에서 높은 정확도의 안전 모니터링 및 상황 인식을 촉진하는 데 사용할 수 있습니다. 이는 고해상도 카메라에서의 기존 축소 방식보다 훨씬 더 나은 솔루션입니다.
- 의료: 최적화된 YOLO 파이프라인은 종양 식별을 지원하여 온디바이스 의료 영상 처리에 높은 추론 속도와 안정적인 정확도를 제공할 수 있습니다.
이러한 사용 사례는 Axelera AI의 엣지 AI 하드웨어와 Ultralytics YOLO 모델이 어떻게 산업 전반에 걸쳐 고성능, 에너지 효율적인 Vision AI 혁신을 강화하는지 보여줍니다.
Link to this sectionUltralytics YOLO로 엣지 AI의 차세대 물결 주도#
Axelera AI는 고성능 엣지 AI에 대한 접근성을 확장하는 데 지속적으로 집중하면서, 강력한 하드웨어와 신뢰할 수 있는 비전 모델을 결합하여 고객이 더 스마트하고 빠른 애플리케이션을 구축하도록 돕고 있습니다.
Voyager SDK 및 Metis AIPU 하드웨어를 통해 사용할 수 있는 Ultralytics YOLO 모델을 활용하면 사용자는 산업 전반에서 실시간 컴퓨터 비전 솔루션을 쉽게 개발하고 확장할 수 있습니다. 이 협력은 데이터가 생성되는 곳에 AI를 더 가깝게 가져와 엣지에서의 효율성, 응답성 및 혁신을 개선하고자 하는 개발자 및 기업 커뮤니티를 지원합니다.
엣지 AI 여정을 가속화할 준비가 되셨습니까? GitHub 리포지토리를 살펴보고 YOLO 모델이 어떻게 소매업의 AI 및 물류 분야의 컴퓨터 비전과 같은 혁신을 주도하고 있는지 확인하십시오. Vision AI 도구를 직접 체험하고, 라이선스 옵션에 대해 알아보고, 엣지에서 고성능, 에너지 효율적인 컴퓨터 비전의 잠재력을 어떻게 활용할 수 있는지 확인해 보십시오.
