Ultralytics YOLO와 DEEPX의 파트너십: Physical AI를 위한 엣지 AI 추론

Ultralytics에서는 AI가 물리적 세계에 더욱 깊이 통합되면서 컴퓨터 비전 모델을 엣지 디바이스에서 직접 실행하려는 움직임이 커지는 것을 확인하고 있습니다. 로보틱스와 산업용 기계부터 스마트 카메라와 자율주행차까지, 더 많은 지능형 시스템이 클라우드에 의존하지 않고 실시간으로 보고 이해하며 행동해야 하는 상황입니다.

이러한 새로운 지능형 시스템의 물결은 물리적 AI라고 불리며, 현실 세계에서 자율적으로 작동할 수 있는 고성능·초저전력 컴퓨팅을 필요로 합니다. 현실 세계의 시스템에는 엣지용으로 설계된 하드웨어에서 로컬로 안정적이고 효율적으로 실행되는 비전 AI가 필요합니다.

Ultralytics YOLO26과 같은 Ultralytics YOLO 모델은 실시간 컴퓨터 비전을 위해 설계됐지만, 엣지에서 잠재력을 최대한 발휘하려면 적절한 소프트웨어와 하드웨어 조합이 필요합니다. 이에 따라 DEEPX와 새로운 파트너십을 맺게 되어 기쁘게 발표합니다.

Ultralytics YOLO 모델을 DEEPX NPU 하드웨어에 효율적이고 고성능으로 배포할 수 있도록 DEEPX와 협력하여 새로운 내보내기 통합 기능을 도입했습니다. 양사는 물리적 AI의 구축, 배포, 확장 방식을 위한 통일된 글로벌 표준을 함께 마련하고 있습니다.

그림 1. DX-M1 M.2 모듈 및 DX-AIPlayer N97 AI Box를 포함하는 온디바이스 AI 추론용 DEEPX 하드웨어 생태계.

물리적 AI의 미래를 향한 공동 비전#

세계에서 가장 널리 채택된 컴퓨터 비전 프레임워크인 Ultralytics는 이러한 시스템의 "눈"을 제공합니다. 가장 효율적인 NPU 제조업체 중 하나인 DEEPX는 대규모로 시스템을 실행하는 "두뇌"를 제공합니다.

Ultralytics와 DEEPX는 접근성, 성능, 개발자 중심 설계를 바탕으로 혁신을 이어가고 있습니다. Ultralytics와 DEEPX 생태계를 결합해 비전 AI를 상용 배포할 수 있는 단일하고 신뢰할 수 있는 경로를 제공합니다. 첫 제품을 출시하는 초기 단계의 로봇 기업부터 수천 개 시설에 비전 AI를 도입하는 Fortune 500 제조업체까지 모두 활용할 수 있습니다.

이는 다음을 의미합니다.

• 시장 출시 기간 단축: 수개월이 아니라 며칠 만에 어노테이션부터 배포까지 완료할 수 있습니다.
• 배포 비용 절감: 전력과 실리콘 비용을 크게 낮추면서 GPU급 성능을 제공하며, 2~4W의 전력 소비로 250+ FPS를 구현합니다.
• 새로운 수익 기회: 이전에는 경제성이 없어 실현 불가능했던 엣지 AI 제품을 개발하고 출시할 수 있습니다.
• 미래를 대비한 확장성: 전용 CI/CD 파이프라인을 통해 모든 신규 Ultralytics 릴리스가 DEEPX 하드웨어에서 별도 설정 없이 작동하도록 보장하며, DEEPX의 다년간 공급 약정이 이를 뒷받침합니다.

DEEPX의 NPU 기술 살펴보기#

DEEPX는 Ultralytics YOLO와 같은 비전 모델에 특화된 효율적인 엣지 AI 하드웨어를 제공하는 AI 반도체 혁신 기업으로, 와트당 초당 프레임 수(FPS/W)에서 업계 최고 수준을 제공합니다. 이론적인 지표를 최적화하는 대신 DEEPX는 실제 환경의 효율성에 집중하여 개발자가 전력 예산을 크게 줄이면서 GPU급 결과를 달성할 수 있도록 합니다.

이를 가능하게 하는 것은 풀스택 설계입니다. DX-M1 NPU는 컴퓨터 비전 모델의 연산 패턴을 가속하도록 특별히 설계됐으며, 패시브 쿨링과 낮은 전력 소비를 갖춰 와트당 성능과 장기적인 안정성이 중요한 대규모 상용 배포에 적합합니다.

엣지 AI가 주류로 자리 잡으면서 중요한 것은 지속 가능한 성능입니다. 엄격한 전력 및 열 제약 안에서 고급 모델을 안정적으로 실행하면서 실제 배포에 필요한 확장성을 유지해야 합니다. 엣지 AI 플랫폼을 평가하는 데 FPS/W가 가장 중요한 지표 중 하나가 된 이유도 여기에 있습니다.

그림 2. DX-M1 NPU에서 YOLO26, YOLO11, YOLOv8을 비교한 파레토 프런트 벤치마크. DX-M1, i5-14600K 호스트(32GB RAM), SDK dx-com v2.3.0, NPU 칩만 사용해 측정했습니다.

시장이 PoC를 넘어 대규모 배포 단계로 접어들면서 고객은 동일한 전력 및 열 예산 안에서 여러 AI 모델을 동시에 실행해야 하는 경우가 늘고 있습니다. 위 차트에서 볼 수 있듯이 YOLO26은 정확도와 효율성의 균형을 일관되게 더 잘 맞춥니다. YOLO26n은 DX-M1에서 약 405 FPS/W를 달성하므로, 개발자는 더 크고 전력 소모가 많은 하드웨어로 전환하지 않고도 고급 AI 워크로드를 실행할 수 있습니다.

Ultralytics YOLO 모델을 DEEPX로 내보내기 시작하기#

Ultralytics Python 패키지와 Ultralytics Platform은 지원되는 모든 컴퓨터 비전 작업에 걸쳐 YOLO 모델을 학습하고 평가하며 배포할 수 있는 완전한 통합 환경을 제공합니다. 코드 작업을 선호하든 마찰 없는 시각적 워크플로를 선호하든, 두 방식 모두 데이터에서 배포까지 일관되고 확장 가능한 경로를 제공합니다.

이번 파트너십을 통해 Ultralytics는 DEEPX와 새로운 내보내기 통합을 도입했습니다. 단일 명령어인 format=deepx로 YOLO 모델을 내보내 DEEPX NPU 하드웨어에 배포할 수 있습니다. 이 통합은 Ultralytics 생태계 전반에서 완벽하게 지원되므로 개발자는 Python 패키지에서 내보내거나 모델에 어노테이션을 적용하고 학습한 후 Ultralytics Platform에서 바로 내보낼 수 있습니다. 내보내는 동안 모델은 컴파일되고 INT8 양자화 과정을 거쳐 최적화된 .dxnn 바이너리로 변환됩니다. EMA 기반 보정은 모델 품질을 유지하면서 NPU 성능을 최대화합니다.

실제로 상용 팀은 단 세 개의 명령만으로 라벨이 지정된 데이터에서 DEEPX NPU에서 실행되는 프로덕션 준비 모델까지 진행할 수 있습니다.

# Step 1: Install Ultralytics
pip install ultralytics

# Step 2: Export your YOLO model to DEEPX format
yolo export model=yolo26n.pt format=deepx

# Step 3: Run inference on DEEPX hardware
yolo detect predict model=yolo26n_deepx_model

런타임 설치와 DEEPX의 dxtron 그래프 뷰어를 사용한 시각화를 포함한 전체 설정 방법은 DEEPX 통합 문서를 확인하세요.

DEEPX NPU에서 Ultralytics YOLO 모델을 실행할 때의 주요 이점#

새로운 통합 기능을 사용해 DEEPX 하드웨어에 Ultralytics YOLO 모델을 배포하면 얻을 수 있는 주요 이점은 다음과 같습니다.

• Ultralytics 워크플로와의 원활한 통합: DEEPX 배포용 YOLO 모델 내보내기는 Ultralytics Python 패키지에 자연스럽게 통합되어 있으며, 단일 format=deepx 명령어로 엣지 배포 프로세스를 표준화합니다.
• 다양한 컴퓨터 비전 작업 지원: YOLOv8, YOLO11, YOLO26에서 객체 탐지, 인스턴스 세그멘테이션, 분류, 포즈 추정, 방향성 바운딩 박스(OBB) 탐지용 모델을 배포할 수 있으며, YOLO26에서는 시맨틱 세그멘테이션과 깊이 추정도 지원합니다.
• 초고효율 엣지 추론: DEEPX NPU는 전력 소모를 크게 낮추면서 GPU급 성능을 제공하며, 패시브 쿨링과 초저전력 소비로 대규모 상용 배포에 적합합니다.
• 미래를 대비한 기반: 전용 CI/CD 파이프라인이 모든 신규 Ultralytics 릴리스와 즉시 호환되도록 보장하며, DX-M1에서 DX-M2로 이어지는 로드맵은 동일한 소프트웨어 스택을 에이전틱 AI 시대까지 확장합니다.
• 물리적 AI 애플리케이션 전반으로 확장 가능: 스마트 감시와 산업 검사부터 로보틱스 및 자율 시스템까지 다양한 실제 활용 사례를 지원합니다.

Ultralytics YOLO와 DEEPX 하드웨어가 영향을 미칠 수 있는 분야#

그렇다면 Ultralytics YOLO 모델을 DEEPX 하드웨어에 배포해 현실 세계에서 활용할 수 있는 대표적인 물리적 AI 애플리케이션에는 어떤 것이 있을까요?

엣지 기반 스마트 감시#

최신 감시 시스템은 개인정보 보호나 연결성을 저해하지 않으면서 실시간 탐지를 수행해야 합니다. DEEPX NPU에서 실행되는 Ultralytics YOLO 모델을 사용하면 보안 카메라와 모니터링 시스템이 클라우드에 의존하지 않고 낮은 전력 소비로 영상 피드를 로컬에서 분석하여 사람, 차량, 이상 활동을 실시간으로 식별할 수 있습니다. 유럽에서 GDPR 집행이 강화되고 지방자치단체 조달에서 데이터 레지던시 요구가 늘어남에 따라, 기기 내 추론은 기술적 이점뿐 아니라 규제 측면의 이점도 제공합니다.

산업 자동화 및 품질 관리#

공장과 제조 시설에서는 품질 관리, 결함 탐지, 공정 모니터링을 자동화하기 위해 비전 AI를 점점 더 많이 사용하고 있습니다. Ultralytics YOLO 모델과 DEEPX 하드웨어를 결합하면 까다로운 산업 환경에서 연중무휴 안정적으로 작동하는 기기 내 검사를 구현하여 폐기물을 줄이고 제품 품질을 높이며 작업자 안전을 보호할 수 있습니다.

로보틱스 및 자율 시스템#

로보틱스에서는 속도와 반응성이 매우 중요합니다. 창고를 이동하거나 역동적인 산업 환경에서 작동하거나 사람과 함께 작업할 때 로봇은 주변 환경을 즉시 해석해야 합니다. DEEPX NPU에서 실행되는 Ultralytics YOLO 모델은 로봇이 장애물을 감지하고 사람을 추적하며 사물을 식별하도록 하여, 지속적인 클라우드 연결 없이도 더 안전한 이동과 높은 자율성을 지원합니다.

핵심 요점#

Ultralytics YOLO 모델과 DEEPX NPU를 사용하면 고성능 피지컬 AI를 엣지에 그 어느 때보다 쉽게 도입할 수 있습니다. 새로운 format=deepx 표준으로 배포를 간소화하고 DEEPX의 에너지 효율적인 하드웨어에 맞춰 모델을 최적화함으로써, 이번 파트너십은 개발과 실제 상용 애플리케이션 사이의 간극을 줄이는 데 기여합니다. 피지컬 AI가 계속 발전함에 따라 이번 협력은 모든 규모의 기업이 프로덕션 수준의 비전 AI를 이용할 수 있고, 비용 부담을 줄이며, 확장할 수 있도록 하는 과정의 한 걸음입니다.

엣지 AI 제품을 더 빠르게 시장에 출시할 준비가 되셨나요?

• 상용 지원과 Enterprise YOLO 모델을 이용하려면 라이선스를 요청하세요.
• 첫 DEEPX 지원 모델에 어노테이션을 적용하고 학습한 뒤 배포하려면 Ultralytics Platform을 사용해 보세요.
• 공동 배포 기회를 살펴보려면 Ultralytics 파트너가 되어 보세요.
• 전체 기술 가이드는 문서를 확인하세요.

로보틱스 분야의 AI와 제조 분야의 AI 같은 혁신이 미래를 어떻게 만들어 가는지 알아보세요.