Ultralytics YOLO와 DEEPX의 파트너십: Physical AI를 위한 엣지 AI 추론

Ultralytics에서는 AI가 물리적 세계에 더욱 깊이 통합되면서 컴퓨터 비전 모델을 엣지 디바이스에서 직접 실행하려는 움직임이 커지고 있음을 확인하고 있습니다. 로보틱스와 산업용 기계부터 스마트 카메라와 자율주행 차량에 이르기까지, 점점 더 많은 지능형 시스템이 클라우드에 의존하지 않고 실시간으로 보고, 이해하고, 행동하도록 요구받고 있습니다.

이 새로운 지능형 시스템의 물결은 Physical AI라고 불리며, 실제 세계에서 자율적으로 작동할 수 있는 고성능·초저전력 컴퓨팅을 요구합니다. 실제 환경의 시스템에는 엣지용으로 설계된 하드웨어에서 로컬로 안정적이고 효율적으로 실행되는 비전 AI가 필요합니다.

Ultralytics YOLO26과 같은 Ultralytics YOLO 모델은 실시간 컴퓨터 비전을 위해 설계되었지만, 엣지에서 잠재력을 최대한 발휘하려면 소프트웨어와 하드웨어의 적절한 조합이 필요합니다. 이러한 취지에서 DEEPX와의 새로운 파트너십을 발표하게 되어 기쁘게 생각합니다.

Ultralytics YOLO 모델을 DEEPX NPU 하드웨어에 효율적이고 고성능으로 배포할 수 있도록 새로운 export 통합을 도입하기 위해 DEEPX와 파트너십을 체결했습니다. 양사는 Physical AI를 구축하고, 배포하고, 확장하는 방식에 대한 통합된 글로벌 표준을 함께 정립하고 있습니다.

그림 1. DX-M1 M.2 모듈과 DX-AIPlayer N97 AI Box*를 포함한 디바이스 내 AI 추론용 DEEPX 하드웨어 생태계.*

Physical AI의 미래를 위한 공동 비전#

세계에서 가장 널리 채택된 컴퓨터 비전 프레임워크인 Ultralytics는 이러한 시스템의 "눈"을 제공합니다. 가장 효율적인 NPU 제조업체 중 하나인 DEEPX는 이러한 시스템을 대규모로 실행할 수 있는 "두뇌"를 제공합니다.

Ultralytics와 DEEPX는 접근성, 성능, 개발자 우선 설계를 믿고 이를 원동력으로 삼습니다. Ultralytics와 DEEPX의 생태계를 결합함으로써, 첫 제품을 출시하는 초기 단계의 로보틱스 기업부터 수천 개 시설에 비전 AI를 배포하는 Fortune 500 제조업체까지 상업적으로 비전 AI를 배포할 수 있는 단일하고 신뢰할 수 있는 경로를 제공합니다.

이는 다음을 의미합니다.

• 시장 출시 기간 단축: 주석 작업부터 배포까지 수개월이 아니라 수일 만에 완료합니다.
• 배포 비용 절감: 전력과 실리콘 비용의 일부만으로 GPU급 성능을 제공하며, 2~4 W의 전력 소비로 250+ FPS를 구현합니다.
• 새로운 수익 기회: 이전에는 경제성이 없었던 엣지 AI 제품을 구축하고 출시할 수 있습니다.
• 미래를 대비한 확장: 전용 CI/CD 파이프라인을 통해 모든 신규 Ultralytics 릴리스가 DEEPX 하드웨어에서 즉시 작동하도록 보장하며, DEEPX의 다년간 공급 약정이 이를 뒷받침합니다.

DEEPX의 NPU 기술 살펴보기#

DEEPX는 Ultralytics YOLO와 같은 비전 모델을 위해 설계된 효율적인 엣지 AI 하드웨어를 제공하는 AI 반도체 혁신 기업으로, 와트당 초당 프레임 수(FPS/W)에서 업계 최고 수준의 성능을 제공합니다. DEEPX는 이론적 지표를 최적화하는 대신 실제 환경의 효율성에 집중하여, 개발자가 전력 예산의 일부만으로 GPU급 결과를 얻을 수 있도록 합니다.

이를 가능하게 하는 것은 풀스택 설계입니다. DX-M1 NPU는 컴퓨터 비전 모델의 연산 패턴을 가속하도록 특별히 설계되었으며, 수동 냉각과 낮은 전력 소비를 지원합니다. 따라서 와트당 성능과 장기적인 신뢰성이 중요한 프로덕션 규모의 배포에 적합합니다.

엣지 AI가 주류로 채택되면서 중요한 것은 지속 가능한 성능입니다. 즉, 엄격한 전력 및 열 제약 내에서 고급 모델을 안정적으로 실행하는 동시에 실제 배포에 필요한 확장성을 유지해야 합니다. 이러한 이유로 와트당 FPS는 엣지 AI 플랫폼을 평가하는 가장 중요한 지표 중 하나가 되었습니다.

그림 2. DX-M1 NPU에서 YOLO26, YOLO11, YOLOv8의 Pareto 프런트 벤치마크. i5-14600K 호스트(32GB RAM), SDK dx-com v2.3.0, NPU 칩만 사용하여 DX-M1에서 측정했습니다.

시장이 PoC를 넘어 대규모 배포로 이동하면서 고객은 동일한 전력 및 열 예산 내에서 여러 AI 모델을 동시에 실행해야 하는 경우가 늘고 있습니다. 위 차트는 YOLO26이 정확도와 효율성 사이에서 일관되게 더 뛰어난 균형을 제공한다는 것을 보여줍니다. YOLO26n은 DX-M1에서 약 405 FPS/W에 도달하므로, 개발자는 더 크고 전력 소비가 많은 하드웨어로 전환하지 않고도 더욱 고급 AI 워크로드를 실행할 수 있습니다.

DEEPX로 Ultralytics YOLO 모델 export 시작하기#

Ultralytics Python 패키지와 Ultralytics Platform은 5가지 컴퓨터 비전 작업 전반에서 YOLO 모델을 학습, 평가, 배포할 수 있는 완전하고 통합된 환경을 제공합니다. 코드 작업을 선호하든 별도의 마찰이 없는 시각적 워크플로를 선호하든, 두 경로 모두 데이터를 모델로 전환하고 배포하는 일관되고 확장 가능한 방법을 제공합니다.

이번 파트너십을 통해 Ultralytics는 DEEPX와의 새로운 export 통합을 도입했습니다. 이를 통해 단일 명령어인 format=deepx로 YOLO 모델을 export하여 DEEPX NPU 하드웨어에 배포할 수 있습니다. 이 통합은 Ultralytics 생태계 전반에서 완전히 지원되므로, 개발자는 Python 패키지에서 또는 모델에 주석을 지정하고 학습한 후 Ultralytics Platform에서 직접 DEEPX로 export할 수 있습니다. Export 중에 모델은 최적화된 .dxnn 바이너리로 컴파일되고 INT8 양자화되며, EMA 기반 calibration을 통해 모델 품질을 저하시키지 않고 NPU 성능을 극대화합니다.

실제로 이는 상업용 팀이 단 세 개의 명령어만으로 라벨이 지정된 데이터에서 DEEPX NPU에서 실행되는 프로덕션 준비 모델까지 전환할 수 있음을 의미합니다.

# Step 1: Install Ultralytics
pip install ultralytics

# Step 2: Export your YOLO model to DEEPX format
yolo export model=yolo26n.pt format=deepx

# Step 3: Run inference on DEEPX hardware
yolo detect predict model=yolo26n_deepx_model

DEEPX의 dxtron 그래프 뷰어를 사용한 런타임 설치 및 시각화를 포함한 전체 설정 방법은 DEEPX 통합 문서를 참조하시기 바랍니다.

DEEPX NPU에서 Ultralytics YOLO 모델을 실행할 때의 주요 이점#

새로운 통합을 사용하여 DEEPX 하드웨어에 Ultralytics YOLO 모델을 배포할 때의 주요 이점은 다음과 같습니다.

• Ultralytics 워크플로와의 원활한 통합: DEEPX 배포를 위한 YOLO 모델 export는 Ultralytics Python 패키지에 자연스럽게 통합되며, 단일 format=deepx 명령어로 엣지 배포 프로세스를 표준화합니다.
• 다양한 컴퓨터 비전 작업 지원: YOLOv8, YOLO11, YOLO26에서 객체 감지, 세그멘테이션, 포즈 추정, 방향성 바운딩 박스(OBB) 감지, 분류 모델을 배포할 수 있습니다.
• 초고효율 엣지 추론: DEEPX NPU는 전력의 일부만으로 GPU급 성능을 제공하며, 수동 냉각과 초저전력 소비를 지원하여 프로덕션 규모의 배포에 적합합니다.
• 미래를 대비한 기반: 전용 CI/CD 파이프라인은 모든 신규 Ultralytics 릴리스와의 즉시 사용 가능한 호환성을 보장하며, DX-M1에서 DX-M2로 이어지는 로드맵은 동일한 소프트웨어 스택을 Agentic AI 시대로 확장합니다.
• Physical AI 애플리케이션 전반에서 확장 가능: 스마트 감시와 산업 검사를 비롯해 로보틱스 및 자율 시스템에 이르기까지, 이 통합은 광범위한 실제 사용 사례를 지원합니다.

Ultralytics YOLO와 DEEPX 하드웨어가 영향을 미칠 수 있는 분야#

그렇다면 실제 시나리오에서 Ultralytics YOLO 모델을 DEEPX 하드웨어에 배포할 수 있는 일반적인 Physical AI 애플리케이션에는 어떤 것들이 있을까요?

엣지에서의 스마트 감시#

현대의 감시 시스템은 개인정보 보호나 연결성을 저해하지 않으면서 실시간 감지를 수행해야 합니다. DEEPX NPU에서 실행되는 Ultralytics YOLO 모델을 사용하면 보안 카메라와 모니터링 시스템이 비디오 스트림을 로컬에서 분석하여 사람, 차량, 비정상 활동을 실시간으로 식별할 수 있으며, 전력 소비가 낮고 클라우드에 의존하지 않습니다. 유럽에서 GDPR 집행이 강화되고 지방자치단체의 조달 과정에서 데이터 레지던시를 점점 더 의무화함에 따라, 디바이스 내 추론은 기술적 이점뿐 아니라 규제 측면의 이점도 제공합니다.

산업 자동화 및 품질 관리#

공장과 제조 시설에서는 품질 관리, 결함 감지, 공정 모니터링을 자동화하기 위해 비전 AI를 점점 더 많이 사용하고 있습니다. Ultralytics YOLO 모델과 DEEPX 하드웨어를 결합하면 까다로운 산업 환경에서 24시간 안정적으로 실행되는 디바이스 내 검사를 구현할 수 있어, 폐기물을 줄이고 제품 품질을 향상하며 작업자의 안전을 보호하는 데 도움이 됩니다.

로보틱스 및 자율 시스템#

로보틱스에서는 속도와 반응성이 매우 중요합니다. 창고를 탐색하거나 동적인 산업 환경에서 작동하거나 사람과 함께 작업하는 경우에 관계없이, 로봇은 주변 환경을 즉시 해석해야 합니다. DEEPX NPU에서 실행되는 Ultralytics YOLO 모델을 사용하면 로봇이 장애물을 감지하고, 사람을 추적하고, 객체를 실시간으로 식별할 수 있어 지속적인 클라우드 연결 없이도 더 안전한 이동과 높은 자율성을 지원합니다.

핵심 요점#

Ultralytics YOLO 모델과 DEEPX NPU를 사용하면 고성능 Physical AI를 그 어느 때보다 쉽게 엣지로 가져올 수 있습니다. 새로운 format=deepx 표준으로 배포를 간소화하고 DEEPX의 에너지 효율적인 하드웨어에 맞게 모델을 최적화함으로써, 이 파트너십은 개발과 실제 상업용 애플리케이션 사이의 간극을 해소하는 데 기여합니다. Physical AI가 계속 성장하는 가운데, 이 협력은 모든 규모의 기업이 프로덕션급 비전 AI를 접근 가능하고 합리적인 비용으로 확장 가능하게 사용할 수 있도록 하는 중요한 단계입니다.

엣지 AI 제품을 더 빠르게 시장에 출시할 준비가 되셨습니까?

• 상업용 지원 및 Enterprise YOLO 모델에 액세스하려면 라이선스를 요청하세요.
• 첫 번째 DEEPX 지원 모델에 주석을 지정하고, 학습하고, 배포하려면 Ultralytics Platform을 사용해 보세요.
• 공동 배포 기회를 살펴보려면 Ultralytics 파트너가 되어 보세요.
• 전체 기술 가이드는 문서를 참조하세요.

로보틱스 분야의 AI와 제조 분야의 AI와 같은 혁신이 미래를 어떻게 형성하고 있는지 알아보세요.