Ultralytics YOLO와 DEEPX의 파트너십: 물리적 AI를 위한 엣지 AI 추론

Ultralytics에서는 AI가 물리적 세계에 더욱 깊이 통합됨에 따라, computer vision models을 엣지 디바이스에서 직접 실행하는 방향으로의 전환이 가속화되고 있는 것을 확인하고 있습니다. 로봇 공학 및 산업용 기계부터 스마트 카메라와 자율주행 차량에 이르기까지, 점점 더 많은 지능형 시스템이 클라우드에 의존하지 않고 실시간으로 보고, 이해하고, 행동할 것을 요구받고 있습니다.

이러한 새로운 지능형 시스템의 물결을 Physical AI라고 부르며, 이는 실제 환경에서 자율적으로 작동할 수 있는 고성능, 초고효율 컴퓨팅을 요구합니다. 실제 환경에서 운용되는 시스템에는 엣지를 위해 특별히 설계된 하드웨어에서 로컬로 안정적이고 효율적으로 실행되는 비전 AI가 필요합니다.

Ultralytics YOLO26과 같은 Ultralytics YOLO 모델은 실시간 컴퓨터 비전을 위해 설계되었지만, 엣지에서 그 잠재력을 온전히 발휘하려면 소프트웨어와 하드웨어의 올바른 조합이 필요합니다. 이러한 취지에서 당사는 DEEPX와의 새로운 파트너십을 발표하게 되어 기쁘게 생각합니다.

우리는 DEEPX와 파트너십을 맺고 새로운 내보내기(export) 통합 기능을 도입하여 DEEPX NPU 하드웨어에서 Ultralytics YOLO 모델을 효율적이고 고성능으로 배포할 수 있도록 했습니다. 우리는 함께 Physical AI가 구축, 배포 및 확장되는 방식에 대한 통합된 글로벌 표준을 설정하고 있습니다.

그림 1. DX-M1 M.2 모듈과 DX-AIPlayer N97 AI Box를 특징으로 하는 온디바이스 AI 추론용 DEEPX 하드웨어 에코시스템**

Physical AI의 미래를 위한 공유된 비전#

세계에서 가장 널리 채택된 컴퓨터 비전 프레임워크인 Ultralytics는 이러한 시스템의 "눈"을 제공합니다. 가장 효율적인 NPU 제조사 중 하나인 DEEPX는 이를 대규모로 실행할 수 있는 "두뇌"를 제공합니다.

Ultralytics와 DEEPX는 접근성, 성능, 개발자 우선 설계가 중요하다고 믿으며 이를 원동력으로 삼고 있습니다. Ultralytics와 DEEPX 생태계를 결합함으로써, 첫 제품을 출시하는 초기 단계의 로봇 기업이든 수천 개의 시설에 비전 AI를 도입하는 포춘 500대 제조 기업이든 상관없이 상업적으로 비전 AI를 배포할 수 있는 단일하고 신뢰할 수 있는 경로를 제공합니다.

이는 다음을 의미합니다:

• 더 빠른 시장 출시: 몇 달이 아닌 며칠 만에 어노테이션에서 배포까지 완료할 수 있습니다.
• 더 낮은 배포 비용: 적은 전력과 실리콘 비용으로 GPU급 성능을 구현하여 2-4W의 전력 소비로 250+ FPS를 제공합니다.
• 새로운 수익 창출 기회: 이전에는 경제적으로 실행 불가능했던 엣지 AI 제품을 구축하고 배포할 수 있습니다.
• 미래를 대비한 확장성: 전용 CI/CD 파이프라인을 통해 모든 새로운 Ultralytics 릴리스가 DEEPX 하드웨어와 즉시 호환되도록 보장하며, 이는 DEEPX의 다년간 공급 약속을 통해 뒷받침됩니다.

DEEPX의 NPU 기술 살펴보기#

DEEPX는 Ultralytics YOLO와 같은 비전 모델을 위해 업계 최고 수준의 전력 대비 프레임 속도(FPS/W)를 제공하는 효율적인 에지 AI 하드웨어를 설계하는 AI 반도체 혁신 기업입니다. DEEPX는 이론적 지표를 최적화하기보다 실제 환경에서의 효율성에 집중하여, 개발자가 GPU 수준의 결과를 훨씬 적은 전력으로 달성할 수 있도록 지원합니다.

이러한 성능을 구현하는 핵심은 풀스택 설계에 있습니다. DX-M1 NPU는 컴퓨터 비전 모델의 연산 패턴을 가속화하도록 특별히 설계되었으며, 전력 대비 성능과 장기적인 신뢰성이 중요한 실제 생산 단계의 배포 환경에 적합한 패시브 쿨링과 낮은 전력 소비를 제공합니다.

에지 AI가 주류로 자리 잡음에 따라 핵심 요소는 지속 가능한 성능입니다. 즉, 엄격한 전력 및 발열 제한 내에서 고급 모델을 안정적으로 실행하면서 실제 배포 환경에서도 확장성을 유지하는 것입니다. 이것이 바로 FPS/W가 에지 AI 플랫폼을 평가하는 가장 중요한 지표 중 하나가 된 이유입니다.

그림 2. DX-M1 NPU에서의 YOLO26, YOLO11, YOLOv8 파레토 프런트 벤치마크. i5-14600K 호스트(32GB RAM), SDK dx-com v2.3.0, NPU 칩 단독 환경에서 측정됨.

시장이 PoC 단계를 넘어 대규모 배포로 이동함에 따라, 고객은 동일한 전력 및 발열 예산 내에서 여러 AI 모델을 동시에 실행할 필요성이 커지고 있습니다. 위 차트는 YOLO26이 정확도와 효율성 사이에서 일관되게 더 강력한 균형을 제공함을 보여줍니다. YOLO26n은 DX-M1에서 약 405 FPS/W를 달성하며, 개발자가 더 크고 전력을 많이 소비하는 하드웨어로 교체하지 않고도 더 고급 AI 워크로드를 실행할 수 있도록 합니다.

Ultralytics YOLO 모델을 DEEPX로 내보내기 시작하기#

Ultralytics Python package와 Ultralytics Platform은 5가지 모든 컴퓨터 비전 태스크에서 YOLO 모델을 학습, 평가, 배포하기 위한 완전하고 통합된 환경을 제공합니다. 코드로 작업하는 것을 선호하든 마찰 없는 비주얼 워크플로를 선호하든, 두 경로 모두 데이터에서 배포에 이르는 일관되고 확장 가능한 방법을 제공합니다.

이번 파트너십을 통해 Ultralytics는 DEEPX와의 새로운 export integration을 도입하여, 단 하나의 명령어(format=deepx)로 YOLO 모델을 DEEPX NPU 하드웨어에 배포하기 위해 내보내기할 수 있도록 지원합니다. 이 통합은 Ultralytics 에코시스템 전반에서 완전히 지원되므로, 개발자는 모델에 주석을 달고 학습한 후 Python 패키지에서 또는 Ultralytics Platform에서 직접 DEEPX로 내보내기할 수 있습니다. 내보내기 과정에서 모델은 컴파일되고 최적화된 .dxnn 바이너리로 INT8 양자화되며, EMA 기반 캘리브레이션을 통해 모델 품질을 희생하지 않으면서 최대 NPU 성능을 보장합니다.

실질적으로 이는 상업적 팀이 단 세 개의 명령어로 라벨링된 데이터에서 DEEPX NPU에서 실행되는 프로덕션 준비 모델까지 이동할 수 있음을 의미합니다:

# Step 1: Install Ultralytics
pip install ultralytics

# Step 2: Export your YOLO model to DEEPX format
yolo export model=yolo26n.pt format=deepx

# Step 3: Run inference on DEEPX hardware
yolo detect predict model=yolo26n_deepx_model

런타임 설치 및 DEEPX의 dxtron 그래프 뷰어를 사용한 시각화를 포함한 전체 설정 세부 정보는 DEEPX integration documentation을 확인하세요.

DEEPX NPU에서 Ultralytics YOLO 모델을 실행할 때의 주요 이점#

새로운 통합 기능을 사용하여 DEEPX 하드웨어에 Ultralytics YOLO 모델을 배포할 때 얻을 수 있는 주요 장점은 다음과 같습니다:

• Ultralytics 워크플로우와의 원활한 통합: DEEPX 배포를 위한 YOLO 모델 내보내기는 단일 format=deepx 명령으로 엣지 배포 프로세스를 표준화하여 Ultralytics Python 패키지에 자연스럽게 적용됩니다.
• 다양한 컴퓨터 비전 작업 지원: YOLOv8, YOLO11, YOLO26 전반에서 객체 탐지, 세그멘테이션, 포즈 추정, 지향성 바운딩 박스(OBB) 탐지 및 분류 모델을 배포할 수 있습니다.
• 초고효율 엣지 추론: DEEPX NPU는 적은 전력으로 GPU급 성능을 제공하며, 수동 냉각과 초저전력 소비를 통해 프로덕션 규모의 배포에 이상적입니다.
• 미래를 대비한 기반: 전용 CI/CD 파이프라인은 모든 새로운 Ultralytics 릴리스와의 즉각적인 호환성을 보장하며, DX-M1에서 DX-M2로 이어지는 로드맵은 동일한 소프트웨어 스택을 Agentic AI 시대까지 확장합니다.
• Physical AI 애플리케이션 전반에 걸친 확장성: 스마트 감시 및 산업 검사부터 로봇 공학 및 자율 시스템에 이르기까지 이 통합 기능은 광범위한 실제 사용 사례를 지원합니다.

Ultralytics YOLO와 DEEPX 하드웨어가 영향을 미칠 수 있는 분야#

그렇다면 Ultralytics YOLO 모델을 DEEPX 하드웨어에 배포하여 실제 시나리오에서 사용할 수 있는 일반적인 Physical AI 애플리케이션은 무엇일까요?

엣지에서의 스마트 감시#

최신 감시 시스템은 개인 정보 보호나 연결성을 저해하지 않으면서 실시간 탐지를 요구합니다. DEEPX NPU에서 실행되는 Ultralytics YOLO 모델을 통해 보안 카메라 및 모니터링 시스템은 비디오 피드를 로컬에서 분석하여 사람, 차량 및 비정상적인 활동을 실시간으로 식별할 수 있으며, 클라우드 의존성 없이 저전력으로 작동합니다. 유럽의 GDPR 시행이 강화되고 지자체 조달에서 데이터 거주지 요건이 늘어남에 따라, 온디바이스 추론은 기술적 이점뿐만 아니라 규제상의 이점이 됩니다.

산업 자동화 및 품질 관리#

공장 및 제조 시설에서 비전 AI는 품질 관리, 결함 탐지 및 프로세스 모니터링을 자동화하는 데 점점 더 많이 사용되고 있습니다. Ultralytics YOLO 모델과 DEEPX 하드웨어를 결합하면 까다로운 산업 환경에서 연중무휴 24시간 안정적으로 실행되는 온디바이스 검사가 가능하여 낭비를 줄이고 제품 품질을 향상하며 작업자 안전을 보호하는 데 도움이 됩니다.

로봇 공학 및 자율 시스템#

로봇 공학에서 속도와 반응성은 매우 중요합니다. 창고를 탐색하든, 역동적인 산업 환경에서 작업하든, 인간과 협력하든 로봇은 주변 환경을 즉시 해석해야 합니다. DEEPX NPU에서 실행되는 Ultralytics YOLO 모델은 로봇이 장애물을 탐지하고, 사람을 추적하며, 물체를 실시간으로 식별할 수 있게 하여 지속적인 클라우드 연결 없이도 더 안전한 이동과 더 높은 수준의 자율성을 지원합니다.

핵심 요약#

Ultralytics YOLO 모델과 DEEPX NPU는 고성능 Physical AI를 엣지로 가져오는 것을 그 어느 때보다 쉽게 만듭니다. 새로운 format=deepx 표준을 통해 배포를 단순화하고 DEEPX의 에너지 효율적인 하드웨어에 모델을 최적화함으로써, 이번 파트너십은 개발과 실제 상업적 애플리케이션 간의 격차를 해소하는 데 도움을 줍니다. Physical AI가 지속적으로 성장함에 따라, 이번 협력은 프로덕션급 비전 AI를 모든 규모의 기업이 접근 가능하고 저렴하며 확장 가능하게 만드는 단계가 될 것입니다.

엣지 AI 제품을 더 빠르게 출시할 준비가 되셨나요?

• Request a license를 통해 상업용 지원 및 Enterprise YOLO 모델에 액세스하세요.
• Try Ultralytics Platform을 사용하여 첫 번째 DEEPX 지원 모델에 주석을 달고, 학습시키고, 배포해 보세요.
• Become an Ultralytics partner를 통해 공동 배포 기회를 모색하세요.
• 전체 기술 가이드는 Read the docs에서 확인하세요.

AI in robotics 및 AI in manufacturing과 같은 혁신이 미래를 어떻게 만들어가고 있는지 알아보세요.