NVIDIA 젯슨 오린 나노 슈퍼의 울트라틱스 YOLO11: 빠르고 효율적인 성능

아비라미 비나

4분 읽기

2025년 1월 9일

NVIDIA 젯슨 오린 나노 슈퍼에 울트라틱스 YOLO11을 배포하여 고급 AI 애플리케이션을 위한 인상적인 벤치마크와 GPU 가속 성능을 제공하는 방법을 알아보세요.

2024년 12월 17일에 출시되는 NVIDIA 젯슨 오린 나노 슈퍼 개발자 키트는 엣지 컴퓨팅에 고급 기능을 제공하도록 설계된 작지만 강력한 제너레이티브 AI 슈퍼컴퓨터입니다. 실시간 처리를 용이하게 하고 클라우드 컴퓨팅이 필요하지 않습니다. 개발자는 엔비디아 젯슨 오린 나노 슈퍼를 통해 로컬 환경에서 효율적으로 작동하는 합리적인 가격의 인텔리전트 시스템을 구축할 수 있습니다.

젯슨 오린 나노 슈퍼는 울트라틱스 YOLO11과 같은 울트라틱스 YOLO 모델과 함께 사용하면 엣지에서 방대한 범위의 비전 AI 애플리케이션을 처리할 수 있습니다. 특히 YOLO11은 객체 감지, 객체 추적, 인스턴스 세분화와 같은 작업에서 속도와 정확성이 뛰어난 것으로 알려진 컴퓨터 비전 모델입니다. 

YOLO11의 기능과 키트의 강력한 GPU(그래픽 처리 장치) 및 PyTorch, ONNX, NVIDIA TensorRT와 같은 프레임워크 지원을 결합하면 고성능 배포가 가능합니다. 이러한 조합을 통해 개발자는 로봇 공학의 물체 감지부터 스마트 공간 및 리테일 시스템의 실시간 물체 추적에 이르기까지 AI 애플리케이션을 개발할 수 있는 효율적인 솔루션을 얻을 수 있습니다.

이 문서에서는 NVIDIA 젯슨 오린 나노 슈퍼 개발자 키트, 엣지 AI용 울트라틱스 YOLO11과 함께 작동하는 방법, 성능 벤치마크, 실제 애플리케이션, 개발자가 비전 AI 프로젝트를 구축하는 데 도움이 되는 방법에 대해 살펴봅니다. 지금 시작하세요!

NVIDIA 젯슨 오린 나노 슈퍼 개발자 키트란 무엇인가요?

엔비디아 젯슨 오린 나노 슈퍼 개발자 키트는 소형 엣지 디바이스를 위한 제너레이티브 AI를 재정의하는 작지만 강력한 컴퓨터입니다. 최대 67 TOPS(초당 수조 회 연산)의 AI 성능을 제공하므로 고급 AI 프로젝트를 진행하는 개발자, 학생 및 애호가에게 이상적입니다.

__wf_reserved_inherit

다음은 주요 기능 중 일부입니다:

  • GPU 성능: 이 장치는 1,024개의 CUDA 코어와 32개의 텐서 코어를 포함하는 NVIDIA Ampere 아키텍처 GPU를 기반으로 합니다. CUDA 코어는 많은 작업을 동시에 처리하여 복잡한 계산 속도를 높이는 반면, 텐서 코어는 딥 러닝과 같은 AI 작업에 특화되어 있습니다.
  • 강력한 CPU: 속도와 효율성의 균형을 맞추도록 설계된 6코어 Arm Cortex-A78AE 프로세서가 탑재되어 있습니다. 이 디바이스는 에너지 사용량을 낮게 유지하면서 여러 작업을 원활하게 처리할 수 있습니다. 이는 대규모 전원에 액세스하지 않고 로컬에서 실행되는 시스템에 중요합니다.
  • 효율적인 메모리: 이 키트에는 8GB의 LPDDR5(저전력 더블 데이터 전송률 5) 메모리가 포함되어 있습니다. LPDDR5는 속도와 에너지 효율에 최적화된 RAM(랜덤 액세스 메모리)의 일종으로, 과도한 전력 소비 없이 대용량 데이터 세트와 실시간 처리를 처리할 수 있습니다.
  • 연결 옵션: 빠른 데이터 전송을 위한 USB 3.2 포트, 강력한 네트워크 연결을 위한 기가비트 이더넷 포트, 센서 또는 카메라 통합을 위한 카메라 인터페이스가 포함되어 있습니다.
  • AI 개발 도구: 젯슨 오린 나노 슈퍼는 더 빠른 컴퓨팅을 위한 CUDA 및 AI 모델 최적화를 위한 TensorRT와 같은 도구를 제공하는 NVIDIA JetPack SDK와 함께 작동합니다. 이러한 도구를 사용하면 개발자가 AI 애플리케이션을 더 빠르고 효율적으로 빌드하고 배포할 수 있습니다.

성능 벤치마크: 젯슨 오린 나노 슈퍼 대 오린 NX 16GB 비교

NVIDIA의 작업에 익숙하다면 이 새로운 릴리스가 기존 NVIDIA Jetson Orin NX 16GB(슈퍼 모드 제외)와 어떻게 비교되는지 궁금할 것입니다. 젯슨 오린 NX가 전반적으로 더 높은 기능을 제공하는 반면, 젯슨 오린 나노 슈퍼 개발자 키트는 훨씬 적은 비용으로 인상적인 성능을 제공합니다.

 

__wf_reserved_inherit
그림 2. 엔비디아 젯슨 오린 에코시스템 살펴보기.

간단한 개요는 다음과 같습니다:

  • AI 성능: 젯슨 오린 나노 슈퍼는 대부분의 엣지 AI 작업에 적합한 최대 67 TOPS를 제공하며, 젯슨 오린 NX는 보다 까다로운 애플리케이션을 위해 최대 100 TOPS를 제공합니다.
    ↪f_200D↩
  • 메모리: Jetson Orin Nano Super에는 실시간 작업에 충분한 8GB LPDDR5가 포함되어 있으며, Orin NX는 더 큰 워크로드를 위해 16GB로 두 배로 늘렸습니다.
    ↪f_200D↩
  • 전력 효율성: 젯슨 오린 나노 슈퍼는 더 높은 전력을 요구하는 젯슨 오린 NX에 비해 에너지 효율이 높고 7W에서 25W 사이로 구성할 수 있습니다.
    ↪f_200D↩
  • GPU: 두 제품 모두 강력한 GPU 성능을 위해 1,024개의 CUDA 코어와 32개의 텐서 코어를 갖춘 NVIDIA Ampere 아키텍처를 공유합니다.

젯슨 오린 나노 수퍼를 사용한 YOLO11: 엣지에 비전 AI 제공

이제 젯슨 오린 나노 슈퍼에 대해 더 잘 이해했으니, 이제 YOLO11이 어떻게 엣지에 비전 AI 기능을 제공할 수 있는지 살펴보겠습니다. YOLO11을 포함한 울트라태틱스 YOLO 모델에는 훈련, 예측, 내보내기 등의 다양한 모드가 제공되므로 다양한 AI 워크플로우에 적용할 수 있습니다. 

예를 들어, 훈련 모드에서는 고유한 객체를 감지하거나 특정 환경에 최적화하는 등 특정 애플리케이션을 위한 맞춤형 데이터 세트에 대해 Ultralytics YOLO 모델을 미세 조정하고 훈련할 수 있습니다. 마찬가지로 예측 모드는 추론용으로 설계되어 실시간 컴퓨터 비전 작업을 가능하게 합니다. 마지막으로 내보내기 모드는 모델을 배포에 최적화된 형식으로 변환하는 데 사용할 수 있습니다.

__wf_reserved_inherit
그림 3. Ultralytics YOLO 모델은 다양한 기능과 모드를 지원합니다.

내보내기 모드의 YOLO11은 다음과 같은 다양한 모델 배포 옵션을 지원합니다:

  • NVIDIA TensorRT: 이 형식은 NVIDIA GPU에 최적화되어 Jetson Orin Nano Super에서 고성능 및 짧은 지연 시간의 추론을 제공합니다.
    ↪f_200D↩
  • ONNX(개방형 신경망 교환): 다양한 플랫폼에서 호환성을 보장하여 다양한 하드웨어 및 소프트웨어 에코시스템에 다용도로 사용할 수 있습니다.
  • 토치스크립트: 파이토치 기반 애플리케이션에 이상적인 포맷으로, 파이토치 워크플로에 원활하게 통합할 수 있도록 도와줍니다.
    ↪f_200D↩
  • TFLite(텐서플로우 라이트): 가벼운 AI 배포를 위해 설계된 형식으로, 모바일 및 임베디드 시스템에 적합합니다.

개발자는 이러한 배포 형식을 사용하여 스마트 공간, 로봇 공학 및 소매 자동화와 같은 실시간 애플리케이션을 위한 YOLO11을 실행하기 위해 Jetson Orin Nano Super의 하드웨어를 최대한 활용할 수 있습니다. 

엔비디아 젯슨 오린 나노 슈퍼에서 YOLO11 벤치마킹하기

다음으로, NVIDIA 젯슨 오린 나노 슈퍼에서 YOLO11이 얼마나 빠르게 실행될 수 있는지 알아보기 위해 PyTorch, ONNX 및 TensorRT와 같은 GPU 가속 내보내기 형식을 사용하여 인상적인 성능과 벤치마크를 살펴보겠습니다. 이 테스트 결과, Jetson Orin Nano Super는 YOLO11 모델에서 기존 Jetson Orin NX 16GB(슈퍼 모드 미사용)와 비슷하거나 때로는 이를 능가하는 추론 시간을 달성하는 것으로 나타났습니다.

__wf_reserved_inherit
그림 4. 엔비디아 젯슨 오린 나노 슈퍼에서 YOLO11 벤치마킹.

더욱 놀라운 점은 젯슨 오린 나노 슈퍼의 경제성입니다. 젯슨 오린 NX 16GB의 절반도 안 되는 가격으로 이러한 성능을 제공하므로 고성능 YOLO11 애플리케이션을 구축하는 개발자에게 탁월한 가치를 제공합니다. 이러한 비용과 성능의 조합을 통해 Jetson Orin Nano Super는 엣지에서 실시간 비전 AI 작업을 위한 탁월한 선택이 될 것입니다.

__wf_reserved_inherit
그림 5. Jetson Orin NX 16GB에서 YOLO11 벤치마킹.

YOLO11과 엔비디아 젯슨 오린 나노 슈퍼를 직접 체험해 보세요.

Jetson Orin Nano Super에서 YOLO11 배포를 시작하고 싶으시다면 좋은 소식이 있습니다. 간단한 과정입니다. NVIDIA JetPack SDK로 디바이스를 플래시한 후 사전 빌드된 Docker 이미지를 사용하여 빠르게 설정하거나 필요한 패키지를 수동으로 설치할 수 있습니다. 

보다 빠르고 원활한 통합을 원하는 사용자에게는 업데이트된 JetPack 6 Docker 컨테이너가 이상적인 솔루션입니다. Docker 컨테이너는 특정 소프트웨어를 실행하는 데 필요한 모든 도구와 종속성을 포함하는 가볍고 휴대 가능한 환경입니다. 

JetPack 6.1에 최적화된 Ultralytics 컨테이너에는 CUDA 12.6, TensorRT 10.3, PyTorch 및 TorchVision과 같은 필수 도구가 사전 로드되어 있으며, 모두 Jetson의 ARM64 아키텍처에 맞게 조정되어 있습니다. 이 컨테이너를 사용하면 개발자는 설정 시간을 절약하고 YOLO11을 통해 Vision AI 애플리케이션을 빌드하고 최적화하는 데 집중할 수 있습니다.

엔비디아 젯슨 오린 나노 슈퍼에서 YOLO11의 애플리케이션

다음 AI 프로젝트에 대한 영감을 찾고 있다면, 우리 주변에는 엣지 기반 컴퓨터 비전 애플리케이션의 잠재력이 무궁무진합니다. 

일상 생활에서 엣지 AI는 클라우드 프로세싱에 의존하지 않고도 시스템이 실시간으로 사물을 감지하고 추적할 수 있게 함으로써 스마트 공간을 재정의하고 있습니다. 번화한 도시의 교통량을 모니터링하거나 공공장소에서 비정상적인 활동을 식별하는 등, 엣지 비전 AI는 보안과 효율성을 향상시키고 있습니다.

리테일러들도 엣지 AI와 컴퓨터 비전을 활용하고 있습니다. 자동 재고 확인부터 도난 방지까지, YOLO11과 같은 모델을 통해 기업은 매장에 직접 실시간 솔루션을 배포할 수 있습니다. 

마찬가지로 의료 분야의 AI에서도 엣지 기반 모니터링은 클라우드 의존성으로 인한 지연 없이 환자의 안전을 보장하고, 이상 징후를 감지하며, 규정 준수를 유지할 수 있습니다. Jetson Orin Nano Super 및 YOLO11과 같은 툴을 통해 비전 AI의 미래는 가장 필요한 엣지에서 바로 펼쳐지고 있습니다.

주요 요점

엔비디아 젯슨 오린 나노 슈퍼 개발자 키트에 YOLO11과 같은 울트라틱스 YOLO 모델을 배포하면 엣지 AI 애플리케이션을 위한 안정적이고 효율적인 솔루션을 제공합니다. 강력한 GPU 성능, PyTorch, ONNX 및 TensorRT에 대한 원활한 지원, 인상적인 벤치마크를 통해 물체 감지 및 추적과 같은 실시간 컴퓨터 비전 작업에 매우 적합합니다. 

Vision AI 및 하드웨어 가속과 같은 첨단 기술의 혁신과 협업은 우리의 업무 방식을 변화시켜 개발자가 엣지에서 확장 가능한 고성능 솔루션을 구축할 수 있도록 지원하고 있습니다. AI가 발전함에 따라 YOLO11 및 Jetson Orin Nano Super와 같은 도구는 지능형 실시간 솔루션을 그 어느 때보다 쉽게 구현할 수 있게 해줍니다.

AI에 대해 궁금하신가요? GitHub 리포지토리를 방문하여 저희의 기여를 살펴보고 커뮤니티에 참여하세요. 농업 및 의료와 같은 산업에서 AI를 사용하여 어떻게 영향력을 발휘하고 있는지 알아보세요.

인공지능의 미래
를 함께 만들어 갑시다!

머신 러닝의 미래와 함께하는 여정 시작하기

무료로 시작하기
링크가 클립보드에 복사됨