Al hacer clic en “Aceptar todas las cookies”, aceptas el almacenamiento de cookies en tu dispositivo para mejorar la navegación del sitio, analizar el uso del sitio y ayudar en nuestros esfuerzos de marketing. Más información
Configuración de cookies
Al hacer clic en “Aceptar todas las cookies”, aceptas el almacenamiento de cookies en tu dispositivo para mejorar la navegación del sitio, analizar el uso del sitio y ayudar en nuestros esfuerzos de marketing. Más información
Explore cómo la implementación de Ultralytics YOLO11 en NVIDIA Jetson Orin Nano Super ofrece benchmarks impresionantes y un rendimiento acelerado por GPU para aplicaciones avanzadas de IA.
El kit de desarrollo NVIDIA Jetson Orin Nano Super, lanzado el 17 de diciembre de 2024, es una supercomputadora de IA generativa compacta pero potente, diseñada para aportar capacidades avanzadas a la computación perimetral (edge computing). Facilita el procesamiento en tiempo real y elimina la necesidad de computación en la nube. NVIDIA Jetson Orin Nano Super permite a los desarrolladores crear sistemas inteligentes asequibles que funcionan de forma eficiente en entornos locales.
Cuando se combina con modelos Ultralytics YOLO como Ultralytics YOLO11, Jetson Orin Nano Super puede gestionar una amplia gama de aplicaciones de Visión IA en el borde. En particular, YOLO11 es un modelo de visión artificial conocido por su velocidad y precisión en tareas como la detección de objetos, el seguimiento de objetos y la segmentación de instancias.
La combinación de las capacidades de YOLO11 con la robusta GPU (Unidad de Procesamiento Gráfico) del kit y la compatibilidad con frameworks como PyTorch, ONNX y NVIDIA TensorRT permite implementaciones de alto rendimiento. Esta combinación proporciona a los desarrolladores una solución eficiente para crear aplicaciones de IA, desde la detección de objetos en robótica hasta el seguimiento de objetos en tiempo real en espacios inteligentes y sistemas de venta minorista.
En este artículo, analizaremos el kit de desarrollo NVIDIA Jetson Orin Nano Super, cómo funciona con Ultralytics YOLO11 para la IA en el borde, sus benchmarks de rendimiento, las aplicaciones en el mundo real y cómo puede ayudar a los desarrolladores a crear proyectos de Visión IA. ¡Empecemos!
¿Qué es el kit de desarrollo NVIDIA Jetson Orin Nano Super?
El kit de desarrollo NVIDIA Jetson Orin Nano Super es un ordenador compacto pero potente que redefine la IA generativa para pequeños dispositivos perimetrales. Ofrece hasta 67 TOPS (billones de operaciones por segundo) de rendimiento de IA, lo que lo hace ideal para desarrolladores, estudiantes y aficionados que trabajan en proyectos avanzados de IA.
Estas son algunas de sus características principales:
Rendimiento de la GPU: El dispositivo está construido sobre la arquitectura de GPU NVIDIA Ampere, que incluye 1024 núcleos CUDA y 32 núcleos Tensor. Los núcleos CUDA procesan muchas tareas simultáneamente, acelerando los cálculos complejos, mientras que los núcleos Tensor están especializados para tareas de IA como el aprendizaje profundo.
Potente CPU: Cuenta con un procesador Arm Cortex-A78AE de 6 núcleos, diseñado para equilibrar velocidad y eficiencia. El dispositivo puede gestionar múltiples tareas sin problemas, manteniendo al mismo tiempo un bajo consumo de energía. Esto es importante para los sistemas que se ejecutan localmente sin acceso a grandes fuentes de energía.
Memoria eficiente: El kit viene con 8 GB de memoria LPDDR5 (Low Power Double Data Rate 5). LPDDR5 es un tipo de RAM (Random Access Memory) optimizada para la velocidad y la eficiencia energética, lo que permite al dispositivo gestionar grandes conjuntos de datos y el procesamiento en tiempo real sin consumir una energía excesiva.
Opciones de conectividad: Incluye puertos USB 3.2 para transferencias rápidas de datos, un puerto Gigabit Ethernet para conexiones de red sólidas e interfaces de cámara para integrar sensores o cámaras.
Herramientas de desarrollo de IA: Jetson Orin Nano Super funciona con el NVIDIA JetPack SDK, que proporciona herramientas como CUDA para una computación más rápida y TensorRT para optimizar los modelos de IA. Estas herramientas facilitan a los desarrolladores la creación e implementación de aplicaciones de IA de forma rápida y eficiente.
Benchmarks de rendimiento: Jetson Orin Nano Super Vs. Orin NX 16GB
Si está familiarizado con el trabajo de NVIDIA, puede que se pregunte cómo se compara este nuevo lanzamiento con el NVIDIA Jetson Orin NX 16GB existente (sin modo super). Si bien el Jetson Orin NX ofrece capacidades generales más elevadas, el kit de desarrollo Jetson Orin Nano Super proporciona un rendimiento impresionante a una fracción del coste.
Fig. 2. Una mirada al ecosistema NVIDIA Jetson Orin.
Aquí tiene una visión general rápida:
Rendimiento de la IA: Jetson Orin Nano Super ofrece hasta 67 TOPS, lo que es ideal para la mayoría de las tareas de IA en el borde, mientras que Jetson Orin NX ofrece hasta 100 TOPS para aplicaciones más exigentes.
Memoria: Jetson Orin Nano Super incluye 8 GB de LPDDR5, suficiente para tareas en tiempo real, mientras que Orin NX lo duplica a 16 GB para cargas de trabajo más grandes.
Eficiencia energética: Jetson Orin Nano Super es más eficiente energéticamente y configurable entre 7W y 25W, en comparación con las mayores demandas de energía de Jetson Orin NX.
GPU: Ambos comparten la arquitectura NVIDIA Ampere con 1024 núcleos CUDA y 32 Tensor Cores para un rendimiento robusto de la GPU.
YOLO11 con Jetson Orin Nano Super: Llevando la visión artificial al Edge
Ahora que comprendemos mejor la Jetson Orin Nano Super, veamos cómo YOLO11 puede intervenir para brindar capacidades de Visión Artificial al Edge. Los modelos Ultralytics YOLO, incluido YOLO11, vienen con modos versátiles como train (entrenamiento), predict (predicción) y export (exportación), lo que los hace adaptables a una variedad de flujos de trabajo de IA.
Por ejemplo, en el modo de entrenamiento, los modelos Ultralytics YOLO se pueden ajustar y entrenar en conjuntos de datos personalizados para aplicaciones específicas, como la detección de objetos únicos u la optimización para entornos específicos. Del mismo modo, el modo de predicción está diseñado para la inferencia, lo que permite tareas de visión artificial en tiempo real. Finalmente, el modo de exportación se puede utilizar para convertir modelos en formatos optimizados para la implementación.
Fig 3. Los modelos Ultralytics YOLO admiten varias características y modos.
YOLO11 en modo export admite una variedad de opciones de implementación de modelos, que incluyen, entre otras:
NVIDIATensorRT: Este formato está optimizado para GPU NVIDIA, ofreciendo inferencia de alto rendimiento y baja latencia en Jetson Orin Nano Super.
ONNX (Open Neural Network Exchange): Garantiza la compatibilidad entre varias plataformas, lo que lo hace versátil para diferentes ecosistemas de hardware y software.
TorchScript: Este formato es ideal para aplicaciones basadas en PyTorch, lo que ayuda con la integración perfecta en los flujos de trabajo de PyTorch.
TFLite (TensorFlow Lite): Un formato diseñado para implementaciones de IA ligeras, lo que lo hace perfecto para sistemas móviles e integrados.
Usando estos formatos de implementación, los desarrolladores pueden aprovechar al máximo el hardware de Jetson Orin Nano Super para ejecutar YOLO11 para aplicaciones en tiempo real como espacios inteligentes, robótica y automatización minorista.
Evaluación comparativa de YOLO11 en NVIDIA Jetson Orin Nano Super
A continuación, para tener una mejor idea de qué tan rápido puede ejecutarse YOLO11 en NVIDIA Jetson Orin Nano Super, exploremos su impresionante rendimiento y puntos de referencia utilizando formatos de exportación acelerados por GPU como PyTorch, ONNX y TensorRT. Estas pruebas revelan que Jetson Orin Nano Super logra tiempos de inferencia con modelos YOLO11 que son comparables, y en ocasiones superan, a los de la Jetson Orin NX de 16 GB existente (sin modo super).
Fig 4. Evaluación comparativa de YOLO11 en NVIDIA Jetson Orin Nano Super.
Lo que hace que esto sea aún más notable es la asequibilidad de Jetson Orin Nano Super. Ofreciendo tal rendimiento a menos de la mitad del precio de la Jetson Orin NX de 16 GB, proporciona un valor excepcional para los desarrolladores que crean aplicaciones YOLO11 de alto rendimiento. Esta combinación de costo y rendimiento convierte a Jetson Orin Nano Super en una excelente opción para tareas de Visión Artificial en tiempo real en el Edge.
Fig 5. Evaluación comparativa de YOLO11 en Jetson Orin NX 16GB.
Comience a trabajar con YOLO11 y NVIDIA Jetson Orin Nano Super
Si le entusiasma comenzar a implementar YOLO11 en Jetson Orin Nano Super, hay buenas noticias: es un proceso sencillo. Después de flashear su dispositivo con el SDK NVIDIA JetPack, puede usar una imagen Docker precompilada para una configuración rápida o instalar manualmente los paquetes necesarios.
Para aquellos que buscan una integración más rápida y fluida, el contenedor JetPack 6 Docker actualizado es la solución ideal. Un contenedor Docker es un entorno ligero y portátil que incluye todas las herramientas y dependencias necesarias para ejecutar un software específico.
El contenedor Ultralytics, optimizado para JetPack 6.1, viene precargado con CUDA 12.6, TensorRT 10.3 y herramientas esenciales como PyTorch y TorchVision, todo adaptado para la arquitectura ARM64 de Jetson. Al usar este contenedor, los desarrolladores pueden ahorrar tiempo en la configuración y concentrarse en construir y optimizar sus aplicaciones de Visión Artificial con YOLO11.
Aplicaciones de YOLO11 en NVIDIA Jetson Orin Nano Super
Para aquellos que buscan inspiración para su próximo proyecto de IA, existe potencial para aplicaciones de visión artificial basadas en el Edge a nuestro alrededor.
En la vida cotidiana, la IA en el Edge está redefiniendo los espacios inteligentes al permitir que los sistemas detecten y rastreen objetos en tiempo real, todo sin depender del procesamiento en la nube. Ya sea monitoreando el tráfico en una ciudad bulliciosa o identificando actividades inusuales en espacios públicos, la Visión Artificial en el Edge está impulsando la seguridad y la eficiencia.
Los minoristas también están aprovechando la IA en el borde y la visión artificial. Desde las comprobaciones automatizadas de inventario hasta la prevención de robos, modelos como YOLO11 permiten a las empresas implementar soluciones en tiempo real directamente en las tiendas.
Del mismo modo, en lo que respecta a la IA en la atención sanitaria, la monitorización en el borde garantiza la seguridad del paciente, detecta anomalías y mantiene el cumplimiento normativo, todo ello sin las demoras causadas por la dependencia de la nube. Con herramientas como Jetson Orin Nano Super y YOLO11, el futuro de la Visión Artificial se está desarrollando en el borde, donde más se necesita.
Conclusiones clave
Implementar modelos Ultralytics YOLO como YOLO11 en el kit de desarrollo NVIDIA Jetson Orin Nano Super ofrece una solución fiable y eficiente para aplicaciones de IA en el borde. Con un sólido rendimiento de la GPU, compatibilidad perfecta con PyTorch, ONNX y TensorRT, e impresionantes benchmarks, es ideal para tareas de visión artificial en tiempo real como la detección y el seguimiento de objetos.
Las innovaciones y colaboraciones en tecnologías de vanguardia como la Visión Artificial y la aceleración de hardware están transformando nuestra forma de trabajar, capacitando a los desarrolladores para crear soluciones escalables y de alto rendimiento en el borde. A medida que avanza la IA, herramientas como YOLO11 y Jetson Orin Nano Super facilitan más que nunca la creación de soluciones inteligentes en tiempo real.
¿Tiene curiosidad por la IA? Visite nuestro repositorio de GitHub para explorar nuestras contribuciones e interactuar con nuestra comunidad. Vea cómo estamos utilizando la IA para tener un impacto en industrias como la agricultura y la atención sanitaria.