Ultralytics YOLO11 en NVIDIA Jetson Orin Nano Super: rápido y eficiente

El NVIDIA Jetson Orin Nano Super Developer Kit, lanzado el 17 de diciembre de 2024, es un superordenador compacto pero potente de IA generativa, diseñado para ofrecer capacidades avanzadas a la computación edge. Permite el procesamiento en tiempo real y reduce la necesidad de recurrir a la computación en la nube. NVIDIA Jetson Orin Nano Super permite a los desarrolladores crear sistemas inteligentes asequibles que funcionan de forma eficiente en entornos locales.

Al combinarse con modelos Ultralytics YOLO, como Ultralytics YOLO11, Jetson Orin Nano Super puede gestionar una amplia gama de aplicaciones de IA visual en el edge. En concreto, YOLO11 es un modelo de visión artificial conocido por su velocidad y precisión en tareas como la detección de objetos, el seguimiento de objetos y la segmentación de instancias.

La combinación de las capacidades de Ultralytics YOLO11 con la robusta GPU (unidad de procesamiento gráfico) del kit y su compatibilidad con frameworks como PyTorch, ONNX y NVIDIA TensorRT permite realizar despliegues de alto rendimiento. Esta combinación ofrece a los desarrolladores una solución eficiente para crear aplicaciones de IA, desde la detección de objetos en robótica hasta el seguimiento de objetos en tiempo real en espacios inteligentes y sistemas de comercio minorista.

En este artículo, veremos el NVIDIA Jetson Orin Nano Super Developer Kit, cómo funciona con Ultralytics YOLO11 para la IA edge, sus resultados en las pruebas de rendimiento, sus aplicaciones en el mundo real y cómo puede ayudar a los desarrolladores a crear proyectos de IA de visión.

¿Qué es el NVIDIA Jetson Orin Nano Super Developer Kit?#

El NVIDIA Jetson Orin Nano Super Developer Kit es un ordenador compacto y potente que lleva la IA generativa a pequeños dispositivos edge. Ofrece hasta 67 TOPS (billones de operaciones por segundo) de rendimiento de IA, por lo que es ideal para desarrolladores, estudiantes y aficionados que trabajan en proyectos avanzados de IA.

Estas son algunas de sus características principales:

• Rendimiento de la GPU: El dispositivo está basado en una GPU con arquitectura NVIDIA Ampere, que incluye 1.024 núcleos CUDA y 32 Tensor Cores. Los núcleos CUDA procesan muchas tareas simultáneamente y aceleran los cálculos complejos, mientras que los Tensor Cores están especializados en tareas de IA como el deep learning.
• Potente CPU: Incorpora un procesador Arm Cortex-A78AE de 6 núcleos, diseñado para equilibrar la velocidad y la eficiencia. El dispositivo puede gestionar varias tareas con fluidez y mantener un consumo energético bajo. Esto es importante para los sistemas que funcionan localmente sin acceso a grandes fuentes de alimentación.
• Memoria eficiente: El kit incluye 8 GB de memoria LPDDR5 (doble velocidad de datos de baja potencia 5). LPDDR5 es un tipo de RAM (memoria de acceso aleatorio) optimizado para ofrecer velocidad y eficiencia energética, que permite al dispositivo gestionar grandes conjuntos de datos y procesarlos en tiempo real sin consumir demasiada energía.
• Opciones de conectividad: Incluye puertos USB 3.2 para transferencias de datos rápidas, un puerto Gigabit Ethernet para conexiones de red estables e interfaces de cámara para integrar sensores o cámaras.
• Herramientas de desarrollo de IA: Jetson Orin Nano Super funciona con NVIDIA JetPack SDK, que proporciona herramientas como CUDA para acelerar los cálculos y TensorRT para optimizar los modelos de IA. Estas herramientas facilitan a los desarrolladores la creación y el despliegue de aplicaciones de IA de forma rápida y eficiente.

Benchmarks de rendimiento: Jetson Orin Nano Super frente a Orin NX de 16 GB#

Si conoces el trabajo de NVIDIA, quizá te preguntes cómo se compara este nuevo producto con el NVIDIA Jetson Orin NX de 16 GB actual (sin el modo Super). Aunque Jetson Orin NX ofrece mayores capacidades generales, el NVIDIA Jetson Orin Nano Super Developer Kit proporciona un rendimiento impresionante por una fracción del coste.

Fig. 2. Vista del ecosistema NVIDIA Jetson Orin.

Aquí tienes un resumen rápido:

• Rendimiento de IA: Jetson Orin Nano Super ofrece hasta 67 TOPS, una cifra excelente para la mayoría de las tareas de IA en el edge, mientras que Jetson Orin NX ofrece hasta 100 TOPS para aplicaciones más exigentes.
• Memoria: Jetson Orin Nano Super incluye 8 GB de LPDDR5, suficientes para tareas en tiempo real, mientras que Orin NX duplica esa capacidad hasta los 16 GB para cargas de trabajo mayores.
• Eficiencia energética: Jetson Orin Nano Super es más eficiente energéticamente y se puede configurar entre 7 W y 25 W, frente a las mayores necesidades energéticas de Jetson Orin NX.
• GPU: Ambos comparten la arquitectura NVIDIA Ampere, con 1.024 núcleos CUDA y 32 Tensor Cores, para ofrecer un rendimiento sólido de GPU.

Ultralytics YOLO11 con Jetson Orin Nano Super: lleva la IA visual al edge#

Ahora que conocemos mejor Jetson Orin Nano Super, veamos cómo YOLO11 puede llevar las capacidades de IA visual al edge. Los modelos Ultralytics YOLO, incluido YOLO11, ofrecen modos versátiles como train, predict y export, que los hacen adaptables a diversos flujos de trabajo de IA.

Por ejemplo, en el modo de entrenamiento, los modelos Ultralytics YOLO se pueden ajustar y entrenar con conjuntos de datos personalizados para aplicaciones específicas, como detectar objetos únicos u optimizar el rendimiento en entornos concretos. Del mismo modo, el modo de predicción está diseñado para la inferencia y permite realizar tareas de visión artificial en tiempo real. Por último, el modo de exportación se puede utilizar para convertir modelos a formatos optimizados para su implementación.

Fig. 3. Los modelos Ultralytics YOLO admiten diversas funciones y modos.

El modo de exportación de Ultralytics YOLO11 admite diversas opciones de despliegue de modelos, entre ellas:

• NVIDIA TensorRT: este formato está optimizado para GPU NVIDIA y ofrece inferencias de alto rendimiento y baja latencia en el Jetson Orin Nano Super.
• ONNX (Intercambio Abierto de Redes Neuronales): ofrece compatibilidad con diversas plataformas, por lo que resulta versátil para distintos ecosistemas de hardware y software.
• TorchScript: este formato es ideal para aplicaciones basadas en PyTorch y facilita la integración en los flujos de trabajo de PyTorch.
• TFLite (TensorFlow Lite): un formato diseñado para implementaciones ligeras de IA, especialmente adecuado para sistemas móviles e integrados.

Con estos formatos de despliegue, los desarrolladores pueden aprovechar al máximo el hardware de Jetson Orin Nano Super para ejecutar Ultralytics YOLO11 en aplicaciones en tiempo real, como espacios inteligentes, robótica y automatización del comercio minorista.

Evaluación comparativa de Ultralytics YOLO11 en NVIDIA Jetson Orin Nano Super#

A continuación, para hacernos una mejor idea de la velocidad a la que puede funcionar Ultralytics YOLO11 en el NVIDIA Jetson Orin Nano Super, veamos sus resultados en pruebas de rendimiento con formatos acelerados por GPU, como PyTorch, ONNX y TensorRT. Estas pruebas muestran que el Jetson Orin Nano Super consigue tiempos de inferencia con modelos YOLO11 comparables a los del Jetson Orin NX 16GB actual (sin el modo Super) y, en ocasiones, incluso más rápidos.

Fig. 4. Evaluación comparativa de Ultralytics YOLO11 en NVIDIA Jetson Orin Nano Super.

Lo que hace que esto sea aún más notable es el precio asequible del Jetson Orin Nano Super. Al ofrecer este rendimiento por menos de la mitad del precio del Jetson Orin NX 16GB, ofrece una excelente relación calidad-precio a los desarrolladores que crean aplicaciones Ultralytics YOLO11 de alto rendimiento. Esta combinación de coste y rendimiento hace que el Jetson Orin Nano Super sea una opción excelente para tareas de IA de visión en tiempo real en edge.

Fig. 5. Evaluación comparativa de Ultralytics YOLO11 en Jetson Orin NX de 16 GB.

Prueba Ultralytics YOLO11 y NVIDIA Jetson Orin Nano Super#

Si tienes ganas de empezar a implementar Ultralytics YOLO11 en el Jetson Orin Nano Super, el proceso es sencillo. Después de instalar la imagen en el dispositivo con NVIDIA JetPack SDK, puedes usar una imagen Docker precompilada para configurarlo rápidamente o instalar manualmente los paquetes necesarios.

Para configurar todo lo más rápido posible, el contenedor Docker actualizado de JetPack 6 es la opción más sencilla. Un contenedor Docker es un entorno ligero y portátil que incluye todas las herramientas y dependencias necesarias para ejecutar un software concreto.

El contenedor de Ultralytics, optimizado para JetPack 6.1, incluye CUDA 12.6, TensorRT 10.3 y herramientas esenciales como PyTorch y TorchVision, todo adaptado a la arquitectura ARM64 de Jetson. Con este contenedor, los desarrolladores pueden ahorrar tiempo en la configuración y centrarse en crear y optimizar sus aplicaciones de IA visual con YOLO11.

Aplicaciones de Ultralytics YOLO11 en NVIDIA Jetson Orin Nano Super#

Si buscas inspiración para tu próximo proyecto de IA, encontrarás oportunidades para aplicaciones de visión artificial en el edge por todas partes.

En la vida cotidiana, la IA edge está transformando los espacios inteligentes al permitir que los sistemas detecten y sigan objetos en tiempo real sin depender del procesamiento en la nube. Tanto si se trata de supervisar el tráfico en una ciudad bulliciosa como de identificar actividades inusuales en espacios públicos, la IA de visión edge mejora la seguridad y la eficiencia.

Los comercios también están aprovechando la IA en el edge y la visión artificial. Desde el control automatizado del inventario hasta la prevención de robos, modelos como Ultralytics YOLO11 permiten a las empresas desplegar soluciones en tiempo real directamente en las tiendas.

Del mismo modo, en lo que respecta a la IA en la sanidad, la supervisión basada en edge ayuda a proteger la seguridad de los pacientes, detectar anomalías y cumplir la normativa, sin los retrasos que provoca la dependencia de la nube. Con herramientas como Jetson Orin Nano Super y Ultralytics YOLO11, el futuro de la IA de visión se está desarrollando justo en edge, donde más se necesita.

Conclusiones clave#

Implementar modelos Ultralytics YOLO como YOLO11 en el NVIDIA Jetson Orin Nano Super Developer Kit ofrece una solución fiable y eficiente para aplicaciones de IA edge. Gracias a su potente GPU, a la compatibilidad nativa con PyTorch, ONNX y TensorRT, y a sus impresionantes resultados en pruebas de rendimiento, es ideal para tareas de visión artificial en tiempo real, como la detección y el seguimiento de objetos.

Los avances en IA de visión y aceleración de hardware están cambiando nuestra forma de trabajar y ayudan a los desarrolladores a crear soluciones escalables y de alto rendimiento en edge. A medida que avanza la IA, herramientas como Ultralytics YOLO11 y Jetson Orin Nano Super facilitan más que nunca la creación de soluciones inteligentes en tiempo real.

¿Te interesa la IA? Visita nuestro repositorio de GitHub para explorar nuestras contribuciones y participar en nuestra comunidad. Descubre cómo utilizamos la IA para generar un impacto en sectores como la agricultura y la sanidad.