Ultralytics YOLO11 en NVIDIA Jetson Orin Nano Super: rápido y eficiente

El Developer Kit NVIDIA Jetson Orin Nano Super, presentado el 17 de diciembre de 2024, es un superordenador compacto pero potente de IA generativa diseñado para ofrecer capacidades avanzadas en computación en el borde. Facilita el procesamiento en tiempo real y elimina la necesidad de utilizar computación en la nube. NVIDIA Jetson Orin Nano Super permite a los desarrolladores crear sistemas inteligentes asequibles que funcionan de forma eficiente en entornos locales.

Cuando se combina con modelos Ultralytics YOLO, como Ultralytics YOLO11, Jetson Orin Nano Super puede gestionar una amplia variedad de aplicaciones de IA de visión en el borde. En concreto, YOLO11 es un modelo de visión por ordenador conocido por su velocidad y precisión en tareas como la detección de objetos, el seguimiento de objetos y la segmentación de instancias.

Combinar las capacidades de Ultralytics YOLO11 con la robusta GPU (Unidad de procesamiento gráfico) del kit y su compatibilidad con frameworks como PyTorch, ONNX y NVIDIA TensorRT permite realizar implementaciones de alto rendimiento. Esta combinación ofrece a los desarrolladores una solución eficiente para crear aplicaciones de IA, desde la detección de objetos en robótica hasta el seguimiento de objetos en tiempo real en espacios inteligentes y sistemas comerciales.

En este artículo, analizaremos el Developer Kit NVIDIA Jetson Orin Nano Super, su funcionamiento con Ultralytics YOLO11 para la IA en el borde, sus pruebas de rendimiento, sus aplicaciones en el mundo real y cómo puede ayudar a los desarrolladores a crear proyectos de IA de visión. ¡Empecemos!

¿Qué es el Developer Kit NVIDIA Jetson Orin Nano Super?#

El Developer Kit NVIDIA Jetson Orin Nano Super es un ordenador compacto, pero potente, que redefine la IA generativa para pequeños dispositivos periféricos. Ofrece hasta 67 TOPS (billones de operaciones por segundo) de rendimiento de IA, lo que lo hace ideal para desarrolladores, estudiantes y aficionados que trabajan en proyectos avanzados de IA.

Estas son algunas de sus características principales:

• Rendimiento de la GPU: El dispositivo incorpora una GPU basada en la arquitectura NVIDIA Ampere, que incluye 1.024 núcleos CUDA y 32 Tensor Cores. Los núcleos CUDA procesan muchas tareas simultáneamente, acelerando los cálculos complejos, mientras que los Tensor Cores están especializados en tareas de IA como el aprendizaje profundo.
• CPU potente: Incorpora un procesador Arm Cortex-A78AE de 6 núcleos, diseñado para equilibrar velocidad y eficiencia. El dispositivo puede gestionar varias tareas con fluidez y mantener bajo el consumo energético. Esto es importante para los sistemas que funcionan localmente sin acceso a grandes fuentes de alimentación.
• Memoria eficiente: El kit incluye 8 GB de memoria LPDDR5 (Double Data Rate 5 de bajo consumo). LPDDR5 es un tipo de RAM (memoria de acceso aleatorio) optimizada para la velocidad y la eficiencia energética, lo que permite al dispositivo gestionar grandes conjuntos de datos y procesamientos en tiempo real sin consumir demasiada energía.
• Opciones de conectividad: Incluye puertos USB 3.2 para transferencias rápidas de datos, un puerto Gigabit Ethernet para conexiones de red sólidas e interfaces de cámara para integrar sensores o cámaras.
• Herramientas de desarrollo de IA: Jetson Orin Nano Super funciona con NVIDIA JetPack SDK, que proporciona herramientas como CUDA para acelerar los cálculos y TensorRT para optimizar modelos de IA. Estas herramientas facilitan que los desarrolladores creen e implementen aplicaciones de IA de forma rápida y eficiente.

Pruebas de rendimiento: Jetson Orin Nano Super frente a Orin NX 16GB#

Si conoces el trabajo de NVIDIA, quizá te preguntes cómo se compara este nuevo lanzamiento con el NVIDIA Jetson Orin NX 16GB existente (sin el modo super). Aunque Jetson Orin NX ofrece mayores capacidades generales, el Developer Kit Jetson Orin Nano Super proporciona un rendimiento impresionante por una fracción del coste.

Fig. 2. Una vista del ecosistema NVIDIA Jetson Orin.

Este es un resumen rápido:

• Rendimiento de IA: Jetson Orin Nano Super ofrece hasta 67 TOPS, una cifra excelente para la mayoría de las tareas de IA en el borde, mientras que Jetson Orin NX ofrece hasta 100 TOPS para aplicaciones más exigentes.
• Memoria: Jetson Orin Nano Super incluye 8 GB de LPDDR5, suficiente para tareas en tiempo real, mientras que Orin NX duplica esta capacidad hasta los 16 GB para cargas de trabajo mayores.
• Eficiencia energética: Jetson Orin Nano Super es más eficiente energéticamente y se puede configurar entre 7 W y 25 W, frente a las mayores necesidades de energía de Jetson Orin NX.
• GPU: Ambos comparten la arquitectura NVIDIA Ampere, con 1.024 núcleos CUDA y 32 Tensor Cores para ofrecer un sólido rendimiento de GPU.

Ultralytics YOLO11 con Jetson Orin Nano Super: lleva la IA de visión al borde#

Ahora que conocemos mejor Jetson Orin Nano Super, veamos cómo YOLO11 puede llevar las capacidades de IA de visión al borde. Los modelos Ultralytics YOLO, incluido YOLO11, incorporan modos versátiles como train, predict y export, lo que les permite adaptarse a una gran variedad de flujos de trabajo de IA.

Por ejemplo, en el modo de entrenamiento, los modelos Ultralytics YOLO se pueden ajustar y entrenar con conjuntos de datos personalizados para aplicaciones específicas, como detectar objetos únicos u optimizarse para entornos concretos. Del mismo modo, el modo de predicción está diseñado para la inferencia y permite realizar tareas de visión por ordenador en tiempo real. Por último, el modo de exportación se puede utilizar para convertir modelos a formatos optimizados para la implementación.

Fig. 3. Los modelos Ultralytics YOLO admiten diversas funciones y modos.

El modo de exportación de Ultralytics YOLO11 admite diversas opciones de implementación de modelos, entre otras:

• NVIDIA TensorRT: Este formato está optimizado para las GPU NVIDIA y ofrece inferencia de alto rendimiento y baja latencia en Jetson Orin Nano Super.
• ONNX (Intercambio de redes neuronales abiertas): Garantiza la compatibilidad entre varias plataformas, por lo que resulta versátil para distintos ecosistemas de hardware y software.
• TorchScript: Este formato es ideal para aplicaciones basadas en PyTorch y facilita una integración fluida en los flujos de trabajo de PyTorch.
• TFLite (TensorFlow Lite): Un formato diseñado para implementaciones ligeras de IA, por lo que es perfecto para sistemas móviles e integrados.

Al utilizar estos formatos de implementación, los desarrolladores pueden aprovechar al máximo el hardware de Jetson Orin Nano Super para ejecutar Ultralytics YOLO11 en aplicaciones en tiempo real, como espacios inteligentes, robótica y automatización comercial.

Evaluación del rendimiento de Ultralytics YOLO11 en NVIDIA Jetson Orin Nano Super#

A continuación, para hacernos una mejor idea de la velocidad a la que puede ejecutarse Ultralytics YOLO11 en NVIDIA Jetson Orin Nano Super, exploremos su impresionante rendimiento y sus pruebas con formatos de exportación acelerados por GPU, como PyTorch, ONNX y TensorRT. Estas pruebas revelan que Jetson Orin Nano Super logra tiempos de inferencia con modelos YOLO11 comparables a los del Jetson Orin NX 16GB existente (sin el modo super) y, en ocasiones, incluso superiores.

Fig. 4. Evaluación del rendimiento de Ultralytics YOLO11 en NVIDIA Jetson Orin Nano Super.

Lo que hace que esto sea aún más notable es el precio asequible de Jetson Orin Nano Super. Al ofrecer este rendimiento por menos de la mitad del precio de Jetson Orin NX 16GB, proporciona una relación calidad-precio excepcional a los desarrolladores que crean aplicaciones de alto rendimiento con Ultralytics YOLO11. Esta combinación de coste y rendimiento convierte a Jetson Orin Nano Super en una excelente opción para tareas de IA de visión en tiempo real en el borde.

Fig. 5. Evaluación del rendimiento de Ultralytics YOLO11 en Jetson Orin NX 16GB.

Prueba Ultralytics YOLO11 y NVIDIA Jetson Orin Nano Super#

Si te entusiasma empezar a implementar Ultralytics YOLO11 en Jetson Orin Nano Super, tenemos buenas noticias: el proceso es sencillo. Después de instalar el NVIDIA JetPack SDK en tu dispositivo, puedes utilizar una imagen de Docker prediseñada para configurarlo rápidamente o instalar manualmente los paquetes necesarios.

Para quienes buscan una integración más rápida y fluida, el contenedor Docker actualizado de JetPack 6 es la solución ideal. Un contenedor Docker es un entorno ligero y portátil que incluye todas las herramientas y dependencias necesarias para ejecutar un software específico.

El contenedor de Ultralytics, optimizado para JetPack 6.1, viene precargado con CUDA 12.6, TensorRT 10.3 y herramientas esenciales como PyTorch y TorchVision, todo ello adaptado a la arquitectura ARM64 de Jetson. Al utilizar este contenedor, los desarrolladores pueden ahorrar tiempo de configuración y centrarse en crear y optimizar sus aplicaciones de IA de visión con YOLO11.

Aplicaciones de Ultralytics YOLO11 en NVIDIA Jetson Orin Nano Super#

Si buscas inspiración para tu próximo proyecto de IA, a nuestro alrededor hay muchas posibilidades de aplicaciones de visión por ordenador basadas en el borde.

En la vida cotidiana, la IA en el borde está redefiniendo los espacios inteligentes al permitir que los sistemas detecten y sigan objetos en tiempo real, sin depender del procesamiento en la nube. Ya sea para supervisar el tráfico en una ciudad concurrida o identificar actividades inusuales en espacios públicos, la IA de visión en el borde está mejorando la seguridad y la eficiencia.

Los comercios también están aprovechando la IA en el borde y la visión por ordenador. Desde las comprobaciones automatizadas de inventario hasta la prevención de robos, modelos como Ultralytics YOLO11 permiten a las empresas implementar soluciones en tiempo real directamente en las tiendas.

Del mismo modo, cuando se trata de IA en la atención sanitaria, la supervisión basada en el borde garantiza la seguridad de los pacientes, detecta anomalías y mantiene el cumplimiento normativo, todo ello sin los retrasos causados por la dependencia de la nube. Con herramientas como Jetson Orin Nano Super y Ultralytics YOLO11, el futuro de la IA de visión se desarrolla directamente en el borde, donde más se necesita.

Conclusiones clave#

Implementar modelos Ultralytics YOLO como YOLO11 en el Developer Kit NVIDIA Jetson Orin Nano Super ofrece una solución fiable y eficiente para aplicaciones de IA en el borde. Con un sólido rendimiento de GPU, compatibilidad fluida con PyTorch, ONNX y TensorRT, y unas pruebas de rendimiento impresionantes, es una opción muy adecuada para tareas de visión por ordenador en tiempo real, como la detección y el seguimiento de objetos.

Las innovaciones y colaboraciones en tecnologías punteras, como la IA de visión y la aceleración de hardware, están transformando nuestra forma de trabajar y permiten a los desarrolladores crear soluciones escalables y de alto rendimiento en el borde. A medida que avanza la IA, herramientas como Ultralytics YOLO11 y Jetson Orin Nano Super facilitan más que nunca hacer realidad soluciones inteligentes en tiempo real.

¿Te interesa la IA? Visita nuestro repositorio de GitHub para explorar nuestras contribuciones y participar con nuestra comunidad. Descubre cómo utilizamos la IA para generar un impacto en sectores como la agricultura y la atención sanitaria.