Ultralytics YOLO11 en NVIDIA Jetson Orin Nano Super: rápido y eficiente

El NVIDIA Jetson Orin Nano Super Developer Kit, lanzado el 17 de diciembre de 2024, es un superordenador de IA generativa compacto pero potente, diseñado para aportar capacidades avanzadas a la edge computing. Facilita el procesamiento en tiempo real y elimina la necesidad de computación en la nube. NVIDIA Jetson Orin Nano Super permite a los desarrolladores crear sistemas inteligentes asequibles que funcionan de forma eficiente en entornos locales.

Al combinarse con modelos Ultralytics YOLO como Ultralytics YOLO11, el Jetson Orin Nano Super puede gestionar una amplia gama de aplicaciones de visión artificial en el edge. En concreto, YOLO11 es un modelo de visión artificial conocido por su velocidad y precisión en tareas como object detection, seguimiento de objetos y segmentación de instancias.

Combinar las capacidades de YOLO11 con la robusta GPU (Graphics Processing Unit) del kit y el soporte para frameworks como PyTorch, ONNX y NVIDIA TensorRT permite despliegues de alto rendimiento. Esta combinación ofrece a los desarrolladores una solución eficiente para crear aplicaciones de IA, desde la detección de objetos en robótica hasta el seguimiento de objetos en tiempo real en espacios inteligentes y sistemas minoristas.

En este artículo, analizaremos el NVIDIA Jetson Orin Nano Super Developer Kit, cómo funciona con Ultralytics YOLO11 para edge AI, sus benchmarks de rendimiento, aplicaciones en el mundo real y cómo puede ayudar a los desarrolladores a crear proyectos de visión artificial. ¡Empecemos!

Link to this section¿Qué es el NVIDIA Jetson Orin Nano Super Developer Kit?#

El NVIDIA Jetson Orin Nano Super Developer Kit es un ordenador compacto pero potente que redefine la IA generativa para pequeños dispositivos edge. Ofrece hasta 67 TOPS (billones de operaciones por segundo) de rendimiento de IA, lo que lo hace ideal para desarrolladores, estudiantes y aficionados que trabajan en proyectos de IA avanzados.

Aquí tienes algunas de sus características clave:

• Rendimiento de la GPU: El dispositivo está construido sobre la arquitectura de GPU NVIDIA Ampere, que incluye 1024 núcleos CUDA y 32 Tensor Cores. Los núcleos CUDA procesan muchas tareas simultáneamente, acelerando cálculos complejos, mientras que los Tensor Cores están especializados para tareas de IA como el aprendizaje profundo.
• CPU potente: Cuenta con un procesador Arm Cortex-A78AE de 6 núcleos, diseñado para equilibrar velocidad y eficiencia. El dispositivo puede gestionar múltiples tareas sin problemas manteniendo un bajo consumo de energía. Esto es importante para sistemas que se ejecutan localmente sin acceso a grandes fuentes de alimentación.
• Memoria eficiente: El kit viene con 8 GB de memoria LPDDR5 (Low Power Double Data Rate 5). LPDDR5 es un tipo de RAM (Random Access Memory) optimizada para velocidad y eficiencia energética, lo que permite al dispositivo manejar grandes datasets y procesamiento en tiempo real sin consumir energía excesiva.
• Opciones de conectividad: Incluye puertos USB 3.2 para transferencias de datos rápidas, un puerto Gigabit Ethernet para conexiones de red estables e interfaces de cámara para integrar sensores o cámaras.
• Herramientas de desarrollo de IA: El Jetson Orin Nano Super funciona con el NVIDIA JetPack SDK, que proporciona herramientas como CUDA para una computación más rápida y TensorRT para optimizar modelos de IA. Estas herramientas facilitan a los desarrolladores la creación y despliegue rápido y eficiente de aplicaciones de IA.

Link to this sectionBenchmarks de rendimiento: Jetson Orin Nano Super frente a Orin NX 16GB#

Si conoces el trabajo de NVIDIA, puede que te preguntes cómo se compara este nuevo lanzamiento con el ya existente NVIDIA Jetson Orin NX 16GB (sin el modo super). Aunque el Jetson Orin NX ofrece capacidades generales superiores, el Jetson Orin Nano Super Developer Kit proporciona un rendimiento impresionante por una fracción del coste.

Fig 2. Un vistazo al ecosistema NVIDIA Jetson.

Aquí tienes un resumen rápido:

• Rendimiento de IA: Jetson Orin Nano Super ofrece hasta 67 TOPS, lo cual es fantástico para la mayoría de tareas de edge AI, mientras que Jetson Orin NX ofrece hasta 100 TOPS para aplicaciones más exigentes.
• Memoria: Jetson Orin Nano Super incluye 8 GB de LPDDR5, suficiente para tareas en tiempo real, mientras que Orin NX la duplica a 16 GB para cargas de trabajo mayores.
• Eficiencia energética: Jetson Orin Nano Super es más eficiente energéticamente y configurable entre 7W y 25W, en comparación con las mayores demandas de energía del Jetson Orin NX.
• GPU: Ambos comparten la arquitectura NVIDIA Ampere con 1024 núcleos CUDA y 32 Tensor Cores para un rendimiento robusto de la GPU.

Link to this sectionYOLO11 con Jetson Orin Nano Super: llevando la visión artificial al edge#

Ahora que entendemos mejor el Jetson Orin Nano Super, veamos cómo YOLO11 puede intervenir para aportar capacidades de visión artificial al edge. Los modelos Ultralytics YOLO, incluido YOLO11, cuentan con modos versátiles como entrenamiento, predicción y exportación, haciéndolos adaptables a una variedad de flujos de trabajo de IA.

Por ejemplo, en el modo de entrenamiento, los modelos Ultralytics YOLO se pueden ajustar y entrenar con datasets personalizados para aplicaciones específicas, como detectar objetos únicos u optimizar para entornos concretos. Del mismo modo, el modo de predicción está diseñado para la inferencia, permitiendo computer vision tasks en tiempo real. Por último, el modo de exportación se puede utilizar para convertir modelos a formatos optimizados para el despliegue.

Fig 3. Los modelos Ultralytics YOLO admiten diversas características y modos.

YOLO11 en modo export admite una serie de opciones de despliegue de modelos, incluyendo entre otras:

• NVIDIA TensorRT: Este formato está optimizado para GPUs NVIDIA, ofreciendo un alto rendimiento y una inferencia de baja latencia en el Jetson Orin Nano Super.
• ONNX (Open Neural Network Exchange): Garantiza la compatibilidad entre diversas plataformas, lo que lo hace versátil para diferentes ecosistemas de hardware y software.
• TorchScript: Este formato es ideal para aplicaciones basadas en PyTorch, ayudando a una integración fluida en los flujos de trabajo de PyTorch.
• TFLite (TensorFlow Lite): Un formato diseñado para despliegues de IA ligeros, lo que lo hace perfecto para sistemas móviles y embebidos.

Al utilizar estos formatos de despliegue, los desarrolladores pueden aprovechar al máximo el hardware del Jetson Orin Nano Super para ejecutar YOLO11 en aplicaciones en tiempo real como espacios inteligentes, robótica y automatización minorista.

Link to this sectionBenchmarking de YOLO11 en NVIDIA Jetson Orin Nano Super#

A continuación, para tener una mejor idea de la velocidad a la que puede ejecutarse YOLO11 en NVIDIA Jetson Orin Nano Super, exploremos su impresionante rendimiento y benchmarks utilizando formatos de exportación acelerados por GPU como PyTorch, ONNX y TensorRT. Estas pruebas revelan que Jetson Orin Nano Super logra tiempos de inferencia con modelos YOLO11 comparables, y en ocasiones superiores, a los del actual Jetson Orin NX 16GB (sin el modo super).

Fig 4. Benchmarking de YOLO11 en NVIDIA Jetson Orin Nano Super.

Lo que hace esto aún más notable es la asequibilidad del Jetson Orin Nano Super. Al ofrecer tal rendimiento a menos de la mitad del precio del Jetson Orin NX 16GB, proporciona un valor excepcional para los desarrolladores que construyen aplicaciones YOLO11 de alto rendimiento. Esta combinación de coste y rendimiento convierte al Jetson Orin Nano Super en una excelente opción para tareas de visión artificial en tiempo real en el edge.

Fig 5. Benchmarking de YOLO11 en Jetson Orin NX 16GB.

Link to this sectionEmpieza a trabajar con YOLO11 y el NVIDIA Jetson Orin Nano Super#

Si te entusiasma empezar a desplegar YOLO11 en el Jetson Orin Nano Super, tengo buenas noticias: es un proceso sencillo. Después de flashear tu dispositivo con el NVIDIA JetPack SDK, puedes usar una imagen de Docker preconstruida para una configuración rápida o instalar manualmente los paquetes necesarios.

Para aquellos que buscan una integración más rápida y fluida, el contenedor Docker de JetPack 6 actualizado es la solución ideal. Un contenedor Docker es un entorno ligero y portátil que incluye todas las herramientas y dependencias necesarias para ejecutar software específico.

El contenedor de Ultralytics, optimizado para JetPack 6.1, viene precargado con CUDA 12.6, TensorRT 10.3 y herramientas esenciales como PyTorch y TorchVision, todo adaptado a la arquitectura ARM64 de Jetson. Al utilizar este contenedor, los desarrolladores pueden ahorrar tiempo en la configuración y centrarse en crear y optimizar sus vision AI applications con YOLO11.

Link to this sectionAplicaciones de YOLO11 en el NVIDIA Jetson Orin Nano Super#

Para quienes buscan inspiración para su próximo proyecto de IA, hay potencial para aplicaciones de visión artificial basadas en el edge a nuestro alrededor.

En la vida cotidiana, la edge AI está redefiniendo los espacios inteligentes al permitir que los sistemas detecten y rastreen objetos en tiempo real, todo ello sin depender del procesamiento en la nube. Ya sea monitoreando el tráfico en una ciudad concurrida o identificando actividad inusual en espacios públicos, la visión artificial en el edge está mejorando la seguridad y la eficiencia.

Los minoristas también están aprovechando la edge AI y la visión artificial. Desde comprobaciones automáticas de inventario hasta la prevención de robos, modelos como YOLO11 hacen posible que las empresas desplieguen soluciones en tiempo real directamente en las tiendas.

Del mismo modo, cuando se trata de AI in healthcare, el monitoreo basado en el edge garantiza la seguridad del paciente, detecta anomalías y mantiene el cumplimiento, todo sin las demoras causadas por la dependencia de la nube. Con herramientas como Jetson Orin Nano Super y YOLO11, el futuro de la visión artificial se está desplegando justo en el edge, donde más se necesita.

Link to this sectionConclusiones clave#

Desplegar modelos Ultralytics YOLO como YOLO11 en el NVIDIA Jetson Orin Nano Super Developer Kit ofrece una solución fiable y eficiente para aplicaciones de edge AI. Con un rendimiento robusto de la GPU, compatibilidad fluida con PyTorch, ONNX y TensorRT, y unos benchmarks impresionantes, es muy adecuado para tareas de visión artificial en tiempo real como la detección y el seguimiento de objetos.

Las innovaciones y colaboraciones en tecnologías punteras como la visión artificial y la aceleración por hardware están transformando nuestra forma de trabajar, permitiendo a los desarrolladores crear soluciones escalables y de alto rendimiento en el edge. A medida que avanza la IA, herramientas como YOLO11 y Jetson Orin Nano Super están haciendo más fácil que nunca dar vida a soluciones inteligentes en tiempo real.

¿Tienes curiosidad sobre la IA? Visita nuestro GitHub repository para explorar nuestras contribuciones y participar en nuestra comunidad. Mira cómo estamos utilizando la IA para generar impacto en sectores como la agricultura y la salud.