Ultralytics YOLO11 en NVIDIA Jetson Orin Nano Super: rápido y eficiente

El NVIDIA Jetson Orin Nano Super Developer Kit, lanzado el 17 de diciembre de 2024, es un superordenador de IA generativa compacto pero potente diseñado para aportar capacidades avanzadas a la edge computing. Facilita el procesamiento en tiempo real y elimina la necesidad de computación en la nube. El NVIDIA Jetson Orin Nano Super permite a los desarrolladores construir sistemas inteligentes asequibles que funcionan de manera eficiente en entornos locales.

Al combinarlo con Ultralytics YOLO models como Ultralytics YOLO11, el Jetson Orin Nano Super puede gestionar una amplia gama de aplicaciones de visión artificial en el edge. En concreto, YOLO11 es un modelo de visión por ordenador conocido por su velocidad y precisión en tareas como object detection, seguimiento de objetos y segmentación de instancias.

Combinar las capacidades de Ultralytics YOLO11 con la robusta GPU (Graphics Processing Unit) del kit y su compatibilidad con frameworks como PyTorch, ONNX y NVIDIA TensorRT permite despliegues de alto rendimiento. Esta combinación ofrece a los desarrolladores una solución eficiente para crear aplicaciones de IA, desde la detección de objetos en robótica hasta el seguimiento de objetos en tiempo real en espacios inteligentes y sistemas de comercio minorista.

En este artículo, analizaremos el NVIDIA Jetson Orin Nano Super Developer Kit, cómo funciona con Ultralytics YOLO11 para edge AI, sus pruebas de rendimiento, aplicaciones del mundo real y cómo puede ayudar a los desarrolladores a construir proyectos de visión artificial. ¡Empecemos!

¿Qué es el NVIDIA Jetson Orin Nano Super Developer Kit?#

El NVIDIA Jetson Orin Nano Super Developer Kit es un ordenador compacto pero potente que redefine la IA generativa para pequeños dispositivos edge. Ofrece hasta 67 TOPS (billones de operaciones por segundo) de rendimiento de IA, lo que lo hace ideal para desarrolladores, estudiantes y aficionados que trabajan en proyectos de IA avanzados.

Aquí tienes algunas de sus características clave:

• Rendimiento de la GPU: El dispositivo está construido sobre la arquitectura de GPU NVIDIA Ampere, que incluye 1024 núcleos CUDA y 32 Tensor Cores. Los núcleos CUDA procesan muchas tareas simultáneamente, acelerando cálculos complejos, mientras que los Tensor Cores están especializados para tareas de IA como el aprendizaje profundo.
• CPU potente: Cuenta con un procesador Arm Cortex-A78AE de 6 núcleos, diseñado para equilibrar velocidad y eficiencia. El dispositivo puede gestionar múltiples tareas sin problemas manteniendo un bajo consumo de energía. Esto es importante para sistemas que se ejecutan localmente sin acceso a grandes fuentes de alimentación.
• Memoria eficiente: El kit incluye 8 GB de memoria LPDDR5 (Low Power Double Data Rate 5). LPDDR5 es un tipo de RAM (Random Access Memory) optimizada para ofrecer velocidad y eficiencia energética, lo que permite al dispositivo gestionar grandes datasets y procesamiento en tiempo real sin consumir energía excesiva.
• Opciones de conectividad: Incluye puertos USB 3.2 para transferencias de datos rápidas, un puerto Gigabit Ethernet para conexiones de red estables e interfaces de cámara para integrar sensores o cámaras.
• Herramientas de desarrollo de IA: El Jetson Orin Nano Super funciona con el NVIDIA JetPack SDK, que proporciona herramientas como CUDA para una computación más rápida y TensorRT para optimizar modelos de IA. Estas herramientas facilitan a los desarrolladores la creación y el despliegue de aplicaciones de IA de forma rápida y eficiente.

Benchmarks de rendimiento: Jetson Orin Nano Super frente a Orin NX 16GB#

Si conoces el trabajo de NVIDIA, puede que te preguntes cómo se compara este nuevo lanzamiento con el ya existente NVIDIA Jetson Orin NX 16GB (sin el modo super). Aunque el Jetson Orin NX ofrece capacidades generales superiores, el Jetson Orin Nano Super Developer Kit proporciona un rendimiento impresionante por una fracción del coste.

Fig 2. Un vistazo al ecosistema NVIDIA Jetson Orin.

Aquí tienes un resumen rápido:

• Rendimiento de IA: Jetson Orin Nano Super ofrece hasta 67 TOPS, lo cual es fantástico para la mayoría de tareas de edge AI, mientras que Jetson Orin NX ofrece hasta 100 TOPS para aplicaciones más exigentes.
• Memoria: Jetson Orin Nano Super incluye 8 GB de LPDDR5, suficiente para tareas en tiempo real, mientras que Orin NX la duplica a 16 GB para cargas de trabajo mayores.
• Eficiencia energética: Jetson Orin Nano Super es más eficiente energéticamente y configurable entre 7W y 25W, en comparación con las mayores demandas de energía del Jetson Orin NX.
• GPU: Ambos comparten la arquitectura NVIDIA Ampere con 1024 núcleos CUDA y 32 Tensor Cores para un rendimiento robusto de la GPU.

Ultralytics YOLO11 con Jetson Orin Nano Super: Llevando la IA de visión al edge#

Ahora que entendemos mejor el Jetson Orin Nano Super, veamos cómo YOLO11 puede intervenir para aportar capacidades de visión artificial al edge. Los modelos Ultralytics YOLO, incluido YOLO11, cuentan con modos versátiles como entrenamiento, predicción y exportación, haciéndolos adaptables a una variedad de flujos de trabajo de IA.

Por ejemplo, en el modo de entrenamiento, los Ultralytics YOLO models se pueden ajustar y entrenar con conjuntos de datos personalizados para aplicaciones específicas, como detectar objetos únicos u optimizar para entornos concretos. Del mismo modo, el modo de predicción está diseñado para la inferencia, permitiendo tareas de computer vision tasks en tiempo real. Por último, el modo de exportación se puede utilizar para convertir modelos a formatos optimizados para su despliegue.

Fig 3. Los Ultralytics YOLO models admiten varias características y modos.

Ultralytics YOLO11 en el modo export admite una serie de opciones de despliegue de modelos, que incluyen entre otras:

• NVIDIA TensorRT: Este formato está optimizado para GPUs NVIDIA, ofreciendo un alto rendimiento y una inferencia de baja latencia en el Jetson Orin Nano Super.
• ONNX (Open Neural Network Exchange): Garantiza la compatibilidad entre diversas plataformas, lo que lo hace versátil para diferentes ecosistemas de hardware y software.
• TorchScript: Este formato es ideal para aplicaciones basadas en PyTorch, facilitando una integración perfecta en los flujos de trabajo de PyTorch.
• TFLite (TensorFlow Lite): Un formato diseñado para despliegues de IA ligeros, lo que lo hace perfecto para sistemas móviles e incrustados.

Al utilizar estos formatos de despliegue, los desarrolladores pueden aprovechar al máximo el hardware de Jetson Orin Nano Super para ejecutar Ultralytics YOLO11 en aplicaciones en tiempo real como espacios inteligentes, robótica y automatización minorista.

Evaluación comparativa de Ultralytics YOLO11 en el NVIDIA Jetson Orin Nano Super#

A continuación, para hacerte una mejor idea de la velocidad a la que puede ejecutarse Ultralytics YOLO11 en el NVIDIA Jetson Orin Nano Super, vamos a explorar su impresionante rendimiento y pruebas de rendimiento utilizando formatos de exportación acelerados por GPU como PyTorch, ONNX y TensorRT. Estas pruebas revelan que el Jetson Orin Nano Super logra tiempos de inferencia con modelos de YOLO11 que son comparables a —y en ocasiones superan a— el ya existente Jetson Orin NX 16GB (sin el modo super).

Fig 4. Evaluación comparativa de Ultralytics YOLO11 en NVIDIA Jetson Orin Nano Super.

Lo que hace que esto sea aún más notable es la asequibilidad de Jetson Orin Nano Super. Al ofrecer dicho rendimiento a menos de la mitad del precio de Jetson Orin NX 16GB, proporciona un valor excepcional para los desarrolladores que crean aplicaciones de Ultralytics YOLO11 de alto rendimiento. Esta combinación de coste y rendimiento hace que Jetson Orin Nano Super sea una excelente opción para tareas de visión artificial en tiempo real en el edge.

Fig 5. Evaluación comparativa de Ultralytics YOLO11 en Jetson Orin NX 16GB.

Ponte manos a la obra con Ultralytics YOLO11 y NVIDIA Jetson Orin Nano Super#

Si te entusiasma empezar a desplegar Ultralytics YOLO11 en Jetson Orin Nano Super, hay buenas noticias: es un proceso sencillo. Después de flasear tu dispositivo con NVIDIA JetPack SDK, puedes utilizar una imagen de Docker precompilada para una configuración rápida o instalar manualmente los paquetes necesarios.

Para aquellos que buscan una integración más rápida y fluida, el contenedor Docker de JetPack 6 actualizado es la solución ideal. Un contenedor Docker es un entorno ligero y portátil que incluye todas las herramientas y dependencias necesarias para ejecutar software específico.

El contenedor de Ultralytics, optimizado para JetPack 6.1, viene precargado con CUDA 12.6, TensorRT 10.3 y herramientas esenciales como PyTorch y TorchVision, todo adaptado a la arquitectura ARM64 de Jetson. Al utilizar este contenedor, los desarrolladores pueden ahorrar tiempo en la configuración y centrarse en construir y optimizar sus vision AI applications con YOLO11.

Aplicaciones de Ultralytics YOLO11 en NVIDIA Jetson Orin Nano Super#

Para quienes buscan inspiración para su próximo proyecto de IA, hay potencial para aplicaciones de visión artificial basadas en el edge a nuestro alrededor.

En la vida cotidiana, la edge AI está redefiniendo los espacios inteligentes al permitir que los sistemas detecten y rastreen objetos en tiempo real, todo ello sin depender del procesamiento en la nube. Ya sea monitoreando el tráfico en una ciudad concurrida o identificando actividad inusual en espacios públicos, la visión artificial en el edge está mejorando la seguridad y la eficiencia.

Los comerciantes también están aprovechando la IA en el edge y la visión artificial. Desde comprobaciones automatizadas de inventario hasta la prevención de hurtos, modelos como Ultralytics YOLO11 permiten a las empresas desplegar soluciones en tiempo real directamente en las tiendas.

Del mismo modo, cuando se trata de la IA en la sanidad, el seguimiento basado en el edge garantiza la seguridad del paciente, detecta anomalías y mantiene el cumplimiento, todo ello sin retrasos causados por la dependencia de la nube. Con herramientas como Jetson Orin Nano Super y Ultralytics YOLO11, el futuro de la visión artificial se está desplegando justo en el edge, donde más se necesita.

Conclusiones clave#

Desplegar modelos Ultralytics YOLO como YOLO11 en el NVIDIA Jetson Orin Nano Super Developer Kit ofrece una solución fiable y eficiente para aplicaciones de edge AI. Con un rendimiento robusto de la GPU, compatibilidad fluida con PyTorch, ONNX y TensorRT, y unos benchmarks impresionantes, es muy adecuado para tareas de visión artificial en tiempo real como la detección y el seguimiento de objetos.

Las innovaciones y colaboraciones en tecnologías de vanguardia como la visión artificial y la aceleración por hardware están transformando nuestra forma de trabajar, permitiendo a los desarrolladores crear soluciones escalables y de alto rendimiento en el edge. A medida que la IA avanza, herramientas como Ultralytics YOLO11 y Jetson Orin Nano Super hacen que sea más fácil que nunca dar vida a soluciones inteligentes en tiempo real.

¿Tienes curiosidad por la IA? Visita nuestro GitHub repository para explorar nuestras contribuciones e interactuar con our community. Comprueba cómo utilizamos la IA para generar un impacto en sectores como la agricultura y la sanidad.