Implementación de Ultralytics YOLO11 en Rockchip para una Edge AI eficiente

Un término de moda reciente en la comunidad de la IA es la IA periférica, especialmente cuando se trata de la visión artificial. A medida que crecen las aplicaciones impulsadas por IA, aumenta la necesidad de ejecutar modelos de forma eficiente en dispositivos integrados con recursos de energía y computación limitados.

Por ejemplo, los drones utilizan IA de visión para la navegación en tiempo real, las cámaras inteligentes detectan objetos al instante y los sistemas de automatización industrial realizan controles de calidad sin depender de la computación en la nube. Estas aplicaciones requieren un procesamiento de IA rápido y eficiente directamente en dispositivos periféricos para garantizar un rendimiento en tiempo real y una baja latencia. Sin embargo, ejecutar modelos de IA en dispositivos periféricos no siempre es fácil. Los modelos de IA suelen requerir más energía y memoria de la que muchos dispositivos periféricos pueden proporcionar.

El RKNN Toolkit de Rockchip ayuda a resolver este problema optimizando modelos de aprendizaje profundo para dispositivos basados en Rockchip. Utiliza unidades de procesamiento neuronal (NPUs) dedicadas para acelerar la inferencia y reducir la latencia y el consumo energético en comparación con el procesamiento mediante CPU o GPU.

La comunidad de la IA de visión estaba deseando ejecutar Ultralytics YOLO11 en dispositivos basados en Rockchip, y te hemos escuchado. Hemos añadido compatibilidad con la exportación de YOLO11 al formato de modelo RKNN. En este artículo veremos cómo funciona la exportación a RKNN y por qué desplegar YOLO11 en dispositivos basados en Rockchip supone un cambio radical.

¿Qué son Rockchip y el RKNN Toolkit?#

Rockchip es una empresa que diseña sistemas en chip (SoCs): procesadores diminutos pero potentes que hacen funcionar muchos dispositivos integrados. Estos chips combinan una CPU, una GPU y una unidad de procesamiento neuronal (NPU) para encargarse de todo, desde tareas informáticas generales hasta aplicaciones de IA de visión basadas en la detección de objetos y el procesamiento de imágenes.

Los SoCs de Rockchip se utilizan en una gran variedad de dispositivos, como ordenadores de placa única (SBCs), placas de desarrollo, sistemas de IA industriales y cámaras inteligentes. Muchos fabricantes de hardware conocidos, como Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas y Banana Pi, fabrican dispositivos basados en SoCs de Rockchip. Estas placas son populares para aplicaciones de IA periférica y visión artificial porque ofrecen un equilibrio entre rendimiento, eficiencia energética y precio.

Fig. 1 Un ejemplo de dispositivo basado en Rockchip.

Para ayudar a que los modelos de IA se ejecuten de forma eficiente en estos dispositivos, Rockchip proporciona el RKNN (Red neuronal de Rockchip) Toolkit. Permite a los desarrolladores convertir y optimizar modelos de aprendizaje profundo para utilizar las unidades de procesamiento neuronal (NPUs) de Rockchip.

Los modelos RKNN están optimizados para la inferencia de baja latencia y un uso eficiente de la energía. Al convertir los modelos a RKNN, los desarrolladores pueden conseguir velocidades de procesamiento más rápidas, un menor consumo energético y una mayor eficiencia en dispositivos basados en Rockchip.

Los modelos RKNN están optimizados#

Veamos más de cerca cómo los modelos RKNN mejoran el rendimiento de la IA en dispositivos compatibles con Rockchip.

A diferencia de las CPU y las GPU, que gestionan una amplia variedad de tareas informáticas, las NPU de Rockchip están diseñadas específicamente para el aprendizaje profundo. Al convertir los modelos de IA al formato RKNN, los desarrolladores pueden ejecutar inferencias directamente en la NPU. Esto hace que los modelos RKNN sean especialmente útiles para tareas de visión artificial en tiempo real, donde es esencial un procesamiento rápido y eficiente.

Las NPU son más rápidas y eficientes que las CPU y las GPU para las tareas de IA porque están diseñadas para gestionar cálculos de redes neuronales en paralelo. Mientras que las CPU procesan las tareas paso a paso y las GPU distribuyen las cargas de trabajo entre varios núcleos, las NPU están optimizadas para realizar cálculos específicos de IA de forma más eficiente.

Como resultado, los modelos RKNN se ejecutan más rápido y consumen menos energía, por lo que son ideales para dispositivos alimentados por batería, cámaras inteligentes, automatización industrial y otras aplicaciones de IA periférica que requieren toma de decisiones en tiempo real.

Descripción general de los modelos Ultralytics YOLO#

Los modelos Ultralytics YOLO (Solo miras una vez) están diseñados para tareas de visión artificial en tiempo real, como la detección de objetos, la segmentación de instancias y la clasificación de imágenes. Son conocidos por su velocidad, precisión y eficiencia, y se utilizan ampliamente en sectores como la agricultura, la fabricación, la sanidad y los sistemas autónomos.

Estos modelos han mejorado considerablemente con el tiempo. Por ejemplo, Ultralytics YOLOv5 facilitó el uso de la detección de objetos con PyTorch. Después, Ultralytics YOLOv8 añadió nuevas funciones, como la estimación de pose y la clasificación de imágenes. Ahora, YOLO11 va un paso más allá al aumentar la precisión y utilizar menos recursos. De hecho, YOLO11m ofrece un mejor rendimiento en el conjunto de datos COCO utilizando un 22 % menos de parámetros que YOLOv8m, lo que lo hace más preciso y eficiente.

Fig. 2. Detección de objetos mediante Ultralytics YOLO11.

Los modelos Ultralytics YOLO también admiten la exportación a varios formatos, lo que permite un despliegue flexible en distintas plataformas. Estos formatos incluyen ONNX, TensorRT, CoreML y OpenVINO, y ofrecen a los desarrolladores libertad para optimizar el rendimiento según el hardware de destino.

Con la compatibilidad añadida para exportar YOLO11 al formato de modelo RKNN, YOLO11 puede aprovechar ahora las NPU de Rockchip. El modelo más pequeño, YOLO11n en formato RKNN, alcanza un impresionante tiempo de inferencia de 99,5 ms por imagen, lo que permite el procesamiento en tiempo real incluso en dispositivos integrados.

Exportación de tu modelo Ultralytics YOLO11 al formato RKNN#

Actualmente, los modelos de detección de objetos Ultralytics YOLO11 se pueden exportar al formato RKNN. Además, permanece atento: estamos trabajando para añadir compatibilidad con las demás tareas de visión artificial y la cuantización INT8 en futuras actualizaciones.

Exportar Ultralytics YOLO11 al formato RKNN es un proceso sencillo. Puedes cargar tu modelo YOLO11 entrenado con datos personalizados, especificar la plataforma Rockchip de destino y convertirlo al formato RKNN con unas pocas líneas de código. El formato RKNN es compatible con varios SoCs de Rockchip, incluidos RK3588, RK3566 y RK3576, lo que garantiza una amplia compatibilidad de hardware.

Fig. 3. Exportación de Ultralytics YOLO11 al formato de modelo RKNN.

Despliegue de Ultralytics YOLO11 en dispositivos basados en Rockchip#

Una vez exportado, el modelo RKNN se puede desplegar en dispositivos basados en Rockchip. Para desplegarlo, solo tienes que cargar el archivo RKNN exportado en tu dispositivo Rockchip y ejecutar la inferencia, es decir, utilizar el modelo de IA entrenado para analizar nuevas imágenes o vídeos y detectar objetos en tiempo real. Con solo unas pocas líneas de código, puedes empezar a identificar objetos en imágenes o secuencias de vídeo.

Fig. 4. Ejecución de una inferencia mediante el modelo RKNN exportado.

Aplicaciones de IA periférica de Ultralytics YOLO11 y Rockchip#

Para hacerte una mejor idea de dónde se puede desplegar Ultralytics YOLO11 en dispositivos compatibles con Rockchip en el mundo real, repasemos algunas aplicaciones clave de IA periférica.

Los procesadores Rockchip se utilizan ampliamente en tabletas basadas en Android, placas de desarrollo y sistemas de IA industriales. Gracias a la compatibilidad con Android, Linux y Python, puedes crear y desplegar fácilmente soluciones impulsadas por IA de visión para diversos sectores.

Tabletas robustas integradas con Ultralytics YOLO11#

Una aplicación habitual que implica ejecutar Ultralytics YOLO11 en dispositivos basados en Rockchip son las tabletas robustas. Son tabletas duraderas y de alto rendimiento, diseñadas para entornos exigentes como almacenes, obras y entornos industriales. Estas tabletas pueden aprovechar la detección de objetos para mejorar la eficiencia y la seguridad.

Por ejemplo, en la logística de almacenes, los trabajadores pueden utilizar una tableta basada en Rockchip con YOLO11 para escanear y detectar automáticamente el inventario, reduciendo los errores humanos y acelerando los tiempos de procesamiento. Del mismo modo, en las obras, estas tabletas se pueden utilizar para detectar si los trabajadores llevan el equipo de seguridad obligatorio, como cascos y chalecos, ayudando a las empresas a hacer cumplir las normativas y prevenir accidentes.

Fig. 5 Detección de equipos de seguridad mediante Ultralytics YOLO11.

IA industrial para el control de calidad#

En lo que respecta a la fabricación y la automatización, las placas industriales basadas en Rockchip pueden desempeñar un papel importante en el control de calidad y la supervisión de procesos. Una placa industrial es un módulo informático compacto y de alto rendimiento diseñado para sistemas integrados en entornos industriales. Estas placas suelen incluir procesadores, memoria, interfaces de E/S y opciones de conectividad que permiten integrarlas con sensores, cámaras y maquinaria automatizada.

Ejecutar modelos Ultralytics YOLO11 en estas placas permite analizar las líneas de producción en tiempo real, detectar problemas al instante y mejorar la eficiencia. Por ejemplo, en la fabricación de automóviles, un sistema de IA que utilice hardware Rockchip y YOLO11 puede detectar arañazos, piezas mal alineadas o defectos de pintura mientras los vehículos avanzan por la línea de montaje. Al identificar estos defectos en tiempo real, los fabricantes pueden reducir los residuos, disminuir los costes de producción y garantizar estándares de calidad más altos antes de que los vehículos lleguen a los clientes.

Ventajas de ejecutar Ultralytics YOLO11 en dispositivos basados en Rockchip#

Los dispositivos basados en Rockchip ofrecen un buen equilibrio entre rendimiento, coste y eficiencia, por lo que son una excelente opción para desplegar Ultralytics YOLO11 en aplicaciones de IA periférica.

Estas son algunas ventajas de ejecutar Ultralytics YOLO11 en dispositivos basados en Rockchip:

• Mejor rendimiento de la IA: los dispositivos compatibles con Rockchip gestionan la inferencia de IA de forma más eficiente que las placas basadas en CPU, como Raspberry Pi, y ofrecen una detección de objetos más rápida y una menor latencia.
• Solución rentable: si estás experimentando con IA y necesitas una opción económica que siga ofreciendo un rendimiento potente, Rockchip es una excelente alternativa. Proporciona una forma asequible de ejecutar Ultralytics YOLO11 sin renunciar a la velocidad ni a la eficiencia.
• Eficiencia energética: ejecutar modelos de visión artificial en dispositivos basados en Rockchip consume menos energía que hacerlo en GPU, por lo que resulta ideal para dispositivos alimentados por batería y aplicaciones de IA integrada.

Conclusiones clave#

Ultralytics YOLO11 puede ejecutarse de forma eficiente en dispositivos basados en Rockchip aprovechando la aceleración por hardware y el formato RKNN. Esto reduce el tiempo de inferencia y mejora el rendimiento, por lo que resulta ideal para tareas de visión artificial en tiempo real y aplicaciones de IA periférica.

El RKNN Toolkit proporciona herramientas de optimización clave, como la cuantización y el ajuste fino, para garantizar que los modelos Ultralytics YOLO11 rindan bien en plataformas Rockchip. Optimizar los modelos para un procesamiento eficiente en el dispositivo será esencial a medida que crezca la adopción de la IA periférica. Con las herramientas y el hardware adecuados, los desarrolladores pueden abrir nuevas posibilidades para las soluciones de visión artificial en diversos sectores.

Únete a nuestra comunidad y explora nuestro repositorio de GitHub para obtener más información sobre la IA. Descubre cómo la visión artificial en la agricultura y la IA en la sanidad impulsan la innovación visitando nuestras páginas de soluciones. Además, consulta nuestras opciones de licencia para empezar a crear hoy mismo tus soluciones de IA de visión.