STMicroelectronics ejecuta Ultralytics YOLO en un MCU a solo 9,4 mJ por inferencia

A medida que aumenta la adopción de la IA en todos los sectores, crece la demanda de soluciones de alto rendimiento y bajo consumo capaces de ejecutar inferencias en tiempo real en el edge. Para responder a esta necesidad tecnológica, STMicroelectronics presentó el microcontrolador STM32N6, que cuenta con una Unidad de Procesamiento Neuronal (NPU) integrada diseñada para cargas de trabajo de IA embebida.

Al ejecutar Ultralytics YOLO models en el STM32N6, STMicroelectronics demostró que la Vision AI integrada, precisa y eficiente es posible en microcontroladores, abriendo nuevas oportunidades para la inteligencia escalable en el dispositivo en sectores como ciudades inteligentes, sanidad y electrónica de consumo.

Explorando la IA de visión para dispositivos de bajo consumo en el edge#

STMicroelectronics es un líder mundial en tecnología de semiconductores, con más de 50.000 empleados y más de 200.000 clientes en todo el mundo. Diseñan y fabrican chips que hacen posibles aplicaciones desde vehículos eléctricos y equipos industriales hasta dispositivos domésticos inteligentes y electrónica de consumo.

A medida que más sectores recurren a la IA para hacer que los dispositivos sean más inteligentes y receptivos, STMicroelectronics se ha centrado en llevar esas capacidades directamente al edge. Por ejemplo, su microcontrolador STM32N6, un chip potente y de bajo consumo, puede gestionar tareas de IA en el dispositivo como computer vision.

Para ayudar a los desarrolladores a crear aplicaciones de visión embebida en el STM32N6, STMicroelectronics buscó modelos flexibles y de alto rendimiento que pudieran ejecutarse eficientemente en un microcontrolador. Los modelos Ultralytics YOLO resultaron ser una gran elección, ofreciendo una combinación fiable de velocidad, precisión y facilidad de integración.

Las limitaciones de habilitar sistemas embebidos basados en IA#

Antes de que el concepto de Edge AI se aceptara ampliamente, los modelos de visión artificial se desarrollaban normalmente para ejecutarse en grandes sistemas centralizados, como servidores en la nube o GPUs (Unidades de Procesamiento Gráfico). Estas plataformas ofrecían las capacidades de computación necesarias para entrenar y desplegar modelos grandes, pero también introducían limitaciones como un alto consumo de energía, dependencia de la red, latencia y mayores costes operativos.

A medida que crecía el interés por implementar aplicaciones real-time applications más inteligentes en sectores como sanidad, electrónica de consumo y ciudades inteligentes, quedó claro que acercar el procesamiento de IA al lugar donde se generan los datos, en el propio dispositivo, era tanto una necesidad técnica como una oportunidad estratégica.

Sin embargo, ejecutar modelos de IA en microcontroladores de bajo consumo puede ser un reto. Estos dispositivos suelen tener una memoria, potencia de computación y capacidad energética limitadas, lo que dificulta el despliegue de modelos de visión complejos sin comprometer el rendimiento o la precisión.

STMicroelectronics necesitaba identificar un conjunto de modelos lo suficientemente versátiles para llevar capacidades de visión artificial fiables y en tiempo real a su microcontrolador STM32N6, sin exigir a los desarrolladores que simplificaran drásticamente sus modelos o flujos de trabajo. Su objetivo era ofrecer una IA en el dispositivo significativa manteniéndose dentro de las estrictas limitaciones de los sistemas embebidos.

Despliegue optimizado de modelos YOLO en microcontroladores#

Para habilitar IA avanzada en dispositivos embebidos de bajo consumo, STMicroelectronics presentó el STM32N6, un microcontrolador de alto rendimiento equipado con el Neural-ART Accelerator™. Se trata de una Unidad de Procesamiento Neuronal (NPU) interna creada específicamente para cargas de trabajo de IA en el edge. Esta tecnología permite a los desarrolladores ejecutar inferencias de IA directamente en el dispositivo, reduciendo la dependencia de la computación en la nube a la vez que mejora la velocidad, la capacidad de respuesta y la eficiencia energética.

STMicroelectronics se asoció con Ultralytics para evaluar y mostrar las capacidades del STM32N6 ejecutando modelos Ultralytics YOLO en el microcontrolador. Conocidos por su equilibrio entre velocidad y precisión, los modelos Ultralytics YOLO son muy adecuados para entornos con recursos limitados y despliegues embebidos.

Fig 1. Un ejemplo de ejecución de un modelo Ultralytics YOLO en el STM32N6.

Al ejecutar varias variantes de modelos YOLO directamente en el STM32N6, STMicroelectronics pudo demostrar una serie de casos de uso de Vision AI, como object detection, clasificación y seguimiento, todo ello dentro de los límites de energía y memoria de un microcontrolador. Esta colaboración proporciona a los desarrolladores una opción fiable para implementar sistemas integrados basados en IA en tiempo real utilizando modelos de visión escalables y listos para producción.

¿Por qué elegir los modelos Ultralytics YOLO?#

Los modelos Ultralytics YOLO ofrecieron a STMicroelectronics la combinación adecuada de precisión, eficiencia y versatilidad necesaria para sistemas embebidos habilitados para IA. Los modelos son lo suficientemente ligeros como para ejecutarse en microcontroladores de bajo consumo como el STM32N6, y a la vez lo suficientemente potentes para ofrecer un rendimiento de detección de objetos y segmentación de instancias en tiempo real.

Por ejemplo, al ejecutar el modelo Ultralytics YOLOv8n a una resolución de 256 por 256 en el STM32N6, el sistema alcanzó 34 fotogramas por segundo y cada inferencia tardó unos 29 milisegundos. Las mediciones de energía mostraron que consumía solo 9.4 millijoules per inference, lo que lo hace muy adecuado para tareas de visión en tiempo real en dispositivos de bajo consumo.

Con soporte para múltiples variantes de modelos YOLO, los desarrolladores tienen la flexibilidad de ajustar la velocidad, el tamaño o la precisión según las limitaciones de su aplicación. La arquitectura fácil de integrar, combinada con el sólido soporte de la comunidad y la documentación, hizo que Ultralytics YOLO encajara de forma natural con el objetivo de STMicroelectronics de acelerar la adopción de la IA de visión en una amplia gama de casos de uso embebidos.

A través de una Ultralytics Enterprise license, STMicroelectronics ofrece a los clientes acceso a todo el conjunto de modelos YOLO para pruebas internas y desarrollo. Sin embargo, para cualquier implementación comercial, se requiere que los clientes soliciten su propia licencia comercial directamente a Ultralytics a través del formulario de licencia. Esto garantiza el cumplimiento y respalda un camino escalable hacia soluciones de Vision AI listas para producción.

Desde ciudades inteligentes a la sanidad: IA en el edge escalable en acción#

La capacidad de ejecutar modelos Ultralytics YOLO directamente en el microcontrolador STM32N6 ha desbloqueado una amplia gama de aplicaciones de IA de visión para STMicroelectronics y su ecosistema de desarrolladores. Al ofrecer una inferencia rápida y precisa en el dispositivo sin depender de procesamiento externo o conectividad en la nube, esta solución hace posible desplegar funciones inteligentes en sistemas compactos de bajo consumo.

Los clientes están explorando casos de uso en sectores como la detección en tiempo real de peatones y vehículos en infraestructuras de ciudades inteligentes, controles de seguridad en el dispositivo y control de calidad en automatización industrial, y diagnósticos asistidos por IA en herramientas sanitarias portátiles. Del mismo modo, en el ámbito de la electrónica de consumo, los modelos YOLO permiten funciones responsivas como la detección de presencia, el reconocimiento de gestos y el object tracking, todo ello dentro de las limitaciones de rendimiento de los dispositivos que funcionan con batería.

Construyendo las soluciones de IA de visión del mañana hoy#

A medida que la IA sigue evolucionando, STMicroelectronics se centra en facilitar la incorporación de soluciones potentes y eficientes a los dispositivos del edge. Al trabajar estrechamente con socios como Ultralytics, están ayudando a los desarrolladores a empezar más rápido con modelos listos para usar, herramientas y recursos compatibles con STM32.

Da el siguiente paso en la innovación de edge AI. Visita nuestro GitHub repository para descubrir cómo los modelos Ultralytics YOLO están transformando la visión integrada. Explora las aplicaciones de AI in healthcare y computer vision in retail, ¡y consulta nuestras licensing options hoy mismo!