STMicroelectronics ejecuta Ultralytics YOLO en un MCU a solo 9,4 mJ por inferencia
Descubre cómo STMicroelectronics implementa eficientemente modelos de Ultralytics YOLO en microcontroladores de baja potencia para lograr una inferencia precisa en tiempo real en el borde.
Problem
STMicroelectronics necesitaba superar las limitaciones de potencia de procesamiento, energía y coste para habilitar una nueva clase de casos de uso de visión artificial en el edge, ofreciendo resultados de alto rendimiento a una fracción del coste y consumo energético de las soluciones existentes.
Solution
Ultralytics y STMicroelectronics colaboraron para desplegar eficientemente modelos YOLO en microcontroladores de bajo consumo y lograr una inferencia precisa en tiempo real en el edge.
A medida que aumenta la adopción de la IA en todos los sectores, crece la demanda de soluciones de alto rendimiento y bajo consumo capaces de ejecutar inferencias en tiempo real en el edge. Para responder a esta necesidad tecnológica, STMicroelectronics presentó el microcontrolador STM32N6, que cuenta con una Unidad de Procesamiento Neuronal (NPU) integrada diseñada para cargas de trabajo de IA embebida.
Al ejecutar modelos Ultralytics YOLO en el STM32N6, STMicroelectronics demostró que la IA de visión embebida, precisa y eficiente, es posible en microcontroladores, abriendo nuevas oportunidades para una inteligencia escalable en el dispositivo en sectores como ciudades inteligentes, sanidad y electrónica de consumo.
Link to this sectionExplorando la IA de visión para dispositivos de bajo consumo en el edge#
STMicroelectronics es un líder mundial en tecnología de semiconductores, con más de 50.000 empleados y más de 200.000 clientes en todo el mundo. Diseñan y fabrican chips que hacen posibles aplicaciones desde vehículos eléctricos y equipos industriales hasta dispositivos domésticos inteligentes y electrónica de consumo.
A medida que más industrias recurren a la IA para hacer que los dispositivos sean más inteligentes y sensibles, STMicroelectronics se ha centrado en llevar esas capacidades directamente al edge. Por ejemplo, su microcontrolador STM32N6, un chip potente y eficiente energéticamente, puede gestionar tareas de IA en el dispositivo como la visión artificial.
Para ayudar a los desarrolladores a crear aplicaciones de visión embebida en el STM32N6, STMicroelectronics buscó modelos flexibles y de alto rendimiento que pudieran ejecutarse eficientemente en un microcontrolador. Los modelos Ultralytics YOLO resultaron ser una gran elección, ofreciendo una combinación fiable de velocidad, precisión y facilidad de integración.
Link to this sectionLas limitaciones de habilitar sistemas embebidos basados en IA#
Antes de que el concepto de Edge AI se aceptara ampliamente, los modelos de visión artificial se desarrollaban normalmente para ejecutarse en grandes sistemas centralizados, como servidores en la nube o GPUs (Unidades de Procesamiento Gráfico). Estas plataformas ofrecían las capacidades de computación necesarias para entrenar y desplegar modelos grandes, pero también introducían limitaciones como un alto consumo de energía, dependencia de la red, latencia y mayores costes operativos.
A medida que crecía el interés por implementar aplicaciones en tiempo real más inteligentes en industrias como la sanidad, la electrónica de consumo y las ciudades inteligentes, quedó claro que acercar el procesamiento de IA al lugar donde se generan los datos, en el propio dispositivo, era tanto una necesidad técnica como una oportunidad estratégica.
Sin embargo, ejecutar modelos de IA en microcontroladores de bajo consumo puede ser un reto. Estos dispositivos suelen tener una memoria, potencia de computación y capacidad energética limitadas, lo que dificulta el despliegue de modelos de visión complejos sin comprometer el rendimiento o la precisión.
STMicroelectronics necesitaba identificar un conjunto de modelos lo suficientemente versátiles para llevar capacidades de visión artificial fiables y en tiempo real a su microcontrolador STM32N6, sin exigir a los desarrolladores que simplificaran drásticamente sus modelos o flujos de trabajo. Su objetivo era ofrecer una IA en el dispositivo significativa manteniéndose dentro de las estrictas limitaciones de los sistemas embebidos.
Link to this sectionDespliegue optimizado de modelos YOLO en microcontroladores#
Para habilitar IA avanzada en dispositivos embebidos de bajo consumo, STMicroelectronics presentó el STM32N6, un microcontrolador de alto rendimiento equipado con el Neural-ART Accelerator™. Se trata de una Unidad de Procesamiento Neuronal (NPU) interna creada específicamente para cargas de trabajo de IA en el edge. Esta tecnología permite a los desarrolladores ejecutar inferencias de IA directamente en el dispositivo, reduciendo la dependencia de la computación en la nube a la vez que mejora la velocidad, la capacidad de respuesta y la eficiencia energética.
STMicroelectronics se asoció con Ultralytics para evaluar y mostrar las capacidades del STM32N6 ejecutando modelos Ultralytics YOLO en el microcontrolador. Conocidos por su equilibrio entre velocidad y precisión, los modelos Ultralytics YOLO son muy adecuados para entornos con recursos limitados y despliegues embebidos.
Fig 1. Un ejemplo de ejecución de un modelo Ultralytics YOLO en el STM32N6.
Al ejecutar varias variantes de modelos YOLO directamente en el STM32N6, STMicroelectronics pudo demostrar una gama de casos de uso de IA de visión, como la detección de objetos, clasificación y seguimiento, todo ello dentro de los límites de potencia y memoria de un microcontrolador. Esta colaboración proporciona a los desarrolladores una opción fiable para desplegar sistemas embebidos basados en IA en tiempo real utilizando modelos de visión escalables y listos para producción.
Link to this section¿Por qué elegir los modelos Ultralytics YOLO?#
Los modelos Ultralytics YOLO ofrecieron a STMicroelectronics la combinación adecuada de precisión, eficiencia y versatilidad necesaria para sistemas embebidos habilitados para IA. Los modelos son lo suficientemente ligeros como para ejecutarse en microcontroladores de bajo consumo como el STM32N6, y a la vez lo suficientemente potentes para ofrecer un rendimiento de detección de objetos y segmentación de instancias en tiempo real.
Por ejemplo, al ejecutar el modelo Ultralytics YOLOv8n a una resolución de 256 por 256 en el STM32N6, el sistema alcanzó 34 fotogramas por segundo con cada inferencia tardando unos 29 milisegundos. Las mediciones de energía mostraron que utilizó solo 9,4 miljulios por inferencia, lo que lo hace muy adecuado para tareas de visión en tiempo real en dispositivos de bajo consumo.
Con soporte para múltiples variantes de modelos YOLO, los desarrolladores tienen la flexibilidad de ajustar la velocidad, el tamaño o la precisión según las limitaciones de su aplicación. La arquitectura fácil de integrar, combinada con el sólido soporte de la comunidad y la documentación, hizo que Ultralytics YOLO encajara de forma natural con el objetivo de STMicroelectronics de acelerar la adopción de la IA de visión en una amplia gama de casos de uso embebidos.
A través de una licencia Ultralytics Enterprise, STMicroelectronics proporciona a los clientes acceso a la suite completa de modelos YOLO para pruebas internas y desarrollo. Sin embargo, para cualquier despliegue comercial, los clientes deben solicitar su propia licencia comercial directamente a Ultralytics a través del formulario de licencia. Esto garantiza el cumplimiento y apoya una ruta escalable hacia soluciones de IA de visión listas para producción.
Link to this sectionDesde ciudades inteligentes a la sanidad: IA en el edge escalable en acción#
La capacidad de ejecutar modelos Ultralytics YOLO directamente en el microcontrolador STM32N6 ha desbloqueado una amplia gama de aplicaciones de IA de visión para STMicroelectronics y su ecosistema de desarrolladores. Al ofrecer una inferencia rápida y precisa en el dispositivo sin depender de procesamiento externo o conectividad en la nube, esta solución hace posible desplegar funciones inteligentes en sistemas compactos de bajo consumo.
Los clientes están explorando casos de uso en sectores como la detección de peatones y vehículos en tiempo real en infraestructuras de ciudades inteligentes, comprobaciones de seguridad y control de calidad en el dispositivo en la automatización industrial, y diagnósticos asistidos por IA en herramientas sanitarias portátiles. Del mismo modo, en el ámbito de la electrónica de consumo, los modelos YOLO permiten funciones de respuesta como la detección de presencia, el reconocimiento de gestos y el seguimiento de objetos, todo ello dentro de las limitaciones de rendimiento de los dispositivos que funcionan con batería.
Link to this sectionConstruyendo las soluciones de IA de visión del mañana hoy#
A medida que la IA sigue evolucionando, STMicroelectronics se centra en facilitar la incorporación de soluciones potentes y eficientes a los dispositivos del edge. Al trabajar estrechamente con socios como Ultralytics, están ayudando a los desarrolladores a empezar más rápido con modelos listos para usar, herramientas y recursos compatibles con STM32.
Da el siguiente paso en la innovación de la IA en el edge. Visita nuestro repositorio de GitHub para descubrir cómo los modelos Ultralytics YOLO están transformando la visión embebida. Explora aplicaciones de IA en sanidad y visión artificial en el comercio minorista, ¡y echa un vistazo a nuestras opciones de licencia hoy mismo!
