Despliega sin problemas Ultralytics YOLO11 usando la integración MNN

Hoy en día, las innovaciones en IA han ido más allá de los entornos de servidores remotos. Las soluciones de IA se están integrando en dispositivos periféricos (edge) como sensores y teléfonos inteligentes. Gracias a este cambio tecnológico, los datos ahora pueden procesarse directamente donde se generan, lo que permite respuestas más rápidas, una mayor privacidad y una menor dependencia de una conexión constante a la nube.

Como resultado, la edge AI está ganando terreno en muchas industrias. Se espera que el mercado de software de edge AI alcance los 8.880 millones de dólares para 2031 a medida que más sistemas se inclinen hacia un procesamiento más rápido y local.

En particular, la visión artificial, una rama de la IA que se centra en comprender imágenes y vídeos, se está adoptando rápidamente en el borde (edge). Desde el recuento de alimentos a medida que se empaquetan hasta ayudar a los vehículos a detectar peatones, la visión artificial admite innumerables aplicaciones prácticas en diferentes sectores.

Esto es posible gracias a los modelos de visión artificial. Por ejemplo, Ultralytics YOLO11 es un modelo que admite varias tareas de visión artificial como la detección de objetos, la segmentación de instancias, el seguimiento de objetos y la estimación de poses. Está diseñado para ser rápido y eficiente, y funciona bien en dispositivos con recursos de hardware limitados.

Fig 1. Detección y seguimiento de alimentos durante el envasado utilizando YOLO11 (Fuente).

Además de ser adecuado para el despliegue en el borde, mediante diversas integraciones admitidas por Ultralytics, YOLO11 puede exportarse a varios formatos adecuados para diferentes entornos de hardware.

Una de las opciones más eficientes es MNN (Mobile Neural Network), un motor de inferencia ligero diseñado para dispositivos de bajos recursos. Exportar YOLO11 a MNN permite ejecutarlo directamente en teléfonos móviles, sistemas embebidos y otras plataformas de borde donde es esencial un procesamiento rápido en el propio dispositivo.

En este artículo, exploraremos cómo funciona la integración con MNN, destacaremos casos de uso comunes y veremos cómo empezar a ejecutar inferencias utilizando un modelo YOLO11 exportado. ¡Empecemos!

Link to this sectionUna visión general de MNN: un framework de aprendizaje profundo#

Ejecutar modelos de visión artificial en dispositivos más pequeños como teléfonos móviles, sensores industriales y sistemas portátiles no siempre es sencillo. Estos dispositivos a menudo tienen memoria limitada, procesadores más lentos y límites estrictos de consumo de energía.

La Mobile Neural Network, o MNN, es un motor de inferencia ligero y de alto rendimiento desarrollado por Alibaba para hacer que los modelos de IA se ejecuten de manera eficiente en hardware de bajos recursos mientras se mantiene un rendimiento en tiempo real. MNN admite una amplia gama de plataformas, incluyendo Android, iOS y Linux, y funciona en diversos tipos de hardware como unidades centrales de procesamiento (CPUs) y unidades de procesamiento gráfico (GPUs).

Fig 2. Un vistazo al framework MNN (Fuente).

La integración con MNN admitida por Ultralytics hace posible exportar modelos YOLO11 fácilmente al formato MNN. En pocas palabras, esto significa que los modelos pueden convertirse del formato YOLO a MNN.

Una vez convertidos, pueden desplegarse en dispositivos que admitan el framework MNN para una inferencia eficiente en el propio dispositivo. Un beneficio clave de usar el formato MNN es que simplifica el despliegue de YOLO11 en escenarios donde el tamaño, la velocidad y la eficiencia de los recursos son críticos.

Link to this sectionCaracterísticas clave del backend de inferencia MNN#

Antes de profundizar en cómo utilizar la integración con MNN, echemos un vistazo a lo que hace que el framework MNN sea una gran opción para ejecutar modelos de IA en dispositivos del mundo real. Está construido para manejar las limitaciones únicas de los entornos de borde mientras sigue ofreciendo un rendimiento rápido y fiable.

Curiosamente, MNN se utiliza internamente en Alibaba en más de 30 aplicaciones, incluyendo Taobao, Tmall, Youku, DingTalk y Xianyu, en una amplia gama de escenarios como vídeo en directo, contenido de formato corto, búsqueda de imágenes y comprobaciones de seguridad en el dispositivo. Admite el despliegue a gran escala y ejecuta millones de inferencias por día en entornos de producción.

Aquí tienes algunas de las características clave del framework MNN:

• Selección automática de backend: MNN puede elegir automáticamente el backend de ejecución más adecuado, como CPU o GPU, en función del hardware en el que se esté ejecutando.
• Ejecución multihilo: admite el multihilo, lo que le permite aprovechar al máximo los procesadores multinúcleo para una inferencia más rápida.
• Admite cuantización de modelos: te permite reducir el tamaño del modelo significativamente utilizando cuantización FP16 o INT8, ayudando a mejorar la velocidad de inferencia mientras utilizas menos memoria.
• Ligero y rápido: MNN tiene una huella muy pequeña, con la biblioteca principal de unos 400 KB en Android y unos 5 MB en iOS, lo que lo hace ideal para dispositivos móviles y embebidos.

Link to this sectionEntender cómo funciona la integración con MNN#

A continuación, veamos cómo exportar modelos YOLO11 al formato MNN.

El primer paso es instalar el paquete de Python de Ultralytics, que proporciona todo lo necesario para exportar modelos YOLO11 al formato MNN. Puedes hacerlo ejecutando "pip install ultralytics" en tu terminal o usando el símbolo del sistema. Si utilizas un Jupyter Notebook o Google Colab, añade un signo de exclamación antes del comando.

Si encuentras algún problema durante la instalación, consulta la guía de problemas comunes para obtener consejos de solución de problemas.

Una vez configurado tu entorno, puedes cargar un modelo YOLO11 preentrenado como "yolo11n.pt" y exportarlo al formato MNN como se muestra en el fragmento de código a continuación. Si has entrenado tu propio modelo YOLO11 personalizado, puedes exportarlo simplemente reemplazando el nombre del archivo con la ruta de tu modelo.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="mnn")

Después de convertir tu modelo a MNN, puedes usarlo en diferentes plataformas móviles y embebidas según las necesidades de tu aplicación.

Por ejemplo, supongamos que quieres probar el modelo exportado en un vídeo de tráfico. En ese caso, puedes cargar el modelo YOLO11 en formato MNN para detectar objetos como vehículos, peatones y señales de tráfico directamente en el dispositivo, como se muestra en el ejemplo a continuación.

mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)

Cuando la inferencia se completa, el vídeo de salida con los objetos detectados se guarda automáticamente en la carpeta 'runs/detect/predict'. Además, si quieres ejecutar la inferencia utilizando el paquete de Python de MNN directamente, puedes consultar la documentación oficial de Ultralytics para obtener más detalles y ejemplos.

Fig 3. Análisis de tráfico utilizando un modelo YOLO11 exportado al formato MNN. Imagen del autor.

Link to this sectionCasos de uso del despliegue de modelos de edge AI habilitado por YOLO11 y MNN#

Desplegar YOLO11 con MNN permite realizar tareas de visión artificial rápidas y eficientes, como la detección de objetos, en entornos donde el procesamiento basado en la nube no es práctico o posible. Veamos cómo esta integración puede ser especialmente útil en escenarios del mundo real.

Link to this sectionEdge AI móvil para la identificación de enfermedades en plantas#

Las aplicaciones de identificación de enfermedades en plantas que utilizan clasificación de imágenes están ganando popularidad entre jardineros, investigadores y entusiastas de la naturaleza. Con solo una foto, los usuarios pueden identificar rápidamente los signos tempranos de enfermedad, como manchas en las hojas o decoloración. Dado que estas aplicaciones se utilizan a menudo en áreas al aire libre donde el acceso a internet puede ser limitado o no estar disponible, depender del procesamiento en la nube puede no ser fiable.

Después del entrenamiento, un modelo YOLO11 puede exportarse al formato MNN y ejecutarse directamente en dispositivos móviles. El modelo puede entonces clasificar especies de plantas y detectar síntomas visibles de enfermedad localmente, sin enviar ningún dato a un servidor.

Fig 4. Un ejemplo de uso de YOLO11 para detectar signos de roya (una enfermedad de las plantas) en una hoja (Fuente).

Link to this sectionInferencias eficientes en el propio dispositivo en la fabricación#

El seguimiento preciso de paquetes es esencial en las ajetreadas líneas de producción de las instalaciones de fabricación. YOLO11 se puede utilizar para rastrear y contar cada artículo a medida que pasa por puntos de control clave, actualizando los recuentos en tiempo real y marcando cualquier discrepancia. Esto ayuda a reducir los envíos perdidos o sin contabilizar y respalda operaciones más fluidas y fiables.

Fig 5. Seguimiento y recuento de paquetes usando YOLO11 (Fuente).

La integración con MNN puede ser especialmente impactante en este contexto. Una vez que el modelo YOLO11 se exporta al formato MNN, puede ejecutarse directamente en dispositivos compactos de bajo consumo instalados a lo largo de la cinta transportadora.

Debido a que todo el procesamiento ocurre localmente, el sistema puede ofrecer información instantánea y no requiere conexión a internet. Esto garantiza un rendimiento rápido y fiable en la planta de producción, manteniendo la producción en movimiento de manera eficiente mientras se mantiene una alta precisión y control.

Link to this sectionVentajas de exportar YOLO11 al formato de modelo MNN#

Aquí tienes algunos beneficios clave de la integración con MNN proporcionada por Ultralytics:

• Tiempos de respuesta más rápidos: dado que la inferencia se ejecuta en el dispositivo, las predicciones ocurren en tiempo real con una latencia mínima.
• Mejora de la privacidad de los datos: los datos permanecen en el dispositivo, reduciendo la necesidad de enviar imágenes o vídeos confidenciales a la nube.
• De código abierto y mantenido activamente: respaldado por Alibaba y con el apoyo de una comunidad activa, MNN es fiable y se actualiza regularmente con mejoras de rendimiento.

Link to this sectionFactores a considerar al utilizar el framework MNN#

Antes de elegir MNN como tu framework de despliegue, también es importante evaluar qué tan bien se ajusta a los requisitos de tu proyecto, los objetivos de despliegue y las limitaciones técnicas. Aquí tienes algunos factores clave a considerar:

• Compatibilidad continua: las actualizaciones del framework o los cambios en tus plataformas objetivo podrían requerir nuevas pruebas o ajustes para mantener todo funcionando sin problemas.
• Menos herramientas de depuración: en comparación con frameworks más grandes, MNN tiene herramientas más limitadas para depurar e inspeccionar el comportamiento del modelo, lo que puede dificultar la resolución de problemas.
• El rendimiento depende del hardware: la velocidad y la eficiencia de tu modelo variarán según el dispositivo. Prueba tu hardware objetivo para asegurarte de que cumple con tus objetivos de rendimiento.

Link to this sectionConclusiones clave#

El soporte de Ultralytics para la integración con MNN facilita la exportación de modelos YOLO11 para su uso en dispositivos móviles y embebidos. Es una opción práctica para aplicaciones que requieren una detección rápida y fiable sin depender del acceso a la nube o de una conectividad constante.

Esta configuración ayuda a agilizar el despliegue mientras se mantiene el rendimiento y se mantienen bajas las demandas de recursos. Tanto si estás construyendo sistemas de hogar inteligente, herramientas de campo o dispositivos industriales compactos, exportar YOLO11 a MNN proporciona una forma flexible y eficiente de ejecutar tareas de visión artificial directamente en dispositivos de borde.

¡Únete a nuestra creciente comunidad! Explora nuestro repositorio de GitHub para profundizar en la IA. ¿Estás listo para comenzar tus proyectos de visión artificial? Consulta nuestras opciones de licencia. ¡Descubre más sobre IA en el cuidado de la salud y visión artificial en el comercio minorista en nuestras páginas de soluciones!