Despliega sin problemas Ultralytics YOLO11 usando la integración MNN

Hoy en día, las innovaciones en IA han ido más allá de los entornos de servidores remotos. Las soluciones de IA se están integrando en dispositivos periféricos (edge) como sensores y teléfonos inteligentes. Gracias a este cambio tecnológico, los datos ahora pueden procesarse directamente donde se generan, lo que permite respuestas más rápidas, una mayor privacidad y una menor dependencia de una conexión constante a la nube.

Como resultado, la edge AI está ganando terreno en muchas industrias. Se espera que el edge AI software market alcance los 8.880 millones de dólares para 2031 a medida que más sistemas avancen hacia un procesamiento más rápido y local.

En particular, la computer vision, una rama de la inteligencia artificial centrada en comprender imágenes y vídeos, se está adoptando rápidamente en el edge. Desde contar artículos de comida mientras se empaquetan hasta ayudar a los vehículos a detectar peatones, la computer vision admite innumerables aplicaciones prácticas en distintos sectores.

Esto es posible gracias a los modelos de computer vision. Por ejemplo, Ultralytics YOLO11 es un modelo que admite varias tareas de visión artificial como la detección de objetos, la segmentación de instancias, el seguimiento de objetos y la estimación de poses. Está diseñado para ser rápido y eficiente, y rinde bien en dispositivos con recursos de hardware limitados.

Fig. 1. Detección y seguimiento de alimentos en proceso de empaquetado utilizando Ultralytics YOLO11 (Fuente).

Además de ser adecuado para el despliegue en el edge, a través de varias integrations compatibles con Ultralytics, YOLO11 se puede exportar a varios formatos adecuados para diferentes entornos de hardware.

Una de las opciones más eficientes es MNN (Mobile Neural Network), un motor de inferencia ligero diseñado para dispositivos de bajos recursos. Exportar Ultralytics YOLO11 a MNN permite ejecutarlo directamente en teléfonos móviles, sistemas empotrados y otras plataformas de borde donde el procesamiento rápido en el dispositivo es esencial.

En este artículo, exploraremos cómo funciona la integración de MNN, destacaremos casos de uso comunes y explicaremos cómo empezar a realizar inferencias utilizando un modelo de Ultralytics YOLO11 exportado. ¡Empecemos!

Una visión general de MNN: un framework de aprendizaje profundo#

Ejecutar computer vision models en dispositivos más pequeños como teléfonos móviles, sensores industriales y sistemas portátiles no siempre es sencillo. Estos dispositivos suelen tener memoria limitada, procesadores más lentos y estrictos límites de energía.

La Mobile Neural Network, o MNN, es un motor de inferencia ligero y de alto rendimiento desarrollado por Alibaba para hacer que los modelos de IA se ejecuten de manera eficiente en hardware de bajos recursos mientras se mantiene un rendimiento en tiempo real. MNN admite una amplia gama de plataformas, incluyendo Android, iOS y Linux, y funciona en diversos tipos de hardware como unidades centrales de procesamiento (CPUs) y unidades de procesamiento gráfico (GPUs).

Fig 2. Un vistazo al marco MNN (Source).

La integración con MNN admitida por Ultralytics hace posible exportar modelos YOLO11 fácilmente al formato MNN. En pocas palabras, esto significa que los modelos pueden convertirse del formato YOLO a MNN.

Una vez convertidos, se pueden implementar en dispositivos que admiten el marco de trabajo MNN para una inferencia eficiente en el dispositivo. Un beneficio clave de usar el formato MNN es que simplifica la implementación de Ultralytics YOLO11 en escenarios donde el tamaño, la velocidad y la eficiencia de recursos son críticos.

Características clave del backend de inferencia MNN#

Antes de profundizar en cómo utilizar la integración con MNN, echemos un vistazo a lo que hace que el framework MNN sea una gran opción para ejecutar modelos de IA en dispositivos del mundo real. Está construido para manejar las limitaciones únicas de los entornos de borde mientras sigue ofreciendo un rendimiento rápido y fiable.

Curiosamente, MNN se utiliza internamente en Alibaba en más de 30 aplicaciones, incluyendo Taobao, Tmall, Youku, DingTalk y Xianyu, en una amplia gama de escenarios como vídeo en directo, contenido de formato corto, búsqueda de imágenes y comprobaciones de seguridad en el dispositivo. Admite el despliegue a gran escala y ejecuta millones de inferencias por día en entornos de producción.

Aquí tienes algunas de las características clave del framework MNN:

• Selección automática de backend: MNN puede elegir automáticamente el backend de ejecución más adecuado, como CPU o GPU, en función del hardware en el que se esté ejecutando.
• Multi-threaded execution: Admite multihilo, lo que le permite aprovechar al máximo los procesadores multinúcleo para una inferencia más rápida.
• Admite cuantización de modelos: te permite reducir el tamaño del modelo significativamente utilizando cuantización FP16 o INT8, ayudando a mejorar la velocidad de inferencia mientras utilizas menos memoria.
• Ligero y rápido: MNN tiene una huella muy pequeña, con la biblioteca principal de unos 400 KB en Android y unos 5 MB en iOS, lo que lo hace ideal para dispositivos móviles y embebidos.

Entender cómo funciona la integración con MNN#

A continuación, veremos cómo exportar modelos de Ultralytics YOLO11 al formato MNN.

El primer paso es instalar el Ultralytics Python package, que proporciona todo lo necesario para exportar modelos YOLO11 al formato MNN. Puedes hacerlo ejecutando "pip install ultralytics" en tu terminal o utilizando el símbolo del sistema. Si utilizas un Jupyter Notebook o Google Colab, añade un signo de exclamación antes del comando.

Si encuentras algún problema durante la instalación, consulta la Common Issues guide para obtener consejos de solución de problemas.

Una vez configurado tu entorno, puedes cargar un modelo YOLO11 preentrenado como "yolo11n.pt" y exportarlo al formato MNN como se muestra en el fragmento de código a continuación. Si has entrenado tu propio modelo YOLO11 personalizado, puedes exportarlo simplemente reemplazando el nombre del archivo con la ruta de tu modelo.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="mnn")

Después de convertir tu modelo a MNN, puedes usarlo en diferentes plataformas móviles y embebidas según las necesidades de tu aplicación.

Por ejemplo, supón que quieres probar el modelo exportado en un video de tráfico. En ese caso, puedes cargar el modelo de Ultralytics YOLO11 en formato MNN para detectar objetos como vehículos, peatones y señales de tráfico directamente en el dispositivo, como se muestra en el ejemplo siguiente.

mnn_model = YOLO("yolo11n.mnn")
results = mnn_model("https://videos.pexels.com/video-files/27783817/12223745_1920_1080_24fps.mp4", save=True)

Cuando finaliza la inferencia, el vídeo de salida con los objetos detectados se guarda automáticamente en la carpeta 'runs/detect/predict'. Asimismo, si deseas ejecutar la inferencia directamente utilizando el MNN Python package, puedes consultar la Ultralytics documentation oficial para obtener más detalles y ejemplos.

Fig. 3. Análisis de tráfico utilizando un modelo de Ultralytics YOLO11 exportado al formato MNN. Imagen del autor.

Casos de uso del despliegue de modelos de IA en el borde habilitados por Ultralytics YOLO11 y MNN#

Implementar Ultralytics YOLO11 con MNN permite realizar tareas de visión artificial rápidas y eficientes, como la detección de objetos, en entornos donde el procesamiento basado en la nube no es práctico ni posible. Veamos cómo esta integración puede ser especialmente útil en escenarios del mundo real.

Edge AI móvil para la identificación de enfermedades en plantas#

Las aplicaciones de identificación de enfermedades en plantas que utilizan la image classification están ganando popularidad entre jardineros, investigadores y entusiastas de la naturaleza. Con solo una foto, los usuarios pueden identificar rápidamente los primeros signos de enfermedad, como manchas en las hojas o decoloración. Como estas aplicaciones se suelen utilizar en zonas al aire libre donde el acceso a internet puede ser limitado o no estar disponible, depender del procesamiento en la nube puede no ser fiable.

Después del entrenamiento, un modelo de Ultralytics YOLO11 se puede exportar al formato MNN y ejecutar directamente en dispositivos móviles. El modelo puede entonces clasificar especies de plantas y detectar síntomas visibles de enfermedades localmente, sin enviar ningún dato a un servidor.

Fig 4. Un ejemplo de uso de YOLO11 para detectar signos de roya (una enfermedad de las plantas) en una hoja (Source).

Inferencias eficientes en el propio dispositivo en la fabricación#

El seguimiento preciso de paquetes es esencial en líneas de producción ajetreadas en instalaciones de fabricación. Ultralytics YOLO11 se puede utilizar para realizar el seguimiento y contar cada artículo a medida que pasa por puntos de control clave, actualizando los recuentos en tiempo real y señalando cualquier discrepancia. Esto ayuda a reducir los envíos perdidos o no contabilizados y respalda operaciones más fluidas y confiables.

Fig 5. Seguimiento y recuento de paquetes mediante YOLO11 (Source).

La integración de MNN puede tener un impacto especialmente fuerte en este contexto. Una vez que el modelo de Ultralytics YOLO11 se exporta al formato MNN, puede ejecutarse directamente en dispositivos compactos y de bajo consumo instalados a lo largo de la cinta transportadora.

Debido a que todo el procesamiento ocurre localmente, el sistema puede ofrecer información instantánea y no requiere conexión a internet. Esto garantiza un rendimiento rápido y fiable en la planta de producción, manteniendo la producción en movimiento de manera eficiente mientras se mantiene una alta precisión y control.

Ventajas de exportar Ultralytics YOLO11 al formato de modelo MNN#

Aquí tienes algunos beneficios clave de la integración con MNN proporcionada por Ultralytics:

• Tiempos de respuesta más rápidos: dado que la inferencia se ejecuta en el dispositivo, las predicciones ocurren en tiempo real con una latencia mínima.
• data privacy mejorada: Los datos permanecen en el dispositivo, lo que reduce la necesidad de enviar imágenes o vídeos sensibles a la nube.
• De código abierto y mantenido activamente: respaldado por Alibaba y con el apoyo de una comunidad activa, MNN es fiable y se actualiza regularmente con mejoras de rendimiento.

Factores a considerar al utilizar el framework MNN#

Antes de elegir MNN como tu framework de despliegue, también es importante evaluar qué tan bien se ajusta a los requisitos de tu proyecto, los objetivos de despliegue y las limitaciones técnicas. Aquí tienes algunos factores clave a considerar:

• Compatibilidad continua: las actualizaciones del framework o los cambios en tus plataformas objetivo podrían requerir nuevas pruebas o ajustes para mantener todo funcionando sin problemas.
• Menos herramientas de depuración: en comparación con frameworks más grandes, MNN tiene herramientas más limitadas para depurar e inspeccionar el comportamiento del modelo, lo que puede dificultar la resolución de problemas.
• El rendimiento depende del hardware: la velocidad y la eficiencia de tu modelo variarán según el dispositivo. Prueba tu hardware objetivo para asegurarte de que cumple con tus objetivos de rendimiento.

Conclusiones clave#

El soporte de Ultralytics para la integración con MNN facilita la exportación de modelos YOLO11 para su uso en dispositivos móviles y embebidos. Es una opción práctica para aplicaciones que requieren una detección rápida y fiable sin depender del acceso a la nube o de una conectividad constante.

Esta configuración ayuda a simplificar la implementación mientras se mantiene el rendimiento y se mantienen bajos los requisitos de recursos. Ya sea que estés construyendo sistemas de hogares inteligentes, herramientas de campo o dispositivos industriales compactos, exportar Ultralytics YOLO11 a MNN proporciona una forma flexible y eficiente de ejecutar tareas de visión artificial directamente en dispositivos de borde.

¡Únete a nuestra creciente community! Explora nuestro GitHub repository para profundizar en la inteligencia artificial. ¿Estás listo para iniciar tus proyectos de computer vision? Consulta nuestras licensing options. ¡Descubre más sobre la AI in healthcare y la computer vision in retail en nuestras páginas de soluciones!