Exportación de modelos Ultralytics YOLO11 al formato de modelo NCNN

Las soluciones de IA son cada vez más comunes, incluso en sectores de alto riesgo como la gestión de catástrofes, la gestión de residuos y la extinción de incendios. A medida que su adopción sigue creciendo, los modelos de IA se implementan en entornos más diversos: no solo en servidores o en la nube, sino directamente en dispositivos que operan sobre el terreno.

Por ejemplo, los drones y equipos con componentes edge impulsados por procesadores pequeños pueden desempeñar un papel crucial en zonas de catástrofe. Equipados con cámaras térmicas, estos dispositivos pueden recopilar y analizar datos in situ para localizar a personas atrapadas bajo los escombros. Esto es posible gracias a la visión por ordenador, una rama de la inteligencia artificial que interpreta información visual a partir de imágenes y vídeos.

Sin embargo, implementar modelos de IA de visión en dispositivos de borde no es tan sencillo como parece. Los modelos de IA deben optimizarse para ejecutarse de manera eficiente en hardware con potencia de cálculo y memoria limitadas. Por eso, marcos de trabajo (frameworks) de IA como NCNN son esenciales. Ayudan a convertir y optimizar modelos para lograr un rendimiento en tiempo real en dispositivos de bajo consumo sin sacrificar la precisión.

En concreto, los modelos Ultralytics YOLO como Ultralytics YOLO11 se pueden exportar fácilmente al formato de modelo NCNN utilizando la integración con NCNN compatible con Ultralytics. Convertir YOLO11 al formato de modelo NCNN permite que el modelo se ejecute más rápido, consuma menos memoria y funcione sin problemas en diferentes dispositivos sin perder precisión.

En este artículo, exploraremos la integración con NCNN compatible con Ultralytics y veremos paso a paso cómo puedes exportar tu modelo YOLO11 al formato de modelo NCNN. ¡Comencemos!

Una visión general de NCNN: Un marco de trabajo de redes neuronales ligero#

NCNN es un marco de trabajo de inferencia de redes neuronales de código abierto desarrollado por Tencent. Fue diseñado específicamente para entornos móviles y de borde, permitiendo una inferencia de alto rendimiento con una huella mínima. Esto lo hace ideal para implementaciones en dispositivos con recursos limitados como teléfonos inteligentes, drones y dispositivos IoT (Internet de las cosas).

El framework NCNN ha ganado popularidad en la comunidad de IA y deep learning debido a su eficiencia, portabilidad y optimización para CPUs móviles (Unidades Centrales de Procesamiento). Permite a los desarrolladores ejecutar modelos de redes neuronales en dispositivos económicos con memoria y potencia de procesamiento limitadas. Diseñado para ser sencillo y flexible, NCNN es compatible con una amplia gama de modelos de visión por ordenador y se ejecuta en múltiples plataformas, incluyendo Android, Linux, iOS y macOS.

Fig 1. Los modelos en formato NCNN se pueden implementar en muchas plataformas.

Características clave de la optimización del rendimiento de NCNN#

Aquí tienes algunas de las características clave que hacen de NCNN un marco de trabajo de inferencia de redes neuronales impactante y ampliamente utilizado:

• Entorno de ejecución ligero e independiente del hardware: El marco de trabajo NCNN está optimizado para ejecutar modelos en CPUs estándar y no requiere hardware especializado como GPUs (unidades de procesamiento gráfico) o NPUs (unidades de procesamiento neuronal).
• Cuantización de modelos: para aplicaciones donde la memoria y la velocidad son críticas, NCNN admite métodos de cuantización que reducen el tamaño del modelo y mejoran el tiempo de inferencia. Esto ayuda a ejecutar modelos de IA de forma fluida en dispositivos móviles y embebidos.
• Código abierto y accesible: Como marco de trabajo de código abierto, NCNN está disponible gratuitamente para que cualquiera pueda usarlo, modificarlo y mejorarlo. Esto fomenta la innovación y una amplia adopción en una variedad de casos de uso.
• Desarrollo activo y comunidad: NCNN cuenta con mantenimiento activo en GitHub por parte de Tencent y una comunidad de desarrolladores en crecimiento, con actualizaciones periódicas y mejoras en la compatibilidad de modelos.

Exportando Ultralytics YOLO11 al formato de modelo NCNN: Una guía rápida#

Ahora que hemos comentado qué es NCNN, vamos a ver con más detalle cómo exportar modelos de Ultralytics YOLO11 al formato NCNN.

Paso 1: Instala el paquete de Python de Ultralytics#

Antes de exportar el modelo, el primer paso es instalar el paquete Python de Ultralytics utilizando el instalador de paquetes pip. Esto se puede hacer ejecutando "pip install ultralytics" en tu terminal o símbolo del sistema. Si trabajas en un Jupyter Notebook o en Google Colab, añade un signo de exclamación antes del comando, así: "!pip install ultralytics".

El paquete Ultralytics proporciona herramientas para entrenar, probar, ajustar y exportar modelos de IA de visión para una variedad de tareas de visión por ordenador. Si te encuentras con algún problema durante la instalación o al exportar un modelo, la documentación oficial de Ultralytics y la guía de problemas comunes son excelentes recursos para la resolución de problemas.

Paso 2: Exportación de Ultralytics YOLO11#

Después de instalar el paquete de Ultralytics, puedes cargar tu modelo YOLO11 y exportarlo al formato NCNN. El ejemplo siguiente utiliza un modelo preentrenado ("yolo11n.pt") y lo exporta en formato NCNN, guardando el resultado en una carpeta llamada "/yolo11n_ncnn_model".

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="ncnn")

El modelo de Ultralytics YOLO11 exportado se puede desplegar en varios dispositivos ligeros, como smartphones, sistemas empotrados o plataformas de IoT. El proceso de despliegue también es muy optimizado.

Por ejemplo, considera el fragmento de código siguiente, que muestra cómo cargar el modelo exportado y ejecutar la inferencia. La inferencia se refiere al proceso de usar un modelo entrenado para realizar predicciones sobre datos nuevos y no vistos. En este ejemplo, el modelo se prueba con una imagen de un hombre montando en bicicleta, obtenida de una URL pública.

ncnn_model = YOLO("./yolo11n_ncnn_model")
results = ncnn_model("https://images.pexels.com/photos/19431209/pexels-photo-19431209/free-photo-of-a-man-riding-a-bike-on-a-road.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2.jpg", save=True)

Después de ejecutar el código, encontrarás la imagen resultante en la carpeta "runs/detect/predict".

Fig 2. Detección de objetos utilizando un modelo de Ultralytics YOLO11 exportado en formato NCNN. Imagen del autor.

¿Por qué elegir la detección en tiempo real con NCNN?#

A medida que explores las diversas integraciones que admite Ultralytics, es posible que notes que hay varias opciones de exportación disponibles. Entonces, ¿cuándo deberías elegir el formato NCNN?

El formato de exportación NCNN es una opción fiable cuando necesitas desplegar modelos de Ultralytics YOLO11 en dispositivos con recursos limitados. Es especialmente útil para aplicaciones en tiempo real que se ejecutan directamente en el dispositivo, como los dispositivos de borde, sin necesidad de conexión a la nube. Esto significa que el modelo puede gestionar tareas como la detección de objetos sobre el terreno.

Aquí tienes algunos escenarios comunes en los que NCNN encaja a la perfección:

• Implementación móvil: El formato NCNN está optimizado para Android e iOS, lo que facilita la integración de modelos en aplicaciones móviles para una inferencia rápida en el dispositivo con una latencia mínima.

• Sistemas embebidos y dispositivos IoT: Si estás implementando en dispositivos como Raspberry Pi o NVIDIA Jetson, exportar a NCNN puede ayudar a aumentar el rendimiento y la capacidad de respuesta.

• Implementación en escritorio y servidor: Aunque NCNN es excelente para dispositivos de bajo consumo, también es compatible con Linux, Windows y macOS para entornos de escritorio y servidor. Esto ofrece a los desarrolladores opciones flexibles para la implementación.

Fig 3. Opciones para el despliegue del modelo de Ultralytics YOLO11 con NCNN. Imagen del autor.

Casos de uso del despliegue del modelo de Ultralytics YOLO11 con NCNN#

A continuación, vamos a profundizar en algunos casos de uso prácticos donde la exportación de modelos de Ultralytics YOLO11 a NCNN puede marcar una diferencia real.

Cascos con IA de visión para la extinción de incendios#

Los cascos de seguridad equipados con cámaras y microordenadores empotrados se pueden utilizar en campos como la construcción y la lucha contra incendios para mejorar la seguridad y la concienciación. Los modelos de IA de visión en tiempo real, como Ultralytics YOLO11, se pueden ejecutar en estos dispositivos para detectar varios tipos de objetos y equipos. Por ejemplo, estos cascos pueden ayudar a los bomberos a detectar personas, obstáculos o peligros en condiciones de baja visibilidad.

Sin embargo, ejecutar modelos de tamaño completo directamente en dispositivos vestibles puede causar un rendimiento lento y agotar la batería rápidamente. En este caso, usar la integración de NCNN es una elección inteligente. Permite una inferencia de baja latencia y eficiencia energética.

Clasificación de residuos y contenedores inteligentes#

Del mismo modo, los contenedores de residuos inteligentes se pueden integrar con cámaras y procesadores de IA edge compactos para identificar y clasificar materiales a medida que se desechan. Los modelos de visión por IA como YOLO11 se pueden entrenar de forma personalizada para detectar diferentes tipos de materiales de desecho como papel, plástico, caucho, etc.

Una vez identificado el residuo, se puede clasificar automáticamente en compartimentos separados según su reutilización. Al utilizar IA de borde junto con los modelos de Ultralytics YOLO11 exportados en formato NCNN, estos contenedores pueden procesar datos de forma local, sin necesidad de conexión a internet. Esto les permite operar de manera autónoma y tomar decisiones de clasificación en tiempo real con un retraso mínimo.

Fig 4. Detección de materiales de residuos de plástico utilizando YOLO11.

Monitoreo de ganado mediante drones y visión artificial#

A veces, las zonas agrícolas en ubicaciones remotas carecen de acceso a conexiones a Internet estables o incluso de energía constante, lo que limita su capacidad para ejecutar aplicaciones de IA en línea. En tales casos, se pueden utilizar dispositivos de borde y drones para manejar una variedad de tareas.

Un buen ejemplo es la monitorización de ganado como vacas, ovejas y aves de corral. Esto se puede hacer utilizando modelos de visión por IA como YOLO11, que sirven para rastrear el movimiento de los animales, detectar signos de lesiones, enfermedades o comportamientos anormales, y alertar a los agricultores cuando los animales desaparecen. La integración con NCNN también hace posible ejecutar y procesar estos datos directamente en dispositivos edge, lo que la convierte en una opción ideal para el análisis de imágenes y vídeos en granjas ubicadas en zonas remotas o aisladas de la red eléctrica.

Fig 5. Un vistazo al uso de YOLO11 para monitorizar ganado.

Conclusiones clave#

Exportar modelos YOLO11 utilizando la integración de NCNN compatible con Ultralytics es una forma sencilla de llevar la IA de visión a entornos de baja potencia. Ya sean drones en zonas de desastre, contenedores inteligentes de clasificación de residuos o el monitoreo de ganado en granjas remotas, YOLO y NCNN permiten inferencias de IA en tiempo real que son rápidas, eficientes y portátiles. Este enfoque ayuda a que los sistemas de IA sean más accesibles y fiables cuando más importa.

¿Quieres aprender más sobre la IA? Explora nuestro repositorio de GitHub, conecta con nuestra comunidad y consulta nuestras opciones de licencias para dar impulso a tu proyecto de visión por ordenador. Descubre cómo innovaciones como la IA en el comercio minorista y la visión por ordenador en la sanidad están dando forma al futuro en nuestras páginas de soluciones.