Exportación de modelos Ultralytics YOLO11 al formato de modelo NCNN

Las soluciones de IA son cada vez más comunes, incluso en sectores de gran importancia como la gestión de desastres, la gestión de residuos y la extinción de incendios. A medida que su adopción sigue creciendo, los modelos de IA se implementan en entornos más diversos: no solo en servidores o en la nube, sino directamente en dispositivos que operan sobre el terreno.

Por ejemplo, los drones y los equipos con componentes de borde (edge) que funcionan con pequeños procesadores pueden desempeñar un papel crucial en las zonas de desastre. Equipados con cámaras térmicas, estos dispositivos pueden recopilar y analizar datos in situ para localizar a personas atrapadas bajo los escombros. Esto es posible gracias a la visión artificial, una rama de la inteligencia artificial que interpreta la información visual de imágenes y vídeos.

Sin embargo, implementar modelos de IA de visión en dispositivos de borde no es tan sencillo como parece. Los modelos de IA deben optimizarse para ejecutarse de manera eficiente en hardware con potencia de cálculo y memoria limitadas. Por eso, marcos de trabajo (frameworks) de IA como NCNN son esenciales. Ayudan a convertir y optimizar modelos para lograr un rendimiento en tiempo real en dispositivos de bajo consumo sin sacrificar la precisión.

En particular, los modelos YOLO de Ultralytics como Ultralytics YOLO11 se pueden exportar fácilmente al formato de modelo NCNN utilizando la integración de NCNN compatible con Ultralytics. Convertir YOLO11 al formato de modelo NCNN permite que el modelo se ejecute más rápido, utilice menos memoria y funcione sin problemas en diferentes dispositivos sin perder precisión.

En este artículo, exploraremos la integración de NCNN compatible con Ultralytics y veremos paso a paso cómo puedes exportar tu modelo YOLO11 al formato de modelo NCNN. ¡Empecemos!

Link to this sectionUna visión general de NCNN: Un marco de trabajo de redes neuronales ligero#

NCNN es un marco de trabajo de inferencia de redes neuronales de código abierto desarrollado por Tencent. Fue diseñado específicamente para entornos móviles y de borde, permitiendo una inferencia de alto rendimiento con una huella mínima. Esto lo hace ideal para implementaciones en dispositivos con recursos limitados como teléfonos inteligentes, drones y dispositivos IoT (Internet de las cosas).

El marco de trabajo NCNN ha ganado popularidad en la comunidad de IA y aprendizaje profundo debido a su eficiencia, portabilidad y optimización para CPUs (unidades centrales de procesamiento) móviles. Permite a los desarrolladores ejecutar modelos de redes neuronales en dispositivos asequibles con memoria y potencia de procesamiento limitadas. Diseñado para ser sencillo y flexible, NCNN admite una amplia gama de modelos de visión artificial y se ejecuta en múltiples plataformas, incluyendo Android, Linux, iOS y macOS.

Fig 1. Los modelos en formato NCNN se pueden implementar en muchas plataformas.

Link to this sectionCaracterísticas clave de la optimización del rendimiento de NCNN#

Aquí tienes algunas de las características clave que hacen de NCNN un marco de trabajo de inferencia de redes neuronales impactante y ampliamente utilizado:

• Entorno de ejecución ligero e independiente del hardware: El marco de trabajo NCNN está optimizado para ejecutar modelos en CPUs estándar y no requiere hardware especializado como GPUs (unidades de procesamiento gráfico) o NPUs (unidades de procesamiento neuronal).
• Cuantización de modelos: Para aplicaciones donde la memoria y la velocidad son críticas, NCNN admite métodos de cuantización que reducen el tamaño del modelo y mejoran el tiempo de inferencia. Ayuda a ejecutar modelos de IA sin problemas en dispositivos móviles y embebidos.
• Código abierto y accesible: Como marco de trabajo de código abierto, NCNN está disponible gratuitamente para que cualquiera pueda usarlo, modificarlo y mejorarlo. Esto fomenta la innovación y una amplia adopción en una variedad de casos de uso.
• Desarrollo activo y comunidad: NCNN cuenta con mantenimiento activo en GitHub por parte de Tencent y una comunidad de desarrolladores en crecimiento, con actualizaciones periódicas y mejoras en la compatibilidad de modelos.

Link to this sectionExportar YOLO11 al formato de modelo NCNN: Una guía rápida#

Ahora que hemos hablado de qué es NCNN, echemos un vistazo más de cerca a cómo exportar modelos YOLO11 al formato NCNN.

Link to this sectionPaso 1: Instala el paquete de Python de Ultralytics#

Antes de exportar el modelo, el primer paso es instalar el paquete de Python de Ultralytics utilizando el instalador de paquetes pip. Esto se puede hacer ejecutando "pip install ultralytics" en tu terminal o símbolo del sistema. Si trabajas en un Jupyter Notebook o Google Colab, añade un signo de exclamación antes del comando, así: "!pip install ultralytics".

El paquete de Ultralytics proporciona herramientas para entrenar, probar, ajustar y exportar modelos de IA de visión para diversas tareas de visión artificial. Si tienes algún problema durante la instalación o al exportar un modelo, la documentación oficial de Ultralytics y la guía de problemas comunes son excelentes recursos para solucionar errores.

Link to this sectionPaso 2: Exportación de Ultralytics YOLO11#

Después de instalar el paquete de Ultralytics, puedes cargar tu modelo YOLO11 y exportarlo al formato NCNN. El ejemplo siguiente utiliza un modelo preentrenado ("yolo11n.pt") y lo exporta en formato NCNN, guardando el resultado en una carpeta llamada "/yolo11n_ncnn_model".

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="ncnn")

El modelo YOLO11 exportado puede implementarse después en varios dispositivos ligeros, como teléfonos inteligentes, sistemas embebidos o plataformas IoT. El proceso de implementación también está muy optimizado.

Por ejemplo, considera el fragmento de código siguiente, que muestra cómo cargar el modelo exportado y ejecutar la inferencia. La inferencia se refiere al proceso de usar un modelo entrenado para realizar predicciones sobre datos nuevos y no vistos. En este ejemplo, el modelo se prueba con una imagen de un hombre montando en bicicleta, obtenida de una URL pública.

ncnn_model = YOLO("./yolo11n_ncnn_model")
results = ncnn_model("https://images.pexels.com/photos/19431209/pexels-photo-19431209/free-photo-of-a-man-riding-a-bike-on-a-road.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2.jpg", save=True)

Después de ejecutar el código, encontrarás la imagen resultante en la carpeta "runs/detect/predict".

Fig 2. Detección de objetos mediante un modelo YOLO11 exportado en formato NCNN. Imagen del autor.

Link to this section¿Por qué elegir la detección en tiempo real con NCNN?#

A medida que exploras las diversas integraciones que admite Ultralytics, es posible que observes que hay varias opciones de exportación disponibles. Entonces, ¿cuándo deberías elegir el formato NCNN?

El formato de exportación NCNN es una opción fiable cuando necesitas implementar modelos YOLO11 en dispositivos con recursos limitados. Es especialmente útil para aplicaciones en tiempo real que se ejecutan directamente en el dispositivo, como los dispositivos de borde, sin necesidad de conexión a la nube. Esto significa que el modelo puede gestionar tareas como la detección de objetos sobre la marcha.

Aquí tienes algunos escenarios comunes en los que NCNN encaja a la perfección:

• Implementación móvil: El formato NCNN está optimizado para Android e iOS, lo que facilita la integración de modelos en aplicaciones móviles para una inferencia rápida en el dispositivo con una latencia mínima.

• Sistemas embebidos y dispositivos IoT: Si estás implementando en dispositivos como Raspberry Pi o NVIDIA Jetson, exportar a NCNN puede ayudar a aumentar el rendimiento y la capacidad de respuesta.

• Implementación en escritorio y servidor: Aunque NCNN es excelente para dispositivos de bajo consumo, también es compatible con Linux, Windows y macOS para entornos de escritorio y servidor. Esto ofrece a los desarrolladores opciones flexibles para la implementación.

Fig 3. Opciones para la implementación de modelos YOLO11 con NCNN. Imagen del autor.

Link to this sectionCasos de uso de la implementación de modelos YOLO11 con NCNN#

A continuación, profundicemos en algunos casos de uso prácticos donde la exportación de modelos YOLO11 a NCNN puede marcar una diferencia real.

Link to this sectionCascos con IA de visión para la extinción de incendios#

Los cascos de seguridad equipados con cámaras y microordenadores embebidos se pueden usar en campos como la construcción y la extinción de incendios para mejorar la seguridad y la concienciación. Los modelos de IA de visión en tiempo real, como YOLO11, se pueden ejecutar en estos dispositivos para detectar diversos tipos de objetos y equipos. Por ejemplo, estos cascos pueden ayudar a los bomberos a detectar personas, obstáculos o peligros en condiciones de baja visibilidad.

Sin embargo, ejecutar modelos de tamaño completo directamente en dispositivos vestibles puede causar un rendimiento lento y agotar la batería rápidamente. En este caso, usar la integración de NCNN es una elección inteligente. Permite una inferencia de baja latencia y eficiencia energética.

Link to this sectionClasificación de residuos y contenedores inteligentes#

De forma similar, los contenedores de residuos inteligentes se pueden integrar con cámaras y procesadores de IA de borde compactos para identificar y clasificar materiales a medida que se desechan. Los modelos de IA de visión como YOLO11 pueden entrenarse a medida para detectar diferentes tipos de materiales de desecho como papel, plástico, caucho, etc.

Una vez identificado el residuo, se puede clasificar automáticamente en compartimentos separados según su capacidad de reutilización. Al utilizar IA de borde junto con modelos YOLO11 exportados en formato NCNN, estos contenedores pueden procesar datos localmente, sin necesidad de conexión a Internet. Esto les permite operar de forma autónoma y tomar decisiones de clasificación en tiempo real con una demora mínima.

Fig 4. Detección de residuos plásticos mediante YOLO11.

Link to this sectionMonitoreo de ganado mediante drones y visión artificial#

A veces, las zonas agrícolas en ubicaciones remotas carecen de acceso a conexiones a Internet estables o incluso de energía constante, lo que limita su capacidad para ejecutar aplicaciones de IA en línea. En tales casos, se pueden utilizar dispositivos de borde y drones para manejar una variedad de tareas.

Un buen ejemplo es el monitoreo de ganado, como vacas, ovejas y aves de corral. Esto puede hacerse utilizando modelos de IA de visión como YOLO11, que pueden utilizarse para rastrear el movimiento de los animales, detectar signos de lesiones, enfermedades o comportamientos anormales, y alertar a los ganaderos cuando faltan animales. La integración de NCNN también hace posible ejecutar y procesar estos datos directamente en dispositivos de borde, lo que la hace ideal para el análisis de imágenes y vídeos en granjas en zonas remotas o sin conexión a la red.

Fig 5. Un vistazo al uso de YOLO11 para monitorear ganado.

Link to this sectionConclusiones clave#

Exportar modelos YOLO11 utilizando la integración de NCNN compatible con Ultralytics es una forma sencilla de llevar la IA de visión a entornos de baja potencia. Ya sean drones en zonas de desastre, contenedores inteligentes de clasificación de residuos o el monitoreo de ganado en granjas remotas, YOLO y NCNN permiten inferencias de IA en tiempo real que son rápidas, eficientes y portátiles. Este enfoque ayuda a que los sistemas de IA sean más accesibles y fiables cuando más importa.

¿Quieres saber más sobre IA? Explora nuestro repositorio de GitHub, conecta con nuestra comunidad y consulta nuestras opciones de licencia para poner en marcha tu proyecto de visión artificial. Descubre cómo innovaciones como la IA en el sector minorista y la visión artificial en la atención sanitaria están dando forma al futuro en nuestras páginas de soluciones.