Exporta y optimiza Ultralytics YOLOv8 para la inferencia con Intel OpenVINO

En esta entrada del blog veremos cómo exportar y optimizar un modelo Ultralytics YOLOv8 preentrenado o entrenado a medida para realizar inferencias con OpenVINO. Si utilizas un sistema basado en Intel, ya sea con CPU o GPU, esta guía te mostrará cómo acelerar considerablemente tu modelo con muy poco esfuerzo.

¿Por qué optimizar Ultralytics YOLOv8 con OpenVINO?#

Optimizar tu modelo Ultralytics YOLOv8 con OpenVINO puede ofrecer hasta 3 veces más velocidad en tareas de inferencia, especialmente si utilizas una CPU Intel. Esta mejora del rendimiento puede marcar una gran diferencia en aplicaciones en tiempo real, desde la detección de objetos hasta la segmentación y los sistemas de seguridad.

Pasos para exportar y optimizar tu modelo Ultralytics YOLOv8#

Entender el proceso#

Lo primero es explicar el proceso. Vamos a convertir un modelo de PyTorch al formato OpenVINO y optimizarlo. En el momento en que se grabó el vídeo, esta conversión se hacía mediante ONNX como paso intermedio; las versiones actuales de Ultralytics convierten directamente desde PyTorch. El proceso consta de unos sencillos pasos y se puede aplicar a diversos modelos y formatos, incluidos TensorFlow, PyTorch y ONNX.

Exportar el modelo#

Al adentrarnos en la documentación de Ultralytics, vemos que exportar un modelo YOLOv8 implica usar el método export del framework Ultralytics. Este método convierte nuestro modelo de PyTorch y lo optimiza para OpenVINO. El resultado es un modelo que funciona significativamente más rápido en el hardware de Intel.

Instalar las dependencias#

Antes de ejecutar el script de exportación, tendrás que asegurarte de que están instaladas todas las dependencias necesarias. Entre ellas se incluyen la biblioteca Ultralytics y OpenVINO. Instalar estos paquetes es un proceso sencillo que puedes realizar con pip, el instalador de paquetes de Python.

Ejecutar el script de exportación#

Una vez configurado el entorno, puedes ejecutar el script de exportación. Este script convertirá tu modelo de PyTorch a OpenVINO. El proceso es sencillo e implica llamar a una única función que se encarga de la exportación. El framework Ultralytics facilita la conversión y optimización de tus modelos, para que obtengas el mejor rendimiento con el mínimo esfuerzo.

Fig. 1. Nicolai Nielsen explica cómo ejecutar el script de exportación.

Comparar el rendimiento#

Tras la exportación, es fundamental comparar el rendimiento de los modelos original y optimizado. Si evalúas el tiempo de inferencia de ambos modelos, podrás ver claramente las mejoras. Por lo general, el modelo OpenVINO reduce considerablemente el tiempo de inferencia respecto al modelo original de PyTorch. Esto se nota especialmente en los modelos más grandes, en los que la mejora del rendimiento es más evidente.

Aplicaciones y ventajas en el mundo real#

Optimizar modelos Ultralytics YOLOv8 con OpenVINO resulta especialmente beneficioso en aplicaciones que requieren procesamiento en tiempo real. Aquí tienes algunos ejemplos:

• Sistemas de seguridad: la detección de objetos en tiempo real puede alertar al instante al personal de seguridad, lo que mejora la protección y la capacidad de respuesta.
• Vehículos automatizados: una inferencia más rápida mejora la capacidad de respuesta de los sistemas de conducción autónoma, lo que los hace más seguros y fiables.
• Sanidad: el procesamiento rápido de imágenes para herramientas de diagnóstico puede salvar vidas al ofrecer resultados más rápidos y permitir intervenciones oportunas.

Al implementar estas optimizaciones, no solo mejorarás el rendimiento, sino también la fiabilidad y la eficiencia de tus aplicaciones. Esto puede ofrecer una mejor experiencia de usuario, aumentar la productividad y dar lugar a soluciones más innovadoras.

Conclusiones#

Exportar y optimizar un modelo Ultralytics YOLOv8 para OpenVINO es una forma eficaz de aprovechar el hardware de Intel para crear aplicaciones de IA más rápidas y eficientes. Con solo unos pasos sencillos, puedes mejorar significativamente el rendimiento de tu modelo y aplicarlo eficazmente a situaciones reales.

No te pierdas más tutoriales y guías de Ultralytics, como la lección OpenVINO en CPU de Ultralytics Academy, para seguir mejorando tus proyectos de IA. Visita nuestro repositorio de GitHub y únete a la comunidad de Ultralytics para descubrir más ideas y novedades.

Recuerda que optimizar tus modelos no consiste solo en ganar velocidad: se trata de abrir nuevas posibilidades y garantizar que tus soluciones de IA sean sólidas, eficientes y estén preparadas para el futuro.