Exporta y optimiza Ultralytics YOLOv8 para la inferencia en Intel OpenVINO

En este blog, veremos cómo puedes exportar y optimizar tu modelo preentrenado o personalizado de Ultralytics YOLOv8 para inferencia usando OpenVINO. Si utilizas un sistema basado en Intel, ya sea CPU o GPU, esta guía te mostrará cómo acelerar significativamente tu modelo con el mínimo esfuerzo.

Link to this section¿Por qué optimizar YOLOv8 con OpenVINO?#

Optimizar tu modelo YOLOv8 con OpenVINO puede proporcionar un aumento de velocidad de hasta 3 veces en tareas de inferencia, particularmente si ejecutas una CPU Intel. Este aumento de rendimiento puede marcar una gran diferencia en aplicaciones en tiempo real, desde detección de objetos hasta segmentación y sistemas de seguridad.

Link to this sectionPasos para exportar y optimizar tu modelo YOLOv8#

Link to this sectionComprender el proceso#

Lo primero es lo primero, desglosemos el proceso. Vamos a convertir un modelo de PyTorch a ONNX y luego optimizarlo usando OpenVINO. Este proceso implica unos pasos sencillos y se puede aplicar a varios modelos y formatos, incluyendo TensorFlow, PyTorch, Caffe y ONNX.

Link to this sectionExportar el modelo#

Al revisar la documentación de Ultralytics, encontramos que exportar un modelo YOLOv8 implica usar el método export del framework Ultralytics. Este método nos permite convertir nuestro modelo de PyTorch a ONNX y, finalmente, optimizarlo para OpenVINO. El resultado es un modelo que se ejecuta significativamente más rápido, aprovechando el potente hardware de Intel.

Link to this sectionInstalación de dependencias#

Antes de ejecutar el script de exportación, deberás asegurarte de que todas las dependencias necesarias estén instaladas. Estas incluyen la biblioteca Ultralytics, ONNX y OpenVINO. Instalar estos paquetes es un proceso sencillo que se puede realizar mediante pip, el instalador de paquetes de Python.

Link to this sectionEjecutar el script de exportación#

Una vez configurado tu entorno, puedes ejecutar tu script de exportación. Este script convertirá tu modelo de PyTorch a ONNX y luego a OpenVINO. El proceso es sencillo e implica llamar a una única función para gestionar la exportación. El framework Ultralytics facilita la conversión y optimización de tus modelos, asegurando que obtengas el mejor rendimiento con las mínimas complicaciones.

Fig 1. Nicolai Nielsen explicando cómo ejecutar el script de exportación.

Link to this sectionComparación del rendimiento#

Después de exportar, es esencial comparar el rendimiento de los modelos original y optimizado. Al realizar pruebas de referencia del tiempo de inferencia de ambos modelos, puedes ver claramente las ganancias de rendimiento. Normalmente, el modelo OpenVINO mostrará una reducción significativa en el tiempo de inferencia en comparación con el modelo original de PyTorch. Esto es especialmente cierto para los modelos más grandes, donde el impulso en el rendimiento es más notable.

Link to this sectionAplicación en el mundo real y beneficios#

Optimizar los modelos YOLOv8 con OpenVINO es particularmente beneficioso para aplicaciones que requieren procesamiento en tiempo real. Aquí tienes algunos ejemplos:

• Sistemas de seguridad: La detección de objetos en tiempo real puede alertar al personal de seguridad al instante, mejorando la seguridad y la capacidad de respuesta.
• Vehículos autónomos: Las velocidades de inferencia más rápidas mejoran la capacidad de respuesta de los sistemas de conducción autónoma, haciéndolos más seguros y fiables.
• Atención médica: El procesamiento rápido de imágenes para herramientas de diagnóstico puede salvar vidas al proporcionar resultados más rápidos, lo que permite intervenciones oportunas.

Al implementar estas optimizaciones, no solo mejoras el rendimiento, sino que también aumentas la fiabilidad y eficiencia de tus aplicaciones. Esto puede conducir a mejores experiencias de usuario, mayor productividad y soluciones más innovadoras.

Link to this sectionConclusión#

Exportar y optimizar un modelo YOLOv8 para OpenVINO es una forma potente de aprovechar el hardware de Intel para aplicaciones de IA más rápidas y eficientes. Con solo unos pocos pasos sencillos, puedes transformar el rendimiento de tu modelo y aplicarlo eficazmente a escenarios del mundo real.

Asegúrate de consultar más tutoriales y guías de Ultralytics para seguir mejorando tus proyectos de IA. Visita nuestro repositorio de GitHub y únete a la comunidad de Ultralytics para obtener más ideas y actualizaciones. ¡Innovamos juntos!

Recuerda, optimizar tus modelos no es solo cuestión de velocidad; se trata de desbloquear nuevas posibilidades y asegurar que tus soluciones de IA sean robustas, eficientes y estén listas para el futuro.