24 de mayo de 2024
Optimice su modelo Ultralytics YOLOv8 para la inferencia utilizando OpenVINO. Siga nuestra guía para convertir modelos PyTorch a ONNX y optimizarlos para aplicaciones en tiempo real.
En este blogpost, vamos a echar un vistazo a cómo se puede exportar y optimizar su pre-entrenados o personalizados entrenados Ultralytics YOLOv8 para la inferencia mediante OpenVINO. Si utiliza un sistema Intel, ya sea una CPU o una GPU, esta guía le mostrará cómo acelerar significativamente su modelo con el mínimo esfuerzo.
Optimización de su modelo YOLOv8 con OpenVINO puede proporcionar hasta 3 veces más velocidad en las tareas de inferencia, especialmente si utiliza unaCPU Intel . Este aumento del rendimiento puede suponer una gran diferencia en aplicaciones en tiempo real, desde la detección de objetos hasta la segmentación y los sistemas de seguridad.
Lo primero es lo primero, vamos a desglosar el proceso. Vamos a convertir un modelo PyTorch a ONNX y luego optimizarlo utilizando OpenVINO. Este proceso implica unos pocos pasos sencillos y se puede aplicar a varios modelos y formatos, incluyendo TensorFlow, PyTorch, Caffe y ONNX.
Entrando en ladocumentación Ultralytics , encontramos que exportar un modelo YOLOv8 implica utilizar el método de exportación del framework Ultralytics . Este método nos permite convertir nuestro modelo de PyTorch a ONNXy, por último, optimizarlo para OpenVINO. El resultado es un modelo que se ejecuta significativamente más rápido, aprovechando el potente hardware de Intel.
Antes de ejecutar el script de exportación, deberá asegurarse de que están instaladas todas las dependencias necesarias. Entre ellas se incluyen la biblioteca Ultralytics , ONNX y OpenVINO. La instalación de estos paquetes es un proceso sencillo que puede realizarse mediante pip, el instalador de paquetes Python .
Una vez que tu entorno esté configurado, puedes ejecutar tu script de exportación. Este script convertirá tu modelo PyTorch a ONNX y luego a OpenVINO. El proceso es sencillo y consiste en llamar a una única función para gestionar la exportación. El marco de trabajo Ultralytics facilita la conversión y optimización de sus modelos, garantizándole el mejor rendimiento con las mínimas molestias.
Tras la exportación, es esencial comparar el rendimiento de los modelos original y optimizado. Mediante la evaluación comparativa del tiempo de inferencia de ambos modelos, puede ver claramente las ganancias de rendimiento. Por lo general, el modelo OpenVINO mostrará una reducción significativa en el tiempo de inferencia en comparación con el modelo original PyTorch . Esto es especialmente cierto para los modelos más grandes, donde el aumento de rendimiento es más notable.
La optimización de los modelos YOLOv8 con OpenVINO es especialmente beneficiosa para las aplicaciones que requieren procesamiento en tiempo real. He aquí algunos ejemplos:
Al implementar estas optimizaciones, no solo mejora el rendimiento, sino que también aumenta la fiabilidad y la eficiencia de sus aplicaciones. Esto puede conducir a mejores experiencias de usuario, mayor productividad y soluciones más innovadoras.
Exportar y optimizar un modelo YOLOv8 para OpenVINO es una manera poderosa de aprovechar el hardware Intel para aplicaciones de IA más rápidas y eficientes. Con solo unos sencillos pasos, puede transformar el rendimiento de su modelo y aplicarlo a escenarios del mundo real con eficacia.
Asegúrese de consultar más tutoriales y guías de Ultralytics para seguir mejorando sus proyectos de IA. Visite nuestro repositorio GitHub y únase a la comunidad Ultralytics para obtener más información y actualizaciones. ¡Innovemos juntos!
Recuerde, optimizar sus modelos no se trata solo de velocidad, sino de desbloquear nuevas posibilidades y garantizar que sus soluciones de IA sean robustas, eficientes y estén preparadas para el futuro.
