Compilando y cuantizando YOLOv5 de Ultralytics para un mejor rendimiento con Deci
Optimiza y despliega modelos YOLOv5 de Ultralytics con la plataforma de Deci, mejorando el rendimiento hasta 10 veces. Empieza gratis y aprovecha la optimización automática de modelos.
En Ultralytics nos asociamos comercialmente con otras startups para ayudarnos a financiar la investigación y el desarrollo de nuestras increíbles herramientas de código abierto, como YOLOv5, para mantenerlas gratuitas para todos. Este artículo puede contener enlaces de afiliados a esos socios.
La plataforma Deci incluye herramientas gratuitas para gestionar, optimizar y desplegar fácilmente tus modelos YOLOv5 en cualquier entorno de producción. Deci es compatible con todos los marcos de DL populares, como TensorFlow, PyTorch, Keras y ONNX. Solo necesitas nuestra plataforma basada en la web o nuestro cliente Python para ejecutarlo desde tu código.
Link to this section¿Por qué Deci?#
¡Puedes utilizar Deci no solo para exportar, sino también para realizar la poda y cuantización del modelo!
Deci proporciona una interfaz intuitiva para exportar en cualquier formato y realizar comparaciones de rendimiento entre los modelos originales y los convertidos. Los usuarios eligen optimizar aún más sus modelos mediante la cuantización.
Link to this sectionCon Deci puedes:#
Link to this sectionMejorar el rendimiento de inferencia hasta 10 veces#
Compila y cuantiza automáticamente tus modelos y evalúa diferentes configuraciones de producción para lograr una mejor latencia, rendimiento y una reducción del tamaño y el consumo de memoria del modelo en tu hardware.
Link to this sectionEncuentra el mejor hardware de inferencia para tu aplicación#
Compara el rendimiento de tu modelo en varios dispositivos de hardware (incluidos los de borde) con un solo botón. Elimina la necesidad de configurar y probar manualmente múltiples ajustes de hardware y producción.
Link to this sectionDespliega con unas pocas líneas de código#
Aprovecha el motor de inferencia basado en Python de Deci. Compatible con múltiples marcos y tipos de hardware.
Para obtener más información sobre la plataforma Deci, visita el sitio web de Deci.
Link to this sectionConfiguración inicial#
Link to this sectionPaso 1#
Abre tu cuenta gratuita.
Link to this sectionPaso 2#
Para empezar a optimizar tu modelo preentrenado YOLOv5, necesitarás convertirlo al formato ONNX. Consulta el Tutorial de exportación de YOLOv5 para obtener instrucciones sobre cómo convertir tu modelo al formato ONNX.
Link to this sectionPaso 3#
Ve a la pestaña "Lab" y haz clic en el botón "New Model" en la parte superior derecha de la pantalla para subir tu modelo ONNX de YOLOv5.
Sigue los pasos del asistente de carga de modelos para seleccionar tu hardware de destino, así como el tamaño de lote deseado y el nivel de cuantización para la compilación del modelo.
Después de completar la información relevante, haz clic en "Start". La plataforma Deci realizará automáticamente una optimización en tiempo de ejecución de tu modelo YOLOv5 para el hardware que seleccionaste, además de realizar un benchmark de tu modelo en varios tipos de hardware. Este proceso dura aproximadamente 10 minutos.
Una vez hecho, aparecerá una nueva fila en tu pantalla debajo del modelo base que cargaste anteriormente. Aquí puedes ver la versión optimizada de tu modelo preentrenado YOLOv5.
Link to this section¿Qué sigue?#
A continuación, puedes descargar tu modelo optimizado haciendo clic en el botón "Deploy".
Se te pedirá que descargues tu modelo y recibirás instrucciones sobre cómo instalar y usar Infery, el motor de inferencia en tiempo de ejecución de Deci.
El uso de Infery es opcional. Puedes obtener los archivos brutos de Python y utilizarlos con cualquier otro motor de inferencia de tu elección.
Explora los resultados de optimización y benchmark en la pestaña "Insights".
Link to this section¿Listo para empezar?#
Antes de concluir, hablemos de algunas de las ventajas que ofrece Deci:
- Optimiza el rendimiento de inferencia y la latencia de tu modelo sin comprometer la precisión
- Te permite optimizar modelos de todos los marcos populares
- Es compatible con modelos destinados a cualquier tarea de aprendizaje profundo
- Admite el despliegue en máquinas CPU y GPU populares
- Compara la aptitud de tu modelo en diferentes hosts de hardware y proveedores de nube
- Prepara los modelos subidos para su servicio, inferencia y despliegue
Como acabas de ver, puedes duplicar el rendimiento de un modelo YOLOv5 en un tiempo total de 15 minutos. La plataforma Deci es muy fácil e intuitiva de usar.
¿Alguna pregunta? ¡Únete a nuestra comunidad y deja tu pregunta hoy mismo!
