Compilando y cuantizando YOLOv5 de Ultralytics para un mejor rendimiento con Deci
Optimiza y despliega modelos YOLOv5 de Ultralytics con la plataforma de Deci, mejorando el rendimiento hasta 10 veces. Empieza gratis y aprovecha la optimización automática de modelos.
En Ultralytics nos asociamos comercialmente con otras startups para ayudarnos a financiar la investigación y el desarrollo de nuestras increíbles herramientas de código abierto, como YOLOv5, para mantenerlas gratuitas para todos. Este artículo puede contener enlaces de afiliados a esos socios.
La plataforma Deci incluye herramientas gratuitas para gestionar, optimizar y desplegar fácilmente tus modelos de YOLOv5 en cualquier entorno de producción. Deci es compatible con todos los frameworks de DL populares, como TensorFlow, PyTorch, Keras y ONNX. Lo único que necesitas es nuestra plataforma web o nuestro cliente de Python para ejecutarlo desde tu código.
¿Por qué Deci?#
¡Puedes utilizar Deci no solo para exportar, sino también para realizar la poda y cuantización del modelo!
Deci proporciona una interfaz intuitiva para exportar en cualquier formato y realizar comparaciones de rendimiento entre los modelos originales y los convertidos. Los usuarios eligen optimizar aún más sus modelos mediante la cuantización.
Con Deci puedes:#
Mejorar el rendimiento de inferencia hasta 10 veces#
Compila y cuantiza automáticamente tus modelos y evalúa diferentes configuraciones de producción para lograr una mejor latencia, rendimiento y una reducción del tamaño y el consumo de memoria del modelo en tu hardware.
Encuentra el mejor hardware de inferencia para tu aplicación#
Compara el rendimiento de tu modelo en varios dispositivos de hardware (incluidos los de borde) con un solo botón. Elimina la necesidad de configurar y probar manualmente múltiples ajustes de hardware y producción.
Despliega con unas pocas líneas de código#
Aprovecha el motor de inferencia basado en Python de Deci. Compatible con múltiples marcos y tipos de hardware.
Para obtener más información sobre la plataforma Deci, visita el sitio web de Deci.
Configuración inicial#
Paso 1#
Abre tu cuenta gratuita.
Paso 2#
Para empezar a optimizar tu modelo YOLOv5 preentrenado, tendrás que convertirlo al formato ONNX. Consulta el YOLOv5 Export Tutorial para obtener instrucciones sobre cómo convertir tu modelo al formato ONNX.
Paso 3#
Ve a la pestaña "Lab" y haz clic en el botón "New Model" en la parte superior derecha de la pantalla para subir tu modelo ONNX de YOLOv5.
Sigue los pasos del asistente de carga de modelos para seleccionar tu hardware de destino, así como el tamaño de lote deseado y el nivel de cuantización para la compilación del modelo.
Tras rellenar la información correspondiente, haz clic en "Start". La plataforma de Deci realizará automáticamente una optimización en tiempo de ejecución de tu modelo Ultralytics YOLOv5 para el hardware que hayas seleccionado, además de evaluar el rendimiento de tu modelo en varios tipos de hardware. Este proceso tarda aproximadamente 10 minutos.
Una vez terminado, aparecerá una nueva fila en tu pantalla debajo del modelo base que habías subido antes. Aquí puedes ver la versión optimizada de tu modelo Ultralytics YOLOv5 preentrenado.
¿Qué sigue?#
A continuación, puedes descargar tu modelo optimizado haciendo clic en el botón "Deploy".
Se te pedirá que descargues tu modelo y recibirás instrucciones sobre cómo instalar y usar Infery, el motor de inferencia en tiempo de ejecución de Deci.
El uso de Infery es opcional. Puedes obtener los archivos brutos de Python y utilizarlos con cualquier otro motor de inferencia de tu elección.
Explora los resultados de optimización y benchmark en la pestaña "Insights".
¿Listo para empezar?#
Antes de concluir, hablemos de algunas de las ventajas que ofrece Deci:
- Optimiza el rendimiento de inferencia y la latencia de tu modelo sin comprometer la precisión
- Te permite optimizar modelos de todos los marcos populares
- Es compatible con modelos destinados a cualquier tarea de aprendizaje profundo
- Admite el despliegue en máquinas CPU y GPU populares
- Compara la aptitud de tu modelo en diferentes hosts de hardware y proveedores de nube
- Prepara los modelos subidos para su servicio, inferencia y despliegue
Como acabas de ver, puedes duplicar el rendimiento de un modelo Ultralytics YOLOv5 en un tiempo total de 15 minutos. La plataforma de Deci es muy fácil e intuitiva de usar.
¿Tienes alguna pregunta? ¡Únete a nuestra comunidad y deja tu pregunta hoy mismo!
