Compilación y cuantización de Ultralytics YOLOv5 para mejorar el rendimiento con Deci
Optimiza y despliega modelos Ultralytics YOLOv5 con la plataforma de Deci, mejorando el rendimiento hasta 10 veces. Empieza gratis y aprovecha la optimización automática de modelos.
En Ultralytics colaboramos comercialmente con otras startups para ayudarnos a financiar la investigación y el desarrollo de nuestras increíbles herramientas de código abierto, como YOLOv5, y mantenerlas gratuitas para todo el mundo. Este artículo puede contener enlaces de afiliación a dichos socios.
La plataforma Deci incluye herramientas gratuitas para gestionar, optimizar e implementar fácilmente tus modelos YOLOv5 en cualquier entorno de producción. Deci es compatible con todos los frameworks de DL populares, como TensorFlow, PyTorch, Keras y ONNX. Solo necesitas nuestra plataforma web o nuestro cliente de Python para ejecutarlo desde tu código.
¿Por qué Deci?#
Puedes usar Deci no solo para exportar, sino también para podar y cuantificar el modelo.
Deci ofrece una interfaz sencilla para exportar en cualquier formato y comparar el rendimiento entre los modelos originales y los convertidos. Puedes optimizar aún más tus modelos mediante la cuantización.
Con Deci puedes:#
Mejorar el rendimiento de la inferencia hasta 10 veces#
Compila y cuantifica automáticamente tus modelos, y evalúa distintas configuraciones de producción para conseguir una mejor latencia y rendimiento, además de reducir el tamaño del modelo y su huella de memoria en tu hardware.
Encuentra el mejor hardware de inferencia para tu aplicación#
Compara con un solo clic el rendimiento de tu modelo en distintos dispositivos de hardware, incluidos los dispositivos edge. Elimina la necesidad de configurar y probar manualmente varios dispositivos y configuraciones de producción.
Implementa con unas pocas líneas de código#
Aprovecha el motor de inferencia basado en Python de Deci. Compatible con múltiples frameworks y tipos de hardware.
Para obtener más información sobre la plataforma Deci, visita el sitio web de Deci.
Configuración inicial#
Paso 1#
Abre tu cuenta gratuita.
Paso 2#
Para empezar a optimizar tu modelo YOLOv5 preentrenado, tendrás que convertirlo al formato ONNX. Consulta el tutorial de exportación de YOLOv5 para obtener instrucciones sobre cómo convertir tu modelo al formato ONNX.
Paso 3#
Ve a la pestaña «Lab» y haz clic en el botón «New Model», situado en la parte superior derecha de la pantalla, para cargar tu modelo YOLOv5 YOLOv5 en formato ONNX.
Sigue los pasos del asistente de carga del modelo para seleccionar el hardware de destino, así como el tamaño de lote y el nivel de cuantización deseados para la compilación del modelo.
Después de introducir la información pertinente, haz clic en «Start». La plataforma Deci optimizará automáticamente en tiempo de ejecución tu modelo Ultralytics YOLOv5 para el hardware que hayas seleccionado y comparará su rendimiento en distintos tipos de hardware. Este proceso tarda aproximadamente 10 minutos.
Cuando termine, aparecerá una nueva fila en tu pantalla, debajo del modelo de referencia que has cargado anteriormente. Aquí podrás ver la versión optimizada de tu modelo Ultralytics YOLOv5 preentrenado.
¿Y ahora qué?#
A continuación, puedes descargar tu modelo optimizado haciendo clic en el botón «Deploy».
A continuación, se te pedirá que descargues tu modelo y recibirás instrucciones sobre cómo instalar y usar Infery, el motor de inferencia en tiempo de ejecución de Deci.
El uso de Infery es opcional. Puedes obtener los archivos fuente de Python y usarlos con cualquier otro motor de inferencia que elijas.
Explora los resultados de optimización y evaluación comparativa en la pestaña «Insights».
¿Listo para empezar?#
Antes de terminar, analicemos algunas de las ventajas que ofrece Deci:
- Optimiza el rendimiento y la latencia de inferencia de tu modelo sin comprometer la precisión
- Te permite optimizar modelos de todos los frameworks populares
- Admite modelos destinados a cualquier tarea de aprendizaje profundo
- Admite la implementación en máquinas CPU y GPU populares
- Evalúa el rendimiento de tu modelo en distintos hosts de hardware y proveedores de nube
- Prepara los modelos cargados para servirlos, ejecutar inferencias e implementarlos
Como acabas de ver, puedes duplicar el rendimiento de un modelo Ultralytics YOLOv5 en un tiempo total de 15 minutos. La plataforma Deci es muy fácil e intuitiva de usar.
¿Tienes alguna pregunta? Únete a nuestra comunidad y deja hoy mismo tu pregunta.
