Compilación y cuantificación de Ultralytics YOLOv5 para mejorar el rendimiento con Deci

Equipo Ultralytics

4 min leer

26 de octubre de 2022

Optimice y despliegue modelos Ultralytics YOLOv5 con la plataforma de Deci, mejorando el rendimiento hasta 10 veces. Empiece gratis y aproveche la optimización automática de modelos.

En Ultralytics nos asociamos comercialmente con otras startups para que nos ayuden a financiar la investigación y el desarrollo de nuestras increíbles herramientas de código abierto, como YOLOv5, para que sigan siendo gratuitas para todo el mundo. Este artículo puede contener enlaces de afiliación a dichos socios.

La plataforma Deci incluye herramientas gratuitas para gestionar, optimizar y desplegar fácilmente sus modelos YOLOv5 en cualquier entorno de producción. Deci soporta todos los frameworks de DL populares, como TensorFlow, PyTorch, Keras y ONNX. Todo lo que necesitas es nuestra plataforma basada en web o nuestro cliente Python para ejecutarlo desde tu código.

¿Por qué Deci?

Puede utilizar Deci no sólo para exportar, sino también para podar y cuantificar el modelo.

Deci ofrece una interfaz agradable para exportar en cualquier formato y comparar el rendimiento entre los modelos originales y los convertidos. Los usuarios pueden optimizar aún más sus modelos mediante la cuantización.

Con Deci puedes:

Mejore el rendimiento de la inferencia hasta 10 veces

‍Compilay cuantiza automáticamente tus modelos y evalúa diferentes configuraciones de producción para lograr una mejor latencia, en todo el proceso, y la reducción del tamaño del modelo y la huella de memoria en tu hardware.

‍Encuentreel mejor hardware de inferencia para su aplicación

‍Compruebael rendimiento de tu modelo en varios dispositivos de hardware (incluidos los edge) con un botón. Elimina la necesidad de configurar y probar manualmente múltiples configuraciones de hardware y producción.

Desplieguecon unas pocas líneas de código

Aprovechael motor de inferencia basado en Python de Deci. Compatible con múltiples marcos y tipos de hardware.

Para más información sobre la Plataforma Deci, visite el sitio web de Deci.

Configuración inicial

Primer paso

Abra su cuenta gratuita.

Empiece con Deci y Ultralytics YOLOv5

Paso 2

Para empezar a optimizar su modelo YOLOv5 pre-entrenado, necesitará convertirlo al formato ONNX. Consulte el tutorial de exportación de YOLOv5 para obtener instrucciones sobre cómo convertir su modelo al formato ONNX.

Paso 3

Vaya a la pestaña "Laboratorio" y haga clic en el botón "Nuevo modelo" en la parte superior derecha de la pantalla para cargar su modelo YOLOv5 ONNX.

Convertir los modelos YOLOv5 de Ultralytics a ONNX para su futura implantación con Deci.

Siga los pasos del asistente de carga de modelos para seleccionar el hardware de destino, así como el tamaño de lote y el nivel de cuantificación deseados para la compilación del modelo.

Compilación del modelo Ultralytics YOLOv5 para su despliegue con Deci

Después de rellenar la información pertinente, haga clic en "Iniciar". La plataforma Deci realizará automáticamente una optimización en tiempo de ejecución de su modelo YOLOv5 para el hardware que haya seleccionado, así como una evaluación comparativa de su modelo en varios tipos de hardware. Este proceso dura aproximadamente 10 minutos.

Una vez hecho esto, aparecerá una nueva fila en su pantalla debajo del modelo base que cargó previamente. Aquí podrá ver la versión optimizada de su modelo YOLOv5 preentrenado.

Modelo Ultralytics YOLOv5 optimizado para su despliegue con Deci

¿Y ahora qué?

A continuación, puede descargar su modelo optimizado haciendo clic en el botón "Desplegar".

El modelo YOLOv5 de Ultralytics listo para su despliegue con Deci

A continuación, se le pedirá que descargue su modelo y recibirá instrucciones sobre cómo instalar y utilizar Infery, el motor de inferencia en tiempo de ejecución de Deci.

El uso de Infery es opcional. Puede obtener los archivos sin procesar de Python y utilizarlos con cualquier otro motor de inferencia de su elección.

Utilice Deci Infery para desplegar Ultralytics YOLOv5

Explore los resultados de optimización y evaluación comparativa en la pestaña "Insights".

Optimización con Deci del modelo YOLOv5 de Ultralytics

¿Listo para empezar?

Antes de terminar, comentemos algunas de las ventajas que ofrece Deci:

  • Optimice el rendimiento y la latencia de la inferencia de su modelo sin comprometer la precisión.
  • Permite optimizar modelos de todos los frameworks populares
  • Admite modelos orientados a cualquier tarea de aprendizaje profundo
  • Admite la implantación en las máquinas con CPU y GPU más habituales
  • Evalúa la idoneidad de tu modelo en diferentes hosts de hardware y proveedores de nube.
  • Prepara los modelos cargados para el servicio, la inferencia y el despliegue.

Como acabas de ver, puedes duplicar el rendimiento de un modelo YOLOv5 en 15 minutos en total. La plataforma Deci es súper fácil e intuitiva de usar.

¿Tiene alguna pregunta? Únase a nuestra comunidad y déjenos su pregunta hoy mismo.

¡Construyamos juntos el futuro
de la IA!

Comience su viaje con el futuro del aprendizaje automático

Empezar gratis
Enlace copiado en el portapapeles