Yolo Vision Shenzhen
Shenzhen
Únete ahora

Compilación y cuantización de Ultralytics YOLOv5 para un mejor rendimiento con Deci

Equipo de Ultralytics

4 minutos de lectura

26 de octubre de 2022

Optimice e implemente los modelos YOLOv5 de Ultralytics con la plataforma de Deci, mejorando el rendimiento hasta 10 veces. Comience gratis y aproveche la optimización automática de modelos.

En Ultralytics, nos asociamos comercialmente con otras startups para ayudarnos a financiar la investigación y el desarrollo de nuestras increíbles herramientas de código abierto, como YOLOv5, para mantenerlas gratuitas para todos. Este artículo puede contener enlaces de afiliados a esos socios.

La plataforma Deci incluye herramientas gratuitas para gestionar, optimizar e implementar fácilmente sus modelos YOLOv5 en cualquier entorno de producción. Deci es compatible con todos los frameworks de DL populares, como TensorFlow, PyTorch, Keras y ONNX. Todo lo que necesita es nuestra plataforma basada en la web o nuestro cliente de Python para ejecutarlo desde su código.

¿Por qué Deci?

¡Puede utilizar Deci no solo para exportar, sino también para podar y cuantificar el modelo!

Deci proporciona una interfaz intuitiva para exportar en cualquier formato y comparar el rendimiento entre los modelos original y convertido. Los usuarios pueden optar por optimizar aún más sus modelos mediante la cuantización.

Con Deci puedes:

Mejore el rendimiento de la inferencia hasta 10 veces

Compile y cuantifique automáticamente sus modelos y evalúe diferentes configuraciones de producción para lograr una mejor latencia, rendimiento y reducción del tamaño del modelo y la huella de memoria en su hardware.

Encuentra el mejor hardware de inferencia para tu aplicación

Compare el rendimiento de su modelo en varios dispositivos de hardware (incluidos los de borde) con solo presionar un botón. Elimine la necesidad de configurar y probar manualmente múltiples configuraciones de hardware y producción.

Implementa con unas pocas líneas de código

Aproveche el motor de inferencia basado en Python de Deci. Compatible con múltiples marcos y tipos de hardware.

Para obtener más información sobre la plataforma Deci, visita el sitio web de Deci.

Configuración inicial

Paso 1

Abre tu cuenta gratuita.

Comience con Deci y Ultralytics YOLOv5

Paso 2

Para comenzar a optimizar su modelo YOLOv5 pre-entrenado, deberá convertirlo al formato ONNX. Consulte el Tutorial de exportación de YOLOv5 para obtener instrucciones sobre cómo convertir su modelo al formato ONNX.

Paso 3

Vaya a la pestaña "Lab" y haga clic en el botón "New Model" en la parte superior derecha de la pantalla para cargar su modelo ONNX YOLOv5.

Convertir los modelos Ultralytics YOLOv5 a ONNX para su futuro despliegue con Deci

Siga los pasos del asistente de carga de modelos para seleccionar su hardware de destino, así como el tamaño de lote y el nivel de cuantificación deseados para la compilación del modelo.

Compilación del modelo Ultralytics YOLOv5 para su despliegue con Deci

Después de completar la información pertinente, haga clic en "Start". La plataforma Deci realizará automáticamente una optimización en tiempo de ejecución de su modelo YOLOv5 para el hardware que haya seleccionado, y también evaluará su modelo en varios tipos de hardware. Este proceso tarda aproximadamente 10 minutos.

Una vez hecho esto, aparecerá una nueva fila en su pantalla debajo del modelo de referencia que subió anteriormente. Aquí puede ver la versión optimizada de su modelo YOLOv5 pre-entrenado.

Modelo Ultralytics YOLOv5 optimizado para su despliegue con Deci

¿Qué sigue?

A continuación, puede descargar su modelo optimizado haciendo clic en el botón "Deploy".

Modelo Ultralytics YOLOv5 listo para su despliegue con Deci

A continuación, se le pedirá que descargue su modelo y recibirá instrucciones sobre cómo instalar y utilizar Infery, el motor de inferencia en tiempo de ejecución de Deci.

El uso de Infery es opcional. Puede obtener los archivos raw de Python y utilizarlos con cualquier otro motor de inferencia de su elección.

Utilice Deci Infery para implementar Ultralytics YOLOv5

Explore la optimización y los resultados de referencia en la pestaña "Insights".

Optimización con Deci del modelo YOLOv5 de Ultralytics

¿Listo para empezar?

Antes de concluir, analicemos algunas de las ventajas que ofrece Deci:

  • Optimice el rendimiento y la latencia de la inferencia de su modelo sin comprometer la precisión
  • Le permite optimizar modelos de todos los frameworks populares
  • Admite modelos dirigidos a cualquier tarea de aprendizaje profundo
  • Admite la implementación en máquinas populares de CPU y GPU
  • Evalúa la idoneidad de su modelo en diferentes hosts de hardware y proveedores de la nube
  • Prepara los modelos cargados para su uso en servicios, inferencia e implementación.

Como acaba de ver, puede duplicar el rendimiento de un modelo YOLOv5 en 15 minutos en total. La plataforma Deci es súper fácil e intuitiva de usar.

¿Alguna pregunta? ¡Únase a nuestra comunidad y deje su pregunta hoy mismo!

¡Construyamos juntos el futuro
de la IA!

Comience su viaje con el futuro del aprendizaje automático

Comienza gratis
Enlace copiado al portapapeles