Yolo Vision Shenzhen
Shenzhen
Únete ahora

Compilación y cuantificación de Ultralytics YOLOv5 para mejorar el rendimiento con Deci

Equipo Ultralytics

4 minutos de lectura

26 de octubre de 2022

Optimice y despliegue modelos Ultralytics YOLOv5 con la plataforma de Deci, mejorando el rendimiento hasta 10 veces. Empiece gratis y aproveche la optimización automática de modelos.

En Ultralytics nos asociamos comercialmente con otras startups para que nos ayuden a financiar la investigación y el desarrollo de nuestras increíbles herramientas de código abierto, como YOLOv5, para que sigan siendo gratuitas para todo el mundo. Este artículo puede contener enlaces de afiliación a dichos socios.

La plataforma Deci incluye herramientas gratuitas para gestionar, optimizar y desplegar fácilmente su YOLOv5 en cualquier entorno de producción. Deci soporta todos los frameworks de DL populares, como TensorFlow, PyTorch, Keras y ONNX. Todo lo que necesitas es nuestra plataforma basada en web o nuestro cliente Python para ejecutarlo desde tu código.

¿Por qué Deci?

¡Puede utilizar Deci no solo para exportar, sino también para podar y cuantificar el modelo!

Deci proporciona una interfaz intuitiva para exportar en cualquier formato y comparar el rendimiento entre los modelos original y convertido. Los usuarios pueden optar por optimizar aún más sus modelos mediante la cuantización.

Con Deci puedes:

Mejore el rendimiento de la inferencia hasta 10 veces

Compile y cuantifique automáticamente sus modelos y evalúe diferentes configuraciones de producción para lograr una mejor latencia, rendimiento y reducción del tamaño del modelo y la huella de memoria en su hardware.

Encuentra el mejor hardware de inferencia para tu aplicación

Compare el rendimiento de su modelo en varios dispositivos de hardware (incluidos los de borde) con solo presionar un botón. Elimine la necesidad de configurar y probar manualmente múltiples configuraciones de hardware y producción.

Implementa con unas pocas líneas de código

Aprovechael motor de inferencia python de Deci. Compatible con múltiples marcos y tipos de hardware.

Para obtener más información sobre la plataforma Deci, visita el sitio web de Deci.

Configuración inicial

Paso 1

Abre tu cuenta gratuita.

Empiece con Deci y Ultralytics YOLOv5

Paso 2

Para empezar a optimizar su modelo YOLOv5 pre-entrenado, necesitará convertirlo al formato ONNX . Consulte el tutorial de exportación de YOLOv5 para obtener instrucciones sobre cómo convertir su modelo al formato ONNX .

Paso 3

Ve a la pestaña "Laboratorio" y haz clic en el botón "Nuevo modelo" en la parte superior derecha de la pantalla para cargar tu YOLOv5 ONNX .

Conversión de los modelosYOLOv5  Ultralytics  a ONNX para su futura implantación con Deci

Siga los pasos del asistente de carga de modelos para seleccionar su hardware de destino, así como el tamaño de lote y el nivel de cuantificación deseados para la compilación del modelo.

Compilación del modelo Ultralytics YOLOv5 para su despliegue con Deci

Después de rellenar la información pertinente, haga clic en "Iniciar". La plataforma Deci realizará automáticamente una optimización en tiempo de ejecución de su modelo YOLOv5 para el hardware que haya seleccionado, así como una evaluación comparativa de su modelo en varios tipos de hardware. Este proceso dura aproximadamente 10 minutos.

Una vez hecho esto, aparecerá una nueva fila en su pantalla debajo del modelo base que cargó previamente. Aquí podrá ver la versión optimizada de su modelo YOLOv5 preentrenado.

Modelo Ultralytics YOLOv5 optimizado para su despliegue con Deci

¿Qué sigue?

A continuación, puede descargar su modelo optimizado haciendo clic en el botón "Deploy".

El modeloYOLOv5 Ultralytics  listo para su despliegue con Deci

A continuación, se le pedirá que descargue su modelo y recibirá instrucciones sobre cómo instalar y utilizar Infery, el motor de inferencia en tiempo de ejecución de Deci.

El uso de Infery es opcional. Puede obtener los archivos sin procesar python y utilizarlos con cualquier otro motor de inferencia de su elección.

Utilice Deci Infery para desplegar Ultralytics YOLOv5

Explore la optimización y los resultados de referencia en la pestaña "Insights".

Optimización con Deci del modeloYOLOv5  Ultralytics

¿Listo para empezar?

Antes de concluir, analicemos algunas de las ventajas que ofrece Deci:

  • Optimice el rendimiento y la latencia de la inferencia de su modelo sin comprometer la precisión
  • Le permite optimizar modelos de todos los frameworks populares
  • Admite modelos dirigidos a cualquier tarea de aprendizaje profundo
  • Admite la implantación en las máquinas CPU y GPU más habituales
  • Evalúa la idoneidad de su modelo en diferentes hosts de hardware y proveedores de la nube
  • Prepara los modelos cargados para su uso en servicios, inferencia e implementación.

Como acabas de ver, puedes duplicar el rendimiento de un modelo YOLOv5 en 15 minutos en total. La plataforma Deci es súper fácil e intuitiva de usar.

¿Alguna pregunta? ¡Únase a nuestra comunidad y deje su pregunta hoy mismo!

¡Construyamos juntos el futuro
de la IA!

Comience su viaje con el futuro del aprendizaje automático

Comienza gratis