Compilação e quantificação do Ultralytics YOLOv5 para um melhor desempenho com Deci

Equipa Ultralytics

4 min ler

26 de outubro de 2022

Optimize e implemente modelos Ultralytics YOLOv5 com a plataforma Deci, melhorando o desempenho até 10 vezes. Comece a usar gratuitamente e aproveite a otimização automática de modelos.

Na Ultralytics, estabelecemos parcerias comerciais com outras startups para nos ajudar a financiar a investigação e o desenvolvimento das nossas fantásticas ferramentas de código aberto, como o YOLOv5, para as manter gratuitas para todos. Este artigo pode conter links de afiliados para esses parceiros.

A plataforma Deci inclui ferramentas gratuitas para gerir, otimizar e implementar facilmente os seus modelos YOLOv5 em qualquer ambiente de produção. Deci suporta todas as estruturas DL populares, como TensorFlow, PyTorch, Keras e ONNX. Tudo o que precisa é da nossa plataforma baseada na Web ou do nosso cliente Python para a executar a partir do seu código.

Porquê Deci?

Pode utilizar o Deci não só para exportar, mas também para eliminar e quantificar o modelo!

Deci fornece uma interface agradável para exportação em qualquer formato e comparação de desempenho entre os modelos originais e convertidos. Os utilizadores podem optar por otimizar ainda mais os seus modelos através da quantização.

Com Deci pode:

Melhore o desempenho da inferência em até 10 vezes

‍Compilee quantize automaticamente os seus modelos e avalie diferentes definições de produção para obter uma melhor latência, ao longo de todo o processo, e reduzir o tamanho do modelo e o espaço de memória no seu hardware.

‍Encontreo melhor hardware de inferência para a sua aplicação

‍Avalieo desempenho do seu modelo em vários dispositivos de hardware (incluindo edge) com um botão. Elimine a necessidade de configurar e testar manualmente várias configurações de hardware e produção.

‍Desenvolvercom algumas linhas de código

‍Utilizeo mecanismo de inferência baseado em python do Deci. Compatível com vários frameworks e tipos de hardware.

Para mais informações sobre a Plataforma Deci, visite o sítio Web da Deci.

Configuração pela primeira vez

Passo 1

Abra a sua conta gratuita.

Começar a utilizar Deci e Ultralytics YOLOv5

Passo 2

Para começar a otimizar o seu modelo YOLOv5 pré-treinado, terá de o converter para o formato ONNX. Consulte Tutorial de exportação do YOLOv5 para obter instruções sobre como converter seu modelo para o formato ONNX.

Passo 3

Aceda ao separador "Lab" e clique no botão "New Model" no canto superior direito do ecrã para carregar o seu modelo YOLOv5 ONNX.

Converter modelos Ultralytics YOLOv5 em ONNX para futura implementação com Deci

Siga os passos do assistente de carregamento de modelos para selecionar o hardware de destino, bem como o tamanho de lote pretendido e o nível de quantização para a compilação de modelos.

Compilação do modelo Ultralytics YOLOv5 para implantação com Deci

Depois de preencher as informações relevantes, clique em "Start". A plataforma Deci realizará automaticamente uma otimização em tempo de execução do seu modelo YOLOv5 para o hardware que selecionou, bem como um benchmark do seu modelo em vários tipos de hardware. Este processo demora aproximadamente 10 minutos.

Uma vez feito isso, uma nova linha aparecerá no seu ecrã por baixo do modelo de base que carregou anteriormente. Aqui pode ver a versão optimizada do seu modelo YOLOv5 pré-treinado.

Modelo optimizado Ultralytics YOLOv5 para implementação com Deci

O que é que se segue?

Pode então descarregar o seu modelo optimizado clicando no botão "Implementar".

Modelo Ultralytics YOLOv5 pronto para ser implementado com Deci

Ser-lhe-á então pedido que descarregue o seu modelo e receba instruções sobre como instalar e utilizar o Infery - o motor de inferência em tempo de execução do Deci.

A utilização do Infery é opcional. Pode obter os ficheiros python raw e utilizá-los com qualquer outro motor de inferência à sua escolha.

Utilizar o Deci Infery para implementar o Ultralytics YOLOv5

Explore os resultados da otimização e do benchmark no separador "Insights".

Otimização com Deci do modelo Ultralytics YOLOv5

Pronto para começar?

Antes de terminar, vamos discutir algumas das vantagens que Deci oferece:

  • Optimize o rendimento e a latência da inferência do seu modelo sem comprometer a precisão
  • Permite-lhe otimizar modelos de todas as estruturas populares
  • Suporta modelos direcionados para qualquer tarefa de aprendizagem profunda
  • Suporta a implementação em máquinas CPU e GPU populares
  • Avalia a adequação do seu modelo em diferentes hosts de hardware e fornecedores de serviços em nuvem
  • Prepara os modelos carregados para serem servidos, inferidos e implantados

Como acabou de ver, pode duplicar o desempenho de um modelo YOLOv5 em 15 minutos no total. A plataforma Deci é muito fácil e intuitiva de utilizar.

Tem alguma pergunta? Junte-se à nossa comunidade e deixe a sua pergunta hoje mesmo!

Vamos construir juntos o futuro
da IA!

Comece a sua viagem com o futuro da aprendizagem automática

Comece gratuitamente
Ligação copiada para a área de transferência