Yolo Vision Shenzhen
Shenzhen
Junte-se agora

Compilando e Quantizando o Ultralytics YOLOv5 para Melhor Desempenho com Deci

Equipe Ultralytics

4 min de leitura

26 de outubro de 2022

Otimize e implemente modelos YOLOv5 da Ultralytics com a plataforma da Deci, melhorando o desempenho em até 10x. Comece gratuitamente e aproveite a otimização automática de modelos.

Na Ultralytics, fazemos parcerias comerciais com outras startups para nos ajudar a financiar a pesquisa e o desenvolvimento de nossas incríveis ferramentas de código aberto, como o YOLOv5, para mantê-las gratuitas para todos. Este artigo pode conter links de afiliados para esses parceiros.

A plataforma Deci inclui ferramentas gratuitas para gerenciar, otimizar e implantar facilmente seus modelos YOLOv5 em qualquer ambiente de produção. A Deci suporta todos os frameworks de DL populares, como TensorFlow, PyTorch, Keras e ONNX. Tudo o que você precisa é da nossa plataforma baseada na web ou do nosso cliente Python para executá-lo a partir do seu código.

Por que Deci?

Pode usar o Deci não só para exportar, mas também para pruning e quantização do modelo!

A Deci fornece uma interface agradável para exportar em qualquer formato e comparação de desempenho entre os modelos original e convertido. Os usuários optam por otimizar ainda mais seus modelos por meio da quantização.

Com o Deci, você pode:

Melhore o Desempenho da Inferência em Até 10x

Compile e quantize automaticamente seus modelos e avalie diferentes configurações de produção para obter melhor latência, rendimento e redução do tamanho do modelo e da ocupação de memória em seu hardware.

Encontre O Melhor Hardware De Inferência Para Sua Aplicação

Avalie o desempenho do seu modelo em vários dispositivos de hardware (incluindo edge) com um botão. Elimine a necessidade de configurar e testar manualmente várias configurações de hardware e produção.

Implante Com Poucas Linhas De Código

Aproveite o motor de inferência baseado em Python da Deci. Compatível com várias estruturas e tipos de hardware.

Para obter mais informações sobre a Plataforma Deci, visite o website da Deci.

Configuração Inicial

Passo 1

Abra sua conta gratuita.

Comece a usar o Deci e o Ultralytics YOLOv5

Passo 2

Para começar a otimizar o seu modelo YOLOv5 pré-treinado, terá de o converter para o formato ONNX. Consulte o Tutorial de Exportação YOLOv5 para obter instruções sobre como converter o seu modelo para o formato ONNX.

Passo 3

Vá para a aba "Lab" e clique no botão "New Model" no canto superior direito da tela para fazer o upload do seu modelo ONNX YOLOv5.

Converter modelos Ultralytics YOLOv5 para ONNX para futura implantação com Deci

Siga os passos do assistente de upload do modelo para selecionar o hardware de destino, bem como o tamanho do lote e o nível de quantização desejados para a compilação do modelo.

Compilação do modelo Ultralytics YOLOv5 para implantação com Deci

Depois de preencher as informações relevantes, clique em "Iniciar". A plataforma Deci realizará automaticamente uma otimização de tempo de execução do seu modelo YOLOv5 para o hardware selecionado, bem como fará o benchmark do seu modelo em vários tipos de hardware. Este processo leva aproximadamente 10 minutos.

Uma vez concluído, uma nova linha aparecerá na sua tela abaixo do modelo de linha de base que você carregou anteriormente. Aqui você pode ver a versão otimizada do seu modelo YOLOv5 pré-treinado.

Modelo Ultralytics YOLOv5 otimizado para implantação com a Deci

Qual o Próximo Passo?

Em seguida, você pode baixar seu modelo otimizado clicando no botão "Deploy".

Modelo Ultralytics YOLOv5 pronto para implantação com a Deci

Será então solicitado a descarregar o seu modelo e receberá instruções sobre como instalar e usar o Infery - o motor de inferência de tempo de execução da Deci.

O uso do Infery é opcional. Você pode obter os arquivos raw em Python e usá-los com qualquer outro mecanismo de inferência de sua escolha.

Use o Deci Infery para implementar o Ultralytics YOLOv5

Explore os resultados de otimização e benchmark na aba "Insights".

Otimização com Deci do modelo YOLOv5 da Ultralytics

Pronto para Começar?

Antes de encerrarmos, vamos discutir algumas das vantagens que a Deci oferece:

  • Otimize a taxa de transferência e a latência de inferência do seu modelo sem comprometer a precisão
  • Permite otimizar modelos de todas as estruturas populares
  • Suporta modelos direcionados a qualquer tarefa de aprendizado profundo.
  • Suporta a implantação em máquinas populares de CPU e GPU
  • Avalia o desempenho do seu modelo em diferentes hosts de hardware e provedores de nuvem
  • Prepara os modelos carregados para serviço, inferência e implantação

Como você acabou de ver, você pode dobrar o desempenho de um modelo YOLOv5 em 15 minutos no tempo total. A plataforma Deci é super fácil e intuitiva de usar.

Alguma pergunta? Junte-se à nossa comunidade e deixe sua pergunta hoje mesmo!

Vamos construir o futuro
da IA juntos!

Comece sua jornada com o futuro do aprendizado de máquina

Comece gratuitamente
Link copiado para a área de transferência