Yolo Vision Shenzhen
Shenzhen
Junte-se agora

Compilação e quantificação do Ultralytics YOLOv5 para um melhor desempenho com Deci

Equipa Ultralytics

4 min de leitura

26 de outubro de 2022

Optimize e implemente os modelos Ultralytics YOLOv5 com a plataforma Deci, melhorando o desempenho até 10 vezes. Comece a usar gratuitamente e aproveite a otimização automática de modelos.

Na Ultralytics , estabelecemos parcerias comerciais com outras startups para nos ajudar a financiar a investigação e o desenvolvimento das nossas fantásticas ferramentas de código aberto, como o YOLOv5, para as manter gratuitas para todos. Este artigo pode conter links de afiliados para esses parceiros.

A plataforma Deci inclui ferramentas gratuitas para gerir, otimizar e implementar facilmente o seu YOLOv5 em qualquer ambiente de produção. Deci suporta todas as estruturas DL populares, como TensorFlow, PyTorch, Keras e ONNX. Tudo o que precisa é da nossa plataforma baseada na Web ou do nosso cliente Python para a executar a partir do seu código.

Por que Deci?

Pode usar o Deci não só para exportar, mas também para pruning e quantização do modelo!

A Deci fornece uma interface agradável para exportar em qualquer formato e comparação de desempenho entre os modelos original e convertido. Os usuários optam por otimizar ainda mais seus modelos por meio da quantização.

Com o Deci, você pode:

Melhore o Desempenho da Inferência em Até 10x

Compile e quantize automaticamente seus modelos e avalie diferentes configurações de produção para obter melhor latência, rendimento e redução do tamanho do modelo e da ocupação de memória em seu hardware.

Encontre O Melhor Hardware De Inferência Para Sua Aplicação

Avalie o desempenho do seu modelo em vários dispositivos de hardware (incluindo edge) com um botão. Elimine a necessidade de configurar e testar manualmente várias configurações de hardware e produção.

Implante Com Poucas Linhas De Código

‍Utilizeo mecanismo de inferência python do Deci. Compatível com vários frameworks e tipos de hardware.

Para obter mais informações sobre a Plataforma Deci, visite o website da Deci.

Configuração Inicial

Passo 1

Abra sua conta gratuita.

Começar a utilizar Deci e Ultralytics YOLOv5

Passo 2

Para começar a otimizar o seu modelo YOLOv5 pré-treinado, terá de o converter para o formato ONNX . Consulte Tutorial de exportaçãoYOLOv5 para obter instruções sobre como converter seu modelo para o formato ONNX .

Passo 3

Vá para o separador "Lab" e clique no botão "New Model" no canto superior direito do ecrã para carregar o seu YOLOv5 ONNX .

Converter modelos Ultralytics YOLOv5 em ONNX para futura implementação com Deci

Siga os passos do assistente de upload do modelo para selecionar o hardware de destino, bem como o tamanho do lote e o nível de quantização desejados para a compilação do modelo.

Compilação do modelo Ultralytics YOLOv5 para implantação com Deci

Depois de preencher as informações relevantes, clique em "Start". A plataforma Deci realizará automaticamente uma otimização em tempo de execução do seu modelo YOLOv5 para o hardware que selecionou, bem como um benchmark do seu modelo em vários tipos de hardware. Este processo demora aproximadamente 10 minutos.

Uma vez feito isso, uma nova linha aparecerá no seu ecrã por baixo do modelo de base que carregou anteriormente. Aqui pode ver a versão optimizada do seu modelo YOLOv5 pré-treinado.

Modelo optimizado Ultralytics YOLOv5 para implementação com Deci

Qual o Próximo Passo?

Em seguida, você pode baixar seu modelo otimizado clicando no botão "Deploy".

Modelo Ultralytics YOLOv5 pronto para ser implementado com Deci

Será então solicitado a descarregar o seu modelo e receberá instruções sobre como instalar e usar o Infery - o motor de inferência de tempo de execução da Deci.

A utilização do Infery é opcional. Pode obter os ficheiros python raw e utilizá-los com qualquer outro motor de inferência à sua escolha.

Utilizar o Deci Infery para implementar Ultralytics YOLOv5

Explore os resultados de otimização e benchmark na aba "Insights".

Otimização com Deci do modelo Ultralytics YOLOv5

Pronto para Começar?

Antes de encerrarmos, vamos discutir algumas das vantagens que a Deci oferece:

  • Otimize a taxa de transferência e a latência de inferência do seu modelo sem comprometer a precisão
  • Permite otimizar modelos de todas as estruturas populares
  • Suporta modelos direcionados a qualquer tarefa de aprendizado profundo.
  • Suporta a implementação em máquinas CPU e GPU populares
  • Avalia o desempenho do seu modelo em diferentes hosts de hardware e provedores de nuvem
  • Prepara os modelos carregados para serviço, inferência e implantação

Como acabou de ver, pode duplicar o desempenho de um modelo YOLOv5 em 15 minutos no total. A plataforma Deci é muito fácil e intuitiva de utilizar.

Alguma pergunta? Junte-se à nossa comunidade e deixe sua pergunta hoje mesmo!

Vamos construir o futuro
da IA juntos!

Comece sua jornada com o futuro do aprendizado de máquina

Comece gratuitamente