24 de maio de 2024
Otimize seu modelo Ultralytics YOLOv8 para inferência usando OpenVINO. Siga nosso guia para converter modelos PyTorch para ONNX e otimizá-los para aplicações em tempo real.
Neste artigo do blog, vamos dar uma olhada em como pode exportar e otimizar o seu modelo Ultralytics YOLOv8 pré-treinado ou treinado de forma personalizada para inferência usando o OpenVINO. Se estiver a usar um sistema baseado em Intel, seja uma CPU ou GPU, este guia mostrará como acelerar significativamente o seu modelo com o mínimo de esforço.
Otimizar seu modelo YOLOv8 com OpenVINO pode fornecer um aumento de velocidade de até 3x nas tarefas de inferência, principalmente se você estiver executando uma CPU Intel. Esse aumento de desempenho pode fazer uma grande diferença em aplicações em tempo real, desde detecção de objetos até segmentação e sistemas de segurança.
Antes de mais nada, vamos detalhar o processo. Vamos converter um modelo PyTorch para ONNX e, em seguida, otimizá-lo usando o OpenVINO. Este processo envolve algumas etapas diretas e pode ser aplicado a vários modelos e formatos, incluindo TensorFlow, PyTorch, Caffe e ONNX.
Acessando a documentação da Ultralytics, descobrimos que a exportação de um modelo YOLOv8 envolve o uso do método export da estrutura Ultralytics. Este método nos permite converter nosso modelo de PyTorch para ONNX e, finalmente, otimizá-lo para OpenVINO. O resultado é um modelo que roda significativamente mais rápido, aproveitando o poderoso hardware da Intel.
Antes de executar o script de exportação, você precisará garantir que todas as dependências necessárias estejam instaladas. Isso inclui a biblioteca Ultralytics, ONNX e OpenVINO. A instalação desses pacotes é um processo simples que pode ser feito via pip, o instalador de pacotes do Python.
Depois de configurar o seu ambiente, pode executar o seu script de exportação. Este script converterá o seu modelo PyTorch para ONNX e, em seguida, para OpenVINO. O processo é simples e envolve chamar uma única função para lidar com a exportação. A framework Ultralytics facilita a conversão e otimização dos seus modelos, garantindo que obtém o melhor desempenho com o mínimo de problemas.
Após a exportação, é essencial comparar o desempenho dos modelos original e otimizado. Ao comparar o tempo de inferência de ambos os modelos, você pode ver claramente os ganhos de desempenho. Normalmente, o modelo OpenVINO mostrará uma redução significativa no tempo de inferência em comparação com o modelo PyTorch original. Isso é especialmente verdadeiro para modelos maiores, onde o aumento de desempenho é mais perceptível.
Otimizar modelos YOLOv8 com OpenVINO é particularmente benéfico para aplicações que exigem processamento em tempo real. Aqui estão alguns exemplos:
Ao implementar essas otimizações, você não apenas melhora o desempenho, mas também aprimora a confiabilidade e a eficiência de seus aplicativos. Isso pode levar a melhores experiências do usuário, aumento da produtividade e soluções mais inovadoras.
Exportar e otimizar um modelo YOLOv8 para OpenVINO é uma forma poderosa de aproveitar o hardware Intel para aplicações de IA mais rápidas e eficientes. Com apenas alguns passos simples, você pode transformar o desempenho do seu modelo e aplicá-lo a cenários do mundo real de forma eficaz.
Certifique-se de conferir mais tutoriais e guias da Ultralytics para continuar aprimorando seus projetos de IA. Visite nosso repositório GitHub e junte-se à comunidade Ultralytics para obter mais informações e atualizações. Vamos inovar juntos!
Lembre-se, otimizar seus modelos não se trata apenas de velocidade, mas de desbloquear novas possibilidades e garantir que suas soluções de IA sejam robustas, eficientes e preparadas para o futuro.
.webp)