24 de maio de 2024
Optimize o seu modelo Ultralytics YOLOv8 para inferência utilizando o OpenVINO. Siga o nosso guia para converter modelos PyTorch em ONNX e optimizá-los para aplicações em tempo real.
Neste post do blogue, veremos como pode exportar e otimizar os seus dados pré-treinados ou personalizados Ultralytics YOLOv8 pré-treinado ou personalizado para inferência usando o OpenVINO. Se estiver a utilizar um sistema Intel, quer seja uma CPU ou GPU, este guia irá mostrar-lhe como acelerar significativamente o seu modelo com um esforço mínimo.
Otimização do modelo YOLOv8 com OpenVINO pode proporcionar um aumento de velocidade de até 3x nas tarefas de inferência, especialmente se estiver a utilizar umaCPU Intel . Este aumento de desempenho pode fazer uma enorme diferença em aplicações em tempo real, desde a deteção de objectos à segmentação e sistemas de segurança.
Antes de mais nada, vamos analisar o processo. Vamos converter um modelo PyTorch para ONNX e depois optimizá-lo utilizando o OpenVINO. Este processo envolve alguns passos simples e pode ser aplicado a vários modelos e formatos, incluindo TensorFlow, PyTorch, Caffe e ONNX.
Ao consultar adocumentação Ultralytics , descobrimos que a exportação de um modelo YOLOv8 implica a utilização do método de exportação da estrutura Ultralytics . Este método permite-nos converter o nosso modelo de PyTorch para ONNXe, finalmente, optimizá-lo para o OpenVINO. O resultado é um modelo que é executado significativamente mais rápido, aproveitando o poderoso hardware da Intel.
Antes de executar o script de exportação, é necessário garantir que todas as dependências necessárias estejam instaladas. Estas incluem a biblioteca Ultralytics , ONNX e OpenVINO. A instalação desses pacotes é um processo simples que pode ser feito via pip, o instalador de pacotes Python .
Quando o ambiente estiver configurado, pode executar o script de exportação. Este script irá converter o seu modelo PyTorch para ONNX e depois para OpenVINO. O processo é simples e envolve a chamada de uma única função para lidar com a exportação. A estrutura Ultralytics facilita a conversão e a otimização dos seus modelos, garantindo-lhe o melhor desempenho com o mínimo de complicações.
Após a exportação, é essencial comparar o desempenho dos modelos original e optimizado. Ao comparar o tempo de inferência de ambos os modelos, é possível ver claramente os ganhos de desempenho. Normalmente, o modelo OpenVINO mostrará uma redução significativa no tempo de inferência em comparação com o modelo PyTorch original. Isso é especialmente verdadeiro para modelos maiores, onde o aumento de desempenho é mais percetível.
A otimização dos modelos YOLOv8 com o OpenVINO é particularmente benéfica para aplicações que requerem processamento em tempo real. Eis alguns exemplos:
Ao implementar essas otimizações, você não apenas melhora o desempenho, mas também aprimora a confiabilidade e a eficiência de seus aplicativos. Isso pode levar a melhores experiências do usuário, aumento da produtividade e soluções mais inovadoras.
Exportar e otimizar um modelo YOLOv8 para OpenVINO é uma forma poderosa de tirar partido do hardware Intel para aplicações de IA mais rápidas e eficientes. Com apenas alguns passos simples, pode transformar o desempenho do seu modelo e aplicá-lo a cenários do mundo real de forma eficaz.
Não deixe de conferir mais tutoriais e guias do Ultralytics para continuar aprimorando seus projetos de IA. Visite o nosso repositório GitHub e junte-se à comunidade Ultralytics para obter mais informações e actualizações. Vamos inovar juntos!
Lembre-se, otimizar seus modelos não se trata apenas de velocidade, mas de desbloquear novas possibilidades e garantir que suas soluções de IA sejam robustas, eficientes e preparadas para o futuro.
