Exporte e otimize Ultralytics YOLOv8 para inferência no Intel OpenVINO

Neste post do blog, vamos ver como podes exportar e otimizar o teu modelo Ultralytics YOLOv8 pré-treinado ou treinado à medida para inferência utilizando o OpenVINO. Se estás a utilizar um sistema baseado em Intel, quer seja um CPU ou GPU, este guia vai mostrar-te como acelerar significativamente o teu modelo com o mínimo esforço.

Por que otimizar o Ultralytics YOLOv8 com OpenVINO?#

Otimizar o teu modelo Ultralytics YOLOv8 com o OpenVINO pode proporcionar um aumento de velocidade de até 3x em tarefas de inferência, particularmente se estiveres a executar um CPU Intel. Este aumento de desempenho pode fazer uma enorme diferença em aplicações em tempo real, desde detecção de objetos até segmentação e sistemas de segurança.

Passos para exportar e otimizar o teu modelo Ultralytics YOLOv8#

Entendendo o processo#

Primeiro, vamos detalhar o processo. Vamos converter um modelo PyTorch para ONNX e, em seguida, otimizá-lo usando o OpenVINO. Esse processo envolve alguns passos simples e pode ser aplicado a vários modelos e formatos, incluindo TensorFlow, PyTorch, Caffe e ONNX.

Exportando o modelo#

Saltando para a documentação da Ultralytics, descobrimos que exportar um modelo YOLOv8 envolve a utilização do método export do framework Ultralytics. Este método permite-nos converter o nosso modelo de PyTorch para ONNX e, finalmente, otimizá-lo para o OpenVINO. O resultado é um modelo que é executado significativamente mais rápido, tirando partido do potente hardware da Intel.

Instalando dependências#

Antes de executar o script de exportação, você precisará garantir que todas as dependências necessárias estejam instaladas. Elas incluem a biblioteca Ultralytics, ONNX e OpenVINO. Instalar esses pacotes é um processo simples que pode ser feito via pip, o instalador de pacotes Python.

Executando o script de exportação#

Assim que seu ambiente estiver configurado, você pode executar seu script de exportação. Esse script converterá seu modelo PyTorch para ONNX e, em seguida, para OpenVINO. O processo é direto e envolve chamar uma única função para lidar com a exportação. A estrutura Ultralytics facilita a conversão e otimização de seus modelos, garantindo que você obtenha o melhor desempenho com o mínimo de complicações.

Fig 1. Nicolai Nielsen a explicar como executar o script de exportação.

Comparando o desempenho#

Após a exportação, é essencial comparar o desempenho dos modelos original e otimizado. Ao avaliar o tempo de inferência de ambos os modelos, você pode ver claramente os ganhos de desempenho. Normalmente, o modelo OpenVINO mostrará uma redução significativa no tempo de inferência em comparação com o modelo PyTorch original. Isso é especialmente verdadeiro para modelos maiores, onde o ganho de desempenho é mais notável.

Aplicações reais e benefícios#

Otimizar modelos Ultralytics YOLOv8 com OpenVINO é particularmente benéfico para aplicações que requerem processamento em tempo real. Aqui tens alguns exemplos:

• Sistemas de Segurança: A deteção de objetos em tempo real pode alertar o pessoal de segurança instantaneamente, melhorando a segurança e a capacidade de resposta.
• Veículos Autónomos: Velocidades de inferência mais rápidas melhoram a capacidade de resposta dos sistemas de condução autónoma, tornando-os mais seguros e fiáveis.
• Saúde: O processamento rápido de imagens para ferramentas de diagnóstico pode salvar vidas ao fornecer resultados mais rápidos, permitindo intervenções atempadas.

Ao implementar essas otimizações, você não apenas melhora o desempenho, mas também aumenta a confiabilidade e a eficiência de suas aplicações. Isso pode levar a melhores experiências para o usuário, maior produtividade e soluções mais inovadoras.

Conclusão#

Exportar e otimizar um modelo Ultralytics YOLOv8 para OpenVINO é uma forma poderosa de aproveitar o hardware da Intel para aplicações de IA mais rápidas e eficientes. Com apenas alguns passos simples, podes transformar o desempenho do teu modelo e aplicá-lo a cenários do mundo real de forma eficaz.

Certifica-te de consultar mais tutoriais e guias da Ultralytics para continuares a melhorar os teus projetos de IA. Visita o nosso repositório GitHub e junta-te à comunidade Ultralytics para mais conhecimentos e atualizações. Vamos inovar juntos!

Lembre-se, otimizar seus modelos não é apenas sobre velocidade, é sobre desbloquear novas possibilidades e garantir que suas soluções de IA sejam robustas, eficientes e prontas para o futuro.