Exporte e otimize Ultralytics YOLOv8 para inferência no Intel OpenVINO

Neste post, daremos uma olhada em como você pode exportar e otimizar seu modelo Ultralytics YOLOv8 pré-treinado ou treinado sob medida para inferência usando OpenVINO. Se você estiver usando um sistema baseado em Intel, seja CPU ou GPU, este guia mostrará como acelerar significativamente seu modelo com esforço mínimo.

Link to this sectionPor que otimizar o YOLOv8 com OpenVINO?#

Otimizar seu modelo YOLOv8 com OpenVINO pode proporcionar um aumento de até 3x na velocidade em tarefas de inferência, especialmente se você estiver executando uma CPU Intel. Esse ganho de desempenho pode fazer uma enorme diferença em aplicações de tempo real, desde detecção de objetos até segmentação e sistemas de segurança.

Link to this sectionPassos para exportar e otimizar seu modelo YOLOv8#

Link to this sectionEntendendo o processo#

Primeiro, vamos detalhar o processo. Vamos converter um modelo PyTorch para ONNX e, em seguida, otimizá-lo usando o OpenVINO. Esse processo envolve alguns passos simples e pode ser aplicado a vários modelos e formatos, incluindo TensorFlow, PyTorch, Caffe e ONNX.

Link to this sectionExportando o modelo#

Consultando a documentação da Ultralytics, descobrimos que exportar um modelo YOLOv8 envolve o uso do método export da estrutura Ultralytics. Esse método nos permite converter nosso modelo de PyTorch para ONNX e, finalmente, otimizá-lo para OpenVINO. O resultado é um modelo que roda significativamente mais rápido, aproveitando o hardware potente da Intel.

Link to this sectionInstalando dependências#

Antes de executar o script de exportação, você precisará garantir que todas as dependências necessárias estejam instaladas. Elas incluem a biblioteca Ultralytics, ONNX e OpenVINO. Instalar esses pacotes é um processo simples que pode ser feito via pip, o instalador de pacotes Python.

Link to this sectionExecutando o script de exportação#

Assim que seu ambiente estiver configurado, você pode executar seu script de exportação. Esse script converterá seu modelo PyTorch para ONNX e, em seguida, para OpenVINO. O processo é direto e envolve chamar uma única função para lidar com a exportação. A estrutura Ultralytics facilita a conversão e otimização de seus modelos, garantindo que você obtenha o melhor desempenho com o mínimo de complicações.

Fig 1. Nicolai Nielsen descrevendo como executar o script de exportação.

Link to this sectionComparando o desempenho#

Após a exportação, é essencial comparar o desempenho dos modelos original e otimizado. Ao avaliar o tempo de inferência de ambos os modelos, você pode ver claramente os ganhos de desempenho. Normalmente, o modelo OpenVINO mostrará uma redução significativa no tempo de inferência em comparação com o modelo PyTorch original. Isso é especialmente verdadeiro para modelos maiores, onde o ganho de desempenho é mais notável.

Link to this sectionAplicações reais e benefícios#

Otimizar modelos YOLOv8 com OpenVINO é particularmente benéfico para aplicações que exigem processamento em tempo real. Aqui estão alguns exemplos:

• Sistemas de Segurança: A detecção de objetos em tempo real pode alertar a equipe de segurança instantaneamente, aumentando a segurança e a capacidade de resposta.
• Veículos Automatizados: Velocidades de inferência mais rápidas melhoram a capacidade de resposta de sistemas de direção autônoma, tornando-os mais seguros e confiáveis.
• Saúde: O processamento rápido de imagens para ferramentas de diagnóstico pode salvar vidas ao fornecer resultados mais rápidos, permitindo intervenções oportunas.

Ao implementar essas otimizações, você não apenas melhora o desempenho, mas também aumenta a confiabilidade e a eficiência de suas aplicações. Isso pode levar a melhores experiências para o usuário, maior produtividade e soluções mais inovadoras.

Link to this sectionConclusão#

Exportar e otimizar um modelo YOLOv8 para OpenVINO é uma maneira poderosa de aproveitar o hardware da Intel para aplicações de IA mais rápidas e eficientes. Com apenas alguns passos simples, você pode transformar o desempenho do seu modelo e aplicá-lo a cenários do mundo real de forma eficaz.

Certifique-se de conferir mais tutoriais e guias da Ultralytics para continuar aprimorando seus projetos de IA. Visite nosso repositório no GitHub e junte-se à comunidade Ultralytics para mais ideias e atualizações. Vamos inovar juntos!

Lembre-se, otimizar seus modelos não é apenas sobre velocidade, é sobre desbloquear novas possibilidades e garantir que suas soluções de IA sejam robustas, eficientes e prontas para o futuro.