Exporta e otimiza o Ultralytics YOLOv8 para inferência no Intel OpenVINO

Nesta publicação do blog, vamos ver como podes exportar e otimizar o teu modelo Ultralytics YOLOv8 pré-treinado ou treinado com dados personalizados para inferência usando OpenVINO. Se estiveres a usar um sistema baseado em Intel, seja CPU ou GPU, este guia mostra-te como acelerar significativamente o teu modelo com um esforço mínimo.

Porquê otimizar o Ultralytics YOLOv8 com OpenVINO?#

Otimizar o teu modelo Ultralytics YOLOv8 com o OpenVINO pode proporcionar um aumento de velocidade de até 3x em tarefas de inferência, sobretudo se estiveres a executar o modelo numa CPU Intel. Este aumento de desempenho pode fazer uma enorme diferença em aplicações em tempo real, desde a deteção de objetos até à segmentação e aos sistemas de segurança.

Passos para exportar e otimizar o teu modelo Ultralytics YOLOv8#

Compreender o processo#

Antes de mais, vamos explicar o processo. Vamos converter um modelo PyTorch para ONNX e depois otimizá-lo usando OpenVINO. Este processo envolve alguns passos simples e pode ser aplicado a vários modelos e formatos, incluindo TensorFlow, PyTorch, Caffe e ONNX.

Exportar o modelo#

Ao consultar a documentação da Ultralytics, descobrimos que a exportação de um modelo YOLOv8 envolve o uso do método export da framework Ultralytics. Este método permite converter o nosso modelo de PyTorch para ONNX e, por fim, otimizá-lo para OpenVINO. O resultado é um modelo que é executado significativamente mais depressa, aproveitando o poderoso hardware da Intel.

Instalar dependências#

Antes de executar o script de exportação, tens de garantir que todas as dependências necessárias estão instaladas. Estas incluem a biblioteca Ultralytics, ONNX e OpenVINO. A instalação destes pacotes é um processo simples que pode ser feito através do pip, o instalador de pacotes Python.

Executar o script de exportação#

Depois de configurares o ambiente, podes executar o teu script de exportação. Este script converte o teu modelo PyTorch para ONNX e, depois, para OpenVINO. O processo é simples e envolve chamar uma única função para tratar da exportação. A framework Ultralytics facilita a conversão e a otimização dos teus modelos, garantindo o melhor desempenho com o mínimo de complicações.

Fig. 1. Nicolai Nielsen a explicar como executar o script de exportação.

Comparar o desempenho#

Depois da exportação, é essencial comparar o desempenho dos modelos original e otimizado. Ao fazer benchmarking do tempo de inferência de ambos os modelos, podes ver claramente os ganhos de desempenho. Normalmente, o modelo OpenVINO apresenta uma redução significativa no tempo de inferência em comparação com o modelo PyTorch original. Isto é especialmente verdade para modelos maiores, nos quais o aumento de desempenho é mais evidente.

Aplicações e benefícios no mundo real#

Otimizar modelos Ultralytics YOLOv8 com OpenVINO é particularmente benéfico para aplicações que exigem processamento em tempo real. Eis alguns exemplos:

• Sistemas de segurança: A deteção de objetos em tempo real pode alertar instantaneamente o pessoal de segurança, melhorando a proteção e a capacidade de resposta.
• Veículos automatizados: Velocidades de inferência mais elevadas melhoram a capacidade de resposta dos sistemas de condução autónoma, tornando-os mais seguros e fiáveis.
• Cuidados de saúde: O processamento rápido de imagens para ferramentas de diagnóstico pode salvar vidas ao fornecer resultados mais rapidamente e permitir intervenções atempadas.

Ao implementares estas otimizações, não só melhoras o desempenho, como também aumentas a fiabilidade e a eficiência das tuas aplicações. Isto pode proporcionar melhores experiências de utilização, maior produtividade e soluções mais inovadoras.

Conclusão#

Exportar e otimizar um modelo Ultralytics YOLOv8 para OpenVINO é uma forma poderosa de tirar partido do hardware Intel para obter aplicações de IA mais rápidas e eficientes. Com apenas alguns passos simples, podes transformar o desempenho do teu modelo e aplicá-lo eficazmente a cenários do mundo real.

Não deixes de consultar mais tutoriais e guias da Ultralytics para continuares a melhorar os teus projetos de IA. Visita o nosso repositório no GitHub e junta-te à comunidade Ultralytics para obteres mais informações e novidades. Vamos inovar juntos!

Lembra-te: otimizar os teus modelos não é apenas uma questão de velocidade — trata-se de desbloquear novas possibilidades e garantir que as tuas soluções de IA são robustas, eficientes e preparadas para o futuro.