Obtém velocidades de inferência mais rápidas com Ultralytics YOLOv8 e OpenVINO da Intel

Velocidade e eficiência são essenciais na implantação de modelos de inteligência artificial. A Ultralytics tem o prazer de compartilhar nossa integração mais recente com o kit de ferramentas OpenVINO™ da Intel, que facilita a implantação de modelos de IA otimizados em hardware Intel. Essa colaboração com a Intel combina o poder dos modelos Ultralytics YOLOv8 com a eficiência do OpenVINO™ da Intel, oferecendo até 3 vezes mais velocidade em CPUs e desempenho aprimorado em todo o amplo ecossistema de hardware da Intel, incluindo GPUs integradas, GPUs dedicadas e VPUs.

O que torna esta integração especial?#

O kit de ferramentas OpenVINO™ da Intel foi projetado para maximizar o desempenho dos modelos de IA em hardware Intel. Além de visão, o OpenVINO™ oferece suporte a várias tarefas, do processamento de linguagem à análise de áudio. Ao otimizar modelos YOLOv8 para o OpenVINO™, a Ultralytics ajuda os usuários a obter inferência de IA mais rápida e eficiente, seja no desenvolvimento de aplicações para análise de vídeo, cidades inteligentes ou o varejo de próxima geração.

Para ver um passo a passo detalhado de como exportar e otimizar seu modelo Ultralytics YOLOv8 para inferência com OpenVINO™, confira nosso tutorial passo a passo para exportar YOLOv8 para OpenVINO.

Uma espreitadela ao processo#

Imagine poder exportar seus modelos Ultralytics YOLOv8 diretamente para um formato criado sob medida para velocidade e eficiência. É exatamente isso que essa integração oferece. Com apenas algumas linhas de código, os desenvolvedores podem transformar seus modelos YOLOv8 em versões compatíveis com o OpenVINO™, prontas para aproveitar a aceleração de hardware fornecida pela Intel. Isso torna viável executar aplicações de IA que antes eram limitadas por restrições computacionais.

A vantagem do OpenVINO: simplificar o desenvolvimento de IA#

A integração da Ultralytics com a Intel é um passo prático para avançar o processo de desenvolvimento de IA. Ao combinar YOLOv8 e OpenVINO™, os desenvolvedores ganham uma maneira eficiente de usar CPUs Intel®, essenciais para a computação em muitas áreas. Isso torna a IA mais acessível e eficiente em aplicações práticas.

O uso do OpenVINO™ otimiza o processo de inferência para que os modelos Ultralytics YOLOv8 funcionem com eficiência em condições reais. Isso permite a implantação rápida de soluções de IA em uma ampla variedade de dispositivos, sem configurações dispendiosas de GPU, ampliando as possibilidades em áreas como iniciativas de cidades inteligentes e experiências de varejo para clientes.

Benefícios no mundo real#

• Desempenho melhorado: obtém uma inferência de IA até 3x mais rápida em CPUs, com acelerações ainda maiores em todo o espectro de hardware da Intel.
• Implementação versátil: escreve a tua aplicação uma vez e implementa-a em qualquer componente do ecossistema de hardware da Intel, desde CPUs a VPUs, sem alterações adicionais ao código.
• Facilidade de utilização: acede a mais de 80 tutoriais que te orientam na otimização de modelos de IA, mesmo que não sejas especialista em aprendizagem profunda.

Casos de sucesso: resultados de testes que falam por si#

A Ultralytics e a Intel testaram a integração, comparando o desempenho dos modelos YOLOv8 em várias plataformas de hardware Intel. Os resultados mostram que os modelos otimizados com OpenVINO™ são consistentemente mais rápidos que os equivalentes sem otimização, sem comprometer a precisão, desde a série Intel Data Center GPU Flex até as CPUs Xeon mais recentes.

Fig. 1. Tempo de inferência por imagem, por tamanho e formato do modelo (CPU Xeon)

A IA no mundo real#

Essa integração envolve mais do que números e testes de desempenho: trata-se de ajudar os desenvolvedores a levar a IA para aplicações do mundo real com mais facilidade e eficiência. Seja para aprimorar sistemas de segurança com uma detecção de objetos mais rápida ou criar experiências de varejo mais envolventes por meio de análises inteligentes, a integração do Ultralytics YOLOv8 com o Intel OpenVINO™ ajuda a impulsionar uma nova geração de aplicações de IA.

Começa hoje!#

Para testar a integração, exporte um modelo YOLOv8 para OpenVINO™ e avalie o desempenho dele no seu próprio hardware Intel. Para mais informações e um guia passo a passo, acesse nossa página da documentação da integração com OpenVINO.