Acelerar o Ultralytics YOLO26 com OpenVINO no Intel Core Ultra Series 3 (Panther Lake)

Nos últimos anos, a IA e a visão computacional passaram de experimentais a uma parte essencial das operações empresariais quotidianas. De facto, os inquéritos mostram que cerca de 88% das organizações já utilizam IA em pelo menos uma área dos seus negócios.

No entanto, transformar essa adoção em valor real, seja em sistemas de produção ou em projetos pessoais, depende muitas vezes de quão bem os modelos funcionam depois de implementados. Em muitos cenários do mundo real, modelos de visão computacional como o Ultralytics YOLO26 são implementados em dispositivos edge e numa variedade de hardware, frequentemente CPUs, GPUs integradas ou NPUs, em vez de GPUs de topo.

É aí que o desempenho pode começar a variar e que a otimização se torna essencial. Um modelo que funciona bem num ambiente pode ter dificuldades noutro se não estiver devidamente otimizado para o hardware subjacente.

Para simplificar este processo, o pacote Python da Ultralytics permite exportar modelos YOLO26 para formatos otimizados como OpenVINO, para que funcionem sem problemas em hardware Intel sem exigir alterações ao teu fluxo de trabalho.

Por exemplo, quando um modelo Ultralytics YOLO26 é exportado para o formato OpenVINO, pode funcionar de forma mais eficiente em processadores Intel Core Ultra Series 3, com velocidades de inferência na GPU até três vezes superiores.

Neste artigo, vamos explorar como a integração atualizada entre a Ultralytics e o OpenVINO facilita a implementação de modelos YOLO26 em hardware Intel Core Ultra Series 3. Vamos começar!

Uma visão geral da integração Ultralytics x OpenVINO#

O pacote Python da Ultralytics fornece uma interface única para treinar, executar inferência e implementar modelos Ultralytics YOLO, como o YOLO26. Suporta várias integrações que ajudam em diferentes partes do fluxo de trabalho de IA de visão, desde o treino e a experimentação até à implementação e otimização.

Uma das integrações focadas na implementação é com o toolkit OpenVINO, que permite exportar modelos Ultralytics YOLO26 para um formato otimizado para hardware Intel. Este processo converte os modelos YOLO num formato que funciona de forma mais eficiente em CPUs, GPUs e NPUs Intel, incluindo sistemas equipados com processadores Intel® Core™ Ultra™ series.

Isto torna mais simples executar modelos em diferentes dispositivos Intel sem ter de os ajustar manualmente para cada configuração. Quer estejas a trabalhar numa máquina local, num dispositivo edge ou numa implementação de maior escala, o mesmo modelo exportado pode ser reutilizado.

O que torna esta integração especialmente prática é a forma perfeitamente integrada como se adapta ao fluxo de trabalho existente da Ultralytics. Podes exportar um modelo usando a mesma interface que utilizas para o treino e a inferência, sem precisares de ferramentas adicionais ou de uma configuração complexa.

Depois de exportado, o modelo pode ser utilizado para inferência através do pacote Python da Ultralytics ou do OpenVINO Runtime, dependendo do nível de controlo e flexibilidade de que precisas.

Uma análise mais detalhada do OpenVINO e do hardware Intel Panther Lake para inferência de IA#

Antes de vermos quão eficientemente um modelo Ultralytics YOLO26 exportado pode funcionar em hardware Intel, vamos recuar um pouco e compreender como o OpenVINO e o hardware Intel trabalham em conjunto para permitir uma inferência eficiente.

O OpenVINO é um toolkit de código aberto concebido para otimizar e executar inferência de IA em hardware Intel, incluindo CPUs, GPUs integradas e NPUs. Fornece um runtime unificado, para que o mesmo modelo possa ser executado nestas diferentes unidades de computação sem precisar de ser reescrito.

Fig. 1. O OpenVINO facilita a implementação de modelos em vários destinos de hardware. (Fonte)

Nos novos processadores Intel® Core™ Ultra™ Series 3 (com o nome de código Panther Lake), as cargas de trabalho de IA são executadas em várias unidades de computação dentro do mesmo processador. Cada chip combina núcleos CPU para tarefas de uso geral, uma GPU integrada para processamento paralelo e uma NPU dedicada, concebida especificamente para inferência de IA.

O OpenVINO fornece uma API unificada que te permite direcionar qualquer uma destas unidades de computação, seja CPU, GPU ou NPU, sem alterar o teu código. Basta especificares em que dispositivo executar a inferência durante o runtime, o que torna simples alternar entre os três consoante as tuas necessidades de desempenho e eficiência.

Avaliação comparativa do Ultralytics YOLO26 na série Intel® Core™ Ultra™#

Ao explorares a integração entre a Ultralytics e o OpenVINO, poderás perguntar-te: que ganhos de desempenho do modelo podes esperar ao exportar o YOLO26 para o formato OpenVINO?

A diferença na velocidade de inferência torna-se evidente ao avaliar modelos YOLO26 em diferentes formatos e níveis de precisão. Por exemplo, ao executar a variante nano do YOLO26 (YOLO26n) num Intel Core Ultra X7 358H, um processador Panther Lake, o tempo de inferência diminui de 25.18 ms por imagem no PyTorch com precisão FP32 para 2.64 ms com OpenVINO na mesma precisão e utilizando a NPU integrada.

Isto é mais rápido do que a referência original PyTorch FP32, o que pode fazer uma diferença significativa em aplicações em tempo real e edge, onde a latência é essencial. Estes ganhos tornam-se ainda mais evidentes ao executar o mesmo modelo na GPU Intel Arc integrada.

Fig. 2. Avaliação comparativa da inferência do Ultralytics YOLO26 na GPU Intel Panther Lake utilizando OpenVINO (Fonte)

Fig. 3. Avaliação comparativa da inferência do Ultralytics YOLO26 na NPU Intel Panther Lake utilizando OpenVINO (Fonte)

Explorar duas formas de exportar o Ultralytics YOLO26 para o formato OpenVINO#

Existem duas formas principais de exportar modelos YOLO26 para o formato OpenVINO. Podes utilizar o pacote Python da Ultralytics ou exportar diretamente através da Ultralytics Platform, um espaço de trabalho completo para criar e gerir fluxos de trabalho de visão computacional num só lugar. De seguida, vamos explicar ambas as abordagens.

Utilizar o pacote Python da Ultralytics para exportar o YOLO26#

O pacote Python da Ultralytics oferece uma forma simples de exportar modelos YOLO26 para o formato OpenVINO num fluxo de trabalho baseado em código. Como a mesma interface é utilizada para o treino e a inferência, a exportação de um modelo integra-se naturalmente nos pipelines existentes sem exigir ferramentas adicionais.

Para começar, podes instalar o pacote Ultralytics. Para isso, executa o comando “pip install ultralytics” num terminal ou numa linha de comandos. Se estiveres a trabalhar num ambiente interativo como o Jupyter Notebook ou o Google Colab, podes executar o mesmo comando prefixando-o com um ponto de exclamação.

Depois de instalado, podes carregar um modelo YOLO26 treinado e exportá-lo diretamente para o formato OpenVINO. Como mostrado abaixo, é carregado um modelo YOLO26n pré-treinado (yolo26n.pt), que depois é convertido para o formato OpenVINO utilizando o método export.

from ultralytics import YOLO

model = YOLO("yolo26n.pt")

model.export(format="openvino")

Depois de executares o código, o modelo convertido é guardado num novo diretório, onde pode ser utilizado para implementação.

Exportar o YOLO26 na Ultralytics Platform#

Se procuras uma abordagem mais simples e sem código, podes exportar modelos YOLO26 diretamente através da Ultralytics Platform. A plataforma reúne todo o fluxo de trabalho de visão computacional num único espaço de trabalho, facilitando a passagem do treino para a implementação sem configuração adicional.

Quando o teu modelo estiver pronto, podes abri-lo na plataforma e aceder ao separador Export. A partir daí, podes selecionar OpenVINO como formato de exportação e, opcionalmente, ajustar definições como o tamanho da imagem ou a precisão.

Fig. 4. Uma visão geral da exportação do YOLO26 na Ultralytics Platform

A plataforma trata automaticamente da conversão, pelo que não precisas de gerir scripts, dependências ou a configuração do ambiente. Depois de concluída a exportação, o modelo otimizado pode ser descarregado e utilizado para implementação em CPUs, GPUs e NPUs Intel.

Opções de implementação possibilitadas pela integração Ultralytics x OpenVINO#

Depois de um modelo YOLO26 ser exportado para o formato OpenVINO, existem algumas formas de executar a inferência, dependendo do teu fluxo de trabalho e do nível de controlo necessário. Podes utilizar o pacote Python da Ultralytics para uma abordagem mais simples e integrada ou o runtime nativo do OpenVINO para obteres mais flexibilidade e controlo.

Executar inferência com o pacote Python da Ultralytics#

Depois de o teu modelo ser exportado para o formato OpenVINO, podes executar inferência utilizando o pacote Python da Ultralytics. Esta abordagem é ideal para testes rápidos e uma implementação simplificada, uma vez que utiliza a mesma interface que o treino e a exportação.

Com esta abordagem, podes carregar o modelo OpenVINO exportado a partir do seu diretório e executar inferência num input, como uma imagem ou um vídeo. Também podes escolher o dispositivo onde executar, especificando opções como "intel:cpu", "intel:gpu" ou "intel:npu", consoante o hardware disponível no teu sistema.

O trecho de código abaixo mostra como carregar o modelo exportado e executar inferência numa imagem direcionada para a GPU. Depois de concluída a inferência, a imagem de saída é guardada no diretório “runs/detect/predict”.

ov_model = YOLO("yolo26n_openvino_model/")

results = ov_model("https://ultralytics.com/images/bus.jpg", device="intel:gpu")

Utilizar o pacote nativo OpenVINO para inferência#

Se precisares de mais controlo sobre a forma como o teu modelo funciona em produção, podes utilizar o runtime nativo do OpenVINO para inferência. Este método é útil ao integrares modelos em aplicações maiores ou quando quiseres ajustar detalhadamente a execução da inferência em hardware específico.

O OpenVINO oferece uma forma unificada de executar modelos em CPUs, GPUs e NPUs Intel, juntamente com funcionalidades como execução assíncrona e utilização eficiente dos recursos de computação disponíveis. Para configurar isto, podes trabalhar diretamente com os ficheiros do modelo exportado, incluindo o ficheiro .xml, que define a estrutura do modelo, e o ficheiro .bin, que contém os pesos treinados.

Consoante o teu caso de utilização, também podes ajustar definições como o tamanho do input ou as etapas de pré-processamento. A configuração da inferência envolve inicializar o runtime do OpenVINO, carregar e compilar o modelo para um dispositivo-alvo, preparar os dados de input e, em seguida, executar a inferência.

Fig. 5. Um exemplo de um pipeline de inferência típico com OpenVINO (Fonte)

Isto permite controlar a forma como o modelo é executado e como se integra na tua implementação global. Para saberes mais sobre a configuração e a execução de inferência com o runtime OpenVINO, podes consultar a documentação oficial da Ultralytics.

Aplicações reais do Ultralytics YOLO26 em hardware Intel#

O verdadeiro valor da integração entre a Ultralytics e o OpenVINO manifesta-se em produção, onde uma inferência fiável e de baixa latência pode fazer uma diferença concreta. Eis alguns setores importantes onde esta integração gera resultados relevantes:

• Fabrico: Ao exportar o Ultralytics YOLO26 para OpenVINO, os sistemas das linhas de produção podem detetar automaticamente defeitos visuais, como componentes em falta, desalinhamentos ou danos superficiais, em hardware Intel, ajudando a melhorar a qualidade dos produtos e a reduzir erros dispendiosos.

• Cuidados de saúde: Os sistemas de imagiologia médica e monitorização de pacientes podem executar localmente modelos Ultralytics YOLO26 exportados em hardware Intel, apoiando requisitos rigorosos de privacidade dos dados e mantendo um desempenho de inferência fiável.

• Cidades inteligentes: A monitorização do tráfego e a análise de multidões podem ser implementadas utilizando modelos Ultralytics YOLO26 exportados em câmaras edge equipadas com Intel, permitindo obter informações em tempo real, como a contagem de veículos, o seguimento de peões e a deteção de incidentes.

• Automóvel: A baixa latência e a eficiência energética são essenciais na monitorização do condutor e na deteção no habitáculo, tornando o hardware Intel combinado com modelos Ultralytics YOLO26 exportados uma excelente opção para sistemas automóveis integrados.

Se quiseres saber mais sobre esta integração, junta-te a nós na série de workshops OpenVINO DevCon da Intel, “From Annotation to Deployment: Building an Object Detection Pipeline with Geti, Ultralytics YOLO26, and OpenVINO™”, onde o nosso gestor de Parcerias e Ecossistema, Francesco Mattioli, se juntará ao evangelista de software de IA da Intel, Adrian Boguszewski, para uma demonstração ao vivo e uma explicação passo a passo de como criar pipelines de visão computacional prontos para produção em cenários industriais do mundo real. O workshop apresentará um fluxo de trabalho completo e de ponta a ponta para deteção de objetos, desde a criação do dataset e o treino do modelo até à otimização e implementação edge.

Vantagens de utilizar o formato de exportação OpenVINO#

Eis algumas das principais vantagens de utilizar o formato de exportação OpenVINO:

• Acessível e fácil de integrar: Com uma API unificada e mais de 80 notebooks tutoriais, o OpenVINO facilita a passagem da experimentação para a implementação sem introduzir uma complexidade significativa.

• Executar o mesmo modelo em hardware diferente: O OpenVINO permite utilizar um único modelo exportado no hardware Intel compatível, implementando-o em CPUs, GPUs ou NPUs sem ter de o reescrever ou adaptar para cada dispositivo.

• Otimização integrada durante a exportação: A exportação para OpenVINO converte modelos de frameworks populares como PyTorch e TensorFlow num formato otimizado e pronto para inferência, eliminando a necessidade de etapas de conversão separadas.

• Melhor utilização dos recursos de hardware: O OpenVINO suporta inferência assíncrona e balanceamento de carga no hardware Intel, ajudando a melhorar a eficiência em aplicações do mundo real.

Executar o Ultralytics YOLO26 com ExecuTorch e o backend OpenVINO#

Se estiveres a implementar o Ultralytics YOLO26 em ambientes de produção mais exigentes, existe outra opção disponível que combina eficiência no dispositivo com compressão avançada de modelos.

O ExecuTorch, o framework de inferência no dispositivo do PyTorch, suporta um backend OpenVINO que te permite implementar o Ultralytics YOLO26 em hardware Intel através de um percurso de exportação e runtime diferente.

O funcionamento é o seguinte: o ExecuTorch trata da exportação do modelo e da execução no runtime, enquanto o OpenVINO atua como camada de aceleração de hardware subjacente, tratando da computação efetiva na CPU, GPU ou NPU Intel. Os dois trabalham em conjunto para oferecer a portabilidade e a eficiência no dispositivo do ExecuTorch, combinadas com as otimizações específicas do hardware fornecidas pelo OpenVINO.

Para saberes mais sobre o funcionamento desta solução e como começar a utilizar o Ultralytics YOLO26 com o ExecuTorch e o backend OpenVINO, consulta o blog da Intel sobre as últimas atualizações do ExecuTorch e OpenVINO.

Principais conclusões#

A exportação de modelos YOLO26 através da integração entre a Ultralytics e o OpenVINO melhora o desempenho em hardware Intel sem acrescentar complexidade ao teu fluxo de trabalho. Podes passar do treino à implementação sem reformular o teu pipeline. No geral, isto oferece uma forma simples de executar modelos de forma eficiente em CPUs, GPUs e NPUs Intel em aplicações do mundo real.

Junta-te à nossa comunidade e explora o nosso repositório no GitHub para saberes mais sobre Vision AI. Consulta as nossas opções de licenciamento para iniciares os teus projetos de visão computacional. Tens interesse em inovações como IA no fabrico ou visão computacional no setor automóvel? Visita as nossas páginas de soluções para descobrires mais.