Executar modelos Ultralytics YOLO no PC de IA da Intel com OpenVINO

O YOLO Vision 2024 (YV24), o evento híbrido anual da Ultralytics, reuniu entusiastas de IA, programadores e especialistas de todo o mundo para explorar as mais recentes inovações em visão por computador. O YV24 contou com apresentações das mais importantes empresas do setor da IA sobre as suas inovações mais recentes. Entre elas estava a Intel, que apresentou uma palestra sobre o seu novo PC com IA e a integração do Intel OpenVINO com modelos Ultralytics YOLO, como o Ultralytics YOLO11.

A palestra foi conduzida por Adrian Boguszewski, divulgador de software que foi coautor do conjunto de dados LandCover.ai e ensina os programadores a utilizar o kit de ferramentas OpenVINO da Intel, e por Dmitriy Pastushenkov, divulgador de PCs com IA com mais de 20 anos de experiência em automação industrial e IA. Durante o evento, Adrian disse: «Este é um excelente evento, não só porque a Ultralytics lançou uma nova versão do YOLO, mas também porque podemos apresentar este novo modelo a funcionar no nosso novo hardware, bem como uma nova versão do OpenVINO.»

Neste artigo, vamos analisar os principais destaques da palestra da Intel no YV24, abordando o PC com IA da Intel, a série Intel Core Ultra 200V e a forma como estes se integram com os modelos Ultralytics YOLO através do kit de ferramentas OpenVINO.

Tecnologias de IA em 2024#

Dmitriy iniciou a palestra explicando as principais diferenças entre a IA tradicional e a IA generativa. O foco esteve na evolução destas tecnologias e dos seus casos de utilização em 2024. As técnicas tradicionais de IA, como a visão por computador e o processamento de linguagem natural, têm sido essenciais para tarefas como a estimativa de pose, a deteção de objetos e o reconhecimento de voz. A IA generativa, por sua vez, representa uma nova vaga de tecnologia de IA, que inclui aplicações como chatbots, geração de imagens a partir de texto, escrita de código e até geração de vídeos a partir de texto.

Fig. 1. Adrian e Dmitriy, da Intel, no palco do YV24, discutindo casos de uso de IA.

Dmitriy salientou a diferença de escala entre as duas. Explicou que, enquanto os modelos tradicionais de IA têm milhões de parâmetros, os modelos de IA generativa funcionam numa escala muito maior. Os modelos de IA generativa têm muitas vezes milhares de milhões ou até biliões de parâmetros, o que os torna muito mais exigentes em termos computacionais.

O PC com IA da Intel: uma nova fronteira em hardware de IA#

Dmitriy apresentou o PC com IA da Intel como uma nova solução de hardware, projetada para enfrentar os desafios crescentes de executar com eficiência modelos tradicionais e generativos de IA. O PC com IA da Intel é uma máquina potente e eficiente em termos de energia. Ele consegue executar localmente uma ampla variedade de modelos de IA, sem precisar de processamento na nuvem.

O processamento local ajuda a manter a privacidade dos dados sensíveis. Quando os modelos de IA podem funcionar sem ligação à Internet, isso ajuda a responder às preocupações éticas do setor em matéria de privacidade e segurança.

O processador da série Intel Core Ultra 200V é a força motriz do PC com IA da Intel. Este processador integra três componentes principais: a unidade central de processamento (CPU), a unidade de processamento gráfico (GPU) e a unidade de processamento neuronal (NPU). Cada componente desempenha uma função específica no processamento de diferentes tipos de cargas de trabalho de IA. A CPU é ideal para tarefas menores e de baixa latência que exigem respostas rápidas, enquanto a GPU está otimizada para operações de elevado débito, como a execução de modelos de IA. A NPU, concebida para ser energeticamente eficiente, é adequada para tarefas prolongadas, como a deteção de objetos em tempo real com modelos como o YOLO11.

Foi salientado que a CPU pode fornecer até 5 TOPS (biliões de operações por segundo), a GPU até 67 TOPS e a NPU permite executar tarefas de IA continuamente com eficiência energética, sem esgotar os recursos do sistema.

Avanços de IA da Intel: série Intel Core Ultra 200V#

O processador da série Intel Core Ultra 200V integra os três mecanismos de IA — NPU, CPU e GPU — num único chip pequeno. O seu design é adequado a dispositivos compactos, como computadores portáteis.

O processador também inclui RAM integrada, reduzindo a necessidade de placas gráficas separadas. Isso ajuda a diminuir o consumo de energia e mantém o dispositivo compacto. Dmitriy também destacou a flexibilidade do processador. Os usuários podem decidir se querem executar modelos de IA na CPU, GPU ou NPU, dependendo da tarefa. Por exemplo, a detecção de objetos com modelos YOLO11 pode ser executada em qualquer um desses mecanismos, enquanto tarefas mais complexas, como a geração de texto para imagem, podem usar a GPU e a NPU ao mesmo tempo para obter um desempenho melhor.

Durante a apresentação, Dmitriy tirou o chip do bolso, dando a todos uma ideia clara de como ele é realmente pequeno — apesar de sua capacidade de lidar com tarefas de IA tão avançadas. Foi uma forma divertida e memorável de mostrar como a Intel está levando recursos poderosos de IA a dispositivos mais portáteis e práticos.

Fig. 2. O processador Intel Core Ultra 200V cabe no bolso.

Otimizando modelos de IA com Intel OpenVINO#

Depois de apresentar o hardware mais recente da Intel, Dmitriy passou ao conjunto de ferramentas de software da Intel para IA. Apresentou o OpenVINO, uma plataforma de código aberto da Intel concebida para otimizar e implementar modelos de IA de forma eficiente em diferentes dispositivos. O OpenVINO vai além das tarefas visuais, alargando o seu suporte a modelos de IA utilizados no processamento de linguagem natural, no processamento de áudio, em transformers e muito mais.

O OpenVINO é compatível com plataformas populares como PyTorch, TensorFlow e ONNX, e os programadores podem integrá-lo facilmente nos seus fluxos de trabalho. Uma das principais funcionalidades que destacou foi a quantização. A quantização comprime os pesos dos modelos para reduzir o seu tamanho, permitindo que modelos grandes funcionem sem problemas em dispositivos locais, sem necessidade da cloud. O OpenVINO funciona com várias plataformas, executando-se em CPU, GPU, NPU, FPGA ou até dispositivos ARM, e suporta Windows, Linux e macOS. Dmitriy também explicou ao público como é fácil começar a utilizar o OpenVINO.

Fig. 3. Dmitriy explicando como começar a usar o OpenVINO.

Integração da Ultralytics com o Intel OpenVINO#

Na segunda parte da palestra, Adrian tomou a palavra e explicou a integração entre os modelos Ultralytics YOLO e o kit de ferramentas OpenVINO da Intel, que simplifica a implementação de modelos YOLO. Explicou passo a passo como é rápido e simples exportar um modelo YOLO para o formato OpenVINO utilizando o pacote Python da Ultralytics. Esta integração facilita bastante a otimização dos modelos para hardware Intel e permite tirar o máximo partido de ambas as plataformas.

Fig. 4. Adrian explicando como a Ultralytics facilita a exportação do seu modelo para o formato OpenVINO.

Adrian demonstrou que, depois de treinar um modelo Ultralytics YOLO, os utilizadores podem exportá-lo com alguns sinalizadores simples da linha de comandos. Por exemplo, podem especificar se querem exportar o modelo numa versão de vírgula flutuante para obter a máxima precisão ou numa versão quantizada para melhorar a velocidade e a eficiência. Também destacou como os programadores podem gerir este processo diretamente através de código, utilizando opções como a quantização INT8 para melhorar o desempenho sem sacrificar demasiada precisão.

Demonstrações de IA em tempo real no Intel AI PC#

Para pôr toda esta teoria em prática, a equipa da Intel apresentou uma demonstração de deteção de objetos em tempo real, executando o YOLO11 no PC com IA da Intel. Adrian mostrou como o sistema processava o modelo em diferentes processadores, alcançando 36 fotogramas por segundo (FPS) na CPU com um modelo de vírgula flutuante, mais de 100 FPS na GPU integrada e 70 FPS com a versão quantizada INT8. A demonstração revelou a eficiência com que o PC com IA da Intel consegue executar tarefas complexas de IA.

Ele também observou que o sistema pode executar modelos em paralelo, usando CPU, GPU e NPU em conjunto para tarefas em que todos os dados ou quadros de vídeo estão disponíveis de antemão. Isso é útil ao processar cargas pesadas, como vídeos. O sistema pode dividir a carga de trabalho entre diferentes processadores, tornando o processo mais rápido e eficiente.

Para concluir, Adrian mencionou que os utilizadores podiam experimentar demonstrações em casa, incluindo soluções como a contagem de pessoas e a gestão inteligente de filas. Em seguida, mostrou uma demonstração bónus na qual os utilizadores podiam introduzir prompts para gerar imagens oníricas em tempo real na GPU. A demonstração evidenciou a versatilidade do PC com IA da Intel, tanto para tarefas tradicionais de IA como para projetos criativos de IA generativa.

Detecção de objetos em tempo real com Intel OpenVINO#

No evento, a Intel tinha um estande onde apresentou uma demonstração de detecção de objetos em tempo real usando Ultralytics YOLO11, executada no Intel AI PC. Os participantes puderam ver o modelo em ação, otimizado com OpenVINO e implantado no processador Intel Core Ultra 200V.

Fig. 5. Os participantes puderam ver uma demonstração em tempo real no estande da Intel OpenVINO.

No estande da Intel, Dmitriy comentou: "Esta é minha primeira vez no YOLO Vision, e estou feliz por estar em Madri. Estamos apresentando o modelo YOLO11 da Ultralytics, executado no processador Intel Core Ultra 200V. Ele apresenta um excelente desempenho, e usamos o OpenVINO para otimizar e implantar o modelo. Foi muito fácil colaborar com a Ultralytics e executar o modelo no hardware mais recente da Intel, utilizando CPU, GPU e NPU." O estande também oferecia brindes divertidos, como camisetas e cadernos para os participantes levarem para casa.

Principais conclusões#

A palestra técnica da Intel no YV24, que apresentou os processadores Intel Core Ultra 200V Series, mostrou como o kit de ferramentas OpenVINO otimiza modelos de IA como Ultralytics YOLO11. Essa integração permite que os usuários executem modelos YOLO diretamente em seus dispositivos, oferecendo ótimo desempenho em tarefas de visão computacional, como detecção de objetos. A principal vantagem é que os usuários não precisam depender de serviços na nuvem.

Os programadores e entusiastas de IA podem executar e ajustar modelos YOLO, tirando pleno partido de hardware como CPUs, GPUs e NPUs para aplicações em tempo real. O kit de ferramentas Intel OpenVINO, em conjunto com os modelos Ultralytics YOLO, abre novas possibilidades para disponibilizar capacidades avançadas de IA diretamente em dispositivos pessoais, tornando-o uma excelente opção para programadores que criam aplicações de IA para vários setores.

Visita o nosso repositório no GitHub para explorares as nossas contribuições e participares na nossa comunidade. Vê como utilizamos a IA para gerar impacto em setores como a indústria transformadora e a saúde.