Executar modelos Ultralytics YOLO no AI PC da Intel com OpenVINO

O YOLO Vision 2024 (YV24), o evento híbrido anual da Ultralytics, reuniu entusiastas de IA, programadores e especialistas de todo o mundo para explorar as mais recentes inovações em visão computacional. O YV24 foi uma excelente oportunidade e plataforma para discutir novas descobertas. O evento contou com a participação de figuras importantes da indústria de IA, que apresentaram as suas mais recentes inovações. Entre elas estava a Intel, que participou no evento com uma apresentação principal sobre o seu novo e revolucionário PC com IA e a integração do Intel OpenVINO com modelos Ultralytics YOLO, como o Ultralytics YOLO11.

A apresentação foi conduzida por Adrian Boguszewski, um evangelista de software que foi coautor do conjunto de dados LandCover.ai e ensina aos programadores como utilizar o kit de ferramentas OpenVINO da Intel, e por Dmitriy Pastushenkov, um evangelista de PCs com IA com mais de 20 anos de experiência em automação industrial e IA. Durante o evento, Adrian partilhou o seu entusiasmo e afirmou: "Este é um excelente evento, não só porque a Ultralytics lançou uma nova versão do YOLO, mas também porque podemos apresentar este novo modelo a funcionar no nosso novo hardware, bem como uma nova versão do OpenVINO."

Neste artigo, vamos analisar os principais destaques da apresentação da Intel no YV24, explorando em detalhe o seu PC com IA, a série Intel Core Ultra 200V e a forma como se integram com os modelos Ultralytics YOLO usando o kit de ferramentas OpenVINO. Vamos começar!

Tecnologias de IA de ponta em 2024#

Dmitriy começou a apresentação principal explicando as principais diferenças entre a IA tradicional e a IA generativa. O foco centrou-se na evolução destas tecnologias e dos seus casos de utilização em 2024. As técnicas tradicionais de IA, como a visão computacional e o processamento de linguagem natural, têm sido essenciais para tarefas como a estimativa de pose, a deteção de objetos e o reconhecimento de voz. A IA generativa, contudo, representa uma nova vaga de tecnologia de IA que inclui aplicações como chatbots, geração de texto para imagem, escrita de código e até texto para vídeo.

Fig. 1. Adrian e Dmitriy da Intel, no palco do YV24, a discutir casos de utilização de IA.

Dmitriy salientou a diferença de escala entre os dois tipos de modelos. Explicou que, enquanto os modelos de IA tradicionais são compostos por milhões de parâmetros, os modelos de IA generativa operam numa escala muito maior. Os modelos de IA generativa envolvem frequentemente milhares de milhões ou até biliões de parâmetros, o que os torna muito mais exigentes do ponto de vista computacional.

O PC com IA da Intel: uma nova fronteira do hardware de IA#

Dmitriy apresentou o PC com IA da Intel como uma nova solução de hardware concebida para responder aos desafios crescentes de executar eficientemente modelos de IA tradicionais e generativa. O PC com IA da Intel é uma máquina potente e energeticamente eficiente. É capaz de executar localmente uma vasta gama de modelos de IA, sem necessidade de processamento baseado na nuvem.

O processamento local ajuda a manter os dados privados protegidos. Quando os modelos de IA podem funcionar de forma independente das ligações à Internet, são respondidas as preocupações éticas das indústrias relativamente à privacidade e à segurança.

A força motriz por trás do PC com IA da Intel é o processador Intel Core Ultra 200V Series. Este processador incorpora três componentes essenciais: Unidade central de processamento (CPU), Unidade de processamento gráfico (GPU) e Unidade de processamento neural (NPU). Cada um desempenha um papel específico no processamento de diferentes tipos de cargas de trabalho de IA. A CPU é ideal para tarefas mais pequenas e de baixa latência que exigem respostas rápidas, enquanto a GPU está otimizada para operações de elevado débito, como a execução de modelos de IA. A NPU, concebida para eficiência energética, é adequada para tarefas de longa duração, como a deteção de objetos em tempo real com modelos como o YOLO11.

Foi salientado que a CPU pode atingir até 5 TOPS (biliões de operações por segundo), a GPU até 67 TOPS e a NPU proporciona uma forma energeticamente eficiente de executar tarefas de IA continuamente sem esgotar os recursos do sistema.

Os avanços da IA da Intel: série Intel Core Ultra 200V#

O processador Intel Core Ultra 200V Series integra os três motores de IA — NPU, CPU e GPU — num único chip pequeno. O seu design é perfeitamente adequado para dispositivos compactos, como computadores portáteis, sem sacrificar o desempenho.

O processador também inclui RAM integrada, reduzindo a necessidade de placas gráficas separadas. Isto ajuda a reduzir o consumo de energia e mantém o dispositivo compacto. Dmitriy também salientou a flexibilidade do processador. Os utilizadores podem decidir se querem executar os modelos de IA na CPU, GPU ou NPU, dependendo da tarefa. Por exemplo, a deteção de objetos com modelos YOLO11 pode ser executada em qualquer um destes motores, enquanto tarefas mais complexas, como a geração de texto para imagem, podem utilizar simultaneamente a GPU e a NPU para obter um melhor desempenho.

Durante a apresentação, Dmitriy tirou o chip do bolso, dando a todos uma noção clara do quão pequeno ele realmente é, apesar da sua capacidade de executar tarefas de IA tão avançadas. Foi uma forma divertida e memorável de mostrar como a Intel está a levar capacidades de IA potentes para dispositivos mais portáteis e práticos.

Fig. 2. O processador Intel Core Ultra 200V cabe num bolso.

Otimização de modelos de IA com o Intel OpenVINO#

Depois de apresentar os mais recentes avanços de hardware da Intel, Dmitriy passou para a sua pilha de software compatível com IA. Apresentou o OpenVINO, uma estrutura de código aberto da Intel concebida para otimizar e implementar modelos de IA de forma eficiente em diferentes dispositivos. O OpenVINO vai além das tarefas visuais, alargando o suporte a modelos de IA utilizados no processamento de linguagem natural, processamento de áudio, transformers, etc.

O OpenVINO é compatível com plataformas populares como PyTorch, TensorFlow, e ONNX, e os programadores podem integrá-lo facilmente nos seus fluxos de trabalho. Uma funcionalidade importante a que deu destaque foi a quantização. A quantização comprime os pesos dos modelos para reduzir o seu tamanho, permitindo que modelos grandes sejam executados sem problemas em dispositivos locais, sem necessidade da nuvem. O OpenVINO funciona com várias estruturas, sendo executado em CPU, GPU, NPU, FPGA ou até dispositivos ARM, e suporta Windows, Linux e macOS. Dmitriy também mostrou ao público como é fácil começar a utilizar o OpenVINO.

Fig. 3. Dmitriy a explicar como começar a utilizar o OpenVINO.

Integração da Ultralytics com o Intel OpenVINO#

Na segunda parte da apresentação, o microfone passou para Adrian, que explicou a integração simples entre os modelos Ultralytics YOLO e o kit de ferramentas OpenVINO da Intel, simplificando o processo de implementação de modelos YOLO. Explicou passo a passo como exportar um modelo YOLO usando o pacote Python da Ultralytics para o formato OpenVINO de forma rápida e simples. Esta integração facilita muito a otimização dos modelos para hardware Intel e permite tirar o máximo partido de ambas as plataformas.

Fig. 4. Adrian a explicar como a Ultralytics facilita a exportação do teu modelo para o formato OpenVINO.

Adrian demonstrou que, depois de um modelo Ultralytics YOLO ser treinado, os utilizadores podem exportá-lo usando alguns sinalizadores simples da linha de comandos. Por exemplo, podem especificar se querem exportar o modelo como uma versão de ponto flutuante para obter a máxima precisão ou como uma versão quantizada para obter maior velocidade e eficiência. Também salientou que os programadores podem gerir este processo diretamente através de código, utilizando opções como a quantização INT8 para melhorar o desempenho sem sacrificar demasiada precisão.

Demonstrações de IA em tempo real no PC com IA da Intel#

Aplicando toda esta teoria na prática, a equipa da Intel apresentou uma demonstração de deteção de objetos em tempo real ao executar o YOLO11 no PC com IA da Intel. Adrian mostrou como o sistema processou o modelo em diferentes processadores, atingindo 36 fotogramas por segundo (FPS) na CPU com um modelo de ponto flutuante, mais de 100 FPS na GPU integrada e 70 FPS com a versão quantizada INT8. Conseguiram demonstrar a eficiência com que o PC com IA da Intel pode gerir tarefas complexas de IA.

Também salientou que o sistema pode executar modelos em paralelo, utilizando simultaneamente a CPU, a GPU e a NPU em tarefas nas quais todos os dados ou fotogramas de vídeo estão disponíveis antecipadamente. Isto é útil ao processar cargas pesadas, como vídeos. O sistema pode dividir a carga de trabalho entre diferentes processadores, tornando o processo mais rápido e eficiente.

Para concluir, Adrian mencionou que os utilizadores poderiam experimentar demonstrações em casa, incluindo soluções como contagem de pessoas e gestão inteligente de filas. Em seguida, mostrou uma demonstração bónus na qual os utilizadores podiam introduzir prompts para gerar imagens oníricas em tempo real na GPU. A demonstração evidenciou a versatilidade do PC com IA da Intel tanto para tarefas de IA tradicionais como para projetos criativos de IA generativa.

Deteção de objetos em tempo real com o Intel OpenVINO#

No evento, a Intel tinha um expositor onde apresentou uma demonstração de deteção de objetos em tempo real usando o Ultralytics YOLO11, executado no seu PC com IA da Intel. Os participantes puderam ver o modelo em ação, otimizado com o OpenVINO e implementado no processador Intel Core Ultra 200V.

Fig. 5. Os participantes tiveram a oportunidade de assistir a uma demonstração em tempo real no expositor Intel OpenVINO.

No expositor da Intel, Dmitriy afirmou: "É a minha primeira vez no YOLO Vision e estou contente por estar em Madrid. Estamos a apresentar o modelo YOLO11 da Ultralytics, executado no processador Intel Core Ultra 200V. Apresenta um desempenho excelente e usamos o OpenVINO para otimizar e implementar o modelo. Foi muito fácil colaborar com a Ultralytics e executar o modelo no hardware Intel mais recente, utilizando a CPU, a GPU e a NPU." O expositor também tinha ofertas divertidas, como t-shirts e cadernos para os participantes levarem para casa.

Principais conclusões#

A apresentação técnica da Intel no YV24, que contou com os processadores Intel Core Ultra 200V Series, mostrou como o kit de ferramentas OpenVINO otimiza modelos de IA como o Ultralytics YOLO11. Esta integração permite aos utilizadores executar modelos YOLO diretamente nos seus dispositivos, proporcionando um excelente desempenho em tarefas de visão computacional, como a deteção de objetos. A principal vantagem é que os utilizadores não precisam de depender de serviços na nuvem.

Os programadores e entusiastas de IA podem executar e ajustar modelos YOLO facilmente, utilizando plenamente hardware como CPUs, GPUs e NPUs para aplicações em tempo real. O kit de ferramentas Intel OpenVINO, em combinação com os modelos Ultralytics YOLO, abre novas possibilidades para levar capacidades avançadas de IA diretamente para dispositivos pessoais, tornando-o uma opção ideal para programadores ansiosos por impulsionar inovações de IA em vários setores.

Vamos colaborar e inovar! Visita o nosso repositório no GitHub para explorar as nossas contribuições e participar na nossa comunidade. Vê como estamos a utilizar a IA para causar impacto em setores como a indústria transformadora e os cuidados de saúde.