A Axelera AI oferece 34 FPS de inferência de IA na edge usando o Ultralytics YOLO

Axelera AI é uma empresa europeia de semicondutores que constrói chips de IA poderosos e energeticamente eficientes para executar visão computacional na borda. Por exemplo, as suas Metis AI Processing Units (AIPUs) são usadas em setores como varejo, segurança e manufatura.

Para tornar mais fácil para os clientes criarem e implantarem aplicações de IA, a Axelera integrou os modelos Ultralytics YOLO ao seu Voyager SDK, uma plataforma de software que simplifica a otimização, implantação e aceleração de modelos em Metis AIPUs, tornando a Visão IA em tempo real mais rápida, simples e escalável.

Link to this sectionRedefinindo a aceleração de hardware para Visão IA#

Fundada em 2021 e sediada na Holanda, a Axelera AI propôs-se a resolver um problema fundamental: o hardware de IA tradicional foi construído para a nuvem, não para a borda. Para fechar esta lacuna, a empresa desenvolveu a Metis AIPU.

É um chip de alto desempenho e baixo consumo de energia, concebido especificamente para cargas de trabalho na borda - tarefas de IA que são executadas localmente em dispositivos onde a velocidade, a privacidade e a eficiência energética são fundamentais.

É apoiado pela sua tecnologia proprietária Digital In-Memory Compute (D-IMC), que torna possível que os dados sejam processados diretamente onde estão armazenados e reduz drasticamente a latência e o consumo de energia. Com um software stack totalmente integrado e uma missão de democratizar a IA, a Axelera está tornando a IA de alto desempenho mais acessível.

Link to this sectionO desafio de executar modelos em hardware de IA na borda#

Para oferecer uma experiência de IA perfeita na borda, a Axelera AI teve como objetivo fornecer mais do que apenas hardware de alto desempenho. Os clientes também precisavam de uma maneira simples e confiável de executar soluções de visão computacional em tempo real que não envolvesse ferramentas complicadas ou personalização demorada. Muitos modelos existentes eram muito grandes, lentos ou não adequados para ambientes com recursos limitados.

Análises de varejo, automação fabril e sistemas de vigilância dependem frequentemente de insights visuais rápidos e precisos para apoiar as operações. No entanto, os modelos tradicionais e as soluções baseadas em nuvem normalmente não conseguem atender aos requisitos de baixa latência, eficiência energética e processamento local desses dispositivos de IA na borda.

A Axelera começou a procurar um conjunto de modelos que fosse preciso, fácil de implementar e capaz de rodar eficientemente nas suas Metis AI Processing Units. A solução ideal complementaria as suas capacidades de hardware enquanto simplificaria o desenvolvimento e aceleraria a implantação em uma ampla gama de casos de uso de IA na borda.

Link to this sectionInferências de IA aceleradas na borda com Ultralytics YOLO#

A Axelera AI integrou os modelos Ultralytics YOLO ao seu Voyager SDK para tornar a criação e implantação de aplicações de IA na borda mais rápidas, fáceis e escaláveis. O SDK inclui um Model Zoo com modelos YOLO prontos para usar e automatiza todo o pipeline, cobrindo pré-processamento, inferência e pós-processamento, otimizado para Metis AI Processing Units.

Fig 1. Metis AI Processing Unit (AIPU).

Esta integração permite que os clientes usem modelos Ultralytics YOLO pré-treinados imediatamente ou tragam os seus próprios, com aceleração perfeita no hardware de borda. Com suporte para execução de modelos paralelos e em cascata, as Metis AIPUs permitem configurações avançadas de múltiplos modelos, como estimativa de pose seguida de segmentação. Isso é ideal para tarefas complexas no varejo, segurança e automação industrial.

A combinação de tarefas de visão computacional em tempo real suportadas pelos modelos Ultralytics YOLO e pelo eficiente hardware e software stack da Axelera entrega um desempenho excepcional por watt e por dólar. Para os clientes, isso significa resultados mais precisos, implantação mais rápida e uma barreira menor para escalar a Visão IA na borda.

Link to this sectionPor que escolher Ultralytics YOLO models?#

A Axelera AI fez uma parceria com a Ultralytics para integrar os modelos Ultralytics YOLO à sua plataforma devido ao seu equilíbrio excepcional de precisão, velocidade e facilidade de uso. Com suporte para múltiplas variantes de Ultralytics YOLO, os clientes da Axelera AI podem avaliar uma ampla gama de cargas de trabalho e necessidades de desempenho na Metis AIPU.

Por meio de uma Ultralytics Enterprise License, a Axelera fornece acesso a todo o conjunto de modelos YOLO para avaliação e desenvolvimento. Para implantação comercial, os clientes precisam obter sua própria licença diretamente da Ultralytics por meio do formulário de licença, garantindo a conformidade e apoiando a inovação escalável na Visão IA na borda.

Link to this sectionAproveitando os modelos Ultralytics YOLO em escala com o Voyager SDK da Axelera AI#

Com os modelos Ultralytics YOLO e o Voyager SDK da Axelera AI, os usuários podem implantar aplicações de visão computacional precisas e de baixa latência diretamente nas Metis AI Processing Units. Além disso, ter acesso a múltiplas variantes YOLO permite que os clientes ajustem o desempenho com base nas necessidades específicas de sua aplicação.

Por exemplo, a Axelera AI viu clientes testarem soluções baseadas em YOLO em uma variedade de domínios, como:

• Varejo: Pipelines de múltiplos modelos combinando estimativa de pose, segmentação e detecção de objetos podem ser usados para apoiar tarefas como redução de perdas e controle de estoque. Essas implantações rodam eficientemente em plataformas embarcadas como o Raspberry Pi 5 emparelhado com a Metis AIPU.
• Manufatura: Os clientes podem usar a execução paralela de modelos para realizar tarefas simultâneas, como detecção de defeitos, classificação de produtos e estimativa de pose, em um único chip para melhorar o rendimento e reduzir custos de hardware.
• Vigilância: As capacidades de detecção de objetos em tempo real do YOLO podem ser usadas para analisar fluxos de vídeo 4K e 8K em resolução total, facilitando o monitoramento de segurança de alta precisão e a consciência situacional em ambientes críticos. Esta é uma solução muito melhor do que o redimensionamento tradicional em câmeras de alta resolução.
• Saúde: Pipelines YOLO otimizados podem apoiar a identificação de tumores, oferecendo alta velocidade de inferência e precisão confiável para imagens médicas no próprio dispositivo.

Esses casos de uso demonstram como o hardware de IA na borda da Axelera AI e os modelos Ultralytics YOLO impulsionam inovações de Visão IA de alto desempenho e eficiência energética em todos os setores.

Link to this sectionImpulsionando a próxima onda de IA na borda com Ultralytics YOLO#

À medida que a Axelera AI continua focada em expandir o acesso à IA de borda de alto desempenho, ela reúne hardware poderoso e modelos de visão confiáveis para ajudar os clientes a construir aplicações mais inteligentes e rápidas.

Com os modelos Ultralytics YOLO disponíveis por meio do Voyager SDK e hardware Metis AIPU, os usuários podem desenvolver e escalar facilmente soluções de visão computacional em tempo real entre diversos setores. Esta colaboração apoia uma comunidade crescente de desenvolvedores e empresas que trabalham para levar a IA para mais perto de onde os dados são criados, melhorando a eficiência, a capacidade de resposta e a inovação na borda.

Pronto para acelerar sua jornada de IA na borda? Explore nosso repositório no GitHub para ver como os modelos YOLO estão impulsionando inovações como IA no varejo e visão computacional na logística. Coloque a mão na massa com nossas ferramentas de Visão IA, saiba mais sobre opções de licenciamento e descubra como você pode desbloquear visão computacional de alto desempenho e eficiência energética na borda.