A Axelera AI oferece 34 FPS de inferência de IA na edge usando o Ultralytics YOLO

Axelera AI é uma empresa de semicondutores europeia que cria chips de IA potentes e energeticamente eficientes para executar computer vision na edge. Por exemplo, as suas Metis AI Processing Units (AIPUs) são usadas em indústrias como o retalho, segurança e fabrico.

Para facilitar a criação e o lançamento de aplicações de IA por parte dos clientes, a Axelera integrou os Ultralytics YOLO models no seu Voyager SDK, uma plataforma de software que otimiza, implementa e acelera modelos nas Metis AIPUs, tornando a Vision AI em tempo real mais rápida, simples e escalável.

Redefinindo a aceleração de hardware para Visão IA#

Fundada em 2021 e sediada nos Países Baixos, a Axelera AI propôs-se resolver um problema fundamental: o hardware de IA tradicional foi concebido para a cloud e não para a edge. Para colmatar esta lacuna, a empresa desenvolveu a Metis AIPU.

É um chip de alto desempenho e baixo consumo de energia, concebido especificamente para cargas de trabalho na borda - tarefas de IA que são executadas localmente em dispositivos onde a velocidade, a privacidade e a eficiência energética são fundamentais.

É apoiado pela sua tecnologia proprietária Digital In-Memory Compute (D-IMC), que torna possível que os dados sejam processados diretamente onde estão armazenados e reduz drasticamente a latência e o consumo de energia. Com um software stack totalmente integrado e uma missão de democratizar a IA, a Axelera está tornando a IA de alto desempenho mais acessível.

O desafio de executar modelos em hardware de IA na borda#

Para proporcionar uma experiência de IA integrada na edge, a Axelera AI pretendia oferecer mais do que hardware de alto desempenho. Os clientes também exigiam uma forma simples e fiável de executar soluções de computer vision em tempo real que não envolvesse ferramentas complexas ou personalizações demoradas. Muitos modelos existentes eram demasiado grandes, demasiado lentos ou inadequados para ambientes com recursos limitados.

Análises de varejo, automação fabril e sistemas de vigilância dependem frequentemente de insights visuais rápidos e precisos para apoiar as operações. No entanto, os modelos tradicionais e as soluções baseadas em nuvem normalmente não conseguem atender aos requisitos de baixa latência, eficiência energética e processamento local desses dispositivos de IA na borda.

A Axelera começou a procurar um conjunto de modelos que fosse preciso, fácil de implementar e capaz de rodar eficientemente nas suas Metis AI Processing Units. A solução ideal complementaria as suas capacidades de hardware enquanto simplificaria o desenvolvimento e aceleraria a implantação em uma ampla gama de casos de uso de IA na borda.

Inferências de IA aceleradas na borda com Ultralytics YOLO#

A Axelera AI integrou os modelos Ultralytics YOLO no seu Voyager SDK para tornar a criação e implementação de aplicações de IA na edge mais rápidas, fáceis e escaláveis. O SDK inclui um Model Zoo com modelos YOLO prontos a usar e automatiza todo o pipeline, abrangendo pré-processamento, inferência e pós-processamento, otimizados para as Metis AI Processing Units.

Fig 1. Metis AI Processing Unit (AIPU).

Esta integração permite que os clientes usem modelos Ultralytics YOLO pré-treinados imediatamente ou tragam os seus próprios, com aceleração perfeita no hardware de borda. Com suporte para execução de modelos paralelos e em cascata, as Metis AIPUs permitem configurações avançadas de múltiplos modelos, como estimativa de pose seguida de segmentação. Isso é ideal para tarefas complexas no varejo, segurança e automação industrial.

A combinação de computer vision tasks em tempo real suportadas pelos modelos Ultralytics YOLO e pelo eficiente stack de hardware e software da Axelera proporciona um desempenho excecional por watt e por dólar. Para os clientes, isto traduz-se em resultados mais precisos, implementação mais rápida e uma barreira inferior para escalar a Vision AI na edge.

Por que escolher Ultralytics YOLO models?#

A Axelera AI fez uma parceria com a Ultralytics para integrar os modelos Ultralytics YOLO à sua plataforma devido ao seu equilíbrio excepcional de precisão, velocidade e facilidade de uso. Com suporte para múltiplas variantes de Ultralytics YOLO, os clientes da Axelera AI podem avaliar uma ampla gama de cargas de trabalho e necessidades de desempenho na Metis AIPU.

Através de uma Ultralytics Enterprise License, a Axelera disponibiliza acesso ao conjunto completo de modelos YOLO para avaliação e desenvolvimento. Para implementações comerciais, os clientes devem obter a sua própria licença diretamente da Ultralytics através do formulário de licença, garantindo conformidade e apoiando a inovação escalável em Vision AI na edge.

Aproveitando os modelos Ultralytics YOLO em escala com o Voyager SDK da Axelera AI#

Com os modelos Ultralytics YOLO e o Voyager SDK da Axelera AI, os usuários podem implantar aplicações de visão computacional precisas e de baixa latência diretamente nas Metis AI Processing Units. Além disso, ter acesso a múltiplas variantes YOLO permite que os clientes ajustem o desempenho com base nas necessidades específicas de sua aplicação.

Por exemplo, a Axelera AI viu clientes testarem soluções baseadas em YOLO em uma variedade de domínios, como:

• Varejo: Pipelines de múltiplos modelos combinando estimativa de pose, segmentação e detecção de objetos podem ser usados para apoiar tarefas como redução de perdas e controle de estoque. Essas implantações rodam eficientemente em plataformas embarcadas como o Raspberry Pi 5 emparelhado com a Metis AIPU.
• Manufatura: Os clientes podem usar a execução paralela de modelos para realizar tarefas simultâneas, como detecção de defeitos, classificação de produtos e estimativa de pose, em um único chip para melhorar o rendimento e reduzir custos de hardware.
• Vigilância: As capacidades de object detection em tempo real do YOLO podem ser usadas para analisar streams de vídeo 4K e 8K em resolução total, facilitando a monitorização de segurança de alta precisão e a consciência situacional em ambientes críticos. Esta é uma solução muito melhor do que a redução de escala tradicional em câmaras de alta resolução.
• Saúde: Pipelines YOLO otimizados podem apoiar a identificação de tumores, oferecendo alta velocidade de inferência e precisão confiável para imagens médicas no próprio dispositivo.

Esses casos de uso demonstram como o hardware de IA na borda da Axelera AI e os modelos Ultralytics YOLO impulsionam inovações de Visão IA de alto desempenho e eficiência energética em todos os setores.

Impulsionando a próxima onda de IA na borda com Ultralytics YOLO#

À medida que a Axelera AI continua focada em expandir o acesso à IA de borda de alto desempenho, ela reúne hardware poderoso e modelos de visão confiáveis para ajudar os clientes a construir aplicações mais inteligentes e rápidas.

Com os modelos Ultralytics YOLO disponíveis através do Voyager SDK e do Metis AIPU hardware, os utilizadores podem facilmente desenvolver e escalar soluções de computer vision em tempo real em várias indústrias. Esta colaboração apoia uma comunidade crescente de programadores e empresas que trabalham para aproximar a IA do local onde os dados são criados, melhorando a eficiência, a capacidade de resposta e a inovação na edge.

Tens tudo a postos para acelerar o teu percurso na IA na edge? Explora o nosso GitHub repository para veres como os modelos YOLO estão a impulsionar inovações como AI in retail e computer vision in logistics. Experimenta as nossas ferramentas de Vision AI, fica a saber mais sobre as licensing options e descobre como podes desbloquear computer vision de alto desempenho e energeticamente eficiente na edge.