Yolo Vision Shenzhen
Shenzhen
Junte-se agora

ImplementaçãoYOLO Ultralytics no hardware da Axelera AI para IA de ponta

Descubra a nova integração de exportação suportada peloPython Ultralytics , em colaboração com a Axelera AI, para uma IA de ponta eficiente e de alto desempenho.

Expanda os seus projetos de visão computacional com Ultralytics

Comece agora

Na Ultralytics, estamos a assistir a uma tendência crescente para a execução de modelos de visão computacional diretamente em dispositivos periféricos, à medida que a IA é cada vez mais adotada. Nas nossas conversas com a comunidade de visão computacional, tanto online como presencialmente em recentes conferências tecnológicas, a nossa equipa tem constatado um interesse crescente na implementação de IA de visão mais perto do local onde os dados são gerados.

Desde ambientes de retalho inteligentes e automação industrial até à robótica, a obtenção de informações em tempo real está a tornar-se essencial, e já não basta confiar exclusivamente na nuvem.

Em termos simples, a IA de ponta consiste na execução de modelos de IA localmente nos dispositivos, em vez de enviar os dados para servidores centralizados para processamento. Isto permite reduzir a latência, melhorar a fiabilidade e responder a eventos do mundo real em tempo real. 

No entanto, a implementação de modelos de alto desempenho nestes ambientes acarreta os seus próprios desafios, uma vez que os recursos computacionais limitados e as restrições de energia exigem que os modelos sejam eficientes e otimizados para o hardware em que são executados.

YOLO Ultralytics YOLO , como Ultralytics , foram concebidos para a visão computacional em tempo real, mas para explorar todo o seu potencial na periferia é necessária a combinação certa de software e hardware. É por isso que temos o prazer de anunciar a nossa colaboração com a Axelera AI.

Estabelecemos uma parceria com a Axelera AI para lançar uma integração de exportação atualizada, permitindo uma implementação eficiente e de alto desempenho dosYOLO Ultralytics nas Unidades de Processamento de IA (AIPUs)Metis®.

Fig. 1. Imagem de uma unidade de processamento Metis AI (Fonte)

Neste artigo, vamos explorar comoYOLO Ultralytics podem ser facilmente compilados para implementação no Metis. Vamos começar!

A IA de ponta é o futuro da visão computacional

À medida que as aplicações de visão computacional continuam a evoluir, a necessidade de um processamento mais rápido e eficiente torna-se cada vez mais crucial. As abordagens tradicionais baseadas na nuvem podem introduzir latência, dependem de uma ligação estável e podem não satisfazer as exigências em tempo real de muitos casos de utilização de visão inteligente. 

A IA de ponta responde a estes desafios ao permitir que os modelos sejam executados diretamente em dispositivos locais, possibilitando que os dados sejam processados mais perto da sua fonte. Por exemplo, pensemos nos drones equipados com sistemas de visão utilizados em operações de busca e salvamento. 

Estes sistemas precisam de analisar imagens de vídeo em tempo real para detect , obstáculos ou perigos, muitas vezes em áreas remotas com ligação à Internet limitada ou inexistente. Ao executar modelos de visão computacional diretamente no drone, a IA de ponta permite uma tomada de decisões mais rápida e um desempenho mais fiável, sem depender de infraestruturas na nuvem.

Esta mudança está a abrir novas possibilidades em todos os setores. Aplicações como a deteção de objetos em tempo real no retalho, a inspeção automatizada da qualidade na indústria transformadora e a perceção na robótica beneficiam todas de tempos de resposta mais rápidos e de uma maior fiabilidade. 

A IA de ponta está a tornar-se rapidamente um fator essencial para a implementação de sistemas de visão computacional escaláveis e ágeis em ambientes reais.

Explorando as Unidades de Processamento Metis AI da Axelera AI 

Antes de nos debruçarmos sobre a nova integração de exportação, vamos dar um passo atrás e conhecer melhor as Unidades de Processamento Metis AI da Axelera AI e o papel que desempenham na viabilização de uma IA de ponta eficiente.

A Axelera AI desenvolve hardware concebido especificamente para acelerar a inferência de IA na periferia. Um elemento fundamental deste sistema é a Metis AIPU, ou Unidade de Processamento de IA, um processador especializado concebido para executar redes neurais de forma eficiente em dispositivos periféricos.

Ao contrário das unidades centrais de processamento (CPUs) de uso geral ou mesmo das unidades de processamento gráfico (GPUs), as AIPUs foram concebidas para lidar com os padrões computacionais específicos das cargas de trabalho de IA. Isto permite-lhes oferecer um elevado desempenho, mantendo simultaneamente um baixo consumo de energia, o que é fundamental para ambientes de perifeiria, onde os recursos são frequentemente limitados.

O que torna a abordagem da Axelera AI particularmente inovadora é o seu design full-stack. O Metis foi concebido com computação digital em memória (D-IMC) e RISC-V para oferecer alto desempenho com a eficiência energética exigida pela computação de ponta. Os quatro núcleos do Metis são programáveis de forma independente, o que significa que é possível executar quatro modelos por chip em paralelo. Para além do hardware, o SDK Voyager inclui um compilador e um ambiente de execução que funcionam em conjunto para otimizar os modelos para implementação. 

Isto permite aos programadores passar de modelos treinados para a inferência pronta para produção de forma mais eficiente. Mais concretamente, as AIPUs da Metis permitem executar modelos avançados de visão computacional, comoYOLO Ultralytics , diretamente em dispositivos periféricos, desde ambientes empresariais, de retalho, de cuidados de saúde e de fabrico até equipamentos agrícolas e industriais e satélites.

Exportação deYOLO Ultralytics para implementação no Metis

Python Ultralytics oferece uma interface unificada para treinar, avaliar e implementar YOLO numa variedade de tarefas de visão computacional. YOLO são normalmente desenvolvidos e treinados utilizando PyTorch, que é ideal para a experimentação e o desenvolvimento de modelos.

No entanto, ao implementar estes modelos em hardware de perifeia especializado, é necessário convertê-los para um formato otimizado para o dispositivo de destino. É aqui que entram as integrações de exportação suportadas peloPython Ultralytics .

Ultralytics uma variedade de opções de exportação que permitem converter YOLO em diferentes formatos, dependendo do destino de implementação, tais como ONNX, TensorRT e outros backends específicos de hardware. Estas integrações simplificam o processo de preparação de modelos para aplicações no mundo real, ao tratar das etapas necessárias de otimização e conversão.

Com base nisso, Ultralytics uma integração de exportação atualizada com a Axelera AI, permitindo que YOLO sejam exportados para implementação nas AIPUs da Metis.

Durante a exportação, o modelo é compilado e quantizado numa representação otimizada, concebida especificamente para o hardware da Axelera. Este processo produz um modelo compilado no formato «.axm», juntamente com os metadados necessários para a implementação e a inferência.

Fig. 2.YOLO Ultralytics podem ser executados em AIPUs Metis. (Fonte)

A integração suporta uma vasta gama de tarefas de visão computacional em Ultralytics YOLOv8, Ultralytics YOLO11e os modelos Ultralytics , incluindo deteção de objetos, estimativa de pose, segmentação de instâncias, deteção de caixas delimitadoras orientadas (OBB) e classificação de imagens. Embora a maioria das tarefas seja suportada diretamente através do fluxo de trabalho de exportação, a segmentação YOLO26 pode ser utilizada através do «model zoo» com o SDK Voyager.

Este suporte alargado oferece aos programadores a flexibilidade de implementar diferentes tipos de modelos de visão, consoante a sua aplicação, desde a deteção de objetos em tempo real até à compreensão de cenas, ao rastreio de movimentos e à análise de dados visuais complexos.

Depois de exportados, os modelos podem ser implementados e executados sem depender do PyTorch fase de inferência. Em vez disso, são executados utilizando o ambiente de execução do Voyager SDK, que permite criar pipelines de ponta a ponta para tarefas como o processamento de vídeo, a deteção em tempo real e o rastreamento diretamente em dispositivos periféricos.

Introdução à exportação deYOLO Ultralytics

Agora que compreendemos melhor a nova integração de exportação, vamos ver como exportarYOLO Ultralytics para este formato personalizado e executá-los no hardware Metis na periferia.

Passo 1: Instalar o pacote Ultralytics Python

Para começar, terá primeiro de instalar oPython Ultralytics . Este pacote oferece uma interface simples e consistente para treinar, avaliar e exportar YOLO .

Pode instalá-lo usando o pip, executando o seguinte comando no seu terminal ou na linha de comandos:

pip instalar ultralytics

Se tiver algum problema durante a instalação ou a exportação, a Ultralytics oficial Ultralytics e o guia de problemas comuns são excelentes recursos para a resolução de problemas.

Passo 2: Instalar os controladores Axelera e o SDK do Voyager

Para exportar e executar modelos no hardware da Axelera, terá também de instalar os controladores da Axelera e o Voyager SDK. Este passo permite a comunicação com a Metis AIPU e fornece as ferramentas de compilação e de tempo de execução necessárias.

Os passos abaixo devem ser executados num ambiente Linux com acesso ao hardware Axelera AI Metis. Abra um terminal no seu sistema ou utilize uma célula do Jupyter Notebook, caso esteja a executar o Jupyter Notebook numa configuração local compatível, e execute os comandos abaixo.

Comece por adicionar a chave do repositório Axelera da seguinte forma:

sudo sh -c "curl -fsSL https://software.axelera.ai/artifactory/api/security/keypair/axelera/public | gpg --dearmor -o /etc/apt/keyrings/axelera.gpg"

Em seguida, conforme mostrado abaixo, adicione o repositório Axelera ao seu sistema:

sudo sh -c "echo 'deb [signed-by=/etc/apt/keyrings/axelera.gpg] https://software.axelera.ai/artifactory/axelera-apt-source/ ubuntu22 main' > /etc/apt/sources.list.d/axelera.list"

Em seguida, instale o SDK do Voyager e carregue o controlador Metis da seguinte forma:

sudo apt update

sudo apt install -y metis-dkms=1.4.16

sudo modprobe metis

Assim que estas etapas estiverem concluídas, o seu sistema estará pronto para exportar e executarYOLO Ultralytics YOLO nos dispositivos Axelera AI Metis.

Passo 3: Exportação deYOLO Ultralytics

Depois de instalar o Ultralytics , pode carregar YOLO seu YOLO e exportá-lo como um pacote compilado para o Metis. Este processo converte o modelo num formato otimizado para implementação no hardware Axelera AI Metis.

No exemplo abaixo, utilizamos um modelo YOLO26 nano pré-treinado e exportamo-lo para o Metis. O modelo exportado será guardado num diretório denominado «/yolo26n_axelera_model». 

ultralytics YOLO do ultralytics

model = YOLO("yolo26n.pt")

model.export(format="axelera")  

Passo 4: Executar a inferência com o modelo exportado

Após exportar o modelo, pode carregá-lo e executar a inferência em imagens ou fluxos de vídeo nunca antes vistos. Isto permite realizar tarefas de visão computacional em tempo real diretamente nos dispositivos Axelera AI Metis.

Por exemplo, o trecho de código abaixo mostra como carregar o modelo exportado e executar a inferência numa URL disponível publicamente.

axelera_model = YOLO("yolo26n_axelera_model")

results = axelera_model("ultralytics", save=True)

Neste caso, o modelo analisa a imagem de entrada e deteta objetos, guardando os resultados no diretóriodetect».

Onde o hardware Ultralytics YOLO da Axelera AI pode fazer a diferença

A seguir, vamos abordar algumas aplicações comuns de IA de ponta em queYOLO Ultralytics podem ser implementados no hardware da Axelera AI em cenários reais.

As AIPUs Metis da Axelera AI foram concebidas para uma variedade de ambientes de implementação, desde sistemas incorporados e computadores industriais até robótica e servidores de perifeiria. Com inferência de alto desempenho e eficiência energética, permitem que aplicações de visão computacional sejam executadas diretamente no dispositivo em diversos setores. O SDK Voyager inclui também um criador de pipelines para que os engenheiros de ML e de aplicações possam transformar modelos em produtos para a perifeiria.

Sistemas de visão inteligente no retalho que operam na periferia

No setor do retalho, compreender o comportamento dos clientes em tempo real pode fazer uma diferença significativa. 

AtravésYOLO Ultralytics executados no hardware da Axelera AI, as lojas podem monitorizar o tráfego pedonal, contar pessoas e analisar os padrões de movimento dentro da loja em tempo real. Uma vez que tudo é executado no próprio dispositivo, é possível gerar informações instantaneamente sem depender da ligação à nuvem, o que ajuda as equipas a responder mais rapidamente, mantendo ao mesmo tempo a privacidade dos dados.

Fig. 3. Detecção e contagem de pessoas num centro comercial utilizando o YOLO26

Utilização da IA de ponta para a inspeção de serviços públicos e infraestruturas

A manutenção de infraestruturas de grande escala, como as linhas elétricas, é complexa e exige muitos recursos. Estas redes estendem-se frequentemente por grandes distâncias, tornando as inspeções demoradas, dispendiosas e potencialmente perigosas. Quando as avarias ou os primeiros sinais de desgaste não são detetados, podem evoluir para cortes de energia, danos no equipamento ou riscos de segurança.

Os drones são cada vez mais utilizados para melhorar a eficiência das inspeções. Conseguem cobrir longas distâncias, aceder a áreas de difícil acesso e capturar imagens de alta resolução de ativos críticos.

A combinação de drones com IA de ponta otimiza ainda mais estes fluxos de trabalho.YOLO Ultralytics , executados no hardware da Axelera AI, permitem a análise em tempo real durante as inspeções, identificando falhas, classificando componentes e detetando anomalias no local. Isto reduz a necessidade de revisão manual e contribui para uma monitorização da infraestrutura mais rápida e fiável.

Fig. 4. Detecção de várias partes de uma linha elétrica com o YOLO26

Potenciar a robótica com informações de IA de visão em tempo real

Na robótica, a velocidade e a capacidade de resposta são fundamentais. Quer seja a navegar num armazém ou a operar em ambientes industriais dinâmicos, os robôs precisam de interpretar o ambiente que os rodeia instantaneamente. 

YOLO Ultralytics , executados no hardware da Axelera AI, permitem que os robôs interpretem o ambiente circundante em tempo real, desde a deteção de obstáculos até ao rastreio de pessoas e à identificação de objetos. Isto permite que os sistemas se desloquem com maior segurança, se adaptem a condições dinâmicas e operem com maior autonomia, sem depender de uma ligação constante à nuvem.

Principais vantagens da execução deYOLO Ultralytics em AIPUs Metis

Eis algumas das principais vantagens da implementaçãoYOLO Ultralytics no hardware Metis da Axelera AI através da nova integração:

  • Integração perfeita com o Ultralytics : a exportação YOLO para implementação no Metis integra-se naturalmente noPython Ultralytics , simplificando a transição do treino para a inferência.
  • Suporte para várias tarefas de visão computacional: é possível implementar modelos para deteção de objetos, estimativa de pose, segmentação, classificação e muito mais, utilizando YOLOv8, YOLO11 e o YOLO26.
  • Executar modelos em paralelo: as AIPUs Metis foram concebidas com quatro núcleos programáveis de forma independente, capazes de executar quatro modelos distintos em paralelo, de acordo com as suas necessidades.
  • Adaptável a aplicações de IA na periferia: desde a análise de dados no retalho e a inspeção industrial até à robótica e às infraestruturas inteligentes, esta integração suporta uma vasta gama de casos de utilização no mundo real.

Principais conclusões

YOLO Ultralytics e as AIPUs Metis da Axelera AI facilitam a implementação de visão computacional de alto desempenho na periferia. Ao simplificar a implementação e otimizar os modelos para hardware especializado, esta integração ajuda a colmatar a lacuna entre o desenvolvimento e as aplicações no mundo real.

À medida que a IA de ponta continua a crescer, dispor de opções de implementação eficientes e escaláveis será fundamental para criar sistemas ágeis e fiáveis. Esta colaboração constitui um passo no sentido de tornar a IA de visão avançada mais acessível em todos os setores.

Quer saber mais sobre IA? Explore nosso repositório GitHub, conecte-se com nossa comunidade e confira nossas opções de licenciamento para dar o pontapé inicial no seu projeto de visão computacional. Descubra como inovações como IA no varejo e visão computacional na área da saúde estão moldando o futuro.

Vamos construir juntos o futuro da IA!

Comece sua jornada com o futuro do aprendizado de máquina