Implantando o Ultralytics YOLO11 no Rockchip para edge AI eficiente

Um termo recente muito popular na comunidade de IA é a edge AI, especialmente quando se trata de computer vision. À medida que as aplicações impulsionadas por IA crescem, há uma necessidade maior de executar modelos de forma eficiente em dispositivos embarcados com energia e recursos computacionais limitados.

Por exemplo, drones usam IA de visão para navegação em tempo real, câmeras inteligentes detectam objetos instantaneamente e sistemas de automação industrial realizam controle de qualidade sem depender da computação em nuvem. Essas aplicações exigem um processamento de IA rápido e eficiente diretamente em dispositivos de borda para garantir desempenho em tempo real e baixa latência. No entanto, executar modelos de IA em dispositivos de borda nem sempre é fácil. Modelos de IA frequentemente exigem mais energia e memória do que muitos dispositivos de borda conseguem suportar.

O RKNN Toolkit da Rockchip ajuda a resolver este problema otimizando modelos de deep learning para dispositivos com processadores Rockchip. Ele utiliza Unidades de Processamento Neural (NPUs) dedicadas para acelerar a inferência, reduzindo a latência e o consumo de energia em comparação ao processamento via CPU ou GPU.

A comunidade de Vision AI estava ansiosa para executar Ultralytics YOLO11 em dispositivos baseados em Rockchip, e nós ouvimos vocês. Adicionamos suporte para exporting YOLO11 to RKNN formato de modelo. Neste artigo, exploraremos como funciona a exportação para RKNN e por que implantar YOLO11 em dispositivos alimentados por Rockchip muda o jogo.

O que são o Rockchip e o RKNN Toolkit?#

Rockchip é uma empresa que projeta sistemas em chip (SoCs) - processadores pequenos, mas potentes, que executam muitos dispositivos embarcados. Esses chips combinam uma CPU, uma GPU e uma Unidade de Processamento Neural (NPU) para lidar com tudo, desde tarefas gerais de computação até aplicações de visão computacional que dependem de object detection e processamento de imagem.

Os SoCs da Rockchip são usados em uma variedade de dispositivos, incluindo computadores de placa única (SBCs), placas de desenvolvimento, sistemas industriais de IA e câmeras inteligentes. Muitos fabricantes de hardware bem conhecidos, como Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas e Banana Pi, constroem dispositivos alimentados por SoCs Rockchip. Essas placas são populares para edge AI e aplicações de visão computacional porque oferecem um equilíbrio entre desempenho, eficiência energética e acessibilidade.

Fig 1. Um exemplo de dispositivo alimentado por Rockchip.

Para ajudar os modelos de IA a funcionarem de forma eficiente nesses dispositivos, a Rockchip fornece o RKNN (Rockchip Neural Network) Toolkit. Ele permite que desenvolvedores convertam e otimizem modelos de deep learning para usar as Unidades de Processamento Neural (NPUs) da Rockchip.

Modelos RKNN são otimizados para inferência de baixa latência e uso eficiente de energia. Ao converter modelos para RKNN, os desenvolvedores podem obter velocidades de processamento mais rápidas, menor consumo de energia e eficiência aprimorada em dispositivos com processadores Rockchip.

Modelos RKNN são otimizados#

Vamos dar uma olhada mais de perto em como os modelos RKNN melhoram o desempenho da IA em dispositivos compatíveis com Rockchip.

Ao contrário de CPUs e GPUs, que lidam com uma ampla gama de tarefas computacionais, as NPUs da Rockchip são projetadas especificamente para aprendizado profundo. Ao converter modelos de IA para o formato RKNN, os desenvolvedores podem executar inferências diretamente na NPU. Isso torna os modelos RKNN especialmente úteis para computer vision tasks em tempo real, onde o processamento rápido e eficiente é essencial.

As NPUs são mais rápidas e eficientes que CPUs e GPUs para tarefas de IA porque são criadas para lidar com computações de rede neural em paralelo. Enquanto as CPUs processam tarefas um passo de cada vez e as GPUs distribuem cargas de trabalho em múltiplos núcleos, as NPUs são otimizadas para realizar cálculos específicos de IA com mais eficiência.

Como resultado, os modelos RKNN rodam mais rápido e usam menos energia, tornando-os ideais para dispositivos a bateria, câmeras inteligentes, automação industrial e outras aplicações de edge AI que exigem tomada de decisão em tempo real.

Visão geral dos modelos Ultralytics YOLO#

Ultralytics YOLO (You Only Look Once) models são projetados para tarefas de visão computacional em tempo real, como detecção de objetos, segmentação de instâncias e classificação de imagens. Eles são conhecidos por sua velocidade, precisão e eficiência, e são amplamente utilizados em setores como agricultura, manufatura, saúde e sistemas autônomos.

Esses modelos melhoraram substancialmente ao longo do tempo. Por exemplo, o Ultralytics YOLOv5 tornou a detecção de objetos mais fácil de usar com PyTorch. Em seguida, o Ultralytics YOLOv8 adicionou novos recursos, como estimativa de pose e classificação de imagens. Agora, o YOLO11 vai mais além, aumentando a precisão enquanto usa menos recursos. De fato, o YOLO11m tem um desempenho melhor no conjunto de dados COCO, usando 22% menos parâmetros do que o YOLOv8m, tornando-o mais preciso e mais eficiente.

Fig 2. Detectando objetos usando Ultralytics YOLO11.

Os modelos Ultralytics YOLO também suportam exporting para múltiplos formatos, permitindo uma implantação flexível em diferentes plataformas. Esses formatos incluem ONNX, TensorRT, CoreML e OpenVINO, dando aos desenvolvedores a liberdade de otimizar o desempenho com base em seu hardware de destino.

Com o suporte adicional para exportar YOLO11 para o formato de modelo RKNN, o YOLO11 agora pode aproveitar as NPUs da Rockchip. O menor modelo, YOLO11n no formato RKNN, atinge um tempo de inferência impressionante de 99,5ms por imagem, permitindo processamento em tempo real mesmo em dispositivos embarcados.

Exportando o teu modelo Ultralytics YOLO11 para o formato RKNN#

Atualmente, os modelos de deteção de objetos Ultralytics YOLO11 podem ser exportados para o formato RKNN. Além disso, fica atento - estamos a trabalhar para adicionar suporte para outras tarefas de visão computacional e quantização INT8 em atualizações futuras.

Exportar o Ultralytics YOLO11 para o formato RKNN é um processo simples. Podes carregar o teu modelo YOLO11 custom-trained, especificar a plataforma Rockchip de destino e convertê-lo para o formato RKNN com algumas linhas de código. O formato RKNN é compatível com vários SoC da Rockchip, incluindo RK3588, RK3566 e RK3576, garantindo um amplo suporte de hardware.

Fig 3. Exportando Ultralytics YOLO11 para o formato de modelo RKNN.

Implementando Ultralytics YOLO11 em dispositivos baseados em Rockchip#

Uma vez exportado, o modelo RKNN pode ser implantado em dispositivos baseados em Rockchip. Para implantar o modelo, você simplesmente carrega o arquivo RKNN exportado no seu dispositivo Rockchip e executa a inferência - o processo de usar o modelo de IA treinado para analisar novas imagens ou vídeos e detectar objetos em tempo real. Com apenas algumas linhas de código, você pode começar a identificar objetos de imagens ou fluxos de vídeo.

Fig 4. Executando uma inferência usando o modelo RKNN exportado.

Aplicações de Edge AI do Ultralytics YOLO11 e Rockchip#

Para teres uma melhor ideia de onde o Ultralytics YOLO11 pode ser implementado em dispositivos com suporte Rockchip no mundo real, vamos explorar algumas aplicações principais de Edge AI.

Processadores Rockchip são amplamente usados em tablets baseados em Android, placas de desenvolvimento e sistemas industriais de IA. Com suporte para Android, Linux e Python, você pode facilmente construir e implantar soluções impulsionadas por IA de visão para uma variedade de setores.

Tablets robustos integrados com o Ultralytics YOLO11#

Uma aplicação comum que envolve a execução do Ultralytics YOLO11 em dispositivos alimentados por Rockchip são os tablets robustos. São tablets duráveis e de alto desempenho concebidos para ambientes difíceis como armazéns, estaleiros de construção e ambientes industriais. Estes tablets podem tirar partido da deteção de objetos para melhorar a eficiência e a segurança.

Por exemplo, em warehouse logistics, os trabalhadores podem usar um tablet com Rockchip e YOLO11 para escanear e detectar inventário automaticamente, reduzindo o erro humano e acelerando os tempos de processamento. Da mesma forma, em canteiros de obras, esses tablets podem ser usados para detectar se os trabalhadores estão usando o equipamento de segurança necessário, como capacetes e coletes, ajudando as empresas a cumprir os regulamentos e evitar acidentes.

Fig 5. A detetar equipamento de segurança utilizando o Ultralytics YOLO11.

IA industrial para controle de qualidade#

Com relação à manufatura e automação, placas industriais alimentadas por Rockchip podem desempenhar um grande papel no controle de qualidade e monitoramento de processos. Uma placa industrial é um módulo de computação compacto de alto desempenho projetado para sistemas embarcados em ambientes industriais. Essas placas geralmente incluem processadores, memória, interfaces de E/S e opções de conectividade que podem se integrar a sensores, câmeras e máquinas automatizadas.

Executar os modelos do Ultralytics YOLO11 nestas placas torna possível analisar linhas de produção em tempo real, detetando problemas instantaneamente e melhorando a eficiência. Por exemplo, no fabrico de automóveis, um sistema de IA que utilize hardware da Rockchip e o YOLO11 pode detetar riscos, peças desalinhadas ou defeitos de pintura à medida que os carros avançam na linha de montagem. Ao identificar estes defeitos em tempo real, os fabricantes podem reduzir o desperdício, diminuir os custos de produção e garantir padrões de qualidade mais elevados antes de os veículos chegarem aos clientes.

Benefícios de executar o Ultralytics YOLO11 em dispositivos baseados em Rockchip#

Os dispositivos baseados em Rockchip oferecem um bom equilíbrio entre desempenho, custo e eficiência, tornando-os uma excelente escolha para implementar o Ultralytics YOLO11 em aplicações de Edge AI.

Aqui estão algumas vantagens de executar o Ultralytics YOLO11 em dispositivos baseados em Rockchip:

• Improved AI performance: Os dispositivos habilitados para Rockchip lidam com a inferência de IA de forma mais eficiente do que placas baseadas em CPU, como o Raspberry Pi, oferecendo detecção de objetos mais rápida e menor latência.
• Solução económica: Se estás a experimentar IA e precisas de uma opção económica que ainda assim ofereça um desempenho poderoso, a Rockchip é uma excelente opção. Fornece uma forma acessível de executar o Ultralytics YOLO11 sem comprometer a velocidade ou a eficiência.
• Eficiência energética: Executar modelos de visão computacional em dispositivos com processadores Rockchip consome menos energia do que GPUs, tornando-o ideal para dispositivos operados por bateria e aplicações de IA embarcada.

Principais pontos#

O Ultralytics YOLO11 pode rodar de forma eficiente em dispositivos baseados em Rockchip ao aproveitar a aceleração de hardware e o formato RKNN. Isso reduz o tempo de inferência e melhora o desempenho, tornando-o ideal para tarefas de visão computacional em tempo real e aplicações de edge AI.

O RKNN Toolkit fornece ferramentas de otimização importantes como quantização e afinação fina (fine-tuning), garantindo que os modelos Ultralytics YOLO11 têm um bom desempenho em plataformas Rockchip. Otimizar modelos para um processamento eficiente no dispositivo será essencial à medida que a adoção de Edge AI cresce. Com as ferramentas e o hardware certos, os programadores podem desbloquear novas possibilidades para soluções de visão computacional em várias indústrias.

Junta-te a our community e explora o nosso GitHub repository para saberes mais sobre IA. Vê como computer vision in agriculture e AI in healthcare estão impulsionando a inovação visitando as nossas páginas de soluções. Além disso, consulta as nossas licensing options para começares a construir as tuas soluções de visão de IA hoje mesmo!