12 de fevereiro de 2025
Explore como implantar o Ultralytics YOLO11 no Rockchip usando o kit de ferramentas RKNN para IA de borda eficiente, aceleração de IA e deteção de objetos em tempo real.
Uma palavra da moda recente na comunidade de IA é edge AI, especialmente quando se trata de visão computacional. À medida que as aplicações orientadas por IA crescem, há uma necessidade maior de executar modelos de forma eficiente em dispositivos embarcados com energia e recursos computacionais limitados.
Por exemplo, os drones utilizam a IA de visão para navegação em tempo real, as câmaras inteligentes detect objectos instantaneamente e os sistemas de automação industrial efectuam o controlo de qualidade sem dependerem da computação em nuvem. Estas aplicações requerem um processamento de IA rápido e eficiente diretamente nos dispositivos periféricos para garantir um desempenho em tempo real e uma baixa latência. No entanto, a execução de modelos de IA em dispositivos periféricos nem sempre é fácil. Os modelos de IA requerem frequentemente mais potência e memória do que muitos dispositivos periféricos conseguem suportar.
O kit de ferramentas RKNN da Rockchip ajuda a resolver esse problema, otimizando modelos de aprendizado profundo para dispositivos com tecnologia Rockchip. Ele usa Unidades de Processamento Neural (NPUs) dedicadas para acelerar a inferência, reduzindo a latência e o consumo de energia em comparação com o processamento de CPU ou GPU .
A comunidade da Vision AI tem estado ansiosa por executar o Ultralytics YOLO11 em dispositivos baseados em Rockchip, e nós ouvimos vocês. Adicionamos suporte à exportação YOLO11 para o formato de modelo RKNN. Neste artigo, exploraremos como a exportação para o RKNN funciona e por que a implantação do YOLO11 em dispositivos com Rockchip é uma virada de jogo.
A Rockchip é uma empresa que concebe system-on-chips (SoCs) - processadores minúsculos, mas potentes, que funcionam em muitos dispositivos incorporados. Estes chips combinam uma CPU, uma GPU e uma Unidade de Processamento Neural (NPU) para tratar de tudo, desde tarefas de computação geral a aplicações de IA de visão que dependem da deteção de objectos e do processamento de imagens.
Os SoCs Rockchip são usados em uma variedade de dispositivos, incluindo computadores de placa única (SBCs), placas de desenvolvimento, sistemas de IA industrial e câmeras inteligentes. Muitos fabricantes de hardware conhecidos, Radxa, ASUS, Pine64, Orange Pi, Odroid, Khadas e Banana Pi, constroem dispositivos alimentados por SoCs Rockchip. Essas placas são populares para aplicações de IA de ponta e visão computacional porque oferecem um equilíbrio de desempenho, eficiência de energia e acessibilidade.
Para ajudar os modelos de IA a serem executados de forma eficiente nesses dispositivos, a Rockchip fornece o RKNN (Rockchip Neural Network) Toolkit. Ele permite que os desenvolvedores convertam e otimizem modelos de aprendizado profundo para usar as Unidades de Processamento Neural (NPUs) da Rockchip.
Os modelos RKNN são otimizados para inferência de baixa latência e uso eficiente de energia. Ao converter modelos para RKNN, os desenvolvedores podem obter velocidades de processamento mais rápidas, consumo de energia reduzido e eficiência aprimorada em dispositivos com tecnologia Rockchip.
Vamos analisar mais de perto como os modelos RKNN melhoram o desempenho da IA em dispositivos habilitados para Rockchip.
Ao contrário das CPUs e GPUs, que lidam com uma vasta gama de tarefas de computação, as NPUs da Rockchip são concebidas especificamente para aprendizagem profunda. Ao converter modelos de IA para o formato RKNN, os desenvolvedores podem executar inferências diretamente na NPU. Isto torna os modelos RKNN especialmente úteis para tarefas de visão computacional em tempo real, onde o processamento rápido e eficiente é essencial.
As NPUs são mais rápidas e eficientes do que as CPUs e GPUs para tarefas de IA porque são construídas para lidar com cálculos de redes neurais em paralelo. Enquanto as CPUs processam as tarefas um passo de cada vez e as GPUs distribuem as cargas de trabalho por vários núcleos, as NPUs são otimizadas para realizar cálculos específicos de IA de forma mais eficiente.
Como resultado, os modelos RKNN funcionam mais rapidamente e consomem menos energia, tornando-os ideais para dispositivos alimentados por bateria, câmaras inteligentes, automação industrial e outras aplicações de IA de ponta que exigem tomada de decisões em tempo real.
Os modelosUltralytics YOLO (You Only Look Once) foram concebidos para tarefas de visão computacional em tempo real, como deteção de objectos, segmentação de instâncias e classificação de imagens. São conhecidos pela sua velocidade, precisão e eficiência e são amplamente utilizados em sectores como a agricultura, a indústria transformadora, os cuidados de saúde e os sistemas autónomos.
Estes modelos têm vindo a melhorar substancialmente ao longo do tempo. Por exemplo, o Ultralytics YOLOv5 tornou a deteção de objectos mais fácil de utilizar com o PyTorch. Depois, Ultralytics YOLOv8 adicionou novos recursos, como estimativa de pose e classificação de imagens. Agora, YOLO11 leva as coisas mais longe, aumentando a precisão e usando menos recursos. De facto, o YOLO11m tem um melhor desempenho no conjunto de dados COCO , utilizando 22% menos parâmetros do que YOLOv8m, o que o torna mais preciso e mais eficiente.
Os modelos Ultralytics YOLO também suportam a exportação para vários formatos, permitindo uma implementação flexível em diferentes plataformas. Estes formatos incluem ONNX, TensorRT, CoreML e OpenVINO, dando aos programadores a liberdade de otimizar o desempenho com base no seu hardware alvo.
Com o suporte adicional para exportar YOLO11 para o formato de modelo RKNN, YOLO11 pode agora tirar partido das NPUs da Rockchip. O modelo mais pequeno, YOLO11n em formato RKNN, atinge um tempo de inferência impressionante de 99,5 ms por imagem, permitindo o processamento em tempo real mesmo em dispositivos incorporados.
Atualmente, os modelos de deteção de objectos YOLO11 podem ser exportados para o formato RKNN. Além disso, fique atento - estamos a trabalhar para adicionar suporte para outras tarefas de visão computacional e quantização INT8 em futuras actualizações.
A exportação do YOLO11 para o formato RKNN é um processo simples. É possível carregar o modelo YOLO11 treinado de forma personalizada, especificar a plataforma Rockchip de destino e convertê-lo para o formato RKNN com algumas linhas de código. O formato RKNN é compatível com vários SoCs Rockchip, incluindo RK3588, RK3566 e RK3576, garantindo um amplo suporte de hardware.
Uma vez exportado, o modelo RKNN pode ser implantado em dispositivos baseados em Rockchip. Para implantar o modelo, basta carregar o arquivo RKNN exportado no dispositivo Rockchip e executar a inferência - o processo de usar o modelo de IA treinado para analisar novas imagens ou vídeos e detect objetos em tempo real. Com apenas algumas linhas de código, é possível começar a identificar objectos a partir de imagens ou fluxos de vídeo.
Para ter uma ideia melhor de onde YOLO11 pode ser implantado em dispositivos habilitados para Rockchip no mundo real, vamos percorrer algumas aplicações chave de IA de ponta.
Os processadores Rockchip são amplamente utilizados em tablets Android, placas de desenvolvimento e sistemas industriais de IA. Com suporte para Android, Linux e Python, pode facilmente construir e implementar soluções Vision AI-driven para uma variedade de indústrias.
Uma aplicação comum que envolve a execução YOLO11 em dispositivos com Rockchip são os tablets robustos. Eles são tablets duráveis e de alto desempenho projetados para ambientes difíceis, como armazéns, canteiros de obras e ambientes industriais. Esses tablets podem aproveitar a deteção de objetos para melhorar a eficiência e a segurança.
Por exemplo, na logística de armazéns, os trabalhadores podem utilizar um tablet equipado com Rockchip com YOLO11 para digitalizar e detect automaticamente o inventário, reduzindo o erro humano e acelerando os tempos de processamento. Do mesmo modo, nos estaleiros de construção, estes tablets podem ser utilizados para detect se os trabalhadores estão a usar o equipamento de segurança necessário, como capacetes e coletes, ajudando as empresas a aplicar os regulamentos e a evitar acidentes.
No que diz respeito à manufatura e automação, as placas industriais com tecnologia Rockchip podem desempenhar um grande papel no controle de qualidade e no monitoramento de processos. Uma placa industrial é um módulo de computação compacto e de alto desempenho projetado para sistemas embarcados em ambientes industriais. Essas placas normalmente incluem processadores, memória, interfaces de E/S e opções de conectividade que podem se integrar com sensores, câmeras e máquinas automatizadas.
A execução de modelos YOLO11 nestas placas torna possível analisar as linhas de produção em tempo real, detectando problemas instantaneamente e melhorando a eficiência. Por exemplo, no fabrico de automóveis, um sistema de IA que utilize o hardware Rockchip e YOLO11 pode detect riscos, peças desalinhadas ou defeitos de pintura à medida que os automóveis avançam na linha de montagem. Ao identificar estes defeitos em tempo real, os fabricantes podem reduzir o desperdício, diminuir os custos de produção e garantir padrões de qualidade mais elevados antes de os veículos chegarem aos clientes.
Os dispositivos baseados em Rockchip oferecem um bom equilíbrio entre desempenho, custo e eficiência, tornando-os uma óptima escolha para implementar YOLO11 em aplicações de IA de ponta.
Eis algumas vantagens de executar YOLO11 em dispositivos baseados em Rockchip:
Ultralytics YOLO11 pode ser executado de forma eficiente em dispositivos baseados em Rockchip, aproveitando a aceleração de hardware e o formato RKNN. Isto reduz o tempo de inferência e melhora o desempenho, tornando-o ideal para tarefas de visão computacional em tempo real e aplicações de IA de ponta.
O kit de ferramentas RKNN fornece ferramentas de otimização importantes, como quantização e ajuste fino, garantindo que os modelos YOLO11 tenham um bom desempenho nas plataformas Rockchip. A otimização de modelos para um processamento eficiente no dispositivo será essencial à medida que a adoção da IA de ponta cresce. Com as ferramentas e o hardware certos, os desenvolvedores podem desbloquear novas possibilidades para soluções de visão computacional em vários setores.
Junte-se à nossa comunidade e explore nosso repositório do GitHub para saber mais sobre IA. Veja como a visão computacional na agricultura e a IA na área da saúde estão impulsionando a inovação visitando nossas páginas de soluções. Além disso, confira nossas opções de licenciamento para começar a construir suas soluções de Visão de IA hoje mesmo!
.webp)