Ultralytics YOLO11 no NVIDIA Jetson Orin Nano Super: rápido e eficiente

O NVIDIA Jetson Orin Nano Super Developer Kit, lançado em 17 de dezembro de 2024, é um supercomputador compacto, mas poderoso, de IA generativa, desenvolvido para oferecer recursos avançados à computação de borda. Ele facilita o processamento em tempo real e elimina a necessidade de computação na nuvem. O NVIDIA Jetson Orin Nano Super permite que os desenvolvedores criem sistemas inteligentes acessíveis que funcionam com eficiência em ambientes locais.

Quando combinado com modelos Ultralytics YOLO, como o Ultralytics YOLO11, o Jetson Orin Nano Super consegue executar uma vasta gama de aplicações de IA visual na edge. Em particular, o YOLO11 é um modelo de visão por computador conhecido pela sua velocidade e precisão em tarefas como a deteção de objetos, o seguimento de objetos e a segmentação de instâncias.

A combinação das capacidades do Ultralytics YOLO11 com a robusta GPU (unidade de processamento gráfico) do kit e o suporte para frameworks como PyTorch, ONNX e NVIDIA TensorRT permite implementações de elevado desempenho. Esta combinação oferece aos programadores uma solução eficiente para criar aplicações de IA, desde a deteção de objetos em robótica até ao seguimento de objetos em tempo real em espaços inteligentes e sistemas de retalho.

Neste artigo, vamos analisar o NVIDIA Jetson Orin Nano Super Developer Kit, o seu funcionamento com o Ultralytics YOLO11 para IA de edge, os seus benchmarks de desempenho, as aplicações do mundo real e a forma como pode ajudar os programadores a criar projetos de IA visual. Vamos começar!

O que é o NVIDIA Jetson Orin Nano Super Developer Kit?#

O NVIDIA Jetson Orin Nano Super Developer Kit é um computador compacto, mas potente, que redefine a IA generativa para dispositivos de edge pequenos. Oferece até 67 TOPS (biliões de operações por segundo) de desempenho de IA, sendo ideal para programadores, estudantes e entusiastas que trabalham em projetos avançados de IA.

Eis algumas das suas principais características:

• Desempenho da GPU: O dispositivo baseia-se numa GPU com arquitetura NVIDIA Ampere, que inclui 1,024 núcleos CUDA e 32 Tensor Cores. Os núcleos CUDA processam muitas tarefas em simultâneo, acelerando cálculos complexos, enquanto os Tensor Cores são especializados em tarefas de IA, como a aprendizagem profunda.
• CPU potente: Inclui um processador Arm Cortex-A78AE de 6 núcleos, concebido para equilibrar velocidade e eficiência. O dispositivo consegue executar várias tarefas sem problemas e manter baixo o consumo de energia. Isto é importante para sistemas que funcionam localmente sem acesso a fontes de alimentação de grande capacidade.
• Memória eficiente: O kit inclui 8 GB de memória LPDDR5 (memória de acesso aleatório de quinta geração e baixo consumo). A LPDDR5 é um tipo de RAM (memória de acesso aleatório) otimizada para oferecer velocidade e eficiência energética, permitindo ao dispositivo processar grandes conjuntos de dados e realizar processamento em tempo real sem consumir energia em excesso.
• Opções de conectividade: Inclui portas USB 3.2 para transferências de dados rápidas, uma porta Gigabit Ethernet para ligações de rede estáveis e interfaces de câmara para integrar sensores ou câmaras.
• Ferramentas de desenvolvimento de IA: O Jetson Orin Nano Super é compatível com o NVIDIA JetPack SDK, que disponibiliza ferramentas como CUDA para computação mais rápida e TensorRT para otimizar modelos de IA. Estas ferramentas facilitam o desenvolvimento e a implementação rápida e eficiente de aplicações de IA.

Benchmarks de desempenho: Jetson Orin Nano Super vs. Orin NX 16GB#

Se conheces o trabalho da NVIDIA, podes estar a perguntar-te como esta nova versão se compara com o NVIDIA Jetson Orin NX 16GB atual (sem o modo Super). Embora o Jetson Orin NX ofereça capacidades gerais superiores, o Jetson Orin Nano Super Developer Kit proporciona um desempenho impressionante por uma fração do custo.

Fig. 2. Uma vista do ecossistema NVIDIA Jetson Orin.

Eis uma breve visão geral:

• Desempenho de IA: O Jetson Orin Nano Super oferece até 67 TOPS, um valor excelente para a maioria das tarefas de IA de edge, enquanto o Jetson Orin NX oferece até 100 TOPS para aplicações mais exigentes.
• Memória: O Jetson Orin Nano Super inclui 8 GB de LPDDR5, suficiente para tarefas em tempo real, enquanto o Orin NX duplica essa capacidade para 16 GB, para cargas de trabalho maiores.
• Eficiência energética: O Jetson Orin Nano Super é mais eficiente em termos energéticos e pode ser configurado entre 7 W e 25 W, ao contrário do Jetson Orin NX, que exige mais potência.
• GPU: Ambos partilham a arquitetura NVIDIA Ampere, com 1,024 núcleos CUDA e 32 Tensor Cores, para um desempenho robusto da GPU.

Ultralytics YOLO11 com Jetson Orin Nano Super: levar a IA visual à edge#

Agora que compreendemos melhor o Jetson Orin Nano Super, vejamos como o YOLO11 pode levar os recursos de IA visual à edge. Os modelos Ultralytics YOLO, incluindo o YOLO11, incluem modos versáteis, como treino, previsão e exportação, que os tornam adaptáveis a vários fluxos de trabalho de IA.

Por exemplo, no modo de treino, os modelos Ultralytics YOLO podem ser ajustados e treinados com conjuntos de dados personalizados para aplicações específicas, como a deteção de objetos únicos ou a otimização para ambientes específicos. Do mesmo modo, o modo de previsão foi concebido para inferência, permitindo executar tarefas de visão por computador em tempo real. Por fim, o modo de exportação pode ser utilizado para converter modelos em formatos otimizados para implementação.

Fig. 3. Os modelos Ultralytics YOLO suportam várias funcionalidades e modos.

O modo de exportação do Ultralytics YOLO11 suporta várias opções de implementação de modelos, incluindo:

• NVIDIA TensorRT: Este formato está otimizado para GPUs NVIDIA e oferece inferência de elevado desempenho e baixa latência no Jetson Orin Nano Super.
• ONNX (Intercâmbio aberto de redes neuronais): Garante a compatibilidade entre várias plataformas, tornando-o versátil para diferentes ecossistemas de hardware e software.
• TorchScript: Este formato é ideal para aplicações baseadas em PyTorch e facilita a integração fluida nos fluxos de trabalho do PyTorch.
• TFLite (TensorFlow Lite): Um formato concebido para implementações leves de IA, ideal para sistemas móveis e integrados.

Com estes formatos de implementação, os programadores podem tirar o máximo partido do hardware do Jetson Orin Nano Super para executar o Ultralytics YOLO11 em aplicações em tempo real, como espaços inteligentes, robótica e automatização do retalho.

Avaliação comparativa do Ultralytics YOLO11 no NVIDIA Jetson Orin Nano Super#

Para compreender melhor a velocidade de execução do Ultralytics YOLO11 no NVIDIA Jetson Orin Nano Super, vamos analisar o seu desempenho impressionante e os benchmarks com formatos de exportação acelerados por GPU, como PyTorch, ONNX e TensorRT. Estes testes revelam que os tempos de inferência dos modelos YOLO11 no Jetson Orin Nano Super são comparáveis aos do Jetson Orin NX 16GB atual (sem o modo Super) e, por vezes, até melhores.

Fig. 4. Avaliação comparativa do Ultralytics YOLO11 no NVIDIA Jetson Orin Nano Super.

O que torna isto ainda mais notável é o preço acessível do Jetson Orin Nano Super. Ao oferecer este desempenho por menos de metade do preço do Jetson Orin NX 16GB, representa uma excelente relação qualidade-preço para os programadores que criam aplicações Ultralytics YOLO11 de elevado desempenho. Esta combinação de custo e desempenho faz do Jetson Orin Nano Super uma excelente escolha para tarefas de IA visual em tempo real na edge.

Fig. 5. Avaliação comparativa do Ultralytics YOLO11 no Jetson Orin NX 16GB.

Experimenta o Ultralytics YOLO11 e o NVIDIA Jetson Orin Nano Super#

Se estás entusiasmado com a possibilidade de começar a implementar o Ultralytics YOLO11 no Jetson Orin Nano Super, temos boas notícias: o processo é simples. Depois de instalares o NVIDIA JetPack SDK no dispositivo, podes utilizar uma imagem Docker pré-criada para uma configuração rápida ou instalar manualmente os pacotes necessários.

Para quem procura uma integração mais rápida e fluida, o contentor Docker atualizado do JetPack 6 é a solução ideal. Um contentor Docker é um ambiente leve e portátil que inclui todas as ferramentas e dependências necessárias para executar software específico.

O contentor da Ultralytics, otimizado para o JetPack 6.1, inclui CUDA 12.6, TensorRT 10.3 e ferramentas essenciais como PyTorch e TorchVision, todas adaptadas à arquitetura ARM64 do Jetson. Ao utilizar este contentor, os programadores podem poupar tempo na configuração e concentrar-se na criação e otimização das suas aplicações de IA visual com o YOLO11.

Aplicações do Ultralytics YOLO11 no NVIDIA Jetson Orin Nano Super#

Se procuras inspiração para o teu próximo projeto de IA, existem oportunidades para aplicações de visão por computador na edge por todo o lado.

No dia a dia, a IA de edge está a redefinir os espaços inteligentes, permitindo que os sistemas detetem e acompanhem objetos em tempo real, sem depender do processamento na cloud. Seja na monitorização do trânsito numa cidade movimentada ou na identificação de atividades invulgares em espaços públicos, a IA visual de edge está a reforçar a segurança e a eficiência.

Os retalhistas também estão a aproveitar a IA de edge e a visão por computador. Desde verificações automatizadas do inventário até à prevenção de furtos, modelos como o Ultralytics YOLO11 permitem às empresas implementar soluções em tempo real diretamente nas lojas.

Do mesmo modo, no que diz respeito à IA nos cuidados de saúde, a monitorização baseada em edge garante a segurança dos pacientes, deteta anomalias e assegura a conformidade, sem os atrasos causados pela dependência da cloud. Com ferramentas como o Jetson Orin Nano Super e o Ultralytics YOLO11, o futuro da IA visual está a desenvolver-se mesmo na edge, onde é mais necessário.

Principais conclusões#

A implementação de modelos Ultralytics YOLO, como o YOLO11, no NVIDIA Jetson Orin Nano Super Developer Kit oferece uma solução fiável e eficiente para aplicações de IA de edge. Com o desempenho robusto da GPU, o suporte integrado para PyTorch, ONNX e TensorRT, e benchmarks impressionantes, é uma solução adequada para tarefas de visão por computador em tempo real, como a deteção e o seguimento de objetos.

As inovações e colaborações em tecnologias de ponta, como a IA visual e a aceleração de hardware, estão a transformar a forma como trabalhamos e a capacitar os programadores para criarem soluções escaláveis e de elevado desempenho na edge. À medida que a IA avança, ferramentas como o Ultralytics YOLO11 e o Jetson Orin Nano Super tornam mais fácil do que nunca dar vida a soluções inteligentes em tempo real.

Tens curiosidade sobre IA? Visita o nosso repositório do GitHub para explorares as nossas contribuições e interagires com a nossa comunidade. Vê como estamos a utilizar a IA para gerar impacto em setores como a agricultura e os cuidados de saúde.