Ultralytics YOLO11 no NVIDIA Jetson Orin Nano Super: rápido e eficiente

O NVIDIA Jetson Orin Nano Super Developer Kit, lançado a 17 de dezembro de 2024, é um supercomputador compacto, mas potente, de IA generativa, concebido para disponibilizar capacidades avançadas à computação na periferia da rede. Permite o processamento em tempo real e reduz a necessidade de computação na cloud. O NVIDIA Jetson Orin Nano Super permite aos programadores criar sistemas inteligentes acessíveis que funcionam de forma eficiente em ambientes locais.

Quando combinado com modelos Ultralytics YOLO, como o Ultralytics YOLO11, o Jetson Orin Nano Super consegue executar uma vasta gama de aplicações de IA visual na edge. Em particular, o YOLO11 é um modelo de visão por computador conhecido pela sua velocidade e precisão em tarefas como a deteção de objetos, o seguimento de objetos e a segmentação de instâncias.

A combinação das capacidades do Ultralytics YOLO11 com a robusta GPU (unidade de processamento gráfico) do kit e o suporte para frameworks como PyTorch, ONNX e NVIDIA TensorRT permite implementações de elevado desempenho. Esta combinação oferece aos programadores uma solução eficiente para criar aplicações de IA, desde a deteção de objetos em robótica até ao seguimento de objetos em tempo real em espaços inteligentes e sistemas de retalho.

Neste artigo, vamos analisar o NVIDIA Jetson Orin Nano Super Developer Kit, o seu funcionamento com o Ultralytics YOLO11 para IA de periferia, os resultados de desempenho, as aplicações no mundo real e a forma como pode ajudar os programadores a criar projetos de IA visual.

O que é o NVIDIA Jetson Orin Nano Super Developer Kit?#

O NVIDIA Jetson Orin Nano Super Developer Kit é um computador compacto, mas potente, que leva a IA generativa a pequenos dispositivos de periferia. Oferece até 67 TOPS (biliões de operações por segundo) de desempenho em IA, sendo adequado a programadores, estudantes e entusiastas que trabalham em projetos avançados de IA.

Eis algumas das suas principais características:

• Desempenho da GPU: O dispositivo baseia-se numa GPU com arquitetura NVIDIA Ampere, que inclui 1,024 núcleos CUDA e 32 Tensor Cores. Os núcleos CUDA processam muitas tarefas em simultâneo, acelerando cálculos complexos, enquanto os Tensor Cores são especializados em tarefas de IA, como a aprendizagem profunda.
• CPU potente: Inclui um processador Arm Cortex-A78AE de 6 núcleos, concebido para equilibrar velocidade e eficiência. O dispositivo consegue executar várias tarefas sem problemas e manter baixo o consumo de energia. Isto é importante para sistemas que funcionam localmente sem acesso a fontes de alimentação de grande capacidade.
• Memória eficiente: O kit inclui 8 GB de memória LPDDR5 (memória de acesso aleatório de quinta geração e baixo consumo). A LPDDR5 é um tipo de RAM (memória de acesso aleatório) otimizada para oferecer velocidade e eficiência energética, permitindo ao dispositivo processar grandes conjuntos de dados e realizar processamento em tempo real sem consumir energia em excesso.
• Opções de conectividade: Inclui portas USB 3.2 para transferências de dados rápidas, uma porta Gigabit Ethernet para ligações de rede estáveis e interfaces de câmara para integrar sensores ou câmaras.
• Ferramentas de desenvolvimento de IA: O Jetson Orin Nano Super é compatível com o NVIDIA JetPack SDK, que disponibiliza ferramentas como CUDA para computação mais rápida e TensorRT para otimizar modelos de IA. Estas ferramentas facilitam o desenvolvimento e a implementação rápida e eficiente de aplicações de IA.

Benchmarks de desempenho: Jetson Orin Nano Super vs. Orin NX 16GB#

Se conheces o trabalho da NVIDIA, podes estar a perguntar-te como esta nova versão se compara com o NVIDIA Jetson Orin NX 16GB atual (sem o modo Super). Embora o Jetson Orin NX ofereça capacidades gerais superiores, o Jetson Orin Nano Super Developer Kit proporciona um desempenho impressionante por uma fração do custo.

Fig. 2. Uma vista do ecossistema NVIDIA Jetson Orin.

Eis uma breve visão geral:

• Desempenho de IA: O Jetson Orin Nano Super oferece até 67 TOPS, um valor excelente para a maioria das tarefas de IA de edge, enquanto o Jetson Orin NX oferece até 100 TOPS para aplicações mais exigentes.
• Memória: O Jetson Orin Nano Super inclui 8 GB de LPDDR5, suficiente para tarefas em tempo real, enquanto o Orin NX duplica essa capacidade para 16 GB, para cargas de trabalho maiores.
• Eficiência energética: O Jetson Orin Nano Super é mais eficiente em termos energéticos e pode ser configurado entre 7 W e 25 W, ao contrário do Jetson Orin NX, que exige mais potência.
• GPU: Ambos partilham a arquitetura NVIDIA Ampere, com 1,024 núcleos CUDA e 32 Tensor Cores, para um desempenho robusto da GPU.

Ultralytics YOLO11 com Jetson Orin Nano Super: levar a IA visual à edge#

Agora que compreendemos melhor o Jetson Orin Nano Super, vejamos como o YOLO11 pode levar os recursos de IA visual à edge. Os modelos Ultralytics YOLO, incluindo o YOLO11, incluem modos versáteis, como treino, previsão e exportação, que os tornam adaptáveis a vários fluxos de trabalho de IA.

Por exemplo, no modo de treino, os modelos Ultralytics YOLO podem ser ajustados e treinados com conjuntos de dados personalizados para aplicações específicas, como a deteção de objetos específicos ou a otimização para determinados ambientes. De forma semelhante, o modo de previsão foi concebido para inferência, permitindo executar tarefas de visão computacional em tempo real. Por fim, o modo de exportação pode ser utilizado para converter modelos em formatos otimizados para implementação.

Fig. 3. Os modelos Ultralytics YOLO suportam várias funcionalidades e modos.

O modo de exportação do Ultralytics YOLO11 suporta várias opções de implementação de modelos, incluindo:

• NVIDIA TensorRT: este formato está otimizado para GPUs NVIDIA e oferece inferência de alto desempenho e baixa latência no Jetson Orin Nano Super.
• ONNX (Intercâmbio Aberto de Redes Neurais): oferece compatibilidade com várias plataformas, o que o torna versátil em diferentes ecossistemas de hardware e software.
• TorchScript: este formato é ideal para aplicações baseadas em PyTorch, facilitando a integração nos fluxos de trabalho do PyTorch.
• TFLite (TensorFlow Lite): um formato concebido para implementações leves de IA, adequado a sistemas móveis e integrados.

Com estes formatos de implementação, os programadores podem tirar o máximo partido do hardware do Jetson Orin Nano Super para executar o Ultralytics YOLO11 em aplicações em tempo real, como espaços inteligentes, robótica e automatização do retalho.

Avaliação comparativa do Ultralytics YOLO11 no NVIDIA Jetson Orin Nano Super#

A seguir, para teres uma ideia mais clara da velocidade de execução do Ultralytics YOLO11 no NVIDIA Jetson Orin Nano Super, vamos analisar os resultados dos testes com formatos acelerados por GPU, como PyTorch, ONNX e TensorRT. Estes testes mostram que o Jetson Orin Nano Super atinge tempos de inferência com modelos YOLO11 comparáveis e, por vezes, inferiores aos do Jetson Orin NX 16GB existente (sem o modo Super).

Fig. 4. Avaliação comparativa do Ultralytics YOLO11 no NVIDIA Jetson Orin Nano Super.

O que torna isto ainda mais impressionante é o preço acessível do Jetson Orin Nano Super. Ao oferecer este desempenho por menos de metade do preço do Jetson Orin NX 16GB, proporciona uma excelente relação qualidade-preço aos programadores que criam aplicações Ultralytics YOLO11 de alto desempenho. Esta combinação de custo e desempenho faz do Jetson Orin Nano Super uma excelente opção para tarefas de IA visual em tempo real na periferia da rede.

Fig. 5. Avaliação comparativa do Ultralytics YOLO11 no Jetson Orin NX 16GB.

Experimenta o Ultralytics YOLO11 e o NVIDIA Jetson Orin Nano Super#

Se estás entusiasmado por começar a implementar o Ultralytics YOLO11 no Jetson Orin Nano Super, o processo é simples. Depois de instalares a imagem do NVIDIA JetPack SDK no dispositivo, podes utilizar uma imagem Docker pré-criada para uma configuração rápida ou instalar manualmente os pacotes necessários.

Para a configuração mais rápida, o contentor Docker atualizado do JetPack 6 é a opção mais simples. Um contentor Docker é um ambiente leve e portátil que inclui todas as ferramentas e dependências necessárias para executar software específico.

O contentor da Ultralytics, otimizado para o JetPack 6.1, inclui CUDA 12.6, TensorRT 10.3 e ferramentas essenciais como PyTorch e TorchVision, todas adaptadas à arquitetura ARM64 do Jetson. Ao utilizar este contentor, os programadores podem poupar tempo na configuração e concentrar-se na criação e otimização das suas aplicações de IA visual com o YOLO11.

Aplicações do Ultralytics YOLO11 no NVIDIA Jetson Orin Nano Super#

Se procuras inspiração para o teu próximo projeto de IA, existem oportunidades para aplicações de visão por computador na edge por todo o lado.

No dia a dia, a IA de periferia está a transformar os espaços inteligentes ao permitir que os sistemas detetem e acompanhem objetos em tempo real, sem depender do processamento na cloud. Seja para monitorizar o trânsito numa cidade movimentada ou identificar atividades invulgares em espaços públicos, a IA visual de periferia está a reforçar a segurança e a eficiência.

Os retalhistas também estão a aproveitar a IA de edge e a visão por computador. Desde verificações automatizadas do inventário até à prevenção de furtos, modelos como o Ultralytics YOLO11 permitem às empresas implementar soluções em tempo real diretamente nas lojas.

Da mesma forma, no que toca à IA na saúde, a monitorização baseada na periferia ajuda a proteger a segurança dos pacientes, deteta anomalias e apoia a conformidade, sem atrasos causados pela dependência da cloud. Com ferramentas como o Jetson Orin Nano Super e o Ultralytics YOLO11, o futuro da IA visual está a desenvolver-se na periferia da rede, precisamente onde é mais necessário.

Principais conclusões#

A implementação de modelos Ultralytics YOLO, como o YOLO11, no NVIDIA Jetson Orin Nano Super Developer Kit oferece uma solução fiável e eficiente para aplicações de IA de periferia. Com um desempenho sólido da GPU, suporte nativo para PyTorch, ONNX e TensorRT e resultados de referência impressionantes, é adequado a tarefas de visão computacional em tempo real, como a deteção e o acompanhamento de objetos.

Os avanços na IA visual e na aceleração por hardware estão a mudar a forma como trabalhamos, ajudando os programadores a criar soluções escaláveis e de alto desempenho na periferia da rede. À medida que a IA avança, ferramentas como o Ultralytics YOLO11 e o Jetson Orin Nano Super tornam mais fácil do que nunca dar vida a soluções inteligentes em tempo real.

Tens curiosidade sobre IA? Visita o nosso repositório do GitHub para explorares as nossas contribuições e interagires com a nossa comunidade. Vê como estamos a utilizar a IA para gerar impacto em setores como a agricultura e os cuidados de saúde.