Sintonize na YOLO Vision 2025!
25 de setembro de 2025
10:00 — 18:00 BST
Evento híbrido
Yolo Vision 2024

Ultralytics YOLO11 no NVIDIA Jetson Orin Nano Super: rápido e eficiente

Abirami Vina

4 min de leitura

9 de janeiro de 2025

Explore como a implantação do Ultralytics YOLO11 no NVIDIA Jetson Orin Nano Super oferece benchmarks impressionantes e desempenho acelerado por GPU para aplicações avançadas de IA.

O NVIDIA Jetson Orin Nano Super Developer Kit, lançado em 17 de dezembro de 2024, é um supercomputador de IA generativa compacto, mas poderoso, projetado para trazer recursos avançados para a computação de borda. Ele facilita o processamento em tempo real e elimina a necessidade de computação em nuvem. O NVIDIA Jetson Orin Nano Super permite que os desenvolvedores construam sistemas inteligentes acessíveis que funcionam de forma eficiente em ambientes locais.

Quando emparelhado com modelos Ultralytics YOLO como o Ultralytics YOLO11, o Jetson Orin Nano Super pode lidar com uma vasta gama de aplicações de Visão de IA na borda. Em particular, o YOLO11 é um modelo de visão computacional conhecido por sua velocidade e precisão em tarefas como detecção de objetos, rastreamento de objetos e segmentação de instâncias. 

A combinação das capacidades do YOLO11 com a robusta GPU (Unidade de Processamento Gráfico) do kit e o suporte para frameworks como PyTorch, ONNX e NVIDIA TensorRT permite implementações de alto desempenho. Essa combinação oferece aos desenvolvedores uma solução eficiente para criar aplicações de IA, desde a detecção de objetos em robótica até o rastreamento de objetos em tempo real em espaços inteligentes e sistemas de varejo.

Neste artigo, veremos o NVIDIA Jetson Orin Nano Super Developer Kit, como ele funciona com o Ultralytics YOLO11 para IA de ponta, seus benchmarks de desempenho, aplicações no mundo real e como ele pode ajudar os desenvolvedores a construir projetos de Visão de IA. Vamos começar!

O que é o NVIDIA Jetson Orin Nano Super Developer Kit?

O NVIDIA Jetson Orin Nano Super Developer Kit é um computador compacto, mas poderoso, que redefine a IA generativa para pequenos dispositivos de borda. Ele oferece até 67 TOPS (trilhões de operações por segundo) de desempenho de IA, tornando-o ideal para desenvolvedores, estudantes e entusiastas que trabalham em projetos avançados de IA.

__wf_reserved_inherit

Aqui estão algumas de suas principais características:

  • Desempenho da GPU: O dispositivo é construído na GPU de arquitetura NVIDIA Ampere, que inclui 1.024 núcleos CUDA e 32 núcleos Tensor. Os núcleos CUDA processam muitas tarefas simultaneamente, acelerando cálculos complexos, enquanto os núcleos Tensor são especializados para tarefas de IA, como aprendizado profundo. 
  • CPU poderosa: Possui um processador Arm Cortex-A78AE de 6 núcleos, projetado para equilibrar velocidade e eficiência. O dispositivo pode lidar com várias tarefas sem problemas, mantendo o uso de energia baixo. Isso é importante para sistemas em execução localmente, sem acesso a grandes fontes de energia.
  • Memória eficiente: O kit vem com 8 GB de memória LPDDR5 (Low Power Double Data Rate 5). LPDDR5 é um tipo de RAM (Random Access Memory) otimizado para velocidade e eficiência energética, permitindo que o dispositivo lide com grandes conjuntos de dados e processamento em tempo real sem consumir energia excessiva.
  • Opções de conectividade: Inclui portas USB 3.2 para transferências rápidas de dados, uma porta Gigabit Ethernet para conexões de rede fortes e interfaces de câmera para integrar sensores ou câmeras
  • Ferramentas de desenvolvimento de IA: O Jetson Orin Nano Super funciona com o NVIDIA JetPack SDK, que fornece ferramentas como CUDA para computação mais rápida e TensorRT para otimizar modelos de IA. Essas ferramentas facilitam para os desenvolvedores construir e implantar aplicativos de IA de forma rápida e eficiente.

Benchmarks de desempenho: Jetson Orin Nano Super Vs. Orin NX 16GB

Se está familiarizado com o trabalho da NVIDIA, pode estar a perguntar-se como é que esta nova versão se compara com o NVIDIA Jetson Orin NX 16GB existente (sem o modo super). Embora o Jetson Orin NX ofereça capacidades gerais mais elevadas, o Jetson Orin Nano Super Developer Kit oferece um desempenho impressionante a uma fração do custo.

 

__wf_reserved_inherit
Fig. 2. Uma visão geral do ecossistema NVIDIA Jetson Orin.

Aqui está uma visão geral rápida:

  • Desempenho de IA: O Jetson Orin Nano Super oferece até 67 TOPS, o que é ótimo para a maioria das tarefas de IA de borda, enquanto o Jetson Orin NX oferece até 100 TOPS para aplicações mais exigentes.
  • Memória: O Jetson Orin Nano Super inclui 8 GB de LPDDR5, o suficiente para tarefas em tempo real, enquanto o Orin NX dobra para 16 GB para cargas de trabalho maiores.
  • Eficiência energética: O Jetson Orin Nano Super é mais eficiente em termos de energia e configurável entre 7W e 25W, em comparação com as maiores demandas de energia do Jetson Orin NX.
  • GPU: Ambos compartilham a arquitetura NVIDIA Ampere com 1.024 núcleos CUDA e 32 núcleos Tensor para um desempenho robusto da GPU.

YOLO11 com Jetson Orin Nano Super: Trazendo visão de IA para a borda

Agora que temos uma melhor compreensão do Jetson Orin Nano Super, vamos dar uma olhada em como o YOLO11 pode entrar em ação para trazer recursos de Visão de IA para a borda. Os modelos Ultralytics YOLO, incluindo o YOLO11, vêm com modos versáteis como treinar, prever e exportar, tornando-os adaptáveis a uma variedade de fluxos de trabalho de IA. 

Por exemplo, no modo de treinamento, os modelos Ultralytics YOLO podem ser ajustados e treinados em conjuntos de dados personalizados para aplicações específicas, como detectar objetos exclusivos ou otimizar para ambientes específicos. Da mesma forma, o modo de previsão é projetado para inferência, permitindo tarefas de visão computacional em tempo real. Finalmente, o modo de exportação pode ser usado para converter modelos em formatos otimizados para implantação.

__wf_reserved_inherit
Fig 3. Os modelos Ultralytics YOLO suportam vários recursos e modos.

O YOLO11 no modo de exportação suporta uma variedade de opções de implantação de modelo, incluindo, entre outras:

  • NVIDIA TensorRT: Este formato é otimizado para GPUs NVIDIA, oferecendo inferência de alto desempenho e baixa latência no Jetson Orin Nano Super.
  • ONNX (Open Neural Network Exchange): Garante a compatibilidade entre várias plataformas, tornando-o versátil para diferentes ecossistemas de hardware e software.
  • TorchScript: Este formato é ideal para aplicações baseadas em PyTorch, ajudando na integração perfeita em fluxos de trabalho do PyTorch.
  • TFLite (TensorFlow Lite): Um formato projetado para implementações de IA leves, tornando-o perfeito para sistemas móveis e embarcados.

Utilizando estes formatos de implementação, os desenvolvedores podem tirar o máximo proveito do hardware do Jetson Orin Nano Super para executar o YOLO11 para aplicações em tempo real, como espaços inteligentes, robótica e automação de retalho. 

Benchmarking do YOLO11 no NVIDIA Jetson Orin Nano Super

Em seguida, para ter uma ideia melhor de quão rápido o YOLO11 pode ser executado no NVIDIA Jetson Orin Nano Super, vamos explorar seu desempenho e benchmarks impressionantes usando formatos de exportação acelerados por GPU, como PyTorch, ONNX e TensorRT. Esses testes revelam que o Jetson Orin Nano Super atinge tempos de inferência com modelos YOLO11 que são comparáveis ​​- e ocasionalmente superam - o Jetson Orin NX 16GB existente (sem o modo super).

__wf_reserved_inherit
Fig 4. Benchmarking do YOLO11 no NVIDIA Jetson Orin Nano Super.

O que torna isso ainda mais notável é a acessibilidade do Jetson Orin Nano Super. Oferecendo tal desempenho por menos da metade do preço do Jetson Orin NX 16GB, ele oferece um valor excepcional para desenvolvedores que criam aplicações YOLO11 de alto desempenho. Essa combinação de custo e desempenho torna o Jetson Orin Nano Super uma excelente escolha para tarefas de Visão de IA em tempo real na borda.

__wf_reserved_inherit
Fig 5. Benchmarking do YOLO11 no Jetson Orin NX 16GB.

Experimente o YOLO11 e o NVIDIA Jetson Orin Nano Super

Se está entusiasmado para começar a implementar o YOLO11 no Jetson Orin Nano Super, há boas notícias - é um processo simples. Depois de instalar o NVIDIA JetPack SDK no seu dispositivo, pode usar uma imagem Docker pré-construída para uma configuração rápida ou instalar manualmente os pacotes necessários. 

Para aqueles que procuram uma integração mais rápida e perfeita, o contêiner Docker JetPack 6 atualizado é a solução ideal. Um contêiner Docker é um ambiente leve e portátil que inclui todas as ferramentas e dependências necessárias para executar um software específico. 

O contêiner Ultralytics, otimizado para JetPack 6.1, vem pré-carregado com CUDA 12.6, TensorRT 10.3 e ferramentas essenciais como PyTorch e TorchVision, todos adaptados para a arquitetura ARM64 do Jetson. Ao usar este contêiner, os desenvolvedores podem economizar tempo na configuração e se concentrar na construção e otimização de seus aplicativos de Visão de IA com YOLO11.

Aplicações do YOLO11 no NVIDIA Jetson Orin Nano Super

Para aqueles que procuram inspiração para seu próximo projeto de IA, existe potencial para aplicações de visão computacional baseadas na borda ao nosso redor. 

Na vida cotidiana, a IA de borda está redefinindo os espaços inteligentes, permitindo que os sistemas detectem e rastreiem objetos em tempo real, tudo sem depender do processamento em nuvem. Seja monitorando o tráfego em uma cidade movimentada ou identificando atividades incomuns em espaços públicos, a Visão de IA de borda está aumentando a segurança e a eficiência.

Os varejistas também estão a explorar a IA de ponta e a visão computacional. Desde verificações automatizadas de inventário até à prevenção de roubos, modelos como o YOLO11 tornam possível para as empresas implementarem soluções em tempo real diretamente nas lojas. 

Da mesma forma, quando se trata de IA na área da saúde, o monitoramento de borda garante a segurança do paciente, detecta anomalias e mantém a conformidade - tudo sem atrasos causados pela dependência da nuvem. Com ferramentas como o Jetson Orin Nano Super e o YOLO11, o futuro da Visão de IA está se revelando na borda, onde é mais necessário.

Principais conclusões

Implementar modelos Ultralytics YOLO, como o YOLO11, no NVIDIA Jetson Orin Nano Super Developer Kit oferece uma solução confiável e eficiente para aplicações de IA de ponta (edge AI). Com um desempenho robusto da GPU, suporte contínuo para PyTorch, ONNX e TensorRT, e benchmarks impressionantes, é adequado para tarefas de visão computacional em tempo real, como detecção e rastreamento de objetos. 

Inovações e colaborações em tecnologias de ponta, como Visão de IA e aceleração de hardware, estão transformando a forma como trabalhamos, capacitando os desenvolvedores a construir soluções escaláveis e de alto desempenho na borda. À medida que a IA avança, ferramentas como o YOLO11 e o Jetson Orin Nano Super estão tornando mais fácil do que nunca trazer soluções inteligentes e em tempo real à vida.

Tem curiosidade sobre IA? Visite o nosso repositório GitHub para explorar as nossas contribuições e interagir com a nossa comunidade. Veja como estamos a usar a IA para causar impacto em setores como a agricultura e os cuidados de saúde.

Vamos construir o futuro
da IA juntos!

Comece sua jornada com o futuro do aprendizado de máquina

Comece gratuitamente
Link copiado para a área de transferência