Ultralytics YOLO11 no NVIDIA Jetson Orin Nano Super: rápido e eficiente

O NVIDIA Jetson Orin Nano Super Developer Kit, lançado em 17 de dezembro de 2024, é um supercomputador de AI generativo compacto, mas poderoso, projetado para trazer recursos avançados para a computação de ponta. Ele facilita o processamento em tempo real e elimina a necessidade de computação em nuvem. O NVIDIA Jetson Orin Nano Super permite que os desenvolvedores criem sistemas inteligentes acessíveis que funcionam de forma eficiente em ambientes locais.

Quando emparelhado com modelosUltralytics YOLO como Ultralytics YOLO11o Jetson Orin Nano Super pode lidar com uma vasta gama de aplicações de IA de visão no limite. Em particular, YOLO11 é um modelo de visão computacional conhecido pela sua velocidade e precisão em tarefas como a deteção de objectos, o seguimento de objectos e a segmentação de instâncias. 

A combinação das capacidades do YOLO11com a robusta GPU (Unidade de Processamento Gráfico) do kit e o suporte para frameworks como PyTorch, ONNX e NVIDIA TensorRT permite implementações de elevado desempenho. Esta combinação fornece aos programadores uma solução eficiente para a criação de aplicações de IA, desde a deteção de objectos na robótica ao rastreio de objectos em tempo real em espaços inteligentes e sistemas de retalho.

Neste artigo, veremos o NVIDIA Jetson Orin Nano Super Developer Kit, como ele funciona com o Ultralytics YOLO11 para AI de ponta, seus benchmarks de desempenho, aplicações do mundo real e como ele pode ajudar os desenvolvedores a criar projetos de AI de visão. Vamos começar!

O que é o Super Developer Kit NVIDIA Jetson Orin Nano?

O Super Developer Kit NVIDIA Jetson Orin Nano é um computador compacto, mas potente, que redefine a IA generativa para pequenos dispositivos de ponta. Oferece até 67 TOPS (triliões de operações por segundo) de desempenho de IA, tornando-o ideal para programadores, estudantes e amadores que trabalham em projectos avançados de IA.

‍

Aqui estão algumas de suas principais características:

• DesempenhoGPU : O dispositivo é construído com base na GPU de arquitetura NVIDIA Ampere, que inclui 1.024 núcleos CUDA e 32 Tensor Cores. Os núcleos CUDA processam muitas tarefas simultaneamente, acelerando cálculos complexos, enquanto os Tensor Cores são especializados para tarefas de IA, como aprendizado profundo.
  ‍
• CPU potente: Inclui um processador Arm Cortex-A78AE de 6 núcleos, concebido para equilibrar velocidade e eficiência. O dispositivo pode executar várias tarefas sem problemas, mantendo o consumo de energia baixo. Isto é importante para sistemas que funcionam localmente sem acesso a grandes fontes de energia.
  ‍
• Memória eficiente: O kit vem com 8 GB de memória LPDDR5 (Low Power Double Data Rate 5). LPDDR5 é um tipo de RAM (Random Access Memory) otimizado para velocidade e eficiência energética, permitindo que o dispositivo lide com grandes conjuntos de dados e processamento em tempo real sem consumir energia excessiva.
  ‍
• Opções de conectividade: Inclui portas USB 3.2 para transferências rápidas de dados, uma porta Gigabit Ethernet para conexões de rede fortes e interfaces de câmera para integrar sensores ou câmeras. 
  ‍
• Ferramentas de desenvolvimento de IA: O Jetson Orin Nano Super funciona com o NVIDIA JetPack SDK, que fornece ferramentas como CUDA para computação mais rápida e TensorRT para otimizar os modelos de IA. Essas ferramentas tornam mais fácil para os desenvolvedores criar e implantar aplicativos de AI de forma rápida e eficiente.

Benchmarks de desempenho: Jetson Orin Nano Super Vs. Orin NX 16GB

Se está familiarizado com o trabalho da NVIDIA, pode estar a perguntar-se como é que esta nova versão se compara com o atual NVIDIA Jetson Orin NX 16GB (sem modo super). Embora o Jetson Orin NX ofereça capacidades gerais superiores, o Jetson Orin Nano Super Developer Kit proporciona um desempenho impressionante por uma fração do custo.

‍

Aqui está uma visão geral rápida:

• Desempenho de IA: O Jetson Orin Nano Super oferece até 67 TOPS, o que é ótimo para a maioria das tarefas de IA de borda, enquanto o Jetson Orin NX oferece até 100 TOPS para aplicações mais exigentes.
  ‍
• Memória: O Jetson Orin Nano Super inclui 8 GB de LPDDR5, o suficiente para tarefas em tempo real, enquanto o Orin NX dobra para 16 GB para cargas de trabalho maiores.
  ‍
• Eficiência energética: O Jetson Orin Nano Super é mais eficiente em termos de energia e configurável entre 7W e 25W, em comparação com as maiores demandas de energia do Jetson Orin NX.
  ‍
• GPU: Ambos partilham a arquitetura NVIDIA Ampere com 1.024 núcleos CUDA e 32 Tensor Cores para um desempenho robusto GPU .

YOLO11 com Jetson Orin Nano Super: levar a IA de visão até ao limite

Agora que temos uma melhor compreensão do Jetson Orin Nano Super, vamos ver como YOLO11 pode intervir para levar as capacidades de IA de Visão até ao limite. Os modelos Ultralytics YOLO , incluindo YOLO11, vêm com modos versáteis como treinar, prever e exportar, tornando-os adaptáveis a uma variedade de fluxos de trabalho de IA. 

Por exemplo, no modo de treino, os modelos Ultralytics YOLO podem ser ajustados e treinados em conjuntos de dados personalizados para aplicações específicas, como a deteção de objectos únicos ou a otimização para ambientes específicos. Da mesma forma, o modo de previsão foi concebido para inferência, permitindo tarefas de visão computacional em tempo real. Finalmente, o modo de exportação pode ser utilizado para converter modelos em formatos optimizados para implementação.

‍

YOLO11 no modo de exportação suporta uma série de opções de implantação de modelos, incluindo, entre outras:

• NVIDIA TensorRT: Este formato é optimizado para GPUs NVIDIA , oferecendo inferência de alto desempenho e baixa latência no Jetson Orin Nano Super.
  ‍
• ONNX (Open Neural Network Exchange): Garante a compatibilidade entre várias plataformas, tornando-o versátil para diferentes ecossistemas de hardware e software.
  ‍
• TorchScript: Este formato é ideal para aplicações PyTorch, ajudando a uma integração perfeita nos fluxos de trabalho PyTorch .
  ‍
• TFLite TensorFlow Lite): Um formato concebido para implementações leves de IA, tornando-o perfeito para sistemas móveis e incorporados.

Utilizando estes formatos de implementação, os programadores podem tirar o máximo partido do hardware do Jetson Orin Nano Super para executar YOLO11 em aplicações em tempo real, como espaços inteligentes, robótica e automação de retalho. 

Teste de referência YOLO11 no NVIDIA Jetson Orin Nano Super

De seguida, para termos uma melhor ideia da rapidez com que YOLO11 pode ser executado no NVIDIA Jetson Orin Nano Super, vamos explorar o seu impressionante desempenho e benchmarks utilizando formatos de exportação GPU, como PyTorch, ONNX e TensorRT. Estes testes revelam que o Jetson Orin Nano Super atinge tempos de inferência com modelos YOLO11 que são comparáveis - e ocasionalmente ultrapassam - o atual Jetson Orin NX 16GB (sem modo super).

‍

O que torna este facto ainda mais notável é o preço acessível do Jetson Orin Nano Super. Oferecendo tal desempenho a menos de metade do preço do Jetson Orin NX 16GB, proporciona um valor excecional para os programadores que criam aplicações YOLO11 de elevado desempenho. Esta combinação de custo e desempenho torna o Jetson Orin Nano Super uma excelente escolha para tarefas de IA de visão em tempo real na periferia.

‍

Conheça o YOLO11 e o NVIDIA Jetson Orin Nano Super

Se está entusiasmado por começar a implementar YOLO11 no Jetson Orin Nano Super, há boas notícias - é um processo simples. Depois de flashear o seu dispositivo com o NVIDIA JetPack SDK, pode utilizar uma imagem Docker pré-construída para uma configuração rápida ou instalar manualmente os pacotes necessários. 

Para aqueles que procuram uma integração mais rápida e perfeita, o contêiner Docker JetPack 6 atualizado é a solução ideal. Um contêiner Docker é um ambiente leve e portátil que inclui todas as ferramentas e dependências necessárias para executar um software específico. 

O contentor Ultralytics , optimizado para JetPack 6.1, vem pré-carregado com CUDA 12.6, TensorRT 10.3 e ferramentas essenciais como PyTorch e TorchVision, tudo adaptado à arquitetura ARM64 do Jetson. Ao utilizar este contentor, os programadores podem poupar tempo na configuração e concentrar-se na criação e otimização das suas aplicações Vision AI com o YOLO11.

Aplicações do YOLO11 no NVIDIA Jetson Orin Nano Super

Para aqueles que procuram inspiração para seu próximo projeto de IA, existe potencial para aplicações de visão computacional baseadas na borda ao nosso redor. 

Na vida quotidiana, a IA de ponta está a redefinir os espaços inteligentes, permitindo que os sistemas detect e track objectos em tempo real, tudo sem depender do processamento na nuvem. Quer se trate de monitorizar o tráfego numa cidade movimentada ou de identificar atividade invulgar em espaços públicos, a IA de visão periférica está a aumentar a segurança e a eficiência.

Os retalhistas estão também a explorar a IA de ponta e a visão por computador. Desde controlos de inventário automatizados até à prevenção de roubos, modelos como o YOLO11 permitem às empresas implementar soluções em tempo real diretamente nas lojas. 

Da mesma forma, quando se trata de IA nos cuidados de saúde, a monitorização baseada na periferia garante a segurança dos pacientes, detecta anomalias e mantém a conformidade - tudo sem atrasos causados pela dependência da nuvem. Com ferramentas como o Jetson Orin Nano Super e o YOLO11, o futuro da Vision AI está a desenrolar-se mesmo no limite, onde é mais necessário.

Principais conclusões

A implementação de modelos Ultralytics YOLO como o YOLO11 no NVIDIA Jetson Orin Nano Super Developer Kit oferece uma solução fiável e eficiente para aplicações de AI de ponta. Com desempenho robusto GPU , suporte contínuo para PyTorch, ONNX e TensorRT e benchmarks impressionantes, é adequado para tarefas de visão computacional em tempo real, como deteção e rastreamento de objetos. 

As inovações e colaborações em tecnologias de ponta, como a Vision AI e a aceleração de hardware, estão a transformar a forma como trabalhamos, permitindo que os programadores criem soluções escaláveis e de elevado desempenho no limite. À medida que a IA avança, ferramentas como o YOLO11 e o Jetson Orin Nano Super estão a tornar mais fácil do que nunca dar vida a soluções inteligentes e em tempo real.

Tem curiosidade sobre IA? Visite o nosso repositório GitHub para explorar as nossas contribuições e interagir com a nossa comunidade. Veja como estamos a usar a IA para causar impacto em setores como a agricultura e os cuidados de saúde.