Ultralytics YOLO11 no NVIDIA Jetson Orin Nano Super: rápido e eficiente

O Kit de Desenvolvimento NVIDIA Jetson Orin Nano Super, lançado a 17 de dezembro de 2024, é um supercomputador compacto, mas potente, de IA generativa, concebido para disponibilizar capacidades avançadas na computação de edge. Permite o processamento em tempo real e elimina a necessidade de computação na nuvem. O NVIDIA Jetson Orin Nano Super permite-te criar sistemas inteligentes acessíveis que funcionam de forma eficiente em ambientes locais.

Quando combinado com modelos Ultralytics YOLO, como o Ultralytics YOLO11, o Jetson Orin Nano Super consegue lidar com uma vasta gama de aplicações de IA de visão na edge. Em particular, o YOLO11 é um modelo de visão computacional conhecido pela sua velocidade e precisão em tarefas como deteção de objetos, rastreamento de objetos e segmentação de instâncias.

A combinação das capacidades do Ultralytics YOLO11 com a robusta GPU (Unidade de Processamento Gráfico) do kit e o suporte para frameworks como PyTorch, ONNX e NVIDIA TensorRT permite implementações de alto desempenho. Esta combinação oferece aos programadores uma solução eficiente para criar aplicações de IA, desde a deteção de objetos em robótica até ao rastreamento de objetos em tempo real em espaços inteligentes e sistemas de retalho.

Neste artigo, vamos analisar o Kit de Desenvolvimento NVIDIA Jetson Orin Nano Super, como funciona com o Ultralytics YOLO11 para IA de edge, os seus resultados de desempenho, aplicações no mundo real e como pode ajudar-te a criar projetos de IA de visão. Vamos começar!

O que é o Kit de Desenvolvimento NVIDIA Jetson Orin Nano Super?#

O Kit de Desenvolvimento NVIDIA Jetson Orin Nano Super é um computador compacto, mas potente, que redefine a IA generativa para dispositivos de edge pequenos. Oferece até 67 TOPS (biliões de operações por segundo) de desempenho de IA, o que o torna ideal para programadores, estudantes e entusiastas que trabalham em projetos avançados de IA.

Eis algumas das suas principais funcionalidades:

• Desempenho da GPU: O dispositivo baseia-se numa GPU com arquitetura NVIDIA Ampere, que inclui 1.024 núcleos CUDA e 32 Tensor Cores. Os núcleos CUDA processam muitas tarefas em simultâneo, acelerando cálculos complexos, enquanto os Tensor Cores são especializados em tarefas de IA, como a aprendizagem profunda.
• CPU potente: Inclui um processador Arm Cortex-A78AE de 6 núcleos, concebido para equilibrar velocidade e eficiência. O dispositivo consegue lidar com várias tarefas sem problemas, mantendo o consumo de energia reduzido. Isto é importante para sistemas que funcionam localmente sem acesso a grandes fontes de energia.
• Memória eficiente: O kit inclui 8 GB de memória LPDDR5 (memória de taxa de dados dupla de baixo consumo 5). LPDDR5 é um tipo de RAM (memória de acesso aleatório) otimizado para velocidade e eficiência energética, permitindo ao dispositivo lidar com grandes conjuntos de dados e processamento em tempo real sem consumir energia excessiva.
• Opções de conectividade: Inclui portas USB 3.2 para transferências rápidas de dados, uma porta Gigabit Ethernet para ligações de rede robustas e interfaces de câmara para integrar sensores ou câmaras.
• Ferramentas de desenvolvimento de IA: O Jetson Orin Nano Super funciona com o SDK NVIDIA JetPack, que disponibiliza ferramentas como CUDA para computação mais rápida e TensorRT para otimizar modelos de IA. Estas ferramentas facilitam a criação e implementação rápida e eficiente de aplicações de IA.

Resultados de desempenho: Jetson Orin Nano Super vs. Orin NX de 16 GB#

Se estás familiarizado com o trabalho da NVIDIA, podes estar a perguntar-te como este novo lançamento se compara com o NVIDIA Jetson Orin NX de 16 GB existente (sem modo Super). Embora o Jetson Orin NX ofereça capacidades gerais superiores, o Kit de Desenvolvimento Jetson Orin Nano Super proporciona um desempenho impressionante por uma fração do custo.

Fig. 2 Uma visão do ecossistema NVIDIA Jetson Orin.

Eis uma visão geral rápida:

• Desempenho de IA: O Jetson Orin Nano Super oferece até 67 TOPS, o que é excelente para a maioria das tarefas de IA de edge, enquanto o Jetson Orin NX oferece até 100 TOPS para aplicações mais exigentes.
• Memória: O Jetson Orin Nano Super inclui 8 GB de LPDDR5, suficiente para tarefas em tempo real, enquanto o Orin NX duplica esse valor para 16 GB para cargas de trabalho maiores.
• Eficiência energética: O Jetson Orin Nano Super é mais eficiente em termos energéticos e pode ser configurado entre 7 W e 25 W, em comparação com as maiores necessidades energéticas do Jetson Orin NX.
• GPU: Ambos partilham a arquitetura NVIDIA Ampere com 1.024 núcleos CUDA e 32 Tensor Cores para um desempenho robusto da GPU.

Ultralytics YOLO11 com Jetson Orin Nano Super: a levar a IA de visão para a edge#

Agora que compreendemos melhor o Jetson Orin Nano Super, vejamos como o YOLO11 pode contribuir para levar capacidades de IA de visão para a edge. Os modelos Ultralytics YOLO, incluindo o YOLO11, incluem modos versáteis como treino, previsão e exportação, tornando-os adaptáveis a vários fluxos de trabalho de IA.

Por exemplo, no modo de treino, os modelos Ultralytics YOLO podem ser ajustados e treinados em conjuntos de dados personalizados para aplicações específicas, como a deteção de objetos únicos ou a otimização para ambientes específicos. De forma semelhante, o modo de previsão foi concebido para inferência, permitindo tarefas de visão computacional em tempo real. Por fim, o modo de exportação pode ser utilizado para converter modelos em formatos otimizados para implementação.

Fig. 3 Os modelos Ultralytics YOLO suportam várias funcionalidades e modos.

O modo de exportação do Ultralytics YOLO11 suporta várias opções de implementação de modelos, incluindo, entre outras:

• NVIDIA TensorRT: Este formato é otimizado para GPUs NVIDIA, oferecendo inferência de alto desempenho e baixa latência no Jetson Orin Nano Super.
• ONNX (Intercâmbio de Redes Neuronais Abertas): Garante a compatibilidade entre várias plataformas, tornando-o versátil para diferentes ecossistemas de hardware e software.
• TorchScript: Este formato é ideal para aplicações baseadas em PyTorch, ajudando a garantir uma integração perfeita nos fluxos de trabalho PyTorch.
• TFLite (Lite do TensorFlow): Um formato concebido para implementações leves de IA, sendo perfeito para sistemas móveis e incorporados.

Ao utilizarem estes formatos de implementação, os programadores podem tirar pleno partido do hardware do Jetson Orin Nano Super para executar o Ultralytics YOLO11 em aplicações em tempo real, como espaços inteligentes, robótica e automatização do retalho.

Avaliação do Ultralytics YOLO11 no NVIDIA Jetson Orin Nano Super#

De seguida, para percebermos melhor a velocidade de execução do Ultralytics YOLO11 no NVIDIA Jetson Orin Nano Super, vamos explorar o seu desempenho impressionante e os resultados de testes utilizando formatos de exportação acelerados por GPU, como PyTorch, ONNX e TensorRT. Estes testes revelam que o Jetson Orin Nano Super alcança tempos de inferência com modelos YOLO11 comparáveis aos do Jetson Orin NX de 16 GB existente — e ocasionalmente superiores — (sem modo Super).

Fig. 4 Avaliação do Ultralytics YOLO11 no NVIDIA Jetson Orin Nano Super.

O que torna isto ainda mais notável é o preço acessível do Jetson Orin Nano Super. Ao oferecer este desempenho por menos de metade do preço do Jetson Orin NX de 16 GB, proporciona um valor excecional aos programadores que criam aplicações Ultralytics YOLO11 de alto desempenho. Esta combinação de custo e desempenho torna o Jetson Orin Nano Super uma excelente escolha para tarefas de IA de visão em tempo real na edge.

Fig. 5 Avaliação do Ultralytics YOLO11 no Jetson Orin NX de 16 GB.

Experimenta o Ultralytics YOLO11 e o NVIDIA Jetson Orin Nano Super#

Se estás entusiasmado por começar a implementar o Ultralytics YOLO11 no Jetson Orin Nano Super, temos boas notícias: é um processo simples. Depois de instalares o dispositivo com o SDK NVIDIA JetPack, podes utilizar uma imagem Docker pré-criada para uma configuração rápida ou instalar manualmente os pacotes necessários.

Para quem procura uma integração mais rápida e simples, o contentor Docker atualizado do JetPack 6 é a solução ideal. Um contentor Docker é um ambiente leve e portátil que inclui todas as ferramentas e dependências necessárias para executar software específico.

O contentor Ultralytics, otimizado para o JetPack 6.1, vem pré-carregado com CUDA 12.6, TensorRT 10.3 e ferramentas essenciais como PyTorch e TorchVision, todas adaptadas à arquitetura ARM64 do Jetson. Ao utilizar este contentor, os programadores podem poupar tempo na configuração e concentrar-se na criação e otimização das suas aplicações de IA de visão com YOLO11.

Aplicações do Ultralytics YOLO11 no NVIDIA Jetson Orin Nano Super#

Se procuras inspiração para o teu próximo projeto de IA, existem potenciais aplicações de visão computacional baseadas em edge à nossa volta.

Na vida quotidiana, a IA de edge está a redefinir os espaços inteligentes ao permitir que os sistemas detetem e rastreiem objetos em tempo real, sem depender do processamento na nuvem. Quer seja na monitorização do trânsito numa cidade movimentada ou na identificação de atividades invulgares em espaços públicos, a IA de visão na edge está a reforçar a segurança e a eficiência.

Os retalhistas também estão a adotar a IA de edge e a visão computacional. Desde verificações automatizadas de inventário até à prevenção de furtos, modelos como o Ultralytics YOLO11 permitem às empresas implementar soluções em tempo real diretamente nas lojas.

Da mesma forma, no que diz respeito à IA na área da saúde, a monitorização baseada em edge garante a segurança dos pacientes, deteta anomalias e assegura a conformidade — tudo isto sem os atrasos causados pela dependência da nuvem. Com ferramentas como o Jetson Orin Nano Super e o Ultralytics YOLO11, o futuro da IA de visão está a concretizar-se na edge, precisamente onde é mais necessário.

Principais conclusões#

A implementação de modelos Ultralytics YOLO, como o YOLO11, no Kit de Desenvolvimento NVIDIA Jetson Orin Nano Super oferece uma solução fiável e eficiente para aplicações de IA de edge. Com um desempenho robusto da GPU, suporte integrado para PyTorch, ONNX e TensorRT e resultados de testes impressionantes, é especialmente adequado para tarefas de visão computacional em tempo real, como deteção e rastreamento de objetos.

As inovações e colaborações em tecnologias de ponta, como a IA de visão e a aceleração de hardware, estão a transformar a forma como trabalhamos, capacitando os programadores a criar soluções escaláveis e de alto desempenho na edge. À medida que a IA avança, ferramentas como o Ultralytics YOLO11 e o Jetson Orin Nano Super tornam mais fácil do que nunca dar vida a soluções inteligentes em tempo real.

Tens curiosidade sobre IA? Visita o nosso repositório no GitHub para explorares as nossas contribuições e interagires com a nossa comunidade. Vê como estamos a utilizar a IA para causar impacto em setores como a agricultura e a área da saúde.