Implementação de aplicações de visão computacional em dispositivos Edge AI
Explora como a Edge AI e as inovações da NVIDIA, como o Jetson, o Triton e o TensorRT, simplificam a implementação de aplicações de visão computacional.
Graças aos avanços recentes na visão computacional e na inteligência artificial (AI), o que antes era apenas uma área de investigação está agora a impulsionar aplicações de impacto em vários setores. De carros autónomos a imagiologia médica e segurança, os sistemas de visão computacional estão a resolver problemas reais em grande escala.
Muitas destas aplicações envolvem a análise de imagens e vídeo em tempo real, e depender da computação na cloud nem sempre é prático devido à latência, aos custos e às preocupações com a privacidade. A IA de edge é uma excelente solução nestas situações. Ao executar modelos de IA de visão diretamente em dispositivos de edge, as empresas podem processar dados mais rapidamente, a um custo mais baixo e com maior segurança, tornando a IA em tempo real mais acessível.
Durante o YOLO Vision 2024 (YV24), o evento híbrido anual organizado pela Ultralytics, um dos temas centrais foi democratizar a IA de visão, tornando a implementação mais simples e eficiente para os utilizadores. Guy Dahan, Senior Solutions Architect na NVIDIA, explicou como as soluções de hardware e software da NVIDIA, incluindo dispositivos de computação de edge, servidores de inferência, frameworks de otimização e SDKs de implementação de IA, estão a ajudar os programadores a otimizar a IA no edge.
Neste artigo, vamos explorar as principais conclusões da apresentação principal de Guy Dahan no YV24 e a forma como as mais recentes inovações da NVIDIA estão a tornar a implementação de IA de visão mais rápida e escalável.
O que é a IA de edge?#
Guy Dahan iniciou a sua apresentação expressando o entusiasmo por participar virtualmente no YV24 e o seu interesse no pacote Python da Ultralytics e nos modelos YOLO da Ultralytics, dizendo: "Uso a Ultralytics desde o dia em que foi lançada. Gosto mesmo da Ultralytics — já usava o YOLOv5 antes disso e sou um verdadeiro entusiasta deste pacote."
Em seguida, apresentou o conceito de IA de edge, explicando que envolve executar cálculos de IA diretamente em dispositivos como câmaras, drones ou máquinas industriais, em vez de enviar os dados para servidores cloud distantes para processamento.
Em vez de esperar que as imagens ou os vídeos sejam carregados, analisados e depois devolvidos com os resultados, a IA de edge permite analisar os dados instantaneamente no próprio dispositivo. Isto torna os sistemas de IA de visão mais rápidos e eficientes, além de menos dependentes da conectividade à Internet. A IA de edge é particularmente útil em aplicações de tomada de decisões em tempo real, como carros autónomos, câmaras de segurança e fábricas inteligentes.
Principais benefícios da IA de edge#
Depois de apresentar a IA de edge, Guy Dahan destacou as suas principais vantagens, com foco na eficiência, na redução de custos e na segurança dos dados. Explicou que um dos maiores benefícios é a baixa latência — como os modelos de IA processam os dados diretamente no dispositivo, não é necessário enviar informações para a cloud e esperar por uma resposta.
A IA de edge também ajuda a reduzir custos e a proteger dados sensíveis. Enviar grandes quantidades de dados para a cloud, especialmente streams de vídeo, pode ser dispendioso. No entanto, processá-los localmente reduz os custos de largura de banda e armazenamento.
Outra vantagem importante é a privacidade dos dados, uma vez que as informações permanecem no dispositivo em vez de serem transferidas para um servidor externo. Isto é particularmente importante em aplicações de saúde, finanças e segurança, nas quais manter os dados localmente e em segurança é uma prioridade máxima.
Fig. 1. Guy Dahan a apresentar remotamente no YV24 sobre os benefícios da IA de edge.
Com base nestes benefícios, Guy Dahan comentou a crescente adoção da IA de edge. Observou que, desde que a NVIDIA introduziu o Jetson em 2014, a utilização aumentou dez vezes. Atualmente, mais de 1,2 milhões de programadores trabalham com dispositivos Jetson.
Uma visão geral do NVIDIA Jetson: um dispositivo de IA de edge#
Guy Dahan centrou-se depois nos dispositivos NVIDIA Jetson, uma família de dispositivos de computação de IA de edge concebidos para oferecer um elevado desempenho com baixo consumo de energia. Os dispositivos Jetson são ideais para aplicações de visão computacional em setores como robótica, agricultura, saúde e automação industrial. "Os Jetson são dispositivos de IA de edge especificamente concebidos para IA. Poderia até acrescentar que, originalmente, foram concebidos sobretudo para visão computacional", acrescentou Guy Dahan.
Os dispositivos Jetson estão disponíveis em três níveis, cada um adequado a diferentes necessidades:
- Nível de entrada: Estes dispositivos oferecem 20–40 biliões de operações por segundo (TOPS) de desempenho de IA com um consumo de energia de 10–15 W, sendo uma opção económica para aplicações de edge.
- Gama principal: Equilibra desempenho e eficiência, oferecendo 70–200 TOPS com um consumo de energia de 20–40 W, adequado para cargas de trabalho de IA de gama média.
- Alto desempenho: Oferece até 275 TOPS com um consumo de energia de 60–75 W, sendo concebido para aplicações de IA exigentes, como robótica e automação.
Além disso, Guy Dahan falou do próximo Jetson AGX Thor, com lançamento previsto para este ano, e afirmou que este oferecerá oito vezes mais desempenho da GPU (unidade de processamento gráfico), o dobro da capacidade de memória e um desempenho melhorado da CPU (unidade central de processamento). Foi especificamente concebido para robótica humanoide e aplicações avançadas de IA de edge.
Desafios relacionados com a implementação de modelos de visão computacional#
Guy Dahan passou depois a abordar o lado do software da IA de edge e explicou que, mesmo com hardware potente, implementar modelos de forma eficiente pode ser um desafio.
Um dos maiores obstáculos é a compatibilidade, uma vez que os programadores de IA trabalham frequentemente com diferentes frameworks de IA, como PyTorch e TensorFlow. Alternar entre estes frameworks pode ser difícil, exigindo que os programadores recriem ambientes para garantir que tudo funciona corretamente.
A escalabilidade é outro desafio importante. Os modelos de IA exigem um poder computacional significativo e, como afirmou Dahan, "Nunca existiu uma empresa de IA que quisesse menos capacidade computacional." Expandir aplicações de IA para vários dispositivos pode tornar-se rapidamente dispendioso, o que torna a otimização essencial.
Além disso, os pipelines de IA são complexos, envolvendo frequentemente diferentes tipos de dados, processamento em tempo real e integração de sistemas. Os programadores investem muito esforço para garantir que os seus modelos interagem de forma perfeita com os ecossistemas de software existentes. Superar estes desafios é uma parte crucial para tornar as implementações de IA mais eficientes e escaláveis.
Fig. 2. Desafios na implementação de modelos.
Simplificar a implementação com o NVIDIA Triton Inference Server#
Em seguida, Guy Dahan direcionou a atenção para o Triton Inference Server da NVIDIA. Observou que muitas empresas e startups começam a desenvolver IA sem otimizar completamente os seus modelos. Redesenhar todo um pipeline de IA de raiz pode ser disruptivo e demorado, dificultando uma escalabilidade eficiente.
Em vez de exigir uma reformulação completa do sistema, o Triton permite que os programadores aperfeiçoem e otimizem gradualmente os seus fluxos de trabalho de IA, integrando componentes mais eficientes sem interromper a configuração existente. Com suporte para vários frameworks de IA, incluindo TensorFlow, PyTorch, ONNX e TensorRT, o Triton permite uma implementação perfeita em ambientes cloud, centros de dados e dispositivos de edge, com ajustes mínimos.
Fig. 3. Uma visão geral do Triton Inference Server da NVIDIA.
Eis algumas das principais vantagens do Triton Inference Server da NVIDIA:
- Batching automático: O Triton agrupa vários pedidos de IA antes de os processar, reduzindo os atrasos (latência) e melhorando a velocidade de inferência (o tempo necessário para um modelo de IA gerar resultados).
- Integração com Kubernetes: O Triton é nativo da cloud, o que significa que funciona perfeitamente com o Kubernetes (um sistema que ajuda a gerir e escalar aplicações de IA em vários computadores ou servidores cloud).
- Código aberto e personalizável: Os programadores podem modificar o Triton para satisfazer as suas necessidades específicas, garantindo flexibilidade para uma vasta gama de aplicações de IA.
Maximizar o desempenho da IA com o NVIDIA TensorRT#
Suponhamos que procuras ainda mais aceleração; o NVIDIA TensorRT é uma opção interessante para otimizar os teus modelos de IA. Guy Dahan explicou que o TensorRT é um otimizador de deep learning de alto desempenho criado para GPUs NVIDIA. Os modelos do TensorFlow, PyTorch, ONNX e MXNet podem ser convertidos em ficheiros altamente eficientes e executáveis na GPU através do TensorRT.
O que torna o TensorRT tão fiável são as suas otimizações específicas para o hardware. Um modelo otimizado para dispositivos Jetson não terá um desempenho tão eficiente noutras GPUs, porque o TensorRT ajusta o desempenho ao hardware de destino. Um modelo de visão computacional otimizado pode resultar num aumento da velocidade de inferência de até 36 vezes em comparação com modelos não otimizados.
Guy Dahan também chamou a atenção para o suporte da Ultralytics ao TensorRT, explicando como este torna a implementação de modelos de IA mais rápida e eficiente. Os modelos YOLO da Ultralytics podem ser diretamente exportados para o formato TensorRT, permitindo aos programadores otimizá-los para GPUs NVIDIA sem precisarem de efetuar alterações.
DeepStream 7.0: um toolkit de análise de streams#
A concluir a apresentação em grande estilo, Guy Dahan apresentou o DeepStream 7.0 — um framework de IA concebido para o processamento em tempo real de vídeo, áudio e dados de sensores utilizando GPUs NVIDIA. Criado para suportar aplicações de visão computacional de alta velocidade, permite a deteção, o rastreamento e a análise de objetos em sistemas autónomos, segurança, automação industrial e cidades inteligentes. Ao executar a IA diretamente em dispositivos de edge, o DeepStream elimina a dependência da cloud, reduzindo a latência e melhorando a eficiência.
Fig. 4. A explorar o DeepStream 7.0 no YV24 com Guy Dahan.
Especificamente, o DeepStream consegue processar vídeo com IA do início ao fim. Suporta fluxos de trabalho completos, desde a descodificação e o pré-processamento de vídeo até à inferência de IA e ao pós-processamento.
Recentemente, o DeepStream introduziu várias atualizações para melhorar a implementação de IA, tornando-a mais acessível e escalável. As novas ferramentas simplificam o desenvolvimento, melhoram o rastreamento com várias câmaras e otimizam os pipelines de IA para um melhor desempenho.
Os programadores dispõem agora de suporte alargado para ambientes Windows, capacidades melhoradas de fusão de sensores para integrar dados de várias fontes e acesso a aplicações de referência pré-construídas para acelerar a implementação. Estas melhorias tornam o DeepStream uma solução mais flexível e eficiente para aplicações de IA em tempo real, ajudando os programadores a escalar facilmente a análise inteligente de vídeo.
Principais conclusões#
Como ilustrado na apresentação principal de Guy Dahan no YV24, a IA de edge está a redefinir as aplicações de visão computacional. Com os avanços no hardware e no software, o processamento em tempo real está a tornar-se mais rápido, eficiente e económico.
À medida que mais setores adotam a IA de edge, resolver desafios como a fragmentação e a complexidade da implementação será essencial para desbloquear todo o seu potencial. Adotar estas inovações impulsionará aplicações de IA mais inteligentes e responsivas, moldando o futuro da visão computacional.
Faz parte da nossa comunidade em crescimento! Explora o nosso repositório no GitHub para saberes mais sobre IA e consulta as nossas opções de licenciamento para começares os teus projetos de IA de visão. Tens curiosidade sobre inovações como a IA na saúde e a visão computacional na indústria transformadora? Visita as nossas páginas de soluções para saberes mais!
