As inferências em tempo real em soluções de IA de visão estão a causar impacto

Todos já tivemos de lidar, em algum momento, com as frustrações causadas por uma ligação à Internet lenta. No entanto, imagina esse atraso numa situação de alto risco, como um carro autónomo a reagir a um obstáculo ou um médico a analisar um exame crítico. Alguns segundos adicionais podem ter consequências graves.

É aqui que a inferência de IA em tempo real pode fazer a diferença. O processamento rápido e as previsões em tempo real permitem que as soluções de visão computacional processem e reajam instantaneamente aos dados visuais. Estas decisões tomadas em frações de segundo podem aumentar a segurança, a eficiência e a conveniência no dia a dia.

Por exemplo, considera um cirurgião a realizar um procedimento delicado com a ajuda de um assistente robótico. Cada movimento é controlado através de uma ligação de alta velocidade, e o sistema de visão do robô processa o campo cirúrgico em tempo real, fornecendo ao cirurgião feedback visual instantâneo. Até o menor atraso neste ciclo de feedback pode causar erros graves e colocar o paciente em risco. Este é um exemplo perfeito de por que motivo as inferências em tempo real são cruciais: não há margem para latência.

As inferências de IA em aplicações do mundo real dependem de três conceitos fundamentais: motores de inferência (o software ou hardware que executa modelos de IA de forma eficiente), latência de inferência (o atraso entre a entrada e a saída) e inferência em tempo real (a capacidade do sistema de IA de processar e reagir com um atraso mínimo).

Neste artigo, vamos explorar estes conceitos fundamentais e perceber como modelos de visão computacional, como o Ultralytics YOLO11, permitem aplicações que dependem de previsões instantâneas.

O que é uma inferência de IA?#

Executar uma inferência é o processo de analisar novos dados utilizando um modelo de IA treinado para fazer uma previsão ou resolver uma tarefa. Ao contrário do treino, que envolve ensinar um modelo através do processamento de grandes quantidades de dados anotados, a inferência centra-se na produção de resultados de forma rápida e precisa utilizando um modelo já treinado.

Fig. 1 Compreender o que são as inferências.

Por exemplo, na conservação da vida selvagem, as câmaras de IA utilizam modelos de visão computacional para identificar e classificar animais em tempo real. Quando uma câmara deteta movimento, o modelo de IA reconhece instantaneamente se se trata de um veado, de um predador ou até de um caçador furtivo, ajudando os investigadores a acompanhar as populações animais e a proteger espécies ameaçadas sem intervenção humana. Esta identificação rápida torna viáveis a monitorização em tempo real e respostas mais rápidas a potenciais ameaças.

Compreender os motores de inferência#

Um modelo de aprendizagem automática treinado nem sempre está pronto para ser implementado na sua forma original. Um motor de inferência é uma ferramenta de software ou hardware especializada, concebida para executar modelos de aprendizagem automática de forma eficiente e otimizá-los para implementação no mundo real. Utiliza técnicas de otimização, como compressão de modelos, quantização e transformações de grafos, para melhorar o desempenho e reduzir o consumo de recursos, tornando o modelo implementável em vários ambientes.

No seu núcleo, um motor de inferência concentra-se em reduzir a sobrecarga computacional, minimizar a latência e melhorar a eficiência para permitir previsões rápidas e precisas. Depois de otimizado, o motor executa o modelo em novos dados, permitindo-lhe gerar inferências em tempo real de forma eficiente. Esta otimização garante que os modelos de IA funcionem sem problemas tanto em servidores cloud de alto desempenho como em dispositivos edge com recursos limitados, como smartphones, dispositivos IoT e sistemas embebidos.

Problemas causados pela latência de inferência#

A latência de inferência é o atraso entre o momento em que um sistema de IA recebe dados de entrada (como uma imagem de uma câmara) e o momento em que produz uma saída (como a deteção de objetos na imagem). Mesmo um pequeno atraso pode afetar significativamente o desempenho e a facilidade de utilização das aplicações de IA em tempo real.

A latência de inferência ocorre em três etapas fundamentais:

• Tempo de pré-processamento: o tempo necessário para preparar os dados de entrada antes de estes serem enviados para o modelo. Isto inclui redimensionar imagens para corresponder às dimensões de entrada do modelo, normalizar os valores dos píxeis para obter maior precisão e converter formatos (por exemplo, de RGB para escala de cinzentos ou de vídeo para sequências de frames).
• Tempo de computação: o tempo efetivo que o modelo demora a executar a inferência. Isto envolve operações como cálculos camada a camada em redes profundas, multiplicações de matrizes, convoluções e transferência de dados entre a memória e as unidades de processamento.
• Tempo de pós-processamento: o tempo necessário para converter as saídas brutas do modelo em resultados significativos. Isto pode incluir desenhar caixas delimitadoras na deteção de objetos, filtrar falsos positivos no reconhecimento de imagens ou aplicar limiares na deteção de anomalias.

A latência de inferência é crítica nas aplicações em tempo real. Por exemplo, na deteção automatizada de defeitos numa linha de montagem, a visão computacional pode ser utilizada para inspecionar produtos à medida que avançam no tapete transportador.

O sistema tem de identificar e assinalar rapidamente os defeitos antes de os produtos avançarem para a etapa seguinte. Se o modelo demorar demasiado tempo a processar as imagens, os artigos defeituosos podem não ser detetados a tempo, o que pode resultar em desperdício de materiais, retrabalho dispendioso ou produtos com defeito a chegarem aos clientes. Ao reduzir a latência, os fabricantes podem melhorar o controlo de qualidade, aumentar a eficiência e reduzir as perdas.

Como reduzir a latência de inferência#

Manter a latência de inferência num nível mínimo é essencial em muitas aplicações de visão computacional. Existem várias técnicas que podem ser utilizadas para o conseguir. Vamos abordar algumas das técnicas mais comuns para reduzir a latência de inferência.

Poda de modelos#

A poda de modelos simplifica uma rede neuronal ao remover ligações desnecessárias (pesos), tornando-a mais pequena e rápida. Este processo reduz a carga computacional do modelo, melhorando a velocidade sem afetar demasiado a precisão.

Ao manter apenas as ligações mais importantes, a poda garante uma inferência eficiente e um melhor desempenho, especialmente em dispositivos com capacidade de processamento limitada. É amplamente utilizada em aplicações em tempo real, como IA móvel, robótica e computação edge, para aumentar a eficiência mantendo a fiabilidade.

Fig. 2 Eliminar ligações menos eficazes através da poda de modelos.

Quantização de modelos#

A quantização de modelos é uma técnica que faz com que os modelos de IA funcionem mais rapidamente e utilizem menos memória, simplificando os números usados nos cálculos. Normalmente, estes modelos trabalham com números de vírgula flutuante de 32 bits, que são muito precisos, mas exigem bastante capacidade de processamento. A quantização reduz estes números a inteiros de 8 bits, que são mais fáceis de processar e ocupam menos espaço.

Fig. 3 Utilizar a quantização de modelos para converter valores de vírgula flutuante em representações inteiras.

Utilizar modelos eficientes#

A conceção de um modelo de IA tem um grande impacto na rapidez com que este consegue fazer previsões. Modelos como o Ultralytics YOLO11, concebidos para uma inferência eficiente, são ideais para aplicações em que a velocidade de processamento é crítica.

Quando estás a criar uma solução de IA, é importante escolher o modelo adequado com base nos recursos disponíveis e nas necessidades de desempenho. Se começares com um modelo demasiado pesado, é mais provável que tenhas problemas como tempos de processamento lentos, maior consumo de energia e dificuldade em implementar o modelo em dispositivos com recursos limitados. Um modelo leve garante um desempenho fluido, especialmente em aplicações em tempo real e edge.

Velocidade vs. precisão: otimizar inferências em tempo real#

Embora existam várias técnicas para reduzir a latência, uma parte fundamental das inferências em tempo real consiste em equilibrar a velocidade e a precisão. Tornar os modelos mais rápidos não é suficiente: a velocidade de inferência tem de ser otimizada sem comprometer a precisão. Um sistema que produz previsões rápidas, mas incorretas, é ineficaz. É por isso que é essencial realizar testes exaustivos para garantir que os modelos funcionam bem em situações do mundo real. Um sistema que parece rápido durante os testes, mas falha em condições reais, não está verdadeiramente otimizado.

Aplicações de IA para visão que utilizam inferências em tempo real#

De seguida, vamos analisar algumas aplicações do mundo real em que a inferência em tempo real está a transformar vários setores ao permitir respostas instantâneas a entradas visuais.

Sistemas de self-checkout em lojas de retalho#

Modelos de visão computacional como o Ultralytics YOLO11 podem ajudar a melhorar os sistemas de self-checkout, tornando o reconhecimento de artigos mais rápido e preciso. O suporte do YOLO11 para várias tarefas de visão computacional, como a deteção de objetos e a segmentação de instâncias, permite identificar produtos mesmo quando os códigos de barras estão em falta ou danificados. A IA para visão pode reduzir a necessidade de introdução manual e acelerar o processo de pagamento.

Para além da identificação de produtos, a visão computacional também pode ser integrada em sistemas de self-checkout para verificar preços, prevenir fraudes e melhorar a conveniência dos clientes. As câmaras com IA podem distinguir automaticamente entre produtos semelhantes e detetar comportamentos suspeitos no checkout. Isto inclui identificar "não digitalizações", quando um cliente ou funcionário não digitaliza involuntariamente um artigo, e tentativas de fraude mais deliberadas, como a "troca de produto", em que um código de barras mais barato é colocado sobre um artigo mais caro.

Fig. 4 A IA pode melhorar os balcões de self-checkout.

Um excelente exemplo disso é a Kroger, uma grande retalhista dos EUA que integrou visão computacional e IA nos seus sistemas de self-checkout. Através da análise de vídeo em tempo real, a Kroger conseguiu corrigir automaticamente mais de 75% dos erros de checkout, melhorando tanto a experiência dos clientes como as operações das lojas.

Inspeção de qualidade com visão computacional#

Inspecionar produtos manualmente para efeitos de controlo de qualidade pode ser lento e nem sempre é preciso. É por isso que cada vez mais fabricantes estão a adotar fluxos de trabalho de inspeção visual que utilizam visão computacional para detetar defeitos mais cedo no processo de produção.

As câmaras de alta resolução e a IA para visão conseguem detetar pequenas falhas que os humanos podem não notar, e modelos como o Ultralytics YOLO11 podem ajudar nas verificações de qualidade, triagem e contagem em tempo real, garantindo que apenas produtos perfeitos chegam aos clientes. Automatizar este processo poupa tempo, reduz custos e diminui o desperdício, tornando a produção mais fluida e eficiente.

Fig. 5 Um exemplo da utilização do Ultralytics YOLO11 para contar produtos numa linha de montagem.

Principais conclusões#

A inferência em tempo real ajuda os modelos de IA a tomar decisões instantâneas, o que é crucial em muitos setores. Quer se trate de um carro autónomo a evitar um acidente, de um médico a analisar rapidamente exames médicos ou de uma fábrica a detetar defeitos em produtos, respostas de IA rápidas e precisas fazem uma grande diferença.

Ao melhorar a velocidade e a eficiência dos modelos de IA, podemos criar sistemas mais inteligentes e fiáveis, que funcionam de forma integrada em situações do mundo real. À medida que a tecnologia avança, as soluções de IA em tempo real continuarão a moldar o futuro, tornando os processos quotidianos mais rápidos, seguros e eficientes.

Para saberes mais, visita o nosso repositório no GitHub e participa na nossa comunidade. Explora inovações em setores como IA em carros autónomos e visão computacional na agricultura nas nossas páginas de soluções. Consulta as nossas opções de licenciamento e dá vida aos teus projetos de IA para visão.