As inferências em tempo real em soluções de IA visual estão a causar impacto

Todos já passámos pela frustração que uma ligação à Internet lenta pode causar. No entanto, imagina esse atraso numa situação crítica, como um carro autónomo a reagir a um obstáculo ou um médico a analisar um exame médico importante. Alguns segundos a mais podem ter consequências graves.

É aqui que a inferência de IA em tempo real pode fazer a diferença. O processamento rápido e as previsões em tempo real permitem que as soluções de visão por computador processem e reajam instantaneamente aos dados visuais. Estas decisões tomadas em frações de segundo podem aumentar a segurança e a eficiência, além de trazer mais conveniência ao dia a dia.

Por exemplo, imagina um cirurgião a realizar um procedimento delicado com a ajuda de um assistente robótico. Cada movimento é controlado através de uma ligação de alta velocidade, e o sistema de visão do robô processa o campo cirúrgico em tempo real, fornecendo ao cirurgião feedback visual instantâneo. Até o menor atraso neste ciclo de feedback pode levar a erros graves e pôr o paciente em risco. Este é um exemplo perfeito de por que razão as inferências em tempo real são cruciais: não há margem para atrasos.

As inferências de IA em aplicações do mundo real dependem de três conceitos fundamentais: motores de inferência (software ou hardware que executa modelos de IA de forma eficiente), latência de inferência (o atraso entre a entrada e a saída) e inferência em tempo real (a capacidade do sistema de IA de processar e reagir com um atraso mínimo).

Neste artigo, vamos explorar estes conceitos fundamentais e a forma como modelos de visão por computador, como o Ultralytics YOLO11, permitem aplicações que dependem de previsões instantâneas.

O que é uma inferência de IA?#

Executar uma inferência é o processo de analisar novos dados com um modelo de IA treinado para fazer uma previsão ou resolver uma tarefa. Ao contrário do treino, que consiste em ensinar um modelo através do processamento de grandes quantidades de dados rotulados, a inferência centra-se na produção de resultados rápidos e precisos com um modelo já treinado.

Fig. 1. Compreender o que são inferências.

Por exemplo, na conservação da vida selvagem, câmaras com IA utilizam modelos de visão por computador para identificar e classificar animais em tempo real. Quando uma câmara deteta movimento, o modelo de IA reconhece instantaneamente se se trata de um veado, de um predador ou até de um caçador furtivo, ajudando os investigadores a acompanhar populações de animais e a proteger espécies ameaçadas sem intervenção humana. Esta identificação rápida torna viáveis a monitorização em tempo real e respostas mais rápidas a potenciais ameaças.

Compreender os motores de inferência#

Um modelo de aprendizagem automática treinado nem sempre está pronto para ser implementado no seu formato original. Um motor de inferência é uma ferramenta especializada de software ou hardware, concebida para executar modelos de aprendizagem automática de forma eficiente e otimizá-los para implementação no mundo real. Utiliza técnicas de otimização, como compressão de modelos, quantização e transformações de grafos, para melhorar o desempenho e reduzir o consumo de recursos, permitindo implementar o modelo em vários ambientes.

No essencial, um motor de inferência procura reduzir a sobrecarga computacional, minimizar a latência e melhorar a eficiência para permitir previsões rápidas e precisas. Depois de otimizado, o motor executa o modelo com novos dados, permitindo-lhe gerar inferências em tempo real de forma eficiente. Esta otimização garante que os modelos de IA funcionam sem problemas tanto em servidores na nuvem de elevado desempenho como em dispositivos periféricos com recursos limitados, como smartphones, dispositivos IoT e sistemas incorporados.

Problemas causados pela latência de inferência#

A latência de inferência é o atraso entre o momento em que um sistema de IA recebe dados de entrada (como uma imagem de uma câmara) e o momento em que produz um resultado (como detetar objetos na imagem). Mesmo um pequeno atraso pode afetar significativamente o desempenho e a usabilidade das aplicações de IA em tempo real.

A latência de inferência ocorre em três etapas principais:

• Tempo de pré-processamento: O tempo necessário para preparar os dados de entrada antes de os fornecer ao modelo. Isto inclui redimensionar imagens para corresponder às dimensões de entrada do modelo, normalizar os valores dos píxeis para melhorar a precisão e converter formatos (por exemplo, RGB para escala de cinzentos ou vídeo para sequências de fotogramas).
• Tempo de computação: O tempo efetivo que o modelo demora a executar a inferência. Isto envolve operações como cálculos por camada em redes profundas, multiplicações de matrizes, convoluções e transferência de dados entre a memória e as unidades de processamento.
• Tempo de pós-processamento: o tempo necessário para converter as saídas brutas do modelo em resultados significativos. Isso pode incluir desenhar caixas delimitadoras na detecção de objetos, filtrar falsos positivos no reconhecimento de imagens ou aplicar limites na detecção de anomalias. Alguns detectores, como o Ultralytics YOLO26, eliminam a etapa de supressão não máxima (NMS) para encurtar essa fase.

A latência de inferência é fundamental em aplicações em tempo real. Por exemplo, na deteção automatizada de defeitos numa linha de montagem, a visão por computador pode ser utilizada para inspecionar produtos à medida que avançam na correia transportadora.

O sistema tem de identificar e assinalar rapidamente os defeitos antes de os produtos passarem à etapa seguinte. Se o modelo demorar demasiado a processar as imagens, os artigos defeituosos podem não ser detetados a tempo, levando ao desperdício de materiais, a retrabalho dispendioso ou à chegada de produtos defeituosos aos clientes. Ao reduzir a latência, os fabricantes podem melhorar o controlo da qualidade, aumentar a eficiência e reduzir as perdas.

Como reduzir a latência de inferência#

Manter a latência de inferência no mínimo é essencial em muitas aplicações de visão por computador. É possível recorrer a várias técnicas para o conseguir. Vamos abordar algumas das técnicas mais comuns para reduzir a latência de inferência.

Poda de modelos#

A poda de modelos simplifica uma rede neural ao remover ligações (pesos) desnecessárias, tornando-a mais pequena e rápida. Este processo reduz a carga computacional do modelo e melhora a velocidade sem afetar demasiado a precisão.

Ao manter apenas as ligações mais importantes, a poda garante uma inferência eficiente e um melhor desempenho, sobretudo em dispositivos com capacidade de processamento limitada. É amplamente utilizada em aplicações em tempo real, como IA móvel, robótica e computação periférica, para aumentar a eficiência e manter a fiabilidade.

Fig. 2. Eliminar ligações menos eficazes através da poda de modelos.

Quantização de modelos#

A quantização de modelos é uma técnica que permite aos modelos de IA funcionar mais rapidamente e utilizar menos memória, simplificando os números que utilizam nos cálculos. Normalmente, estes modelos trabalham com números de vírgula flutuante de 32 bits, que são muito precisos, mas exigem bastante capacidade de processamento. A quantização reduz estes números a inteiros de 8 bits, que são mais fáceis de processar e ocupam menos espaço.

Fig. 3. Utilizar a quantização de modelos para converter valores de vírgula flutuante em representações inteiras.

Utilizar modelos eficientes#

A conceção de um modelo de IA tem um grande impacto na rapidez com que consegue fazer previsões. Modelos como o Ultralytics YOLO11, concebidos para uma inferência eficiente, são ideais para aplicações em que a velocidade de processamento é fundamental.

Ao criares uma solução de IA, é importante escolher o modelo certo com base nos recursos disponíveis e nos requisitos de desempenho. Se começares com um modelo demasiado pesado, é mais provável que tenhas problemas como tempos de processamento lentos, maior consumo de energia e dificuldade de implementação em dispositivos com recursos limitados. Um modelo leve garante um desempenho fluido, sobretudo em aplicações em tempo real e periféricas.

Velocidade vs. precisão: otimizar inferências em tempo real#

Embora existam várias técnicas para reduzir a latência, um aspeto fundamental das inferências em tempo real é equilibrar velocidade e precisão. Não basta tornar os modelos mais rápidos: é preciso otimizar a velocidade de inferência sem comprometer a precisão. Um sistema que produz previsões rápidas, mas incorretas, é ineficaz. Por isso, é essencial realizar testes rigorosos para garantir que os modelos funcionam bem em situações reais. Um sistema que parece rápido durante os testes, mas falha em condições reais, não está verdadeiramente otimizado.

Aplicações de IA visual que aproveitam inferências em tempo real#

A seguir, vamos conhecer algumas aplicações do mundo real em que a inferência em tempo real está transformando setores ao permitir respostas instantâneas a entradas visuais.

Sistemas de autoatendimento em lojas de varejo#

Modelos de visão computacional como o Ultralytics YOLO11 podem ajudar a aprimorar os sistemas de autoatendimento, tornando o reconhecimento de itens mais rápido e preciso. O suporte do YOLO11 a várias tarefas de visão computacional, como detecção de objetos e segmentação de instâncias, permite identificar produtos mesmo quando os códigos de barras estão ausentes ou danificados. A IA visual pode reduzir a necessidade de entrada manual e acelerar o processo de compra.

Além da identificação de produtos, a visão computacional também pode ser integrada aos sistemas de autoatendimento para verificar preços, evitar fraudes e tornar a experiência mais conveniente para os clientes. Câmeras com IA podem distinguir automaticamente produtos semelhantes e detectar comportamentos suspeitos no caixa. Isso inclui identificar casos de "não leitura", em que um cliente ou operador deixa passar um item sem querer, e tentativas de fraude mais deliberadas, como a "troca de produto", em que um código de barras mais barato é colocado sobre um item mais caro.

Fig. 4. A IA pode aprimorar os caixas de autoatendimento.

Um ótimo exemplo disso é a Kroger, uma grande rede varejista dos EUA que integrou visão computacional e IA aos seus sistemas de autoatendimento. Com a análise de vídeo em tempo real, a Kroger conseguiu corrigir automaticamente mais de 75% dos erros no caixa, melhorando tanto a experiência do cliente quanto as operações das lojas.

Inspeção de qualidade com visão computacional#

A inspeção manual de produtos para controle de qualidade pode ser demorada e nem sempre precisa. Por isso, cada vez mais fabricantes estão adotando fluxos de trabalho de inspeção visual que usam visão computacional para detectar defeitos mais cedo no processo de produção.

Câmeras de alta resolução e IA visual podem detectar pequenas falhas que talvez passem despercebidas pelas pessoas, e modelos como o Ultralytics YOLO11 podem ajudar nas verificações de qualidade em tempo real, na triagem e na contagem, garantindo que apenas produtos perfeitos cheguem aos clientes. Automatizar esse processo economiza tempo, reduz custos e diminui o desperdício, tornando a produção mais simples e eficiente.

Fig. 5. Exemplo do uso do Ultralytics YOLO11 para contar produtos em uma linha de montagem.

Principais conclusões#

A inferência em tempo real ajuda os modelos de IA a tomar decisões instantâneas, algo crucial em muitos setores. Seja um carro autônomo evitando um acidente, um médico analisando rapidamente exames médicos ou uma fábrica detectando defeitos em produtos, respostas rápidas e precisas da IA fazem uma grande diferença.

Ao aprimorar a velocidade e a eficiência dos modelos de IA, podemos criar sistemas mais inteligentes e confiáveis, que funcionam de maneira consistente em situações do mundo real. Com o avanço da tecnologia, as soluções de IA em tempo real continuarão moldando o futuro, tornando os processos cotidianos mais rápidos, seguros e eficientes.

Para saber mais, visite nosso repositório no GitHub e participe da nossa comunidade. Explore inovações em setores como IA em carros autônomos e visão computacional na agricultura em nossas páginas de soluções. Confira nossas opções de licenciamento e dê vida aos seus projetos de IA visual.