As inferências em tempo real em soluções de visão AI estão causando um impacto

Todos nós já lidamos, em algum momento, com as frustrações que uma conexão lenta com a internet pode causar. No entanto, imagine esse atraso em uma situação de alto risco, como um carro autônomo reagindo a um obstáculo ou um médico analisando um exame crítico. Alguns segundos extras podem ter consequências graves.

É aqui que a inferência de IA em tempo real pode fazer a diferença. O processamento rápido e as previsões em tempo real permitem que soluções de visão computacional processem e reajam a dados visuais instantaneamente. Essas decisões em frações de segundo podem aumentar a segurança, a eficiência e a conveniência do dia a dia.

Por exemplo, considere um cirurgião realizando um procedimento delicado usando um robô assistente. Cada movimento é controlado por uma conexão de alta velocidade, e o sistema de visão do robô processa o campo cirúrgico em tempo real, fornecendo ao cirurgião um feedback visual instantâneo. Até mesmo o menor atraso nesse ciclo de feedback pode levar a erros graves, colocando o paciente em risco. Este é um exemplo perfeito de por que as inferências em tempo real são cruciais; não há espaço para atrasos.

As inferências de IA em aplicações do mundo real dependem de três conceitos fundamentais: motores de inferência (o software ou hardware que executa modelos de IA de forma eficiente), latência de inferência (o atraso entre a entrada e a saída) e inferência em tempo real (a capacidade do sistema de IA de processar e reagir com o mínimo de atraso).

Neste artigo, exploraremos esses conceitos principais e como modelos de visão computacional, como o Ultralytics YOLO11, permitem aplicações que dependem de previsões instantâneas.

Link to this sectionO que é uma inferência de IA?#

Executar uma inferência é o processo de analisar novos dados usando um modelo de IA treinado para fazer uma previsão ou resolver uma tarefa. Diferente do treinamento, que envolve ensinar um modelo processando grandes quantidades de dados rotulados, a inferência foca em produzir resultados de forma rápida e precisa usando um modelo já treinado.

Fig 1. Entendendo o que são inferências.

Por exemplo, na conservação da vida selvagem, armadilhas fotográficas com IA usam modelos de visão computacional para identificar e classificar animais em tempo real. Quando uma câmera detecta movimento, o modelo de IA reconhece instantaneamente se é um cervo, um predador ou até mesmo um caçador, ajudando pesquisadores a rastrear populações animais e proteger espécies ameaçadas sem intervenção humana. Essa identificação rápida torna viável o monitoramento em tempo real e respostas mais velozes a possíveis ameaças.

Link to this sectionEntendendo os motores de inferência#

Um modelo de aprendizado de máquina treinado nem sempre está pronto para ser implantado em sua forma bruta. Um motor de inferência é uma ferramenta especializada de software ou hardware projetada para executar modelos de aprendizado de máquina com eficiência e otimizá-los para implantação no mundo real. Ele utiliza técnicas de otimização, como compressão de modelo, quantização e transformações de grafo, para melhorar o desempenho e reduzir o consumo de recursos, tornando o modelo implantável em diversos ambientes.

Em sua essência, um motor de inferência foca em reduzir a sobrecarga computacional, minimizar a latência e melhorar a eficiência para permitir previsões rápidas e precisas. Uma vez otimizado, o motor executa o modelo em novos dados, permitindo que ele gere inferências em tempo real de forma eficiente. Essa otimização garante que modelos de IA possam rodar suavemente tanto em servidores de nuvem de alto desempenho quanto em dispositivos de borda com recursos limitados, como smartphones, dispositivos IoT e sistemas embarcados.

Link to this sectionProblemas causados pela latência de inferência#

A latência de inferência é o atraso entre o momento em que um sistema de IA recebe os dados de entrada (como uma imagem de uma câmera) e o momento em que ele produz uma saída (como detectar objetos na imagem). Mesmo um pequeno atraso pode impactar significativamente o desempenho e a usabilidade de aplicações de IA em tempo real.

A latência de inferência ocorre em três estágios principais:

• Tempo de pré-processamento: O tempo necessário para preparar os dados de entrada antes que sejam inseridos no modelo. Isso inclui redimensionar imagens para corresponder às dimensões de entrada do modelo, normalizar valores de pixels para maior precisão e converter formatos (por exemplo, RGB para escala de cinza ou vídeo para sequências de quadros).
• Tempo de computação: O tempo real que o modelo leva para realizar a inferência. Isso envolve operações como cálculos camada por camada em redes profundas, multiplicações de matrizes, convoluções e transferência de dados entre a memória e as unidades de processamento.
• Tempo de pós-processamento: O tempo necessário para converter as saídas brutas do modelo em resultados significativos. Isso pode incluir desenhar caixas delimitadoras em detecção de objetos, filtrar falsos positivos em reconhecimento de imagem ou aplicar limiares em detecção de anomalias.

A latência de inferência é crítica em aplicações de tempo real. Por exemplo, na detecção automatizada de defeitos em uma linha de montagem, a visão computacional pode ser usada para inspecionar produtos à medida que eles se movem pela esteira.

O sistema deve identificar e sinalizar rapidamente os defeitos antes que os produtos passem para o próximo estágio. Se o modelo demorar muito para processar as imagens, itens com defeito podem não ser detectados a tempo, levando ao desperdício de materiais, retrabalho dispendioso ou produtos defeituosos chegando aos clientes. Ao reduzir a latência, os fabricantes podem melhorar o controle de qualidade, aumentar a eficiência e reduzir prejuízos.

Link to this sectionComo reduzir a latência de inferência#

Manter a latência de inferência mínima é essencial em muitas aplicações de visão computacional. Várias técnicas podem ser usadas para alcançar isso. Vamos discutir algumas das técnicas mais comuns usadas para reduzir a latência de inferência.

Link to this sectionPoda de modelo (Model pruning)#

A poda de modelo simplifica uma rede neural removendo conexões desnecessárias (pesos), tornando-a menor e mais rápida. Esse processo reduz a carga computacional do modelo, melhorando a velocidade sem afetar muito a precisão.

Ao manter apenas as conexões mais importantes, a poda garante uma inferência eficiente e melhor desempenho, especialmente em dispositivos com poder de processamento limitado. Ela é amplamente usada em aplicações de tempo real, como IA móvel, robótica e computação de borda, para aumentar a eficiência enquanto mantém a confiabilidade.

Fig 2. Eliminando conexões menos eficazes usando poda de modelo.

Link to this sectionQuantização de modelo#

A quantização de modelo é uma técnica que faz com que modelos de IA rodem mais rápido e usem menos memória ao simplificar os números que eles usam para os cálculos. Normalmente, esses modelos trabalham com números de ponto flutuante de 32 bits, que são muito precisos, mas exigem muito poder de processamento. A quantização reduz esses números para inteiros de 8 bits, que são mais fáceis de processar e ocupam menos espaço.

Fig 3. Usando quantização de modelo para converter valores de ponto flutuante para representações inteiras.

Link to this sectionUsando modelos eficientes#

O design de um modelo de IA tem um impacto importante em quão rapidamente ele pode fazer previsões. Modelos como o YOLO11, que são criados para uma inferência eficiente, são ideais para aplicações onde a velocidade de processamento é crítica.

Ao construir uma solução de IA, é importante escolher o modelo certo com base nos recursos disponíveis e nas necessidades de desempenho. Se você começar com um modelo muito pesado, é mais provável que encontre problemas como tempos de processamento lentos, maior consumo de energia e dificuldade de implantação em dispositivos com recursos limitados. Um modelo leve garante um desempenho suave, especialmente para aplicações em tempo real e de borda.

Link to this sectionVelocidade vs. precisão: otimizando inferências em tempo real#

Embora existam várias técnicas para reduzir a latência, uma parte fundamental da inferência em tempo real é equilibrar velocidade e precisão. Tornar os modelos mais rápidos não é suficiente - a velocidade de inferência precisa ser otimizada sem comprometer a precisão. Um sistema que produz previsões rápidas, porém incorretas, é ineficaz. É por isso que testes minuciosos são vitais para garantir que os modelos tenham um bom desempenho em situações do mundo real. Um sistema que parece rápido durante os testes, mas falha em condições reais, não está realmente otimizado.

Link to this sectionAplicações de visão com IA que aproveitam as inferências em tempo real#

A seguir, vamos percorrer algumas aplicações do mundo real onde a inferência em tempo real está transformando indústrias ao permitir respostas instantâneas a entradas visuais.

Link to this sectionSistemas de autoatendimento em lojas de varejo#

Modelos de visão computacional como o YOLO11 podem ajudar a melhorar os sistemas de autoatendimento tornando o reconhecimento de itens mais rápido e preciso. O suporte do YOLO11 a várias tarefas de visão computacional, como detecção de objetos e segmentação de instâncias, torna possível identificar produtos mesmo se os códigos de barras estiverem faltando ou danificados. A visão com IA pode reduzir a necessidade de entrada manual e acelerar o processo de checkout.

Além da identificação de produtos, a visão computacional também pode ser integrada aos sistemas de autoatendimento para verificar preços, prevenir fraudes e aumentar a conveniência do cliente. Câmeras com IA podem distinguir automaticamente entre produtos semelhantes e detectar comportamento suspeito no checkout. Isso inclui identificar "não leituras", onde um cliente ou caixa acidentalmente esquece um item, e tentativas de fraude mais deliberadas, como a "troca de produto", onde um código de barras mais barato é colocado sobre um item mais caro.

Fig 4. A IA pode aprimorar caixas de autoatendimento.

Um ótimo exemplo disso é a Kroger, uma grande varejista dos EUA, que integrou visão computacional e IA em seus sistemas de autoatendimento. Usando análise de vídeo em tempo real, a Kroger conseguiu corrigir automaticamente mais de 75% dos erros de checkout, melhorando tanto a experiência do cliente quanto as operações da loja.

Link to this sectionInspeção de qualidade usando visão computacional#

Manualmente inspecionar produtos para controle de qualidade pode ser lento e nem sempre preciso. É por isso que mais fabricantes estão migrando para fluxos de trabalho de inspeção visual que usam visão computacional para detectar defeitos mais cedo no processo de produção.

Câmeras de alta resolução e visão com IA podem detectar pequenas falhas que humanos podem perder, e modelos como o YOLO11 podem ajudar com verificações de qualidade, classificação e contagem em tempo real para garantir que apenas produtos perfeitos cheguem aos clientes. Automatizar esse processo economiza tempo, corta custos e reduz desperdícios, tornando a produção mais suave e eficiente.

Fig 5. Um exemplo de uso do YOLO11 para contar produtos em uma linha de montagem.

Link to this sectionPrincipais pontos#

A inferência em tempo real ajuda modelos de IA a tomar decisões instantâneas, o que é crucial em muitas indústrias. Seja um carro autônomo evitando um acidente, um médico analisando rapidamente exames médicos ou uma fábrica detectando defeitos em produtos, respostas rápidas e precisas de IA fazem uma grande diferença.

Ao melhorar a velocidade e a eficiência dos modelos de IA, podemos criar sistemas mais inteligentes e confiáveis que funcionam perfeitamente em situações do mundo real. À medida que a tecnologia avança, soluções de IA em tempo real continuarão a moldar o futuro, tornando os processos diários mais rápidos, seguros e eficientes.

Para saber mais, visite nosso repositório no GitHub e interaja com nossa comunidade. Explore inovações em setores como IA em carros autônomos e visão computacional na agricultura em nossas páginas de soluções. Confira nossas opções de licenciamento e tire seus projetos de visão com IA do papel.