Usando o Ultralytics YOLO11 para executar inferências em lote

Se você já viu um carro autônomo em ação, presenciou a inferência de IA em tempo real. Um carro autônomo geralmente usa câmeras, sensores e IA para processar o ambiente ao seu redor e tomar decisões quase instantâneas. No entanto, quando não são necessárias respostas rápidas, a inferência em tempo real pode consumir muitos recursos.

Uma opção melhor nesses casos é a inferência em lote. Em vez de processar dados continuamente em tempo real, a inferência em lote pode lidar com grandes conjuntos de dados em intervalos programados. Essa abordagem ajuda a economizar recursos, reduzir o consumo de energia e diminuir os custos de infraestrutura.

Por exemplo, em aplicações de visão computacional, modelos como o Ultralytics YOLO11 podem ser usados em tarefas em tempo real, como detecção de objetos e segmentação de instâncias. No entanto, processar grandes volumes de dados visuais em tempo real pode exigir muitos recursos.

Fig. 1. Um exemplo de segmentação de objetos em uma imagem usando o Ultralytics YOLO11.

Com a inferência em lote, o Ultralytics YOLO11 pode ser executado em lotes de dados visuais, reduzindo a carga no sistema e melhorando a eficiência sem sacrificar o desempenho. Isso facilita a implantação de soluções de IA visual em grande escala sem sobrecarregar o hardware nem aumentar os custos.

Neste artigo, vamos explorar a inferência em lote, seus benefícios e como a inferência em lote usando o Ultralytics YOLO11 pode ser aplicada em aplicações de visão computacional.

Uma visão geral da inferência em lote em visão computacional#

Você pode pensar na inferência em lote como a execução de uma grande tarefa de uma só vez, em vez de lidar com ela aos poucos à medida que os dados chegam. Em vez de processar dados continuamente em tempo real, a inferência em lote permite processar grandes grupos de dados em intervalos definidos. Essa abordagem é muito mais eficiente quando não são necessárias respostas imediatas, ajudando a economizar recursos computacionais, reduzir o consumo de energia e cortar custos.

Na visão computacional, há algumas aplicações em que a baixa latência é essencial. Baixa latência é o atraso mínimo entre o recebimento de uma entrada (como uma imagem ou um quadro de vídeo) e a resposta do sistema. Por exemplo, no monitoramento de segurança em tempo real, até pequenos atrasos podem resultar em riscos à segurança.

No entanto, em muitos outros cenários de visão computacional, a baixa latência não é tão importante. É aí que a inferência em lote se destaca: quando o sistema não precisa reagir instantaneamente. A inferência em lote funciona enviando dados visuais a um modelo de visão computacional em grupos ou lotes, permitindo que o sistema processe grandes conjuntos de dados de uma só vez, em vez de continuamente em tempo real.

Entenda como funciona a inferência em lote#

Veja mais de perto as etapas envolvidas na inferência em lote:

• Coleta de dados: os dados visuais são coletados ao longo de um período. Eles podem incluir gravações de segurança, imagens de produtos ou dados de clientes, dependendo da aplicação.
• Preparação dos lotes: em seguida, os dados coletados são agrupados em lotes. Nesta etapa, os dados são formatados conforme exigido pelo modelo. Por exemplo, as imagens podem ser redimensionadas, normalizadas ou convertidas para o formato adequado ao processamento pelo modelo.
• Predição: Depois que os dados são preparados, o lote inteiro é enviado ao modelo (como o Ultralytics YOLO11), que processa todo o lote de uma só vez. Isso permite que o modelo faça predições para todos os dados do lote simultaneamente, tornando o processo mais eficiente do que processar cada ponto de dados individualmente.

Quando usar a inferência em lote?#

Agora que vimos o que é a inferência em lote e como ela difere da inferência em tempo real, vamos analisar mais de perto quando usá-la.

A inferência em lote é ideal para analisar dados históricos. Imagine que você tem gravações de vigilância de uma estação de metrô do último mês e quer identificar padrões específicos, como o número de pessoas que entram e saem em diferentes horários do dia.

Em vez de processar cada quadro em tempo real, a inferência em lote permite processar em lotes as gravações do mês inteiro e identificar eventos ou tendências importantes sem precisar de resultados imediatos. Assim, você pode analisar grandes volumes de dados com mais eficiência e obter insights sobre padrões de longo prazo, sem sobrecarregar o sistema nem exigir monitoramento constante.

A inferência em lote também é uma solução ideal quando os recursos do sistema são limitados. Ao executar a inferência fora dos horários de pico (por exemplo, durante a noite), você pode economizar nos custos computacionais e garantir que o sistema não fique sobrecarregado nos períodos de maior uso. Essa é uma abordagem eficiente e econômica para empresas ou projetos que precisam processar grandes conjuntos de dados, mas não exigem análises em tempo real.

Inferência em lote usando o Ultralytics YOLO11#

O pacote Python da Ultralytics oferece suporte à inferência em lote para modelos como o YOLO11. Com o YOLO11, você pode executar facilmente a inferência em lote especificando o batch argumento de inferência, que determina quantas imagens ou quadros de vídeo são processados de uma só vez.

Durante o processo de inferência em lote, as predições são geradas simultaneamente para todas as imagens do lote. Por padrão, o tamanho do lote é definido como 1, mas você pode ajustá-lo para qualquer número que preferir. O processamento em lote é aplicado quando a origem é um diretório, um arquivo de vídeo ou um arquivo .txt que lista as origens.

Por exemplo, se o tamanho do lote for definido como 5, o Ultralytics YOLO11 processará cinco imagens ou quadros de vídeo por vez e gerará predições para os cinco simultaneamente. Tamanhos de lote maiores normalmente aumentam a taxa de transferência e reduzem o tempo total de processamento, pois processar várias imagens em um lote é mais eficiente do que processá-las individualmente.

Aplicações de visão computacional viabilizadas pela inferência em lote#

Agora, vamos explorar alguns casos de uso reais de inferência em lote em visão computacional.

Aprimoramento do diagnóstico e da pesquisa na área da saúde#

Na pesquisa médica, é muito comum trabalhar com grandes quantidades de dados visuais. Nesse contexto, a inferência em lote pode ajudar cientistas a analisar dados com mais facilidade em áreas como química, biologia e genética. Em vez de analisar itens um por um, os dados são processados em lotes, o que economiza tempo e esforço.

Por exemplo, em instituições médicas, a inferência em lote pode ser especialmente útil para analisar grandes conjuntos de imagens médicas, como ressonâncias magnéticas ou tomografias computadorizadas. Os hospitais podem coletar esses exames ao longo do dia e processá-los em lotes durante a noite.

Essa abordagem permite que os hospitais aproveitem melhor o hardware e a equipe, reduzam os custos operacionais e garantam que todos os exames sejam analisados de maneira consistente e uniforme. Ela também é benéfica para grandes projetos de pesquisa e estudos de longo prazo, nos quais é necessário lidar com enormes quantidades de dados.

Fig. 2. Detecção de um achado em um exame médico usando o Ultralytics YOLO11.

Aprimoramento de veículos autônomos com simulações#

Carros autônomos usam tecnologias de IA, como a visão computacional, para processar o mundo ao seu redor. Com a ajuda de modelos avançados, como o Ultralytics YOLO11, os sistemas integrados ao veículo podem reconhecer outros veículos, faixas de rodagem, sinais de trânsito e pessoas na rua. Embora a inferência em tempo real seja essencial na estrada, a tecnologia de direção autônoma também depende muito da inferência em lote nos bastidores.

Fig. 3. O YOLO11 detecta pedestres na estrada com facilidade.

Depois que um carro conclui uma viagem, os dados coletados, como horas de gravações de câmera, leituras de sensores e varreduras LiDAR, podem ser processados posteriormente em grandes lotes. Isso permite que os engenheiros atualizem os modelos de IA do carro, aumentem a segurança do sistema e aprimorem sua capacidade de lidar com diversas condições de direção.

A inferência em lote também é usada em simulações de direção autônoma para testar como os carros autônomos reagiriam em diferentes situações, como ao atravessar cruzamentos movimentados ou responder a movimentos imprevisíveis de pedestres. Essa abordagem economiza tempo, reduz custos e evita os riscos associados a testar cada cenário na vida real.

Análise de dados de varejo com inferência em lote#

Da mesma forma, para lojas de varejo, a inferência em lote com modelos de visão computacional, como o Ultralytics YOLO11, pode aumentar significativamente a eficiência operacional. Por exemplo, os sistemas de câmera das lojas podem capturar milhares de imagens ao longo do dia, que podem ser processadas em lotes durante a noite.

Isso permite que as lojas analisem o que acontece no estabelecimento, como o comportamento dos clientes, os padrões de circulação e as interações com os produtos, sem a necessidade de processamento em tempo real, que pode ser um desafio para lojas menores.

Outro exemplo interessante é usar a inferência em lote para gerar mapas de calor, que mostram as áreas de maior e menor atividade dos clientes na loja. Ao analisar esses mapas de calor, os varejistas podem identificar quais áreas atraem mais pessoas e quais partes da loja talvez precisem de mais atenção ou de uma melhor disposição dos produtos. Esses dados podem ajudar os varejistas a tomar decisões melhores sobre o layout da loja, o posicionamento dos produtos e até as estratégias promocionais, aprimorando a experiência do cliente e as vendas.

Fig. 4. Os mapas de calor podem ajudar varejistas a identificar áreas populares nas lojas.

Prós e contras da inferência em lote#

Veja alguns dos principais benefícios que a inferência em lote pode trazer para vários setores:

• Facilidade de integração: a inferência em lote pode ser facilmente integrada aos fluxos de trabalho existentes, especialmente em setores como varejo, segurança ou saúde, nos quais grandes volumes de dados precisam ser processados em massa.
• Gerenciamento de dados mais fácil: ao trabalhar com grandes quantidades de dados, a inferência em lote pode simplificar o gerenciamento, pois os dados são agrupados em partes menores e mais fáceis de administrar. Isso facilita o acompanhamento, a revisão e a organização dos dados ao longo do tempo.
• Redução da carga na rede: Quando os dados são processados em lotes, é possível minimizar a quantidade de dados transferidos em um determinado momento, reduzindo a pressão sobre os recursos de rede em sistemas baseados em nuvem ou ambientes de computação distribuída.

Embora a inferência em lote tenha muitas vantagens, também há algumas limitações a considerar. Veja alguns fatores importantes:

• Requisitos de armazenamento: armazenar grandes conjuntos de dados para processamento em lote pode aumentar significativamente os custos de armazenamento, sobretudo no caso de imagens de alta resolução, vídeos ou grandes volumes de dados.
• Possibilidade de acúmulo: Se os dados se acumularem rapidamente ou se grandes lotes não forem processados a tempo, poderá haver um acúmulo de tarefas. Isso pode atrasar a geração de insights e o processamento oportuno de novos dados.
• Picos de uso de recursos: Lotes grandes, especialmente os que incluem imagens de alta resolução, podem causar picos no uso de memória ou de capacidade computacional. Se não forem gerenciados adequadamente, esses picos podem sobrecarregar os sistemas, causando lentidão ou falhas.

Principais conclusões#

A inferência em lote é uma maneira eficiente de processar grandes volumes de dados visuais que não exigem resultados imediatos. Em vez de analisar cada imagem em tempo real, ela processa as imagens em lotes em horários programados, como durante a noite.

Esse método é econômico, reduz a carga computacional e ainda fornece resultados precisos. Desde ajudar lojas a gerenciar o estoque até auxiliar médicos na análise de exames e aprimorar tecnologias de carros autônomos, a inferência em lote torna a visão computacional mais acessível, econômica e prática para aplicações do mundo real.

Quer saber mais sobre IA? Explore nosso repositório do GitHub, conecte-se à nossa comunidade e confira nossas opções de licenciamento para começar sua jornada em visão computacional. Saiba mais sobre inovações como IA na manufatura e visão computacional no setor de logística em nossas páginas de soluções.