Usando Ultralytics YOLO11 para executar inferências em lote

Se já viste um carro autónomo em ação, testemunhaste inferência de IA em tempo real. Um carro autónomo normalmente utiliza câmaras, sensores e IA para processar o ambiente circundante e tomar decisões quase instantâneas. No entanto, quando não são necessárias respostas rápidas, a inferência em tempo real pode exigir muitos recursos.

Uma opção melhor nesses casos é a inferência em lote. Em vez de processar dados continuamente em tempo real, a inferência em lote pode lidar com grandes conjuntos de dados em intervalos programados. Essa abordagem ajuda a economizar recursos, reduzir o consumo de energia e diminuir os custos de infraestrutura.

Por exemplo, em aplicações de visão computacional, modelos como o Ultralytics YOLO11 podem ser utilizados para tarefas em tempo real, como deteção de objetos e segmentação de instâncias. Contudo, processar grandes volumes de dados visuais em tempo real pode ser exigente.

Fig. 1. Um exemplo de segmentação de objetos em uma imagem usando o Ultralytics YOLO11.

Com a inferência em lote, o Ultralytics YOLO11 pode ser executado em dados visuais em lotes, reduzindo a carga sobre o sistema e melhorando a eficiência sem sacrificar o desempenho. Isso facilita a implantação de soluções de Vision AI em escala sem sobrecarregar o hardware ou aumentar os custos.

Neste artigo, vamos explorar a inferência em lote, seus benefícios e como a inferência em lote usando Ultralytics YOLO11 pode ser aplicada em aplicações de visão computacional. Vamos começar!

Uma visão sobre a inferência em lote na visão computacional#

Você pode pensar na inferência em lote como lidar com uma grande tarefa de uma só vez, em vez de tratá-la peça por peça conforme ela chega. Em vez de processar constantemente dados em tempo real, a inferência em lote permite processar grandes grupos de dados em intervalos definidos. Essa abordagem é muito mais eficiente quando respostas imediatas não são necessárias, ajudando a economizar recursos computacionais, reduzir o uso de energia e cortar custos.

Quando se trata de visão computacional, existem certas aplicações onde a baixa latência é vital. Baixa latência refere-se ao atraso mínimo entre o recebimento de uma entrada (como uma imagem ou um quadro de vídeo) e a resposta do sistema. Por exemplo, no monitoramento de segurança em tempo real, até pequenos atrasos podem resultar em riscos à segurança.

No entanto, em muitos outros cenários de visão computacional, a baixa latência não é tão crítica. É aqui que a inferência em lote se destaca — quando o sistema não precisa de reagir instantaneamente. A inferência em lote funciona alimentando dados visuais a um modelo de visão computacional em grupos ou lotes, permitindo que o sistema processe grandes conjuntos de dados de uma só vez, em vez de continuamente em tempo real.

Entendendo como a inferência em lote funciona#

Aqui está uma visão mais detalhada das etapas envolvidas na inferência em lote:

• Coleta de dados: Dados visuais são coletados durante um período de tempo. Isso pode incluir filmagens de segurança, imagens de produtos ou dados de clientes, dependendo da aplicação.

• Preparação de lote: Os dados coletados são então agrupados em lotes. Durante esta etapa, os dados são formatados conforme necessário pelo modelo. Por exemplo, imagens podem ser redimensionadas, normalizadas ou convertidas para o formato apropriado para o modelo processar.

• Previsão: Uma vez que os dados são preparados, todo o lote é inserido no modelo (como o Ultralytics YOLO11), que processa o lote inteiro de uma vez. Isso permite que o modelo faça previsões para todos os dados do lote simultaneamente, tornando o processo mais eficiente em comparação com o tratamento de cada ponto de dados individualmente.

Quando usar a inferência em lote?#

Agora que abordamos o que é a inferência em lote e como ela difere da inferência em tempo real, vamos analisar mais detalhadamente quando usá-la.

A inferência em lote é ideal para analisar dados históricos. Digamos que tens imagens de vigilância de uma estação de metro do mês passado e estás a tentar identificar padrões específicos, como o número de pessoas a entrar e sair a diferentes horas do dia.

Em vez de processar cada quadro em tempo real, a inferência em lote permite processar todo o material de um mês em lotes, identificando eventos ou tendências principais sem a necessidade de resultados imediatos. Dessa forma, você pode analisar grandes volumes de dados de forma mais eficiente e obter insights sobre padrões de longo prazo, sem sobrecarregar o sistema ou exigir monitoramento constante.

A inferência em lote também é uma solução ideal quando os recursos do sistema são limitados. Ao executar a inferência fora dos horários de pico (como durante a noite), você pode economizar em custos de computação e garantir que o sistema não fique sobrecarregado durante horários de pico de uso. Isso a torna uma abordagem eficiente e econômica para empresas ou projetos que precisam processar grandes conjuntos de dados, mas não exigem análise em tempo real.

Inferência em lote usando o Ultralytics YOLO11#

O pacote Python da Ultralytics suporta a inferência em lote para modelos como o YOLO11. Com o YOLO11, podes executar facilmente a inferência em lote especificando o argumento 'batch', que determina quantas imagens ou fotogramas de vídeo são processados de uma só vez.

Durante o processo de inferência em lote, as previsões são geradas para todas as imagens do lote em simultâneo. Por predefinição, o tamanho do lote está definido como 1, mas podes ajustá-lo para qualquer número que pretendas.

Por exemplo, se o tamanho do lote for definido como 5, o Ultralytics YOLO11 processará cinco imagens ou quadros de vídeo por vez e gerará previsões para todos os cinco de uma só vez. Tamanhos de lote maiores geralmente levam a tempos de inferência mais rápidos, pois processar várias imagens em um lote é mais eficiente do que tratá-las individualmente.

Aplicações de visão computacional habilitadas pela inferência em lote#

A seguir, vamos explorar alguns casos de uso reais de visão computacional para inferência em lote.

Melhorando diagnósticos e pesquisas na área da saúde#

Na investigação médica, trabalhar com grandes quantidades de dados visuais é muito comum. Aqui, a inferência em lote pode ajudar os cientistas a analisar dados mais facilmente em áreas como a química, a biologia e a genética. Em vez de analisar um de cada vez, os dados são processados em lotes, poupando tempo e esforço.

Por exemplo, em instalações médicas, a inferência em lote pode ser especialmente útil para analisar grandes conjuntos de imagens médicas como ressonâncias magnéticas ou tomografias computadorizadas. Hospitais podem coletar esses exames ao longo do dia e processá-los em lotes durante a noite.

Essa abordagem permite que hospitais façam melhor uso de seu hardware e equipe, reduzam custos operacionais e garantam que todos os exames sejam revisados de maneira consistente e uniforme. Também é benéfico para grandes projetos de pesquisa e estudos de longo prazo, onde é necessário lidar com vastas quantidades de dados.

Fig 2. Detectando um exame médico usando o Ultralytics YOLO11.

Melhorando veículos autônomos usando simulações#

Carros autônomos usam tecnologias de IA como visão computacional para processar o mundo ao seu redor. Com a ajuda de modelos avançados como o Ultralytics YOLO11, os sistemas de bordo do carro podem reconhecer outros veículos, faixas de rodagem, sinais de trânsito e pessoas na rua. Embora a inferência em tempo real seja crítica na estrada, a tecnologia de direção autônoma também depende fortemente da inferência em lote nos bastidores.

Fig 3. O YOLO11 consegue detetar facilmente peões na estrada.

Após um carro completar uma viagem, os dados coletados, como horas de filmagens de câmeras, leituras de sensores e varreduras LIDAR, podem ser processados posteriormente em grandes lotes. Isso torna possível para os engenheiros atualizar os modelos de IA do carro, aprimorar a segurança do sistema e melhorar sua capacidade de lidar com várias condições de direção.

A inferência em lote também é usada em simulações de direção autônoma para testar como os carros autônomos reagiriam em diferentes situações, como navegar por cruzamentos movimentados ou responder a movimentos imprevisíveis de pedestres. Essa abordagem economiza tempo, reduz custos e evita os riscos associados ao teste de cada cenário na vida real.

Análise de dados de varejo impulsionada pela inferência em lote#

Da mesma forma, para lojas de varejo, a inferência em lote com modelos de visão computacional como o Ultralytics YOLO11 pode melhorar significativamente a eficiência operacional. Por exemplo, sistemas de câmeras nas lojas podem capturar milhares de imagens ao longo do dia, que podem então ser processadas em lotes durante a noite.

Isso permite que as lojas analisem o que está acontecendo no estabelecimento, como o comportamento do cliente, padrões de tráfego e interações com produtos, sem a necessidade de processamento em tempo real, o que pode ser desafiador para lojas menores.

Outro exemplo interessante é a utilização da inferência em lote para gerar mapas de calor, que visualizam áreas de alta e baixa atividade de clientes dentro da loja. Ao analisar estes mapas de calor, os retalhistas podem identificar quais as áreas que atraem mais tráfego pedonal e que partes da loja podem precisar de mais atenção ou otimização da colocação de produtos. Estes dados podem ajudar os retalhistas a tomar melhores decisões sobre a disposição da loja, o posicionamento dos produtos e até estratégias promocionais para melhorar a experiência do cliente e as vendas.

Fig 4. Os mapas de calor podem ajudar os retalhistas a identificar áreas populares nas lojas.

Prós e contras da inferência em lote#

Aqui estão alguns dos principais benefícios que a inferência em lote pode trazer para vários setores:

• Facilidade de integração: A inferência em lote pode ser facilmente integrada em fluxos de trabalho existentes, particularmente para indústrias como o retalho, a segurança ou os cuidados de saúde, onde grandes volumes de dados precisam de ser processados em massa.
• Gerenciamento de dados mais fácil: Ao trabalhar com grandes quantidades de dados, a inferência em lote pode simplificar o gerenciamento de dados, uma vez que as informações são agrupadas em pedaços gerenciáveis. Isso torna mais fácil rastrear, revisar e organizar os dados ao longo do tempo.
• Carga de rede reduzida: Quando os dados são processados em lotes, a quantidade de dados transferidos a qualquer momento pode ser minimizada, reduzindo a carga nos recursos de rede em sistemas baseados em nuvem ou ambientes de computação distribuída.

Embora existam muitas vantagens em usar a inferência em lote, há também algumas limitações a serem consideradas. Aqui estão alguns fatores para manter em mente:

• Requisitos de armazenamento: Armazenar grandes conjuntos de dados para processamento em lote pode aumentar significativamente os custos de armazenamento, particularmente com imagens de alta resolução, vídeos ou grandes volumes de dados.
• Potencial de acúmulo: Se os dados se acumulam rapidamente ou se lotes grandes não são processados a tempo, um acúmulo pode se desenvolver. Isso pode levar a atrasos na entrega de insights e no processamento de novos dados de forma oportuna.
• Picos de recursos: Lotes grandes, especialmente aqueles que envolvem imagens de alta resolução, podem causar picos no uso de memória ou computação. Se não forem gerenciados adequadamente, esses picos podem sobrecarregar os sistemas, levando a lentidões ou travamentos.

Principais pontos#

A inferência em lote é uma maneira eficiente de processar grandes volumes de dados visuais que não exigem resultados imediatos. Em vez de analisar cada imagem em tempo real, ela as processa em lotes em horários agendados, como durante a noite.

Este método é econômico, reduz a carga computacional e ainda fornece resultados precisos. Desde ajudar lojas a gerenciar estoques até auxiliar médicos na análise de exames e aprimorar tecnologias de carros autônomos, a inferência em lote torna a visão computacional mais acessível, acessível em custo e prática para aplicações do mundo real.

Pronto para mergulhar a fundo na IA? Explora o nosso repositório do GitHub, liga-te à nossa comunidade e consulta as nossas opções de licenciamento para começares a tua jornada na visão computacional. Sabe mais sobre inovações como a IA na indústria transformadora e a visão computacional na logística nas nossas páginas de soluções.