Poda e quantização em visão computacional: um guia rápido

Os dispositivos edge estão a tornar-se cada vez mais comuns à medida que a tecnologia avança. Desde smartwatches que monitorizam o teu ritmo cardíaco até drones aéreos que monitorizam ruas, os sistemas edge podem processar dados localmente, em tempo real, no próprio dispositivo.

Este método é frequentemente mais rápido e seguro do que enviar dados para a cloud, especialmente em aplicações que envolvem dados pessoais, como a deteção de matrículas ou o rastreio de gestos. Estes são exemplos de visão computacional, um ramo da inteligência artificial (AI) que permite às máquinas interpretar e compreender informação visual.

Fig. 1. Um exemplo de deteção de matrículas. (Fonte)

No entanto, uma consideração importante é que estas aplicações requerem modelos de visão AI capazes de lidar com computação intensiva, utilizar o mínimo de recursos e funcionar de forma autónoma. A maioria dos modelos de visão computacional é desenvolvida para sistemas de alto desempenho, o que os torna menos adequados para implementação direta em dispositivos edge.

Para colmatar esta lacuna, os programadores aplicam frequentemente otimizações direcionadas que adaptam o modelo para funcionar de forma eficiente em hardware mais pequeno. Estes ajustes são fundamentais para implementações edge no mundo real, onde a memória e a capacidade de processamento são limitadas.

Curiosamente, modelos de visão computacional como o Ultralytics YOLO11 já são concebidos tendo em mente a eficiência edge, o que os torna excelentes para tarefas em tempo real. No entanto, o seu desempenho pode ser melhorado através de técnicas de otimização de modelos, como poda e quantização, permitindo uma inferência ainda mais rápida e um menor consumo de recursos em dispositivos com limitações.

Neste artigo, vamos analisar mais detalhadamente o que são a poda e a quantização, como funcionam e como podem ajudar os modelos YOLO a obter um melhor desempenho em implementações edge no mundo real. Vamos começar!

Poda e quantização: técnicas essenciais de otimização de modelos#

Ao preparar modelos de visão AI para implementação em dispositivos edge, um dos principais objetivos é tornar o modelo leve e fiável sem sacrificar o desempenho. Isto envolve frequentemente reduzir o tamanho e as exigências computacionais do modelo, para que possa funcionar de forma eficiente em hardware com memória, energia ou capacidade de processamento limitadas. Duas formas comuns de o fazer são a poda e a quantização.

A poda é uma técnica de otimização de modelos de AI que ajuda a tornar as redes neuronais mais pequenas e eficientes. Em muitos casos, partes de um modelo, como determinadas ligações ou nós, contribuem pouco para as suas previsões finais. A poda funciona identificando e removendo essas partes menos importantes, o que reduz o tamanho do modelo e acelera o seu desempenho.

Por outro lado, a quantização é uma técnica de otimização que reduz a precisão dos números utilizados por um modelo. Em vez de depender de números de vírgula flutuante de 32 bits e alta precisão, o modelo passa a utilizar formatos mais pequenos e eficientes, como inteiros de 8 bits. Esta alteração ajuda a reduzir o consumo de memória e acelera a inferência, o processo através do qual o modelo faz previsões.

Fig. 2. Uma análise da poda e da quantização. (Fonte)

Como funcionam a poda e a quantização#

Agora que compreendemos melhor o que são a poda e a quantização, vamos analisar como funcionam.

A poda é realizada através de um processo conhecido como análise de sensibilidade. Este identifica que partes dos modelos de redes neuronais, como determinados pesos, neurónios ou canais, contribuem menos para a previsão de saída final. Essas partes podem ser removidas com um efeito mínimo na precisão. Após a poda, o modelo é normalmente novamente treinado para aperfeiçoar o seu desempenho. Este ciclo pode ser repetido para encontrar o equilíbrio adequado entre o tamanho e a precisão.

Entretanto, a quantização de modelos centra-se na forma como o modelo processa os dados. Começa com a calibração, na qual o modelo é executado com dados de exemplo para aprender o intervalo de valores que precisa de processar. Esses valores são depois convertidos de vírgula flutuante de 32 bits para formatos de menor precisão, como inteiros de 8 bits.

Fig. 3. A quantização ajuda a reduzir o tamanho e a complexidade do modelo. (Fonte)

Existem várias ferramentas disponíveis que facilitam a utilização de poda e quantização em projetos de AI do mundo real. A maioria das frameworks de AI, como PyTorch e TensorFlow, inclui suporte integrado para estas técnicas de otimização, permitindo aos programadores integrá-las diretamente no processo de implementação do modelo.

Depois de um modelo ser otimizado, ferramentas como o ONNX Runtime podem ajudar a executá-lo de forma eficiente em várias plataformas de hardware, como servidores, computadores de secretária e dispositivos edge. Além disso, a Ultralytics disponibiliza integrações que permitem exportar modelos YOLO para formatos adequados à quantização, facilitando a redução do tamanho do modelo e o aumento do desempenho.

Uma visão geral da otimização de modelos Ultralytics YOLO#

Os modelos Ultralytics YOLO, como o YOLO11, são amplamente reconhecidos pela sua deteção de objetos rápida e de uma só etapa, o que os torna ideais para tarefas de visão AI em tempo real. Já são concebidos para serem suficientemente leves e eficientes para implementação edge. No entanto, as camadas responsáveis pelo processamento de características visuais, chamadas camadas convolucionais, ainda podem exigir um poder computacional considerável durante a inferência.

Podes perguntar-te: se o Ultralytics YOLO11 já está otimizado para utilização edge, por que precisa de mais otimização? Em termos simples, nem todos os dispositivos edge são iguais. Alguns funcionam com hardware muito limitado, como pequenos processadores integrados que consomem menos energia do que uma lâmpada LED convencional.

Nestes casos, até um modelo simplificado como o Ultralytics YOLO11 precisa de otimização adicional para garantir um desempenho fluido e fiável. Técnicas como a poda e a quantização ajudam a reduzir o tamanho do modelo e a acelerar a inferência sem afetar significativamente a precisão, o que as torna ideais para ambientes com estas limitações.

Para facilitar a aplicação destas técnicas de otimização, a Ultralytics suporta várias integrações que podem ser utilizadas para exportar modelos YOLO para vários formatos, como ONNX, TensorRT, OpenVINO, CoreML e PaddlePaddle. Cada formato foi concebido para funcionar bem com tipos específicos de hardware e ambientes de implementação.

Por exemplo, o ONNX é frequentemente utilizado em fluxos de trabalho de quantização devido à sua compatibilidade com uma vasta gama de ferramentas e plataformas. O TensorRT, por outro lado, é altamente otimizado para dispositivos NVIDIA e suporta inferência de baixa precisão utilizando INT8, o que o torna ideal para implementações de alta velocidade em GPUs edge.

Casos de utilização de grande impacto da otimização de modelos Ultralytics YOLO#

À medida que a visão computacional continua a expandir-se para várias aplicações do mundo real, os modelos YOLO otimizados permitem executar tarefas como deteção de objetos, segmentação de instâncias e rastreio de objetos em hardware mais pequeno e rápido. De seguida, vamos abordar alguns casos de utilização em que a poda e a quantização tornam estas tarefas de visão computacional mais eficientes e práticas.

Videovigilância inteligente com Ultralytics YOLO11#

Muitos espaços industriais, bem como áreas públicas, dependem de monitorização em tempo real para se manterem seguros e protegidos. Locais como estações de transporte, instalações de fabrico e grandes espaços exteriores precisam de sistemas de visão AI capazes de detetar pessoas ou veículos de forma rápida e precisa. Muitas vezes, estes locais funcionam com conectividade limitada e restrições de hardware, o que dificulta a implementação de modelos grandes.

Nestes casos, um modelo de visão AI otimizado, como o Ultralytics YOLO11, é uma excelente solução. O seu tamanho compacto e desempenho rápido tornam-no perfeito para funcionar em dispositivos edge de baixo consumo, como câmaras integradas ou sensores inteligentes. Estes modelos podem processar dados visuais diretamente no dispositivo, permitindo a deteção em tempo real de violações de segurança, acessos não autorizados ou atividades anómalas, sem depender de um acesso constante à cloud.

Fig. 4. O Ultralytics YOLO11 pode ser utilizado para monitorizar locais públicos, como estações de metro.

Reforçar a segurança em estaleiros de construção com o Ultralytics YOLO11#

Os estaleiros de construção são ambientes dinâmicos e imprevisíveis, repletos de maquinaria pesada, trabalhadores em movimento e atividade constante. As condições podem mudar rapidamente devido a alterações nos horários, movimentação de equipamento ou até mudanças repentinas no estado do tempo. Num ambiente tão dinâmico, a segurança dos trabalhadores pode parecer um desafio contínuo.

A monitorização em tempo real desempenha um papel fundamental, mas os sistemas tradicionais dependem frequentemente do acesso à cloud ou de hardware dispendioso que pode não ser prático no local. É aqui que modelos como o Ultralytics YOLO11 podem ter um impacto significativo. O YOLO11 pode ser otimizado para funcionar em dispositivos edge pequenos e eficientes, que operam diretamente no local sem precisarem de uma ligação à Internet.

Por exemplo, considera um grande estaleiro de construção, como uma obra de expansão de uma autoestrada que se estende por vários hectares. Num contexto deste tipo, monitorizar manualmente todos os veículos ou equipamentos pode ser difícil e demorado. Um drone equipado com uma câmara e um modelo Ultralytics YOLO11 otimizado pode ajudar, detetando e seguindo automaticamente veículos, monitorizando o fluxo de tráfego e identificando problemas de segurança, como acessos não autorizados ou comportamentos de condução perigosos.

Fig. 5. Análise de imagens de drone de um estaleiro de construção. (Fonte)

Vantagens e desvantagens da poda e da quantização em visão computacional#

Eis algumas das principais vantagens proporcionadas pelos métodos de otimização de modelos de visão computacional, como a poda e a quantização:

• Implementação económica: modelos mais pequenos e eficientes podem reduzir a necessidade de hardware dispendioso e topo de gama, tornando a AI mais acessível e escalável em diferentes casos de utilização.
• Menor latência: ao simplificarem a arquitetura do modelo e reduzirem a sobrecarga computacional, estas técnicas podem ajudar a obter tempos de resposta mais rápidos em aplicações em tempo real.
• Eficiência energética: reduzir a carga computacional também diminui o consumo de energia, o que é especialmente útil para sistemas alimentados por bateria ou móveis.

Embora a poda e a quantização ofereçam muitas vantagens, também envolvem alguns compromissos que os programadores devem considerar ao otimizar modelos. Eis algumas limitações a ter em conta:

• Compromissos de precisão: se a poda for demasiado agressiva ou for utilizada uma quantização com um número muito baixo de bits, a precisão do modelo, medida por métricas como mAP, pode diminuir.
• Limitações de hardware: nem todos os dispositivos suportam igualmente bem formatos de menor precisão, como INT8. Isto pode limitar onde e como um modelo otimizado pode ser implementado.
• Complexidade de implementação: obter bons resultados requer frequentemente um ajuste cuidadoso e específico para cada modelo. Os programadores podem ter de voltar a treinar o modelo e realizar testes extensivos para manter o desempenho enquanto melhoram a eficiência.

Principais conclusões#

A poda e a quantização são técnicas úteis que ajudam os modelos YOLO a obter um melhor desempenho em dispositivos edge. Reduzem o tamanho do modelo, diminuem as suas necessidades computacionais e aceleram as previsões, tudo isto sem uma perda percetível de precisão.

Estes métodos de otimização também proporcionam aos programadores flexibilidade para ajustar modelos a diferentes tipos de hardware sem precisarem de os reconstruir completamente. Com algum ajuste e testes, torna-se mais fácil aplicar visão AI em situações do mundo real.

Junta-te à nossa crescente comunidade! Explora o nosso repositório no GitHub para saberes mais sobre AI. Pronto para começar os teus projetos de visão computacional? Consulta as nossas opções de licenciamento. Descobre AI na agricultura e visão AI na área da saúde visitando as nossas páginas de soluções!