Exportando modelos Ultralytics YOLO11 para o formato de modelo NCNN

As soluções de IA estão a tornar-se cada vez mais comuns, mesmo em setores de alto risco como a gestão de catástrofes, a gestão de resíduos e o combate a incêndios. À medida que a adoção continua a crescer, os modelos de IA são implementados em ambientes cada vez mais diversos — não apenas em servidores ou na nuvem, mas também diretamente em dispositivos que operam no terreno.

Por exemplo, drones e equipamentos com componentes de edge, alimentados por pequenos processadores, podem desempenhar um papel crucial em zonas de catástrofe. Equipados com câmaras térmicas, estes dispositivos podem recolher e analisar dados no local para localizar pessoas presas sob os escombros. Isto é possível graças à visão computacional, um ramo da inteligência artificial que interpreta informação visual proveniente de imagens e vídeos.

No entanto, implantar modelos de IA visual em dispositivos de borda não é tão simples quanto parece. Os modelos de IA precisam ser otimizados para funcionar com eficiência em hardware com capacidade computacional e memória limitadas. Por isso, estruturas de IA como o NCNN são essenciais. Elas ajudam a converter e otimizar modelos para obter desempenho em tempo real em dispositivos de baixo consumo, com perda mínima de precisão.

Em particular, é fácil exportar modelos Ultralytics YOLO, como o Ultralytics YOLO11, para o formato de modelo NCNN usando a integração NCNN oferecida pela Ultralytics. Converter o YOLO11 para o formato de modelo NCNN permite que o modelo funcione mais rápido, use menos memória e opere sem problemas em diferentes dispositivos, com perda mínima de precisão.

Neste artigo, vamos explorar a integração com NCNN oferecida pela Ultralytics e mostrar como exportar seu modelo YOLO11 para o formato de modelo NCNN.

Uma visão geral do NCNN: um framework leve de redes neuronais#

O NCNN é um framework de código aberto para inferência de redes neuronais, desenvolvido pela Tencent. Foi concebido especificamente para ambientes móveis e de edge, oferecendo inferência de alto desempenho com uma presença mínima. Isto torna-o ideal para implementação em dispositivos com recursos limitados, como smartphones, drones e dispositivos IoT (Internet das Coisas).

O framework NCNN tornou-se popular na comunidade de IA e aprendizagem profunda devido à sua eficiência, portabilidade e otimização para CPUs móveis (unidades centrais de processamento). Permite que os programadores executem modelos de redes neuronais em dispositivos económicos com memória e capacidade de processamento limitadas. Concebido para ser simples e flexível, o NCNN suporta uma grande variedade de modelos de visão computacional e funciona em várias plataformas, incluindo Android, Linux, iOS e macOS.

Fig. 1. Os modelos no formato NCNN podem ser implementados em várias plataformas.

Principais funcionalidades de otimização do desempenho do NCNN#

Estas são algumas das principais funcionalidades que fazem do NCNN um framework de inferência de redes neuronais tão eficaz e amplamente utilizado:

• Ambiente de execução leve e independente do hardware: O framework NCNN está otimizado para executar modelos em CPUs padrão e não exige hardware especializado, como GPUs (unidades de processamento gráfico) ou NPUs (unidades de processamento neural).
• Quantização de modelos: Para aplicações em que a memória e a velocidade são essenciais, o NCNN suporta métodos de quantização que reduzem o tamanho dos modelos e melhoram o tempo de inferência. Isto ajuda a executar modelos de IA sem problemas em dispositivos móveis e integrados.
• Código aberto e acessível: Sendo um framework de código aberto, o NCNN está disponível gratuitamente para qualquer pessoa utilizar, modificar e melhorar. Isto incentiva a inovação e uma adoção generalizada em vários casos de utilização.
• Desenvolvimento e comunidade ativos: O NCNN é mantido ativamente no GitHub pela Tencent e por uma comunidade crescente de programadores, com atualizações regulares e melhorias na compatibilidade com modelos.

Exportar o Ultralytics YOLO11 para o formato de modelo NCNN: um guia rápido#

Agora que já explicámos o que é o NCNN, vamos analisar mais de perto como exportar modelos Ultralytics YOLO11 para o formato NCNN.

Passo 1: Instalar o pacote Python da Ultralytics#

Antes de exportar o modelo, o primeiro passo é instalar o pacote Python Ultralytics usando o instalador de pacotes pip. Para isso, execute pip install ultralytics no terminal ou no prompt de comando. Se você estiver usando um Jupyter Notebook ou o Google Colab, adicione um ponto de exclamação antes do comando, assim: !pip install ultralytics.

O pacote Ultralytics oferece ferramentas para treinar, testar, ajustar e exportar modelos de IA visual para várias tarefas de visão computacional. Se encontrares algum problema durante a instalação ou ao exportar um modelo, a documentação oficial da Ultralytics e o guia de problemas comuns são ótimos recursos para resolver problemas.

Etapa 2: exportar o Ultralytics YOLO11#

Depois de instalar o pacote Ultralytics, você pode carregar seu modelo YOLO11 e exportá-lo para o formato NCNN. O exemplo abaixo usa um modelo YOLO11n pré-treinado (yolo11n.pt) e o exporta para o formato NCNN, salvando a saída em uma pasta chamada yolo11n_ncnn_model.

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="ncnn")

O modelo Ultralytics YOLO11 exportado pode então ser implementado em vários dispositivos leves, como smartphones, sistemas incorporados ou plataformas de IoT. O processo de implementação também é bastante simplificado.

Considere, por exemplo, o trecho de código abaixo, que mostra como carregar o modelo exportado e executar a inferência. Inferência é o processo de usar um modelo treinado para fazer previsões em dados novos que ele ainda não viu. Neste exemplo, o modelo é testado em uma imagem de um homem andando de bicicleta, obtida de um URL disponível publicamente.

ncnn_model = YOLO("./yolo11n_ncnn_model")
results = ncnn_model("https://images.pexels.com/photos/19431209/pexels-photo-19431209/free-photo-of-a-man-riding-a-bike-on-a-road.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2.jpg", save=True)

Depois de executar o código, você encontrará a imagem de saída na pasta runs/detect/predict.

Fig. 2. Deteção de objetos com um modelo Ultralytics YOLO11 exportado no formato NCNN. Imagem do autor.

Porquê escolher deteção em tempo real com NCNN#

À medida que exploras as várias integrações que a Ultralytics suporta, poderás notar que há várias opções de exportação disponíveis. Então, quando deves escolher o formato NCNN?

O formato de exportação NCNN é uma opção fiável quando precisas de implementar modelos Ultralytics YOLO11 em dispositivos com recursos limitados. É especialmente útil para aplicações em tempo real que são executadas diretamente no dispositivo, como os dispositivos de edge, sem necessidade de ligação à cloud. Assim, o modelo pode executar tarefas como a deteção de objetos diretamente no local.

Aqui estão alguns cenários comuns em que o NCNN é uma ótima opção:

• Implementação em dispositivos móveis: O formato NCNN está otimizado para Android e iOS, facilitando a integração de modelos em aplicações móveis para inferência rápida no dispositivo e com latência mínima.
• Sistemas embarcados e dispositivos de IoT: Se você estiver implantando em dispositivos como o Raspberry Pi ou o NVIDIA Jetson, exportar para NCNN pode ajudar a aumentar o desempenho e a capacidade de resposta.
• Implementação em computadores e servidores: Embora o NCNN seja ótimo para dispositivos de baixo consumo, também é compatível com Linux, Windows e macOS para ambientes de computador e servidor. Isto dá aos programadores opções flexíveis de implementação.

Fig. 3. Opções para implementar modelos Ultralytics YOLO11 com NCNN. Imagem do autor.

Casos de utilização da implementação de modelos Ultralytics YOLO11 com NCNN#

Em seguida, vamos analisar alguns casos de uso práticos em que exportar modelos Ultralytics YOLO11 para NCNN pode fazer uma diferença real.

Capacetes com IA visual para bombeiros#

Capacetes de segurança equipados com câmaras e microcomputadores incorporados podem ser usados em áreas como a construção e o combate a incêndios para melhorar a segurança e a perceção do ambiente. Modelos de IA visual em tempo real, como o Ultralytics YOLO11, podem ser executados nestes dispositivos para detetar vários tipos de objetos e equipamentos. Por exemplo, estes capacetes podem ajudar os bombeiros a detetar pessoas, obstáculos ou perigos em condições de baixa visibilidade.

No entanto, executar modelos de tamanho completo diretamente em dispositivos vestíveis pode causar um desempenho lento e esgotar rapidamente a bateria. Neste caso, usar a integração NCNN é uma escolha inteligente. Esta permite uma inferência de baixa latência e eficiente em termos energéticos.

Classificação de resíduos e contentores inteligentes#

Da mesma forma, lixeiras inteligentes podem ser integradas a câmeras e processadores compactos de IA de borda para identificar e separar materiais à medida que são descartados. Modelos de IA visual como o YOLO11 podem ser treinados de forma personalizada para detectar diferentes tipos de resíduos, como papel, plástico, borracha etc.

Depois de identificados, os resíduos podem ser separados automaticamente em compartimentos distintos, de acordo com a possibilidade de reutilização. Com IA de edge e modelos Ultralytics YOLO11 exportados no formato NCNN, estes contentores podem processar os dados localmente, sem precisar de uma ligação à Internet. Assim, podem funcionar de forma autónoma e tomar decisões de separação em tempo real, com um atraso mínimo.

Fig. 4. Deteção de resíduos de plástico com o YOLO11.

Monitorização de gado com drones e visão computacional#

Por vezes, as zonas agrícolas em locais remotos não têm acesso a ligações estáveis à Internet nem a energia elétrica constante, o que limita a capacidade de executar aplicações de IA online. Nestes casos, podem usar-se dispositivos de edge e drones para realizar várias tarefas.

Um bom exemplo é a monitorização de animais de criação, como gado bovino, ovino e aves de capoeira. Isto pode ser feito com modelos de IA visual como o YOLO11, que podem acompanhar o movimento dos animais, detetar sinais de ferimentos, doenças ou comportamentos anormais e alertar os agricultores quando algum animal desaparece. A integração NCNN também permite executar e processar estes dados diretamente em dispositivos de edge, sendo uma ótima opção para analisar imagens e vídeos em explorações agrícolas remotas ou sem ligação à rede elétrica.

Fig. 5. Exemplo de utilização do YOLO11 para monitorizar animais de criação.

Principais conclusões#

Exportar modelos YOLO11 usando a integração NCNN oferecida pela Ultralytics é uma maneira simples de levar a IA visual a ambientes de baixo consumo. Seja em drones em zonas de desastre, lixeiras inteligentes para separação de resíduos ou no monitoramento de gado em fazendas remotas, YOLO e NCNN permitem inferência de IA em tempo real rápida, eficiente e portátil. Essa abordagem ajuda a tornar os sistemas de IA mais acessíveis e confiáveis quando isso é mais importante.

Queres saber mais sobre IA? Explora o nosso repositório do GitHub, liga-te à nossa comunidade e consulta as nossas opções de licenciamento para começares o teu projeto de visão computacional. Descobre como inovações como a IA no retalho e a visão computacional na área da saúde estão a moldar o futuro nas nossas páginas de soluções.