Exportando modelos Ultralytics YOLO11 para o formato de modelo NCNN

As soluções de IA estão a tornar-se mais comuns, mesmo em setores de alto risco como gestão de desastres, gestão de resíduos e combate a incêndios. À medida que a adoção continua a crescer, os modelos de IA estão a ser implementados em ambientes mais diversos - não apenas em servidores ou na nuvem, mas diretamente em dispositivos que operam no terreno.

Por exemplo, drones e equipamentos com componentes de edge alimentados por pequenos processadores podem desempenhar um papel crucial em zonas de desastre. Equipados com câmaras térmicas, estes dispositivos podem recolher e analisar dados no local para localizar pessoas presas sob os escombros. Isto é tornado possível através da computer vision, um ramo da inteligência artificial que interpreta informação visual de imagens e vídeo.

No entanto, implantar modelos de IA de visão em dispositivos de borda não é tão simples quanto parece. Os modelos de IA precisam ser otimizados para funcionar com eficiência em hardware com poder de computação e memória limitados. É por isso que frameworks de IA como o NCNN são essenciais. Eles ajudam a converter e otimizar modelos para desempenho em tempo real em dispositivos de baixo consumo sem sacrificar a precisão.

Em particular, os modelos Ultralytics YOLO como Ultralytics YOLO11 podem ser facilmente exportados para o formato de modelo NCNN utilizando a integração NCNN suportada pela Ultralytics. Converter o YOLO11 para o formato de modelo NCNN permite que o modelo execute mais rapidamente, utilize menos memória e funcione sem problemas em diferentes dispositivos sem perder precisão.

Neste artigo, vamos explorar a integração NCNN suportada pela Ultralytics e ver o passo a passo de como podes exportar o teu modelo YOLO11 para o formato de modelo NCNN. Vamos começar!

Uma visão geral do NCNN: um framework de rede neural leve#

O NCNN é um framework de inferência de rede neural de código aberto desenvolvido pela Tencent. Ele foi projetado especificamente para ambientes móveis e de borda, permitindo inferência de alto desempenho com uma ocupação mínima de recursos. Isso o torna ideal para implantação em dispositivos com recursos limitados, como smartphones, drones e dispositivos IoT (Internet das Coisas).

O framework NCNN ganhou popularidade na comunidade de IA e deep learning devido à sua eficiência, portabilidade e otimização para CPUs móveis (Unidades Centrais de Processamento). Permite aos programadores executar modelos de redes neuronais em dispositivos acessíveis com memória e poder de processamento limitados. Concebido para ser simples e flexível, o NCNN suporta uma ampla gama de modelos de computer vision e é executado em múltiplas plataformas, incluindo Android, Linux, iOS e macOS.

Fig 1. Modelos no formato NCNN podem ser implementados em várias plataformas.

Principais recursos de otimização de desempenho do NCNN#

Aqui estão alguns dos principais recursos que tornam o NCNN um framework de inferência de rede neural impactante e amplamente utilizado:

• Runtime leve e independente de hardware: O framework NCNN é otimizado para executar modelos em CPUs padrão e não requer hardware especializado como GPUs (Unidades de Processamento Gráfico) ou NPUs (Unidades de Processamento Neural).
• Quantização de modelos: Para aplicações onde a memória e a velocidade são cruciais, o NCNN suporta métodos de quantização que reduzem o tamanho do modelo e melhoram o tempo de inferência. Ajuda a executar modelos de IA sem problemas em dispositivos móveis e embutidos.
• Código aberto e acessível: Como um framework de código aberto, o NCNN está disponível gratuitamente para qualquer pessoa usar, modificar e melhorar. Isso incentiva a inovação e a ampla adoção em uma variedade de casos de uso.
• Desenvolvimento ativo e comunidade: O NCNN é mantido ativamente no GitHub pela Tencent e por uma comunidade crescente de desenvolvedores, com atualizações regulares e melhorias na compatibilidade de modelos.

Exportando modelos Ultralytics YOLO11 para o formato NCNN: Um guia rápido#

Agora que já discutimos o que é o NCNN, vamos analisar mais de perto como exportar modelos YOLO11 do Ultralytics para o formato NCNN.

Passo 1: Instale o pacote Python da Ultralytics#

Antes de exportar o modelo, o primeiro passo é instalar o pacote Python da Ultralytics utilizando o instalador de pacotes pip. Podes fazê-lo executando "pip install ultralytics" no teu terminal ou linha de comandos. Se estás a trabalhar num Jupyter Notebook ou Google Colab, adiciona um ponto de exclamação antes do comando, assim: "!pip install ultralytics".

O pacote Ultralytics fornece ferramentas para treinar, testar, afinar e exportar modelos de visão de IA para uma variedade de tarefas de computer vision. Se tiveres algum problema durante a instalação ou ao exportar um modelo, a documentação oficial da Ultralytics e o guia de problemas comuns são excelentes recursos para resolução de problemas.

Passo 2: Exportando o Ultralytics YOLO11#

Após instalar o pacote Ultralytics, você pode carregar seu modelo YOLO11 e exportá-lo para o formato NCNN. O exemplo abaixo usa um modelo pré-treinado ("yolo11n.pt") e o exporta no formato NCNN, salvando a saída em uma pasta chamada "/yolo11n_ncnn_model".

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="ncnn")

O modelo YOLO11 do Ultralytics exportado pode então ser implantado em vários dispositivos leves, como smartphones, sistemas embarcados ou plataformas de IoT. O processo de implantação também é muito simplificado.

Por exemplo, considere o trecho de código abaixo, que mostra como carregar o modelo exportado e executar a inferência. A inferência refere-se ao processo de usar um modelo treinado para fazer previsões em dados novos e não vistos. Neste exemplo, o modelo é testado em uma imagem de um homem andando de bicicleta, obtida de uma URL disponível publicamente.

ncnn_model = YOLO("./yolo11n_ncnn_model")
results = ncnn_model("https://images.pexels.com/photos/19431209/pexels-photo-19431209/free-photo-of-a-man-riding-a-bike-on-a-road.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2.jpg", save=True)

Após executar o código, você encontrará a imagem de saída na pasta "runs/detect/predict".

Fig 2. Detectando objetos usando um modelo Ultralytics YOLO11 exportado no formato NCNN. Imagem do autor.

Por que escolher a detecção em tempo real com o NCNN#

À medida que exploras as várias integrações que a Ultralytics suporta, poderás notar que existem várias opções de exportação disponíveis. Então, quando deves escolher o formato NCNN?

O formato de exportação NCNN é uma escolha confiável quando precisas de implantar modelos YOLO11 do Ultralytics em dispositivos com recursos limitados. É especialmente útil para aplicações em tempo real que executam diretamente no dispositivo, como dispositivos de borda, sem precisar de uma conexão com a nuvem. Isto significa que o modelo pode lidar com tarefas como a deteção de objetos no local.

Aqui estão alguns cenários comuns onde o NCNN se encaixa perfeitamente:

• Implantação móvel: O formato NCNN é otimizado para Android e iOS, facilitando a integração de modelos em aplicativos móveis para inferência rápida no dispositivo com latência mínima.

• Sistemas embarcados e dispositivos IoT: Se você estiver implantando em dispositivos como Raspberry Pi ou NVIDIA Jetson, exportar para NCNN pode ajudar a aumentar o desempenho e a capacidade de resposta.

• Implantação em desktop e servidor: Embora o NCNN seja ótimo para dispositivos de baixo consumo, ele também suporta Linux, Windows e macOS para ambientes de desktop e servidor. Isso oferece aos desenvolvedores opções flexíveis para implantação.

Fig 3. Opções de implantação do modelo Ultralytics YOLO11 com NCNN. Imagem do autor.

Casos de uso da implantação do modelo Ultralytics YOLO11 com NCNN#

A seguir, vamos mergulhar em alguns casos de uso práticos onde a exportação de modelos YOLO11 do Ultralytics para NCNN pode fazer uma diferença real.

Capacetes de IA de visão para combate a incêndios#

Capacetes de segurança equipados com câmaras e microcomputadores embarcados podem ser usados em áreas como construction e combate a incêndios para melhorar a segurança e a perceção. Modelos de IA de visão em tempo real, como o YOLO11 do Ultralytics, podem ser executados nesses dispositivos para detetar vários tipos de objetos e equipamentos. Por exemplo, esses capacetes podem ajudar os bombeiros a detetar pessoas, obstáculos ou perigos em condições de baixa visibilidade.

No entanto, executar modelos de tamanho completo diretamente em dispositivos vestíveis pode causar um desempenho lento e drenar a bateria rapidamente. Nesse caso, usar a integração NCNN é uma escolha inteligente. Ela permite uma inferência de baixa latência e eficiente em termos energéticos.

Classificação de resíduos e lixeiras inteligentes#

Da mesma forma, contentores de lixo inteligentes podem ser integrados com câmaras e processadores de IA edge compactos para identificar e separar materiais à medida que são descartados. Os modelos de IA de visão como o YOLO11 podem ser treinados de forma personalizada para detetar diferentes tipos de materiais de resíduos como papel, plástico, borracha, etc.

Assim que os resíduos são identificados, podem ser separados automaticamente em compartimentos diferentes com base na sua reutilização. Ao usar IA de borda juntamente com modelos YOLO11 do Ultralytics exportados no formato NCNN, estes caixotes conseguem processar dados localmente - sem precisar de uma ligação à internet. Isto permite-lhes operar autonomamente e tomar decisões de triagem em tempo real com o mínimo de atraso.

Fig 4. Detetando materiais de resíduos plásticos usando YOLO11.

Monitoramento de gado usando drones e visão computacional#

Às vezes, áreas agrícolas em locais remotos carecem de acesso a conexões de internet estáveis ou até mesmo energia constante, o que limita sua capacidade de executar aplicações de IA online. Nesses casos, dispositivos de borda e drones podem ser usados para lidar com uma variedade de tarefas.

Um bom exemplo é a monitorização de gado como bovinos, ovinos e aves. Isto pode ser feito utilizando modelos de IA de visão como o YOLO11, que podem ser usados para monitorizar o movimento dos animais, detetar sinais de ferimentos, doenças ou comportamento anormal, e alertar os agricultores quando os animais desaparecem. A integração NCNN também torna possível executar e processar estes dados diretamente em dispositivos edge, tornando-se ideal para análise de imagens e vídeos em explorações agrícolas em áreas remotas ou fora da rede.

Fig 5. Uma vista sobre a utilização do YOLO11 para monitorizar gado.

Principais pontos#

Exportar modelos YOLO11 usando a integração NCNN suportada pela Ultralytics é uma maneira simples de levar a IA de visão para ambientes de baixo consumo. Seja com drones em zonas de desastre, lixeiras de classificação inteligente ou monitoramento de rebanhos em fazendas remotas, YOLO e NCNN permitem inferências de IA em tempo real que são rápidas, eficientes e portáteis. Essa abordagem ajuda a tornar os sistemas de IA mais acessíveis e confiáveis quando é mais importante.

Queres saber mais sobre IA? Explora o nosso repositório do GitHub, conecta-te com a nossa comunidade e consulta as nossas opções de licenciamento para dar início ao teu projeto de computer vision. Descobre como inovações como IA no retalho e computer vision na saúde estão a moldar o futuro nas nossas páginas de soluções.