Exportação de modelos Ultralytics YOLO11 para o formato de modelo NCNN

As soluções de IA estão a tornar-se mais comuns, mesmo em setores críticos como a gestão de catástrofes, a gestão de resíduos e o combate a incêndios. À medida que a adoção continua a crescer, os modelos de IA estão a ser implementados em ambientes cada vez mais diversificados — não apenas em servidores ou na cloud, mas diretamente em dispositivos que operam no terreno.

Por exemplo, drones e equipamentos com componentes de edge computing alimentados por processadores pequenos podem desempenhar um papel crucial em zonas de catástrofe. Equipados com câmaras térmicas, estes dispositivos podem recolher e analisar dados no local para localizar pessoas presas sob escombros. Isto é possível graças à visão computacional, um ramo da inteligência artificial que interpreta informações visuais de imagens e vídeos.

No entanto, implementar modelos de IA de visão em dispositivos edge não é tão simples como pode parecer. Os modelos de IA precisam de ser otimizados para funcionarem de forma eficiente em hardware com capacidade de computação e memória limitadas. É por isso que frameworks de IA como o NCNN são essenciais. Ajudam a converter e otimizar modelos para um desempenho em tempo real em dispositivos de baixo consumo, sem sacrificar a precisão.

Em particular, os modelos Ultralytics YOLO, como o Ultralytics YOLO11, podem ser facilmente exportados para o formato de modelo NCNN utilizando a integração NCNN compatível com Ultralytics. Converter o YOLO11 para o formato de modelo NCNN permite que o modelo seja executado mais rapidamente, utilize menos memória e funcione sem problemas em diferentes dispositivos, sem perder precisão.

Neste artigo, vamos explorar a integração NCNN compatível com Ultralytics e mostrar como podes exportar o teu modelo YOLO11 para o formato de modelo NCNN. Vamos começar!

Uma visão geral do NCNN: um framework de redes neuronais leve#

O NCNN é um framework de inferência de redes neuronais de código aberto desenvolvido pela Tencent. Foi concebido especificamente para ambientes móveis e edge, permitindo uma inferência de alto desempenho com uma utilização mínima de recursos. Isto torna-o ideal para implementação em dispositivos com recursos limitados, como smartphones, drones e dispositivos IoT (Internet das Coisas).

O framework NCNN ganhou popularidade na comunidade de IA e deep learning devido à sua eficiência, portabilidade e otimização para CPUs móveis (Unidades de Processamento Central). Permite aos programadores executar modelos de redes neuronais em dispositivos económicos com memória e capacidade de processamento limitadas. Concebido para ser simples e flexível, o NCNN é compatível com uma vasta gama de modelos de visão computacional e funciona em várias plataformas, incluindo Android, Linux, iOS e macOS.

Fig. 1. Os modelos no formato NCNN podem ser implementados em várias plataformas.

Principais funcionalidades de otimização de desempenho do NCNN#

Estas são algumas das principais funcionalidades que tornam o NCNN um framework de inferência de redes neuronais relevante e amplamente utilizado:

• Runtime leve e independente do hardware: O framework NCNN está otimizado para executar modelos em CPUs comuns e não requer hardware especializado, como GPUs (Unidades de Processamento Gráfico) ou NPUs (Unidades de Processamento Neural).
• Quantização de modelos: Para aplicações em que a memória e a velocidade são críticas, o NCNN é compatível com métodos de quantização que reduzem o tamanho dos modelos e melhoram o tempo de inferência. Ajuda a executar modelos de IA sem problemas em dispositivos móveis e incorporados.
• Código aberto e acessível: Enquanto framework de código aberto, o NCNN está disponível gratuitamente para qualquer pessoa o utilizar, modificar e melhorar. Isto incentiva a inovação e a adoção generalizada numa variedade de casos de utilização.
• Desenvolvimento e comunidade ativos: O NCNN é mantido ativamente no GitHub pela Tencent e por uma comunidade crescente de programadores, com atualizações regulares e melhorias na compatibilidade dos modelos.

Exportar Ultralytics YOLO11 para o formato de modelo NCNN: um guia rápido#

Agora que já explicámos o que é o NCNN, vamos analisar mais detalhadamente como exportar modelos Ultralytics YOLO11 para o formato NCNN.

Passo 1: Instalar o pacote Python da Ultralytics#

Antes de exportares o modelo, o primeiro passo é instalar o pacote Python da Ultralytics utilizando o instalador de pacotes, pip. Podes fazê-lo executando "pip install ultralytics" no terminal ou na linha de comandos. Se estiveres a trabalhar num Jupyter Notebook ou no Google Colab, adiciona um ponto de exclamação antes do comando, desta forma: "!pip install ultralytics".

O pacote Ultralytics fornece ferramentas para treinar, testar, ajustar e exportar modelos de IA de visão para várias tarefas de visão computacional. Se encontrares algum problema durante a instalação ou ao exportar um modelo, a documentação oficial da Ultralytics e o guia de Problemas comuns são excelentes recursos para resolução de problemas.

Passo 2: Exportar o Ultralytics YOLO11#

Depois de instalares o pacote Ultralytics, podes carregar o teu modelo YOLO11 e exportá-lo para o formato NCNN. O exemplo abaixo utiliza um modelo pré-treinado ("yolo11n.pt") e exporta-o no formato NCNN, guardando o resultado numa pasta chamada "/yolo11n_ncnn_model".

from ultralytics import YOLO

model = YOLO("yolo11n.pt")
model.export(format="ncnn")

O modelo Ultralytics YOLO11 exportado pode então ser implementado em vários dispositivos leves, como smartphones, sistemas incorporados ou plataformas IoT. O processo de implementação também é muito simplificado.

Por exemplo, considera o seguinte fragmento de código, que mostra como carregar o modelo exportado e executar a inferência. Inferência refere-se ao processo de utilizar um modelo treinado para fazer previsões sobre dados novos e desconhecidos. Neste exemplo, o modelo é testado numa imagem de um homem a andar de bicicleta, obtida a partir de um URL publicamente disponível.

ncnn_model = YOLO("./yolo11n_ncnn_model")
results = ncnn_model("https://images.pexels.com/photos/19431209/pexels-photo-19431209/free-photo-of-a-man-riding-a-bike-on-a-road.jpeg?auto=compress&cs=tinysrgb&w=1260&h=750&dpr=2.jpg", save=True)

Depois de executares o código, encontrarás a imagem de saída na pasta "runs/detect/predict".

Fig. 2. Deteção de objetos utilizando um modelo Ultralytics YOLO11 exportado no formato NCNN. Imagem do autor.

Porquê escolher a deteção em tempo real com NCNN#

À medida que exploras as várias integrações compatíveis com Ultralytics, podes reparar que existem várias opções de exportação disponíveis. Então, quando deves escolher o formato NCNN?

O formato de exportação NCNN é uma escolha fiável quando precisas de implementar modelos Ultralytics YOLO11 em dispositivos com recursos limitados. É especialmente útil para aplicações em tempo real que são executadas diretamente no dispositivo, como dispositivos edge, sem necessitarem de uma ligação à cloud. Isto significa que o modelo pode realizar tarefas como a deteção de objetos diretamente no local.

Eis alguns cenários comuns em que o NCNN é uma excelente opção:

• Implementação móvel: O formato NCNN está otimizado para Android e iOS, facilitando a integração de modelos em aplicações móveis para uma inferência rápida no dispositivo e com latência mínima.

• Sistemas incorporados e dispositivos IoT: Se estiveres a implementar em dispositivos como Raspberry Pi ou NVIDIA Jetson, exportar para NCNN pode ajudar a aumentar o desempenho e a capacidade de resposta.

• Implementação em computadores e servidores: Embora o NCNN seja excelente para dispositivos de baixo consumo, também é compatível com Linux, Windows e macOS em ambientes de computadores e servidores. Isto proporciona aos programadores opções flexíveis de implementação.

Fig. 3. Opções de implementação do modelo Ultralytics YOLO11 com NCNN. Imagem do autor.

Casos de utilização da implementação do modelo Ultralytics YOLO11 com NCNN#

De seguida, vamos analisar alguns casos de utilização práticos em que exportar modelos Ultralytics YOLO11 para NCNN pode fazer uma diferença real.

Capacetes de IA de visão para combate a incêndios#

Capacetes de segurança equipados com câmaras e microcomputadores incorporados podem ser utilizados em áreas como a construção e o combate a incêndios para melhorar a segurança e a perceção do ambiente. Modelos de IA de visão em tempo real, como o Ultralytics YOLO11, podem ser executados nestes dispositivos para detetar vários tipos de objetos e equipamentos. Por exemplo, estes capacetes podem ajudar os bombeiros a detetar pessoas, obstáculos ou perigos em condições de baixa visibilidade.

No entanto, executar modelos completos diretamente em dispositivos vestíveis pode causar um desempenho lento e esgotar rapidamente a bateria. Neste caso, utilizar a integração NCNN é uma escolha inteligente. Permite uma inferência de baixa latência e energeticamente eficiente.

Classificação de resíduos e contentores inteligentes#

Da mesma forma, os contentores inteligentes de resíduos podem ser integrados com câmaras e processadores compactos de IA edge para identificar e separar materiais à medida que são descartados. Os modelos de IA de visão, como o YOLO11, podem ser treinados de forma personalizada para detetar diferentes tipos de resíduos, como papel, plástico, borracha, etc.

Depois de os resíduos serem identificados, podem ser separados automaticamente em compartimentos distintos com base na sua reutilização. Ao utilizarem IA edge juntamente com modelos Ultralytics YOLO11 exportados no formato NCNN, estes contentores podem processar dados localmente — sem necessitarem de uma ligação à Internet. Isto permite-lhes funcionar de forma autónoma e tomar decisões de separação em tempo real com um atraso mínimo.

Fig. 4. Deteção de resíduos de plástico utilizando o YOLO11.

Monitorização de gado com drones e visão computacional#

Por vezes, as áreas agrícolas em locais remotos não têm acesso a ligações estáveis à Internet ou sequer a um fornecimento de energia consistente, o que limita a sua capacidade de executar aplicações de IA online. Nestes casos, podem ser utilizados dispositivos edge e drones para realizar várias tarefas.

Um bom exemplo é a monitorização de animais, como gado bovino, ovino e aves de capoeira. Isto pode ser feito utilizando modelos de IA de visão, como o YOLO11, que podem ser utilizados para acompanhar o movimento dos animais, detetar sinais de ferimentos, doenças ou comportamentos anormais e alertar os agricultores quando os animais desaparecem. A integração NCNN também permite executar e processar estes dados diretamente em dispositivos edge, tornando-a uma excelente opção para a análise de imagens e vídeos em explorações agrícolas de zonas remotas ou sem ligação à rede elétrica.

Fig. 5. Uma análise da utilização do YOLO11 para monitorizar animais.

Principais conclusões#

Exportar modelos YOLO11 utilizando a integração NCNN compatível com Ultralytics é uma forma simples de levar a IA de visão a ambientes de baixo consumo. Quer se trate de drones em zonas de catástrofe, contentores inteligentes de separação de resíduos ou monitorização de animais em explorações agrícolas remotas, YOLO e NCNN permitem inferências de IA em tempo real rápidas, eficientes e portáteis. Esta abordagem ajuda a tornar os sistemas de IA mais acessíveis e fiáveis quando são mais necessários.

Queres saber mais sobre IA? Explora o nosso repositório no GitHub, liga-te à nossa comunidade e consulta as nossas opções de licenciamento para começares o teu projeto de visão computacional. Descobre como inovações como a IA no retalho e a visão computacional nos cuidados de saúde estão a moldar o futuro nas nossas páginas de soluções.