Usando a integração ONNX para exportar modelos Ultralytics YOLO

Quando as AI solutions começaram a chamar a atenção pela primeira vez, a maioria dos modelos era implantada em servidores potentes em ambientes controlados. No entanto, à medida que a tecnologia avançou, a implantação expandiu-se muito além do data center.

Hoje, modelos de IA rodam em tudo, desde servidores em nuvem e desktops até smartphones e dispositivos de borda. Essa mudança suporta processamento mais rápido, funcionalidade offline e sistemas mais inteligentes que operam mais perto de onde os dados são gerados.

Uma área onde isso é especialmente claro é a computer vision - um ramo da IA que permite às máquinas interpretar dados visuais. Ela está a ser usada para impulsionar aplicações como reconhecimento facial, condução autónoma e análise de vídeo em tempo real. À medida que estes casos de uso crescem, o mesmo acontece com a necessidade de modelos que possam correr sem problemas em diversos tipos de hardware e plataformas.

Mas implantar modelos de visão computacional em uma variedade de alvos de implantação nem sempre é simples. Os dispositivos diferem em termos de hardware, sistemas operacionais e frameworks suportados, tornando a flexibilidade e a compatibilidade essenciais.

É por isso que ter a opção de exportar modelos de visão computacional como o Ultralytics YOLO11 para diferentes formatos é fundamental. Por exemplo, a integração ONNX (Open Neural Network Exchange) suportada pela Ultralytics fornece uma maneira prática de colmatar a lacuna entre o treino e a implantação. O ONNX é um formato aberto que torna os modelos independentes de framework e prontos para implantação em várias plataformas.

Fig 1. O ONNX ajuda-te a pegar num modelo treinado numa framework e a executá-lo noutra facilmente.

Neste artigo, vamos analisar mais de perto a ONNX integration suportada pela Ultralytics e explorar como podes exportar o teu modelo YOLO11 para uma implantação flexível e multiplataforma.

O que são ONNX e ONNX Runtime?#

O Open Neural Network Exchange é um projeto de código aberto que define um formato padrão para modelos de aprendizado de máquina. Originalmente desenvolvido pela Microsoft e pelo Facebook, ele permite que desenvolvedores treinem um modelo em um framework, como PyTorch, e o rodem em outro, como TensorFlow. Isso torna o desenvolvimento de IA mais flexível, colaborativo e acessível, especialmente em campos como visão computacional.

O ONNX fornece um conjunto comum de operadores e um formato de ficheiro unificado, facilitando a transferência de modelos entre diferentes ferramentas, frameworks, runtimes e compiladores. Normalmente, um modelo treinado numa framework não é facilmente compatível com outra - mas com o ONNX, podes exportar o teu modelo uma vez e implantá-lo quase em todo o lado: em CPUs (Central Processing Units), GPUs (Graphics Processing Units), dispositivos móveis ou hardware de edge.

Além disso, o ONNX Runtime é um motor de inferência de alto desempenho desenvolvido especificamente para rodar modelos no formato ONNX. Ele foi projetado para fazer com que modelos ONNX rodem mais rápido e com mais eficiência em uma ampla gama de plataformas - incluindo servidores, dispositivos móveis e hardware de borda. ONNX Runtime é compatível com frameworks populares como PyTorch, TensorFlow, TensorFlow Lite e scikit-learn, tornando fácil a integração em diferentes fluxos de trabalho e a implantação de modelos onde quer que sejam necessários.

Fig 2. O ONNX e o ONNX Runtime permitem a implantação flexível de modelos multiplataforma.

Principais recursos do ONNX#

Antes de discutirmos como export Ultralytics YOLO11 para o formato ONNX, vamos conferir algumas das principais características do formato de modelo ONNX.

Quer você esteja alternando entre ferramentas, implantando em dispositivos diferentes ou atualizando sistemas, o ONNX ajuda a manter tudo funcionando sem problemas. Aqui está o que torna o formato de modelo ONNX único:

• Um formato padrão: ONNX usa uma forma comum de descrever como os modelos são construídos, como camadas e operações (pense neles como blocos de construção). Quando um modelo é convertido para ONNX, ele segue esse padrão para que qualquer sistema que suporte ONNX possa entendê-lo e executá-lo.

• Compatibilidade retroativa: Mesmo enquanto o ONNX continua a melhorar, ele garante que modelos mais antigos ainda funcionem com versões mais novas. Isso significa que você não precisa treinar novamente ou reconstruir seus modelos toda vez que o ONNX recebe uma atualização.

• Design de modelo baseado em grafo: Os modelos ONNX são estruturados como grafos de computação, onde cada nó representa uma operação (como uma camada ou função matemática) e as arestas indicam o fluxo de dados. Esse design baseado em grafo facilita a integração com vários sistemas que utilizam estruturas de grafo computacional semelhantes.

• Ferramentas amigáveis ao desenvolvedor: Ele vem com uma ampla gama de ferramentas que ajudam você a converter, validar e otimizar seus modelos. Essas ferramentas simplificam o processo de movimentação de modelos entre diferentes frameworks e podem acelerar a implantação - especialmente para aplicações de visão computacional.

Uma visão geral da integração ONNX#

A exportação de Ultralytics YOLO models como o Ultralytics YOLO11 no formato ONNX é simples e pode ser feita em poucos passos.

Para começar, instala o Ultralytics Python package utilizando um gestor de pacotes como o ‘pip’. Podes fazê-lo executando o comando “pip install ultralytics” na tua linha de comandos ou terminal para começar.

Com o pacote Ultralytics, podes facilmente treinar, testar, ajustar, exportar e implantar modelos para várias tarefas de visão computacional — tornando todo o processo mais rápido e eficiente. Durante a instalação, se encontrares alguma dificuldade, podes consultar o Common Issues guide para obter soluções e dicas.

Uma vez que o pacote Ultralytics esteja instalado, você pode carregar e exportar o modelo YOLO11 para o formato ONNX usando o código abaixo. Este exemplo carrega um modelo YOLO11 pré-treinado (yolo11n.pt) e o exporta como um arquivo ONNX (yolo11n.onnx), tornando-o pronto para implantação em diferentes plataformas e dispositivos.

Após converter seu modelo para o formato ONNX, você pode implantá-lo em uma variedade de plataformas.

O exemplo abaixo mostra como carregar o modelo YOLO11 exportado (yolo11n.onnx) e executar uma inferência com ele. Fazer inferência significa simplesmente usar o modelo treinado para fazer previsões em novos dados. Neste caso, usaremos o URL de uma imagem de um ônibus para testar o modelo.

Quando você executa este código, a imagem de saída resultante será salva na pasta runs/detect/predict.

Fig 3. A executar uma inferência utilizando o modelo Ultralytics YOLO11 exportado numa imagem.

Quando você deve escolher a integração ONNX?#

O pacote Python da Ultralytics suporta a exporting models para vários formatos, incluindo TorchScript, CoreML, TensorRT e ONNX. Então, porquê escolher o ONNX?

O que torna o ONNX notável é que ele é um formato independente de framework. Enquanto muitos outros formatos de exportação estão ligados a ferramentas ou ambientes específicos, o ONNX usa um formato padronizado e um conjunto compartilhado de operadores. Isso o torna altamente portátil, amigável ao hardware e ideal para implantação multiplataforma - esteja você trabalhando com servidores em nuvem, aplicativos móveis ou dispositivos de borda.

Aqui estão algumas razões pelas quais a integração ONNX pode ser a escolha ideal para os teus projetos com Ultralytics YOLO11:

• Implantação portátil: Uma vez exportado para ONNX, o teu modelo Ultralytics YOLO11 pode ser implantado em várias plataformas sem alterações de código ou novo treinamento.

• Suporte amplo na indústria: O ONNX é suportado pelas principais empresas e frameworks de IA, tornando-o um formato confiável e amplamente aceito. Ele garante compatibilidade de longo prazo, de forma muito parecida com como os PDFs funcionam entre dispositivos.

• Desenvolvimento à prova de futuro: Usar ONNX ajuda a proteger seus investimentos em modelos. À medida que as ferramentas evoluem, o ONNX mantém seus modelos relevantes e utilizáveis, mesmo em ambientes novos ou diferentes.

• Sem aprisionamento tecnológico (vendor lock-in): Algumas ferramentas prendem você a usar apenas o sistema delas, o que pode limitar o que seu modelo pode fazer. O ONNX evita isso, deixando você escolher a plataforma que funciona melhor para suas necessidades, sem ficar preso a uma única configuração.

Aplicações do Ultralytics YOLO11 e do formato de modelo ONNX#

A seguir, vamos explorar algumas aplicações do mundo real onde o Ultralytics YOLO11 pode ser implantado com a ajuda da integração ONNX.

Rastreio de inventário em armazéns utilizando o Ultralytics YOLO11#

Em armazéns movimentados, é difícil ficar de olho em cada produto e pacote o tempo todo. Sistemas de visão computacional podem ajudar os trabalhadores a encontrar produtos nas prateleiras e obter insights como o número de produtos, tipo, etc. Tais sistemas podem ajudar as empresas a gerenciar automaticamente seu vasto estoque e economizar muito tempo dos trabalhadores do armazém.

Especificamente, em smart warehouses, os modelos Ultralytics YOLO11 exportados para ONNX podem ser usados para identificar e contar itens em tempo real usando câmeras e dispositivos edge. O modelo exportado pode ajudar a escanear prateleiras ou paletes para detectar níveis de estoque, itens faltando ou espaços vazios. Como a exportação para ONNX torna o modelo leve e eficiente, ele pode rodar diretamente em pequenos dispositivos edge, como câmeras inteligentes, eliminando a necessidade de servidores caros ou acesso constante à nuvem.

Fig 4. Um exemplo de utilização do YOLO11 para detetar e contar pacotes.

Gestão de resíduos hospitalares com o Ultralytics YOLO11#

Os hospitais de todo o mundo produzem grandes quantidades de resíduos todos os dias, desde luvas e seringas usadas até equipamentos utilizados durante a cirurgia (como ferramentas cirúrgicas descartáveis ou contaminadas, tais como tesouras e bisturis). De facto, a investigação mostra que os hospitais produzem cerca de 5 milhões de toneladas de resíduos todos os anos, o que representa 29 libras de waste per bed por dia.

Fazer a triagem adequada desses resíduos é essencial para a higiene, a segurança e o cumprimento das regulamentações. Com os modelos Ultralytics YOLO11 exportados no formato ONNX, hospitals can automate e monitorar o descarte de resíduos em tempo real.

Por exemplo, câmeras posicionadas perto de lixeiras em áreas como salas de cirurgia ou corredores podem monitorar os itens à medida que são descartados. Um modelo personalizado de Ultralytics YOLO11, treinado para reconhecer diferentes tipos de resíduos médicos, pode analisar a gravação e identificar o que está sendo jogado fora. Se um item parar na lixeira errada, como uma seringa usada no lixo comum, o sistema pode ser configurado para alertar imediatamente a equipe com uma luz ou som, ajudando a prevenir a contaminação e a garantir a conformidade.

Fig 5. Usando Ultralytics YOLO11 para detectar instrumentos médicos.

Monitoramento de lavouras habilitado por Ultralytics YOLO11#

Saber o momento certo para colher as safras pode ter um grande impacto tanto na qualidade do produto quanto na produtividade geral de uma fazenda. Tradicionalmente, os agricultores confiam na experiência e em inspeções manuais - mas com os recentes avanços tecnológicos, isso está começando a mudar.

Agora, com inovações de visão computacional como o YOLO11 exportado no formato ONNX, os agricultores podem trazer automação e precisão para o campo. Utilizando drones ou câmaras montadas em tratores ou postes, os agricultores podem capturar imagens das suas culturas (tais como tomates, maçãs ou trigo). O YOLO11 pode então ser usado para detetar indicadores-chave como cor, tamanho e a distribution of crops. Com base nestas informações, os agricultores podem determinar se as culturas estão prontas para a colheita, ainda a amadurecer ou se já passaram do seu ponto ideal.

Fig 6. O YOLO11 pode ser usado para detetar culturas em filmagens aéreas de drones.

Limitações do ONNX a serem consideradas#

Embora o ONNX ofereça inúmeros benefícios, como portabilidade, compatibilidade multiplataforma e interoperabilidade de framework, existem algumas limitações a serem lembradas:

• Model size: A conversão de modelos para o formato ONNX pode por vezes resultar em tamanhos de ficheiro maiores em comparação com os seus formatos originais. Técnicas como quantization and pruning podem ajudar a mitigar este problema, reduzindo o tamanho do modelo sem afetar significativamente o desempenho.

• Compatibilidade de runtime: Embora o ONNX Runtime seja projetado para compatibilidade multiplataforma, o desempenho e o suporte podem variar entre diferentes hardwares e sistemas operacionais.

• Desafios de depuração: Depurar modelos ONNX pode ser mais complexo do que em frameworks nativos como PyTorch ou TensorFlow. As mensagens de erro podem ser menos descritivas, tornando mais difícil identificar problemas. No entanto, ferramentas como o Netron para visualização de modelos e as capacidades de registro do ONNX Runtime podem ajudar na solução de problemas.

Principais pontos#

Exportar o Ultralytics YOLO11 para ONNX facilita pegar um modelo de visão computacional treinado e implantá-lo em quase qualquer lugar - seja em um laptop, dispositivo móvel ou até mesmo em uma câmera inteligente compacta. Com a integração ONNX, você não fica preso a um único framework ou plataforma, dando a você a flexibilidade de rodar seu modelo no ambiente que melhor se adapta à sua aplicação.

Isso torna a transição do treinamento para a implantação no mundo real mais rápida e eficiente. Quer você esteja rastreando estoque em um armazém ou garantindo que o lixo hospitalar seja descartado corretamente, essa configuração ajuda os sistemas a rodarem de forma mais suave, reduz erros e economiza um tempo valioso.

Queres saber mais sobre visão computacional e IA? Explora o nosso GitHub repository, conecta-te com our community e consulta our licensing options para dar início ao teu projeto de visão computacional. Se estás a explorar inovações como AI in manufacturing e computer vision in the automotive indústria, visita as nossas páginas de soluções para descobrir mais.