Como exportar modelos Ultralytics YOLO usando a Ultralytics Platform

No mês passado, lançámos a Ultralytics Platform, um espaço de trabalho unificado concebido para simplificar todo o fluxo de trabalho de visão computacional. A plataforma reúne capacidades essenciais de IA para visão, incluindo gestão de conjuntos de dados, anotação, treino de modelos, testes, implementação e monitorização, numa única interface simples e integrada.

Fig. 1. Uma visão geral da Ultralytics Platform (Fonte)

Como parte deste fluxo de trabalho completo, a implementação desempenha um papel crucial ao levar os modelos da experimentação para a utilização no mundo real. Anteriormente, explorámos as diferentes opções de implementação disponíveis na plataforma, incluindo inferência partilhada através de APIs, endpoints dedicados para implementações de produção escaláveis e exportação de modelos para execução em dispositivos periféricos ou numa infraestrutura externa.

Agora, vamos analisar mais detalhadamente a exportação de modelos e como esta permite a implementação em diferentes ambientes. Ao contrário da inferência e dos endpoints dedicados, que executam modelos na infraestrutura gerida pela Ultralytics Platform, a exportação de modelos permite implementar e executar modelos em ambientes externos, como dispositivos periféricos, aplicações móveis e infraestruturas personalizadas.

Antes de poderem ser executados nestes ambientes, os modelos têm de ser convertidos para formatos compatíveis com o runtime de destino. Cada configuração de implementação tem os seus próprios requisitos, desde formatos leves para dispositivos móveis e periféricos até formatos de alto desempenho para sistemas na cloud e baseados em GPU.

Tradicionalmente, este processo pode ser demorado, envolvendo scripts, dependências e várias ferramentas. Com a Ultralytics Platform, a exportação é muito mais simples. Os modelos podem ser convertidos e otimizados com apenas alguns cliques, sem configuração adicional.

Neste artigo, vamos explicar o que significa a exportação de modelos, quais são os formatos compatíveis com a Ultralytics Platform e como escolher o formato certo para o teu caso de utilização. Vamos começar!

Uma visão geral da exportação de modelos#

A exportação de um modelo envolve converter um modelo pré-treinado ou treinado à medida para um formato utilizável fora da sua framework original. Os modelos Ultralytics YOLO são desenvolvidos com PyTorch e armazenados no seu formato nativo, que funciona bem para treino, avaliação e experimentação no ecossistema PyTorch.

No entanto, os ambientes de implementação têm frequentemente runtimes e requisitos de hardware diferentes. Por isso, o formato utilizado durante o treino nem sempre é adequado para a implementação.

Por exemplo, uma aplicação móvel pode exigir um formato leve otimizado para um baixo consumo de energia, enquanto uma aplicação baseada num navegador precisa de um formato que seja executado de forma eficiente em ambientes web.

Os dispositivos periféricos, como câmaras e sistemas embebidos, beneficiam de modelos compactos e rápidos, enquanto os sistemas na cloud são concebidos para inferência de alto desempenho. Para suportar estes diferentes cenários, os modelos têm de ser exportados para formatos compatíveis.

Porque é que a opção de exportar modelos é mais importante do que nunca#

Atualmente, os modelos de visão computacional estão a ser implementados mais perto do local onde os dados são gerados, especialmente em dispositivos periféricos. Os smartphones executam aplicações de visão em tempo real, as câmaras CCTV realizam monitorização no dispositivo e os sistemas autónomos dependem de decisões instantâneas.

No entanto, a implementação nestes ambientes traz o seu próprio conjunto de desafios. Os dispositivos periféricos têm capacidade computacional limitada, requisitos rigorosos de latência e restrições de memória e consumo de energia. Um modelo que tem um bom desempenho durante o treino com recursos suficientes pode não ser executado de forma eficiente nestas condições limitadas.

Exportar um modelo para o formato certo pode ajudar a resolver estes desafios. Ao converter o modelo de forma adequada, é possível otimizá-lo para obter maior velocidade, reduzir o seu tamanho e torná-lo compatível com hardware específico.

Ao mesmo tempo, a exportação proporciona flexibilidade. O mesmo modelo pode ser adaptado a diferentes ambientes de implementação, convertendo-o para vários formatos com base em requisitos específicos.

Fig. 2. Alguns dos formatos de exportação disponíveis na Ultralytics Platform (Fonte)

Por exemplo, o formato de modelo NCNN está otimizado para dispositivos móveis e periféricos com baixo consumo de recursos. Já o formato OpenVINO é adaptado ao hardware Intel e oferece um melhor desempenho em unidades centrais de processamento (CPUs), unidades de processamento gráfico (GPUs) e unidades de processamento neural (NPUs).

Na maioria dos casos, alcançar este nível de flexibilidade implicava lidar com conversões manuais, dependências e várias ferramentas, tornando o processo demorado e complexo. A Ultralytics Platform simplifica este fluxo de trabalho, tornando a exportação de modelos mais acessível e fácil de gerir.

Como a Ultralytics Platform simplifica a exportação de modelos#

Normalmente, a exportação de um modelo é tratada como uma etapa separada e complexa nos fluxos de trabalho de visão computacional. A Ultralytics Platform muda isto ao integrar a opção de exportar um modelo diretamente num único espaço de trabalho que abrange tudo, desde o treino até à implementação.

Uma das suas principais vantagens é a experiência de exportação sem código. Não precisas de escrever scripts, gerir ambientes nem utilizar comandos específicos de uma framework. Os modelos podem ser exportados com apenas alguns cliques através de uma interface simples.

Fig. 3. Um exemplo de exportação de um modelo a partir da Ultralytics Platform (Fonte)

Nos bastidores, a plataforma trata da parte mais complexa. As tarefas que normalmente exigiriam várias ferramentas e configuração manual são simplificadas num único processo. Não precisas de instalar dependências adicionais nem de lidar com problemas de compatibilidade, o que torna muito mais fácil passar de um modelo treinado para uma solução pronta para produção.

Formatos de exportação de modelos compatíveis com a Ultralytics Platform#

A Ultralytics Platform é compatível com 17 formatos de exportação, facilitando a preparação de modelos para uma vasta gama de ambientes de implementação sem complexidade adicional.

Eis uma visão geral de alguns dos formatos de exportação mais utilizados:

• Multiplataforma e interoperabilidade: ONNX e TorchScript são amplamente utilizados para executar modelos em diferentes frameworks e ambientes. ONNX funciona como uma ponte entre ecossistemas, facilitando a transferência de modelos entre ferramentas, enquanto TorchScript permite executar modelos PyTorch em produção sem exigir um runtime Python.
• Inferência de alto desempenho em GPUs: TensorRT foi concebido para GPUs NVIDIA e centra-se na otimização de modelos para baixa latência e elevado débito. É compatível com técnicas como redução de precisão e fusão de camadas para acelerar a inferência, sendo uma excelente opção para aplicações em tempo real e à escala de produção.
• Implementação móvel e periférica: CoreML, LiteRT (TensorFlow Lite) e NCNN estão otimizados para dispositivos com capacidade computacional e memória limitadas. Estes formatos reduzem o tamanho dos modelos e melhoram a eficiência, permitindo um desempenho fluido em smartphones, sistemas embebidos e hardware periférico. CoreML é normalmente utilizado nos ecossistemas Apple, enquanto LiteRT é comum no Android.
• Execução otimizada para hardware: OpenVINO é adaptado ao hardware Intel, incluindo CPUs, GPUs e VPUs, e ajuda a melhorar a velocidade e a eficiência da inferência nesses dispositivos. Formatos específicos para hardware como este são úteis quando precisas de obter o melhor desempenho possível de um determinado sistema.
• Runtimes específicos de frameworks e especializados: Formatos como PaddlePaddle e ExecuTorch são compatíveis com ecossistemas e necessidades de implementação específicos, incluindo a execução eficiente de modelos em dispositivos periféricos ou a integração com determinadas stacks de aprendizagem profunda.

Como exportar um modelo usando a Ultralytics Platform#

Exportar um modelo na Ultralytics Platform é um processo simples baseado na interface de utilizador. Todo o fluxo de trabalho é tratado através da interface, sem necessidade de scripts ou ferramentas de linha de comandos.

Eis como podes exportar um modelo utilizando a plataforma:

• Inicia sessão e escolhe o teu modelo: Acede ao teu projeto e abre o modelo treinado que queres exportar.
• Acede ao separador Exportar: No painel do modelo, clica no separador Exportar para veres as opções de exportação disponíveis.
• Seleciona um formato de exportação: Escolhe um formato como ONNX, TensorRT ou CoreML com base nas tuas necessidades de implementação.
• Configura as definições de exportação (opcional): Ajusta parâmetros como o tamanho da imagem, a precisão ou o tamanho do batch para otimizar o desempenho.
• Inicia o processo de exportação: Clica em “Iniciar exportação” para começar o processo. A plataforma trata automaticamente da conversão.
• Transfere o modelo exportado: Quando a exportação estiver concluída, podes transferir o modelo e utilizá-lo no teu pipeline de implementação.

Fig. 4. Uma vista da configuração das definições de exportação na Ultralytics Platform

Escolher o formato de exportação certo#

Ao explorares os diferentes formatos de exportação compatíveis com a Ultralytics Platform, podes perguntar-te qual deves escolher. A resposta depende realmente de onde e como planeias utilizar o teu modelo.

Eis alguns fatores a considerar:

• Requisitos de latência: Para aplicações em tempo real, como análise de vídeo ou sistemas autónomos, a baixa latência é fundamental. Os formatos otimizados para inferência de alto desempenho, como TensorRT, são frequentemente mais adequados.
• Restrições de hardware: Os dispositivos com memória e capacidade de processamento limitadas, como telemóveis ou sistemas embebidos, exigem formatos leves como LiteRT ou NCNN.
• Tamanho do modelo e consumo de energia: Ao trabalhares com dispositivos periféricos, o tamanho do modelo e o consumo de energia tornam-se importantes. Modelos mais pequenos e otimizados ajudam a garantir um desempenho consistente sem esgotar os recursos.
• Ambiente de implementação: Se o teu modelo tiver de ser executado em diferentes plataformas, formatos como ONNX oferecem flexibilidade. Para casos de utilização específicos de uma plataforma, como aplicações iOS, CoreML é frequentemente a melhor opção.

Não existe um formato universal. Tudo se resume a equilibrar o desempenho, a compatibilidade e as limitações do teu ambiente de destino. A Ultralytics Platform facilita este processo ao permitir experimentar e comparar diferentes formatos sem esforço adicional.

Principais conclusões#

A exportação é uma etapa essencial para preparar o teu modelo para utilização no mundo real em diferentes ambientes. Com a Ultralytics Platform, este processo torna-se muito mais simples, permitindo converter e otimizar modelos sem configuração adicional nem complexidade. Ao escolheres o formato certo para o teu caso de utilização, podes garantir que o teu modelo é executado de forma eficiente onde quer que o implementes.

Junta-te à nossa comunidade em crescimento e consulta o nosso repositório no GitHub para saberes mais sobre visão computacional. Explora as nossas páginas de soluções para saberes mais sobre aplicações como IA na robótica e visão computacional na logística. Descobre as nossas opções de licenciamento e começa a criar com IA para visão!