Implementação do modelo

A implementação de modelos é o processo crítico de integração de um modelo de aprendizagem automática (ML) treinado num ambiente de produção em tempo real, onde pode receber dados e fornecer previsões. É a fase final do ciclo de vida da aprendizagem automática, transformando um ficheiro de modelo estático numa aplicação funcional e geradora de valor. Sem uma implementação eficaz, mesmo o modelo mais preciso é apenas um exercício académico. O objetivo é tornar o poder de previsão do modelo acessível aos utilizadores finais, às aplicações de software ou a outros sistemas automatizados de uma forma fiável e escalável.

O que é o processo de implementação?

A implantação de um modelo envolve mais do que simplesmente salvar os pesos do modelo treinado. É um processo de várias etapas que garante que o modelo funciona de forma eficiente e fiável no seu ambiente de destino.

1. Otimização de modelos: Antes da implementação, os modelos são frequentemente optimizados em termos de velocidade e tamanho. Técnicas como a quantização de modelos e a poda de modelos reduzem os recursos computacionais necessários para a inferência em tempo real sem uma queda significativa na precisão.
2. Exportação do modelo: O modelo optimizado é então convertido para um formato adequado à plataforma de destino. Os modelos Ultralytics, por exemplo, podem ser exportados para vários formatos como ONNX, TensorRT e CoreML, o que os torna altamente versáteis.
3. Empacotamento: O modelo e todas as suas dependências (como bibliotecas e estruturas específicas) são empacotados juntos. A conteinerização usando ferramentas como o Docker é uma prática comum, pois cria um ambiente autocontido e portátil que garante que o modelo seja executado de forma consistente em todos os lugares.
4. Servir: O modelo empacotado é implementado num servidor ou dispositivo onde pode aceitar pedidos através de uma API. Este componente, conhecido como serviço de modelo, é responsável pelo tratamento dos dados de entrada e pelo retorno das previsões.
5. Monitorização: Após a implementação, a monitorização contínua do modelo é essencial. Isso envolve o acompanhamento de métricas de desempenho, latência e uso de recursos para garantir que o modelo funcione conforme o esperado e para detetar problemas como desvio de dados.

Ambientes de implantação

Os modelos podem ser implementados numa variedade de ambientes, cada um com as suas próprias vantagens e desafios.

• Plataformas de nuvem: Serviços como o Amazon Web Services (AWS), o Google Cloud Platform (GCP) e o Microsoft Azure oferecem uma infraestrutura poderosa e escalável para alojar modelos complexos.
• Servidores no local: As organizações com requisitos rigorosos de privacidade de dados ou que necessitem de controlo total sobre a sua infraestrutura podem implementar modelos nos seus próprios servidores.
• Dispositivos de IA de borda: A IA de borda envolve a implantação de modelos diretamente no hardware local, como smartphones, drones, sensores industriais ou dispositivos especializados, como o NVIDIA Jetson. Essa abordagem é ideal para aplicativos que exigem baixa latência de in ferência e recursos offline.
• Navegadores Web: Os modelos podem ser executados diretamente num navegador Web utilizando estruturas como o TensorFlow.js, permitindo experiências de IA interactivas sem processamento do lado do servidor.

Aplicações no mundo real

• Controlo da qualidade do fabrico: Um modelo YOLO da Ultralytics treinado para deteção de defeitos pode ser implantado num dispositivo de ponta no chão de fábrica. O modelo, optimizado com TensorRT para um elevado rendimento, está integrado com uma câmara com vista para uma correia transportadora. Efectua a deteção de objectos em tempo real para identificar produtos defeituosos, sinalizando instantaneamente um braço robótico para os remover. Todo este processo ocorre localmente, minimizando o atraso da rede e garantindo uma ação imediata. Para mais informações, veja como a IA é aplicada no fabrico.
• Análise de retalho inteligente: Um modelo de visão computacional para contagem e rastreio de pessoas é implementado em servidores na nuvem. Câmeras em uma loja de varejo transmitem vídeo para a nuvem, onde o modelo processa os feeds para gerar mapas de calor de fluxo de clientes e analisar padrões de compras. A aplicação é gerida com Kubernetes para lidar com cargas variáveis de várias lojas, fornecendo informações valiosas para a gestão de inventário e otimização da disposição da loja.

Implantação de modelos, serviço de modelos e MLOps

Embora intimamente relacionados, estes termos são distintos.

• Implementação de modelos vs. Serviço de modelos: A implantação é todo o processo de ponta a ponta de pegar um modelo treinado e torná-lo operacional. O Model Serving é um componente específico da implantação que se refere à infraestrutura responsável por executar o modelo e responder às solicitações de previsão, geralmente por meio de uma API.
• Implementação de modelos vs. MLOps: As operações de aprendizagem automática (MLOps) são um conjunto alargado de práticas que englobam todo o ciclo de vida da IA. A implantação é uma fase crítica dentro da estrutura do MLOps, que também inclui gerenciamento de dados, treinamento de modelos, controle de versão e monitoramento e retreinamento contínuos. Plataformas como o Ultralytics HUB fornecem um ambiente integrado para gerenciar todo esse fluxo de trabalho, desde o treinamento de modelos personalizados até a implantação e o monitoramento contínuos.