Ultralytics : Implementação de modelos de visão computacional em qualquer região

No início desta semana, Ultralytics Ultralytics , um novo ambiente completo concebido para acelerar a implementação de sistemas de visão computacional (CV), simplificando todas as etapas do fluxo de trabalho de IA de visão, desde a preparação de dados e o desenvolvimento de modelos até à implementação.

Uma das principais motivações por trás do desenvolvimento Ultralytics é o facto de que, para que uma solução de visão computacional que permite às máquinas analisar imagens e vídeos passe da ideia à concretização, é necessário mais do que apenas construir um modelo robusto. Depois de um modelo ter sido treinado e ter passado na validação, tem de ser implementado para que as aplicações possam enviar imagens, receber previsões e executar inferências de forma fiável em ambientes reais.

Esta fase do ciclo de vida da aprendizagem automática é aquela em que os modelos de visão computacional ultrapassam a fase experimental e começam a equipar sistemas práticos. Mesmo que as etapas anteriores, como a preparação do conjunto de dados, a anotação, o treino do modelo e os testes, decorram sem problemas, sem uma forma fiável de implementar os modelos, esses resultados não terão qualquer impacto.

A realidade em muitos projetos de visão computacional é que a implementação pode ser uma das etapas mais complexas do fluxo de trabalho. 

As equipas precisam frequentemente de configurar APIs de inferência, gerir recursos de computação, implementar modelos próximos dos utilizadores para reduzir a latência e monitorizar o desempenho assim que os sistemas estão em funcionamento em produção.

Ultralytics simplifica e automatiza este processo, oferecendo várias opções de implementação, incluindo formatos de exportação de modelos, serviços de inferência partilhados e pontos de extremidade dedicados em várias regiões do mundo. Com uma infraestrutura gerida e monitorização integrada, as equipas podem passar facilmente de modelos treinados para sistemas de visão computacional prontos para produção.

Neste artigo, vamos explorar como implementar modelos de visão computacional em qualquer região utilizando pontos de extremidade dedicados na Ultralytics . Vamos começar!

O que é a implementação de modelos de CV?

Antes de nos debruçarmos sobre como implementar modelos de aprendizagem profunda utilizando Ultralytics , vamos compreender melhor o que significa, na prática, a implementação de modelos de visão computacional.

A implementação de modelos de visão computacional é o processo de pegar num modelo treinado e disponibilizá-lo para utilização no mundo real. Em vez de funcionar apenas num ambiente de treino, o modelo é configurado de forma a que as aplicações possam enviar-lhe imagens ou vídeos e receber previsões em troca. 

Por exemplo, um modelo pode detect numa imagem, realizar a segmentação de imagens, identificar artigos num armazém ou reconhecer padrões em imagens de vídeo. Na maioria dos sistemas reais, isto é feito através de uma API ou de um ponto de extremidade de inferência. 

Uma aplicação envia uma imagem para o modelo, o modelo processa-a e devolve uma previsão em milésimos de segundo. É isto que permite que modelos de visão computacional como Ultralytics YOLO , a viabilizar aplicações em tempo real.

Os modelos podem ser implementados em diferentes ambientes, dependendo do caso de utilização. Alguns são executados na nuvem (através de plataformas de nuvem) e podem ser acedidos por várias aplicações, enquanto outros são executados em dispositivos periféricos, tais como câmaras locais, robôs ou sistemas incorporados que necessitam de previsões locais rápidas.

Opções de implementação de modelos de IA na Ultralytics

Embora Ultralytics dê resposta a muitos dos desafios que a comunidade de visão computacional enfrenta, especialmente no que diz respeito à implementação de modelos, ela oferece formas flexíveis de executar a inferência, consoante as necessidades da sua aplicação. 

Eis um breve resumo das opções de implementação de modelos disponíveis na plataforma:

• Exportação de modelos: É possível exportar modelos para 17 formatos diferentes, incluindo ONNX, TensorRT, CoreML e TFLite, o que permite executar modelos numa ampla variedade de ambientes, tais como dispositivos de borda como o Raspberry Pi e NVIDIA , aplicações móveis, contentores Docker e infraestruturas personalizadas.
• Inferência partilhada: a plataforma permite-lhe executar previsões através de um serviço de inferência partilhada gerido, o que é ideal para testar modelos rapidamente 
• Endpoints dedicados: Implemente facilmente modelos como serviços independentes com URLs de API exclusivas que podem ser executadas em 43 regiões globais, com autoescalonamento, monitorização e verificações de integridade integrados para implementações em produção.

Implementação utilizando pontos de extremidade dedicados

Uma das formas mais escaláveis de executar modelos pré-treinados ou modelos de visão computacional personalizados em produção na Ultralytics é através de endpoints dedicados. Um endpoint dedicado permite-lhe implementar um modelo treinado como um serviço independente, para que as aplicações possam enviar-lhe imagens e receber previsões através de uma API.

Em vez de executar um modelo apenas num ambiente de treino ou num notebook local, a sua implementação como um ponto de extremidade torna-o acessível a aplicações reais. Por exemplo, um sistema de armazém poderia enviar imagens de pacotes para deteção de objetos, uma câmara inteligente poderia analisar fotogramas de vídeo ou um sistema robótico poderia utilizar previsões para orientar as suas ações.

Cada ponto de extremidade dedicado funciona como um serviço de utilizador único, o que significa que a infraestrutura que executa o seu modelo não é partilhada com outros utilizadores. Isto proporciona um desempenho mais previsível e facilita a monitorização do comportamento do modelo em produção.

Compreender o funcionamento dos pontos finais de inferência dedicados

Pode considerar um ponto de extremidade dedicado como um serviço alojado para o seu modelo. Ultralytics fornece um URL de ponto de extremidade exclusivo que funciona como ponto de entrada para as aplicações. 

Quando uma aplicação envia um pedido para essa URL, inclui uma imagem e parâmetros opcionais, tais como limiares de confiança ou tamanho da imagem, juntamente com uma chave de API para autenticação.

O serviço executa a inferência na imagem utilizando o seu modelo e devolve as previsões numa resposta estruturada. Esta configuração permite aos programadores integrar modelos de visão computacional em sistemas reais utilizando ferramentas web padrão. 

As aplicações podem enviar pedidos utilizando Python, JavaScript, cURL ou outros clientes HTTP, facilitando a ligação de modelos a painéis de controlo, sistemas robóticos ou aplicações na nuvem. Uma vez que o ponto de extremidade funciona de forma independente, também permite o dimensionamento, a monitorização e a implementação global, ajudando as equipas a criar sistemas de visão computacional fiáveis para produção.

A implementação multirregional melhora a inferência em tempo real

Uma das principais vantagens dos terminais dedicados na Ultralytics é a capacidade de implementar modelos em 43 regiões globais. Estas regiões abrangem várias partes do mundo, incluindo a América do Norte, a América do Sul, a Europa, a Ásia-Pacífico, o Médio Oriente e África.

A implementação de modelos em regiões mais próximas do local onde as aplicações estão a ser executadas ajuda a reduzir a latência, ou seja, o tempo que uma aplicação demora a enviar uma imagem e a receber uma previsão. Também pode ajudar as organizações a cumprir os requisitos de privacidade e residência de dados, mantendo o processamento de dados mais próximo do local onde estes são gerados. 

A baixa latência é importante para muitas aplicações de visão computacional que dependem da inferência em tempo real, tais como sistemas robóticos, dispositivos da Internet das Coisas (IoT), processos de inspeção industrial e infraestruturas de cidades inteligentes.

Por exemplo, se uma aplicação for utilizada principalmente na Europa, a implementação do modelo numa região europeia pode melhorar significativamente os tempos de resposta, em comparação com a execução do modelo numa região distante. 

Como implementar em qualquer região com Ultralytics

A implementação de um modelo numa região específica é simples e, normalmente, demora apenas alguns minutos. A plataforma encarrega-se da configuração da infraestrutura, para que os programadores se possam concentrar na integração do modelo nas suas aplicações. Vamos ver passo a passo o que é necessário fazer.

Passo 1: Treinar ou carregar um modelo

Antes da implementação, é necessário ter um modelo treinado disponível no seu projeto. Pode tratar-se de um modelo treinado diretamente na Ultralytics , de um modelo carregado após ter sido treinado noutro local ou de um modelo clonado a partir de um projeto da comunidade disponível no separador «Explorar», onde os projetos públicos partilhados por outros utilizadores podem ser copiados para a sua conta com um único clique.

Quando o modelo estiver pronto, abra a página do modelo no seu projeto para continuar.

Passo 2: Abra o separador «Implantação»

Aceda ao separador «Implantação» do modelo. Esta secção da plataforma permite-lhe configurar e iniciar implantações.

Nessa página, irá ver uma tabela de regiões e um mapa interativo que mostra os locais de implementação disponíveis em todo o mundo. A plataforma mede a latência a partir da sua localização e classifica as regiões em conformidade, para o ajudar a escolher a região mais adequada.

Passo 3: Escolha uma região de implementação

Selecione uma região com base na localização dos seus utilizadores ou aplicações. A implementação do modelo mais perto da origem dos pedidos pode reduzir significativamente os tempos de resposta.

Passo 4: Implementar o ponto de extremidade

Depois de selecionar a região e confirmar a configuração, pode clicar em «Implementar».

A plataforma prepara então o ambiente de implementação, obtém a imagem do modelo, inicia o serviço e realiza uma verificação de integridade para garantir que o ponto de extremidade está pronto. Este processo demora normalmente cerca de um a dois minutos.

Assim que a implementação estiver concluída, a plataforma gera um URL de ponto de extremidade único que as aplicações podem utilizar para enviar pedidos de inferência.

Passo 6: Comece a enviar pedidos de inferência

Com o ponto de extremidade em execução, as aplicações podem começar a enviar imagens para o modelo utilizando o REST API fornecido e uma chave de API passada no cabeçalho de autorização. O ponto de extremidade processa cada pedido e devolve previsões, tais como objetos detetados, caixas delimitadoras ou outros resultados específicos da tarefa.

Para mais informações sobre a implementação de modelos, consulte a documentação oficial Ultralytics .

Monitorização do desempenho e das métricas do modelo para terminais implementados

Depois de um modelo de visão computacional ser implementado, monitorizar o seu desempenho torna-se uma parte importante da manutenção da fiabilidade e robustez do sistema. Mesmo um modelo bem treinado precisa de ser monitorizado em produção para garantir que continua a responder rapidamente, a processar corretamente os pedidos recebidos e a fornecer previsões precisas.

Ultralytics disponibiliza ferramentas de monitorização integradas que proporcionam às equipas visibilidade sobre o desempenho dos terminais implementados. A página «Implementação» da plataforma funciona como um painel de monitorização, oferecendo uma visão centralizada de todos os terminais em funcionamento, juntamente com métricas essenciais que ajudam track o estado e a utilização track .

Eis algumas das métricas que pode monitorizar através da Plataforma:

• Latência P95: Esta métrica mede o tempo de resposta do lado do servidor no percentil 95 para pedidos de inferência. Permite compreender quanto tempo demora a maioria dos pedidos de inferência e identifica eventuais lentidões no desempenho.
• Taxa de erro: representa a percentagem de pedidos que falharam ou devolveram erros durante o período de monitorização selecionado. A monitorização das taxas de erro permite às equipas detect rapidamente detect nas implementações ou nos pedidos recebidos.
• Total de pedidos: Esta métrica indica o número total de pedidos de inferência processados nos pontos de extremidade implementados durante o período de tempo selecionado (por exemplo, as últimas 24 horas). Ajuda as equipas a compreender os níveis de tráfego e a frequência com que os seus modelos estão a ser utilizados.

Para além destas métricas, a plataforma também disponibiliza verificações do estado dos terminais e registos de implementação. As verificações do estado indicam se um terminal está a responder corretamente, enquanto os registos fornecem informações detalhadas sobre os pedidos recentes e a atividade do sistema.

Principais conclusões

A implementação de modelos de visão computacional é um passo crucial para transformar modelos treinados em sistemas que alimentam aplicações no mundo real. Com Ultralytics , as equipas podem implementar facilmente modelos através de terminais dedicados em 43 regiões globais, executar inferências em tempo real através de APIs e monitorizar o desempenho a partir de um único ambiente. Ao combinar opções de implementação flexíveis, monitorização integrada e infraestrutura escalável, a plataforma ajuda os programadores a passar mais rapidamente de modelos de aprendizagem automática treinados para aplicações fiáveis de visão computacional.

Faça parte da nossa crescente comunidade! Mergulhe em nosso repositório GitHub para saber mais sobre IA. Se você está procurando construir soluções de visão computacional, confira nossas opções de licenciamento. Explore os benefícios da visão computacional na área da saúde e veja como a IA na logística está fazendo a diferença!