Como escolher uma GPU na nuvem para treino de IA de visão na Ultralytics Platform

No mês passado, apresentámos a Ultralytics Platform, um ambiente completo concebido para simplificar todo o fluxo de trabalho de visão computacional, desde a gestão de conjuntos de dados até ao treino e à implementação de modelos. A Ultralytics Platform reúne tudo o que é necessário para criar e dimensionar modelos de IA de visão numa experiência única e unificada.

Uma parte essencial deste fluxo de trabalho é o treino de modelos, no qual as redes neuronais aprendem padrões a partir de dados para fazer previsões precisas, e o acesso aos recursos computacionais adequados desempenha um papel crucial. Anteriormente, explorámos como a Ultralytics Platform suporta o treino de modelos baseado em unidades de processamento gráfico (GPU) na nuvem, permitindo aos utilizadores treinar modelos de visão computacional sem gerir uma infraestrutura local.

Com acesso a pedido a GPUs NVIDIA potentes, utilizadores que vão desde estudantes e startups até investigadores e grandes organizações podem executar cargas de trabalho de IA com mais eficiência do que nunca. Embora começar a treinar na nuvem seja simples, escolher a GPU certa envolve considerar fatores como o tamanho do conjunto de dados, a complexidade do modelo e o custo.

Com uma vasta gama de opções atualmente disponíveis, desde GPUs RTX económicas até ao hardware NVIDIA H100 de alto desempenho e à próxima geração de hardware Blackwell, selecionar a configuração certa pode ter um impacto significativo tanto no desenvolvimento do modelo como no custo.

Neste artigo, vamos analisar o treino com GPUs na nuvem para visão computacional na Ultralytics Platform e como escolher o hardware adequado para a sua carga de trabalho. Vamos começar!

Uma visão geral do treino na nuvem na Ultralytics Platform#

Antes de nos aprofundarmos na seleção de uma GPU para o treino na nuvem na Ultralytics Platform, vamos recuar um pouco e analisar como funciona o treino na nuvem.

O que é o treino na nuvem com GPUs?#

O treino na nuvem com GPUs consiste em utilizar GPUs alojadas num ambiente de computação na nuvem para treinar modelos de aprendizagem automática e aprendizagem profunda, em vez de depender do seu próprio hardware local ou estação de trabalho. Na Ultralytics Platform, isto permite-lhe aceder a GPUs potentes a pedido e executar trabalhos de treino remotamente, sem precisar de configurar a sua própria infraestrutura.

Isto facilita o dimensionamento dos seus recursos com base na sua carga de trabalho. Pode escolher GPUs mais potentes ou aumentar a capacidade conforme necessário, sem ficar limitado pelas capacidades do seu sistema. Pode pensar nisto como aceder a máquinas potentes, ou nós, em centros de dados remotos, que podem ser dimensionados para cima ou para baixo conforme necessário.

Também elimina a necessidade de configurar e manter hardware dispendioso. Não precisa de comprar GPUs, instalar controladores ou lidar com problemas de compatibilidade.

A Ultralytics Platform trata de tudo através de serviços geridos na nuvem, desde o aprovisionamento de recursos à configuração do ambiente, orquestração e execução de trabalhos de treino, para que se possa concentrar no treino, na experimentação e na melhoria dos seus modelos.

Como funciona o treino de modelos na Ultralytics Platform#

Na Ultralytics Platform, o fluxo de trabalho de treino acelerado por GPU é simples. Pode começar por adicionar o seu conjunto de dados de várias formas.

Pode carregar os seus próprios dados, utilizar conjuntos de dados públicos disponíveis na plataforma ou clonar conjuntos de dados partilhados pela comunidade para desenvolver trabalho existente. Clonar um conjunto de dados cria uma cópia no seu espaço de trabalho, permitindo-lhe editá-lo e expandi-lo enquanto mantém o original inalterado.

Depois de selecionar um conjunto de dados, pode rever e organizar as suas imagens e anotações para garantir que tudo está devidamente estruturado. A plataforma também inclui ferramentas de anotação integradas, que lhe permitem etiquetar dados para tarefas como deteção de objetos, segmentação e classificação, ou acelerar o processo com funcionalidades assistidas por IA.

Fig. 1. Visualização de um conjunto de dados na Ultralytics Platform (Fonte)

Em seguida, pode selecionar ou criar um projeto para gerir as suas execuções de treino. Os projetos ajudam-no a organizar e comparar modelos, acompanhar métricas de desempenho e manter experiências relacionadas num só lugar.

A partir daí, pode avançar para o treino na nuvem, onde escolhe um modelo, configura parâmetros e seleciona uma GPU com base nas suas necessidades de desempenho e orçamento. A plataforma trata da infraestrutura de nuvem subjacente por si.

A plataforma aprovisiona a instância de GPU selecionada, prepara o seu conjunto de dados e executa o trabalho de treino na nuvem. À medida que o treino avança, pode monitorizar métricas, registos e o desempenho do sistema em tempo real, sem precisar de gerir a configuração, ambientes CUDA, frameworks como PyTorch ou TensorFlow, nem hardware.

Principais funcionalidades de treino com GPUs na Ultralytics Platform#

Eis algumas funcionalidades essenciais do treino com GPUs na nuvem na Ultralytics Platform:

• Treino com um clique: Inicie trabalhos de treino com uma configuração mínima e passe rapidamente do conjunto de dados ao treino do modelo sem configurações complexas.
• GPUs a pedido: Escolha entre várias opções de GPU com base nas suas necessidades e dimensione os recursos conforme necessário, sem compromissos de longo prazo.
• Monitorização em tempo real: Acompanhe o progresso do treino com gráficos e registos em tempo real e visualize métricas do sistema, como a utilização da GPU e da memória, em tempo real.
• Pontos de verificação automáticos: O progresso do treino é guardado em intervalos regulares, facilitando a retoma ou recuperação do trabalho quando necessário.
• Implementação fácil: Assim que o treino estiver concluído, pode implementar os seus modelos treinados e utilizá-los em aplicações ou fluxos de trabalho através de APIs de inferência partilhadas, endpoints dedicados ou exportando-os para utilização em sistemas externos. Estas opções de implementação permitem uma inferência de baixa latência, tornando possível alimentar aplicações em tempo real, como análise de vídeo, sistemas de automação e soluções interativas de IA.

Diferentes opções de GPUs na nuvem na Ultralytics Platform#

Agora que vimos como funciona o treino na plataforma, vamos analisar as diferentes opções de GPU disponíveis. A GPU que escolher pode afetar a velocidade de treino do seu modelo, o seu desempenho e o respetivo custo.

A Ultralytics Platform oferece uma vasta gama de GPUs, começando por opções como a RTX 2000 Ada e a RTX A4500, passando por GPUs como a RTX 4000 Ada, RTX A5000, RTX 3090 e RTX A6000, e chegando a opções mais potentes, como a RTX 4090 e a RTX PRO 6000.

Fig. 2. Exemplo das diferentes opções de GPU suportadas pela Ultralytics Platform (Fonte)

Para a maioria dos utilizadores, a RTX PRO 6000 é uma escolha predefinida equilibrada. Oferece um desempenho fiável numa variedade de cargas de trabalho sem exigir muitos ajustes. A RTX 4090 é outra opção popular, oferecendo um desempenho sólido pelo seu preço.

Para tarefas mais pequenas, como experiências rápidas, prototipagem ou trabalho com conjuntos de dados leves, GPUs como a RTX 2000 Ada e a RTX A4500 são um bom ponto de partida. À medida que a sua carga de trabalho cresce, opções como a RTX 4000 Ada, RTX A5000 e RTX 3090 proporcionam um desempenho mais consistente para o treino geral.

No nível mais elevado, GPUs como a A100 (Ampere), H100 e H200 (Hopper), e B200 (Blackwell) foram concebidas para cargas de trabalho de grande escala. São mais adequadas para treinar modelos muito grandes, processar conjuntos de dados massivos ou executar trabalhos em que a velocidade e o desempenho são fundamentais.

Compreender os diferentes tipos de GPU e os seus casos de utilização#

Em seguida, vamos analisar como se comparam os diferentes tipos de GPU e onde são mais adequados.

As GPUs RTX da NVIDIA são geralmente mais económicas e são normalmente utilizadas para treino diário, experimentação e cargas de trabalho pequenas a médias. Oferecem um equilíbrio entre desempenho e acessibilidade, sendo adequadas para uma vasta gama de casos de utilização.

Em comparação, GPUs como a A100, A40 e L40 foram concebidas para cargas de trabalho mais exigentes e treinos de maior escala. Proporcionam maior estabilidade e escalabilidade, especialmente ao trabalhar com conjuntos de dados maiores ou modelos mais complexos.

No nível mais elevado, GPUs como a H100 e as baseadas na arquitetura Blackwell da NVIDIA representam hardware de IA mais recente. Foram concebidas para cargas de trabalho de alto desempenho e são normalmente utilizadas para treino de grande escala, investigação avançada ou tarefas urgentes.

A variedade de opções de GPU disponíveis na Ultralytics Platform proporciona flexibilidade para diferentes cargas de trabalho. Dependendo dos seus requisitos, pode começar com configurações mais pequenas e aumentar a escala conforme necessário.

Como escolher a GPU certa na nuvem para o seu projeto#

Ao selecionar uma GPU para o treino na nuvem na Ultralytics Platform, há vários fatores a considerar, incluindo o tamanho do conjunto de dados, a complexidade do modelo e o custo. Vamos analisar cada um destes fatores.

Adequar a potência da GPU ao tamanho do conjunto de dados#

Um dos principais fatores na escolha de uma GPU é o tamanho do seu conjunto de dados, uma vez que este afeta a duração do treino e a capacidade computacional necessária.

Para conjuntos de dados pequenos, normalmente com menos de 1.000 imagens, uma GPU leve como a RTX 2000 é muitas vezes suficiente. Funciona bem para experiências rápidas e execuções de treino mais curtas.

Para conjuntos de dados médios, com cerca de 1.000 a 10.000 imagens, GPUs como a RTX 4090 ou RTX A6000 oferecem um melhor equilíbrio entre desempenho e eficiência, ajudando-o a treinar de forma mais fluida e sem longas esperas.

Para conjuntos de dados maiores, com mais de 10.000 imagens, é provável que precise de hardware mais potente para manter os tempos de treino razoáveis. GPUs como a H100 são mais adequadas para lidar com cargas de trabalho pesadas e aumentar a escala de forma eficaz.

No geral, trata-se de adequar o tamanho do conjunto de dados ao nível de potência computacional e capacidade de processamento paralelo de que precisa.

Escolher uma GPU com base no tamanho e na complexidade do modelo#

Outro fator importante na escolha de uma GPU é o tamanho e a complexidade do seu modelo de IA de visão. Modelos de tamanhos diferentes necessitam de diferentes níveis de potência computacional.

Por exemplo, modelos mais pequenos precisam de menos potência computacional da GPU e podem ser executados de forma eficiente em GPUs como a RTX 2000 Ada, RTX A4500 ou até a RTX 4090, se quiser resultados mais rápidos. Estas GPUs são ideais para experiências rápidas, prototipagem e tarefas mais simples, permitindo-lhe iterar mais rapidamente e testar ideias sem custos computacionais elevados.

Por outro lado, modelos maiores e mais complexos exigem significativamente mais memória e potência de processamento. GPUs como a RTX A6000, RTX PRO 6000 e opções de topo, como a H100, são mais adequadas para estas cargas de trabalho. Conseguem lidar com arquiteturas maiores, reduzir o tempo de treino e evitar problemas de memória, o que é especialmente importante ao trabalhar com imagens de alta resolução, tamanhos de lote grandes ou modelos mais avançados.

Comparar o tamanho do lote e a memória da GPU#

De forma semelhante, o tamanho do lote desempenha um papel importante no treino do modelo. Refere-se ao número de amostras de treino que o modelo processa de cada vez, num único passo.

Tamanhos de lote maiores podem melhorar a eficiência do treino ao processar mais dados de uma só vez, mas também exigem mais memória da GPU (VRAM). Em geral, GPUs com maior largura de banda de memória suportam tamanhos de lote maiores, enquanto GPUs com menos memória podem exigir lotes mais pequenos.

Por exemplo, GPUs como a RTX A6000, RTX PRO 6000 ou A100 conseguem lidar mais facilmente com tamanhos de lote maiores devido à sua maior quantidade de memória, enquanto opções como a RTX 4090 ou RTX 2000 Ada podem exigir tamanhos de lote mais pequenos, dependendo da carga de trabalho.

No entanto, nem sempre é necessário utilizar a GPU maior. GPUs de topo podem melhorar a velocidade e a capacidade, mas também têm custos mais elevados. Em muitos casos, ajustar o tamanho do lote numa GPU mais pequena pode ser uma opção mais eficiente.

Em última análise, o objetivo é encontrar o equilíbrio certo entre o tamanho do lote, a memória disponível da GPU e o custo, com base no seu modelo e conjunto de dados.

O impacto da configuração de treino no desempenho da GPU#

Outro fator que afeta o desempenho da GPU é a configuração de treino. Esta inclui parâmetros como o número de épocas, o tamanho da imagem e outras definições que controlam a forma como um modelo é treinado.

Por exemplo, tamanhos de imagem maiores aumentam a quantidade de computação necessária por passo. Isto pode tornar o treino mais lento e exigir mais potência computacional ou memória para manter um bom desempenho.

Da mesma forma, aumentar o número de épocas prolonga o tempo total de treino, especialmente em hardware menos potente. Uma época corresponde a uma passagem completa por todo o conjunto de dados durante o treino.

Técnicas como o aumento de dados também acrescentam processamento durante o treino. O aumento de dados aplica transformações como inversão, rotação ou redimensionamento para aumentar a diversidade dos dados e melhorar o desempenho do modelo. Embora possa melhorar a robustez do modelo, também pode reduzir a velocidade de treino.

Em geral, GPUs mais potentes conseguem lidar com estas exigências acrescidas de forma mais eficiente, mas o impacto dependerá da configuração geral e da carga de trabalho.

Equilibrar o custo e o tempo de treino#

Ao escolher uma GPU para o seu projeto, existe frequentemente um compromisso entre a velocidade de treino e o preço da GPU.

A Ultralytics Platform facilita a estimativa e a compreensão destes custos antes de iniciar um trabalho de treino. Com base na sua configuração, incluindo o tamanho do conjunto de dados, o modelo e a GPU, pode consultar antecipadamente uma estimativa do custo e da duração do treino.

Fig. 3. A Ultralytics Platform facilita a estimativa e a compreensão dos custos da nuvem. (Fonte)

As GPUs mais rápidas têm normalmente um custo horário mais elevado, mas podem reduzir o tempo total de treino. GPUs como a RTX 4090, RTX PRO 6000 e H100 conseguem geralmente concluir o treino mais rapidamente devido ao seu maior desempenho.

As GPUs mais lentas tendem a ter um custo horário inferior, mas demoram mais tempo a concluir o treino. Por exemplo, GPUs como a RTX 2000 Ada e RTX A4500 são frequentemente utilizadas para cargas de trabalho mais pequenas ou trabalhos de longa duração em que se dá prioridade a um custo mais baixo.

Além disso, algumas das GPUs de topo, como a H200 e a B200, estão disponíveis apenas nos planos Pro ou Enterprise, enquanto a maioria das outras opções também está acessível no nível Free.

Uma análise das estratégias de otimização de custos#

Além de escolher a GPU certa, existem algumas formas práticas de manter os custos de treino sob controlo. Uma das abordagens mais eficazes é começar com pequenas execuções de teste antes de aumentar a escala.

Em vez de avançar diretamente para o treino completo, comece com menos épocas para garantir que a sua configuração funciona conforme esperado. Isto ajuda-o a validar rapidamente os seus dados, anotações e configuração do modelo, evitando gastar tempo e recursos computacionais em execuções que podem não produzir resultados úteis.

À medida que o treino avança, acompanhe as suas métricas e interrompa as execuções antecipadamente se o desempenho estabilizar ou deixar de melhorar. Monitorizar as curvas de treino pode ajudá-lo a decidir se deve continuar ou ajustar a configuração.

Também pode ajustar parâmetros como o tamanho do lote e o tamanho da imagem. Valores mais pequenos reduzem a utilização de memória e de recursos computacionais, tornando mais prático experimentar, testar diferentes configurações ou executar simulações de pequena escala antes de aumentar a escala.

Fig. 4. Visualizações de métricas de treino na Ultralytics Platform (Fonte)

Além disso, a Ultralytics Platform ajuda a simplificar a gestão de custos. Disponibiliza uma estimativa de custos integrada para que possa compreender as despesas previstas antes de iniciar um trabalho.

Com um sistema baseado em créditos e pagamento conforme a utilização, paga apenas pelo tempo computacional que efetivamente utiliza. Isto facilita o cumprimento do orçamento e o aumento da escala quando tiver confiança na sua configuração de treino.

Boas práticas relacionadas com o treino na nuvem com GPUs para visão computacional#

Eis algumas boas práticas a ter em conta para o treino na nuvem com GPUs na Ultralytics Platform:

• Valide os conjuntos de dados antes do treino: Certifique-se de que o seu conjunto de dados está limpo, bem anotado e consistente antes de começar. Detetar problemas atempadamente ajuda a evitar desperdício de recursos computacionais e melhora o desempenho do modelo.
• Execute primeiro experiências rápidas: Comece com pequenas execuções de teste e menos épocas para verificar a sua configuração. Isto ajuda a identificar problemas antecipadamente, sem se comprometer com trabalhos de treino longos e dispendiosos. De certa forma, está a criar um modelo que pode reutilizar e dimensionar quando tudo estiver a funcionar conforme esperado.
• Monitorize as métricas principais: Acompanhe métricas como perda, mAP, precisão e revocação durante todo o treino. Estas métricas funcionam como referências para avaliar o desempenho do modelo e ajudam-no a decidir quando ajustar ou parar.
• Mantenha os pipelines de processamento de dados eficientes: Garanta que o carregamento e o pré-processamento dos dados são eficientes, uma vez que estas funções dependem dos recursos da CPU e podem tornar-se estrangulamentos que afetam o desempenho geral do treino.
• Utilize ferramentas integradas: Utilize gráficos, registos da consola e métricas do sistema para monitorizar o treino em tempo real e tomar rapidamente decisões informadas.

Principais conclusões#

Escolher a GPU certa na nuvem para visão computacional na Ultralytics Platform resume-se a compreender a sua carga de trabalho, incluindo o tamanho do conjunto de dados, a complexidade do modelo e a configuração de treino. Com uma variedade de opções de GPU disponíveis, potenciadas por infraestrutura de nuvem e máquinas virtuais, pode começar com uma escolha equilibrada e aumentar a escala à medida que crescem as suas necessidades de treino ou ajuste fino do modelo. Ao combinar o hardware adequado com boas práticas, como a monitorização e o controlo de custos, pode treinar modelos de inteligência artificial de última geração de forma eficiente, aproveitando ao máximo a flexibilidade da computação de alto desempenho.

Consulte a nossa crescente comunidade e o nosso repositório no GitHub para saber mais sobre visão computacional. Se pretende criar soluções de visão, consulte as nossas opções de licenciamento. Explore as nossas páginas de soluções para saber mais sobre os benefícios da visão computacional na indústria e da IA na agricultura.