Cloud Computing

A computação em nuvem é a disponibilização sob demanda de recursos computacionais, incluindo servidores, armazenamento, bancos de dados, redes, GPUs e aplicativos de software completos, pela internet a partir dos centros de dados de um provedor, com cobrança baseada no uso. O Instituto Nacional de Padrões e Tecnologia dos EUA definiu o conceito em 2011 na NIST SP 800-145, com cinco características essenciais: autoatendimento sob demanda, amplo acesso à rede, agrupamento de recursos entre vários clientes, elasticidade rápida e serviço mensurado. A Amazon Web Services lançou seus serviços de armazenamento S3 e computação EC2 em 2006, e AWS, Microsoft Azure e Google Cloud são hoje os maiores provedores. Para a inteligência artificial, a nuvem transforma aceleradores caros em um recurso que pode ser alugado por uma tarde, permitindo que a maioria das equipes treine modelos grandes sem possuir um centro de dados.

Modelos de serviço e implantação#

Os modelos de serviço diferem na quantidade de componentes da pilha gerenciados pelo provedor:

• Infraestrutura como serviço (IaaS): Máquinas virtuais, armazenamento em blocos e redes, com o cliente gerenciando o sistema operacional, os drivers e o software. Máquinas virtuais com GPU, como as instâncias Amazon EC2 P5, são IaaS.
• Plataforma como serviço (PaaS): Ambientes de execução, bancos de dados e clusters Kubernetes gerenciados, nos quais o cliente implanta o código e o provedor cuida dos servidores e das atualizações. Plataformas de ML gerenciadas, como Amazon SageMaker, Google Vertex AI e Azure Machine Learning, acrescentam tarefas de treinamento e endpoints de modelos.
• Computação sem servidor: Funções ou contêineres que iniciam a cada solicitação, reduzem a escala a zero quando estão ociosos e são cobrados por solicitação e tempo de execução; um modelo mais recente que oculta totalmente os servidores.
• Software como serviço (SaaS): Aplicativos completos usados em um navegador ou por meio de uma API, sem nada para o cliente operar.

A NIST também define quatro modelos de implantação: nuvens públicas compartilhadas por muitos clientes, nuvens privadas operadas para uma organização, nuvens comunitárias compartilhadas por organizações com requisitos comuns e nuvens híbridas que combinam esses modelos. Em todos eles, os provedores seguem um modelo de responsabilidade compartilhada: o provedor protege os centros de dados físicos e a camada de virtualização, e o cliente é responsável pelas identidades, configurações e segurança dos dados.

Computação em nuvem para IA#

O treinamento é a parte da IA que mais exige computação. Provedores de nuvem alugam GPUs individuais ou clusters de aceleradores NVIDIA H100, H200 e B200 conectados por interconexões de alta largura de banda para treinamento distribuído, e o Google Cloud também oferece suas próprias TPUs. A capacidade ociosa custa menos: as instâncias AWS Spot custam até 90% menos que os preços sob demanda, mas podem ser retomadas com dois minutos de aviso; por isso, as tarefas que as usam salvam pontos de verificação dos pesos do modelo com frequência suficiente para retomar o trabalho.

A localização dos dados influencia os custos da nuvem. Os conjuntos de dados ficam no armazenamento de objetos, muitas vezes organizados como um lago de dados, e os provedores cobram taxas de saída pelos dados que deixam sua rede, enquanto a entrada costuma ser gratuita; por isso, a computação de treinamento tende a ser executada na mesma região que os big data que utiliza. Na inferência, modelos empacotados como contêineres Docker são executados em endpoints gerenciados para servir modelos ou em clusters Kubernetes que adicionam ou removem réplicas conforme o tráfego muda — a elasticidade rápida da definição da NIST —, e regiões próximas aos usuários mantêm baixa a latência de inferência. As plataformas de ML na nuvem também hospedam as ferramentas de MLOps associadas para acompanhamento de experimentos, registros de modelos e monitoramento de modelos.

A Ultralytics Platform aplica esse modelo de pagamento por uso ao treinamento YOLO: o treinamento na nuvem oferece 26 tipos de GPU, desde uma RTX 2000 Ada de 16 GB até uma B300 de 288 GB, cobra pelo tempo de GPU realmente usado em uma execução e, quando a GPU selecionada está sem capacidade, sugere a opção disponível mais próxima, priorizando a VRAM, depois a velocidade e, por fim, o preço.

Computação em nuvem versus computação de borda#

A computação de borda processa dados nos dispositivos que os produzem ou perto deles, como câmeras, robôs e gateways, evitando a ida e volta pela rede até um centro de dados e continuando a funcionar quando a conexão cai. A computação em nuvem centraliza capacidade elástica para as tarefas que mais precisam dela: treinamento, processamento em lote de grandes volumes, armazenamento de longo prazo e serviços cujos usuários toleram dezenas de milissegundos de atraso na rede. A maioria dos sistemas de visão computacional combina as duas abordagens. Um modelo treinado em GPUs na nuvem é exportado para um formato compacto, como ONNX ou TensorRT, e executado como IA de borda no dispositivo; o dispositivo envia detecções e imagens selecionadas de volta à nuvem, onde elas se tornam dados de treinamento para a próxima versão do modelo.