Kubernetes

Kubernetes, frequentemente referido como K8s, é uma plataforma de código aberto concebida para automatizar a implementação, o dimensionamento e a gestão de aplicações em contentores. Desenvolvido originalmente pela Google e atualmente mantido pela Fundação para a Computação Nativa na Nuvem (CNCF), o Kubernetes tornou-se o padrão para orquestrar software na nuvem. No contexto da Inteligência Artificial (AI) e da Aprendizagem Automática (ML), funciona como a camada de infraestrutura crítica que permite às equipas de engenharia gerir fluxos de trabalho complexos, desde o treino distribuído até à inferência de produção com alta disponibilidade. Ao abstrair o hardware subjacente, o Kubernetes garante que as aplicações funcionam de forma fiável e eficiente, independentemente de estarem alojadas localmente ou através de fornecedores de nuvem pública.

Arquitetura e conceitos fundamentais#

No seu núcleo, o Kubernetes funciona segundo uma arquitetura de cluster, constituída por um conjunto de máquinas de trabalho chamadas nós. Estes nós executam cargas de trabalho de contentorização, enquanto um plano de controlo gere o estado geral do cluster. A unidade implementável mais pequena no Kubernetes é um "Pod", que encapsula um ou mais contentores que partilham recursos de armazenamento e de rede. Esta abstração é essencial para aplicações de visão computacional, pois permite aos programadores empacotar dependências — como bibliotecas CUDA específicas para Unidades de Processamento Gráfico (GPUs) — num ambiente consistente. Os principais serviços de nuvem, como o Amazon Elastic Kubernetes Service (EKS), o Azure Kubernetes Service (AKS) e o Google Kubernetes Engine (GKE), fornecem versões geridas desta arquitetura, simplificando a carga de manutenção das equipas de ciência de dados.

Por que motivo o Kubernetes é importante para a AI#

O principal valor do Kubernetes em Operações de Aprendizagem Automática (MLOps) reside na sua capacidade de lidar com cargas de trabalho dinâmicas. Os modelos de AI necessitam frequentemente de uma enorme capacidade computacional durante o treino e de baixa latência de inferência durante a implementação.

• Escalabilidade: o Kubernetes utiliza o dimensionamento automático para ajustar os recursos automaticamente. Se ocorrer um aumento repentino do tráfego, o Horizontal Pod Autoscaler pode aumentar o número de pods de inferência para manter a escalabilidade sem intervenção manual.
• Otimização de recursos: a alocação eficiente de hardware dispendioso é crucial. O Kubernetes permite a partilha fracionada de GPUs e a afinidade de nós, garantindo que os modelos de aprendizagem profunda só consomem recursos quando os trabalhos ativos deles necessitam.
• Implementação resiliente: garantir a alta disponibilidade durante a implementação do modelo é essencial. Se um nó falhar, o Kubernetes reinicia automaticamente os pods afetados em nós em boas condições, evitando períodos de indisponibilidade para serviços de API críticos.

Aplicações no mundo real#

O Kubernetes é a espinha dorsal de muitas implementações de AI em grande escala, em vários setores:

1. Gestão de tráfego em cidades inteligentes: um município pode implementar modelos Ultralytics YOLO26 para analisar transmissões de vídeo de milhares de interseções. Com o Kubernetes, o sistema pode aumentar dinamicamente os recursos durante a hora de ponta para lidar com o aumento da carga de deteção de objetos e reduzi-los à noite para diminuir os custos. Esta abordagem é fundamental para os modernos sistemas de gestão de tráfego.

2. Personalização no comércio eletrónico: os retalhistas online utilizam sistemas de recomendação complexos baseados em microsserviços. Um serviço pode tratar da geração de candidatos, enquanto outro gere a reordenação. O Kubernetes orquestra estes serviços distintos, permitindo às equipas atualizar a rede neural de classificação de forma independente, sem interromper toda a experiência de compra, facilitando a integração contínua.

Diferenças entre Kubernetes e Docker#

Um ponto de confusão comum é a relação entre o Kubernetes e o Docker. Não são tecnologias concorrentes, mas sim complementares. O Docker é uma ferramenta para criar e executar contentores individuais (empacotando a aplicação), enquanto o Kubernetes é uma ferramenta para gerir uma frota desses contentores em várias máquinas. Utiliza o Docker para compilar os teus pesos do modelo e o teu código numa imagem e, em seguida, utiliza o Kubernetes para determinar onde, quando e quantas cópias dessa imagem são executadas em produção.

Exemplo: script de inferência para contentorização#

Para implementar um modelo no Kubernetes, os programadores começam normalmente com um script Python que funciona como ponto de entrada do contentor. O código seguinte demonstra uma tarefa de inferência simples utilizando o modelo Ultralytics YOLO26. Este script seria executado dentro de um pod, processando os pedidos recebidos.

from ultralytics import YOLO

# Load the lightweight YOLO26 model
model = YOLO("yolo26n.pt")

# Perform inference on an image source
# In a K8s pod, this would likely process API payloads
results = model("https://ultralytics.com/images/bus.jpg")

# Output the detection count for logging
print(f"Detected {len(results[0].boxes)} objects in the frame.")

Ferramentas e Ecossistema#

O ecossistema Kubernetes inclui uma vasta variedade de ferramentas adaptadas à ciência de dados. O Kubeflow é um toolkit popular dedicado a tornar as implementações de fluxos de trabalho de ML no Kubernetes simples, portáteis e escaláveis. Para monitorizar a integridade do cluster e as métricas das aplicações, os engenheiros recorrem frequentemente ao Prometheus. Para simplificar ainda mais a complexidade do treino e da implementação de modelos nestes ambientes, a Ultralytics Platform oferece uma interface unificada que automatiza a gestão de conjuntos de dados e o treino de modelos, permitindo aos utilizadores exportar modelos prontos para clusters de computação em nuvem. Além disso, gestores de pacotes como o Helm ajudam a gerir aplicações Kubernetes complexas através de charts reutilizáveis.