Latent Space
Um espaço latente é o espaço comprimido de características aprendidas onde uma rede neural coloca entradas semelhantes perto umas das outras; é utilizado para pesquisa e geração.
Um espaço latente é o espaço das representações internas aprendidas por um modelo de aprendizagem automática, no qual cada entrada se torna um ponto, normalmente com muito menos dimensões do que os dados em bruto, e as entradas com significado semelhante ficam próximas umas das outras. «Latente» significa oculto: as coordenadas não são medidas nos dados, mas inferidas pelo modelo durante o treino. Uma fotografia a cores de 640 x 640 contém 1,228,800 valores de píxeis; um modelo de imagem pode resumi-la num vetor com algumas centenas de números e, num espaço bem treinado, os vizinhos mais próximos de uma fotografia de um automóvel são outras fotografias de automóveis, enquanto as direções do espaço correspondem a propriedades como a pose, a cor ou o estilo.
Os espaços latentes funcionam porque os dados naturais são muito redundantes. A maioria das matrizes de píxeis possíveis parece ruído, e as imagens reais ocupam uma região estreita e curva do espaço de píxeis, uma ideia conhecida como a hipótese da variedade. Uma rede neuronal que aprenda coordenadas ao longo dessa região consegue descrever cada imagem com apenas alguns números.
Espaço latente, embeddings e mapas de características#
Um embedding é um único ponto num espaço latente — o vetor de uma imagem, palavra ou utilizador —, e o espaço latente é o conjunto de todos esses pontos e das distâncias entre eles; «espaço de embeddings» é um sinónimo. Os mapas de características dentro de uma rede convolucional são representações latentes espaciais, com um vetor em cada localização, que o modelo muitas vezes agrega num embedding por imagem. Os métodos de redução de dimensionalidade também produzem espaços latentes: a análise de componentes principais (PCA) encontra um espaço linear, e o t-SNE é utilizado sobretudo para projetar um espaço latente aprendido em duas dimensões e representá-lo num gráfico.
Como os modelos aprendem um espaço latente#
Um autoencoder aprende diretamente um espaço latente. O codificador comprime cada entrada num vetor curto, o descodificador reconstrói a entrada a partir desse vetor e a minimização do erro de reconstrução obriga o gargalo a reter as características que distinguem cada entrada das outras. Não são usados rótulos, mas o espaço resultante agrupa entradas semelhantes, algo que um classificador de k vizinhos mais próximos (KNN) consegue medir:
import torch
from sklearn.datasets import load_digits
from sklearn.neighbors import KNeighborsClassifier
from torch import nn
torch.manual_seed(0)
images, labels = load_digits(return_X_y=True) # 1,797 handwritten digits, 8 x 8 = 64 pixels each
x = torch.tensor(images / 16, dtype=torch.float32)
# An autoencoder squeezes 64 pixels through an 8-number bottleneck: the latent space
encoder = nn.Sequential(nn.Linear(64, 32), nn.ReLU(), nn.Linear(32, 8))
decoder = nn.Sequential(nn.Linear(8, 32), nn.ReLU(), nn.Linear(32, 64))
optimizer = torch.optim.Adam([*encoder.parameters(), *decoder.parameters()], lr=0.01)
for _ in range(1000):
loss = (decoder(encoder(x)) - x).square().mean() # reconstruction error, no labels used
optimizer.zero_grad()
loss.backward()
optimizer.step()
# Classify held-out digits by their nearest neighbors in each space
codes = encoder(x).detach().numpy()
for name, features in (("64 pixels", images), ("8 latent values", codes)):
knn = KNeighborsClassifier().fit(features[:1400], labels[:1400])
print(f"{name}: {knn.score(features[1400:], labels[1400:]):.2f} accuracy")Imprime 64 pixels: 0.97 accuracy e 8 latent values: 0.93 accuracy. Oito números aprendidos por imagem preservam informação suficiente sobre a identidade do dígito para que a classificação pelos vizinhos mais próximos se aproxime dos resultados obtidos com os 64 píxeis, apesar de o autoencoder nunca ter visto um rótulo.
Introduzidos por Diederik Kingma e Max Welling em 2013, os autoencoders variacionais codificam cada entrada como uma distribuição em vez de um ponto, o que torna o espaço suficientemente suave para gerar novos dados a partir dele e interpolar entre exemplos. A aprendizagem contrastiva molda um espaço aproximando pares correspondentes e afastando os restantes; o CLIP é treinado com pares de imagem e legenda para que imagens e texto partilhem um espaço latente. As redes supervisionadas aprendem um espaço latente como consequência da tarefa. model.embed() no Ultralytics YOLO26 executa o modo de previsão e devolve um vetor por imagem, calculado pela média do mapa de características da camada anterior à cabeça de deteção em todas as posições espaciais; esta representação é adequada para agrupamento e pesquisa por semelhança.
O que permitem os espaços latentes#
A geração é mais barata num espaço compacto. Os modelos de difusão latente executam o processo de remoção de ruído dos modelos de difusão sobre representações latentes, em vez de píxeis. O Stable Diffusion, baseado no artigo sobre difusão latente, usa um autoencoder para comprimir uma imagem RGB de 512 x 512 numa representação latente de 64 x 64 x 4, com 48 vezes menos valores, tornando acessível a geração de alta resolução. As redes generativas adversariais (GANs) mapeiam vetores latentes aleatórios para imagens; por isso, percorrer o caminho entre dois pontos latentes transforma uma face gerada noutra.
A pesquisa e o reconhecimento funcionam através da medição de distâncias. Os sistemas de pesquisa semântica convertem documentos ou imagens em embeddings uma única vez, armazenam os vetores numa base de dados vetorial e devolvem os elementos com maior semelhança do cosseno em relação ao embedding da consulta. Num espaço partilhado de imagem e texto, como o do CLIP, a aprendizagem sem exemplos (zero-shot) classifica uma imagem pelo nome de classe cujo embedding de texto está mais próximo, sem imagens de treino dessa classe. Na deteção de anomalias, um autoencoder treinado apenas com peças normais reconstrói mal as peças defeituosas, e as entradas cujos embeddings ficam longe do grupo normal são assinaladas para inspeção.
As direções de um espaço bem organizado codificam atributos. Nos embeddings word2vec lançados em 2013 por Tomas Mikolov e colegas, um recurso fundamental do processamento de linguagem natural (NLP), o vetor de «rei» menos «homem» mais «mulher» fica mais próximo de «rainha».










