t-distributed Stochastic Neighbor Embedding (t-SNE)

A incorporação de vizinhos estocástica com distribuição t (t-SNE) é um método não linear de redução de dimensionalidade que posiciona pontos de dados de alta dimensão em um mapa bidimensional ou tridimensional, de modo que pontos vizinhos no espaço original continuem vizinhos no mapa. Laurens van der Maaten e Geoffrey Hinton a apresentaram em um artigo de 2008 no Journal of Machine Learning Research. É uma ferramenta padrão para a visualização de dados de embeddings, atributos de imagens e dados de expressão gênica de célula única, nos quais centenas de dimensões ocultam grupos que um gráfico de dispersão 2D torna visíveis.

Como funciona o t-SNE#

O t-SNE transforma distâncias em probabilidades nos dois espaços e, em seguida, move os pontos no mapa até que os dois conjuntos de probabilidades coincidam:

• Similaridades de alta dimensão: Para cada ponto, o t-SNE posiciona uma distribuição gaussiana sobre as distâncias até todos os outros pontos e as converte em probabilidades de escolher cada um deles como vizinho. A largura de cada gaussiana é ajustada para que a perplexidade da distribuição, aproximadamente o número efetivo de vizinhos, corresponda a um valor definido pelo usuário; assim, regiões densas recebem gaussianas estreitas e regiões esparsas recebem gaussianas largas.
• Similaridades de baixa dimensão: No mapa, as similaridades vêm de uma distribuição t de Student com um grau de liberdade, cujas caudas pesadas permitem que pontos moderadamente distantes fiquem bem separados. Isso alivia o problema de aglomeração: um mapa 2D tem espaço insuficiente para acomodar todos os vizinhos moderadamente próximos que um ponto de alta dimensão pode ter.
• Otimização: O gradiente descendente move os pontos do mapa para minimizar a divergência de Kullback-Leibler entre as duas distribuições. Uma fase de exagero inicial multiplica as similaridades de alta dimensão, por 12 no scikit-learn, para que os agrupamentos naturais formem grupos compactos e bem separados logo no início.

O t-SNE exato compara todos os pares de pontos, então seu custo cresce quadraticamente com o conjunto de dados. A aproximação de Barnes-Hut, padrão no scikit-learn, reduz esse custo para O(N log N) em mapas 2D e 3D, e implementações aceleradas por FFT, como openTSNE, lidam com milhões de pontos.

Perplexidade e interpretação de um gráfico t-SNE#

A perplexidade é a configuração principal. Valores entre 5 e 50 são comuns, o padrão do scikit-learn é 30 e o valor precisa ser menor que o número de pontos. Uma perplexidade baixa enfatiza a estrutura muito local e pode dividir um grupo em fragmentos, enquanto uma perplexidade alta mistura grupos vizinhos e mostra mais da disposição global. Como a otimização não é convexa, diferentes sementes aleatórias podem produzir mapas diferentes.

Três propriedades tornam os gráficos t-SNE fáceis de interpretar incorretamente. Os tamanhos dos grupos no mapa dizem pouco sobre a dispersão dos agrupamentos originais, pois o t-SNE expande grupos densos e contrai os esparsos. As distâncias entre os agrupamentos também não são confiáveis e, com perplexidade baixa, até mesmo ruído aleatório pode parecer formar agrupamentos. O TSNE do scikit-learn também não tem um método transform, então um mapa ajustado não consegue posicionar novos pontos sem ser recalculado, e as coordenadas do t-SNE raramente são usadas como atributos de entrada para outros modelos.

t-SNE vs. PCA e UMAP#

A análise de componentes principais (PCA) é linear e determinística, preserva as direções de maior variância global e projeta novos pontos instantaneamente. O t-SNE é não linear e estocástico e preserva vizinhanças locais. Os dois são frequentemente combinados: reduzir dados de dimensão muito alta para cerca de 50 dimensões com PCA antes de executar o t-SNE suprime o ruído e acelera o cálculo; além disso, o t-SNE do scikit-learn inicializa o mapa com PCA por padrão, preservando melhor a disposição global. O UMAP, apresentado em 2018, também constrói um grafo de vizinhanças, costuma ser mais rápido em conjuntos de dados grandes, geralmente preserva mais a estrutura global e consegue incorporar novos pontos em um mapa existente.

Este exemplo projeta em 2D os dígitos manuscritos de 64 pixels incluídos no scikit-learn usando os dois métodos e mede a confiabilidade, isto é, até que ponto os vizinhos mais próximos de cada ponto no mapa também eram seus vizinhos em 64 dimensões:

from sklearn.datasets import load_digits
from sklearn.decomposition import PCA
from sklearn.manifold import TSNE, trustworthiness

# 1,797 handwritten digits, each an 8x8 image flattened to 64 features
X, y = load_digits(return_X_y=True)

# Project to 2D with a linear method and with t-SNE
X_pca = PCA(n_components=2).fit_transform(X)
X_tsne = TSNE(n_components=2, perplexity=30, random_state=0).fit_transform(X)

# Trustworthiness near 1.0 means a point's 2D neighbors were also its 64D neighbors
print(f"PCA trustworthiness:   {trustworthiness(X, X_pca, n_neighbors=10):.3f}")
print(f"t-SNE trustworthiness: {trustworthiness(X, X_tsne, n_neighbors=10):.3f}")

O script mostra 0.830 para PCA e 0.993 para t-SNE. Comprimir 64 dimensões em duas direções lineares posiciona muitos pontos ao lado de dígitos que estavam distantes deles em 64 dimensões, enquanto o mapa t-SNE preserva quase todas as relações originais entre os 10 vizinhos mais próximos.

Aplicações no mundo real#

• Inspeção de atributos aprendidos: Projetar as saídas de extração de atributos de uma rede mostra se classes visualmente semelhantes formam grupos separados. Os modelos YOLO26 retornam um vetor de atributos por imagem por meio de model.embed(), obtido por padrão da penúltima camada; um mapa t-SNE desses vetores mostra como um modelo treinado de forma personalizada separa suas classes.
• Curadoria de conjuntos de dados: Imagens posicionadas na ilha de outra classe costumam estar rotuladas incorretamente, e grupos compactos de pontos quase idênticos indicam duplicatas.
• Embeddings de palavras e documentos: Mapas de vetores de palavras posicionam palavras relacionadas, como nomes de países ou números, em grupos vizinhos.
• Genômica de célula única: Pesquisadores reduzem a expressão de milhares de genes por célula para 2D para identificar tipos celulares — uma análise em que o t-SNE foi por muito tempo o padrão, antes de muitos grupos migrarem para UMAP.