t-distributed Stochastic Neighbor Embedding (t-SNE)

L'embedding stocastico dei vicini distribuito secondo t (t-SNE) è un metodo statistico per visualizzare dati ad alta dimensionalità, assegnando a ogni punto dati una posizione in una mappa a due o tre dimensioni. Questa tecnica, una forma di riduzione della dimensionalità non lineare, è ampiamente utilizzata nel machine learning per esplorare dataset che contengono centinaia o migliaia di caratteristiche. A differenza dei metodi lineari, che si concentrano sulla conservazione delle strutture globali, t-SNE è particolarmente efficace nel mantenere vicine le istanze simili, rivelando cluster e varietà locali che altrimenti potrebbero rimanere nascosti. Questo lo rende uno strumento prezioso per attività che spaziano dalla ricerca genomica alla comprensione della logica interna delle reti neurali profonde.

Come funziona t-SNE#

L'idea fondamentale alla base di t-SNE consiste nel convertire le somiglianze tra i punti dati in probabilità congiunte. Nello spazio originale ad alta dimensionalità, l'algoritmo misura la somiglianza tra i punti utilizzando una distribuzione gaussiana. Se due punti sono vicini, hanno un'elevata probabilità di essere "vicini". L'algoritmo cerca quindi di mappare questi punti in uno spazio a dimensionalità inferiore, solitamente 2D o 3D, mantenendo tali probabilità.

A questo scopo, definisce una distribuzione di probabilità simile nella mappa a dimensionalità inferiore utilizzando una distribuzione t di Student. Questa distribuzione specifica ha code più pesanti rispetto a una distribuzione gaussiana normale, contribuendo così ad affrontare il "problema dell'affollamento", un fenomeno per cui i punti nello spazio ad alta dimensionalità tendono a collassare l'uno sull'altro quando vengono proiettati in uno spazio inferiore. Allontanando maggiormente i punti dissimili nella visualizzazione, t-SNE crea cluster distinti e leggibili che rivelano la struttura sottostante dei dati di addestramento. L'algoritmo apprende efficacemente la rappresentazione migliore della mappa attraverso l'apprendimento non supervisionato, minimizzando la divergenza tra le distribuzioni di probabilità ad alta e bassa dimensionalità.

Applicazioni reali nell'IA#

t-SNE è uno strumento standard per l'analisi esplorativa dei dati (EDA) e la diagnostica dei modelli. Consente agli ingegneri di "vedere" cosa sta imparando un modello.

• Verifica delle caratteristiche di visione artificiale: nei flussi di lavoro di rilevamento degli oggetti che utilizzano modelli come YOLO26, gli sviluppatori devono spesso verificare se la rete è in grado di distinguere tra classi visivamente simili. Estraendo le mappe delle caratteristiche dagli strati finali della rete e proiettandole con t-SNE, gli ingegneri possono visualizzare se le immagini di "gatti" formano cluster separati da quelle di "cani". Se i cluster sono mescolati, ciò suggerisce che le capacità di estrazione delle caratteristiche del modello devono essere migliorate.
• Elaborazione del linguaggio naturale (NLP): t-SNE è ampiamente utilizzato per visualizzare gli embedding delle parole. Quando i vettori delle parole ad alta dimensionalità, spesso con oltre 300 dimensioni, vengono proiettati in 2D, le parole con significati semantici simili si raggruppano naturalmente. Ad esempio, un grafico t-SNE potrebbe mostrare un cluster contenente "re", "regina", "principe" e "monarca", dimostrando che il modello di elaborazione del linguaggio naturale (NLP) comprende il concetto di regalità.
• Genomica e bioinformatica: i ricercatori utilizzano t-SNE per visualizzare i dati del sequenziamento dell'RNA di singole cellule. Riducendo migliaia di valori di espressione genica in un grafico 2D, gli scienziati possono identificare tipi cellulari distinti e tracciare traiettorie di sviluppo, contribuendo alla scoperta di nuove informazioni biologiche e marcatori di malattia.

Confronto con PCA#

È importante distinguere t-SNE dall'Analisi delle componenti principali (PCA), un'altra tecnica di riduzione comunemente utilizzata.

• PCA è una tecnica lineare che si concentra sulla conservazione della varianza globale dei dati. È deterministica ed efficiente dal punto di vista computazionale, il che la rende eccellente per la compressione iniziale dei dati o la riduzione del rumore.
• t-SNE è una tecnica non lineare incentrata sulla conservazione dei vicinati locali. È probabilistica (stocastica) e più onerosa dal punto di vista computazionale, ma produce visualizzazioni molto migliori per varietà complesse e non lineari.

Una pratica comune consigliata nel preprocessing dei dati consiste nell'utilizzare prima PCA per ridurre i dati a una dimensione gestibile, ad esempio 50 dimensioni, e applicare quindi t-SNE per la visualizzazione finale. Questo approccio ibrido riduce il carico computazionale e filtra il rumore che potrebbe degradare il risultato di t-SNE.

Esempio Python: visualizzazione delle caratteristiche#

L'esempio seguente mostra come utilizzare scikit-learn per applicare t-SNE a un dataset sintetico. Questo flusso di lavoro rispecchia il modo in cui si potrebbero visualizzare le caratteristiche estratte da un modello di deep learning.

import matplotlib.pyplot as plt
from sklearn.datasets import make_blobs
from sklearn.manifold import TSNE

# Generate synthetic high-dimensional data (100 samples, 50 features, 3 centers)
X, y = make_blobs(n_samples=100, n_features=50, centers=3, random_state=42)

# Apply t-SNE to reduce dimensions from 50 to 2
# 'perplexity' balances local vs global aspects of the data
tsne = TSNE(n_components=2, perplexity=30, random_state=42)
X_embedded = tsne.fit_transform(X)

# Plot the result to visualize the 3 distinct clusters
plt.scatter(X_embedded[:, 0], X_embedded[:, 1], c=y)
plt.title("t-SNE Projection of High-Dimensional Data")
plt.show()

Considerazioni principali#

Sebbene sia potente, t-SNE richiede un'attenta ottimizzazione degli iperparametri. Il parametro "perplessità" è fondamentale: in sostanza, stima quanti vicini prossimi abbia ogni punto. Impostarlo su un valore troppo basso o troppo alto può produrre visualizzazioni fuorvianti. Inoltre, t-SNE non conserva bene le distanze globali: ciò significa che la distanza tra due cluster distinti nel grafico non riflette necessariamente la loro distanza fisica nello spazio originale. Nonostante queste caratteristiche, rimane una tecnica fondamentale per convalidare le architetture di visione artificiale (CV) e comprendere dataset complessi. Gli utenti che gestiscono dataset su larga scala sfruttano spesso la Ultralytics Platform per organizzare i propri dati prima di eseguire analisi così approfondite.