t-distributed Stochastic Neighbor Embedding (t-SNE)

t分布型確率的近傍埋め込み (t-SNE)は、各データポイントに2次元または3次元マップ上の位置を割り当てることで、高次元データを可視化する統計手法です。この非線形な次元削減手法は、数百または数千の特徴量を含むデータセットを探索するために、機械学習で広く使用されています。グローバル構造の保持に重点を置く線形手法とは異なり、t-SNEは類似したインスタンスを近くに配置することに優れており、そうでなければ隠れたままになる可能性のある局所的なクラスターや多様体を明らかにします。そのため、ゲノム研究からディープニューラルネットワークの内部ロジックの理解まで、幅広い用途で非常に有用なツールとなっています。

t-SNEの仕組み#

t-SNEの中核となる考え方は、データポイント間の類似度を同時確率に変換することです。元の高次元空間では、アルゴリズムがガウス分布を使用してポイント間の類似度を測定します。2つのポイントが近い場合、それらが「近傍」である確率は高くなります。次にアルゴリズムは、これらの確率を維持しながら、ポイントを低次元空間（通常は2Dまたは3D）にマッピングしようとします。

これを実現するため、低次元マップ内にスチューデントのt分布を使用した類似の確率分布を定義します。この分布は通常のガウス分布よりも裾が重いため、高次元空間のポイントを低次元に射影した際に互いに重なってしまう「混雑問題」への対処に役立ちます。異なるポイントを可視化上でより遠くに離すことで、t-SNEは基盤となるトレーニングデータの構造を明らかにする、明確で読みやすいクラスターを作成します。アルゴリズムは、高次元と低次元の確率分布間のダイバージェンスを最小化する教師なし学習によって、最適なマップ表現を効果的に学習します。

AIにおける実世界の応用#

t-SNEは、探索的データ分析 (EDA)やモデル診断に使用される標準的なツールです。エンジニアは、モデルが何を学習しているのかを「見る」ことができます。

• コンピュータービジョンの特徴量の検証: YOLO26のようなモデルを使用する物体検出ワークフローでは、ネットワークが見た目の似たクラスを区別できるか確認する必要があります。ネットワークの最終層から特徴マップを抽出し、t-SNEで射影することで、エンジニアは「猫」の画像と「犬」の画像が別々にクラスター化されるかを可視化できます。クラスターが混在している場合、モデルの特徴抽出能力に改善が必要であることを示しています。
• 自然言語処理 (NLP): t-SNEは、単語の埋め込みを可視化するために広く利用されています。高次元の単語ベクトル（多くの場合、300以上の次元）を2Dに射影すると、意味が似ている単語が自然にまとまります。たとえば、t-SNEプロットには「王」、「女王」、「王子」、「君主」を含むクラスターが表示され、自然言語処理 (NLP)モデルが王族という概念を理解していることが示される場合があります。
• ゲノミクスとバイオインフォマティクス: 研究者は、単一細胞RNAシーケンシングデータの可視化にt-SNEを使用します。数千の遺伝子発現値を2Dプロットに削減することで、科学者は異なる細胞タイプを特定し、発生の軌跡を追跡できます。これにより、新たな生物学的知見や疾患マーカーの発見に役立ちます。

PCAとの比較#

t-SNEを、もう1つの一般的な削減手法である主成分分析 (PCA)と区別することが重要です。

• PCAは、データのグローバルな分散の保持に重点を置く線形手法です。決定論的で計算効率に優れているため、初期のデータ圧縮やノイズ削減に適しています。
• t-SNEは、局所近傍の保持に重点を置く非線形手法です。確率的（stochastic）で計算負荷が高くなりますが、複雑な非線形多様体の可視化でははるかに優れた結果を生成します。

データ前処理における一般的なベストプラクティスは、まずPCAを使用してデータを扱いやすいサイズ（例: 50次元）に削減し、その後、最終的な可視化にt-SNEを適用することです。このハイブリッドアプローチにより、計算負荷を軽減し、t-SNEの結果を低下させる可能性のあるノイズを除去できます。

Pythonの例: 特徴量の可視化#

次の例では、scikit-learnを使用して合成データセットにt-SNEを適用する方法を示します。このワークフローは、ディープラーニングモデルから抽出した特徴量を可視化する方法に対応しています。

import matplotlib.pyplot as plt
from sklearn.datasets import make_blobs
from sklearn.manifold import TSNE

# Generate synthetic high-dimensional data (100 samples, 50 features, 3 centers)
X, y = make_blobs(n_samples=100, n_features=50, centers=3, random_state=42)

# Apply t-SNE to reduce dimensions from 50 to 2
# 'perplexity' balances local vs global aspects of the data
tsne = TSNE(n_components=2, perplexity=30, random_state=42)
X_embedded = tsne.fit_transform(X)

# Plot the result to visualize the 3 distinct clusters
plt.scatter(X_embedded[:, 0], X_embedded[:, 1], c=y)
plt.title("t-SNE Projection of High-Dimensional Data")
plt.show()

主な考慮事項#

t-SNEは強力な手法ですが、慎重なハイパーパラメーター調整が必要です。「perplexity」パラメーターは重要で、各ポイントが持つ近傍の数を実質的に推定します。値が低すぎたり高すぎたりすると、誤解を招く可視化結果になる可能性があります。さらに、t-SNEはグローバルな距離を適切に保持しません。つまり、プロット上の2つの異なるクラスター間の距離は、元の空間における実際の距離を必ずしも反映しません。こうした注意点があるにもかかわらず、t-SNEはコンピュータービジョン (CV)アーキテクチャの検証や複雑なデータセットの理解における基盤的な手法であり続けています。大規模なデータセットを管理するユーザーは、このような詳細な分析を行う前に、Ultralytics Platformを活用してデータを整理することがよくあります。