Latent Space
潜在空間は、学習された特徴を圧縮した空間です。ニューラルネットワークは類似した入力をこの空間上で近くに配置し、検索や生成に利用します。
潜在空間とは、機械学習モデルが学習する内部表現の空間です。各入力は通常、生データよりはるかに少ない次元数の点に変換され、意味が似た入力同士は近くに配置されます。「潜在」とは、隠れているという意味です。座標はデータ内で測定されるのではなく、学習中にモデルが推定します。640 x 640のカラー写真には1,228,800個の画素値がありますが、画像モデルはこれを数百個の値からなるベクトルに要約できます。よく学習された空間では、車の写真の最近傍は別の車であり、空間内の方向が姿勢、色、スタイルなどの特性に対応します。
自然データには大きな冗長性があるため、潜在空間が機能します。ほとんどの画素値の配列はノイズのように見え、実際の画像は画素空間内の薄く湾曲した領域に存在します。これは多様体仮説として知られています。その領域に沿った座標を学習するニューラルネットワークは、各画像を少数の値で表現できます。
潜在空間、埋め込み、特徴マップ#
埋め込みは潜在空間内の1つの点であり、画像、単語、ユーザー1つ分を表すベクトルです。潜在空間は、そのような点全体と点間の距離から構成され、「埋め込み空間」とも呼ばれます。畳み込みネットワーク内の特徴マップは空間的な潜在表現で、各位置にベクトルがあります。モデルはこれをプーリングし、画像ごとに1つの埋め込みにまとめることがよくあります。次元削減手法も潜在空間を生成します。主成分分析(PCA)は線形の潜在空間を求め、t-SNEは主に、学習済みの潜在空間をプロット用に2次元へ射影するために使われます。
モデルが潜在空間を学習する方法#
オートエンコーダーは潜在空間を直接学習します。エンコーダーは各入力を短いベクトルに圧縮し、デコーダーはそのベクトルから入力を再構成します。再構成誤差を最小化することで、ボトルネックに入力同士を区別する情報が保持されます。ラベルを使わなくても、結果として得られる空間では似た入力がまとまります。そのまとまりは、k近傍法(KNN)分類器で測定できます。
import torch
from sklearn.datasets import load_digits
from sklearn.neighbors import KNeighborsClassifier
from torch import nn
torch.manual_seed(0)
images, labels = load_digits(return_X_y=True) # 1,797 handwritten digits, 8 x 8 = 64 pixels each
x = torch.tensor(images / 16, dtype=torch.float32)
# An autoencoder squeezes 64 pixels through an 8-number bottleneck: the latent space
encoder = nn.Sequential(nn.Linear(64, 32), nn.ReLU(), nn.Linear(32, 8))
decoder = nn.Sequential(nn.Linear(8, 32), nn.ReLU(), nn.Linear(32, 64))
optimizer = torch.optim.Adam([*encoder.parameters(), *decoder.parameters()], lr=0.01)
for _ in range(1000):
loss = (decoder(encoder(x)) - x).square().mean() # reconstruction error, no labels used
optimizer.zero_grad()
loss.backward()
optimizer.step()
# Classify held-out digits by their nearest neighbors in each space
codes = encoder(x).detach().numpy()
for name, features in (("64 pixels", images), ("8 latent values", codes)):
knn = KNeighborsClassifier().fit(features[:1400], labels[:1400])
print(f"{name}: {knn.score(features[1400:], labels[1400:]):.2f} accuracy")64 pixels: 0.97 accuracyと8 latent values: 0.93 accuracyが出力されます。画像ごとに学習した8個の数値は、数字の識別に十分な情報を保持しているため、64画素すべてを使った場合に近い精度で最近傍分類できます。オートエンコーダーはラベルを一度も見ていません。
Diederik Kingma氏とMax Welling氏が2013年に発表した変分オートエンコーダーは、各入力を1点ではなく分布としてエンコードします。これにより空間が滑らかになり、新しいデータのサンプリングやサンプル間の補間が可能になります。対照学習は、対応するペアを近づけ、他のペアを遠ざけることで空間を形成します。CLIPは画像とキャプションのペアで学習し、画像とテキストを1つの潜在空間に配置します。教師ありネットワークは、タスクを通じて副次的に潜在空間を学習します。Ultralytics YOLO26のmodel.embed()はpredictモードで実行すると、検出ヘッド直前の層の特徴マップをすべての空間位置で平均し、画像ごとに1つのベクトルを返します。この表現はクラスタリングや類似検索に適しています。
潜在空間で実現できること#
コンパクトな空間での生成は、より低コストです。潜在拡散モデルは、画素ではなく潜在表現上で拡散モデルのノイズ除去処理を行います。潜在拡散の論文を基にしたStable Diffusionは、オートエンコーダーを使って512 x 512のRGB画像を64 x 64 x 4の潜在表現に圧縮します。値の数を48分の1に減らすことで、高解像度画像の生成を手頃なコストで実現します。敵対的生成ネットワーク(GAN)はランダムな潜在ベクトルを画像に変換するため、2つの潜在点の間を移動すると、生成された顔が一方からもう一方へと変化します。
検索と認識では、距離を測定します。セマンティック検索システムは、文書や画像を一度だけ埋め込み、ベクトルをベクトルデータベースに保存し、クエリの埋め込みとのコサイン類似度が最も高い項目を返します。CLIPのような画像とテキストを共有する空間では、ゼロショット学習によって、そのクラスの学習画像がなくても、テキスト埋め込みが最も近いクラス名を使って画像を分類できます。異常検知では、正常な部品だけで学習したオートエンコーダーは不良部品をうまく再構成できません。また、埋め込みが正常なクラスタから大きく離れた入力は、検査対象として検出されます。
よく構成された空間では、方向が属性を表します。2013年にTomas Mikolov氏らが公開したword2vecの埋め込みでは、「king」のベクトルから「man」を引き、「woman」を足すと、「queen」に最も近い位置に到達します。これは自然言語処理(NLP)で広く使われている手法です。










