YOLOのライセンス
Ultralytics用語集に戻る

Latent Space

潜在空間は、学習された特徴を圧縮した空間です。ニューラルネットワークは類似した入力をこの空間上で近くに配置し、検索や生成に利用します。

潜在空間とは、機械学習モデルが学習する内部表現の空間です。各入力は通常、生データよりはるかに少ない次元数の点に変換され、意味が似た入力同士は近くに配置されます。「潜在」とは、隠れているという意味です。座標はデータ内で測定されるのではなく、学習中にモデルが推定します。640 x 640のカラー写真には1,228,800個の画素値がありますが、画像モデルはこれを数百個の値からなるベクトルに要約できます。よく学習された空間では、車の写真の最近傍は別の車であり、空間内の方向が姿勢、色、スタイルなどの特性に対応します。

自然データには大きな冗長性があるため、潜在空間が機能します。ほとんどの画素値の配列はノイズのように見え、実際の画像は画素空間内の薄く湾曲した領域に存在します。これは多様体仮説として知られています。その領域に沿った座標を学習するニューラルネットワークは、各画像を少数の値で表現できます。

潜在空間、埋め込み、特徴マップ#

埋め込みは潜在空間内の1つの点であり、画像、単語、ユーザー1つ分を表すベクトルです。潜在空間は、そのような点全体と点間の距離から構成され、「埋め込み空間」とも呼ばれます。畳み込みネットワーク内の特徴マップは空間的な潜在表現で、各位置にベクトルがあります。モデルはこれをプーリングし、画像ごとに1つの埋め込みにまとめることがよくあります。次元削減手法も潜在空間を生成します。主成分分析(PCA)は線形の潜在空間を求め、t-SNEは主に、学習済みの潜在空間をプロット用に2次元へ射影するために使われます。

モデルが潜在空間を学習する方法#

オートエンコーダーは潜在空間を直接学習します。エンコーダーは各入力を短いベクトルに圧縮し、デコーダーはそのベクトルから入力を再構成します。再構成誤差を最小化することで、ボトルネックに入力同士を区別する情報が保持されます。ラベルを使わなくても、結果として得られる空間では似た入力がまとまります。そのまとまりは、k近傍法(KNN)分類器で測定できます。

import torch
from sklearn.datasets import load_digits
from sklearn.neighbors import KNeighborsClassifier
from torch import nn

torch.manual_seed(0)
images, labels = load_digits(return_X_y=True)  # 1,797 handwritten digits, 8 x 8 = 64 pixels each
x = torch.tensor(images / 16, dtype=torch.float32)

# An autoencoder squeezes 64 pixels through an 8-number bottleneck: the latent space
encoder = nn.Sequential(nn.Linear(64, 32), nn.ReLU(), nn.Linear(32, 8))
decoder = nn.Sequential(nn.Linear(8, 32), nn.ReLU(), nn.Linear(32, 64))
optimizer = torch.optim.Adam([*encoder.parameters(), *decoder.parameters()], lr=0.01)
for _ in range(1000):
    loss = (decoder(encoder(x)) - x).square().mean()  # reconstruction error, no labels used
    optimizer.zero_grad()
    loss.backward()
    optimizer.step()

# Classify held-out digits by their nearest neighbors in each space
codes = encoder(x).detach().numpy()
for name, features in (("64 pixels", images), ("8 latent values", codes)):
    knn = KNeighborsClassifier().fit(features[:1400], labels[:1400])
    print(f"{name}: {knn.score(features[1400:], labels[1400:]):.2f} accuracy")

64 pixels: 0.97 accuracyと8 latent values: 0.93 accuracyが出力されます。画像ごとに学習した8個の数値は、数字の識別に十分な情報を保持しているため、64画素すべてを使った場合に近い精度で最近傍分類できます。オートエンコーダーはラベルを一度も見ていません。

Diederik Kingma氏とMax Welling氏が2013年に発表した変分オートエンコーダーは、各入力を1点ではなく分布としてエンコードします。これにより空間が滑らかになり、新しいデータのサンプリングやサンプル間の補間が可能になります。対照学習は、対応するペアを近づけ、他のペアを遠ざけることで空間を形成します。CLIPは画像とキャプションのペアで学習し、画像とテキストを1つの潜在空間に配置します。教師ありネットワークは、タスクを通じて副次的に潜在空間を学習します。Ultralytics YOLO26のmodel.embed()はpredictモードで実行すると、検出ヘッド直前の層の特徴マップをすべての空間位置で平均し、画像ごとに1つのベクトルを返します。この表現はクラスタリングや類似検索に適しています。

潜在空間で実現できること#

コンパクトな空間での生成は、より低コストです。潜在拡散モデルは、画素ではなく潜在表現上で拡散モデルのノイズ除去処理を行います。潜在拡散の論文を基にしたStable Diffusionは、オートエンコーダーを使って512 x 512のRGB画像を64 x 64 x 4の潜在表現に圧縮します。値の数を48分の1に減らすことで、高解像度画像の生成を手頃なコストで実現します。敵対的生成ネットワーク(GAN)はランダムな潜在ベクトルを画像に変換するため、2つの潜在点の間を移動すると、生成された顔が一方からもう一方へと変化します。

検索と認識では、距離を測定します。セマンティック検索システムは、文書や画像を一度だけ埋め込み、ベクトルをベクトルデータベースに保存し、クエリの埋め込みとのコサイン類似度が最も高い項目を返します。CLIPのような画像とテキストを共有する空間では、ゼロショット学習によって、そのクラスの学習画像がなくても、テキスト埋め込みが最も近いクラス名を使って画像を分類できます。異常検知では、正常な部品だけで学習したオートエンコーダーは不良部品をうまく再構成できません。また、埋め込みが正常なクラスタから大きく離れた入力は、検査対象として検出されます。

よく構成された空間では、方向が属性を表します。2013年にTomas Mikolov氏らが公開したword2vecの埋め込みでは、「king」のベクトルから「man」を引き、「woman」を足すと、「queen」に最も近い位置に到達します。これは自然言語処理(NLP)で広く使われている手法です。

ソリューションを見る

スポーツにおけるコンピュータービジョン

スポーツにおけるコンピュータービジョン

Ultralytics YOLOが、選手やボールの追跡、パフォーマンス分析、コーチングへの知見、アスリートのリハビリを通じて、スポーツビジョンをどのように支えるかをご紹介します。
詳しく見る
航空画像向けコンピュータービジョン

航空画像向けコンピュータービジョン

Ultralytics YOLOを使用して、ドローンや航空画像をリアルタイムの知見に変換し、農業、水産養殖、自然保護、地理空間分析に活用できます。
詳しく見る
航空宇宙分野のコンピュータービジョン

航空宇宙分野のコンピュータービジョン

Ultralytics YOLOを活用して航空宇宙分野でコンピュータビジョンを導入し、航空機検査、滑走路上のFOD検出、空港の地上業務、複合材の欠陥検出に活用できます。
詳しく見る
セキュリティ分野のコンピュータービジョン

セキュリティ分野のコンピュータービジョン

Ultralytics YOLOモデルであらゆる施設を保護しましょう。ビジョンAIは、周辺監視、脅威検知、ナンバープレート認識、職場の安全管理を支援します。
詳しく見る
ロボティクス分野のコンピュータービジョン

ロボティクス分野のコンピュータービジョン

Ultralytics YOLOモデルで、よりスマートなマシンを実現しましょう。ロボティクスにおけるビジョンAIは、自律ナビゲーション、認識、物体追跡、リアルタイム制御を支援します。
詳しく見る
物流におけるコンピュータービジョン

物流におけるコンピュータービジョン

Ultralytics YOLOモデルで物流を効率化しましょう。ビジョンAIにより、荷物検査、仕分け、車両追跡、倉庫のリアルタイム安全監視を実現します。
詳しく見る
小売業におけるコンピュータービジョン

小売業におけるコンピュータービジョン

Ultralytics YOLOモデルで小売のあり方を変革しましょう。ビジョンAIにより、在庫追跡、棚の監視、行列管理、より高度な顧客インサイトを実現します。
詳しく見る
医療分野におけるコンピュータービジョン

医療分野におけるコンピュータービジョン

Ultralytics YOLOモデルで医療ソリューションを構築しましょう。医療分野のビジョンAIは、医用画像処理の高速化、より高度な診断、患者モニタリングを実現します。
詳しく見る
製造業におけるコンピュータービジョン

製造業におけるコンピュータービジョン

Ultralytics YOLOモデルで製造を最適化しましょう。ビジョンAIは、品質管理、欠陥検出、PPE準拠、組立ラインの自動化を推進します。
詳しく見る
自動車分野におけるコンピュータービジョン

自動車分野におけるコンピュータービジョン

Ultralytics YOLOモデルで自動車分野にコンピュータービジョンを導入しましょう。ビジョンAIは、道路の安全性、運転支援、車両の自動化を向上させ、よりスマートな道路を実現します。
詳しく見る
農業におけるコンピュータービジョン

農業におけるコンピュータービジョン

Ultralytics YOLOモデルでスマート農業にビジョンAIを導入しましょう。作物のモニタリング、家畜の追跡、精密農業を支援し、より高く効率的な収量を実現します。
詳しく見る

AIの未来を一緒に築きましょう!

機械学習の未来に向けた歩みを始めましょう