Latent Space
Ein latenter Raum ist der komprimierte Raum gelernter Merkmale, in dem ein neuronales Netz ähnliche Eingaben nahe beieinander anordnet. Er wird für Suche und Generierung verwendet.
Ein latenter Raum ist der Raum interner Repräsentationen, den ein Modell für maschinelles Lernen erlernt. Darin wird jede Eingabe zu einem Punkt, meist mit deutlich weniger Dimensionen als die Rohdaten. Eingaben mit ähnlicher Bedeutung liegen nahe beieinander. „Latent“ bedeutet verborgen: Die Koordinaten werden nicht in den Daten gemessen, sondern vom Modell während des Trainings erschlossen. Ein Farbfoto mit 640 × 640 Pixeln enthält 1.228.800 Pixelwerte. Ein Bildmodell kann es als Vektor aus einigen Hundert Zahlen zusammenfassen. In einem gut trainierten Raum sind die nächsten Nachbarn eines Autofotos andere Autos, während Richtungen im Raum Eigenschaften wie Haltung, Farbe oder Stil entsprechen.
Latente Räume funktionieren, weil natürliche Daten stark redundant sind. Die meisten möglichen Pixelanordnungen sehen wie Rauschen aus, und reale Bilder liegen in einem schmalen, gekrümmten Bereich des Pixelraums – eine Idee, die als Mannigfaltigkeitshypothese bekannt ist. Ein neuronales Netzwerk, das Koordinaten entlang dieses Bereichs erlernt, kann jedes Bild mit wenigen Zahlen beschreiben.
Latente Räume, Einbettungen und Merkmalskarten#
Eine Einbettung ist ein einzelner Punkt in einem latenten Raum, also der Vektor für ein Bild, ein Wort oder eine Person. Der latente Raum umfasst alle solchen Punkte und die Abstände zwischen ihnen; „Einbettungsraum“ ist ein Synonym. Merkmalskarten in einem Faltungsnetzwerk sind räumliche latente Repräsentationen mit einem Vektor an jeder Position. Häufig fasst das Modell diese zu einer Einbettung pro Bild zusammen. Auch Verfahren zur Dimensionsreduktion erzeugen latente Räume: Die Hauptkomponentenanalyse (PCA) findet einen linearen Raum, während t-SNE meist dazu dient, einen erlernten latenten Raum zur Darstellung auf zwei Dimensionen zu projizieren.
Wie Modelle einen latenten Raum erlernen#
Ein Autoencoder erlernt einen solchen Raum direkt. Sein Encoder komprimiert jede Eingabe zu einem kurzen Vektor, sein Decoder rekonstruiert die Eingabe daraus. Durch die Minimierung des Rekonstruktionsfehlers muss der Engpass die Merkmale bewahren, die eine Eingabe von einer anderen unterscheiden. Es werden keine Beschriftungen verwendet, dennoch gruppiert der entstehende Raum ähnliche Eingaben, was ein Klassifikator mit k nächsten Nachbarn (KNN) messen kann:
import torch
from sklearn.datasets import load_digits
from sklearn.neighbors import KNeighborsClassifier
from torch import nn
torch.manual_seed(0)
images, labels = load_digits(return_X_y=True) # 1,797 handwritten digits, 8 x 8 = 64 pixels each
x = torch.tensor(images / 16, dtype=torch.float32)
# An autoencoder squeezes 64 pixels through an 8-number bottleneck: the latent space
encoder = nn.Sequential(nn.Linear(64, 32), nn.ReLU(), nn.Linear(32, 8))
decoder = nn.Sequential(nn.Linear(8, 32), nn.ReLU(), nn.Linear(32, 64))
optimizer = torch.optim.Adam([*encoder.parameters(), *decoder.parameters()], lr=0.01)
for _ in range(1000):
loss = (decoder(encoder(x)) - x).square().mean() # reconstruction error, no labels used
optimizer.zero_grad()
loss.backward()
optimizer.step()
# Classify held-out digits by their nearest neighbors in each space
codes = encoder(x).detach().numpy()
for name, features in (("64 pixels", images), ("8 latent values", codes)):
knn = KNeighborsClassifier().fit(features[:1400], labels[:1400])
print(f"{name}: {knn.score(features[1400:], labels[1400:]):.2f} accuracy")Die Ausgabe lautet 64 pixels: 0.97 accuracy und 8 latent values: 0.93 accuracy. Acht erlernte Zahlen pro Bild bewahren genug von der Identität der Ziffer, damit die Klassifizierung nach nächsten Nachbarn fast so gut funktioniert wie mit allen 64 Pixeln – obwohl der Autoencoder keine Beschriftungen gesehen hat.
Variationale Autoencoder, die Diederik Kingma und Max Welling 2013 einführten, kodieren jede Eingabe als Verteilung statt als Punkt. Dadurch wird der Raum glatt genug, um neue Daten daraus zu ziehen und zwischen Beispielen zu interpolieren. Kontrastives Lernen formt einen Raum, indem es passende Paare zusammenführt und andere Paare auseinanderzieht. CLIP wird mit Bild-Untertitel-Paaren trainiert, sodass Bilder und Text denselben latenten Raum teilen. Überwachte Netzwerke erlernen als Nebeneffekt ihrer Aufgabe einen latenten Raum. model.embed() führt bei Ultralytics YOLO26 den Vorhersagemodus aus und liefert einen Vektor pro Bild zurück. Dazu wird die Merkmalskarte der Schicht vor dem Erkennungskopf über alle räumlichen Positionen gemittelt. Diese Repräsentation eignet sich für Gruppierung und Ähnlichkeitssuche.
Wozu latente Räume dienen#
Die Erzeugung ist in einem kompakten Raum kostengünstiger. Latente Diffusionsmodelle führen den Entrauschungsprozess von Diffusionsmodellen auf latenten Repräsentationen statt auf Pixeln aus. Stable Diffusion, das auf der Arbeit zu latenter Diffusion beruht, komprimiert ein RGB-Bild mit 512 × 512 Pixeln mithilfe eines Autoencoders auf eine latente Repräsentation mit 64 × 64 × 4 Werten – also 48-mal weniger Werte. Dadurch wird die Erzeugung hochauflösender Bilder erschwinglich. Generative gegnerische Netzwerke (GANs) bilden zufällige latente Vektoren auf Bilder ab. Bewegt man sich zwischen zwei latenten Punkten, geht ein erzeugtes Gesicht fließend in ein anderes über.
Suche und Erkennung beruhen auf Abstandsmaßen. Systeme für die semantische Suche betten Dokumente oder Bilder einmal ein, speichern die Vektoren in einer Vektordatenbank und geben die Elemente mit der höchsten Kosinusähnlichkeit zur Einbettung einer Suchanfrage zurück. In einem gemeinsamen Bild-Text-Raum wie dem von CLIP klassifiziert Zero-Shot-Lernen ein Bild anhand des Klassennamens, dessen Texteinbettung am nächsten liegt – ohne Trainingsbilder für diese Klasse. Bei der Anomalieerkennung rekonstruiert ein nur mit normalen Teilen trainierter Autoencoder fehlerhafte Teile schlecht. Eingaben, deren Einbettungen weit von der normalen Gruppe entfernt liegen, werden zur Überprüfung markiert.
In einem gut geordneten Raum kodieren Richtungen bestimmte Merkmale. Bei den Wort2vec-Einbettungen, die Tomas Mikolov und seine Kolleginnen und Kollegen 2013 veröffentlichten und die zu den Grundlagen der Verarbeitung natürlicher Sprache (NLP) gehören, liegt der Vektor für „König“ minus „Mann“ plus „Frau“ am nächsten bei „Königin“.










