YOLO lizenzieren
Zurück zum Ultralytics-Glossar

Latent Space

Ein latenter Raum ist der komprimierte Raum gelernter Merkmale, in dem ein neuronales Netz ähnliche Eingaben nahe beieinander anordnet. Er wird für Suche und Generierung verwendet.

Ein latenter Raum ist der Raum interner Repräsentationen, den ein Modell für maschinelles Lernen erlernt. Darin wird jede Eingabe zu einem Punkt, meist mit deutlich weniger Dimensionen als die Rohdaten. Eingaben mit ähnlicher Bedeutung liegen nahe beieinander. „Latent“ bedeutet verborgen: Die Koordinaten werden nicht in den Daten gemessen, sondern vom Modell während des Trainings erschlossen. Ein Farbfoto mit 640 × 640 Pixeln enthält 1.228.800 Pixelwerte. Ein Bildmodell kann es als Vektor aus einigen Hundert Zahlen zusammenfassen. In einem gut trainierten Raum sind die nächsten Nachbarn eines Autofotos andere Autos, während Richtungen im Raum Eigenschaften wie Haltung, Farbe oder Stil entsprechen.

Latente Räume funktionieren, weil natürliche Daten stark redundant sind. Die meisten möglichen Pixelanordnungen sehen wie Rauschen aus, und reale Bilder liegen in einem schmalen, gekrümmten Bereich des Pixelraums – eine Idee, die als Mannigfaltigkeitshypothese bekannt ist. Ein neuronales Netzwerk, das Koordinaten entlang dieses Bereichs erlernt, kann jedes Bild mit wenigen Zahlen beschreiben.

Latente Räume, Einbettungen und Merkmalskarten#

Eine Einbettung ist ein einzelner Punkt in einem latenten Raum, also der Vektor für ein Bild, ein Wort oder eine Person. Der latente Raum umfasst alle solchen Punkte und die Abstände zwischen ihnen; „Einbettungsraum“ ist ein Synonym. Merkmalskarten in einem Faltungsnetzwerk sind räumliche latente Repräsentationen mit einem Vektor an jeder Position. Häufig fasst das Modell diese zu einer Einbettung pro Bild zusammen. Auch Verfahren zur Dimensionsreduktion erzeugen latente Räume: Die Hauptkomponentenanalyse (PCA) findet einen linearen Raum, während t-SNE meist dazu dient, einen erlernten latenten Raum zur Darstellung auf zwei Dimensionen zu projizieren.

Wie Modelle einen latenten Raum erlernen#

Ein Autoencoder erlernt einen solchen Raum direkt. Sein Encoder komprimiert jede Eingabe zu einem kurzen Vektor, sein Decoder rekonstruiert die Eingabe daraus. Durch die Minimierung des Rekonstruktionsfehlers muss der Engpass die Merkmale bewahren, die eine Eingabe von einer anderen unterscheiden. Es werden keine Beschriftungen verwendet, dennoch gruppiert der entstehende Raum ähnliche Eingaben, was ein Klassifikator mit k nächsten Nachbarn (KNN) messen kann:

import torch
from sklearn.datasets import load_digits
from sklearn.neighbors import KNeighborsClassifier
from torch import nn

torch.manual_seed(0)
images, labels = load_digits(return_X_y=True)  # 1,797 handwritten digits, 8 x 8 = 64 pixels each
x = torch.tensor(images / 16, dtype=torch.float32)

# An autoencoder squeezes 64 pixels through an 8-number bottleneck: the latent space
encoder = nn.Sequential(nn.Linear(64, 32), nn.ReLU(), nn.Linear(32, 8))
decoder = nn.Sequential(nn.Linear(8, 32), nn.ReLU(), nn.Linear(32, 64))
optimizer = torch.optim.Adam([*encoder.parameters(), *decoder.parameters()], lr=0.01)
for _ in range(1000):
    loss = (decoder(encoder(x)) - x).square().mean()  # reconstruction error, no labels used
    optimizer.zero_grad()
    loss.backward()
    optimizer.step()

# Classify held-out digits by their nearest neighbors in each space
codes = encoder(x).detach().numpy()
for name, features in (("64 pixels", images), ("8 latent values", codes)):
    knn = KNeighborsClassifier().fit(features[:1400], labels[:1400])
    print(f"{name}: {knn.score(features[1400:], labels[1400:]):.2f} accuracy")

Die Ausgabe lautet 64 pixels: 0.97 accuracy und 8 latent values: 0.93 accuracy. Acht erlernte Zahlen pro Bild bewahren genug von der Identität der Ziffer, damit die Klassifizierung nach nächsten Nachbarn fast so gut funktioniert wie mit allen 64 Pixeln – obwohl der Autoencoder keine Beschriftungen gesehen hat.

Variationale Autoencoder, die Diederik Kingma und Max Welling 2013 einführten, kodieren jede Eingabe als Verteilung statt als Punkt. Dadurch wird der Raum glatt genug, um neue Daten daraus zu ziehen und zwischen Beispielen zu interpolieren. Kontrastives Lernen formt einen Raum, indem es passende Paare zusammenführt und andere Paare auseinanderzieht. CLIP wird mit Bild-Untertitel-Paaren trainiert, sodass Bilder und Text denselben latenten Raum teilen. Überwachte Netzwerke erlernen als Nebeneffekt ihrer Aufgabe einen latenten Raum. model.embed() führt bei Ultralytics YOLO26 den Vorhersagemodus aus und liefert einen Vektor pro Bild zurück. Dazu wird die Merkmalskarte der Schicht vor dem Erkennungskopf über alle räumlichen Positionen gemittelt. Diese Repräsentation eignet sich für Gruppierung und Ähnlichkeitssuche.

Wozu latente Räume dienen#

Die Erzeugung ist in einem kompakten Raum kostengünstiger. Latente Diffusionsmodelle führen den Entrauschungsprozess von Diffusionsmodellen auf latenten Repräsentationen statt auf Pixeln aus. Stable Diffusion, das auf der Arbeit zu latenter Diffusion beruht, komprimiert ein RGB-Bild mit 512 × 512 Pixeln mithilfe eines Autoencoders auf eine latente Repräsentation mit 64 × 64 × 4 Werten – also 48-mal weniger Werte. Dadurch wird die Erzeugung hochauflösender Bilder erschwinglich. Generative gegnerische Netzwerke (GANs) bilden zufällige latente Vektoren auf Bilder ab. Bewegt man sich zwischen zwei latenten Punkten, geht ein erzeugtes Gesicht fließend in ein anderes über.

Suche und Erkennung beruhen auf Abstandsmaßen. Systeme für die semantische Suche betten Dokumente oder Bilder einmal ein, speichern die Vektoren in einer Vektordatenbank und geben die Elemente mit der höchsten Kosinusähnlichkeit zur Einbettung einer Suchanfrage zurück. In einem gemeinsamen Bild-Text-Raum wie dem von CLIP klassifiziert Zero-Shot-Lernen ein Bild anhand des Klassennamens, dessen Texteinbettung am nächsten liegt – ohne Trainingsbilder für diese Klasse. Bei der Anomalieerkennung rekonstruiert ein nur mit normalen Teilen trainierter Autoencoder fehlerhafte Teile schlecht. Eingaben, deren Einbettungen weit von der normalen Gruppe entfernt liegen, werden zur Überprüfung markiert.

In einem gut geordneten Raum kodieren Richtungen bestimmte Merkmale. Bei den Wort2vec-Einbettungen, die Tomas Mikolov und seine Kolleginnen und Kollegen 2013 veröffentlichten und die zu den Grundlagen der Verarbeitung natürlicher Sprache (NLP) gehören, liegt der Vektor für „König“ minus „Mann“ plus „Frau“ am nächsten bei „Königin“.

Lösungen entdecken

Computer Vision im Sport

Computer Vision im Sport

Entdecke, wie Ultralytics YOLO die Sportbildanalyse voranbringt – mit Spieler- und Ballverfolgung, Leistungsanalysen, Erkenntnissen für das Coaching und der Rehabilitation von Athleten.
Mehr erfahren
Computer Vision für Luftbilder

Computer Vision für Luftbilder

Verwandle Drohnen- und Luftbilder mit Ultralytics YOLO in Echtzeit-Erkenntnisse für Landwirtschaft, Aquakultur, Naturschutz und Geodatenanalyse.
Mehr erfahren
Computer Vision in der Luft- und Raumfahrt

Computer Vision in der Luft- und Raumfahrt

Setze Computer Vision in der Luft- und Raumfahrt mit Ultralytics YOLO ein – für Flugzeuginspektionen, die Erkennung von Fremdkörpern auf Start- und Landebahnen, den Bodenbetrieb am Flughafen und die Erkennung von Verbundwerkstofffehlern.
Mehr erfahren
Computer Vision im Sicherheitsbereich

Computer Vision im Sicherheitsbereich

Schütze jeden Standort mit Ultralytics YOLO-Modellen. Vision-KI ermöglicht die Überwachung von Grundstücksgrenzen, die Erkennung von Bedrohungen, die Kennzeichenerkennung und die Sicherheit am Arbeitsplatz.
Mehr erfahren
Computer Vision in der Robotik

Computer Vision in der Robotik

Mach Maschinen mit Ultralytics YOLO-Modellen leistungsfähiger. Vision-KI in der Robotik ermöglicht autonome Navigation, Wahrnehmung, Objektverfolgung und Steuerung in Echtzeit.
Mehr erfahren
Bildverarbeitung in der Logistik

Bildverarbeitung in der Logistik

Optimiere die Logistik mit Ultralytics YOLO-Modellen. Vision AI ermöglicht die Paketprüfung, Sortierung und Fahrzeugverfolgung sowie die Sicherheitsüberwachung von Lagerhäusern in Echtzeit.
Mehr erfahren
Bildverarbeitung im Einzelhandel

Bildverarbeitung im Einzelhandel

Gestalte den Einzelhandel mit Ultralytics YOLO-Modellen neu. Vision AI ermöglicht Bestandsverfolgung, Regalüberwachung und Warteschlangenmanagement und liefert bessere Einblicke in das Kundenverhalten.
Mehr erfahren
Bildverarbeitung im Gesundheitswesen

Bildverarbeitung im Gesundheitswesen

Entwickle Lösungen für das Gesundheitswesen mit Ultralytics YOLO-Modellen. Vision AI ermöglicht im Gesundheitswesen schnellere medizinische Bildgebung, bessere Diagnostik und die Überwachung von Patienten.
Mehr erfahren
Computer Vision in der Fertigung

Computer Vision in der Fertigung

Optimiere die Fertigung mit Ultralytics-YOLO-Modellen. Vision AI ermöglicht Qualitätskontrolle, Fehlererkennung, die Überprüfung der Einhaltung von Vorgaben zu persönlicher Schutzausrüstung und die Automatisierung von Montagelinien.
Mehr erfahren
Computer Vision in der Automobilbranche

Computer Vision in der Automobilbranche

Setze Computer Vision in der Automobilbranche mit Ultralytics-YOLO-Modellen ein. Vision AI verbessert die Verkehrssicherheit, Fahrerassistenz und Fahrzeugautomatisierung – für intelligentere Straßen.
Mehr erfahren
Computer Vision in der Landwirtschaft

Computer Vision in der Landwirtschaft

Setze mit Ultralytics YOLO-Modellen KI für Bildverarbeitung in der intelligenten Landwirtschaft ein. Ermögliche die Überwachung von Nutzpflanzen, die Verfolgung von Nutztieren und Präzisionslandwirtschaft für höhere und nachhaltigere Erträge.
Mehr erfahren

Lass uns gemeinsam die Zukunft der KI gestalten!

Starte deine Reise in die Zukunft des maschinellen Lernens