Latent Space
Un espace latent est un espace compressé de caractéristiques apprises dans lequel un réseau de neurones place les entrées similaires à proximité les unes des autres, notamment pour la recherche et la génération.
Un espace latent est l’espace des représentations internes apprises par un modèle de machine learning. Chaque entrée y devient un point, généralement dans un espace de bien plus faible dimension que les données brutes, et les entrées sémantiquement proches se trouvent à proximité les unes des autres. « Latent » signifie « caché » : les coordonnées ne sont pas mesurées dans les données, mais déduites par le modèle pendant l’entraînement. Une photo couleur de 640 x 640 pixels contient 1 228 800 valeurs de pixel. Un modèle d’image peut la résumer par un vecteur de quelques centaines de nombres. Dans un espace bien entraîné, les voisins les plus proches d’une photo de voiture sont d’autres voitures, et les directions de l’espace correspondent à des propriétés comme la pose, la couleur ou le style.
Les espaces latents sont efficaces parce que les données naturelles sont très redondantes. La plupart des tableaux de pixels possibles ressemblent à du bruit, et les images réelles occupent une région mince et courbe de l’espace des pixels, une idée appelée hypothèse de la variété. Un réseau neuronal qui apprend les coordonnées le long de cette région peut décrire chaque image avec quelques nombres.
Espace latent, plongements et cartes de caractéristiques#
Un plongement est un point unique dans un espace latent, le vecteur d’une image, d’un mot ou d’un utilisateur. L’espace latent est l’ensemble de tous ces points et des distances qui les séparent ; « espace de plongement » est un synonyme. Les cartes de caractéristiques des réseaux convolutifs sont des représentations latentes spatiales, avec un vecteur à chaque position, que le modèle regroupe souvent en un seul plongement par image. Les méthodes de réduction de dimensionnalité produisent aussi des espaces latents : l’analyse en composantes principales (PCA) en trouve un linéaire, et t-SNE sert principalement à projeter un espace latent appris en deux dimensions pour le visualiser.
Comment les modèles apprennent un espace latent#
Un autoencodeur apprend directement un espace latent. Son encodeur compresse chaque entrée en un vecteur court, puis son décodeur reconstruit l’entrée à partir de ce vecteur. La minimisation de l’erreur de reconstruction oblige le goulot d’étranglement à conserver ce qui distingue les entrées les unes des autres. Aucune étiquette n’est nécessaire, mais l’espace obtenu regroupe les entrées similaires, ce qu’un classificateur des k plus proches voisins (KNN) peut mesurer :
import torch
from sklearn.datasets import load_digits
from sklearn.neighbors import KNeighborsClassifier
from torch import nn
torch.manual_seed(0)
images, labels = load_digits(return_X_y=True) # 1,797 handwritten digits, 8 x 8 = 64 pixels each
x = torch.tensor(images / 16, dtype=torch.float32)
# An autoencoder squeezes 64 pixels through an 8-number bottleneck: the latent space
encoder = nn.Sequential(nn.Linear(64, 32), nn.ReLU(), nn.Linear(32, 8))
decoder = nn.Sequential(nn.Linear(8, 32), nn.ReLU(), nn.Linear(32, 64))
optimizer = torch.optim.Adam([*encoder.parameters(), *decoder.parameters()], lr=0.01)
for _ in range(1000):
loss = (decoder(encoder(x)) - x).square().mean() # reconstruction error, no labels used
optimizer.zero_grad()
loss.backward()
optimizer.step()
# Classify held-out digits by their nearest neighbors in each space
codes = encoder(x).detach().numpy()
for name, features in (("64 pixels", images), ("8 latent values", codes)):
knn = KNeighborsClassifier().fit(features[:1400], labels[:1400])
print(f"{name}: {knn.score(features[1400:], labels[1400:]):.2f} accuracy")Le code affiche 64 pixels: 0.97 accuracy et 8 latent values: 0.93 accuracy. Huit nombres appris par image conservent suffisamment l’identité du chiffre pour que la classification par plus proches voisins reste proche des résultats obtenus avec les 64 pixels, bien que l’autoencodeur n’ait jamais vu d’étiquette.
Présentés par Diederik Kingma et Max Welling en 2013, les autoencodeurs variationnels encodent chaque entrée sous forme de distribution plutôt que de point, ce qui rend l’espace suffisamment lisse pour y échantillonner de nouvelles données et interpoler entre des exemples. L’apprentissage contrastif façonne un espace en rapprochant les paires correspondantes et en éloignant les autres ; CLIP s’entraîne sur des paires image-légende afin que les images et le texte partagent un même espace latent. Les réseaux supervisés apprennent un espace latent comme effet secondaire de leur tâche. model.embed() dans Ultralytics YOLO26 exécute le mode prédiction et renvoie un vecteur par image en calculant la moyenne de la carte de caractéristiques de la couche précédant la tête de détection sur toutes les positions spatiales. Cette représentation est adaptée au regroupement et à la recherche de similarité.
Ce que permettent les espaces latents#
La génération coûte moins cher dans un espace compact. Les modèles de diffusion latente exécutent le processus de débruitage des modèles de diffusion sur des représentations latentes plutôt que sur des pixels. Stable Diffusion, fondé sur l’article sur la diffusion latente, utilise un autoencodeur pour compresser une image RGB de 512 x 512 en une représentation latente de 64 x 64 x 4, soit 48 fois moins de valeurs, ce qui rend la génération haute résolution abordable. Les réseaux antagonistes génératifs (GANs) transforment des vecteurs latents aléatoires en images. Parcourir l’espace entre deux points latents transforme ainsi un visage généré en un autre.
La recherche et la reconnaissance reposent sur la mesure des distances. Les systèmes de recherche sémantique calculent une fois les plongements des documents ou des images, stockent les vecteurs dans une base de données vectorielle, puis renvoient les éléments dont la similarité cosinus avec le plongement de la requête est la plus élevée. Dans un espace partagé image-texte comme celui de CLIP, l’apprentissage sans exemples classe une image selon le nom de classe dont le plongement textuel est le plus proche, sans image d’entraînement pour cette classe. Pour la détection d’anomalies, un autoencodeur entraîné uniquement sur des pièces normales reconstruit mal les pièces défectueuses ; les entrées dont les plongements sont éloignés du groupe normal sont alors signalées pour inspection.
Dans un espace bien organisé, les directions encodent des attributs. Dans les plongements word2vec publiés par Tomas Mikolov et ses collègues en 2013, une référence en traitement automatique du langage naturel (NLP), le vecteur de « roi » moins celui de « homme » plus celui de « femme » se situe le plus près de celui de « reine ».










