Latent Space
Gizil uzay, benzer girdilerin birbirine yakın yerleştirildiği, öğrenilmiş özelliklerden oluşan sıkıştırılmış uzaydır; arama ve üretim için kullanılır.
Gizil uzay, bir makine öğrenimi modelinin öğrendiği iç temsiller uzayıdır. Genellikle ham veriden çok daha az boyuta sahip bu uzayda her girdi bir noktaya dönüşür ve anlamca benzer girdiler birbirine yakın yer alır. "Gizil" sözcüğü gizli demektir: koordinatlar veride ölçülmez, model tarafından eğitim sırasında çıkarılır. 640 x 640 boyutlarında renkli bir fotoğraf 1.228.800 piksel değeri içerirken görüntü modeli bunu birkaç yüz sayıdan oluşan bir vektörle özetleyebilir. İyi eğitilmiş bir uzayda araba fotoğrafının en yakın komşuları başka arabalar olur; uzaydaki yönler ise poz, renk veya tarz gibi özelliklere karşılık gelir.
Gizil uzaylar, doğal verilerdeki yüksek yedeklilik sayesinde işe yarar. Olası piksel dizilerinin çoğu gürültüye benzer ve gerçek görüntüler piksel uzayının ince, eğri bir bölgesinde yer alır; bu fikir çeşitlilik varsayımı olarak bilinir. Bu bölge boyunca koordinatları öğrenen bir sinir ağı, her görüntüyü bir avuç sayıyla ifade edebilir.
Gizil Uzay, Gömüler ve Özellik Haritaları#
Bir gömme, gizil uzaydaki tek bir noktadır; tek bir görüntü, sözcük veya kullanıcıya ait vektördür. Gizil uzay ise tüm bu noktaların ve aralarındaki mesafelerin bütünüdür; "gömme uzayı" eş anlamlısıdır. Evrişimli bir ağ içindeki özellik haritaları, her konumda bir vektör içeren uzamsal gizil temsillerdir; model bunları çoğu zaman görüntü başına tek bir gömmeye indirger. Boyut indirgeme yöntemleri de gizil uzaylar üretir: temel bileşen analizi (PCA) doğrusal bir gizil uzay bulurken t-SNE çoğunlukla öğrenilmiş bir gizil uzayı çizim için iki boyuta yansıtmakta kullanılır.
Modeller Gizil Uzayı Nasıl Öğrenir#
Bir otomatik kodlayıcı gizil uzayı doğrudan öğrenir. Kodlayıcısı her girdiyi kısa bir vektöre sıkıştırır, kod çözücüsü de girdiyi bu vektörden yeniden oluşturur. Yeniden oluşturma hatasını en aza indirmek, darboğazın bir girdiyi diğerinden ayıran bilgileri korumasını sağlar. Hiçbir etiket kullanılmasa da ortaya çıkan uzay benzer girdileri bir araya getirir; k-en yakın komşu (KNN) sınıflandırıcısı da bu benzerliği ölçebilir:
import torch
from sklearn.datasets import load_digits
from sklearn.neighbors import KNeighborsClassifier
from torch import nn
torch.manual_seed(0)
images, labels = load_digits(return_X_y=True) # 1,797 handwritten digits, 8 x 8 = 64 pixels each
x = torch.tensor(images / 16, dtype=torch.float32)
# An autoencoder squeezes 64 pixels through an 8-number bottleneck: the latent space
encoder = nn.Sequential(nn.Linear(64, 32), nn.ReLU(), nn.Linear(32, 8))
decoder = nn.Sequential(nn.Linear(8, 32), nn.ReLU(), nn.Linear(32, 64))
optimizer = torch.optim.Adam([*encoder.parameters(), *decoder.parameters()], lr=0.01)
for _ in range(1000):
loss = (decoder(encoder(x)) - x).square().mean() # reconstruction error, no labels used
optimizer.zero_grad()
loss.backward()
optimizer.step()
# Classify held-out digits by their nearest neighbors in each space
codes = encoder(x).detach().numpy()
for name, features in (("64 pixels", images), ("8 latent values", codes)):
knn = KNeighborsClassifier().fit(features[:1400], labels[:1400])
print(f"{name}: {knn.score(features[1400:], labels[1400:]):.2f} accuracy")64 pixels: 0.97 accuracy ve 8 latent values: 0.93 accuracy çıktısını verir. Görüntü başına öğrenilen sekiz sayı, rakamın kimliğini korumaya yeter; böylece en yakın komşu sınıflandırması, 64 pikselin tümünü kullanan sonuca yakın kalır, oysa otomatik kodlayıcı hiçbir zaman etiket görmemiştir.
Diederik Kingma ve Max Welling'in 2013'te ortaya koyduğu varyasyonel otomatik kodlayıcılar, her girdiyi tek bir nokta yerine bir dağılım olarak kodlar; bu sayede uzay yeni veriler örneklemek ve örnekler arasında geçiş yapmak için yeterince düzgün hale gelir. Karşıt öğrenme, eşleşen çiftleri birbirine yaklaştırıp diğer çiftleri uzaklaştırarak bir uzayı şekillendirir; CLIP, görüntü ve metinlerin aynı gizil uzayı paylaşması için görüntü-altyazı çiftleriyle eğitilir. Denetimli ağlar, görevlerinin yan etkisi olarak bir gizil uzay öğrenir. Ultralytics YOLO26 içindeki model.embed(), tahmin modunu çalıştırır ve algılama başlığından önceki katmanın özellik haritasını tüm uzamsal konumlar boyunca ortalayarak görüntü başına bir vektör döndürür; bu temsil kümeleme ve benzerlik araması için uygundur.
Gizil Uzaylar Neler Sağlar#
Kompakt bir uzayda üretim daha hesaplıdır. Gizil difüzyon modelleri, difüzyon modellerinin gürültü giderme sürecini pikseller yerine gizil temsiller üzerinde yürütür. Gizil difüzyon makalesi üzerine kurulu Stable Diffusion, 512 x 512 boyutlarında bir RGB görüntüyü 64 x 64 x 4 boyutlarında, 48 kat daha az değere sahip bir gizil temsile sıkıştırmak için otomatik kodlayıcı kullanır; böylece yüksek çözünürlüklü görüntü üretimi erişilebilir hale gelir. Üretici çekişmeli ağlar (GAN'ler), rastgele gizil vektörleri görüntülere dönüştürür; dolayısıyla iki gizil nokta arasında ilerlemek, oluşturulmuş bir yüzün diğerine dönüşmesini sağlar.
Arama ve tanıma, mesafeleri ölçerek çalışır. Anlamsal arama sistemleri belgeleri veya görüntüleri bir kez gömer, vektörleri bir vektör veri tabanında saklar ve sorgunun gömmesine en yüksek kosinüs benzerliğini veren öğeleri döndürür. CLIP'inki gibi paylaşılan bir görüntü-metin uzayında sıfır örnekli öğrenme, bir görüntüyü, metin gömmesi en yakın olan sınıf adına göre sınıflandırır; bu sınıf için eğitim görüntüsü gerekmez. Anomali tespiti için yalnızca normal parçalarla eğitilmiş bir otomatik kodlayıcı, kusurlu parçaları iyi yeniden oluşturamaz; gömmeleri normal kümeden uzakta kalan girdiler de inceleme için işaretlenir.
İyi düzenlenmiş bir uzaydaki yönler özellikleri kodlar. Tomas Mikolov ve çalışma arkadaşlarının 2013'te yayımladığı word2vec gömmelerinde, doğal dil işlemenin (NLP) temel örneklerinden biri olarak, "king" vektöründen "man" çıkarılıp "woman" eklendiğinde en yakın sonuç "queen" olur.










