Latent Space
Không gian tiềm ẩn là không gian đặc trưng đã học được nén, nơi mạng nơ-ron đặt các đầu vào tương tự gần nhau; không gian này được dùng cho tìm kiếm và tạo sinh.
Không gian tiềm ẩn là không gian biểu diễn nội tại mà một model học máy học được; mỗi đầu vào trở thành một điểm, thường có ít chiều hơn nhiều so với dữ liệu thô, và các đầu vào có ý nghĩa tương tự nằm gần nhau. "Tiềm ẩn" nghĩa là bị ẩn: các tọa độ không được đo trực tiếp trong dữ liệu mà được model suy ra trong quá trình huấn luyện. Một ảnh màu 640 x 640 chứa 1,228,800 giá trị pixel; model ảnh có thể tóm tắt ảnh thành một vector gồm vài trăm số. Trong một không gian được huấn luyện tốt, các điểm lân cận gần nhất của ảnh ô tô là những ảnh ô tô khác, còn các hướng trong không gian tương ứng với những thuộc tính như tư thế, màu sắc hoặc phong cách.
Không gian tiềm ẩn hoạt động hiệu quả vì dữ liệu tự nhiên có nhiều thông tin dư thừa. Hầu hết các mảng giá trị pixel có thể có đều trông như nhiễu, còn ảnh thực chiếm một vùng mỏng, cong trong không gian pixel; ý tưởng này được gọi là giả thuyết đa tạp. Mạng nơ-ron học các tọa độ dọc theo vùng đó có thể mô tả mỗi ảnh bằng một số ít giá trị.
Không gian tiềm ẩn, embedding và bản đồ đặc trưng#
Embedding là một điểm duy nhất trong không gian tiềm ẩn, tức vector đại diện cho một ảnh, từ hoặc người dùng; không gian tiềm ẩn là tập hợp tất cả các điểm đó cùng khoảng cách giữa chúng. "Không gian embedding" là thuật ngữ đồng nghĩa. Bản đồ đặc trưng bên trong mạng tích chập là các biểu diễn tiềm ẩn có cấu trúc không gian, với một vector tại mỗi vị trí; model thường gom chúng thành một embedding cho mỗi ảnh. Các phương pháp giảm chiều cũng tạo ra không gian tiềm ẩn: phân tích thành phần chính (PCA) tìm không gian tuyến tính, còn t-SNE chủ yếu được dùng để chiếu không gian tiềm ẩn đã học xuống hai chiều nhằm trực quan hóa.
Model học không gian tiềm ẩn như thế nào#
Autoencoder trực tiếp học không gian tiềm ẩn. Bộ mã hóa nén mỗi đầu vào thành một vector ngắn, bộ giải mã tái tạo đầu vào từ vector đó, còn việc tối thiểu hóa lỗi tái tạo buộc nút thắt phải giữ lại những yếu tố phân biệt các đầu vào. Quá trình này không cần nhãn, nhưng không gian thu được vẫn nhóm các đầu vào tương tự; bộ phân loại k láng giềng gần nhất (KNN) có thể đo lường điều đó:
import torch
from sklearn.datasets import load_digits
from sklearn.neighbors import KNeighborsClassifier
from torch import nn
torch.manual_seed(0)
images, labels = load_digits(return_X_y=True) # 1,797 handwritten digits, 8 x 8 = 64 pixels each
x = torch.tensor(images / 16, dtype=torch.float32)
# An autoencoder squeezes 64 pixels through an 8-number bottleneck: the latent space
encoder = nn.Sequential(nn.Linear(64, 32), nn.ReLU(), nn.Linear(32, 8))
decoder = nn.Sequential(nn.Linear(8, 32), nn.ReLU(), nn.Linear(32, 64))
optimizer = torch.optim.Adam([*encoder.parameters(), *decoder.parameters()], lr=0.01)
for _ in range(1000):
loss = (decoder(encoder(x)) - x).square().mean() # reconstruction error, no labels used
optimizer.zero_grad()
loss.backward()
optimizer.step()
# Classify held-out digits by their nearest neighbors in each space
codes = encoder(x).detach().numpy()
for name, features in (("64 pixels", images), ("8 latent values", codes)):
knn = KNeighborsClassifier().fit(features[:1400], labels[:1400])
print(f"{name}: {knn.score(features[1400:], labels[1400:]):.2f} accuracy")Kết quả in ra 64 pixels: 0.97 accuracy và 8 latent values: 0.93 accuracy. Tám giá trị đã học cho mỗi ảnh giữ lại đủ thông tin nhận dạng chữ số để phân loại bằng láng giềng gần nhất đạt kết quả gần với phương pháp sử dụng cả 64 pixel, dù autoencoder chưa từng thấy nhãn.
Được Diederik Kingma và Max Welling giới thiệu năm 2013, autoencoder biến phân mã hóa mỗi đầu vào thành một phân phối thay vì một điểm, giúp không gian đủ mượt để lấy mẫu dữ liệu mới và nội suy giữa các ví dụ. Học tương phản định hình không gian bằng cách kéo các cặp tương ứng lại gần và đẩy các cặp khác ra xa; CLIP được huấn luyện trên các cặp ảnh-chú thích để ảnh và văn bản dùng chung một không gian tiềm ẩn. Mạng có giám sát học không gian tiềm ẩn như một hệ quả phụ của tác vụ. model.embed() trong Ultralytics YOLO26 chạy chế độ predict và trả về một vector cho mỗi ảnh bằng cách lấy trung bình bản đồ đặc trưng của lớp trước đầu phát hiện trên mọi vị trí không gian; biểu diễn này phù hợp cho phân cụm và tìm kiếm tương đồng.
Không gian tiềm ẩn hỗ trợ những gì#
Tạo dữ liệu trong không gian gọn nhẹ có chi phí thấp hơn. Model khuếch tán tiềm ẩn chạy quy trình khử nhiễu của model khuếch tán trên các biểu diễn tiềm ẩn thay vì pixel. Stable Diffusion, được xây dựng dựa trên bài báo về khuếch tán tiềm ẩn, dùng autoencoder để nén ảnh RGB 512 x 512 thành biểu diễn tiềm ẩn 64 x 64 x 4, giảm số giá trị đi 48 lần và giúp việc tạo ảnh độ phân giải cao trở nên khả thi về chi phí. Mạng đối sinh tạo (GAN) ánh xạ các vector tiềm ẩn ngẫu nhiên thành ảnh, vì vậy di chuyển giữa hai điểm tiềm ẩn sẽ biến đổi khuôn mặt được tạo này thành khuôn mặt khác.
Tìm kiếm và nhận dạng hoạt động bằng cách đo khoảng cách. Các hệ thống tìm kiếm ngữ nghĩa tạo embedding cho tài liệu hoặc ảnh một lần, lưu vector trong cơ sở dữ liệu vector, rồi trả về các mục có độ tương đồng cosine cao nhất với embedding của truy vấn. Trong không gian ảnh-văn bản dùng chung như không gian của CLIP, học zero-shot phân loại ảnh theo tên lớp có embedding văn bản gần nhất, mà không cần ảnh huấn luyện cho lớp đó. Với phát hiện bất thường, autoencoder chỉ được huấn luyện trên các bộ phận bình thường sẽ tái tạo các bộ phận lỗi kém hơn; các đầu vào có embedding nằm xa cụm bình thường sẽ được đánh dấu để kiểm tra.
Các hướng trong một không gian được tổ chức tốt mã hóa thuộc tính. Trong các embedding word2vec mà Tomas Mikolov và các đồng nghiệp công bố năm 2013, một phương pháp nền tảng của xử lý ngôn ngữ tự nhiên (NLP), vector của "king" trừ "man" cộng "woman" cho kết quả gần nhất với "queen".










