Cấp phép YOLO
Quay lại Bảng thuật ngữ Ultralytics

Latent Space

Không gian tiềm ẩn là không gian đặc trưng đã học được nén, nơi mạng nơ-ron đặt các đầu vào tương tự gần nhau; không gian này được dùng cho tìm kiếm và tạo sinh.

Không gian tiềm ẩn là không gian biểu diễn nội tại mà một model học máy học được; mỗi đầu vào trở thành một điểm, thường có ít chiều hơn nhiều so với dữ liệu thô, và các đầu vào có ý nghĩa tương tự nằm gần nhau. "Tiềm ẩn" nghĩa là bị ẩn: các tọa độ không được đo trực tiếp trong dữ liệu mà được model suy ra trong quá trình huấn luyện. Một ảnh màu 640 x 640 chứa 1,228,800 giá trị pixel; model ảnh có thể tóm tắt ảnh thành một vector gồm vài trăm số. Trong một không gian được huấn luyện tốt, các điểm lân cận gần nhất của ảnh ô tô là những ảnh ô tô khác, còn các hướng trong không gian tương ứng với những thuộc tính như tư thế, màu sắc hoặc phong cách.

Không gian tiềm ẩn hoạt động hiệu quả vì dữ liệu tự nhiên có nhiều thông tin dư thừa. Hầu hết các mảng giá trị pixel có thể có đều trông như nhiễu, còn ảnh thực chiếm một vùng mỏng, cong trong không gian pixel; ý tưởng này được gọi là giả thuyết đa tạp. Mạng nơ-ron học các tọa độ dọc theo vùng đó có thể mô tả mỗi ảnh bằng một số ít giá trị.

Không gian tiềm ẩn, embedding và bản đồ đặc trưng#

Embedding là một điểm duy nhất trong không gian tiềm ẩn, tức vector đại diện cho một ảnh, từ hoặc người dùng; không gian tiềm ẩn là tập hợp tất cả các điểm đó cùng khoảng cách giữa chúng. "Không gian embedding" là thuật ngữ đồng nghĩa. Bản đồ đặc trưng bên trong mạng tích chập là các biểu diễn tiềm ẩn có cấu trúc không gian, với một vector tại mỗi vị trí; model thường gom chúng thành một embedding cho mỗi ảnh. Các phương pháp giảm chiều cũng tạo ra không gian tiềm ẩn: phân tích thành phần chính (PCA) tìm không gian tuyến tính, còn t-SNE chủ yếu được dùng để chiếu không gian tiềm ẩn đã học xuống hai chiều nhằm trực quan hóa.

Model học không gian tiềm ẩn như thế nào#

Autoencoder trực tiếp học không gian tiềm ẩn. Bộ mã hóa nén mỗi đầu vào thành một vector ngắn, bộ giải mã tái tạo đầu vào từ vector đó, còn việc tối thiểu hóa lỗi tái tạo buộc nút thắt phải giữ lại những yếu tố phân biệt các đầu vào. Quá trình này không cần nhãn, nhưng không gian thu được vẫn nhóm các đầu vào tương tự; bộ phân loại k láng giềng gần nhất (KNN) có thể đo lường điều đó:

import torch
from sklearn.datasets import load_digits
from sklearn.neighbors import KNeighborsClassifier
from torch import nn

torch.manual_seed(0)
images, labels = load_digits(return_X_y=True)  # 1,797 handwritten digits, 8 x 8 = 64 pixels each
x = torch.tensor(images / 16, dtype=torch.float32)

# An autoencoder squeezes 64 pixels through an 8-number bottleneck: the latent space
encoder = nn.Sequential(nn.Linear(64, 32), nn.ReLU(), nn.Linear(32, 8))
decoder = nn.Sequential(nn.Linear(8, 32), nn.ReLU(), nn.Linear(32, 64))
optimizer = torch.optim.Adam([*encoder.parameters(), *decoder.parameters()], lr=0.01)
for _ in range(1000):
    loss = (decoder(encoder(x)) - x).square().mean()  # reconstruction error, no labels used
    optimizer.zero_grad()
    loss.backward()
    optimizer.step()

# Classify held-out digits by their nearest neighbors in each space
codes = encoder(x).detach().numpy()
for name, features in (("64 pixels", images), ("8 latent values", codes)):
    knn = KNeighborsClassifier().fit(features[:1400], labels[:1400])
    print(f"{name}: {knn.score(features[1400:], labels[1400:]):.2f} accuracy")

Kết quả in ra 64 pixels: 0.97 accuracy và 8 latent values: 0.93 accuracy. Tám giá trị đã học cho mỗi ảnh giữ lại đủ thông tin nhận dạng chữ số để phân loại bằng láng giềng gần nhất đạt kết quả gần với phương pháp sử dụng cả 64 pixel, dù autoencoder chưa từng thấy nhãn.

Được Diederik Kingma và Max Welling giới thiệu năm 2013, autoencoder biến phân mã hóa mỗi đầu vào thành một phân phối thay vì một điểm, giúp không gian đủ mượt để lấy mẫu dữ liệu mới và nội suy giữa các ví dụ. Học tương phản định hình không gian bằng cách kéo các cặp tương ứng lại gần và đẩy các cặp khác ra xa; CLIP được huấn luyện trên các cặp ảnh-chú thích để ảnh và văn bản dùng chung một không gian tiềm ẩn. Mạng có giám sát học không gian tiềm ẩn như một hệ quả phụ của tác vụ. model.embed() trong Ultralytics YOLO26 chạy chế độ predict và trả về một vector cho mỗi ảnh bằng cách lấy trung bình bản đồ đặc trưng của lớp trước đầu phát hiện trên mọi vị trí không gian; biểu diễn này phù hợp cho phân cụm và tìm kiếm tương đồng.

Không gian tiềm ẩn hỗ trợ những gì#

Tạo dữ liệu trong không gian gọn nhẹ có chi phí thấp hơn. Model khuếch tán tiềm ẩn chạy quy trình khử nhiễu của model khuếch tán trên các biểu diễn tiềm ẩn thay vì pixel. Stable Diffusion, được xây dựng dựa trên bài báo về khuếch tán tiềm ẩn, dùng autoencoder để nén ảnh RGB 512 x 512 thành biểu diễn tiềm ẩn 64 x 64 x 4, giảm số giá trị đi 48 lần và giúp việc tạo ảnh độ phân giải cao trở nên khả thi về chi phí. Mạng đối sinh tạo (GAN) ánh xạ các vector tiềm ẩn ngẫu nhiên thành ảnh, vì vậy di chuyển giữa hai điểm tiềm ẩn sẽ biến đổi khuôn mặt được tạo này thành khuôn mặt khác.

Tìm kiếm và nhận dạng hoạt động bằng cách đo khoảng cách. Các hệ thống tìm kiếm ngữ nghĩa tạo embedding cho tài liệu hoặc ảnh một lần, lưu vector trong cơ sở dữ liệu vector, rồi trả về các mục có độ tương đồng cosine cao nhất với embedding của truy vấn. Trong không gian ảnh-văn bản dùng chung như không gian của CLIP, học zero-shot phân loại ảnh theo tên lớp có embedding văn bản gần nhất, mà không cần ảnh huấn luyện cho lớp đó. Với phát hiện bất thường, autoencoder chỉ được huấn luyện trên các bộ phận bình thường sẽ tái tạo các bộ phận lỗi kém hơn; các đầu vào có embedding nằm xa cụm bình thường sẽ được đánh dấu để kiểm tra.

Các hướng trong một không gian được tổ chức tốt mã hóa thuộc tính. Trong các embedding word2vec mà Tomas Mikolov và các đồng nghiệp công bố năm 2013, một phương pháp nền tảng của xử lý ngôn ngữ tự nhiên (NLP), vector của "king" trừ "man" cộng "woman" cho kết quả gần nhất với "queen".

Khám phá các giải pháp

Thị giác máy tính trong thể thao

Thị giác máy tính trong thể thao

Khám phá cách Ultralytics YOLO thúc đẩy thị giác máy tính trong thể thao với khả năng theo dõi cầu thủ và bóng, phân tích hiệu suất, cung cấp thông tin chuyên sâu cho huấn luyện và hỗ trợ phục hồi cho vận động viên.
Tìm hiểu thêm
Thị giác máy tính cho ảnh hàng không

Thị giác máy tính cho ảnh hàng không

Chuyển hình ảnh từ drone và ảnh hàng không thành thông tin chuyên sâu theo thời gian thực cho nông nghiệp, nuôi trồng thủy sản, bảo tồn và phân tích không gian địa lý với Ultralytics YOLO.
Tìm hiểu thêm
Thị giác máy tính trong hàng không vũ trụ

Thị giác máy tính trong hàng không vũ trụ

Ứng dụng computer vision trong ngành hàng không vũ trụ với Ultralytics YOLO cho kiểm tra máy bay, phát hiện dị vật trên đường băng (FOD), vận hành mặt đất tại sân bay và phát hiện lỗi vật liệu composite.
Tìm hiểu thêm
Computer vision trong lĩnh vực an ninh

Computer vision trong lĩnh vực an ninh

Bảo vệ mọi địa điểm bằng model Ultralytics YOLO. Vision AI hỗ trợ giám sát vành đai, phát hiện mối đe dọa, nhận dạng biển số và an toàn nơi làm việc.
Tìm hiểu thêm
Computer vision trong robotics

Computer vision trong robotics

Tăng cường năng lực cho máy móc thông minh bằng model Ultralytics YOLO. Vision AI trong lĩnh vực robotics hỗ trợ điều hướng tự động, nhận thức, theo dõi đối tượng và điều khiển theo thời gian thực.
Tìm hiểu thêm
Thị giác máy tính trong logistics

Thị giác máy tính trong logistics

Tinh giản hoạt động logistics với các model Ultralytics YOLO. Vision AI hỗ trợ kiểm tra kiện hàng, phân loại, theo dõi phương tiện và giám sát an toàn kho hàng theo thời gian thực.
Tìm hiểu thêm
Thị giác máy tính trong bán lẻ

Thị giác máy tính trong bán lẻ

Định hình lại hoạt động bán lẻ với các model Ultralytics YOLO. Vision AI hỗ trợ theo dõi hàng tồn kho, giám sát kệ hàng, quản lý hàng chờ và phân tích khách hàng thông minh hơn.
Tìm hiểu thêm
Thị giác máy tính trong chăm sóc sức khỏe

Thị giác máy tính trong chăm sóc sức khỏe

Xây dựng các giải pháp chăm sóc sức khỏe với model Ultralytics YOLO. Vision AI trong chăm sóc sức khỏe hỗ trợ xử lý hình ảnh y tế nhanh hơn, chẩn đoán thông minh hơn và theo dõi bệnh nhân.
Tìm hiểu thêm
Thị giác máy tính trong sản xuất

Thị giác máy tính trong sản xuất

Tối ưu hóa sản xuất bằng các model Ultralytics YOLO. Vision AI thúc đẩy kiểm soát chất lượng, phát hiện lỗi, tuân thủ PPE và tự động hóa dây chuyền lắp ráp.
Tìm hiểu thêm
Thị giác máy tính trong ngành ô tô

Thị giác máy tính trong ngành ô tô

Ứng dụng thị giác máy tính trong ngành ô tô với các model Ultralytics YOLO. Vision AI nâng cao an toàn giao thông, hỗ trợ người lái và tự động hóa phương tiện để tạo nên những tuyến đường thông minh hơn.
Tìm hiểu thêm
Thị giác máy tính trong nông nghiệp

Thị giác máy tính trong nông nghiệp

Ứng dụng AI thị giác vào nông nghiệp thông minh với các model Ultralytics YOLO. Hỗ trợ giám sát cây trồng, theo dõi vật nuôi và canh tác chính xác để nâng cao năng suất một cách thông minh hơn.
Tìm hiểu thêm

Hãy cùng nhau kiến tạo tương lai của AI!

Bắt đầu hành trình hướng đến tương lai của machine learning