t-distributed Stochastic Neighbor Embedding (t-SNE)

t-distributed Stochastic Neighbor Embedding (t-SNE) là một phương pháp thống kê dùng để trực quan hóa dữ liệu có số chiều cao bằng cách gán cho mỗi điểm dữ liệu một vị trí trên bản đồ hai hoặc ba chiều. Kỹ thuật này, một dạng giảm chiều dữ liệu phi tuyến tính, được sử dụng rộng rãi trong machine learning để khám phá các tập hợp dữ liệu chứa hàng trăm hoặc hàng ngàn đặc trưng. Không giống như các phương pháp tuyến tính tập trung vào việc bảo tồn cấu trúc toàn cục, t-SNE vượt trội trong việc giữ các thể hiện tương tự lại gần nhau, làm lộ ra các cụm cục bộ và đa tạp vốn có thể bị ẩn đi. Điều này biến nó thành một công cụ vô giá cho mọi thứ, từ nghiên cứu bộ gene đến việc hiểu logic nội bộ của các mạng neural sâu.

Cách thức hoạt động của t-SNE#

Ý tưởng cốt lõi đằng sau t-SNE liên quan đến việc chuyển đổi các điểm tương đồng giữa các điểm dữ liệu thành xác suất kết hợp. Trong không gian đa chiều ban đầu, thuật toán đo lường sự tương đồng giữa các điểm bằng cách sử dụng phân phối Gaussian. Nếu hai điểm gần nhau, chúng có xác suất cao là "hàng xóm" của nhau. Sau đó, thuật toán cố gắng ánh xạ các điểm này vào không gian có chiều thấp hơn (thường là 2D hoặc 3D) trong khi vẫn duy trì các xác suất này.

Để đạt được điều này, nó định nghĩa một phân phối xác suất tương tự trong bản đồ số chiều thấp hơn bằng cách sử dụng phân phối t của Student. Phân phối cụ thể này có phần đuôi dày hơn phân phối Gaussian thông thường, giúp giải quyết "vấn đề ùn tắc" (crowding problem) — hiện tượng các điểm trong không gian số chiều cao có xu hướng chồng lên nhau khi được chiếu xuống. Bằng cách đẩy các điểm không tương tự ra xa hơn trong phần trực quan hóa, t-SNE tạo ra các cụm riêng biệt, dễ đọc làm lộ ra cấu trúc bên dưới của dữ liệu huấn luyện. Thuật toán học tập hiệu quả biểu diễn bản đồ tốt nhất thông qua unsupervised learning bằng cách giảm thiểu độ phân kỳ giữa các phân phối xác suất số chiều cao và số chiều thấp.

Các ứng dụng thực tế trong AI#

t-SNE là một công cụ tiêu chuẩn cho exploratory data analysis (EDA) và chẩn đoán model. Nó cho phép các kỹ sư "nhìn thấy" những gì một model đang học.

• Xác thực các tính năng Computer Vision: Trong các quy trình làm việc object detection sử dụng các model như YOLO26, các nhà phát triển thường cần kiểm tra xem mạng có thể phân biệt giữa các lớp có hình ảnh tương tự nhau hay không. Bằng cách trích xuất feature map từ các lớp cuối cùng của mạng và chiếu chúng bằng t-SNE, các kỹ sư có thể trực quan hóa xem hình ảnh của "mèo" có phân cụm tách biệt khỏi "chó" hay không. Nếu các cụm bị lẫn lộn, điều đó cho thấy khả năng trích xuất đặc trưng của model cần được cải thiện.
• Natural Language Processing (NLP): t-SNE được sử dụng rất nhiều để trực quan hóa embedding từ. Khi các vector từ có số chiều cao (thường từ 300+ chiều) được chiếu thành 2D, các từ có ý nghĩa ngữ nghĩa tương tự sẽ tự động nhóm lại với nhau. Ví dụ, một biểu đồ t-SNE có thể hiển thị một cụm chứa "king" (vua), "queen" (nữ hoàng), "prince" (hoàng tử), và "monarch" (quân vương), chứng minh rằng model Natural Language Processing (NLP) nắm bắt được khái niệm hoàng gia.
• Di truyền học và Tin sinh học: Các nhà nghiên cứu sử dụng t-SNE để trực quan hóa dữ liệu giải trình tự RNA đơn bào. Bằng cách giảm hàng nghìn giá trị biểu hiện gen thành một biểu đồ 2D, các nhà khoa học có thể xác định các loại tế bào riêng biệt và theo dõi các quỹ đạo phát triển, hỗ trợ khám phá các hiểu biết sinh học mới và các dấu hiệu bệnh tật.

So sánh với PCA#

Điều quan trọng là phải phân biệt t-SNE với Principal Component Analysis (PCA), một kỹ thuật giảm chiều phổ biến khác.

• PCA là một kỹ thuật tuyến tính tập trung vào việc bảo toàn phương sai toàn cục của dữ liệu. Nó mang tính quyết định và hiệu quả về mặt tính toán, khiến nó trở nên tuyệt vời cho việc nén dữ liệu ban đầu hoặc giảm nhiễu.
• t-SNE là một kỹ thuật phi tuyến tính tập trung vào việc bảo toàn các vùng lân cận cục bộ. Nó mang tính xác suất (ngẫu nhiên) và đòi hỏi tài nguyên tính toán cao hơn, nhưng nó tạo ra các bản trực quan hóa tốt hơn nhiều cho các đa tạp phi tuyến tính phức tạp.

Một best practice phổ biến trong tiền xử lý dữ liệu là sử dụng PCA trước để giảm dữ liệu xuống kích thước dễ quản lý (ví dụ: 50 chiều) và sau đó áp dụng t-SNE để trực quan hóa lần cuối. Cách tiếp cận kết hợp này làm giảm tải tính toán và lọc bỏ nhiễu có thể làm giảm chất lượng kết quả t-SNE.

Ví dụ Python: Trực quan hóa đặc trưng#

Ví dụ sau minh họa cách sử dụng scikit-learn để áp dụng t-SNE cho một dataset tổng hợp. Quy trình làm việc này phản ánh cách người ta có thể trực quan hóa các đặc trưng được trích xuất từ một model deep learning.

import matplotlib.pyplot as plt
from sklearn.datasets import make_blobs
from sklearn.manifold import TSNE

# Generate synthetic high-dimensional data (100 samples, 50 features, 3 centers)
X, y = make_blobs(n_samples=100, n_features=50, centers=3, random_state=42)

# Apply t-SNE to reduce dimensions from 50 to 2
# 'perplexity' balances local vs global aspects of the data
tsne = TSNE(n_components=2, perplexity=30, random_state=42)
X_embedded = tsne.fit_transform(X)

# Plot the result to visualize the 3 distinct clusters
plt.scatter(X_embedded[:, 0], X_embedded[:, 1], c=y)
plt.title("t-SNE Projection of High-Dimensional Data")
plt.show()

Các cân nhắc chính#

Mặc dù mạnh mẽ, t-SNE đòi hỏi phải tinh chỉnh siêu tham số cẩn thận. Tham số "perplexity" rất quan trọng; nó chủ yếu đoán xem mỗi điểm có bao nhiêu láng giềng gần gũi. Đặt tham số này quá thấp hoặc quá cao có thể dẫn đến các hình ảnh trực quan gây hiểu lầm. Hơn nữa, t-SNE không bảo toàn tốt các khoảng cách toàn cục — nghĩa là khoảng cách giữa hai cụm riêng biệt trên biểu đồ không nhất thiết phản ánh khoảng cách vật lý của chúng trong không gian ban đầu. Bất chấp những điểm tinh tế này, nó vẫn là một kỹ thuật nền tảng để xác thực các kiến trúc computer vision (CV) và hiểu các tập dữ liệu phức tạp. Người dùng quản lý các dataset quy mô lớn thường tận dụng Ultralytics Platform để tổ chức dữ liệu của họ trước khi thực hiện phân tích sâu như vậy.