Dimensionality Reduction

Giảm chiều dữ liệu là một kỹ thuật biến đổi trong machine learning (ML) và khoa học dữ liệu nhằm giảm số lượng biến đầu vào—thường được gọi là các đặc trưng hoặc chiều—trong một tập dữ liệu trong khi vẫn giữ lại thông tin quan trọng nhất. Trong kỷ nguyên của big data, các tập dữ liệu thường chứa hàng nghìn biến, dẫn đến hiện tượng được gọi là curse of dimensionality. Hiện tượng này có thể khiến quá trình model training trở nên tốn kém về mặt tính toán, dễ bị overfitting và khó giải thích. Bằng cách chiếu dữ liệu có số chiều cao vào không gian có số chiều thấp hơn, các kỹ sư có thể nâng cao hiệu quả, khả năng trực quan hóa và hiệu suất dự đoán.

Những lợi ích cốt lõi trong phát triển AI#

Giảm độ phức tạp của dữ liệu là một bước cơ bản trong các đường ống data preprocessing. Nó mang lại một số ưu điểm thiết thực để xây dựng các hệ thống artificial intelligence (AI) mạnh mẽ:

• Nâng cao hiệu suất tính toán: Ít đặc trưng hơn đồng nghĩa với việc ít dữ liệu cần xử lý hơn. Điều này giúp tăng tốc thời gian huấn luyện cho các thuật toán như YOLO26, giúp chúng phù hợp hơn cho real-time inference và việc triển khai trên các thiết bị edge AI bị giới hạn về tài nguyên.
• Cải thiện khả năng trực quan hóa dữ liệu: Trực giác của con người gặp khó khăn trong việc hiểu dữ liệu vượt quá ba chiều. Giảm chiều dữ liệu nén các tập dữ liệu phức tạp thành không gian 2D hoặc 3D, cho phép data visualization hiệu quả để phát hiện các cụm, mẫu và điểm ngoại lai bằng các công cụ như TensorFlow Embedding Projector.
• Giảm nhiễu: Bằng cách tập trung vào phương sai liên quan nhất trong dữ liệu, kỹ thuật này lọc bỏ nhiễu và các đặc trưng dư thừa. Điều này tạo ra training data sạch hơn, giúp các mô hình khái quát hóa tốt hơn với các ví dụ chưa từng thấy.
• Tối ưu hóa lưu trữ: Việc lưu trữ các tập dữ liệu khổng lồ trên đám mây, chẳng hạn như những dữ liệu được quản lý thông qua Ultralytics Platform, có thể tốn kém. Nén không gian đặc trưng làm giảm đáng kể các yêu cầu lưu trữ mà không làm hy sinh tính toàn vẹn của dữ liệu thiết yếu.

Các kỹ thuật chính: Tuyến tính so với Phi tuyến#

Các phương pháp giảm chiều thường được phân loại dựa trên việc chúng bảo toàn cấu trúc tuyến tính toàn cục hay cấu trúc đa tạp phi tuyến cục bộ của dữ liệu.

Các phương pháp tuyến tính#

Kỹ thuật tuyến tính được thiết lập nhiều nhất là Principal Component Analysis (PCA). PCA hoạt động bằng cách xác định "các thành phần chính"—các trục trực giao nắm bắt phương sai tối đa trong dữ liệu. Nó chiếu dữ liệu gốc lên các trục mới này, loại bỏ một cách hiệu quả các chiều đóng góp ít thông tin. Đây là một điểm cốt lõi trong các quy trình unsupervised learning.

Các phương pháp phi tuyến#

Đối với các cấu trúc dữ liệu phức tạp, chẳng hạn như hình ảnh hoặc embeddings văn bản, các phương pháp phi tuyến tính thường được yêu cầu. Các kỹ thuật như t-Distributed Stochastic Neighbor Embedding (t-SNE) và UMAP (Uniform Manifold Approximation and Projection) xuất sắc trong việc bảo tồn các vùng lân cận cục bộ, làm cho chúng trở nên lý tưởng để trực quan hóa các cụm có số chiều cao. Ngoài ra, autoencoders là các neural networks được huấn luyện để nén các đầu vào thành biểu diễn không gian ẩn và tái tạo chúng, qua đó học được một cách hiệu quả mã hóa nhỏ gọn của dữ liệu.

Các ứng dụng trong thực tế#

Giảm chiều dữ liệu là tối quan trọng trên các miền khác nhau của deep learning (DL):

1. Thị giác máy tính: Các bộ phát hiện đối tượng hiện đại như YOLO26 xử lý các hình ảnh chứa hàng nghìn pixel. Các lớp bên trong sử dụng các kỹ thuật như gộp (pooling) và tích chập sải bước (strided convolutions) để giảm dần các chiều không gian của feature maps, chắt lọc các pixel thô thành các khái niệm ngữ nghĩa cấp cao (ví dụ: "cạnh", "mắt", "xe hơi").

2. Genomics và Chăm sóc sức khỏe: Trong medical image analysis và tin sinh học, các nhà nghiên cứu phân tích dữ liệu biểu hiện gen với hàng chục nghìn biến. Giảm chiều dữ liệu giúp xác định các dấu ấn sinh học chính để phân loại bệnh, như đã thấy trong các nghiên cứu về cancer genomics.

3. Hệ thống gợi ý: Các nền tảng như Netflix hoặc Spotify sử dụng phân rã ma trận (một kỹ thuật giảm chiều) để dự đoán sở thích của người dùng. Bằng cách giảm ma trận thưa các tương tác giữa người dùng và mục nội dung, họ có thể gợi ý nội dung hiệu quả dựa trên các đặc trưng tiềm ẩn.

Giảm chiều dữ liệu so với Lựa chọn đặc trưng#

Điều quan trọng là phải phân biệt khái niệm này với feature selection, vì chúng đạt được các mục tiêu tương tự thông qua các cơ chế khác nhau:

• Lựa chọn đặc trưng liên quan đến việc chọn một tập con của các đặc trưng gốc (ví dụ: giữ "Tuổi" và loại bỏ "Tên"). Nó không thay đổi giá trị của các đặc trưng được chọn.
• Giảm chiều dữ liệu (cụ thể là feature extraction) tạo ra các đặc trưng mới là sự kết hợp của các đặc trưng ban đầu. Ví dụ, PCA có thể kết hợp "Chiều cao" và "Cân nặng" thành một thành phần mới duy nhất đại diện cho "Kích thước cơ thể".

Ví dụ Python: Giảm chiều Embedding hình ảnh#

Ví dụ sau minh họa cách lấy đầu ra có số chiều cao (mô phỏng một véc-tơ nhúng hình ảnh) và giảm nó bằng cách sử dụng PCA. Đây là một quy trình phổ biến khi trực quan hóa cách một mô hình như YOLO26 nhóm các lớp tương tự lại với nhau.

import numpy as np
from sklearn.decomposition import PCA

# Simulate high-dimensional embeddings (e.g., 10 images, 512 features each)
# In a real workflow, these would come from a model like YOLO26n
embeddings = np.random.rand(10, 512)

# Initialize PCA to reduce from 512 dimensions to 2
pca = PCA(n_components=2)
reduced_data = pca.fit_transform(embeddings)

# Output shape is now (10, 2), ready for 2D plotting
print(f"Original shape: {embeddings.shape}")  # (10, 512)
print(f"Reduced shape: {reduced_data.shape}")  # (10, 2)