Dimensionality Reduction

Giảm chiều dữ liệu là một kỹ thuật mang tính đột phá trong học máy (ML) và khoa học dữ liệu, được sử dụng để giảm số lượng biến đầu vào—thường được gọi là các đặc trưng hoặc chiều—trong một dataset, đồng thời giữ lại những thông tin quan trọng nhất. Trong thời đại dữ liệu lớn, các dataset thường chứa hàng nghìn biến, dẫn đến một hiện tượng được gọi là lời nguyền số chiều. Hiện tượng này có thể khiến quá trình huấn luyện model trở nên tốn kém về mặt tính toán, dễ bị overfitting và khó diễn giải. Bằng cách chiếu dữ liệu nhiều chiều vào một không gian có ít chiều hơn, các chuyên gia có thể cải thiện hiệu suất, khả năng trực quan hóa và hiệu năng dự đoán.

Lợi ích cốt lõi trong phát triển AI#

Giảm độ phức tạp của dữ liệu là một bước nền tảng trong các pipeline tiền xử lý dữ liệu. Kỹ thuật này mang lại một số lợi ích thiết thực cho việc xây dựng các hệ thống trí tuệ nhân tạo (AI) mạnh mẽ:

• Tăng hiệu quả tính toán: Ít đặc trưng hơn đồng nghĩa với việc cần xử lý ít dữ liệu hơn. Điều này rút ngắn thời gian huấn luyện cho các thuật toán như YOLO26, giúp chúng phù hợp hơn với suy luận thời gian thực và triển khai trên các thiết bị AI biên có tài nguyên hạn chế.
• Cải thiện trực quan hóa dữ liệu: Trực giác của con người gặp khó khăn khi lĩnh hội dữ liệu vượt quá ba chiều. Giảm chiều dữ liệu nén các dataset phức tạp vào không gian 2D hoặc 3D, cho phép trực quan hóa dữ liệu hiệu quả để phát hiện các cụm, mẫu và điểm ngoại lệ bằng những công cụ như TensorFlow Embedding Projector.
• Giảm nhiễu: Bằng cách tập trung vào phương sai phù hợp nhất trong dữ liệu, kỹ thuật này lọc bỏ nhiễu và các đặc trưng dư thừa. Kết quả là dữ liệu huấn luyện sạch hơn, giúp các model khái quát hóa tốt hơn trên những mẫu chưa từng thấy.
• Tối ưu hóa lưu trữ: Lưu trữ các dataset khổng lồ trên cloud, chẳng hạn như những dataset được quản lý thông qua Ultralytics Platform, có thể tốn kém. Việc nén không gian đặc trưng giúp giảm đáng kể yêu cầu lưu trữ mà không làm ảnh hưởng đến tính toàn vẹn thiết yếu của dữ liệu.

Các kỹ thuật chính: Tuyến tính và phi tuyến#

Các phương pháp giảm số chiều thường được phân loại dựa trên việc chúng bảo toàn cấu trúc tuyến tính toàn cục hay đa tạp phi tuyến cục bộ của dữ liệu.

Các phương pháp tuyến tính#

Kỹ thuật tuyến tính được thiết lập lâu đời nhất là Phân tích thành phần chính (PCA). PCA hoạt động bằng cách xác định các "thành phần chính"—những trục trực giao nắm bắt phương sai tối đa trong dữ liệu. Kỹ thuật này chiếu dữ liệu gốc lên các trục mới, qua đó loại bỏ hiệu quả những chiều đóng góp ít thông tin. Đây là một phương pháp nền tảng trong các workflow học không giám sát.

Các phương pháp phi tuyến#

Đối với các cấu trúc dữ liệu phức tạp, chẳng hạn như embedding của hình ảnh hoặc văn bản, thường cần sử dụng các phương pháp phi tuyến. Những kỹ thuật như Nhúng láng giềng ngẫu nhiên phân phối t (t-SNE) và UMAP (Xấp xỉ và chiếu đa tạp đồng nhất) đặc biệt hiệu quả trong việc bảo toàn các vùng lân cận cục bộ, khiến chúng trở nên lý tưởng để trực quan hóa các cụm nhiều chiều. Ngoài ra, autoencoder là các mạng neural được huấn luyện để nén đầu vào thành một biểu diễn trong không gian tiềm ẩn rồi tái tạo chúng, qua đó học một encoding gọn nhẹ cho dữ liệu.

Các ứng dụng trong thực tế#

Giảm chiều dữ liệu đóng vai trò quan trọng trong nhiều lĩnh vực học sâu (DL):

1. Thị giác máy tính: Các model phát hiện đối tượng hiện đại như YOLO26 xử lý hình ảnh chứa hàng nghìn pixel. Các layer bên trong sử dụng những kỹ thuật như pooling và tích chập có stride để dần giảm các chiều không gian của feature map, chắt lọc pixel thô thành các khái niệm ngữ nghĩa cấp cao (ví dụ: "cạnh," "mắt," "xe ô tô").

2. Genomics và chăm sóc sức khỏe: Trong phân tích hình ảnh y tế và tin sinh học, các nhà nghiên cứu phân tích dữ liệu biểu hiện gene với hàng chục nghìn biến. Giảm chiều dữ liệu giúp xác định các biomarker quan trọng để phân loại bệnh, như được thể hiện trong các nghiên cứu về genomics ung thư.

3. Hệ thống đề xuất: Các nền tảng như Netflix hoặc Spotify sử dụng phép phân rã ma trận (một kỹ thuật giảm chiều) để dự đoán sở thích của người dùng. Bằng cách giảm ma trận thưa của các tương tác giữa người dùng và mục, các nền tảng này có thể đề xuất nội dung hiệu quả dựa trên các đặc trưng tiềm ẩn.

Giảm chiều dữ liệu và lựa chọn đặc trưng#

Điều quan trọng là phân biệt khái niệm này với lựa chọn đặc trưng, vì chúng đạt được các mục tiêu tương tự thông qua những cơ chế khác nhau:

• Lựa chọn đặc trưng bao gồm việc chọn một tập con các đặc trưng gốc (ví dụ: giữ lại "Tuổi" và loại bỏ "Tên"). Phương pháp này không thay đổi giá trị của các đặc trưng được chọn.
• Giảm chiều dữ liệu (cụ thể là trích xuất đặc trưng) tạo ra các đặc trưng mới là sự kết hợp của những đặc trưng gốc. Ví dụ, PCA có thể kết hợp "Chiều cao" và "Cân nặng" thành một thành phần mới duy nhất biểu diễn "Kích thước cơ thể".

Ví dụ Python: Giảm chiều embedding hình ảnh#

Ví dụ sau minh họa cách lấy đầu ra nhiều chiều (mô phỏng một vector embedding hình ảnh) và giảm chiều đầu ra đó bằng PCA. Đây là một workflow phổ biến khi trực quan hóa cách một model như YOLO26 nhóm các class tương tự.

import numpy as np
from sklearn.decomposition import PCA

# Simulate high-dimensional embeddings (e.g., 10 images, 512 features each)
# In a real workflow, these would come from a model like YOLO26n
embeddings = np.random.rand(10, 512)

# Initialize PCA to reduce from 512 dimensions to 2
pca = PCA(n_components=2)
reduced_data = pca.fit_transform(embeddings)

# Output shape is now (10, 2), ready for 2D plotting
print(f"Original shape: {embeddings.shape}")  # (10, 512)
print(f"Reduced shape: {reduced_data.shape}")  # (10, 2)