Phân tích thành phần chính (PCA)

Phân tích Thành phần Chính (PCA) là một kỹ thuật giảm chiều tuyến tính nền tảng được sử dụng rộng rãi trong thống kê, khoa học dữ liệu và học máy (ML) . Mục tiêu chính của nó là đơn giản hóa các tập dữ liệu đa chiều phức tạp trong khi vẫn giữ lại những thông tin quan trọng nhất. Bằng cách chuyển đổi toán học tập hợp các biến tương quan ban đầu thành một tập hợp nhỏ hơn các biến không tương quan, được gọi là "thành phần chính", PCA cho phép các nhà khoa học dữ liệu giảm nhiễu, cải thiện hiệu suất tính toán và tạo điều kiện trực quan hóa dữ liệu dễ dàng hơn mà không làm mất đi các mẫu quan trọng chứa trong dữ liệu.

Cách thức hoạt động của Phân tích thành phần chính

Cơ chế của PCA dựa trên các khái niệm từ đại số tuyến tính để xác định các hướng (thành phần chính) mà dữ liệu thay đổi nhiều nhất. Thành phần chính đầu tiên nắm bắt phương sai tối đa trong tập dữ liệu, đại diện cho xu hướng chủ đạo nhất. Mỗi thành phần tiếp theo nắm bắt phương sai còn lại theo thứ tự giảm dần, với điều kiện là nó phải trực giao (không tương quan) với các thành phần trước đó. Phép biến đổi này thường được tính toán bằng cách sử dụng ma trận hiệp phương sai và các vectơ riêng và giá trị riêng tương ứng của nó.

Bằng cách chỉ giữ lại một vài thành phần trên cùng, người thực hành có thể chiếu dữ liệu đa chiều vào không gian đa chiều thấp hơn—thường là 2D hoặc 3D. Quá trình này là một bước quan trọng trong quá trình tiền xử lý dữ liệu để giảm thiểu vấn đề đa chiều , khi các mô hình gặp khó khăn trong việc khái quát hóa do dữ liệu thưa thớt trong không gian đa chiều. Việc giảm thiểu này giúp ngăn ngừa hiện tượng quá khớp và tăng tốc độ huấn luyện mô hình .

Ứng dụng thực tế trong AI và ML

PCA được sử dụng trên nhiều lĩnh vực Trí tuệ nhân tạo (AI) để tối ưu hóa hiệu suất và khả năng diễn giải.

1. Nhận dạng và Nén Khuôn mặt : Trong lĩnh vực thị giác máy tính (CV) , PCA trước đây đóng vai trò quan trọng trong nhận dạng khuôn mặt thông qua một phương pháp được gọi là "Eigenfaces". Hình ảnh được xử lý như các vectơ đa chiều, và PCA trích xuất các đặc điểm cơ bản (thành phần) giúp phân biệt khuôn mặt này với khuôn mặt khác. Điều này cho phép hệ thống lưu trữ và so sánh khuôn mặt bằng cách sử dụng biểu diễn nén thay vì dữ liệu pixel thô, giúp cải thiện đáng kể tốc độ.
2. Di truyền học và Tin sinh học : Các nhà nghiên cứu trong lĩnh vực tin sinh học xử lý các tập dữ liệu chứa hàng ngàn mức biểu hiện gen cho mỗi mẫu. PCA cho phép họ thực hiện phân tích dữ liệu thăm dò (EDA) bằng cách thu nhỏ hàng ngàn chiều này thành một biểu đồ phân tán 2D. Hình ảnh trực quan này có thể tiết lộ các cụm mẫu có cấu hình di truyền tương tự, hỗ trợ việc phát hiện các phân nhóm bệnh hoặc phát hiện bất thường .

Tích hợp với thị giác máy tính hiện đại

Trong khi các kiến trúc học sâu hiện đại như Mạng Nơ-ron Tích chập (CNN) thực hiện trích xuất đặc trưng nội bộ, PCA vẫn rất quan trọng trong việc phân tích các biểu diễn đã học. Ví dụ: người dùng làm việc với YOLO11 có thể trích xuất các nhúng đặc trưng từ xương sống của mô hình để hiểu mô hình phân tách các lớp khác nhau tốt như thế nào.

Ví dụ sau đây minh họa cách áp dụng PCA để giảm các vectơ đặc trưng có chiều cao bằng cách sử dụng thư viện Scikit-learn phổ biến, một bước phổ biến trước khi trực quan hóa nhúng.

import numpy as np
from sklearn.decomposition import PCA

# Simulate high-dimensional features (e.g., embeddings from a YOLO11 model)
# Shape: (100 samples, 512 features)
features = np.random.rand(100, 512)

# Initialize PCA to reduce data to 2 dimensions for visualization
pca = PCA(n_components=2)

# Fit the model and transform the features
reduced_features = pca.fit_transform(features)

# The data is now (100, 2), ready for plotting
print(f"Original shape: {features.shape}")
print(f"Reduced shape: {reduced_features.shape}")

PCA so với các kỹ thuật liên quan

Sẽ rất hữu ích khi phân biệt PCA với các phương pháp giảm chiều và học tính năng khác có trong học không giám sát :

• t-SNE (t-Distributed Stochastic Neighbor Embedding) : Không giống như PCA, một kỹ thuật tuyến tính tập trung vào việc bảo toàn phương sai toàn cục, t-SNE phi tuyến tính và vượt trội trong việc bảo toàn cấu trúc lân cận cục bộ. Điều này khiến t-SNE vượt trội trong việc trực quan hóa các cụm nhưng ít phù hợp hơn cho việc nén hoặc tái tạo dữ liệu.
• Bộ mã hóa tự động : Đây là các mô hình dựa trên mạng nơ-ron học cách nén và tái tạo dữ liệu. Bộ mã hóa tự động có thể nắm bắt các mối quan hệ phi tuyến tính phức tạp mà PCA bỏ sót, nhưng chúng đòi hỏi nhiều dữ liệu và tài nguyên tính toán hơn đáng kể để đào tạo.
• Lựa chọn Đặc trưng : Trong khi PCA tạo ra các đặc trưng mới (thành phần) là sự kết hợp của các biến ban đầu, lựa chọn đặc trưng bao gồm việc chọn một tập hợp con các đặc trưng ban đầu và loại bỏ phần còn lại. PCA thường được ưu tiên khi tất cả các đặc trưng ban đầu đều đóng góp một số thông tin có giá trị.