主成分分析 (PCA)

主成分分析（PCA）是机器学习（ML）中广泛应用的统计技术，它能在保留数据核心信息的同时简化高维数据的复杂性。 它作为一种降维方法， 将包含大量变量的大型数据集 转化为更小、更易处理的"主成分"集合。通过识别数据变化最显著的方向， PCA使数据科学家能够降低计算成本 并消除噪声，同时不丢失重要模式。 这一过程是有效数据预处理的关键步骤， 常用于将复杂数据集可视化为二维或三维形式。

PCA的工作原理

从本质上讲，PCA是一种基于方差重组数据的线性变换技术。在具有大量特征的数据集中——例如图像中的像素值或物联网（IoT）网络中的传感器读数——变量所传递的信息往往存在重叠。PCA通过逐步最大化方差，识别出新的、不相关的变量（主成分）。 第一主成分捕捉数据中最大变异量，第二主成分捕捉次大变异量（且与第一主成分垂直），依此类推。

通过仅保留前几项特征并舍弃其余成分，实践者可实现显著的压缩效果。这有助于缓解维度诅咒现象——当特征数量相对于可用训练样本增加时，预测建模性能会随之下降。

实际应用

PCA 功能多样，支持人工智能开发生命周期的各个阶段，从数据清洗到模型内部可视化。

• 可视化图像嵌入：在高级计算机视觉（CV）任务中，诸如YOLO26等模型会生成高维嵌入向量来表示图像。这些向量可能包含512或1024个不同数值，人类无法直接观察。 工程师通过PCA将这些嵌入投影到二维平面图上，从而可视化检查模型对不同类别的分离效果——例如在自动驾驶系统中区分"行人"与"骑行者"。
• 异常检测的预处理：金融机构和网络安全公司采用主成分分析（PCA）进行异常检测。通过利用主成分建模系统正常行为，任何无法被这些成分良好重构的交易或网络数据包都会被标记为异常值。这种方法能高效识别实时流中的欺诈行为或恶意攻击。

PCA与t-SNE及自编码器的比较

虽然主成分分析（PCA）是特征提取的标准工具，但有必要将其与其他降维技术区分开来：

• t-SNE（t-分布随机邻域嵌入）： PCA是一种线性方法，能够保留全局结构和方差。相比之下，t-SNE是一种非线性概率技术，擅长保留局部邻域结构，因此更适合可视化独立聚类，但计算量更大。
• 自编码器：这类神经网络经过训练可对数据进行压缩与重建。与PCA不同，自编码器能够学习复杂的非线性映射关系。然而，要实现有效训练，它们需要显著更多的训练数据和计算资源。

Python ：特征压缩

下面的示例演示了如何使用 scikit-learn 为降低高维特征向量。 该工作流模拟在将视觉模型输出存储至 向量数据库 或用于聚类。

import numpy as np
from sklearn.decomposition import PCA

# Simulate 100 image embeddings, each with 512 dimensions (features)
embeddings = np.random.rand(100, 512)

# Initialize PCA to reduce the data to 3 principal components
pca = PCA(n_components=3)

# Fit and transform the embeddings to the lower dimension
reduced_data = pca.fit_transform(embeddings)

print(f"Original shape: {embeddings.shape}")  # Output: (100, 512)
print(f"Reduced shape: {reduced_data.shape}")  # Output: (100, 3)

将主成分分析（PCA）集成到Ultralytics 管道中，可通过降低输入复杂性来简化模型训练流程，从而实现更快的实验速度和更稳健的人工智能解决方案。