Feature Engineering

探索特征工程如何提升模型性能。了解缩放和数据增强等技术，以优化 Ultralytics YOLO26 并提高准确率。

特征工程是将原始数据转换为有意义的输入，以提升机器学习模型性能的过程。它利用领域知识来选择、修改或创建新的变量，这些变量称为特征，有助于算法更好地理解数据中的模式。虽然现代深度学习架构（如卷积神经网络（CNNs））能够自动学习特征，但显式特征工程在许多工作流中仍然是关键步骤，尤其是在处理结构化数据或尝试优化边缘设备上的模型效率时。通过改进输入数据，开发者通常可以使用更简单的模型实现更高的准确率，从而减少对海量计算资源的需求。

特征工程在 AI 中的作用#

在人工智能（AI）的语境下，原始数据很少能直接用于处理。图像可能需要调整大小，文本可能需要进行分词，而表格数据通常包含缺失值或无关列。特征工程在原始信息与算法所需的数学表示之间搭起了桥梁。有效的特征工程可以突出模型可能遗漏的关键关系，例如将“距离”和“时间”结合起来创建“速度”特征。这一过程与数据预处理密切相关，但预处理侧重于清理和格式化，而特征工程则关注创造性地增强数据，以提升预测能力。

对于计算机视觉任务，特征工程已经取得了显著发展。传统方法包括手动构造尺度不变特征变换（SIFT）等描述符，以识别边缘和角点。如今，像 YOLO26 这样的深度学习模型会在其隐藏层中执行自动特征提取。不过，特征工程在数据集准备中仍然发挥着重要作用，例如生成合成数据，或应用数据增强技术（如马赛克和混合增强），使模型在训练期间接触到更具鲁棒性的特征变化。

常见技术与应用#

特征工程涵盖范围广泛的策略，具体取决于问题和数据类型。

降维： 主成分分析（PCA）等技术在保留关键信息的同时减少变量数量，从而防止高维数据集中的过拟合。
类别变量编码： 算法通常需要数值输入。独热编码等方法会将类别标签（例如“红色”“蓝色”）转换为模型可以处理的二进制向量。
归一化与缩放： 将特征缩放到标准范围，可以确保数值较大的变量（如房价）不会支配取值范围较小的变量（如房间数量），这对于神经网络中的基于梯度的优化至关重要。
分箱与离散化： 将连续值分组到不同的区间中（例如按年龄分组），可以帮助模型更有效地处理异常值并捕捉非线性关系。

现实世界中的示例#

特征工程被应用于各个行业，以解决复杂问题。

制造业中的预测性维护： 在智能制造中，传感器会从设备收集原始振动和温度数据。工程师可以创建表示温度“变化率”或振动强度“滚动平均值”的特征。这些工程化特征使异常检测模型能够提前数天预测设备故障，而不是仅仅对当前的传感器读数做出反应。
信用风险评估： 金融机构使用特征工程来评估贷款资格。它们不会只关注原始的“收入”数值，而是可能构造“债务收入比”或“信用额度使用率”等特征。这些派生特征能够更细致地反映借款人的财务状况，从而实现更准确的风险分类。

代码示例：自定义特征增强#

在计算机视觉中，我们可以通过增强图像来模拟不同的环境条件，从而“构造”特征。这有助于 YOLO26 等模型获得更好的泛化能力。下面的示例演示了如何使用 ultralytics 工具应用简单的灰度变换，迫使模型学习结构特征，而不是完全依赖颜色。

import cv2
from ultralytics.data.augment import Albumentations

# Load an example image using OpenCV
img = cv2.imread("path/to/image.jpg")

# Define a transformation pipeline to engineer new visual features
# Here, we convert images to grayscale with a 50% probability
transform = Albumentations(p=1.0)
transform.transform = A.Compose([A.ToGray(p=0.5)])

# Apply the transformation to create a new input variation
augmented_img = transform(img)

# This process helps models focus on edges and shapes, improving robustness

与相关术语的区别#

区分特征工程与相似概念，有助于避免在工作流讨论中产生混淆。

特征工程与特征提取： 两者虽然经常互换使用，但仍存在细微差别。特征工程意味着基于领域知识手动、创造性地构造新的输入。相比之下，特征提取通常指自动化方法或数学投影（如 PCA），用于将高维数据提炼为稠密表示。在深度学习（DL）中，卷积神经网络（CNNs）中的层会通过学习边缘和纹理的滤波器来执行自动特征提取。
特征工程与嵌入： 在现代自然语言处理（NLP）中，手动创建特征（如统计词频）在很大程度上已被嵌入取代。嵌入是由模型自身学习得到的稠密向量表示，用于捕捉语义含义。嵌入虽然属于特征的一种形式，但它们是通过自动化机器学习（AutoML）流程学习得到的，而不是由人工明确“构造”的。

掌握特征工程后，开发者可以构建出不仅更准确、而且更高效的模型，以更少的计算能力实现高性能。Ultralytics Platform 等工具通过提供直观的数据集管理和模型训练界面来助力这一过程，让用户能够快速迭代特征策略。