Dataset Bias

当用于训练 机器学习 (ML) 模型的信息包含系统性错误或分布偏斜时，就会出现数据集偏差，导致最终的 AI 系统偏向某些结果而非其他结果。由于模型的功能类似于模式识别引擎，它们完全依赖于输入；如果 训练数据 不能准确反映现实环境的多样性，模型就会继承这些盲点。这种现象通常会导致泛化能力差，即 AI 在测试期间可能获得高分，但在不同或意外场景中进行 实时推理 时却表现糟糕。

Link to this section数据偏斜的常见来源#

偏差可能会在开发生命周期的多个阶段渗入数据集，通常源于收集或标注过程中的人为决策。

• 选择性偏差: 当收集的数据不能随机代表目标人群时，就会产生这种偏差。例如，使用主要是名人图像创建的 人脸识别 数据集可能会使模型偏向于浓妆和专业灯光，从而导致它在日常摄像头拍摄的图像上失效。
• 标注错误: 数据标注 过程中的主观性可能会引入人为偏见。如果标注员因为缺乏明确的准则而持续错误分类模糊对象，模型会将这些错误视为真实情况。
• 代表性偏差: 即使是随机选择的，少数群体也可能在统计上被多数群体淹没。在 目标检测 中，一个包含 10,000 张汽车图像但仅有 100 张自行车图像的数据集，将导致模型倾向于检测汽车。

Link to this section实际应用与后果#

数据集偏差的影响在各个行业中都很显著，特别是在自动化系统做出高风险决策或与物理世界交互的领域。

在汽车行业中，汽车 AI 依靠摄像头来识别行人和障碍物。如果自动驾驶汽车主要是在晴朗、干燥的气候下收集的数据集上进行训练的，它在雪天或大雨中运行时可能会表现下降。这是训练分布未能匹配操作分布，从而导致安全风险的典型例子。

同样，在 医学图像分析 中，诊断模型通常基于历史患者数据进行训练。如果一个旨在检测皮肤状况的模型在以浅肤色为主的数据集上进行训练，那么在诊断肤色较深的患者时，其 准确率 可能会显著降低。解决这个问题需要共同努力策划多样化的数据集，以确保所有人口群体之间的 AI 公平性。

Link to this section缓解策略#

开发者可以通过采用严格的审计和高级训练策略来减少数据集偏差。数据增强 等技术有助于通过人工创建代表性不足示例的变体（例如翻转、旋转或调整亮度）来平衡数据集。此外，生成 合成数据 可以填补现实世界数据稀缺或难以收集的空白。

有效地管理这些数据集至关重要。Ultralytics Platform 允许团队在开始训练之前可视化类分布并识别不平衡。此外，遵循诸如 NIST AI 风险管理框架 之类的指南，有助于组织结构化地识别和缓解这些风险。

Link to this section数据集偏差与相关概念#

区分数据集偏差与类似术语有助于理解错误的根源：

• 与 算法偏差 的对比： 数据集偏差是以数据为中心的；它意味着“原料”是有缺陷的。算法偏差是以模型为中心的；它源于算法本身的设计或 优化算法，这些算法可能为了最大化整体指标而优先考虑多数类，从而牺牲少数群体。
• 与 模型漂移 的对比： 数据集偏差是训练时存在的静态问题。模型漂移（或数据漂移）发生于模型部署后，现实世界的数据随时间推移而发生变化，这需要持续的 模型监控。

Link to this section代码示例：通过增强减少偏差#

以下示例演示了如何在使用 YOLO26 进行训练期间应用数据增强。通过增加几何增强，模型学会了更好地泛化，从而可能减少对训练集中特定对象方向或位置的偏见。

from ultralytics import YOLO

# Load YOLO26n, a high-efficiency model ideal for edge deployment
model = YOLO("yolo26n.pt")

# Train with increased augmentation to improve generalization
# 'fliplr' (flip left-right) and 'scale' help the model see diverse variations
results = model.train(
    data="coco8.yaml",
    epochs=50,
    fliplr=0.5,  # 50% probability of horizontal flip
    scale=0.5,  # +/- 50% image scaling
)