Bias in AI

人工智能中的偏见是指嵌入人工智能 (AI)系统中的系统性错误、偏见或无根据的假设，导致不公平、不平等或歧视性结果。与不可预测的随机错误不同，偏见表现为结果持续偏向或排斥特定群体，通常基于种族、性别、年龄或社会经济地位等敏感特征。随着机器学习 (ML)模型越来越多地应用于高风险环境——从医疗保健中的人工智能诊断到金融借贷——识别和缓解这些偏见已成为人工智能伦理与安全协议的重要组成部分。

偏见的来源与起因#

偏见很少是有意引入的；相反，它会在开发生命周期的各个阶段渗入系统，通常反映出历史不平等或数据收集中的缺陷。

• 数据集偏见：这是最常见的来源，发生在训练数据无法准确代表现实世界人口时。例如，如果计算机视觉 (CV)模型主要使用来自西方国家的图像进行训练，它可能无法识别其他地区的文化背景或物体，这种现象通常与选择偏差有关。
• 算法偏见：即使数据完美无缺，模型设计也可能引入不公平性。某些优化算法会优先考虑全局准确率指标，为了最大化总体得分，可能会无意中牺牲规模较小且代表性不足的子群体上的性能。
• 认知偏见与历史偏见：人类偏见可能会在数据标注过程中被编码进真实标签。如果人工标注员带有无意识偏见，模型就会学会复制这些主观判断，从而有效地将现有的社会差异自动化。

现实世界中的影响#

人工智能中的偏见可能造成深远后果，影响个人权利和安全。

• 面部分析差异：早期的面部识别技术在女性和有色人种群体中的错误率明显更高。算法正义联盟等组织指出，这些常用于安全领域的系统可能因训练集缺乏代表性而导致错误识别和无端指控。
• 医疗保健诊断：在医学图像分析中，主要使用浅肤色患者数据训练的模型可能难以检测深肤色人群的皮肤病症。这种差异可能导致诊断延误和医疗质量不平等，因此人们呼吁使用更多样化的生物医学数据集。

缓解策略#

解决偏见需要在模型训练和部署流程的各个环节采取主动措施。

1. 多样化数据整理：使用Ultralytics Platform等工具，可以让团队可视化数据集分布，并在训练开始前发现代表性缺失。

2. 公平性感知测试：开发者不应只依赖汇总指标，而应针对不同人口统计学切片进行细粒度的模型评估，以确保性能公平。

3. 可解释性：实施可解释人工智能 (XAI)技术有助于利益相关者了解模型为何做出某项决策，从而更容易发现歧视性逻辑或对代理变量的依赖（例如，使用邮政编码作为种族的代理变量）。

区分相关概念#

区分“人工智能中的偏见”和“偏见”一词的其他技术用法非常重要。

• 与偏差-方差权衡的区别：在统计学习中，它指的是通过简化模型近似现实问题而引入的误差（欠拟合）。这是一个关于模型复杂性的数学概念，与“人工智能中的偏见”所指的社会偏见不同。
• 与模型权重和偏置的区别：在神经网络中，“偏置”项是一个可学习参数（类似于线性方程中的截距），允许对激活函数进行平移。这是一个基本的数学组件，并非伦理缺陷。
• 与人工智能公平性的区别：偏见指的是偏见或错误的存在，而公平性则是消除这种偏见的目标或所采取的一系列纠正措施。

技术示例：评估子群体性能#

为了检测偏见，开发者通常会使用代表少数群体的特定“挑战”数据集测试模型。以下示例演示了如何使用YOLO26验证模型在特定数据子集上的性能。

from ultralytics import YOLO

# Load a pre-trained YOLO26 model
model = YOLO("yolo26n.pt")

# Validate the model on a specific dataset split designed to test
# performance on an underrepresented environment (e.g., 'night_time.yaml')
metrics = model.val(data="night_time_data.yaml")

# Analyze specific metrics to check for performance degradation
print(f"mAP50-95 on challenge set: {metrics.box.map}")

美国国家标准与技术研究院人工智能风险管理框架等标准以及欧盟人工智能法案等法规，正日益要求开展此类偏见审计，以确保负责任的人工智能开发。