Data Privacy

数据隐私是个人控制其个人信息如何被收集、使用、共享和保留的权利，同时也包括组织为尊重这一权利而遵循的法律和实践。在人工智能领域，相关风险高于普通软件：模型基于大量训练数据构建，而这些数据往往描述真实人物；模型可能记住并复述这些数据；此外，人脸识别等系统在设计上就会处理个人信息。

法律与核心原则#

欧盟的《通用数据保护条例》（GDPR）自 2018 年 5 月起生效，其第 5 条规定了基准原则：个人数据必须依法、公平、透明地处理；收集数据必须用于特定目的（目的限制）；数据处理范围不得超出必要限度（数据最小化）；数据必须准确；保存时间不得超过所需期限（存储限制）；必须采取适当的安全措施进行保护；控制者还必须能够证明其遵守规定（问责制）。第 25 条要求在设计阶段和默认设置中落实数据保护；第 22 条则赋予人们针对完全基于自动化处理作出的决定的相关权利。罚款最高可达 2,000 万欧元或全球年营业额的 4%，以较高者为准。

其他法律也遵循类似原则。加州的 CCPA 经 CPRA 扩展后，赋予居民了解、删除数据以及选择退出数据出售或共享的权利。在美国医疗保健领域，HIPAA 的去标识化标准列出了依据安全港方法必须移除的 18 项标识符，包括全脸照片和类似图像。欧盟《人工智能法案》增加了针对 AI 的具体规则；自 2025 年 2 月起，该法案禁止通过无差别抓取互联网人脸图像或 CCTV 录像来建立人脸识别数据库。

数据集是否受这些法律管辖，取决于能否从数据中识别出个人：

匿名化比看起来更难。Latanya Sweeney 于 2000 年证明，仅凭邮政编码、性别和出生日期就能唯一识别约 87% 的美国人口，因此仅删除姓名很少能让数据集真正匿名。

AI 特有的隐私风险#

模型可能记住并复现训练样本。Nicholas Carlini 等人从扩散模型中提取了一千多张训练图像，其中包括个人照片。即使无法提取样本，成员推理攻击仍可能揭示某个人的记录是否曾出现在训练集中；如果模型使用某种疾病患者的数据训练，这一点本身就很敏感。扩散模型中已出现过此类数据提取。

数据收集是另一项重大风险。为某种目的收集的图像和文本常常会在没有合法依据的情况下被重复用于训练；多个欧洲数据保护机构因 Clearview AI 抓取照片建立人脸数据库而对其处以罚款，其中荷兰机构于 2024 年处以 3,050 万欧元罚款。在组织内部，通过影子 AI工具将个人数据粘贴到外部聊天机器人中，会使数据脱离组织的控制。

保护隐私的技术#

• 差分隐私：向统计数据或训练过程添加经过校准的噪声，使输出几乎无法泄露任何个人的信息。
• 联邦学习：在数据所在位置进行训练，例如手机或医院服务器，并且只共享模型更新。
• 合成数据：用生成的数据替代真实记录，同时保留其统计模式。
• 机密 AI和边缘 AI：在经过认证的硬件安全区域内，或在采集数据的设备上处理数据。

脱敏会在存储或训练之前移除可识别身份的内容。计算机视觉流水线会对街景图像中的人脸和车牌进行模糊处理，以用于智慧城市交通分析；医学图像分析数据集则会从 DICOM 标头中删除患者标识符，并从头部扫描图像中移除面部特征。在 Ultralytics Platform上，“模糊人脸”操作会在示例图像上预览检测到的人脸，然后替换数据集中每张图像里的相应像素；你还可以设置数据集，让每次上传新图像时都自动模糊人脸。

数据安全是数据隐私的一项要求：加密和访问控制可以防止未经授权的人员接触个人数据；但即使数据库的安全防护无懈可击，如果其中保存的数据是在没有合法依据的情况下收集，或保存时间超过其用途所需，仍可能违反隐私法。