AI Ethics

AI 伦理是将道德原则应用于人工智能（AI）设计、开发和使用的领域，它探讨应该构建哪些系统、系统应如何运行，以及谁应对系统造成的影响负责。其核心关注点包括公平、隐私、透明度、安全、问责和人工监督，并涉及哲学、法律、社会科学和工程学。在实践中，AI 伦理会影响团队如何收集数据、评估模型以及决定发布哪些产品，并支撑欧盟《人工智能法案》和加利福尼亚州的 AI 法律等法规。

核心原则#

国际框架对一组相似原则达成共识。经合组织人工智能原则于 2019 年通过并于 2024 年更新，是首个关于人工智能的政府间标准；联合国教科文组织的人工智能伦理问题建议书于 2021 年获全部 193 个成员国通过；而美国国家标准与技术研究院人工智能风险管理框架（2023 年）则将相似价值观转化为组织可衡量的可信人工智能特征：

• 公平与非歧视：系统不应因肤色、性别、年龄或其他受保护特征而对某些人表现更差或使其处于不利地位。人工智能中的偏见通常源于缺乏代表性的数据或标签，而人工智能公平性则提供用于检验偏见的指标。
• 隐私与数据治理：个人数据应依法收集，在需要时征得同意，且处理范围不得超出目的所需。差分隐私和联邦学习等技术可以减少模型泄露或集中处理的数据量。在视频分析中，隐私保护设计可能意味着在存储视频前对人物进行匿名化：Ultralytics 对象模糊解决方案会对每一帧运行 YOLO26 检测，并就地模糊每个检测到的对象，例如每个人。
• 透明度与可解释性：人们应该知道自己何时在与人工智能系统交互，并能够了解系统的构建方式，这正是人工智能透明度所探讨的内容；影响人们的决策应能够通过可解释人工智能（XAI）方法进行解释。
• 安全性与鲁棒性：系统应在部署时遇到的条件下可靠运行，抵御对抗攻击等操纵，并在发生故障时确保安全。
• 问责与人工监督：应由明确指定的个人或组织对每个系统的结果负责，并且人类能够监控、覆盖或关闭系统。

从原则到法律#

欧盟人工智能法案将这些原则转化为与风险相匹配的义务。该法案于 2024 年 8 月生效；对禁止做法的禁令自 2025 年 2 月 2 日起适用，透明度义务自 2026 年 8 月 2 日起适用。经 2026 年《数字综合修正案》修订后，附件 III 中列出的高风险用途（如招聘、信用评分和教育）的要求自 2027 年 12 月 2 日起适用。该法案根据每种人工智能用途所触发的义务对其进行分类：

多项禁令直接涉及计算机视觉：无差别抓取互联网或闭路电视中的人脸图像以建立识别数据库；在工作场所和学校使用情绪识别；推断种族或政治观点等特征的生物特征分类；以及在有限例外之外，执法部门在公共场所进行实时远程生物特征识别。组织还可以依据 ISO/IEC 42001 对其人工智能管理实践进行认证，这是一项于 2023 年发布的国际标准。

人工智能伦理与相关术语#

• 人工智能安全：关注如何在系统能力不断增强时防止事故、滥用和失控。人工智能伦理还会追问系统是否应该存在，以及系统服务于谁。
• 人工智能治理：组织和政府通过这些政策、流程和法律将伦理原则付诸实践。
• 负责任的人工智能：企业通常用这个术语指代自身的人工智能伦理实践，它在很大程度上是人工智能伦理的同义词。
• 算法偏见：更广泛领域中的一个具体伦理问题，即会导致不公平结果的系统性误差。

计算机视觉中的伦理问题#

• 医疗健康：在医学图像分析中，针对一家医院的扫描仪和患者完成验证的模型，可能无法发现其从未接触过的人群中的病症，因此伦理框架要求进行分组评估并由临床医生监督。
• 合成媒体：深度伪造会助长欺诈、骚扰和虚假信息，而欧盟人工智能法案要求部署方对此进行披露。
• 情绪识别：2022 年，Microsoft 停用了 Azure Face 中用于推断情绪状态以及性别、年龄等属性的功能，理由是如何定义情绪尚无科学共识，而且人们怀疑基于面部表情作出的推断能否推广到不同地区和人口群体。
• 同意与数据集来源：许多面部和人物数据集是在照片中人物不知情的情况下抓取的；Microsoft 于 2019 年下架了其 MS-Celeb-1M 数据集，该数据集包含约 10 万人的约 1000 万张照片。
• 人脸识别与监控：2020 年 6 月，IBM 停止提供通用人脸识别服务，Amazon 则暂停了警方使用其 Rekognition 服务，并在之后将暂停期限延长至无限期。2024 年 9 月，荷兰数据保护局因 Clearview AI 从互联网上抓取照片并建立包含数十亿张人脸照片的数据库，对其处以 3050 万欧元罚款。