加利福尼亚州的新 AI 法规：聚焦 AI 伦理

从自动驾驶汽车到医疗保健，人工智能（AI）创新和新一代科技公司正开始在重塑我们的日常生活方面发挥关键作用。因此，AI 市场规模在 2023 年达到 1966.3 亿美元，预计从 2024 年到 2030 年年均增长 36%。这些数字展示了 AI 的快速发展。

一方面，AI 的快速发展正在为各行各业的各种问题带来解决方案。另一方面，这种发展速度也凸显了负责任地开发 AI 的必要性，确保技术进步符合伦理并有益于社会。

例如，2016 年，Microsoft 在 X（前身为 Twitter）上推出了聊天机器人 Tay，并设计为从与用户的对话中学习。然而，发布后不久，Tay 接触到各种互动内容后，开始生成不专业的言论。Microsoft 很快就让这个机器人下线了，但这很好地说明了确保 AI 训练数据可靠，以及让公众了解企业如何将此类数据用于 AI 产品的重要性。

图 1。 Microsoft 的 Twitter 聊天机器人 Tay。

为应对这一问题，加利福尼亚州州长 Gavin Newsom 于今年 9 月签署了十多项与 AI 相关的法案，使其正式成为法律。这些法律涉及从披露训练数据详情到处理深度伪造内容等方方面面。本文将探讨加利福尼亚州的 AI 法律及其具体内容。

2024 年加利福尼亚州 AI 立法：确保问责#

三项重要法案已签署成为法律，旨在让 AI 开发更加安全可靠。众议院法案 AB 2013将于 2026 年生效，要求生成式 AI 提供商公布其训练数据集的详细信息。这些信息包括数据集来源、数据的使用方式、数据点数量、是否包含受版权保护或经授权的数据、数据收集的时间段等。共享这些信息有助于 AI 公司建立公众信任。

另一项已签署的重要法案是 AB 1008。该法案将加利福尼亚州现行的隐私法律扩展至生成式 AI 解决方案。AB 1008 旨在回应公众的担忧，并增强公众对 AI 系统处理个人信息方式的信心。一项调查发现，超过81% 的消费者担心 AI 公司可能会以他们未曾预料的方式使用其信息。该法律对企业使用和获利于姓名、地址和生物识别数据等个人信息的方式设定了明确限制，有助于 AI 公司让用户放心，即使数据被 AI 系统暴露，也会得到负责任的处理。

图 2。信息图显示，许多人认为 AI 解决方案在隐私保护方面仍有改进空间。

同样，参议院法案 SB 896，又称《生成式 AI 问责法》，要求加利福尼亚州紧急服务办公室（CalOES）对生成式 AI 系统可能造成的威胁进行风险分析。CalOES 将与 OpenAI 和 Anthropic 等领先 AI 公司合作，探讨并分析 AI 对州关键基础设施构成的潜在威胁。

教育机构中的 AI 应用与监管#

我们此前探讨过教育领域的 AI如何个性化学习体验、重塑教学实践、提供实时反馈，并通过先进工具和洞察为教育工作者提供支持。事实上，AI 创新能够为学生创造更有效、更具吸引力的学习环境。世界各地的教育工作者和教师正越来越频繁地使用 AI，并已开展成功的试点项目和更广泛的应用。研究显示，超过 50% 的教师认为，课堂中的 AI对教学和学习过程产生了积极影响。

图 3。关于教师如何看待学校使用 AI 的调查。

加利福尼亚州出台了两项关于在教育机构中使用 AI 的法律。AB 2876要求加利福尼亚州教育委员会在 2025 年 1 月 1 日之后，将AI 素养纳入数学、科学和历史课程框架及教学材料的考量范围。这项法律旨在确保加利福尼亚州的学校向学生讲授人工智能的基本工作原理，以及这项技术的局限性、影响和伦理考量。

此外，SB 1288要求加利福尼亚州的学区负责人在 2026 年 1 月 1 日或之前成立工作组，研究 AI 在公立学校中的应用情况。这些工作组必须在 2027 年 1 月 1 日之前，向州议会相关的政策和财政委员会提交调查结果和建议。提交报告后，工作组将解散，相关条款将于 2031 年 1 月 1 日废止。

医疗保健领域生成式 AI 相关法规#

生成式 AI 正通过推动新药发现、疾病诊断、治疗规划和医疗聊天机器人等创新，改善医疗保健行业。这些应用可以提供实时监测、建议和支持，从而改善患者治疗效果。增强现实（AR）等其他技术也可用于规划和模拟外科手术。

图 4。生成式 AI 在医疗保健领域的应用案例。

将生成式 AI 集成到医疗保健领域时，需要考虑与数据隐私和监管相关的注意事项。在保护健康信息隐私的同时，优先确保 AI 生成结果的准确性、可靠性和公平性至关重要。

为应对这些挑战，加利福尼亚州通过了两项有关在医疗保健领域使用生成式 AI 的法律。AB 3030要求医疗服务提供者在使用生成式 AI 与患者沟通时予以披露，尤其是在相关消息包含患者临床信息时。SB 1120则限制医疗服务提供者和健康保险公司自动化其服务的方式。这些新法律还确保在这些场景中使用 AI 工具时由持证医生监督。

加利福尼亚州关于深度伪造的 AI 监管框架#

加利福尼亚州还通过了有关限制利用 AI 传播误导性或不准确信息的法律。SB 942要求月活跃用户超过 100 万的生成式 AI 系统提供商，在其系统生成的图像、视频和音频中嵌入隐蔽（潜在）披露信息，并提供免费的检测工具。

加利福尼亚州通过了三项新法律（AB 1831、SB 926、SB 981），以应对深度伪造相关问题。这些法律扩大了现有保护范围，将滥用 AI 生成内容的行为定为犯罪，并要求社交媒体平台建立深度伪造内容举报渠道。这些法律计划于 2025 年 1 月前实施。

加利福尼亚州关于 AI 定义及其在电影中应用的法律#

一项已通过的法案着重为 AI 提供恰当的定义。AB 2885指出，AI 的定义是：“一种经过工程设计或基于机器的系统，其自主程度各不相同，并能针对明确或隐含的目标，根据接收的输入推断如何生成可能影响物理或虚拟环境的输出。”

娱乐行业也出台了两项值得关注的法律。美国最大的影视和广播演员工会（SAG-AFTRA）在推动这些法律生效方面发挥了关键作用。AB 2602要求电影制片厂在使用 AI 复制演员的声音和形象之前，必须获得演员许可。与此同时，AB 1836禁止制片厂未经遗产管理人同意，制作已故表演者的数字复制品（类似《星球大战外传：侠盗一号》中 Peter Cushing 饰演的角色）。

图 5。Grand Moff Tarkin 这一角色使用已故演员彼得·库欣的形象制作。

推动加利福尼亚州制定 AI 法律的因素#

了解了这些法律后，你可能会想知道为什么需要制定这些法律。AI 监管一直是热门话题，但随着深度伪造内容的兴起，这一话题获得了巨大关注，并影响了包括媒体和政治在内的多个领域。例如，在线使用 AI 生成内容引发了人们对错误信息及其可能影响选举结果的担忧。人们对隐私以及 AI 创新滥用个人数据的忧虑也日益加深。这些担忧是如今出台多项新法律的主要原因。

例如，AB 2905要求自动拨打的电话披露是否使用了 AI 生成的语音。此外，AB 2655要求 Facebook 和 X 等大型在线平台删除或标记与选举相关的深度伪造内容，并为此类内容建立举报渠道。如果平台不遵守规定，候选人和民选官员也可以寻求禁令救济。

另一项法律 AB 2839针对发布或转发可能误导选民的深度伪造内容的社交媒体用户。同样，AB 2355要求使用 AI 工具制作的政治广告明确披露相关信息。

加利福尼亚州新 AI 法律的要点#

加利福尼亚州的新 AI 法律体现了在创新与问责之间寻求平衡的日益坚定的决心。这些法律针对数据透明度、隐私、深度伪造，以及 AI 在医疗保健和教育领域的应用等关键问题，旨在推动负责任的 AI 开发，同时保护个人和社会。随着 AI 不断发展，这些法规将有助于确保其发展遵循伦理实践并赢得公众信任。这些法律还可能促使世界其他地区效仿。

如需了解更多信息，请访问我们的 GitHub 仓库，并加入我们的社区交流。你还可以在我们的解决方案页面探索 AI 在制造业和农业中的应用。