加州新的 AI 法规：聚焦伦理 AI
了解加州新的 AI 法律如何在创新与问责之间取得平衡，涵盖隐私、深度伪造、医疗健康、教育和安全。
从自动驾驶汽车到医疗保健，人工智能 (AI) 创新和下一代科技公司开始在重塑我们的日常生活方面发挥关键作用。因此，全球AI 市场规模在 2023 年达到 1966.3 亿美元，预计从 2024 年到 2030 年平均每年增长 36%。这些数字展现了 AI 的发展速度有多快。
一方面，AI 的快速发展正在为各行各业的各种问题创造解决方案。另一方面，这种发展速度凸显了开展负责任的 AI 开发的必要性，以确保改进是合乎道德的，并且有益于社会。
例如，2016 年，Microsoft 在 X（原 Twitter）上推出了聊天机器人 Tay。它旨在从与用户的对话中学习。然而，发布后不久，Tay 在接触到各种互动内容后，开始生成用词不专业的回复。虽然 Microsoft 很快将该机器人下线，但这很好地说明了确保用于AI 训练的数据可靠，并让公众了解企业如何将此类数据用于 AI 产品的重要性。
图 1。 Microsoft 的 Twitter 聊天机器人 Tay。
为应对这一问题，加州州长 Gavin Newsom 于今年 9 月签署了十多项与 AI 相关的法案，使其成为法律。这些法律涵盖了从披露训练数据详情到处理深度伪造内容的各个方面。在本文中，我们将探讨加州的 AI 法律及其影响。让我们开始吧！
2024 年加州 AI 立法：确保问责#
三项重要法案已签署成为法律，旨在支持更加安全可靠的AI 开发。将于 2026 年生效的众议院法案 (AB) 2013 要求生成式 AI 服务提供商公布其训练数据集的相关详情。这些详情包括数据集的来源、数据的使用方式、数据集中的数据点数量、是否包含受版权保护的数据或授权数据、数据收集的时间段等。共享这些信息将帮助 AI 公司建立公众信任。
签署的另一项重要法案是 AB 1008。该法案将加州现有的隐私法扩展到生成式 AI 解决方案。AB 1008 旨在解决公众对 AI 系统处理个人信息方式的担忧，并提升公众信心。一项调查发现，超过81% 的消费者担心AI 公司可能会以他们未曾预期的方式使用其信息。通过明确限制企业如何使用个人信息并从中获利（例如姓名、地址和生物识别数据），该法律帮助 AI 公司向用户保证，即使其数据被 AI 系统暴露，也会得到负责任的处理。
图 2。信息图显示，许多人认为 AI 解决方案在隐私方面可以得到改进。
同样，参议院法案 (SB) 896，即《生成式 AI 问责法》，要求加州紧急服务办公室 (CalOES) 对生成式 AI 系统可能造成的威胁进行风险分析。CalOES 将与 OpenAI 和 Anthropic 等领先 AI 公司合作，讨论并分析 AI 对该州关键基础设施构成的潜在威胁。
教育机构中的 AI 采用与监管#
我们此前探讨过，教育领域的 AI 如何实现学习体验个性化、重新定义教学实践、提供实时反馈，并通过先进工具和洞察支持教育工作者。事实上，AI 创新可以为学生创造更加高效且更具吸引力的学习环境。世界各地的教育工作者和教师越来越频繁地使用 AI，成功的试点项目和更广泛的实施正在开展。研究表明，超过 50% 的教师认为，课堂中的 AI 对教学和学习过程产生了积极影响。
图 3。调查显示教师对学校使用 AI 的看法。
加州已出台两项关于教育机构使用 AI的法律。AB 2876 要求加州州教育委员会在其数学、科学和历史课程框架及教学材料中，将 AI 素养纳入考量（自 2025 年 1 月 1 日起）。该法律旨在确保加州学校向学生讲授人工智能的工作原理，以及使用这项技术的局限性、影响和伦理考量。
此外，SB 1288 要求加州学区负责人在 2026 年 1 月 1 日或之前成立工作组，探索 AI 在公立学校中的使用情况。这些工作组需要在 2027 年 1 月 1 日前向立法机构相关的政策和财政委员会提交调查结果与建议。报告提交后，工作组将被解散，相关条款将于 2031 年 1 月 1 日废止。
围绕医疗保健领域生成式 AI 的法规#
生成式 AI 正通过推动发现新药、诊断疾病、制定治疗方案和医疗聊天机器人等创新，改善医疗保健行业。这些应用可以提供实时监测、建议和支持等好处，从而改善患者治疗效果。其他 AI 技术（如增强现实 (AR)）也可用于规划和模拟外科手术。
图 4。生成式 AI 在医疗保健领域的应用场景。
将生成式 AI 整合到医疗保健领域会带来与数据隐私和法规相关的某些注意事项。在保护健康信息隐私的同时，优先确保 AI 生成结果的准确性、可靠性和公平性至关重要。
为应对这些挑战，加州已通过两项关于医疗保健领域使用生成式 AI 的法律。AB 3030 要求医疗保健服务提供商在使用生成式 AI 与患者沟通时进行披露，尤其是在相关消息包含患者临床信息的情况下。SB 1120 限制医疗保健服务提供商和医疗保险公司自动化其服务的方式。这些新法律还确保由持证医生监督在这些场景中使用 AI 工具。
加州针对深度伪造内容的 AI 监管框架#
加州还通过了相关法律，以遏制利用 AI 传播误导性或不准确的信息。SB 942 要求热门生成式 AI 系统在其源数据中明确标示内容由 AI 创建。许多 AI 公司已经这样做，市面上的一些免费工具（ZeroGPT、Winston AI、GLTR 等）可以帮助人们读取这些源数据并检测 AI 生成的内容。
加州通过了三项新法律（AB 1831、SB 926、SB 981），以处理与深度伪造相关的问题。这些法律扩大了现有保护范围，将滥用 AI 生成内容定为犯罪，并要求社交媒体平台为深度伪造内容建立举报渠道。这些法律计划于 2025 年 1 月实施。
加州关于 AI 定义及其在电影行业中使用的法律#
通过的法案中，有一项着重于为 AI 提供恰当定义。AB 2885 规定，AI 被定义为“一种工程化或基于机器的系统，其自主程度有所不同，并且能够针对明确或隐含的目标，根据接收到的输入推断如何生成能够影响物理或虚拟环境的输出。”
娱乐行业还出台了两项有趣的法律。美国最大的电影和广播演员工会（SAG-AFTRA）在推动这些法律生效方面发挥了关键作用。AB 2602 要求电影制片厂在使用 AI 创建演员的声音和肖像复制品之前，获得该演员的许可。与此同时，AB 1836 禁止制片厂未经遗产管理人的同意，为已故演员创建数字复制品（类似于 Peter Cushing 在《星球大战：侠盗一号》中的角色）。
图 5。角色 Grand Moff Tarkin 使用已故演员 Peter Cushing 的肖像创建。
推动加州 AI 法律出台的因素#
在了解这些法律的过程中，你可能想知道它们为何真的有必要。AI 监管一段时间以来一直是热门话题，但随着深度伪造内容的兴起，它获得了显著推动力，并影响了包括媒体和政治在内的各个领域。例如，在线使用 AI 生成内容引发了人们对错误信息及其可能影响选举结果的担忧。人们也越来越担心隐私问题，以及 AI 创新对个人数据的滥用。这些问题促使多项新法律出台，以应对相关挑战。
例如，AB 2905 要求自动语音电话披露其声音是否由 AI 生成。此外，AB 2655 要求 Facebook 和 X 等大型在线平台移除或标记与选举相关的深度伪造内容，并为此类内容建立举报渠道。如果平台未能遵守规定，候选人和民选官员也可以寻求禁令救济。
另一项法律 AB 2839 针对发布或转发可能误导选民的深度伪造内容的社交媒体用户。同样，AB 2355 规定，使用 AI 工具制作的政治广告必须进行明确披露。
加州新 AI 法律的关键要点#
加州的新 AI 法律体现了其在创新与问责之间寻求平衡的日益坚定的承诺。通过应对数据透明度、隐私、深度伪造以及 AI 在医疗保健和教育领域的使用等关键问题，这些法律旨在保护个人和社会，同时推动负责任的 AI 开发。随着 AI 持续发展，这些法规将帮助确保其增长伴随合乎道德的实践和公众信任。这些法律还可能鼓励世界其他地区效仿。
如需了解更多信息，请访问我们的 GitHub 代码仓库，并参与我们的社区交流。在我们的解决方案页面上探索 AI 在制造业和农业中的应用。🚀
