加州新 AI 法规：聚焦伦理 AI

从自动驾驶汽车到医疗保健，人工智能（AI）创新和下一代科技公司正开始在重塑我们的日常生活方面发挥关键作用。因此，全球人工智能市场规模在2023年达到了1966.3亿美元，预计从2024年到2030年将以平均每年36%的速度增长。这些数字展示了人工智能的发展速度之快。

一方面，人工智能的飞速发展正在为各行各业的各种问题创造解决方案。另一方面，这种速度也凸显了进行负责任的人工智能开发的必要性，以确保技术进步是道德的并造福社会。

例如，2016 年，Microsoft 在 X（前身为 Twitter）上发布了一款聊天机器人 Tay。它旨在通过与用户的对话进行学习。然而，在发布后不久，Tay 在接收到各种互动信息后，开始生成带有不专业语言的回复。虽然 Microsoft 迅速将该机器人下线，但这很好地说明了确保用于 AI 训练 的数据可靠，并让公众了解公司如何将此类 数据 用于 AI 产品的重要性。

图1。 微软的Twitter聊天机器人，Tay。

针对这一问题，加州州长Gavin Newsom在今年9月签署了十几项与人工智能相关的法案并使其成为法律。这些法律涵盖了从披露训练数据细节到处理深度伪造（deepfakes）等方方面面。在本文中，我们将探讨加州的人工智能法律及其具体含义。让我们开始吧！

Link to this section2024年加州人工智能立法：确保问责制#

加州签署了三项重要法案，以支持人工智能开发变得更加安全可靠。第2013号议会法案（AB 2013）将于2026年生效，要求生成式人工智能提供商发布有关其训练数据集的详细信息。这些细节包括数据集来源、数据使用方式、集合中的数据点数量、是否包含受版权保护或已授权的数据、数据收集的时间段等。分享这些信息将有助于人工智能公司建立公众信任。

另一项签署的重要法案是AB 1008。它将加州现有的隐私法扩展到了生成式人工智能解决方案。引入AB 1008旨在解决公众疑虑并提高公众对人工智能系统如何处理个人信息的信心。一项调查发现，超过81%的消费者担心人工智能公司可能会以非预期的方式使用他们的信息。通过为企业使用和从个人信息（如姓名、地址和生物识别数据）中获利的方式设定明确的限制，该法律有助于人工智能公司向用户保证，即使数据被人工智能系统暴露，也会得到负责任的处理。

图2。 一张图表显示，许多人认为人工智能解决方案在隐私保护方面仍有提升空间。

同样，第896号参议院法案（SB 896），即《生成式人工智能问责法案》，要求加州应急服务办公室（CalOES）对生成式人工智能系统构成的潜在威胁进行风险分析。CalOES将与OpenAI和Anthropic等领先的人工智能公司合作，讨论并分析人工智能对关键国家基础设施的潜在威胁。

Link to this section教育机构中的人工智能应用与监管#

我们之前探讨过教育中的人工智能如何能够个性化学习体验、重新定义教学实践、提供实时反馈，并为教育工作者提供先进的工具和见解。事实上，人工智能创新可以为学生创造一个更有效、更引人入胜的学习环境。世界各地的教育工作者和教师都在更频繁地使用人工智能，成功的试点项目和更广泛的实施正在进行中。研究表明，超过50%的教师认为课堂中的人工智能对教学和学习过程产生了积极影响。

图3。显示教师对学校中使用人工智能看法的调查。

加州已出台两项关于教育机构中使用人工智能的法律。AB 2876授权加州教育委员会在2025年1月1日之后，将其数学、科学和历史课程框架及教学材料纳入人工智能素养。该法律的目的是确保加州的学校教育学生了解人工智能工作原理的基础知识，以及使用该技术的局限性、影响和道德考量。

除此之外，SB 1288要求加州学监在2026年1月1日或之前成立工作组，以探索公共学校中人工智能的使用情况。这些工作组需要在2027年1月1日前向立法机构的相关政策和财政委员会提交其调查结果和建议。在报告提交后，工作组将解散，相关条款将于2031年1月1日废止。

Link to this section医疗保健中生成式人工智能的监管#

Generative AI is improving the healthcare industry by enabling innovations for discovering new drugs, diagnosing diseases, planning treatments, and medical chatbots. These applications can provide benefits like real-time monitoring, advice, and support to improve patient outcomes. Other AI technologies, like augmented reality (AR), can also be used to plan and simulate surgical procedures.

图4。 医疗保健中生成式人工智能的应用案例。

将生成式人工智能集成到医疗保健中带有某些关于数据隐私和法规的警告。优先考虑人工智能生成结果的准确性、可靠性和公平性，同时保障健康信息的隐私至关重要。

为了应对这些挑战，加州通过了两项关于在医疗保健中使用生成式人工智能的法律。AB 3030要求医疗服务提供者在与患者沟通时披露是否使用了生成式人工智能，特别是当这些信息包含患者临床信息时。SB 1120对医疗服务提供者和健康保险公司如何自动化其服务设定了限制。这些新法律还确保执业医师在这些场景中监督人工智能工具的使用。

Link to this section加州针对深度伪造的人工智能监管框架#

加州还通过了相关法律，旨在抑制利用人工智能传播误导性或不准确信息。SB 942要求主流生成式人工智能系统在其源数据中明确标明内容是由人工智能创建的。许多人工智能公司已经这样做了，而且市面上还有几种免费工具（ZeroGPT、Winston AI、GLTR等）可以帮助人们读取这些源数据并检测人工智能生成的内容。

加州通过了三项新法律（AB 1831、SB 926、SB 981）以解决与深度伪造相关的问题。这些法律扩大了现有的保护范围，将滥用人工智能生成内容定为犯罪，并要求社交媒体平台为深度伪造内容创建举报渠道。这些法律定于2025年1月实施。

Link to this section加州人工智能法律对人工智能的定义及其在电影中的使用#

其中一项通过的法案专注于为人工智能提供明确的定义。AB 2885指出，人工智能被定义为“一种工程或机器驱动的系统，其自主水平各不相同，并且可以针对明确或隐含的目标，从接收到的输入中推断出如何生成可能影响物理或虚拟环境的输出。”

针对娱乐业还实施了两项有趣的法律。美国最大的电影和广播演员联盟（SAG-AFTRA）在推动这些法律生效方面发挥了关键作用。AB 2602要求电影制片厂在使用人工智能创作演员的声音和肖像副本之前获得其许可。与此同时，AB 1836禁止制片厂在未经已故演员遗产管理人同意的情况下，制作其数字替身（类似于《星球大战：侠盗一号》中Peter Cushing的角色）。

图5。角色Grand Moff Tarkin是利用已故演员Peter Cushing的肖像创建的。

Link to this section加州人工智能法律背后的推动因素#

当我们深入了解每一项法律时，你可能想知道为什么它们真的有必要。人工智能监管在一段时间以来一直是热门讨论话题，但随着深度伪造内容的兴起，它们获得了巨大的势头，深度伪造内容已经影响了包括媒体和政治在内的各个领域。在线人工智能生成内容的使用引发了对虚假信息及其潜在选举结果影响的担忧。此外，人们对人工智能创新带来的隐私和个人数据滥用也越来越担忧。这些问题是目前实施多项新法律以解决这些问题的因素之一。

例如，AB 2905强制机器人电话披露它们是否为人工智能生成的声音。此外，AB 2655要求Facebook和X等大型在线平台删除或标记与选举相关的深度伪造内容，并为此类内容创建举报渠道。如果平台未能遵守，候选人和民选官员也可以寻求禁止令救济。

另一项法律AB 2839针对的是发布或转发可能误导选民的深度伪造内容的社交媒体用户。同样，AB 2355明确规定了对使用人工智能工具制作的政治广告进行披露的要求。

Link to this section加州新人工智能法律的关键要点#

加州新的人工智能法律反映了在平衡创新与问责制方面日益增长的承诺。通过解决数据透明度、隐私、深度伪造以及人工智能在医疗保健和教育中的使用等领域的关键问题，这些法律旨在在促进负责任的人工智能开发的同时，保护个人和社会。随着人工智能的不断发展，这些法规将有助于确保其增长伴随着道德实践和公众信任。这些法律也可能鼓励世界各地的其他地区效仿。

欲了解更多信息，请访问我们的 GitHub 存储库，并加入我们的 社区。请在我们的解决方案页面探索 AI 在制造业和农业中的应用。 🚀