加州新 AI 法规：聚焦伦理 AI

从自动驾驶汽车到医疗保健，人工智能（AI）创新和新一代科技公司正开始在重塑我们的日常生活中扮演关键角色。因此，全球AI市场规模在2023年达到了1966.3亿美元，预计从2024年到2030年将以年均36%的速度增长。这些数字展示了AI增长的速度有多快。

一方面，AI的快速发展正在为不同行业的各种问题提供解决方案。另一方面，这种速度也凸显了对负责任的AI发展的需求，以确保改进是符合道德的且对社会有益的。

例如，在2016年，微软在X（原Twitter）上推出了一个聊天机器人Tay。它旨在从与用户的对话中学习。然而，发布后不久，Tay就开始生成带有不专业语言的回复，因为它吸收了一系列互动。虽然微软迅速将该机器人下线，但这很好地说明了确保用于AI训练的数据可靠性以及让公众了解公司如何将此类数据用于AI产品的重要性。

图 1. 微软的Twitter聊天机器人 Tay。

针对这一问题，加州州长加文·纽森（Gavin Newsom）今年9月签署了十多项与AI相关的法案成为法律。这些法律涉及从披露训练数据细节到处理深度伪造（deepfakes）的方方面面。在本文中，我们将探讨加州的AI法律及其含义。让我们开始吧！

2024年加州人工智能立法：确保问责制#

三项主要法案被签署成为法律，以支持AI发展变得更加安全和可靠。《2023年加州议会法案》（AB 2013）将于2026年生效，要求生成式AI提供商公布有关其训练数据集的详细信息。这些详细信息包括数据集的来源、数据使用方式的详情、集中的数据点数量、是否包含受版权保护或有许可的数据、数据收集的时间段等。分享这些信息将帮助AI公司建立公众信任。

签署的另一项重要法案是AB 1008。它将加州现有的隐私法扩展到了生成式AI解决方案。引入AB 1008是为了解决人们的担忧并提高公众对AI系统处理个人信息方式的信心。一项调查发现，超过81%的消费者担心AI公司可能会以他们意想不到的方式使用他们的信息。通过对企业如何使用和利用个人信息（如姓名、地址和生物特征数据）设定明确的限制，这项法律帮助AI公司让用户放心，即使他们的信息被AI系统暴露，其数据也会得到负责任的处理。

图 2. 一张信息图，显示许多人认为AI解决方案可以在隐私方面有所改进。

同样，《参议院法案》（SB）896即《生成式AI问责法》（Generative AI Accountability Act），要求加州应急管理局（CalOES）对生成式AI系统带来的潜在威胁进行风险分析。CalOES将与OpenAI和Anthropic等开拓性的AI公司合作，讨论和分析AI对关键州基础设施的潜在威胁。

教育机构中的人工智能应用与监管#

我们之前探讨过教育领域的AI如何能个性化学习体验、重新定义教学实践、提供实时反馈，并用先进的工具和见解支持教育工作者。事实上，AI创新可以为学生创造一个更有效、更引人入胜的学习环境。世界各地的教育工作者和老师们正在更频繁地使用AI，成功的试点项目和更广泛的实施正在进行中。研究表明，超过50%的老师认为课堂中的AI对教学过程产生了积极影响。

图 3。显示老师对学校中使用AI看法的调查。

加州已经出台了两项关于在教育机构中使用AI的法律。AB 2876要求加州教育委员会在2025年1月1日之后在其数学、科学和历史课程框架及教学材料中考虑AI素养。这项法律的目的是确保加州的学校教育学生了解人工智能工作原理的基础知识，以及使用该技术的局限性、影响和道德考量。

除此之外，SB 1288要求加州学区总监在2026年1月1日或之前成立工作组，以探讨AI在公立学校的使用情况。这些工作组必须在2027年1月1日之前向立法机构的相关政策和财政委员会提交其调查结果和建议。报告提交后，工作组将解散，相关条款将于2031年1月1日废止。

医疗保健中生成式人工智能的监管#

生成式AI正在通过实现新药发现、疾病诊断、治疗规划和医疗聊天机器人方面的创新来改善医疗保健行业。这些应用可以提供实时监测、建议和支持等好处，以改善患者预后。其他AI技术，如增强现实（AR），也可用于规划和模拟外科手术。

图 4. 生成式AI在医疗保健中的用例。

将生成式人工智能集成到医疗保健中带有某些关于数据隐私和法规的警告。优先考虑人工智能生成结果的准确性、可靠性和公平性，同时保障健康信息的隐私至关重要。

为了应对这些挑战，加州通过了两项关于在医疗保健中使用生成式AI的法律。AB 3030要求医疗服务提供者在利用生成式AI与患者交流时进行披露，特别是在这些消息包含患者临床信息时。SB 1120对医疗服务提供者和健康保险公司如何自动化其服务进行了限制。这些新法律还确保有执照的医生在这些环境中监督AI工具的使用。

加州针对深度伪造的人工智能监管框架#

加州还通过了旨在遏制利用AI传播误导性或不准确信息的法律。SB 942要求流行的生成式AI系统在其源数据中清楚地表明内容是由AI创建的。许多AI公司已经这样做了，市面上的一些免费工具（ZeroGPT、Winston AI、GLTR等）可以帮助人们读取这些源数据并检测AI生成的内容。

加州通过了三项新法律（AB 1831、SB 926、SB 981）以解决与深度伪造相关的问题。这些法律扩大了现有的保护范围，将滥用AI生成的内容定为犯罪，并要求社交媒体平台为深度伪造内容建立举报渠道。这些法律定于2025年1月实施。

加州人工智能法律对人工智能的定义及其在电影中的使用#

作为法律通过的其中一项法案侧重于为AI给出适当的定义。AB 2885指出，AI被定义为“一个工程化或基于机器的系统，其自主级别各不相同，并且可以为了明确或隐含的目标，从其接收到的输入中推断出如何生成能够影响物理或虚拟环境的输出。”

娱乐行业也出台了两项有趣的法律。美国最大的电影和广播演员工会（SAG-AFTRA）在推动这些法律生效方面发挥了关键作用。AB 2602要求电影制片厂在使用AI创建演员的声音和肖像复制品之前获得演员的许可。与此同时，AB 1836禁止制片厂在未经已故表演者遗产管理机构同意的情况下创建已故表演者的数字复制品（类似于《星球大战：侠盗一号》中彼得·库欣（Peter Cushing）的角色）。

图 5。角色大星区长塔金（Grand Moff Tarkin）是使用已故演员彼得·库欣的肖像创建的。

加州人工智能法律背后的推动因素#

在我们了解了每一项法律之后，你可能想知道为什么它们真的很有必要。AI监管一段时间以来一直是热门话题，但随着深度伪造内容的兴起，它们获得了显著的势头，这已经影响了包括媒体和政治在内的各个领域。例如，在线使用AI生成的内容引发了人们对虚假信息及其对选举结果潜在影响的担忧。人们对隐私以及AI创新对个人数据的滥用也日益感到担忧。这些问题是现在出台多项新法律以解决这些问题的一个因素。

例如，AB 2905强制机器人呼叫（robocalls）披露它们是否为AI生成的语音。此外，AB 2655呼吁Facebook和X等大型在线平台删除或标记与选举相关的深度伪造，并为此类内容建立举报渠道。如果平台不合规，候选人和当选官员也可以寻求禁令救济。

另一项法律AB 2839针对的是发布或转发可能误导选民的深度伪造的社交媒体用户。同样，AB 2355规定了使用AI工具制作的政治广告的清晰披露。

加州新人工智能法律的关键要点#

加州新的人工智能法律反映了在平衡创新与问责制方面日益增长的承诺。通过解决数据透明度、隐私、深度伪造以及人工智能在医疗保健和教育中的使用等领域的关键问题，这些法律旨在在促进负责任的人工智能开发的同时，保护个人和社会。随着人工智能的不断发展，这些法规将有助于确保其增长伴随着道德实践和公众信任。这些法律也可能鼓励世界各地的其他地区效仿。

要了解更多信息，请访问我们的GitHub仓库，并与我们的社区互动。在我们的解决方案页面上探索AI在制造和农业领域的应用。🚀