以下是根据加利福尼亚州的 18 项（且还在增加）新的人工智能法律属于违法的内容。

9 月，加利福尼亚州州长加文·纽瑟姆审议了 38 项与人工智能相关的法案，其中包括颇具争议的 SB 1047 法案，该州立法机构将其提交给他作最终批准。周日，他否决了 SB 1047 法案，这标志着加利福尼亚州这项试图预防人工智能灾难的有争议的人工智能法案走到了尽头，但本月他签署了十几项其他的人工智能法案使其成为法律。这些法案试图解决人工智能中最紧迫的问题：从人工智能风险，到人工智能图像生成器制造的深度伪造裸体，再到好莱坞制片厂创建已故演员的人工智能克隆。

纽瑟姆州长办公室在一份新闻稿中表示：“作为全球大多数领先人工智能公司的所在地，加利福尼亚州正在努力利用这些变革性技术，以帮助应对紧迫的挑战，同时研究它们所带来的风险。”

到目前为止，纽瑟姆州长已经签署了 18 项人工智能法案使之成为法律，其中一些是美国在生成式人工智能方面影响最为深远的法律。以下是这些法律的作用。

“AI risk”常见释义为“人工智能风险”

周日，州长纽瑟姆签署了 SB 896 法案使之成为法律，该法案要求加州紧急服务办公室对生成式人工智能带来的潜在威胁进行风险分析。加州紧急服务办公室将与前沿模型公司（如 OpenAI 和 Anthropic）合作，分析人工智能对关键州基础设施的潜在威胁，以及可能导致大规模伤亡事件的威胁。

“Training data”常见释义为“训练数据”

纽森本月签署的另一项法律要求生成式人工智能提供商在其网站上发布的文件中披露用于训练其人工智能系统的数据。AB 2013 法案将于 2026 年生效，它要求人工智能提供商公布：数据集的来源、数据的使用方式描述、数据集中的数据点数量、是否包含有版权或获得许可的数据、收集数据的时间段以及其他标准。

“隐私与人工智能系统”

纽瑟姆周日还签署了 AB 1008 法案，该法案明确规定，加州现有的隐私法也适用于生成式人工智能系统。这意味着，如果像 ChatGPT 这样的人工智能系统暴露了某人的个人信息（姓名、地址、生物识别数据），加州现有的隐私法将限制企业对这些数据的使用和从中获利的方式。

“Education”常见释义为“教育；培养；教育学”

纽瑟姆本月签署了 AB 2876 法案，该法案要求加州教育委员会在其数学、科学和历史课程框架及教学材料中考虑“人工智能素养”。这意味着加州的学校可能会开始向学生教授人工智能的工作原理基础知识，以及使用该技术的局限性、影响和伦理考量。

另一项新法律 SB 1288 要求加利福尼亚州的主管们成立工作小组，探讨人工智能在公立学校教育中的应用情况。

“定义人工智能”

本月，纽瑟姆签署了一项法案，为加州法律中的人工智能确立了统一的定义。AB 2885 法案规定，人工智能被定义为“一种工程化或基于机器的系统，其自主程度各不相同，并且能够为了明确或隐含的目标，根据所接收的输入推断如何生成能够影响物理或虚拟环境的输出。”

“Healthcare”常见释义为“医疗保健；卫生保健”

9 月签署的另一项法案是 AB 3030，该法案要求医疗服务提供者披露他们何时使用生成式人工智能与患者交流，特别是当这些信息包含患者的临床信息时。

与此同时，纽森最近签署了 SB 1120 法案，该法案对医疗服务提供者和医疗保险公司如何实现服务自动化加以限制。该法律确保有执照的医生监督这些环境中人工智能工具的使用。

“AI 机器人电话呼叫”

上周五，州长纽瑟姆签署了一项法案使其成为法律，要求机器人电话披露它们是否使用了人工智能生成的声音。AB 2905 法案旨在防止再次出现类似于今年早些时候令许多新罕布什尔州选民感到困惑的乔·拜登声音的深度伪造机器人电话的情况。

“Deepfake pornography”常见释义为“深度伪造色情内容”

周日，纽瑟姆签署了 AB 1831 法案使其成为法律，该法案扩大了现有的儿童色情制品法律的范围，将由人工智能系统生成的相关内容也包括在内。

纽瑟姆上周签署了两项旨在解决深度伪造裸照的创作和传播的法律。SB 926 将这种行为定为刑事犯罪，利用类似于某人的人工智能生成的裸照来勒索他人属于违法。

SB 981 法案也于周四成为法律，该法案要求社交媒体平台为用户建立渠道，以便他们举报与自己相似的深度伪造裸照。在平台进行调查期间，相关内容必须被暂时屏蔽，如果情况属实，则要永久删除。

“Watermarks”常见释义为“水印；水位标志”。

同样在周四，纽瑟姆签署了一项法案使其成为法律，以帮助公众识别人工智能生成的内容。SB 942 法案要求广泛使用的生成式人工智能系统在其内容的来源数据中披露它们是由人工智能生成的。例如，由 OpenAI 的 Dall-E 生成的所有图像现在都需要在其元数据中有一个小标签，表明它们是由人工智能生成的。

许多人工智能公司已经在这么做了，而且有几个免费的工具可以帮助人们读取这些来源数据并检测人工智能生成的内容。

“选举深度伪造”

本周早些时候，加利福尼亚州州长签署了三项法律，打击可能影响选举的人工智能深度伪造。

加利福尼亚州的新法律之一 AB 2655 要求像 Facebook 和 X 这样的大型在线平台删除或标注与选举相关的人工智能深度伪造内容，并创建举报此类内容的渠道。如果大型在线平台不遵守该法案，候选人和当选官员可以寻求禁令救济。

另一项法律 AB 2839 针对的是在社交媒体上发布或转发可能会在即将到来的选举中误导选民的人工智能深度伪造内容的用户。该法律于周二立即生效，纽森暗示埃隆·马斯克可能有违反该法律的风险。

根据加利福尼亚州的新法律 AB 2355，人工智能生成的政治广告现在需要完全公开披露。这意味着今后，特朗普可能无法在“真实社交”平台上发布泰勒·斯威夫特支持他的人工智能深度伪造内容而逃脱惩罚（她支持的是卡玛拉·哈里斯）。联邦通信委员会已在全国层面提出了类似的披露要求，并且已经将使用人工智能生成声音的自动电话呼叫列为非法。

“Actors and AI”常见释义为“演员和人工智能”

纽森本月早些时候签署的两项法律——美国最大的影视和广播演员工会 SAG-AFTRA 一直在推动——为加利福尼亚州的媒体行业设立了新的标准。AB 2602 法案要求制片厂在创建演员声音或形象的人工智能复制品之前，必须先获得演员的许可。

与此同时，AB 1836 法案禁止电影制片厂在未获得已故演员遗产方同意的情况下创建其数字复制品（例如，在最近的《异形》和《星球大战》电影以及其他影片中，使用的都是经过合法授权的复制品）。

SB 1047 被否决了

纽瑟姆州长在 9 月底前仍有几项与人工智能相关的法案需要决定。然而，SB 1047 不在其中——该法案已于周日被否决。

在一封解释其决定的信中，纽森表示，SB 1047 过于狭隘地关注大型人工智能系统，这可能“给公众一种错误的安全感”。加州州长指出，小型人工智能模型可能与 SB 1047 所针对的那些模型一样危险，并表示需要一种更灵活的监管方法。

在本月早些时候举行的 2024 年 Dreamforce 大会期间与 Salesforce 首席执行官马克·贝尼奥夫的一次聊天中，纽瑟姆可能透露了有关 SB 1047 的想法，以及他如何更广泛地思考对人工智能行业进行监管。

本月在台上，纽森说道：“有一项法案在公众讨论和意识方面显得格外突出，那就是 SB 1047 法案。人工智能中有哪些明显的风险，又有哪些是假设性的风险？我不可能解决所有问题。我们能解决哪些问题？这就是我们在这一整个领域所采取的方法。”

请回来看这篇文章，以获取关于加利福尼亚州州长签署了哪些人工智能相关法律以及哪些未签署的最新消息。