以下是在加利福尼亚州的 8 项（且数量还在增加）新的人工智能法律下属于违法的情况。

加利福尼亚州州长加文·纽瑟姆目前正在审议 38 项与人工智能相关的法案，其中包括颇具争议的 SB 1047 法案，该州立法机构已将其提交给他做最终批准。这些法案试图解决人工智能领域最紧迫的问题：从未来的人工智能系统造成生存风险、人工智能图像生成器生成的深度伪造裸照，到好莱坞制片厂创建已故演员的人工智能克隆体等等。

纽瑟姆州长办公室在一份新闻稿中表示：“作为全球大多数领先人工智能公司的所在地，加利福尼亚州正在努力利用这些变革性技术，以帮助应对紧迫挑战，同时研究它们所带来的风险。”

到目前为止，州长纽瑟姆已经签署了其中八项成为法律，其中一些是美国迄今为止影响最深远的人工智能法律。

“Deepfake nudes”常见释义为“深度伪造的裸照”

纽瑟姆（Newsom）周四签署了两项法律，旨在解决深度伪造裸照的创作和传播问题。SB 926 法案将此行为定为犯罪，利用类似于某人的人工智能生成的裸照对其进行勒索属于违法。

SB 981 法案也于周四成为法律，该法案要求社交媒体平台为用户设立渠道，以便他们举报与自己相似的深度伪造裸体图像。在平台进行调查期间，相关内容必须暂时被屏蔽，如果得到证实，则应永久删除。

“Watermarks”常见释义为“水印；水纹”。

同样在周四，纽瑟姆签署了一项法案使其成为法律，以帮助公众识别人工智能生成的内容。SB 942 法案要求广泛使用的生成式人工智能系统在其内容的来源数据中披露其为人工智能生成。例如，现在由 OpenAI 的 Dall-E 生成的所有图像在其元数据中都需要有一个小标签，表明它们是由人工智能生成的。

许多人工智能公司已经在这么做了，而且有几种免费工具可以帮助人们读取这些来源数据并检测人工智能生成的内容。

“选举深度伪造”

本周早些时候，加利福尼亚州州长签署了三项法律，打击可能影响选举的人工智能深度伪造技术。

加利福尼亚州的新法律之一 AB 2655 要求像 Facebook 和 X 这样的大型在线平台删除或标注与选举相关的人工智能深度伪造内容，并创建渠道来举报此类内容。如果大型在线平台不遵守该法案，候选人和当选官员可以寻求禁令救济。

另一项法律 AB 2839 针对在社交媒体上发布或转发可能会在即将到来的选举中误导选民的人工智能深度伪造内容的用户。该法律于周二立即生效，纽瑟姆暗示埃隆·马斯克可能有违反该法律的风险。

根据加利福尼亚州的新法律 AB 2355，人工智能生成的政治广告现在需要完全披露。这意味着，今后特朗普可能无法在“真相社交”平台上发布泰勒·斯威夫特支持他的人工智能深度伪造内容而逃避责任（她支持的是卡马拉·哈里斯）。美国联邦通信委员会已在全国层面提出了类似的披露要求，并且已经将使用人工智能生成声音的自动电话呼叫定为非法。

“Actors and AI”常见释义为“演员和人工智能”

纽瑟姆周二签署的两项法律——美国最大的电影和广播演员工会 SAG-AFTRA 一直在推动——为加州的媒体行业制定了新的标准。AB 2602 号法案要求制片厂在创建演员声音或形象的人工智能复制品之前，必须获得演员的许可。

同时，AB 1836 法案禁止电影制片厂在未获得已故演员遗产方同意的情况下创建其数字复制品（例如，在近期的《异形》和《星球大战》等电影中使用的都是经过合法授权的复制品）。

还剩下什么？

纽森州长在 9 月底前仍有 30 项与人工智能相关的法案有待决定。在周二举行的 2024 年 Dreamforce 大会期间与 Salesforce 首席执行官马克·贝尼奥夫的一次交谈中，纽森或许已经透露了他对 SB 1047 法案的看法，以及他对于更广泛地监管人工智能行业的想法。

纽瑟姆周二在台上表示：“有一项法案在公众讨论和意识方面显得格外突出，那就是 SB 1047 法案。人工智能有哪些可证明的风险，又有哪些是假设的风险？我无法解决所有问题。我们能解决哪些问题？这就是我们在这一领域所采取的全方位方法。”

请回来看这篇文章，以获取关于加利福尼亚州州长签署了哪些人工智能相关法律以及哪些未签署的最新消息。