埃隆·马斯克转发卡玛拉·哈里斯的深度伪造内容在加州新法律下可能行不通。

加利福尼亚州的最新法律可能会使发布或转发在即将到来的选举中欺骗选民的人工智能深度伪造内容的社交媒体用户陷入法律困境。州长加文·纽瑟姆表示，AB 2839 法案于周二经他签署后立即生效，该法案可能会被用于约束埃隆·马斯克的转发等传播欺骗性内容的行为。

纽瑟姆在一条推文中表示：“我刚刚签署了一项法案，在加利福尼亚州将此列为非法。”他所指的是今年早些时候马斯克转发的一段人工智能深度伪造视频，视频中似乎卡玛拉·哈里斯称自己是一个不称职的候选人和因多元化因素被录用的人（她并没有这么说）。

纽森在随后的推文中称：“你不能再故意传播包含具有实质性欺骗内容（包括深度伪造内容）的广告或其他选举相关信息。”

加利福尼亚州的新法律针对的是人工智能深度伪造内容的传播者，如果相关帖子看起来像是加利福尼亚州选票上的候选人，并且发布者明知这是会造成混淆的假内容，则尤其如此。AB 2839 号法案的独特之处在于，它追究的不是人工智能深度伪造内容的创作者，也不是其出现的平台，而是那些恶意传播这些内容的人。现在，任何在社交媒体上看到人工智能深度伪造内容的人都可以申请禁令救济，这意味着法官可以命令发布者将其删除，或者对发布者处以经济赔偿。

这是美国在 2024 年总统大选前针对与选举相关的人工智能深度伪造出台的最有力法律之一。

帮助起草 AB 2839 法案的一个赞助者，即加利福尼亚技术与民主倡议组织（CITED）告诉 TechCrunch，这项法律可以影响到任何发布或转发与选举相关的恶意人工智能深度伪造内容的社交媒体用户——不仅仅是马斯克。“恶意”意味着发布者知道其内容是虚假的并且会使选民感到困惑。

CITED 政策主管莱奥拉·格森松（Leora Gershenzon）在接受 TechCrunch 采访时表示：“[AB 2839] 针对的是内容的创作者或传播者，如果内容符合该法案的条款。这指的是那些在明知内容虚假的情况下传播、全然不顾真相、且有可能影响选举的具有实质性欺骗性的内容。”

当被问及马斯克转发深度伪造内容是否会面临法律诉讼时，纽瑟姆并未排除这种可能性。

周四在一场新闻发布会上，纽瑟姆州长表示：“我认为马斯克先生没有抓住重点。”“在加利福尼亚，恶搞仍然存在且没什么问题，但深度伪造和操纵选举——这会损害民主。”

具体而言，新法律禁止在电视、广播、电话、短信或任何“通过互联网传播的”通信中出现与选举相关的人工智能深度伪造内容。该法案不仅针对其他法律所关注的政治竞选广告，还包括普通人发布的内容。AB 2839 设定了一个时间窗口——加利福尼亚州选举前 120 天至选举后 60 天——在此期间，关于在社交媒体上可以和不可以发布有关政治候选人的内容有更严格的规定。

格尔申宗说：“实际目标其实既不是损害赔偿也不是禁令救济。只是要让人们一开始就别这么做。那实际上会是最好的结果……就是让这些深度伪造内容不会欺诈性地影响我们的选举。”

这项法律适用于加利福尼亚州的州和地方选举候选人，以及将出现在加利福尼亚州选票上的联邦候选人，如卡玛拉·哈里斯和唐纳德·特朗普。如果人工智能深度伪造内容有明显的免责声明，表明其经过了数字修改，那么 AB 2839 法案就不适用于它。

马斯克已经在试图试探执行加利福尼亚州新法律的意愿。马斯克周二在 X 平台上转发了纽森在其推文中提到的类似于卡玛拉·哈里斯的深度伪造内容，获得了超过 3100 万次的浏览量。马斯克周三还转发了一个类似于州长纽森的人工智能深度伪造内容，获得了超过 700 万次的浏览量。

马斯克和 X 正面临其他与内容审核相关的法律问题。例如，一名巴西最高法院法官周四对 X 公司处以罚款，因其规避该国对该平台的禁令。该法官此前表示，X 在打击假新闻和仇恨言论方面的不力正在损害巴西的民主。