迅速报复：深度伪造镜像（Deepfakes）泛滥X后，粉丝们反击了

本周，泰勒·斯威夫特的假深度伪造色情视频在X平台上迅速传播开来。其中一篇帖子在删除前获得了超过4500万的观看量，2.4万的转发量和数十万个赞。

这位流行歌星拥有全球最狂热、极度沉浸网络世界、数量庞大到难以想象的粉丝群体。现在，斯威夫特迷们已经准备全力以赴。

当大型粉丝团组织起来时，他们能够做出巨大的事情，比如韩流粉丝预留数百张门票参加唐纳德·特朗普的集会，试图使出席人数下降。随着2024年美国总统选举的临近，一些评论员甚至提出了“泰勒粉丝团”作为一个投票集团的影响力的理论。

但今天不是选举日，而斯威夫特的粉丝们关注的是更紧迫的事情：尽量让这位音乐家的非自愿深度伪造视频难以被发现。现在，当你在X上搜索“泰勒斯威夫特人工智能”或“泰勒斯威夫特深度伪造时，你将会找到成千上万个粉丝试图淹没这些由人工智能生成的内容的帖子。在X上，短语“保护泰勒斯威夫特”已成为热门话题，拥有超过36,000个帖子。

有时候，这些由粉丝主导的活动可能会越过一条界线。一些粉丝鼓励彼此去揭露传播深度伪造视频的X用户的私人信息，而其他人则担心以更多的骚扰手段来对抗骚扰，特别是当疑犯的名字相对常见时，在某些情况下，Swifties可能会追捕错人。由于有这么多成千上万的粉丝参与进来，不可避免的是，并非每个Swiftie都会站在同一个阵线上——有些人更加接触“声名狼藉”时代。

随着可获得的生成式人工智能工具的兴起，这种骚扰战术变得如此普遍，以至于去年，联邦调查局和国际执法机构发表了一份联合声明，警告人们关于色情勒索的威胁。根据网络安全公司Deeptrace的研究，大约96%的深度伪造视频涉及色情内容，而且几乎总是以女性为主要对象。

《深度伪造色情视频是一个专门针对并对女性造成伤害的现象》，报告中如此描述。这种虐待甚至渗透到学校，未成年女孩受到同学使用露骨的、未经同意的深度伪造色情视频针对。所以，对于一些泰勒·斯威夫特的粉丝来说，这不仅仅是保护明星的问题。他们意识到这种攻击可能发生在他们任何人身上，不仅仅是名人，而且他们必须努力树立先例，表明这种行为是不可容忍的。

一位名为LeAnn的TikTok用户在一段视频中说：“她正在替我们承受压力。”她呼吁其他用户保护斯威夫特。“保护她，就是在保护你自己和你的女儿。”

根据404媒体的报道，这些图片起源于一个专门用于使用生成式人工智能制作女性非自愿性暴露图片的Telegram聊天群。该群组指导其用户在微软的Designer平台上生成AI深度伪造图像；尽管此类内容违反微软的政策，但其人工智能仍然有能力创建此类图像，并且用户已经创造了简单的方法绕过基本的安全工具。

在发布前，微软和X公司都没有回复对于评论的请求。

国会正在采取一些立法措施将非自愿深伪技术犯罪化。弗吉尼亚州已经禁止深伪复仇色情行为，而纽约州代表伊维特·克拉克（民主党）最近重新提出了《深伪问责法案》，这个法案最初是她在2019年提出的。尽管批评者担心立法对网络黑暗角落的管控难度，但一些人表示该法案至少可以建立一些保护免受此类滥用的法律先例。斯威夫特的粉丝们还注意到了娱乐巨头Ticketmaster的失败之处，该公司也拥有Live Nation。联邦贸易委员会主席莉娜·汗去年曾表示，购买斯威夫特的Eras巡演门票的灾难经历“比我所能做的任何事情都更快地将更多的Z世代转变为反垄断主义者。”

这次虐待行动象征着人工智能快速崛起时所面临的问题：公司们建造得太快，无法适时评估他们所推出产品的风险。也许泰勒·斯威夫特的粉丝们将为思考周全的监管快速发展中的人工智能产品而奋斗，但如果必须通过大规模骚扰名人的行动，才能对未经充分测试的人工智能模型进行任何形式的审查，那就是另一个完全不同的问题。