数百名人工智能界知名人士签署呼吁立法反对深度伪造的信

人工智能领域的数百名专家已经签署了一封公开信，呼吁对AI生成的冒名顶替，即deepfakes进行严格监管。尽管这很可能不会引发实质性的立法（尽管众议院成立了新的工作组），但它确实作为专家们在这一有争议问题上的立场的风向标。

在发布时签署的信函中，有500多人在AI领域内外签署，宣称“深度伪造对社会构成日益严重的威胁，政府必须对整个供应链实施义务，以阻止深度伪造的扩散。”

他们要求将深伪造儿童性虐待材料（CSAM，又称儿童色情）进行全面刑事化，无论所描绘的角色是真实的还是虚构的。在任何情况下，当有人制作或传播有害深伪造时都要求追究刑事责任。同时，呼吁开发者在产品设计阶段就要防止有害深伪造的制作，如果他们的预防措施不力，将会面临处罚。

信件中一些较为知名的签署者有：

• 贾伦·兰尼尔
• 弗朗西斯·豪根
• 斯图尔特·罗素
• 安德鲁·杨
• 玛丽特·沙卡克
• 史蒂文·平克
• 加里·马库斯
• 奥伦·埃兹尼
• 吉纳维芙·史密斯
• Yoshua Bengio袁隆平
• 丹·亨德里克斯
• 提姆·吴

全球范围内来自各行各业的数百位学者也参与其中。如果你感兴趣的话，其中有一位来自OpenAI，几位来自Google DeepMind，截至目前为止没有来自Anthropic、亚马逊、苹果或微软（除了Lanier，他在那里的职位并不标准）。有趣的是，他们按照“知名度”顺序排列。

这并不是对此类措施的首次呼吁；事实上，这些措施在欧盟已经被讨论了多年，直到本月早些时候正式提出。或许正是欧盟愿意讨论并付诸行动，激发了这些研究人员、创作者和高管们的发声。

也许是KOSA朝着被接受的缓慢前进，以及对这种虐待缺乏保护。

也许是人工智能制造的诈骗电话威胁，可能会影响选举结果或欺骗天真的人们的钱财。

也许是昨天的工作组宣布，没有特别的议程，只是可能要撰写一份关于AI威胁可能是什么以及如何在立法上限制的报告。

正如你看到的，人工智能领域的人们有很多理由挥舞双臂大声呼喊：“也许我们应该，你知道，去做些什么？！”

要看是否有人会注意到这封信，完全是个未知数 — 没有人真正关注过那个臭名昭著的号召每个人“暂停”人工智能发展的信，但当然这封信更加实际。如果立法者决定处理这个问题，这是一个不太可能发生的事件，因为今年是选举年，国会严重分裂，他们将可以利用这份清单来了解全球人工智能学术和发展社区的态度。