科技巨头签署自愿承诺,打击与选举相关的深伪技术

AI7号 2024-02-17 3058

Chat中文版

科技公司承诺积极打击与选举相关的深假现象,与此同时,政策制定者不断加大压力。

在慕尼黑安全会议上,包括微软、Meta、谷歌、亚马逊、Adobe和IBM在内的厂商签署了一项协议,表明他们打算采用一套共同的框架来应对旨在误导选民的人工智能生成的换脸假新闻。另外还有其他13家公司签署了该协议,包括人工智能初创公司OpenAI、Anthropic、Inflection AI、ElevenLabs和Stability AI,以及社交媒体平台X(前身为Twitter)、TikTok和Snap,以及芯片制造商Arm和安全公司McAfee和TrendMicro。

下面的公司承诺会采用一些方法来检测和标记在其平台上制作和传播的具有误导性的政治深伪技术,他们会相互分享最佳实践,提供"迅速和相称的回应" 当深伪技术开始传播时。这些公司还表示,他们将对回应深伪技术时的背景进行特别关注,旨在在保持与用户关于他们在欺骗性选举内容方面的政策透明性的同时,"[保护]教育、纪录片、艺术、讽刺和政治表达"。

这项协议事实上毫无实际约束力,一些批评者可能会说,它只不过是一种表明自己道德立场的形式罢了——它的措施都是自愿的。但这场大肆宣扬表明了科技行业对选举相关监管的警惕,毕竟今年全球49%的人口将要参加国家选举。

“科技行业无法单独保护选举免受这种新型选举滥用的影响,这是不可能的。”微软副董事长兼总裁布拉德·史密斯在新闻稿中表示。“展望未来,对于在微软工作的我们来说,我们似乎还需要新形式的多利益相关方行动……显然,选举保护需要我们大家共同努力。”

美国没有任何联邦法律禁止深度伪造技术,无论是与选举有关还是其他方面。但是全美已有10个州通过法律将深度伪造技术定为犯罪行为,其中明尼苏达州是第一个针对政治竞选中使用深度伪造技术的州。

在其他地方,联邦机构已经采取了能够采取的一切执法行动,以打击深度伪造传播。

本周,美国联邦贸易委员会(FTC)宣布寻求修改一项现有规定,禁止冒用企业或政府机构的举措,扩大覆盖范围到包括政治人物在内的所有消费者。而美国联邦通信委员会(FCC)通过重新解释一项禁止人工和预录语音垃圾信息的规定,将利用人工智能进行的语音电话骚扰定为非法。

在欧盟内部,该联盟的 AI法案要求所有由人工智能生成的内容必须清楚标注。欧盟还使用其数字服务法案来迫使科技行业遏制各种形式的深度伪造技术。

同时,深度伪造视频不断增多。据深度伪造检测公司Clarity的数据显示,每年被创建的深度伪造视频数量增长了900%。

上个月,模仿美国总统乔·拜登声音的人工智能自动拨号盗用电话试图阻止人们参加新罕布什尔州初选。而在11月份,斯洛伐克选举前几天,模仿自由派候选人的人工智能生成音频记录讨论了提高啤酒价格和操纵选举的计划。

在优戈夫最近的一次调查中,85%的美国人表示他们非常担心或有些担心误导性视频和音频深度伪造技术的传播。美联社-诺克公共事务研究中心的另一项调查发现,将近60%的成年人认为人工智能工具将在2024年美国选举周期中增加虚假和误导性信息的传播。

推荐阅读

我们对2024年MWC的期望

2024-02-17 2827
Chat中文版

从明天开始,欧洲的数字服务法将全面生效——以下是你需要了解的内容

2024-02-17 1350
Chat中文版

铸造厂正在缓慢关闭

2024-02-17 2791
Chat中文版

Anthropic采取措施预防选举错误信息传播

2024-02-16 2445
Chat中文版

Clubhouse的新功能将您的文字转化为定制的语音消息

2024-02-16 687
Chat中文版