欧盟在选举前加强对主要平台在GenAI风险方面的审查

欧洲委员会已向谷歌、Meta、微软、快手、抖音以及X公司发送了一系列关于如何处理与生成式人工智能使用相关风险的正式信息请求（RFI）。

与必应、Facebook、谷歌搜索、Instagram、Snapchat、TikTok、YouTube和X相关的要求是根据数字服务法案（DSA）进行的，该法案是该地区重新启动的电子商务和在线治理规则。这八个平台被规定为非常大型在线平台（VLOPs）——这意味着它们需要评估和减轻系统性风险，同时遵守其余的规定。

周四在一份新闻稿中，委员会表示他们要求企业提供更多关于他们各自针对生成式人工智能风险应对措施的信息，包括与所谓的“幻觉”有关的情况，即AI技术生成虚假信息；深度伪造视频的病毒传播；以及自动操纵可能误导选民的服务。

委员会还要求有关风险评估和缓解措施，这些与生成AI对选举过程、非法内容传播、基本权利保护、基于性别的暴力、未成年人保护以及心理健康影响等的影响有关的内部文件和信息，委员会补充道，强调这些问题涉及“生成AI内容的传播和创作”。

在与记者们进行简报会时，欧盟还表示计划在复活节后举行一系列压力测试。这些测试将检验平台准备应对生成式人工智能风险的能力，比如在6月欧洲议会选举前可能出现大量政治 deepfakes 的可能性。

一位不愿透露姓名的高级委员会官员表示：“我们希望推动各平台告诉我们他们正在做的一切，以尽可能最好地准备好自己...以备我们可能发现的一切事件，以及我们将不得不在选举前做出反应的情况。”

欧盟负责监督大型科技公司遵守这些数字服务法规，并将选举安全列为执法的重点领域之一。最近，欧盟就大型科技公司的选举安全规则进行了磋商，同时正在制定正式指导方针。

今天的要求部分是为了支持该指导意见，根据委员会的说法。尽管平台被要求在4月3日之前提供与选举保护有关的信息，这被标记为“紧急”要求。但欧盟表示希望在3月27日之前就完成选举安全准则。

委员会注意到，生产合成内容的成本正在大幅下降——这增加了选举期间制造误导性深度伪造视频的风险。这就是为什么委员会正在加大对规模足以广泛传播政治深度伪造视频的主要平台的关注。

上个月在慕尼黑安全会议上出台了一项科技行业协议，旨在打击选举期间虚假使用人工智能的行为。虽然该协议得到了一些平台的支持，但在欧盟看来还不够。现在，委员会正在发送信息需求文件。

一位委员会官员表示，即将发布的选举安全指导将会“更进一步”，并指出计划利用的三重保障：首先是DSA的“明确尽职调查规则”，赋予其针对特定“风险情况”的权力；结合与平台合作超过五年的经验，通过（非法律约束的）打击虚假信息行为守则，欧盟拟定将其纳入DSA下的行为守则；而新的AI法案即将出台，将包括透明标签/人工智能模型标注规则。

欧盟的目标是建立起在选举前可以利用的“执法结构生态系统”，该官员补充道。

今天委员会的询问还旨在解决比选民操纵更广泛的生成式人工智能风险，比如涉及深度伪造色情内容或其他恶意合成内容生成相关的损害，无论生成的内容是图像/视频还是音频。这些要求反映了欧盟在VLOPs的DSA执法中的另一重点领域，其中包括与非法内容（如仇恨言论）和儿童保护相关的风险。

这些平台已被要求在4月24日之前回应其他生成式AI的请求。

欧盟也关注那些更小的平台，可能会传播误导性、恶意或其他有害的深度伪造视频，以及那些可以以更低成本实现合成媒体生成的小型人工智能工具制造商。

这样的平台和工具不会被欧委会明确的DSA监管VLOP范围覆盖，因为它们没有被指定。但其扩大监管影响的策略是间接施加压力，通过更大的平台（在这个背景下可能充当放大器和/或分发渠道）;以及通过自律机制，比如前述的虚假信息守则;以及AI协议，一旦（硬法）AI法案通过（预计在几个月内）就将开始实施。