欧盟针对科技巨头的选举安全指南拟定，瞄准政治深度伪造技术

欧洲联盟对大型在线平台（例如Facebook、Google、TikTok和X（Twitter））的草拟选举安全缓解措施展开了咨询。此次咨询包括一系列建议，该建议旨在减少由生成式人工智能和深度伪造造成的民主风险，同时还涵盖了内容审核资源和服务完整性、政治广告透明度以及媒体素养等关键领域。该指南的总体目标是确保科技巨头对可能在其平台上出现的选举相关风险进行全面关注和应对，包括因易于获取强大的人工智能工具而导致的风险。

欧盟旨在针对目前根据其重新启动的电子商务规定 - 数字服务法案（DSA）被认定的近二十个平台巨头和搜索引擎，制定选举安全指南。

自去年生成式人工智能（AI）如OpenAI的AI聊天机器人ChatGPT在社交媒体上迅速传播之后，对于类似大型语言模型（LLM）这样能够输出高度真实的文字、图像、音频或视频的先进AI系统的担忧持续增加。自那以后，已经推出了大量生成式AI，包括由Meta和Google等长期存在的科技巨头开发的各种模型和工具，它们的平台和服务通常能触达数十亿的互联网用户。

最近生成型人工智能的技术进展使得能够创造和广泛使用能够生成文字、图片、视频或其他合成内容的人工智能成为可能。欧盟正在讨论的一份文件警告称，虽然这样的进展可能带来许多新机会，但在选举背景下也可能带来特定的风险。生成型人工智能特别可以用于误导选民或操纵选举过程，通过创作和传播不真实、误导性的合成内容，包括有关政治角色、事件虚构、选举民意调查、背景或叙述的虚假描绘。生成型人工智能系统还可以产生不正确、不连贯或虚假的信息，即所谓的“幻觉”，从而歪曲现实并有潜在地误导选民。

当然，并不需要大量的计算能力和尖端的人工智能系统来误导选民。有些政客专门擅长制造“假新闻”，仅仅使用自己的声带就能实现。就连在技术工具方面，恶意行为者也不需要花哨的通用人工智能来粗略修改视频（或以其他更基本的方式操纵数字媒体），以创建潜在误导性的政治信息，而这些信息可以迅速地被扔进社交媒体的愤怒言论中，由愿意被触发的用户（和/或机器人）传播，直到分歧引发自我蔓延之火（推动隐藏在虚假背后的任何政治议程）。

看，以最近为例，Facebook的监督委员会作出了关于这家社交媒体巨头如何处理了一段对美国总统拜登进行编辑的视频的（批判性）决定，该委员会要求其母公司重写“不连贯”的虚假视频规则，因为目前，这种内容在Meta的版主们处理时可能会有所不同，具体取决于它是由人工智能生成的还是采用更基础的编辑方法。

值得注意的是，但并不令人惊讶的是，欧盟在选举安全方面的指导并不局限于由人工智能生成的虚假信息。

在GenAI上，该集团正在明确强调平台需要解决传播（而不仅仅是创造）风险的需求。

最佳实践

欧盟在起草指南时提出了一个建议，即符合范围内平台上的GenAI、深度伪造和/或其他“媒体操纵”的标签应该既清晰（“显著”且“高效”），又持久（即如果/当内容被转发时，标签仍然存在）——被标记的内容应该“明显地类似于现有的人物、物体、地点、实体、事件，或展示并未发生或对其进行歪曲的真实事件”，正如文中所陈述的那样。

平台还应提供给用户可以为AI生成的内容添加标签的便捷工具。

起草的指导方针进一步建议，为了提供风险减轻措施，可以借鉴欧盟(最近通过的立法提案)AI Act以及其非法律约束力的伙伴AI Pact的"最佳实践"，并补充说："特别相关的是AI Act为通用AI模型提供者规定的义务，包括创造性AI的需求，以及为创造性AI系统提供者使用技术上最先进的解决方案以确保由创造性AI创建的内容被标记，从而使其可以被[在范围内的平台]的提供者检测到。"

《选举安全指南草案》目前正接受欧盟大众的征求意见，截至3月7日。该指南总体建议科技巨头制定与人工智能生成虚假信息的风险相关的“合理、相称且有效”的缓解措施，旨在防止虚假信息的创作和“潜在的大规模传播”。

建议使用数字水印技术，包括元数据方式，用于区分由人工智能生成的内容，以便用户可以“清晰地区分”这些内容。但草案指出，“其他类型的合成和修改媒体”也应该接受同样的处理方式。

在涉及候选人、政治家或政党的任何生成AI内容中，这一点尤其重要。”咨询中指出：“水印也可以适用于基于经过生成AI的实际镜头（如视频、图像或音频）进行修改的内容。”

草案指出，要求各平台调整其内容管理系统和流程，以便能够检测水印和其他内容来源指标。草案还建议平台“与生成式人工智能系统提供商合作，并遵循最先进的措施，确保这些水印和指标可被可靠有效地检测”；并要求他们“支持新技术创新，以提高这些工具的效能和互操作性”。

从本月末开始，欧盟的内容管理和治理法规DSA将适用于广泛范围的数字企业，已经适用于近二十个（较大）平台，这些平台在该地区拥有超过4500万的月活跃用户。到目前为止，已经有超过20个所谓的非常大型在线平台(VLOPs)和非常大型在线搜索引擎(VLOSEs)被DSA指定，包括Facebook、Instagram、Google Search、TikTok和YouTube等。

相比于非虚拟法律主体/非虚拟服务主体，这些大型平台面临额外的义务，包括要求减轻由其运营平台和算法所带来的系统风险，这些风险可能涉及到民主过程的领域。这意味着，比如说，脸书和Instagram上关于政治上的虚假信息的处理问题，Meta在不久的将来可能被迫采取一个更加一致的立场。至少在欧盟地区，DSA适用于Meta的业务。（注：违反该条例的惩罚可以达到全球年营业额的6%。）

针对DSA平台巨头在选举安全方面的其他起草建议包括建议他们“合理努力”确保使用生成式人工智能提供的信息“在选举背景下尽可能依赖可靠的信息源，如相关选举当局对选举过程的官方信息”，就像当前的文本所表述的那样；并且“系统对外部信息源进行的引用或参考必须准确，并且不会歪曲所引用的内容” - 欧盟预期这将有助于“限制...‘错觉’的影响”。

根据草案，所涵盖的平台还应该警告用户有关由GenAI创建的内容可能存在的错误，并指向权威信息来源。同时，科技巨头们也应该采取“防护措施”来阻止创造可能对用户行为产生强烈影响的“虚假内容”。

在建议平台采用的安全技术中，可以推荐采用“红队”技术，也就是主动寻找和测试潜在的安全问题的做法。“在发布生成式人工智能系统之前，与内部团队和外部专家一起进行并记录红队演练，重点关注选举过程，并采用分阶段发布方法，以更好地控制意外后果，”目前的建议如是说。

符合DSA要求的GenAI部署者还应根据当前的文本，在诸如选举内容的问题上给出的答案的安全性和事实准确性等方面设置“适当的性能指标”，并“在必要时持续监控生成AI系统的性能，并采取适当的措施”。

草案还要求将旨在防止生成AI系统被“非法、操纵性和虚假信息手段在选举过程中被滥用”的安全功能整合到AI系统中。这些安全功能包括快速分类器、内容审核和其他类型的过滤器，旨在让平台能够积极主动地检测和防止违反与选举相关的服务条款的提示信息。

关于由人工智能生成的文本，目前的建议是为了让用户能够验证信息的可靠性并进一步理解其背景，"在生成的输出中尽可能指示使用作为输入数据的具体信息来源"，这表明欧盟倾向于使用类似脚注的指示符（例如 AI 搜索引擎 You.com 通常显示的方式）来附带生成性人工智能响应，尤其是在风险环境下，如选举。

对外部研究人员的支持是起草建议书的另一个关键要点，事实上，这也是数字服务行动(DSA)的一般原则，其要求平台和搜索巨头为研究系统风险的数据访问提供支持。（这一方面早在委员会对平台的监督中就成为关注的重点。）

草案指导建议：“由于AI生成的内容存在特定的风险，应该进行特别审查，还应通过开发专门的工具进行研究，以便识别和了解与选举过程相关的特定风险。” “鼓励在线平台和搜索引擎提供商考虑建立专门的工具，使研究人员能够访问并专门识别和分析被称为AI生成内容的内容，以遵守DSA中第40.12条对网络平台供应商和搜索引擎供应商的义务。”

当前的草案还涉及在广告中使用生成AI技术，建议平台对其广告系统进行调整，以考虑潜在风险 – 例如，通过为广告商提供明确标注已在广告或推广帖中使用了生成AI内容的方式来提供广告商的帮助；并要求他们在广告政策中使用该标签，以表明广告中包含生成AI内容。

关于选举诚信问题，欧盟对于平台和搜索巨头将要采取的确切指导措施，需要等待未来几个月最终指南的出台。但目前的草案表明，该联盟打算制定一套全面的建议和最佳实践。

平台将有选择地遵循指南，但他们需要遵守有法律约束力的DSA规定-所以任何偏离建议的行为都可能引起对其他选择的额外审查（嗨，埃隆·马斯克！）。并且平台需要准备好向委员会辩护，委员会既制定指南，也执行DSA规范。

欧盟今天确认选举安全指南是根据《风险减轻》第35条（集中于VLOPs/VLOSEs）的规定制定的首批指南。他们表示，目的是向平台提供“最佳实践和可能的措施，以减轻可能威胁民主选举过程完整性的系统性风险”。

选举显然是该集团关注的焦点，一次五年一度的选举活动将于6月初举行，目的是选举一个新的欧洲议会。这里的草案指南甚至包括与欧洲议会选举相关的有针对性的建议-建议各个平台为文字中所谓的“我们民主进程的韧性的一个关键测试案例”做出“有力的准备”。因此我们可以假设最终指南将在夏季之前提供。

欧盟内部市场专员蒂埃里·布雷顿在一份声明中评论道：