欧盟提议将AI生成的儿童性虐待和深度伪造行为定为犯罪

据欧盟委员会今日宣布，为了跟上科技发展的步伐，拟更新现有立法，将AI生成的描绘儿童性虐待的图片和其他形式的深度伪造画在欧洲联盟内加入犯罪行为范畴。

还提议创建新的犯罪行为——直播儿童性虐待。根据该计划，所谓的“恋童癖手册”的拥有和交流也将被定罪，这是欧盟旨在加强对儿童性虐待的预防的一系列措施的一部分，包括增加对在线风险的认识，并使受害者更容易报案和获得支持（包括给予他们获得财物赔偿的权利）。

更新目前适用于欧盟的规定（这些规定追溯至2011年）的提案，还包括强制报告违法行为的修改。

2022年5月，委员会提出了一项与儿童性虐待有关的法案草案，旨在建立一个框架，强制数字服务使用自动技术来检测并报告其平台上流传的现有或新的儿童性虐待材料（CSAM），并识别并报告针对儿童的勾引行为。

CSAM（虐待儿童性行为材料）扫描计划已经被证明是极具争议的，这一争议仍在继续在国会和议会中分裂立法者，同时引发人们对委员会与儿童安全技术游说团体之间的联系产生怀疑，并对欧盟行政部门提出其他尴尬的问题，涉及通过法律上可疑的针对性广告来推动该提案。

委员会决定优先针对数字通信平台来解决儿童性虐待问题的决策引起了很多批评。批评者认为，欧盟的立法者将注意力放在了错误的领域上，以应对一个复杂的社会问题，这可能对委员会产生了一些压力，迫使其提出跟进方案。（当然，委员会并未这样说，它把今天的计划称为其早期儿童性虐待物品扫描提案的“补充”）

话虽如此，即使自从有争议的私信扫描计划提出以来不到两年时间，人们对于Deepfakes和AI生成图像的风险关注度急剧上升，其中包括担忧该技术被滥用以生成儿童色情图像；同时也担心这种合成内容可能会使执法机构更难以识别出真正的受害者。因此，生成式AI的热潮促使立法者明确有动力重新审视规则。

“儿童在线存在的增加和技术发展为虐待行为带来了新的可能性，”委员会在今天的新闻发布会上指出。它还表示，该提案旨在“减少在线儿童性虐待和剥削的普遍免责”。

欧委会在提出该提案之前进行了一项影响评估，确认儿童网络存在的增加以及“最新技术发展”是导致儿童性虐待的新机会。它还表示担心成员国之间法律框架的差异会阻碍打击虐待行为的行动，并希望改进目前“有限”的预防儿童性虐待和帮助受害者的努力。

“快速发展的技术为网络儿童性虐待创造了新的可能性，并对执法机构调查这种极其严重且广泛的犯罪提出了挑战”，内务事务专员Ylva Johansson在一份支持声明中补充道。“强有力的刑法是必不可少的，今天我们正在采取关键步骤，以确保我们拥有有效的法律工具来拯救儿童并将肇事者绳之以法。我们正在履行我们在2020年7月提交的EU战略中对更有效打击儿童性虐待的承诺。”

在儿童网络安全风险方面，委员会的提议旨在鼓励成员国加大“提高认识”的投资力度。

就像对CSAM的扫描计划一样，最终提案的形式将由欧盟的共同立法者，即议会和理事会决定。在今年晚些时候举行的议会选举和委员会的重新启动之前，有限的时间用于讨论——尽管今天的对抗CSA的提案可能相对较少引起分歧，但是比起信息扫描计划来说。因此，在另一个计划停滞不前的情况下，它可能有机会被采纳。

根据欧盟委员会，如果/当对修改当前打击儿童色情活动指令达成一致，该指令将在其在欧盟官方公报上公布后20天生效。