美团的新人工智能深度伪造剧本：更多标签，更少撤下

元宣布对AI生成内容和篡改媒体规则进行更改，此举是基于监督委员会的批评。公司表示，从下个月开始，将会对更广泛的内容进行标记，包括对deepfake应用“由AI生成”标志。当内容以其他方式进行篡改且可能对重要问题进行欺骗时，可能会显示额外的背景信息。

这一举措可能会导致这家社交网络巨头更多地对可能具有误导性的内容进行标注，这在全球举行多次选举的年份尤为重要。不过，对于深度伪造视频来说，Facebook 只会在相关内容具有“行业标准 AI 图像指标”或上传者已经披露内容是 AI 生成的情况下，才会贴上标签。

假定AI生成的内容超出了这些限制，那么它可能会逃避标记。

据信，这一政策变革也可能导致更多由人工智能生成的内容和经过篡改的媒体留在Meta平台上，因为它正转向支持“提供透明度和额外背景信息”的方法，将其视为“解决这一内容问题的更好方式”（而不是删除经过篡改的媒体，因为这样做会对言论自由造成风险）。

因此，在Facebook和Instagram等Meta平台上生成的人工智能或其他方式操作的媒体，策略似乎是：增加标签，减少下架。

Meta表示，将于7月停止仅基于当前操纵视频政策删除内容，周五发表的博文中还提到：“这个时间表可以让人们有时间理解自我披露流程，然后再停止删除较小一部分的操纵媒体。”

转变方法可能旨在应对 Meta 在内容管理和系统风险方面不断增加的法律要求，例如欧盟的数字服务法案。自去年八月以来，欧盟法律已经向其两个主要社交网络施加了一套规则，要求 Meta 在清除非法内容、缓解系统风险和保护言论自由之间走一条微妙的平衡。该集团还在今年六月举行的欧洲议会选举前对平台施加额外压力，包括敦促科技巨头在技术可行的情况下为深度伪造视频添加水印。

11月即将到来的美国总统选举可能也在Facebook（Meta的旗下公司）的考虑之中。

监督委员会批评

Meta的顾问委员会由这家科技巨头资助，但允许其保持独立性，审查其少部分内容管理决定，同时也可以提出政策建议。Meta并不受束缚于接受委员会的建议，但在这个案例中，它同意修改其做法。

在周五发表的博客文章中，Meta内容政策副总裁莫妮卡·比克特表示，公司正在根据董事会的反馈修改关于由人工智能生成的内容和操纵媒体的政策。她写道：“我们同意监督委员会的观点，认为我们现有的处理方法太狭窄了，因为它只涵盖了通过人工智能制作或修改的视频，以使一个人似乎说了他们没有说的话。”

今年二月，监管委员会敦促Facebook重新思考其对AI生成内容的处理方式，因为他们接手了一起关于拜登总统被篡改视频的案件。该视频被编辑成暗示总统在给予孙女亲吻时存在性动机。

董事会同意Meta决定让特定内容保留下来，但批评其关于操纵媒体的政策“不连贯” - 例如指出，该政策仅适用于通过人工智能创作的视频，而对其他虚假内容（如更基本地篡改的视频或音频）不予处理。

Meta似乎已经接受了关键反馈意见。

在过去的四年中，尤其是在过去的一年里，人们已经开发出其他类型的实际AI生成内容，如音频和照片，这项技术正在迅速发展。正如Bickert所写的，“正如董事会注意到的那样，解决展示某人做他们未曾做过的事情的操纵同样重要。”

董事会还表示，当我们移除未违反我们社区标准的操纵媒体时，我们不必要地冒着限制言论自由的风险。它建议对于操纵媒体采取一种“更少限制性”的方式，比如附带背景信息的标签。

今年早些时候，Meta宣布正在与行业其他人合作制定识别人工智能内容（包括视频和音频）的共同技术标准。它正在利用这一努力来扩展合成媒体的标注。

“我们在由人工智能生成的视频、音频和图像上打上‘AI制作’标签，将基于我们对AI图像的行业共享信号的检测，或者上传人工智能生成内容的个人自行披露信息，” Bickert说道。他指出，该公司已经在使用自己的Meta AI功能创建的逼真图像上应用了‘Imagined with AI’标签。

根据Bickert的说法，扩大的政策将涵盖“操纵内容之外的更广泛范围的内容”， Oversight Board建议的标记内容。

她写道：“如果我们确定数字创作或修改的图像、视频或音频在重要事项上存在特别高风险误导公众，我们可能会添加更突出的标签，让人们获得更多信息和背景。”“这种整体方法让人们对内容有更多了解，可以更好地评估内容，如果在其他地方看到相同的内容，也能有相关背景信息。”

Meta表示，除非违反其他政策（如干扰选举、欺凌、暴力煽动或其他社区标准问题），否则不会删除经人工智能或其他方式篡改过的内容。相反，正如上文所述，在某些高度公共关注的情况下，可能会添加“信息标签和背景内容”。

Meta的博客文章强调了一个由近100家独立事实核查机构组成的网络，它表示正在与这些机构合作，帮助识别与操纵内容相关的风险。

根据 Meta 公司的说法，这些外部实体将继续审查虚假和误导性的人工智能生成内容。当他们将内容评定为“虚假或被篡改”时，Meta 表示将通过应用算法变化来减少内容的传播范围，这意味着这些内容将在信息流中显示更低，使更少的人看到它，另外，Meta 还会在这些内容上增加一个覆盖标签，用以提供给那些看到它的人额外信息。

随着合成内容不断增加，第三方事实核查人员将面临更多的工作量，这是由生成型人工智能工具的增长所推动的。而且，由于这一政策转变的结果，更多这样的内容看起来将继续留在Facebook旗下的平台上。