Facebook旗下公司Meta的监督委员会正在调查在Instagram和Facebook上发布的明确由人工智能生成的图像

监督委员会是 Meta 的半独立政策委员会，目前正在关注公司社交平台处理明显的 AI 生成图像的方式。周二，它宣布对两起不同案件展开调查，分别涉及 Instagram 在印度和 Facebook 在美国如何处理 AI 生成的公众人物图像，因为 Meta 的系统未能及时检测和处理明显内容。

在两种情况下，这些网站现在已经删除了媒体。根据 Meta 发送给 TechCrunch 的一封电子邮件，委员会没有公布被 AI 图像针对的个人的姓名，以避免基于性别的骚扰。

董事会处理关于Meta的审查决定的案例。用户在向监督委员会申诉之前必须首先向Meta提出有关审查操作的申诉。该委员会将在未来公布其全部调查结果和结论。

案例

董事会在描述第一起事件时表示，一位用户在Instagram上举报了一个AI生成的印度公众人物的裸露图片，称其为色情内容。这张图片是由一个专门发布由AI创造的印度女性图片的账号发布的，大多数对这些图片做出反应的用户都来自印度。

在第一次举报后，Meta未能删除该图片，而在公司未进一步审核举报情况的情况下，报告的工单在48小时后自动关闭。当最初的投诉人申诉该决定时，报告再次在没有Meta的监督下自动关闭。换句话说，经过两次举报后，这张明显是由AI生成的图片仍然出现在Instagram上。

用户最终向董事会上诉。公司只有在那时采取行动，删除了令人反感的内容，并移除了违反其关于欺凌和骚扰的社区标准的图片。

第二个案例涉及到Facebook，一个用户在一个专注于AI创作的小组里发布了一张明显由AI生成的图片，类似于一个美国公众人物。在这种情况下，社交网络将该图片删除，因为这张图片之前被另一个用户发布过，而Meta将其添加到了“贬低性别性的photoshop或绘画”类别的媒体匹配服务银行中。

当TechCrunch询问为什么董事会选中了一起公司成功下架明显的人工智能生成的图片的案例时，董事会表示选择案例“代表了Meta平台上更广泛问题。” 董事会补充说，这些案例有助于咨询委员会查看Meta针对各种主题的政策和流程在全球范围内的有效性。

"我们知道 Meta 在某些市场和语言中更快速和更有效地进行内容审查。通过从美国和印度各选择一起案例，我们希望看看 Meta 是否以公平的方式保护全球所有的妇女，"监督委员会联席主席Helle Thorning-Schmidt在一份声明中表示。

董事会认为，重要的是探讨Meta的政策和执行实践是否有效地解决这个问题。

深度伪造色情和在线性别暴力的问题

近年来，一些生成式人工智能工具扩展到允许用户生成色情内容，但并非所有工具都是这样。正如TechCrunch先前报道的那样，像不稳定扩散这样的团体试图通过模糊的道德界限和数据偏见来商业化人工智能色情内容。

在印度等地区，Deepfake技术也已成为一个引起关注的问题。去年，BBC的一份报道指出，印度女演员的Deepfake视频数量近来急剧增加。数据显示，女性更常被用作Deepfake视频的对象。

今年早些时候，印度IT部副部长拉杰夫·昌德拉谢卡对科技公司应对深度伪造技术的方式表示不满。

在当时的新闻发布会上，钱德拉贾表示：“如果某个平台认为他们可以逃脱责任，不删除深度伪造视频，或者仅抱着漫不经心的态度对待，我们有权力通过封锁这些平台来保护我们的公民。”

尽管印度已考虑将特定的 deepfake 相关规定列入法律，但目前尚未确定。

虽然在该国法律下有规定可以举报在线性别暴力，但专家指出这个过程可能会很繁琐，且通常缺乏支持。在去年发表的一项研究中，印度倡导组织IT for Change指出，印度法院需要建立强有力的程序来处理在线性别暴力案件，并且不应轻视这些案件。

Aparajita Bharti, The Quantum Hub的联合创始人，一家总部位于印度的公共政策咨询公司，表示应该对AI模型设定限制，防止它们生成有害的明显内容。

“生成式人工智能的主要风险在于这类内容的数量会增加，因为生成这类内容很容易且具有很高的复杂度。因此，我们需要首先通过训练人工智能模型来限制输出，以防止有意伤害他人的意图已经明显。我们还应该引入默认标签以便轻松检测，”Bharti在一封电子邮件中告诉TechCrunch。

曾在Meta南亚政策团队工作过的平台政策专家德维卡·马利克表示，虽然社交网络对非自愿的亲密影像制定了政策，但执法主要依赖用户举报。

"这给受影响的用户造成了不公平的负担，要求他们证明自己的身份和缺乏同意（就像Facebook的政策一样）。当涉及到合成媒体时，这可能会更容易出错，可以说，捕获和验证这些外部信号所需的时间使内容获得了有害的推动力，" 马里克说。

目前全球只有少数几项法律法规涉及使用人工智能工具生成的色情制品的生产和分发。美国的一些州对深度伪造有法律规定。英国本周推出了一项法律，将刑事化制作具有性暗示的人工智能图像。

Meta的回应和下一步行动

作为对审查委员会案例的回应，Meta表示已经删除了这两个内容。然而，这家社交媒体公司并没有解释，对于用户最初举报后未能在Instagram上删除内容，或者这些内容在平台上存在多久。

Meta表示，它使用人工智能和人工审核相结合的方式来检测具有性暗示的内容。这家社交媒体巨头表示，不会在像Instagram探索或Reels推荐等地方推荐这类内容。

监督委员会已经征求公众意见，截止日期是4月30日，就解决深度伪造色情内容带来的危害进行讨论。还包括关于类似内容在美国和印度等地区大量传播的相关信息，以及Meta在检测由人工智能生成的明显图像方面可能存在的问题。

董事会将调查这些案例和公众评论，并在几周内在网站上发布决定。

这些案例表明，大型平台仍在努力应对旧的内容审核流程，而人工智能工具则使用户能够快速轻松地创建和分发不同类型的内容。像Meta这样的公司正在尝试使用人工智能工具进行内容生成，并付出了一些努力来检测这类图像。今年四月，该公司宣布，如果能够使用“行业标准AI图像指标”或用户披露来检测内容，就会给深度伪造视频贴上“使用AI制作”的徽章。

平台政策专家马里克表示，标注通常效率低下，因为检测人工智能生成图像的系统仍然不够可靠。

“在限制有害内容传播方面，标记已被证明具有有限的影响。如果我们回想起AI生成的泰勒·斯威夫特图片的案例，数百万用户通过X自己的热门话题'泰勒·斯威夫特AI'被引导到这些图片。所以，人们和平台都知道这些内容并不真实，但仍然被算法放大，” Malik指出。

然而，肇事者不断寻找方式逃脱这些检测系统，并在社交平台上发布有问题的内容。