微软为深度伪造色情内容的受害者提供了一个从必应搜索中清除图像的工具。

生成式人工智能工具的进步给互联网带来了一个新问题：酷似真人的合成裸照大量涌现。周四，微软迈出重要一步，为复仇色情受害者提供了一种工具，以阻止其必应搜索引擎返回这些图片。

微软宣布与 StopNCII 建立合作关系，StopNCII 是一个允许复仇色情受害者在其设备上为这些露骨的图像（无论真假）创建数字指纹的组织。StopNCII 的合作伙伴随后使用该数字指纹（技术上称为“哈希值”）从其平台上清除这些图像。微软的必应与 Facebook、Instagram、Threads、TikTok、Snapchat、Reddit、PornHub 和 OnlyFans 一道与 StopNCII 合作，并使用其数字指纹来阻止复仇色情内容的传播。

在一篇博客文章中，微软表示，截至 8 月底，在与“阻止儿童性剥削图像索引”数据库合作的试点项目中，它已经对通过必应图像搜索返回的 26.8 万张露骨图片采取了行动。此前，微软提供了一个直接报告工具，但该公司表示，事实证明这还不够。

微软在周四的博客文章中表示：“我们从受害者、专家和其他利益相关者那里听到了担忧，他们认为仅靠用户举报可能无法有效地产生影响，也不足以解决通过搜索获取图像的风险。”

你可以想象，在一个更受欢迎得多的搜索引擎（比如谷歌）上，那个问题会严重多少。

据《连线》杂志的一项调查，谷歌搜索提供了自己的工具来举报并从其搜索结果中删除露骨图片，但因未与“StopNCII”合作而受到前员工和受害者的批评。《连线》报道，自 2020 年以来，韩国的谷歌用户已举报了 17 万个包含不良性内容的搜索结果和 YouTube 链接。

人工智能生成的虚假裸照问题已经十分普遍。StopNCII 的工具仅对 18 岁以上人群有效，但“脱衣”网站已经给全美各地的高中生造成了困扰。不幸的是，美国目前还没有针对人工智能生成的虚假色情内容的法律来追究任何人的责任，因此该国依靠各州和地方拼凑起来的法律来解决这个问题。

旧金山检察官于 8 月宣布提起诉讼，以取缔 16 个最“露骨”的网站。根据《连线》杂志创建的深度伪造色情法追踪器，美国已有 23 个州通过了处理未经同意的深度伪造内容的法律，而有 9 个州否决了相关提案。