谷歌Play对制作深度假裸照应用进行打击

谷歌周四发布了新的指导，针对通过谷歌应用商店分发的人工智能应用程序，希望减少不当和其他违禁内容。该公司称，提供人工智能功能的应用程序将必须防止生成受限制的内容，包括性内容、暴力内容等，并且需要为用户提供举报他们发现的冒犯性内容的途径。此外，谷歌表示开发人员需要“严格测试”他们的人工智能工具和模型，以确保它们尊重用户的安全和隐私。

谷歌还在打击宣传不当使用方式的应用程序，例如让人脱衣或制作未经同意的裸体图片的应用。如果广告内容宣传应用有这种功能，即使应用实际上并不具备这样的功能，也可能会被从谷歌应用商店中禁止。

这些指引旨在跟踪最近几个月在社交媒体上营销的愈演愈烈的AI脱衣应用。例如，404 Media在4月份的一份报告发现，Instagram上有广告宣称利用人工智能生成深假裸照的应用。一个应用利用一张金·卡戴珊的照片和口号“免费解衣任何女孩”来宣传自己。苹果和谷歌已经从各自的应用商店中下架了这些应用，但问题仍然广泛存在。

美国各地学校报告称，学生之间传播利用人工智能制作的深度伪造裸照，用于欺凌和骚扰其他学生（有时还有老师），并传播其他不当的人工智能内容，出现了问题。上个月，一名校长遭到种族歧视人工智能深度伪造视频的事件导致了在巴尔的摩的逮捕。更糟糕的是，这个问题甚至影响到了一些中学生。

谷歌表示，其政策将有助于阻止在Google Play上展示不当或对用户有害的人工智能生成内容的应用程序。谷歌指出，其现有的人工智能生成内容政策是一个检查其在Google Play上应用程序批准要求的地方。该公司表示，人工智能应用程序不能允许生成任何受限制的内容，也必须为用户提供标记具有攻击性和不当内容的途径，同时监控和优先处理反馈。谷歌表示，后者在用户互动“塑造内容和体验”的应用程序中尤为重要，例如，在这些应用程序中，受欢迎的模型会被高排名或更显眼地展示。

根据谷歌的应用推广要求，开发者也不能宣传他们的应用违反谷歌Play的任何规定。如果宣传了不当的使用情况，应用可能会被从应用商店中删除。

另外，开发者还需要负责保护他们的应用免受可能操控其人工智能功能以创建有害和冒犯性内容的提示。谷歌表示，开发者可以使用其封闭测试功能与用户共享应用的早期版本以获取反馈意见。该公司强烈建议开发者不仅在发布之前进行测试，还要对这些测试进行记录，因为谷歌可能会要求将来审查这些记录。

该公司还出版其他资源和最佳实践，比如其《人工智能指南》，旨在支持开发人员构建人工智能应用程序。