NIST推出新平台评估生成式人工智能

美国商务部机构国家标准技术研究所（NIST）周一宣布推出了NIST GenAI计划，旨在评估生成式人工智能技术，包括文本和图像生成的人工智能。该研究所为美国政府、企业和更广泛的公众开发和测试技术。

美国国家标准与技术研究所将发布基准测试，帮助创建“内容真实性”检测（即Deepfake检测）系统，并鼓励开发软件来识别虚假或误导性的人工智能生成的信息的来源。美国国家标准与技术研究所在新推出的NIST GenAI网站和新闻发布中解释道。

《NIST GenAI计划将推出一系列挑战题目，旨在评估和衡量生成式人工智能技术的能力和局限性》，新闻稿中提到。“这些评估将被用于确定推广信息完整性的策略，并指导数字内容的安全和负责任使用”。

NIST GenAI的第一个项目是一项试点研究，旨在建立可靠区分人类创作和人工智能生成媒体的系统，首先从文本开始。（虽然许多服务声称能够检测深度伪造，但研究和我们自己的测试表明，在文本方面它们至多不可靠。）NIST GenAI邀请来自学术界、产业界和研究实验室的团队提交“生成器”——用于生成内容的人工智能系统，或者“鉴别器”——专门设计用于识别人工智能生成内容的系统。

研究中的生成器必须根据给定的主题和一组文件生成250字或更少的摘要，而辨别器必须检测给定的摘要是否可能是由人工智能写成的。为确保公平，NIST GenAI将提供测试生成器所需的数据。基于公开可用数据训练的系统，并且不符合适用法律法规的系统将不被接受。

试行注册将于5月1日开始，结果预计将于2025年2月公布。

随着深度伪造技术的迅猛发展，NIST GenAI的推出和专注于深度伪造的研究成为了焦点。

根据深度伪造检测公司Clarity的数据，与去年同期相比，今年制作的深度伪造视频增长了900%。这引发了人们的警惕，可以理解。YouGov最近的一项民意调查发现，85%的美国人表示他们担心网上误导性深度伪造视频的传播。

NIST GenAI的推出是NIST对美国总统乔·拜登关于人工智能的行政命令的回应的一部分，该命令要求人工智能公司对其模型运作方式提供更大的透明度，并建立一系列新的标准，包括为人工智能生成内容进行标注。

这也是NIST任命前OpenAI研究员保罗·克里斯蒂亚诺担任该机构AI安全研究所之后发布的第一项与人工智能相关的公告。

克里斯蒂亚诺因其“末世论”观点而备受争议；曾经他预测“人工智能发展有50%的可能会导致[人类毁灭]”。批评者，据称包括NIST内部的科学家，担心克里斯蒂亚诺可能会鼓励人工智能安全研究所专注于“幻想场景”而非来自人工智能的现实、更紧迫的风险。

国家标准技术研究所表示，NIST GenAI 将支持人工智能安全研究所的工作。