苹果签署了白宫关于人工智能安全的承诺。
据周五的一份新闻稿,苹果签署了白宫关于开发安全、可靠和值得信赖的人工智能的自愿承诺。该公司很快将把其生成式人工智能产品“苹果智能”引入其核心产品,使其生成式人工智能面向苹果的 20 亿用户。
苹果与包括亚马逊、Anthropic、谷歌、Inflection、Meta、微软和 OpenAI 在内的其他 15 家科技公司一道,于 2023 年 7 月承诺遵守白宫制定的生成式人工智能开发基本规则。当时,苹果尚未透露计划在多大程度上将人工智能融入 iOS 系统。但在 6 月的全球开发者大会(WWDC)上,我们清楚地听到了苹果的声音:它将全力投入生成式人工智能,首先是与 ChatGPT 合作将其嵌入 iPhone。作为联邦监管机构的常客,苹果希望尽早表明愿意遵守白宫的人工智能规则——这可能是在未来任何关于人工智能的监管斗争爆发之前试图讨好。
但苹果向白宫做出的自愿承诺能有多大效力呢?效力不大,但这是一个开端。白宫称这是苹果和其他 15 家人工智能公司开发安全、可靠和值得信赖的人工智能的“第一步”。第二步是拜登总统在 10 月份下达的人工智能行政命令,目前有几项法案正在联邦和州立法机构推进,以更好地规范人工智能模型。
根据该承诺,人工智能公司承诺在公开发布前对人工智能模型进行红队测试(扮演对抗性黑客以对组织的安全措施进行压力测试),并与公众分享相关信息。白宫的自愿承诺还要求人工智能公司对未发布的人工智能模型权重进行保密处理。苹果和其他公司同意在安全的环境中处理人工智能模型权重,将能够接触到模型权重的员工数量限制在尽可能少的范围内。最后,这些人工智能公司同意开发内容标签系统,如水印,以帮助用户区分哪些是人工智能生成的内容,哪些不是。
另外,商务部表示很快将发布一份关于开源基础模型的潜在益处、风险和影响的报告。开源人工智能正日益成为一个充满政治意味的监管战场。一些阵营希望以安全的名义限制强大的人工智能模型的模型权重的可获取性。然而,这样做可能会极大地限制人工智能初创企业和研究生态系统。白宫在此的立场可能对整个人工智能行业产生重大影响。
白宫还指出,联邦机构在 10 月行政命令设定的任务方面取得了重大进展。到目前为止,联邦机构已雇用了 200 多名与人工智能相关的人员,向 80 多个研究团队提供了计算资源,并发布了多个用于开发人工智能的框架(政府喜欢框架)。