“失望但不惊讶”:前员工谈及 OpenAI 对 SB 1047 的反对意见
两位今年因安全问题辞职的前 OpenAI 研究人员表示,对于 OpenAI 决定反对加州旨在预防人工智能灾难的法案 SB 1047,他们感到失望但并不惊讶。丹尼尔·科科塔伊洛(Daniel Kokotajlo)和威廉·桑德斯(William Saunders)此前曾警告称,OpenAI 正在进行一场“鲁莽”的主导权竞赛。
“我们的前老板萨姆·奥特曼(Sam Altman)曾多次呼吁对人工智能进行监管,”他们在一封与 Politico 分享的信中写道,该信敦促加利福尼亚州州长加文·纽瑟姆(Gavin Newsom)签署该法案。“而现在,当真正的监管提上日程时,他却表示反对。”这两人还补充说:“有了适当的监管,我们希望 OpenAI 能够践行其安全构建通用人工智能的使命宣言。”
OpenAI 的竞争对手 Anthropic 对该法案表示支持,同时提出了具体的担忧并要求进行修正。此后有几项内容被纳入其中,周四,首席执行官达里奥·阿莫迪(Dario Amodei)写信给纽森(Newsom),称当前法案“利大于弊”,但并未完全背书该法案。