本周人工智能新闻：我们能相信 OpenAI 吗？（而且，我们曾经能相信吗？）

跟上人工智能这样快速发展的行业是一项艰巨的任务。因此，直到有人工智能能够替你完成这项工作，这里有一些最近机器学习领域的重要故事、以及我们没有单独报道的值得关注的研究和实验的实用摘要。

顺便说一句，TechCrunch计划于6月5日推出一份人工智能新闻简报。敬请关注。与此同时，我们将加快我们那些半定期的人工智能专栏的频率，之前是每两周（大约），现在将变为每周一次——所以请期待更多的版块。

本周在人工智能领域，OpenAI推出了面向非营利组织和教育客户的优惠计划，并揭开了最近努力阻止不良行为者滥用其人工智能工具的努力。在笔者看来，这里并没有太多需要批评的。但我要说的是，这波宣布似乎是为了应对公司最近的负面报道。

让我们从斯嘉丽·约翰逊开始说起。OpenAI在用户指出他们的人工智能聊天机器人ChatGPT使用的一种声音非常酷似约翰逊的声音后，移除了该声音。约翶逊后来发布了一份声明，表示她已经聘请法律顾问来查询声音的具体细节及其开发方式，并拒绝了OpenAI多次要求许可她的声音用于ChatGPT的请求。

现在，《华盛顿邮报》上的一篇文章暗示OpenAI实际上并没有试图复制约翰逊的声音，任何相似之处都是偶然的。但是，那么为什么OpenAI的CEO山姆·奥特曼在展示一个声音相似的演示两天前联系约翰逊并敦促她重新考虑呢？这有点可疑。

然后还有OpenAI的信任和安全问题。

正如我们在本月早些时候报道的那样，OpenAI已经解散的超级对齐团队负责开发管理和引导“超智能”人工智能系统的方法，他们曾承诺将公司20%的计算资源交给该团队，但实际上他们只收到了其中一小部分，而且很少收到。正是这个原因（以及其他原因）导致了该团队的两位联合负责人Jan Leike和Ilya Sutskever的辞职，他们以前是OpenAI的首席科学家。

在过去的一年里，近十几名安全专家已经离开OpenAI；其中包括Leike在内的几位专家公开表达了对公司把商业项目置于安全和透明努力之上的担忧。作为对批评的回应，OpenAI成立了一个新的委员会来监督公司项目和运营相关的安全和保障决策。但是该委员会的成员都是公司内部人员，包括Altman在内，并未邀请外部观察员。与此同时，据报道OpenAI正在考虑放弃其非盈利组织的结构，转而采用传统的盈利模式。

像这样的事件使人们更难相信OpenAI，这是一个日益强大影响力日益增长的公司（参见：与新闻出版商的合作）。很少有公司值得信赖，如果有的话，但OpenAI颠覆市场的技术使违规行为更加令人担忧。

阿尔特曼本人也并不是一个真诚的典范，这无疑是雪上加霜。

当OpenAI对前员工采取激进策略的消息曝光时，这些策略包括威胁员工失去他们已经获得的股权，或者阻止股权销售，如果他们不签署限制性保密协议。Altman道歉并声称他对这些政策一无所知。但据Vox报道，Altman的签名出现在执行这些政策的公司文件上。

据前OpenAI董事会成员赫伦·托纳称，她是去年底试图罢免奥尔特曼的前董事会成员之一，奥尔特曼隐瞒了信息，对OpenAI发生的事情进行了歪曲，并在某些情况下向董事会直接撒谎。托纳表示，董事会是通过Twitter了解到ChatGPT发布的消息，而不是通过奥尔特曼；奥尔特曼提供了关于OpenAI正式安全规定的错误信息；而奥尔特曼对托纳共同撰写的一篇对OpenAI持批判态度的学术论文表示不满，并试图操纵董事会成员推动托纳离开董事会。

这一切都预示着不祥之兆。

这里有一些近几天来备受关注的人工智能故事：

• 语音克隆变得容易起来：据英国反击数字仇恨中心的一份新报告发现，人工智能驱动的语音克隆服务使得伪造政客的声明变得相当简单。
• 谷歌的AI总览面临困难：谷歌本月在Google搜索上开始广泛推出的AI生成的搜索结果“AI总览”需要进行一些改进。公司承认了这一点，但声称他们正在快速迭代。（我们拭目以待。）
• 保罗·格雷厄姆谈阿尔特曼：在对X的一系列帖子中，创业加速器Y Combinator的联合创始人保罗·格雷厄姆对阿尔特曼因潜在利益冲突而辞去Y Combinator总裁职务的说法不屑一顾。(Y Combinator在OpenAI中持有少量股份。)
• xAI筹集了60亿美元：埃隆·马斯克的人工智能初创公司xAI已经筹集了60亿美元的资金，马斯克正在筹集资金，以积极竞争包括OpenAI、微软和谷歌母公司在内的竞争对手。
• Perplexity的新人工智能功能：AI初创公司Perplexity推出了新功能Perplexity Pages，旨在帮助用户以更具视觉吸引力的方式制作报告、文章或指南，Ivan报道。
• AI模型的偏爱数字：黛文写了关于不同AI模型在被要求给出随机答案时选择的数字。事实证明，它们有自己的偏爱——反映了它们训练的数据。
• Mistral发布Codestral: 微软支持并估值60亿美元的法国人工智能初创公司Mistral发布了其第一个用于编码的生成式人工智能模型，被命名为Codestral。但由于Mistral相当严格的许可协议，它不能用于商业用途。
• 聊天机器人与隐私：娜塔莎写道欧盟的ChatGPT任务组，以及它如何首次着眼于解决AI聊天机器人的隐私合规性问题。
• ElevenLabs的声音生成器：声音克隆初创公司ElevenLabs推出了一个新工具，该工具最初是在二月份宣布的，可以让用户通过提示生成声效。
• 人工智能芯片的互连技术：微软、谷歌和英特尔等科技巨头——但不包括Arm、英伟达或亚马逊——已经组建了一个行业集团，UALink 促进组，以帮助开发下一代人工智能芯片组件。