OpenAI的前首席科学家Ilya Sutskever成立了一家新的人工智能公司

AI7号2024-06-191711

Chat中文镜像

OpenAI的联合创始人之一伊利亚•苏茨凯弗正式离开OpenAI后仅一个月就成立了一家新公司——Safe Superintelligence Inc. (SSI)。

Sutskever,OpenAI的资深首席科学家,与前Y Combinator合伙人Daniel Gross和前OpenAI工程师Daniel Levy一起创立了SSI。

在OpenAI,苏特斯克沃尔(Sutskever)对公司努力提高人工智能安全性的工作至关重要,特别是随着“超智能”人工智能系统的崛起,这是他与扬·莱克(Jan Leike)一起开展研究的领域。然而,苏特斯克沃尔和莱克在五月份因与OpenAI领导层在如何处理人工智能安全性方面发生激烈分歧而离开了公司。现在莱克在竞争对手Anthropic的人工智能公司领导一个团队。

苏兹凯弗长期以来一直在关注人工智能安全的棘手问题。在2023年发表的一篇博客文章中,苏兹凯弗与莱克合著,预测人工智能超越人类智慧可能在未来十年内出现,而且当它出现时,并不一定是善意的,这就需要进行控制和限制它的研究。

他今天显然对这个事业一如既往地投入。周三下午,一条推文宣布了Sutskever新公司的成立,其中表示:“SSI是我们的使命、我们的名字和我们整个产品路线图,因为这是我们唯一的关注点。我们的团队、投资者和商业模式都致力于实现SSI。我们将安全性和功能作为技术问题来处理,通过革命性的工程和科学突破来解决。”

我们计划尽快提升能力,同时确保安全始终放在首位。这样,我们可以在和平中扩大规模。我们的独特关注意味着不受管理开销或产品周期的干扰,而我们的商业模式意味着安全、安全性和进步都不受短期商业压力的影响。

Sutskever更详细地向彭博社谈到了这家新公司,尽管他拒绝讨论其融资情况或估值。

越发明显的是,不同于OpenAI-该公司最初在2015年作为非营利组织启动,然后在需要大量资金来支持其计算能力变得更加明显时进行了重组-SSI被从一开始就设计为营利实体。从对人工智能的兴趣和团队的资质来看,它很可能也很快就会被资本淹没。“在我们面临的所有问题中,”格罗斯告诉彭博社,“筹集资金不会是其中之一。”

SSI在Palo Alto和Tel Aviv设有办事处,目前正在招聘技术人才。