Y Combinator的Garry Tan支持对一些人工智能进行监管,但警告不要出现人工智能垄断

AI7号2024-05-311243

Chat中文镜像

雅各布·谭,Y Combinator总裁兼首席执行官,本周在华盛顿特区经济俱乐部告诉观众,“监管可能是必要的”对于人工智能。

谭在与 General Catalyst 董事会成员特蕾莎·卡尔森进行的一对一访谈中谈到了如何进入 Y Combinator 和人工智能等一切话题,并表示现在是从事技术工作的最佳时机。

谭表示他“总体支持”国家标准与技术研究所(NIST)试图构建GenAI风险缓解框架,并表示拜登政府签署的行政令中“大部分可能是正确的道路。”

NIST的框架提出了一些建议,比如定义GenAI应遵守现有的管理数据隐私和版权等法律;向最终用户披露GenAI的使用情况;建立禁止GenAI制作儿童性虐待材料的法规等等。拜登的行政命令涵盖了广泛的规定,从要求人工智能公司与政府分享安全数据到确保小型开发者公平获取权利。

但是像许多硅谷风险投资者一样,谭对其他监管努力持谨慎态度。他称通过加州和旧金山立法机构的与人工智能相关的法案“非常令人担忧”。

《政治家》报道,加州州参议员斯科特·威纳提出的一项引起轰动的法案允许司法部长起诉人工智能公司,如果他们的产品有害。

谭说:“目前政策上的一个重要讨论是,一个真正好的版本究竟应该是什么样子?”“我们可以看看像英国的伊恩·霍加斯这样的人是如何深思熟虑的。他们也意识到权力集中的问题。与此同时,他们也在努力找到如何在支持创新的同时减少最严重的危害。”

霍加斯是一位前YC创业者和人工智能专家,受英国政府委派创建了一个人工智能模型专家组。

"让我害怕的是,如果我们试图解决的是当前并不存在的科幻问题," 谭说道。

谈到YC如何管理责任,谭表示如果组织不同意初创公司的使命或产品对社会的影响,“YC就不会给予资助”。他指出他有好几次在媒体上读到有公司申请参加YC的消息。

"我们回头看了一下访谈记录,觉得这对社会不利。幸好我们没有资助它,"他说道。

人工智能领导者一再出错。

谭指南仍然给Y Combinator留下了很大的空间,可以产出大量的人工智能初创公司。正如我的同事凯尔·威格斯报道的那样,2024年冬季项目组有86家人工智能初创公司,几乎是2023年冬季批次的两倍,接近2021年冬季批次的三倍,根据YC官方的初创公司目录。

最近的新闻事件让人们怀疑是否可以相信那些销售人工智能产品的人来定义负责任的人工智能。上周,科技媒体TechCrunch报道称,OpenAI正在解散其人工智能责任团队。

接着发生了与该公司在展示新的GPT-40模型时使用了一个听起来像女演员斯嘉丽·约翰逊的声音的惨败事件。原来,他们曾询问是否可以使用她的声音,但她拒绝了。OpenAI后来移除了Sky的声音,尽管他们否认声音是基于约翰逊的。这件事,以及OpenAI能否取消已经授予的员工股权的问题,都导致人们公开质疑萨姆·奥尔特曼的道德准则。

同时,Meta宣布成立了一个只有白人男性的人工智能咨询委员会,有效地排除了女性和有色人种,而许多人在该行业的创造和创新中扮演了关键角色。

谭没有引用任何这些例子。像大多数硅谷的风险投资家一样,他所看到的是新的、巨大的、赚钱的商机。

“我们喜欢把初创企业想象成一个思维迷宫,”坦说道。“当一项新技术出现时,比如大型语言模型,整个思维迷宫都会被颠覆。ChatGPT本身可能是近期发布的消费产品中成功上市速度最快的之一。这对创始人来说是个好消息。”

未来的人工智能

谭也表示旧金山是人工智能运动的中心。例如,由YC校友创立的Anthropic就起步于那里,而OpenAI则是YC的衍生公司。

谭也开玩笑说,他不打算效仿奥尔特曼的步伐,指出奥尔特曼“几年前曾担任我的工作,所以没有计划开设人工智能实验室”。

YC的另一个成功故事是法律科技初创公司Casetext,在2023年以6亿美元的价格卖给了汤姆森路透集团。谭先生相信Casetext是世界上第一批获得生成式人工智能访问权限的公司之一,随后成为生成式人工智能领域的第一批成功案例之一。

谈及人工智能的未来时,谭先生表示,“显然,我们在使用这项技术时必须要明智” ,因为涉及到生物恐怖和网络攻击的风险。与此同时,他表示应该采取“更加谨慎的态度”。

他还认为不太可能出现"赢者通吃"的模式,而是会有一个"令人难以置信的消费者选择自由的花园和创始人们能够创造能触及数十亿人的东西"。

至少,这是他想要看到发生的事情。 这对他和YC来说是最有利的 - 大量成功的初创企业为投资者带来大量现金回报。 因此,谭最害怕的不是失控的邪恶人工智能,而是可以选择的人工智能的匮乏。

“我们实际上可能会发现自己处于另一种真正垄断的局面,只有少数几种模式有很高的集中度。那时,你谈论的是租金提取,而这是一个我不想生活在其中的世界。”

我们将推出一份人工智能的新闻简报!请在这里注册,从6月5日开始在你的收件箱中收到。