人工智能目前并不邪恶，而且短期内也不会变得智能，但它也无法逆转地无处不在

人工智能——或者更确切地说，我们目前着迷的基于大型语言模型的人工智能——已经进入了它的高潮周期的秋天，但与加密货币不同的是，一旦它的“潮流”地位消退，它不会仅仅消失在互联网的阴暗角落，而是将在其已经普遍使用的地方定居，即使对于其本质上不适用的目的。悲观主义者可能认为，人工智能会变得如此聪明，以至于奴役或消亡人类，但现实是，它作为一种无处不在的错误和幻觉的层面，渗入我们共享的智力水源，更加威胁人类。

毁灭论与电子/加速论的辩论持续进行着，双方都展示了道理明确、基于事实的论点，正如我们所能期待的来自著名务实的硅谷精英们。要了解这些影响力人物的关键背景，请记住他们整个职业生涯都在赞扬/批评他们押注或反对的技术的极端成功或失败，但这些技术通常都无法达到完美状态或灾难性状态。永远目睹一切，但如果你正在寻找具体例子，自动驾驶是一个非常方便的近期例子，虚拟现实和元宇宙也是如此。

在科技领域的乌托邦与反乌托邦辩论总是达到了它们真正的目的，即分散对科技实际应用和使用的真实、当下影响的讨论。自从一年多以前引入ChatGPT以来，人工智能无疑产生了巨大影响，但这个影响不在于我们是否无意中为虚拟神埋下了种子，而在于ChatGPT的流行程度、传播力和使用粘性远远超出了其创造者们的期望——尽管它的功能实际上与他们相对谦虚的期望相符。

根据最近的研究，生成式人工智能的使用相当普遍且正在增长，尤其在年轻用户中。根据Salesforce最近的一项研究，主要应用并非新奇或娱乐，而是用于工作任务和沟通自动化。除了在准备法律论据时有一些罕见的例外，这些通信和企业劳动力的AI幻觉所带来的后果微不足道，但无疑导致了一个数字层次，其中包含易于忽视的事实错误和细小的不准确之处。

这并不意味着人们在传播信息时特别擅长不带事实错误；事实上，正相反，正如我们所见，在社交网络上，尤其是在特朗普总统任期前后的几年里，虚假信息经济的崛起。甚至不考虑恶意目的和有意的行为，错误只是人类信仰和沟通中固有的一部分，因此一直渗透到共享的知识池中。

区别在于基于LLM的人工智能模型做到这一点时显得很随意、不断、没有自我反思，并且他们以威信的自信出现，用户容易受到影响，因为在过去很多年里，谷歌搜索结果相对稳定、事实可靠（诚然，“相对”在这里起到了很大的作用）。早期，对搜索结果和众包的在线信息持有一定程度的批判性怀疑，但多年甚至几十年来，谷歌搜索、维基百科等提供了相当可靠的信息，已经让我们对通过在互联网的文本框中输入查询而返回的结果失去了不信任感。

我认为让ChatGPT及其同类产品产生大量内容并用于琐碎的日常交流，其准确性存疑的结果将会是微妙的，但也值得调查和潜在的缓解。第一步应该是研究为什么人们对当前状态下的人工智能如此信任，以致于愿意委托如此多的事情给它；无论如何，对于任何大规模的任务自动化，调查的主要重点可能应该是任务本身，而不是自动化。无论如何，人工智能带来的真正有影响力的重大变革已经到来，尽管它们看起来与《终结者》中的天网毫不相似，但它们比依赖于科技乐观主义梦想成真的可能性更值得研究。