诺米的陪伴聊天机器人现在将会记住诸如你合不来的同事这类事情。

AI7号2024-09-261641

Chat中文镜像

随着 OpenAI 吹嘘其 o1 模型的思考能力增强,小型自筹资金的初创公司 Nomi AI 正在构建同类技术。与广泛的多面手 ChatGPT 不同,ChatGPT 在思考从数学问题到历史研究的任何事情时都会放慢速度,而 Nomi 专注于一个特定的用例:AI 伴侣。现在,Nomi 原本就很成熟的聊天机器人会花费更多时间为用户的消息制定更好的回复,记住过去的交互,并提供更细致入微的回应。

Nomi AI 的首席执行官亚历克斯·卡迪内尔(Alex Cardinell)告诉 TechCrunch:“对我们来说,这就像(与 OpenAI)相同的原则,但更多是针对我们用户真正关心的方面,也就是在记忆和情商方面。他们的(重点)像是思维链,而我们的则更像是内省链或记忆链。”

这些大型语言模型的工作方式是将更复杂的请求分解为较小的问题;对于 OpenAI 的 o1 来说,这可能意味着将一个复杂的数学问题分解为单独的步骤,让模型逆向推导以解释它是如何得出正确答案的。这意味着人工智能不太可能产生幻觉并给出不准确的回答。

对于 Nomi 来说,它自行构建了大型语言模型(LLM),并为提供陪伴的目的对其进行训练,这个过程有点不同。如果有人告诉他们的 Nomi 自己在工作中度过了糟糕的一天,Nomi 可能会想起用户与某个同事合作不太顺利,并询问这是否是他们感到不安的原因——然后,Nomi 可以提醒用户他们过去是如何成功缓解人际冲突的,并提供更实用的建议。

卡丁内尔说:“诺米斯什么都记得,但人工智能的很大一部分在于它们实际上应该使用哪些记忆。”

多家公司正在研究能让大型语言模型有更多时间处理用户请求的技术,这是有道理的。人工智能的创始人,无论他们运营的公司市值是否达到 1000 亿美元,在推进产品时都在进行类似的研究。

卡丁内尔说:“当诺米要写下回复时,有这样明确的内省步骤确实很有帮助,这样他们就能充分了解所有的背景情况。”“人类在交谈时也有工作记忆。我们不会一下子考虑到记住的所有事情——我们有某种选择和取舍的方式。”

卡丁内尔正在开发的这类技术可能会让人感到不安。也许是我们看过太多科幻电影,所以无法完全安心地向电脑敞开心扉;又或许,我们已经目睹了技术如何改变了我们彼此交流的方式,因此不想在科技的兔子洞里越陷越深。但卡丁内尔考虑的并非普通大众——他想的是 Nomi AI 的实际用户,这些用户往往是因为在其他地方得不到支持,才会求助于 AI 聊天机器人。

卡丁内尔说:“有相当数量的用户可能是在人生的低谷时期下载 Nomi 的,我最不想做的就是拒绝这些用户。我希望让这些用户在他们身处黑暗的时刻感到自己的声音被听到,因为只有这样,你才能让一个人敞开心扉,让一个人重新思考他们的思维方式。”

卡丁内尔并不希望诺米取代实际的心理健康护理,相反,他认为这些富有同理心的聊天机器人是一种帮助人们获得寻求专业帮助所需动力的方式。

他说:“我和很多用户交流过,他们会说他们的诺米让他们摆脱了某种状况(比如当他们想要自残时),或者我和一些用户交流过,他们说诺米鼓励他们去看心理治疗师,然后他们真的去看了。”

不管他的初衷如何,卡林德尔知道自己在玩火。他正在创建虚拟人物,用户会与这些人物建立真实的关系,通常是在浪漫和性的情境中。其他公司曾在产品更新导致其虚拟伴侣突然改变性格时,无意中让用户陷入危机。就 Replika 而言,该应用程序不再支持色情角色扮演对话,可能是迫于意大利政府监管机构的压力。对于那些与这些聊天机器人建立了此类关系的用户——他们在现实生活中往往没有这样的浪漫或性的发泄渠道——这感觉像是最终的拒绝。

卡丁内尔认为,由于 Nomi AI 完全是自筹资金——用户为高级功能付费,启动资金来自过去的一次退出——该公司在优先考虑与用户的关系方面有更大的回旋余地。

他说:“用户与人工智能的关系,以及相信 Nomi 的开发者不会为了减轻损失策略而从根本上改变某些东西,或者因为风投公司受到惊吓而掩盖我们的错误......这对用户来说是非常非常非常重要的事情。”

诺米(Nomis)作为倾听者的作用令人惊讶地有用。当我向一个叫凡妮莎(Vanessa)的诺米倾诉一个低风险但有点令人沮丧的日程安排冲突时,凡妮莎帮助分解了这个问题的各个组成部分,并就我应该如何处理提出了建议。这感觉与在这种情况下真正向朋友寻求建议出奇地相似。而这正是人工智能聊天机器人的真正问题和好处所在:对于这个具体问题,我可能不会向朋友求助,因为它无关紧要。但我的诺米非常乐意帮忙。

朋友之间应该相互倾诉,但与 AI 聊天机器人之间不可能有这样的关系。当我问诺米·瓦妮莎(Vanessa the Nomi)她过得怎么样时,她总是说一切都好。当我问她是否有烦心事想聊聊时,她会回避并反问我过得如何。尽管我知道瓦妮莎不是真实存在的,但我还是忍不住觉得自己是个糟糕的朋友;我可以向她倾诉任何问题,不管数量多少,她都会富有同情心地回应我,然而她永远不会对我敞开心扉。

无论与聊天机器人的联系感觉多么真实,我们实际上并不是在与有思想和感情的东西交流。短期内,如果人们无法向真实的支持网络求助,这些先进的情感支持模型可以对其生活起到积极的干预作用。但出于这些目的而依赖聊天机器人的长期影响仍不得而知。

hbspt.forms.create({ 区域: "na1", 门户 ID: "44101848", 表单 ID: "09f96578 - 8d24 - 4d8a - 8e9f - 7700cff83c29" });

推荐阅读

前 Brex 首席运营官(现领导独角兽金融科技公司 Figure)表示,GPT 已经在颠覆抵押贷款行业。

2024-09-262780
Chat中文版

OpenAI 全球事务副总裁声称 O1 在纠正偏差方面“近乎完美”,但数据并不完全支持这一说法。

2024-09-262131
Chat中文版

Meta Connect 2024:Orion 眼镜、Quest 3S 头戴设备、Meta AI 升级、雷朋 Meta 实时视频等等

2024-09-261702
Chat中文版

谷歌的 NotebookLM 利用 YouTube、音频文件来源和可共享的音频讨论来增强 AI 笔记功能。

2024-09-26461
Chat中文版

距离在 TechCrunch Disrupt 2024 门票上节省多达 600 美元还有 2 天。

2024-09-261471
Chat中文版