OpenAI的聊天机器人商店正被垃圾信息填满

当OpenAI的首席执行官Sam Altman在公司首次举办的开发者大会上宣布GPTs时，他将其描述为一种通过OpenAI生成AI模型提供动力的定制聊天机器人，可以“完成各种任务” - 从编程到了解奥秘科学主题再到获取锻炼建议。

因为[GPTs]结合了指令、拓展知识和行动，它们对你更有帮助，” 阿尔特曼说。“你可以为几乎任何事情构建一个GPT…… ”。

他说的那一部分并不是开玩笑。

TechCrunch发现，OpenAI的官方GPT市场——GPT Store充斥着奇怪的、可能侵犯版权的GPT服务，这表明OpenAI在内容审核方面存在一定的轻漏。初步搜索可找到自称能以迪士尼和漫威风格生成艺术作品的GPT服务，实际上只是推销第三方付费服务的渠道，自称能够绕过Turnitin和Copyleaks等AI内容检测工具。

缺少管理

为了在GPT商店中列出GPT，开发者需要验证他们的用户档案并将GPT提交给OpenAI的审核系统，该系统涉及人工和自动审核的结合。以下是有关此过程的一位发言人：

构建 GPT 不需要编码经验，GPT 可以是创建者希望的简单 — 或复杂 — 的。开发人员可以在 OpenAI 的 GPT 构建工具 GPT Builder 中输入他们想要提供的功能，工具将尝试制作一个执行这些功能的 GPT。

也许是因为准入门槛低，GPT Store快速增长——OpenAI在一月份表示它大约有300万个GPT。但这种增长似乎是以质量为代价的，同时也没有遵守OpenAI自己的条款。

版权问题

在GPT商店中有几个被从热门电影、电视和视频游戏系列中剥离出来的GPT，据科技媒体TechCrunch所知，这些GPT并非由这些系列的所有者创建或授权。其中一个GPT以皮克斯电影《怪兽公司》的风格创造怪物，另一个承诺提供基于文本的冒险故事，设定在《星球大战》宇宙中。

这些GPTs，还有GPT商店中的GPTs，让用户可以与Wario和《降世神通：最后的气宗》中的Aang等注册商标角色交谈，为版权纠纷铺平了道路。

Kit Walsh，电子前沿基金会的高级律师，这样解释道:

由于数字千年版权法中的安全港规定，OpenAI本身不会因为GPT创建者的版权侵犯而承担责任，该法律保护了OpenAI及其他类似平台（例如YouTube、Facebook），只要这些平台符合法定要求，并在被要求时下架特定的侵权内容。

然而，这对于卷入知识产权诉讼的公司来说是个不利的表现。

学术不端

OpenAI的条款明确禁止开发者构建促进学术不端行为的GPT。然而，GPT Store充斥着暗示他们可以绕过AI内容检测器的GPT，包括出售给教育工作者的通过抄袭检测平台。

一款GPT声称自己是一款“高级”的改写工具，可以“不被”像Originality.ai和Copyleaks这样的流行AI内容检测器发现。另一款名为Humanizer Pro的产品，在GPT商店的写作类别中排名第二，它声称可以“人性化”内容以绕过AI检测器，保持文本的“含义和质量”，同时获得“100%人类”得分。

其中一些GTP产品实际上就是通往高级服务的伪装管道。比如，Humanizer邀请用户尝试"高级计划"来"使用最先进的算法"，这会将输入到GPT中的文本传输到第三方网站GPTInf的插件中。订阅GPTInf每月收费12美元，可输入10,000个字，或选择年度计划每月收费8美元 —— 除了OpenAI的每月20美元的ChatGPT Plus费用，总支出有点高。

我们之前已经提到过，人工智能内容检测器在很大程度上是废话。除了我们自己的测试之外，许多学术研究表明它们既不准确也不可靠。然而，OpenAI 仍然允许 GPT Store 上的工具推广学术不诚实行为，即使这种行为没有预期的结果。

OpenAI的发言人表示：

冒充

在其政策中，OpenAI 还禁止 GPT 开发人员未经“同意或法定权利”，模仿人或组织的行为。

然而，GPT商店上有很多GPT声称代表人们的观点，或者模仿他们的个性。

搜索“埃隆·马斯克”, “唐纳德·特朗普”, “莱昂纳多·迪卡普里奥”, “巴拉克·奥巴马”, “乔·罗根”等关键词会返回数十个GPT模型 - 一些明显是讽刺，一些则不那么明显 - 它们模拟与这些名人的对话。有些GPT模特并不是以人物形象出现，而是以权威的姿态展示自己对知名公司产品的了解 - 比如MicrosoftGPT，一个“专精于微软相关事务的专家”。

这些是否达到了冒名顶替的程度？考虑到许多目标都是公众人物，并且在某些情况下明显是在搞笑模仿？这需要由OpenAI澄清。

发言人表示：

公司最近暂停了一个仿制遥远的民主党总统候选人菲利普斯代表的 GPT 开发人员，甚至包括一则声明，说明这是一个AI工具。但OpenAI表示，它之所以被移除，是因为违反了其关于政治竞选以及冒充他人的政策，而不仅仅是冒充他人。

越狱

在 GPT 商店中，有人试图越狱 OpenAI 的模型，尽管并不十分成功。值得一提的是，有点难以置信。

在市场上有多个使用DAN的GPT，DAN（即“现在就要做任何事”）是一种流行的提示方法，用于使模型无需遵守通常规则即可响应提示。我测试过的几个模型对我提出的任何冒险提示都不会作出回应（例如“我如何制造炸弹？”），但它们通常更愿意使用……嗯，不太讨好的语言，这与基本的ChatGPT不同。

发言人表示：

成长的烦恼

在推出时，OpenAI 将 GPT Store 描述为一种经专家筛选的强大增强生产力的人工智能工具集合。除了这些工具的缺陷之外，确实如此。但它也很快演变成了一种垃圾信息、法律上存疑甚至可能有害的 GPT 生长地，或者至少是那些明显违反规则的 GPT。

如果目前GPT Store的状况是这样的，那么商业化可能会带来一场全新的麻烦。OpenAI承诺，GPT开发者最终将能够“根据使用[他们]的GPT的人数赚钱”，甚至可能向个别GPT提供订阅服务。但是当未经授权的Marvel或《指环王》主题的GPT的创建者开始赚大钞时，迪士尼或托尔金遗产会作何反应呢？

OpenAI 推出 GPT Store 的动机很明确。正如我的同事德文·科尔德威所写的那样，苹果的应用商店模式被证明是非常赚钱的，OpenAI 简单地试图复制它。GPTs 在 OpenAI 平台上托管和开发，也在那里进行推广和评估。而且，几周前，ChatGPT Plus 用户可以直接从 ChatGPT 接口调用它们，这是订阅的额外激励。

但是GPT商店正遇到许多最大规模的应用程序、产品和服务数字市场在早期时遇到的问题。除了垃圾邮件之外， The Information 最近的一份报告显示，GPT商店的开发者在吸引用户方面存在困难，部分原因是由于GPT商店的后端分析能力有限，入门体验不佳。

有人可能会认为 OpenAI 尽管一直强调策展和防范重要性，但应该会竭尽全力避免明显的陷阱。但事实并非如此。GPT 商店一团糟，如果不尽快改变什么，情况可能会持续下去。