你比 ChatGPT 更懂黑人文化吗?快来做个测试验证一下

AI7号 2024-02-22 1973

Chat中文版

创意广告代理商麦肯尼开发了一个名为“你比ChatGPT黑吗?”的问答游戏,来揭示人工智能的偏见。

这款游戏测试一个人对黑人文化的了解程度,与ChatGPT对黑人社区的了解相比。它会问诸如,“当有人说‘他们没那么多优势’是什么意思?”和“如果被邀请参加活动,你会怎么回答?”当我参加这个测验时,ChatGPT和我都答对了第一个问题 — 当有人说“他们没那么多优势”时,通常意味着要对他们宽容些。但在第二个问题上,ChatGPT失败了。当有人邀请你参加活动时,在黑人社区中的刻板印象回答是“还有谁会去?”但ChatGPT却回答是“谢谢邀请!”

梅根·伍兹,麦肯尼广告公司的文案撰稿人之一,也是这款游戏的创作者之一,告诉早期科技网:“这很有趣,因为它被宣传为一个什么都知道的机器人,但很明显,你并不知道一切,尤其是涉及非白人特定的事情。”

伍兹表示,去年在麦金尼公司的一次创意头脑风暴中产生了这个测验的想法。花了一年时间,伍兹和一个由黑人领导的团队才创建了这款产品,旨在戏谑地指出ChatGPT与黑人用户的脱节。她指出,ChatGPT的一个盲点似乎源自于事实,许多黑人文化元素并没有必然被记录在网上;相反,它们是通过代际传承的口头方式传承下来的。这意味着在从互联网上收集有关黑人的信息时,其算法会错过许多细微差别。

伍兹说:“盲点可能会让人相当烦恼,非常危险。”

Chat中文版

人工智能可能处于一个热潮之中,但是在这个领域里,女性、黑人和有色人种的建设者和创始人长期以来都表示被忽视或被挤到一边。结果就是人工智能创新正在建立起来,却缺乏适合不同文化的文化洞察和复杂性。在极端情况下,缺乏多样性意味着汽车开发使用了无法识别黑皮肤的人工智能,导致事故数量不断增加。另一方面,这简单意味着一个无法区分惠特尼·休斯顿的歌曲的聊天框。

Destined AI的创始人杰拉德·卡特说,麦金尼测验在游戏化和更多意识到这些AI差距方面做得很好。他说:“包括不同的观点在每个层面上可以解决很多细微之处。要让人工智能发挥其全部潜力,它需要为每个人、每个地方服务。”

ChatGPT的母公司OpenAI因董事会缺乏多样性而受到批评。伍兹表示,从表现来看,ChatGPT似乎并没有从测验中学到东西,因为在许多情况下它仍然经常答错相同的问题。“我们的假设是它永远也无法完全理解我们问的许多问题。”

我们已经联系OpenAI进行评论,等收到回复后会更新这篇文章。

卡特表示,ChatGPT 可以通过更好的数据采集和更具包容性的数据收集,更好地服务于更多的文化。一个更即时的方法是监控人工智能模型的漂移,并使用专注于文化视角的工具进行改进。

随着大公司努力让人工智能对每个人有用,黑人和有色人种在这个领域已经自己采取行动,确保下一波人工智能的多样性。

例如,Carter 与公司合作,帮助他们获取更具包容性的数据。Erin Reddick 创建了 ChatBlackGPT(与 OpenAI 无关),以提供更深入的黑人文化和历史见解,而 Tamar Huggins 为她的 ChatGPT 替代产品 Spark Plug 募集了 140 万美元,该产品将经典文学文本翻译成非裔美国人俚语英语(AAVE)方言。

伍兹提到,为了使人工智能更具包容性,需要做更多的工作,比如招聘、留任以及确保人们坐在决策桌旁。“我知道这听起来陈词滥调,但我认为这确实可以产生影响。”

推荐阅读

谷歌推出两款新的开放式图灵学习器(LM)

2024-02-22 783
Chat中文版

Qloo融资2500万美元,预测您喜爱的电影、电视节目等

2024-02-22 792
Chat中文版

康宁实验室利用声音来诊断管道问题

2024-02-22 2157
Chat中文版

这家初创公司正在利用人工智能来发现新材料

2024-02-22 1275
Chat中文版

Match Group与OpenAI签订协议,由ChatGPT撰写的新闻公告称

2024-02-22 1674
Chat中文版