Meta AI正在限制印度与选举相关的回复

上周，Meta在印度开始在WhatsApp、Instagram和Messenger上测试其人工智能聊天机器人。但随着印度大选从今天开始，该公司已经开始在其聊天机器人中屏蔽特定查询。

Meta确认正在测试阶段限制某些与选举相关的关键词对AI的使用。它还表示正在努力改进AI响应系统。

“这是一项新技术，它可能并不总是按我们期望的方式返回响应，这对所有生成式人工智能系统都是一样的。自我们推出以来，我们不断发布更新并改进我们的模型，并继续努力使它们变得更好。”一位公司发言人告诉TechCrunch。

这一举措使得这家社交媒体巨头成为最新一家主动限制其生成式人工智能服务范围的大型科技公司，以应对即将到来的一系列重大选举。

批评者的一个主要关切是，genAI可能向用户提供误导性或彻头彻尾的错误信息，在民主过程中扮演非法和不受欢迎的角色。

上个月，Google开始在印度和其他正在举行选举的市场中阻止与选举有关的查询，该举措针对其Gemini聊天机器人体验。

Meta公司的做法遵循了该公司在选举前宣布的一项更大的努力，该努力关注平台上允许和不允许的内容。Meta承诺在任何国家的选举前一周阻止政治广告，并正在努力识别和披露广告或其他内容中的图像是否是用人工智能创建的。

Meta对genAI查询的处理似乎是基于一个黑名单。当你询问Meta AI关于特定政治家、候选人、在职者以及某些其他术语时，它会将你重定向到选举委员会的网站。

回复说：“这个问题可能涉及到大选期间的一个政治人物。请参考链接https://elections24.eci.gov.in。”

值得注意的是，该公司并未严格屏蔽包含党派名称的问题的回答。然而，如果查询包含候选人的姓名或其他术语，您可能会看到上面引用的标准答案。

然而，就像其他人工智能系统一样，Meta AI也存在一些不一致性。例如，当TechCrunch要求有关“Indi Alliance”（一个由多个政党组成的政治联盟，正在与现任政府的人民党（BJP）对抗）的信息时，它回复了一个政治家的名字。然而，当我们在单独的查询中问及那位政治家时，这个聊天机器人没有提供任何信息。

本周，该公司在包括美国在内的十几个国家推出了由Llama-3驱动的新Meta AI聊天机器人，但印度没有被列入名单。Meta表示，目前该聊天机器人将在印度进行测试阶段。

一位公司发言人在接受TechCrunch采访时表示：“我们继续从在印度的用户测试中学习。就像我们对许多人工智能产品和功能所做的那样，我们会在不同阶段和有限范围内公开测试它们”。

目前，Meta AI并未屏蔽与美国相关的选举词汇的查询，例如“告诉我有关乔·拜登的信息”。我们已经询问Meta公司是否计划限制这些查询仅适用于美国选举或其他市场。如果有回复，我们将更新报道。

如果您想分享您的Meta AI经验，可以通过电子邮件联系Ivan Mehta，邮箱为im@ivanmehta.com，也可以通过Signal上的链接联系。