Anthropic采取措施预防选举错误信息传播

在2024年美国总统大选之前，备受资金支持的人工智能初创企业Anthropic正在测试一项技术，用于检测其GenAI聊天机器人用户询问政治话题的情况，并将这些用户重定向到“权威”选举信息来源。

名为Prompt Shield的技术依赖于人工智能检测模型和规则的组合，如果Anthropic的聊天机器人Claude的美国用户询问投票信息，它会弹出一个窗口。这个弹窗会提供重定向到Democracy Works的非党派组织的资源TurboVote，用户可以在其中找到最新准确的选举信息。

人像表示，普罗姆普特·希尔很有必要，因为克劳德在政治和选举相关信息方面存在不足。人像承认，克劳德没有经常接受培训，无法提供关于特定选举的实时信息，因此容易出现幻觉，即编造关于这些选举的事实。

“自从我们推出Claude以来，我们已经采取了"即时屏蔽"措施，根据我们的用户政策，该措施可以标记多种不同类型的伤害。”一位发言人通过电子邮件告诉TechCrunch。“我们将在接下来的几周内推出面向选举的特定提示屏蔽干预措施，并打算监控其使用和限制...我们已经与多方利益相关者进行了沟通，包括政策制定者、其他公司、民间社会以及非政府机构和专门的选举顾问[来开发此功能]。”

目前看来，这似乎只是一个有限的测试。当我询问Claude关于如何在即将举行的选举中投票时，它没有弹出提示窗口，而是输出了一份通用的选举指南。Anthropic声称他们正在对Prompt Shield进行微调，以便将其扩展给更多的用户。

Anthropic是最新的GenAI供应商之一，该供应商禁止使用其工具进行政治竞选和游说，并实施政策和技术来试图防止选举干预。

这个时机不是巧合。今年，全球范围内有史以来最多的选民将前往投票站，因为至少64个国家将举行全国选举，这些国家总人口约占世界人口的49%。

今年一月，OpenAI宣布禁止使用其热门AI聊天机器人ChatGPT创建冒充真实候选人或政府的机器人，误导选举流程或者劝阻人们投票的行为。与Anthropic一样，OpenAI目前也不允许用户利用其工具开发政治宣传或游说的应用程序，该政策上个月得到公司再次确认。

类似于Prompt Shield的技术方法，OpenAI还采用了检测系统，将ChatGPT用户提出有关选举的后勤问题引导到一个非党派的网站CanIVote.org。该网站由全国国务协会维护。

在美国，尽管有一些两党支持，但国会尚未通过旨在规范人工智能产业在政治中的作用的立法。与此同时，超过三分之一的美国州已通过或提出了相关法案，以应对政治竞选中的深度伪造问题，因为联邦立法进展缓慢。

在没有立法的情况下，一些平台在监管机构的压力下采取了措施，阻止人工智能（GenAI）被滥用来误导或操纵选民。

去年九月，谷歌表示，对于在YouTube和其他平台如谷歌搜索上使用人工智能生成的政治广告，如果其图像或声音经过合成修改，谷歌将要求在广告中明显公示。Meta（原Facebook）也禁止政治竞选活动在其平台上使用包括其自身的人工智能生成工具进行广告宣传。