印度正在应对选举虚假信息问题，考虑使用标签和建立自己的人工智能安全联盟

印度在利用科技说服公众方面历史悠久，如今在人工智能在政治话语和具体民主进程中的使用和滥用方面已成为全球热点。最初建立这些工具的科技公司正在前往印度推广解决方案。

今年早些时候，Adobe高级总监安迪·帕森斯参与了跨行业内容真实性倡议（CAI），他前往印度拜访当地媒体和科技机构，推广可集成到内容工作流程中的工具，用于识别和标记人工智能内容。

在一次采访中，他表示：“与其检测假冒或篡改，我们作为一个社会（这是一个国际关切），应该开始宣告真实性，也就是说，如果某些内容是由人工智能生成的，消费者应该知道。”

帕森斯补充说，一些印度公司目前并未加入OpenAI、Adobe、谷歌和亚马逊在二月份签署的慕尼黑人工智能选举安全协议，他们计划在印度建立类似的联盟。

“立法是一件非常棘手的事情。假设政府在任何司法管辖区内都会正确并迅速地立法是一件难以依赖的事情。最好政府采取非常稳健的方法，并耐心等待，”他说。

检测工具在此被广泛认为是不稳定的，但却可以作为解决一些问题的起点，这就是论点的意思。

在他的德里之行中，他说：“这个概念已经被很好地理解了。我正在帮助提高人们意识到工具已经准备就绪。这不仅仅是一个想法。这是已经在实施的事情。”

中国认证信息（CAI）协会致力于推广免版税、开放标准，用于识别数字内容是由机器还是人类生成的。该协会成立于2019年，目前拥有2500名会员，包括微软、谷歌、《纽约时报》、《华尔街日报》和BBC。这一协会早于生成式人工智能的当前热潮。

正如围绕利用人工智能创造媒体的业务正在蓬勃发展一样，同时也出现了一个更小规模的产业，旨在纠正一些更具危害性的应用。

因此在2021年2月，Adobe进一步发展了其中一个标准，并与ARM、BBC、英特尔、微软和Truepic共同创立了内容溯源和真实性联盟（C2PA）。该联盟旨在开发一个开放标准，利用图像、视频、文本和其他媒体的元数据来突出它们的溯源，并告知用户有关文件的起源、生成的地点和时间，以及在抵达用户手中之前是否被修改过。CAI与C2PA合作，推广该标准并使其面向大众。

目前，它正在积极与印度等政府合作，以推广该标准，突出人工智能内容的来源，并与相关部门共同制定人工智能发展指导方针。

Adobe积极参与这场游戏既有损失，也有收获。目前虽然还没有收购或建立自己的大型语言模型，但作为拥有Photoshop和Lightroom等应用程序的公司，Adobe是创意社区工具的市场领先者，因此不仅在开发像Firefly这样的新产品来生成AI内容，还在旧产品中注入AI技术。如果市场发展如一些人所预期，Adobe如果想保持领先地位，则AI技术将成为必备。如果监管机构（或常识）能够发挥作用，Adobe未来的发展可能取决于其成功确保所销售的产品不会加剧问题。

在印度，无论如何，更大的情况确实一团糟。

谷歌将印度视为其生成式AI工具Gemini在选举内容上使用的试验场；各政党正在利用AI武器化来制作模仿对手的表情包；Meta为WhatsApp建立了一个深度伪造视频“援助热线”，因为这款通讯平台在传播由AI驱动的消息方面非常受欢迎；在各国对人工智能安全感到越来越担忧，并且他们需要做些什么来确保安全的时候，我们必须看看印度政府在3月份决定放宽有关新AI模型构建、测试和部署规则的影响。无论如何，这肯定会促进更多的人工智能活动。

借助其开放标准，C2PA 已经开发了一种称为内容凭证的数字营养标签。CAI 成员正在努力在其内容上部署数字水印，以让用户了解内容的来源和是否是由 AI 生成的。Adobe 跨其创意工具包括 Photoshop 和 Lightroom，都具备内容凭证。它还会自动附加到由 Adobe 的 AI 模型 Firefly 生成的 AI 内容上。去年，徕卡推出了内置内容凭证的相机，微软还为使用必应图像创建器生成的所有 AI 图像添加了内容凭证。

帕森斯告诉科技博客，CAI正在与全球各国政府就两个方面进行交流：一个是帮助推广该标准作为国际标准，另一个是采用该标准。

在选举年里，候选人、政党、现任官员和政府机构发布材料给媒体和公众是非常关键的，他们必须确保如果某些材料来自于莫迪总理办公室，那么它必定是真实的。之前出现过很多情况并非如此。因此，了解对消费者、事实核查人员、平台和中间商来说，某事是否真实很重要。

印度庞大的人口，广泛的语言和人口多样性使得遏制错误信息具有挑战性，他补充说，支持简单标签以应对这一挑战。

他说：“这有点像“CR”...和大多数Adobe工具一样，这是两个西方字母，但表示有更多的内容需要展示。”

科技公司支持任何形式的人工智能安全措施背后的真正动机仍然存在争议：这真的是关于生存性关切，还是只是为了在决策过程中确保自身利益得到保护而坐在谈判桌上给人一种生存性关切的印象？

“这通常在参与其中的公司中不具争议性，包括最近签署了慕尼黑协议的所有公司，包括Adobe在内，他们都为了这些想法放下了竞争压力，因为这些想法是我们都需要做的。” 他为这项工作的辩护说道。