微软和OpenAI启动200万美元基金来应对选举深度伪造视频

微软和OpenAI宣布设立了一项200万美元基金，旨在应对人工智能和深度伪造技术被用来欺骗选民、破坏民主的日益增长的风险。

今年将有创纪录的20亿人前往50多个国家的选举投票站，所以人们担心人工智能对选民的影响——尤其是那些可能更容易轻信所见之事的“弱势群体”。

生成式人工智能的崛起，包括像ChatGPT这样广受欢迎的聊天机器人，已经导致了一个涉及人工智能生成的“深度伪造”威胁新景观的出现，旨在持续传播虚假信息。更为严重的是，这些新工具被广泛使用，任何人都能制作出高知名度政治实体的假视频、照片或音频。

就在上周一，印度选举委员会敦促政党在选举期间的网上竞选活动中避免使用深度伪造和类似的虚假信息。

在这种背景下，包括微软和OpenAI在内的所有主要科技公司签署了自愿承诺，以应对这些风险，并制定了建立共同框架的计划，以应对有意误导选民的深度伪造视频。

在其他地方，一些主要的人工智能公司已经开始通过在他们的软件中引入限制来解决这些风险。例如，谷歌表示，它不会允许其Gemini人工智能聊天机器人回答与选举相关的问题，而Facebook的母公司Meta也通过其人工智能聊天机器人限制了与选举相关的回复。

今天早些时候，OpenAI推出了一款新的深度伪造检测器，旨在帮助辨认其自家的DALL-E图像生成器生成的虚假内容，同时还加入了产业团体内容来源和真实性联盟（C2PA）的指导委员会，该联盟已有如Adobe、微软、谷歌和英特尔等成员。

新的“社会韧性基金”成为更广泛的“负责任”人工智能推动的一部分，微软和OpenAI现在正在努力在选民和弱势社区中“进一步推广人工智能教育和素养”，根据这两家公司今天发布的一篇博客文章。这将涉及向一些组织发放资助，包括老年人技术服务（OATS）、内容出处和真实性联盟（C2PA）、国际民主与选举协助研究所（International IDEA）和人工智能联盟（PAI）。

根据微软公司的说法，这些拨款旨在帮助社会更好地理解人工智能及其在社会中的应用能力。例如，OATS公司显然将利用这笔资助用于针对美国50岁及以上年龄段人群的培训计划，涵盖人工智能的“基础方面”。

微软技术和企业责任公司副总裁特蕾莎·哈特森在博客文章中表示：“社会韧性基金的推出仅是微软和OpenAI致力于解决人工智能素养和教育领域挑战和需求的一步。”“微软和OpenAI将继续致力于这项工作，我们将继续与那些和我们有共同目标和价值观的组织和倡议合作。”