OpenAI宣布成立团队，将“众包”民主理念融入其模型之中

OpenAI 表示希望采纳公众对如何确保其未来的人工智能模型“与人类价值观一致”的想法。

为此，人工智能初创公司正在组建一个新的集体对齐团队，由研究人员和工程师组成，旨在将公众对其模型行为的输入“编码”到OpenAI的产品和服务中，该公司今天宣布。

“我们将继续与外部顾问团队和授予团队合作，包括进行试点项目，将原型整合到我们的模型中来指导我们的工作，”OpenAI在一篇博文中写道。“我们正在招聘……多元化技术背景的研究工程师与我们一起构建这项工作。”

集体对齐团队是OpenAI公开的项目的延伸，该项目于去年五月推出，以授予资助以进行实验，建立一个“民主流程”，以决定AI系统应该遵循什么规则。OpenAI在该项目的首次亮相中表示，该计划的目标是资助个人、团队和组织，以开发能够回答有关AI的监管和治理的问题的概念验证。

在今天的博客文章中，OpenAI回顾了补助获得者的工作，范围涵盖了从视频聊天界面到众包审核AI模型和“将信念映射到可以用来优化模型行为的维度方法”的平台。所有补助获得者的代码都在今天上午公开发布，同时附有每个提案的简要摘要和高层次总结。

尽管OpenAI试图将其程序与商业利益割离开来，但考虑到OpenAI的首席执行官Sam Altman对欧盟和其他地区监管的批评，这是有点难以接受的。Altman以及OpenAI的总裁Greg Brockman和首席科学家Ilya Sutskever多次辩称，人工智能领域的创新速度如此之快，我们无法指望现有机构能够充分控制这项技术的发展，因此需要众包进行工作。

OpenAI正面临越来越多的监管审查，在英国面临与亲密合作伙伴及投资者Microsoft的关系问题的调查。该初创公司最近试图通过利用位于都柏林的子公司来减少欧盟在数据隐私方面的监管风险，以降低欧盟内某些隐私监管机构单方面处理关切的能力。

昨天，为了安抚决策者（毫无疑问），OpenAI宣布正在与各个组织合作，试图限制其技术被恶意利用来操纵或影响选举的方式。该初创公司的努力包括通过工具使AI生成的图像更加明显，并研发方法来识别经过修改的图像后仍然是生成内容。