人工智能治理不能交由既得利益者。
联合国人工智能高级别咨询机构的最终报告有时读起来感觉很超现实。这份名为《为人类治理人工智能》的文件强调了在这样一种快速发展、大量投资且大肆炒作的技术上实施任何治理手段所面临的相互矛盾的挑战。
一方面，该报告（相当正确地）指出，在人工智能方面存在“全球治理赤字”。另一方面，联合国咨询机构冷淡地指出：“各国政府、企业和财团以及区域和国际组织已经采纳了数百项（人工智能）指南、框架和原则。”即便这份报告又为人工智能治理的建议堆增加了一套新的建议。
该报告重点指出的首要问题是，在人工智能治理方面逐渐形成的是各种零散的方法，而不是对于这种既强大又愚蠢的技术应该如何处理达成任何集体一致。
人工智能自动化当然可能很强大：按下按钮，您就能按需获得规模化的输出。但人工智能也可能很愚蠢，因为不管这个名字意味着什么，人工智能并非智能；它的输出是其输入的反映；而糟糕的输入可能会导致非常糟糕（且不明智）的结果。
正如报告所强调的，给愚蠢增添规模，人工智能确实会引发非常大的问题。例如，它可能会加剧歧视或传播虚假信息。这两种情况在各种领域已经以严重的规模发生，给现实世界带来了实实在在的危害。
但在过去几年中，那些在生成式人工智能领域投入商业力量的人，对这项技术潜在的规模优势如此着迷，以至于他们竭尽全力淡化人工智能愚蠢所带来的风险。
近年来，这包括大力游说一种观点，即世界需要规则来防范所谓的通用人工智能（AGI），或者那种能够自行思考甚至可能超越人类思考能力的人工智能的概念。但这只是一种引人注目的虚构说法，旨在吸引政策制定者的注意，让立法者把心思集中在不存在的人工智能问题上，从而使当前这一代人工智能工具的有害愚蠢之处常态化。（所以说，正在玩的公关游戏是通过将“人工智能安全”的概念定义和化解为让我们只担心科幻小说中的情节，来对其进行界定和化解。）
对人工智能安全的狭隘定义会分散人们对以下巨大环境危害的注意力：将越来越多的计算能力、能源和水投入到建设足够大的数据中心，以满足这种贪婪的新型大规模“巨兽”的需求。关于我们是否能够承受以这种方式不断扩大人工智能规模的争论在任何高层都没有发生——但也许应该发生？
通用人工智能（AGI）的出现，也使得这场对话直接跳过了无数与在未经他人许可的情况下使用他人信息训练而成的自动化工具的开发和使用相关的法律及伦理问题。工作和生计受到威胁，甚至整个行业也是如此。个人的权利和自由同样面临风险。
像“版权”和“隐私”这样的词对人工智能开发者的威慑远远超过所谓的通用人工智能的生存风险，因为这些人很聪明，实际上并未与现实脱节。
但那些在人工智能规模化方面有既得利益的人，为了尽量减少任何阻碍获取更大利润的“防护栏”（当技术专家最终被迫对其技术加以限制时，他们选择用这个最简化的隐喻）的应用，只喋喋不休地谈论他们创新的潜在好处。
考虑到地缘政治竞争和黯淡的全球经济形势，民族国家的政府往往非常愿意加入人工智能的热潮并参与其中，推动减少治理，希望这能帮助他们培育出本国的人工智能领军企业。
在这样扭曲的背景下，人工智能治理仍然如此令人困惑和混乱不堪，这有什么好奇怪的吗？即使在欧盟，今年早些时候，立法者确实通过了一个基于风险的框架来监管少数人工智能应用程序，但在讨论这一具有里程碑意义的举措时，最响亮的声音仍然在谴责其存在，并声称该法律意味着欧盟本土创新的机会破灭。而且，即使在早期的科技行业游说（由法国牵头，着眼于 Mistral 的利益，这是法国对本国生成式人工智能冠军的期望）之后，法律被淡化了，他们仍在这样做。
放松欧盟隐私法管制的新举措
既得利益者也并未就此罢手。如今，Meta（Facebook 和 Instagram 的所有者——已转型为大型人工智能开发者）公然游说，要求放宽欧洲隐私法，以消除其利用人们的信息训练人工智能的限制。难道就没有人能让 Meta 摆脱这一烦人的数据保护法规，从而让它为了广告利润而榨取欧洲人的文化价值吗？
其最新的公开信在《华尔街日报》发表，游说反对欧盟的《通用数据保护条例》（GDPR），其中还包括爱立信、Spotify 和 SAP 等一众也愿意为盈利而放松监管的商业巨头。
据报道，该信件指出：“与其他地区相比，欧洲的竞争力和创新能力有所下降，由于监管决策不一致，如今在人工智能时代面临着进一步落后的风险。”
Meta 长期违反欧盟隐私法——比如，迄今为止十大《通用数据保护条例》（GDPR）罚款案件中的大多数都与它有关，累计罚款达数十亿美元——所以它真不应该成为立法重点的典范。然而，当涉及到人工智能时，情况却变成这样！它已经违反了这么多欧盟法律，我们显然还应该听取 Meta 关于消除首先存在可违反法律这一障碍的想法？这就是人工智能可能引发的那种神奇思维。
但真正可怕的是，存在这样一种危险，即立法者可能会听信这种宣传，将权力杠杆交给那些想要让一切自动化的人——盲目相信一个没有头脑的规模之神，期望人工智能能自动为所有人带来经济繁荣。
这是一种策略——如果我们甚至能称之为策略的话——它完全忽略了这样一个事实：过去几十年（监管非常宽松的）数字发展带来的结果恰恰相反：财富和权力惊人地集中在少数几个大型平台——大型科技公司手中。
显然，平台巨头们想用“大人工智能”故技重施。但政策制定者有可能盲目地沿着那些由报酬丰厚的政策说客大军向他们推荐的自私自利的道路前行。这根本就不是一场公平的较量——甚至都算不上是一场较量。
当前，经济压力无疑在欧洲引发了诸多深刻反思。本月早些时候，意大利经济学家马里奥·德拉吉（Mario Draghi）就欧洲竞争力的未来这一极为敏感的话题发布了一份备受期待的报告。报告对欧洲自身施加的“监管负担”提出了批评，称这些负担在数字领域尤其“弄巧成拙”。
鉴于 Meta 公开信的发布时间，它肯定旨在得出相同的结论。但这并不令人意外：Meta 和其他几家在推动放松欧盟隐私法监管的倡议上签名的公司，都在德拉吉为其报告直接咨询的一长串公司之中。（与此同时，正如其他人所指出的，这位经济学家的贡献者披露名单中除了消费者组织 BEUC 之外，没有包括任何数字权利或人权组织。）
联合国人工智能咨询小组的建议
在推动采用人工智能的同时又试图降低和削弱治理努力，这种利益的不对称性使得很难看出如何就如何控制人工智能的规模和不良影响达成真正的全球共识。但如果有人愿意倾听，联合国人工智能咨询小组有一些看起来切实可行的想法。
该报告的建议包括成立一个独立的国际科学小组，以调查人工智能的能力、机遇、风险和不确定性，并确定需要开展更多研究的领域，重点关注公共利益（不过，要找到不在大型人工智能公司领薪水的学者，祝你好运）。另一项建议是政府间的人工智能对话，每年在现有联合国会议的间隙举行两次，以分享最佳实践、交流信息，并推动在治理方面加强国际互操作性。该报告还提到了一个人工智能标准交流机制，该机制将保存定义的登记册，并致力于促进国际上的标准协调统一。
联合国机构还建议创建其所谓的“人工智能能力发展网络”，汇集专业知识和资源，以支持各国政府内部为公共利益进行的人工智能治理发展；还提议设立一个全球人工智能基金，以解决自动化技术分配不均可能大幅加剧的数字鸿沟问题。
在数据方面，该报告建议建立其所谓的“全球人工智能数据框架”，为管理训练数据设定定义和原则，包括旨在确保文化和语言的多样性。这一努力应围绕数据的来源及其使用建立共同标准，以确保“跨司法管辖区的透明和基于权利的问责制”。
联合国机构还建议建立数据信托和其他机制，称其可能有助于促进人工智能的发展，同时又不损害信息管理，比如通过“管理良好的全球市场来交换用于训练人工智能模型的匿名数据”，以及通过“模式协议”允许跨境获取数据。
最后一个建议是联合国在秘书处内设立一个人工智能办公室，作为协调机构，向秘书长报告以提供支持，进行外联工作并为联合国负责人提供建议。有一点很明确：如果我们要避免既得利益者设定治理议程，人工智能将需要大规模地动员努力、组织和辛勤劳作。
