欧盟“最终”会议将继续进行第二天，但关于基础模型的协议已摆在桌面上

据TechCrunch披露的一份泄露的提案表明，作为欧盟立法者在一场长时间的谈判中累计了20多个小时，他们试图就如何监管人工智能达成协议。在达成初步协议中，已经就处理一个棘手问题——基础模型/通用人工智能（GPAI）的规则达成了一致。

在最近几周，由法国人工智能初创公司Mistral领导的一场协同推动活动开始了，旨在为基础模型/全球AI原则创造一个全面的监管例外措施。但是，欧盟立法者似乎抵制了行业游说团体全力推动市场引导它们走向正确道路的做法，因为该提案保留了议会今年早些时候提出的对这些先进AI实行分层监管的要素。

话虽如此，但对于根据自由开源许可证提供的GPAI系统，部分义务有所削减（也就是指其权重、模型架构信息以及模型使用信息公开可得）。不过，也有一些例外情况，包括“高风险”模型。

路透社还报道了开源先进人工智能的部分例外情况。

根据爱尔兰公民自由委员会的高级研究员克里斯·施里沙克对泄露文本内容的评论，该提案中的开源例外情况还受到商业部署的限制。这意味着，如果/当这种开源模式在市场上或其他方面可用或投入使用，这种例外情况将不再适用。“因此，根据‘市场推出’或‘投入使用’的解释方式不同，该法律可能适用于Mistral，”他说。

初步协议保留了对具有所谓"系统风险"的高级人工智能（GPAI）进行分类的做法。确定获此称号的模型的标准是它具有"高影响能力"，包括在训练过程中所使用的计算量（以浮点运算次数（FLOPs）衡量）累计超过10^25的情况。

在那个层面上，只有极少数目前的模型似乎达到了系统风险的阈值——这意味着很少有前沿的全球人工智能卓越公司需要履行主动评估和缓解系统风险的义务。因此，Mistral的游说似乎减轻了监管的冲击。

拟议的文本中将系统风险描述为针对GPAIs在欧盟互联网市场上的影响力和可扩展性而产生的特定风险，并且对公共卫生、安全、公共安全、基本权利或整个社会产生实际或“可以合理预见的”负面影响。

根据初步协议，系统风险的GPAI供应商的其他义务包括使用标准化协议和先进工具进行评估；“在不延误的情况下”记录和报告严重事件；进行并记录对抗性测试；确保充分的网络安全水平；以及报告模型实际或预测能源消耗情况。

具有系统风险的全球AI计划的分类将基于AI办公室单独的决定，或在科学专家组发出“合格警报”后进行。符合条件的全球AI计划制定者将被要求“立即”通知委员会和/或在两周内通知委员会。

该提案还允许委员会采取委派行动来调整系统风险分类的门槛。

在其他地方，对GPAI（即具有重要广泛性和广泛任务能力的人工智能模型，使用自我监督进行大量数据训练，并且可以集成到各种下游应用中，但不符合系统风险的要求）的提供商存在一些一般义务，包括对模型进行测试和评估，并编制和保留技术文件，需要在监管机构和监督机构要求时提供。

他们还需要为其模型的下游部署者（也就是AI应用开发者）提供关于模型能力和限制的概述，以支持他们遵守《AI法案》的能力。

该提案的文本还要求基础模型制造商制定政策，尊重欧盟的版权法，包括对版权持有人对文本和数据挖掘设置的限制。此外，他们必须提供对于构建模型所使用的训练数据的“足够详细”的摘要，并将其公开——该摘要的披露模板由AI管理机构（即该法规提议设立的AI办公室）提供。

我们理解这个版权披露摘要仍然适用于开源模型——作为它们不受规则限制的另一种例外情况。

我们看到的文本中提到了实践准则的参考，该提议称GPAIs - 和具有系统风险的GPAIs - 可以依靠这些参考来证明合规性，直到“协调一致的标准”发布为止。

该文件设想AI办公室将参与制定这些准则。规定实施后六个月起，委员会将开始发布对GPAI的标准化要求，例如要求提供有关报告和文档的成果，以改善AI系统的能源和资源使用情况。同时，委员会还将定期报告其在开发这些标准化要素方面的进展情况（实施日期后两年第一次报告，之后每四年一次）。

今天关于AI法案的三方对话实际上从昨天下午开始，但欧洲委员会一直决心让欧洲理事会、议会和自己的工作人员在这个备受争议的文件上进行最后的碰撞（如果不是这样的话，就像我们之前报道的那样，由于明年临近欧盟选举和新一届委员会任命，该法规有被搁置的风险）。

在撰写本文时，解决其他争议元素的谈判仍在继续，桌面上仍有许多极其敏感的问题（如用于执法目的的生物特征监视）。因此，文件能否获得通过仍不清楚。

如果没有在所有组成部分上达成协议，将无法获得确保法律的交易，因此AI法案的命运仍然未知。但对于那些渴望了解立法者在高级AI模型的责任方面取得的进展的人来说，比如作为支持病毒型AI聊天机器人ChatGPT的大型语言模型，初步协议为欧盟可能前进的方向提供了一些指引。

在过去的几分钟里，欧盟内部市场专员蒂埃里·布雷顿发布推文确认谈判已经最终中断，但只是暂时中断，明天将继续。

这个宏大的三方对话预计将于布鲁塞尔时间上午9点恢复，因此欧盟委员会仍然决心在本周完成其于2021年4月提出的基于风险的人工智能规则书。当然，这将取决于是否能够找到令其它立法机构——理事会和议会——都可以接受的妥协方案。鉴于利害攸关、并涉及高度敏感的文件，成功绝非易事。

此报告已经更新，并详细介绍了关于对具有系统风险的 GPAIs 的提议的补充细节。