欧盟立法者在深夜达成关于“全球首个”人工智能规定的协议
在持续了近三天的马拉松式“最终”谈判后，欧盟议员今晚就基于风险的人工智能监管框架达成了政治协议。该文件最初于2021年4月提出，但经过几个月的复杂三方谈判才最终达成协议。这一进展意味着一项泛欧盟人工智能法律将明确出台。
在周五深夜/周六凌晨当地时间，欧洲议会、理事会和委员会的关键代表——该集团的共同立法者——在举行了一场取得胜利但精疲力竭的新闻发布会上，对这项协议给予了高度赞扬，称其为艰苦奋斗的里程碑式成就以及历史性的。
EU主席乌尔苏拉·冯·德·莱恩在发推时表示，她在2019年底就任后，将推动实施“可信赖”人工智能法规作为她任期内的关键任务，并赞扬这项政治协议是“全球首创”。
禁止事项
直到最终的文字完全编制并公开，详细的达成协议内容才会得到确认，这可能需要几周的时间。但欧洲议会发布的新闻稿确认，与委员会达成的协议包括对人工智能使用的全面禁止，其中包括：
- 使用敏感特征（例如政治、宗教、哲学信仰、性取向、种族）的生物特征分类系统；
- 在互联网或闭路电视监控录像中进行非特定爬取人脸图像，以创建人脸识别数据库；
- 在工作场所和教育机构中的情绪识别。
- 基于社交行为或个人特征的社交评分。
- 操控人类行为以规避其自由意志的人工智能系统；
- 人工智能曾利用人们的漏洞（由于他们的年龄、残疾、社会或经济状况）。
执法部门在公共场所使用远程生物识别技术尚未完全被禁止，但议会表示，谈判代表已经就一系列保护措施和限制面部识别等技术使用的狭窄例外达成一致。其中包括对事先司法授权的要求，并且使用仅限于“严格定义”的犯罪清单。
回顾性（非实时）使用远程生物特征识别人工智能将仅限于“对已经被定罪或被怀疑犯有重大罪行的人进行有针对性的搜索”。而这种侵入性的人工智能技术的实时使用将在时间和地点上受限，并且只能用于以下目的：
- 有针对性地搜寻受害者（绑架、贩卖和性剥削）。
- 针对特定和现存的恐怖主义威胁的预防措施，或者
- 根据法规所述的具体罪行（如恐怖主义、贩运、性剥削、谋杀、绑架、强奸、抢劫、参与犯罪组织、环境犯罪），对涉嫌犯有这些罪行的个人进行定位或识别。
理事会的新闻稿强调临时协议“阐明该规定不适用于欧盟法律范围之外的领域，并且在任何情况下都不应影响成员国在国家安全或在此领域承担任务的任何机构的职权”。它还确认AI法案不适用于专门用于军事或防御目的的系统。
“同样，协议规定该法规不适用于仅用于研究和创新目的的人工智能系统，或非专业目的使用人工智能的个人，”理事会补充道。
民间社会组织对此持怀疑态度，担忧同意限制国家机构使用生物识别技术的措施不足以保障人权。数字权利组织EDRi是那些主张全面禁止远程生物识别的团体之一，他们表示，尽管该协议包含了"对人权的一些有限进展"，但看起来更像是"欧洲真正需要的人工智能法律的一层空壳"。
“高风险”人工智能和通用人工智能的规则
该协议还涵盖了对被归类为“高风险”的人工智能系统的义务，因为它们具有对健康、安全、基本权利、环境、民主和法治造成“重大潜在危害”的能力。
“欧洲议会成功地将一项强制性的基本权利影响评估纳入了其他要求中，该评估适用于保险和银行业等领域。影响选举结果和选民行为的人工智能系统也被列为高风险，”议会写道。“公民将有权对人工智能系统提出投诉，并获得关于基于高风险人工智能系统所做决定的解释，这些决定对其权利产生影响。”
对于“通用”人工智能系统（如支撑生成人工智能应用如ChatGPT的基础模型），双层架构的安全保障措施也达成了一致。
正如我们早前报道的那样，关于基础模型/通用人工智能 (GPAIs) 达成的协议包括一些透明度要求，针对共同立法者所称的“低层级”人工智能（指模型制造商必须制定技术文档并制作（并发布）关于训练内容的详细摘要，以支持遵守欧盟版权法）。对于“高影响”GPAIs（其训练中使用的浮点运算的累计量大于10^25），以及存在所谓“系统风险”的情况，有更为严格的义务要求。
“如果这些模型符合特定的标准，它们将必须进行模型评估，评估和缓解系统风险，进行对抗性测试，向委员会报告严重事件，确保网络安全并报告能源效率，”议会写道。“欧洲议会成员还坚称，在统一的欧盟标准发布之前，具有系统风险的人工智能全球协会可以依靠实践准则来遵守该条例。”
欧盟委员会与行业合作已数月，制定了一个临时人工智能协议 - 今天它确认该协议旨在填补实践中的空白，直到人工智能法案生效。
尽管已经商业化的基础模型/通用人工智能（GPAI）面临着该法案的监管，但研发并不打算纳入法律范围内 - 根据当天的声明，完全开源的模型将比闭源模型有更轻的监管要求。
该协议还提倡国家机构建立监管沙盒和现实世界测试，以支持初创企业和中小企业在投放市场前开发和培训人工智能。
罚则和生效时间
根据议会的规定，违反规定的处罚可能会导致罚款从3,500万欧元或全球营业额的7%到750万欧元或营业额的1.5%，具体取决于违规行为和公司规模。
委员会的公关进一步规定，对于违反禁止使用人工智能应用的行为，将实施更高的处罚（7%），而对于提供不正确信息的行为将征收1.5%的罚款。此外，对于违反其他人工智能法规的行为，可能会被处以3%的处罚，但也指出暂行协议允许对中小企业和初创企业的违规行为实施“更为适当的上限”来限定行政罚款。因此，人工智能初创企业面临的违规罚款可能比人工智能巨头面临的罚款要小。
今天达成的协议还允许该法律通过后逐步生效——禁止使用情况的规定将在六个月后生效；透明度和治理要求将在12个月后生效；而其他所有要求将在24个月后生效。因此，欧盟的AI法案的全部力量可能要等到2026年才会显现出来。
西班牙数字和人工智能事务国务秘书卡梅·阿提加斯在担任欧洲理事会轮值主席国期间，领导了该理事会就有关文件的谈判。她将这一备受争议的文件的达成一致被誉为“欧洲数字信息史上最重要的里程碑”，不仅对于欧盟的数字单一市场而言，也对于世界而言。
“我们已经在全球范围内实现了首个人工智能的国际规范，”她在午夜后召开的新闻发布会上宣布，并补充道：“我们感到非常自豪。”
她预测，该法律将通过为欧洲开发人员、初创公司和未来规模化企业提供“在法律和技术上的确定性”，来支持他们。
代表欧洲议会发言的共同报告员德拉戈什·图多拉奇和布兰多·贝尼费表示，他们的目标是制定人工智能立法，以确保生态系统以“人本主义的方式”发展，尊重基本权利和欧洲价值观。
他们对结果的评估同样乐观，认为在协议文本中包含全面禁止利用人工智能进行预测式执法和生物识别分类的条款是重大胜利。
"最终我们找到了正确的道路，捍卫基本权利的必要性，以确保我们的民主体制能够承受如此巨大的变革。"本尼费说道。就在几周前他还对能否达成协议表示怀疑。"我们是世界上第一个具有面向基本权利方向的横向立法的地区，支持我们大陆人工智能发展，并处于人工智能边界上拥有最强大模型的清晰义务。所以我认为我们做到了。"
“一直以来，我们一直受到质疑，是否有足够的保护措施，是否有足够的刺激创新的手段，我可以说，这种平衡是存在的，” Tudorache 补充道。“我们有保障措施，我们拥有所有我们需要的条款，在与人工智能的互动中，我们需要给予我们的公民信任，以及他们从现在开始将要与之互动的产品和服务。”
我们现在必须使用这个蓝图来寻求全球共识，因为这是全球每个人都面临的挑战。我认为，通过我们所做的工作，虽然困难重重——而且确实很困难，这是一次完全符合所有先例的马拉松式谈判——但我认为我们达到了目标。
欧盟内部市场专员蒂埃里·布勒顿也发表了自己的意见，称在布鲁塞尔当地时间午夜之前达成的协议是“历史性的”。他说：“这是一个完整的方案。这是一项全面的协议。这就是为什么我们花了这么多时间。”他还声称：“这是在平衡用户安全、创业初创企业的创新的同时，也尊重我们的基本权利和欧洲价值观。”
前方道路畅通吗？
尽管欧盟今晚自豪地在确立“全球首个”人工智能法规方面自我表扬不已，但欧盟的立法程序尚未完全结束，因为仍然需要完成一些正式步骤——尤其是最终文本将在议会和委员会中面临投票以予以通过。但考虑到在如何（甚至是否）对人工智能进行监管方面存在多少分歧和不同意见，这项政治协议消除了最大的障碍，未来几个月通过欧盟人工智能法案的道路看似明朗。
该委员会无疑显示出了自信。根据布勒顿的说法，实施协议的工作将立即展开，首先在欧盟的行政机构内设立一个人工智能办公室，该办公室将负责与需要执行人工智能公司规则的成员国监督机构协调，并监督最先进的人工智能模型，包括为推动标准和测试实践做出贡献。一个由独立专家组成的科学小组将被任命为人工智能办公室就GPAI模型提供咨询意见。 "我们将欢迎新的同事... 很多同事，" 布勒顿说。 "我们将从明天开始努力准备好。"
近几周以来，针对人工智能套餐中分层规则适用于通用型人工智能的反对，主要来自法国，以及法国的人工智能初创企业Mistral。Mistral一直在游说，希望完全豁免基础模型/通用人工智能的义务。然而，西班牙主席团达成的协议中确实包含了一些针对通用人工智能和基础模型的义务。因此，Mistral及其游说团队一直推动的完全豁免并未实现。
针对昨晚的政治协议消息，法国数字部长办公室发布了一份归功于让-诺埃尔·巴罗的声明（使用人工智能翻译自法语）：“我们将仔细分析今天达成的妥协，并在未来几周内确保文本保护欧洲发展自身人工智能技术的能力，并维护其战略自主权。”
目前尚不清楚Mistral的业务在达成的协议中将享有多少特权。在新闻发布会上问及此事时，阿提加斯表示，一旦商业化，这家法国人工智能初创公司可能会被归为GPAIs的“低级别”，意味着它只需承担有限的透明度义务，因为她表示其未达到触发系统性风险义务的高计算能力门槛（她表示其使用的计算能力可能仅为10^23，而非10^25）。
然而，由于Mistral目前仍处于模型研发和初期培训阶段，她表示即使是低级的合规要求，它们也将被排除在外。
此报告已更新，以纳入法国数字部门的回应；链接到委员会的公关资料；同时增加了新闻发布会的细节，包括关于该法律如何适用于“Mistral”的言论。我们还增加了关于公民社会回应的细节。
