欧盟人工智能法案获得欧洲议会一致支持

AI7号 2024-03-13 1998

Chat中文版

欧洲议会周三投票通过了《AI法案》,确保欧盟在制定涵盖人工智能软件广泛范围规则方面占据了领先地位,地区立法者称之为“世界上第一部全面的AI法律”。

欧洲议会议员们在与理事会进行的三方对话中,绝大多数支持了去年12月达成的临时协议,赞成票523票,反对票仅46票(还有49票弃权)。

这项里程碑式的立法规定了人工智能的基于风险的框架,根据使用情况的风险水平应用不同的规则和要求。

今天全体议会投票之前,之前委员会投票肯定,上个月也得到欧盟27个成员国大使的支持。全会的结果意味着AI法案很快就会成为该地区的法律——只需等待理事会的最终批准。

AI法案将在未来几个月内在欧盟官方期刊上公布后生效,生效日期为公布后的20天。尽管采取了分阶段实施的方式,第一个子条款(禁止使用案例)将在六个月后生效,其他条款将在12个、24个和36个月后生效。因此,完全实施预计要到2027年中期。

在执法方面,对于不遵守规定的处罚可以达到全球年营业额的7%(或者如果更高,为€35M)违反对人工智能禁止使用的规定。对于违反人工智能系统的其他规定可能会受到最高达3%(或者€15M)的处罚。拒绝与监管机构合作可能面临高达1%的罚款风险。

在周二的辩论中,欧洲议会议员、AI法案联合报告人Dragoș Tudorache表示:“我们将人工智能的概念永远与构成我们社会基础的基本价值联系在一起。仅凭这一点,AI法案已经将人工智能的未来推向了以人为中心的方向。在这个方向上,人类掌控技术,技术帮助我们利用新发现、经济增长、社会进步,并释放人类潜力。”

Chat中文版

风险为基础的提案最早是在2021年4月由欧洲委员会提出的。随后,在议会和理事会的欧盟共同立法者经过多年的谈判过程对其进行了大幅修订和延长,最终在12月份的马拉松式最终谈判后达成了政治协议。

根据这项法案,一些潜在的人工智能使用情况被认为是“不可接受的风险”,被彻底禁止(比如社会评分或潜意识操纵)。该法律还定义了一组“高风险”应用程序(如用于教育或就业的人工智能,或用于远程生物特征识别)。这些系统必须进行注册,开发人员必须遵守法律规定的风险和质量管理规定。

欧盟的基于风险的方法让大多数人工智能应用程序不受法律约束,因为它们被认为是低风险的——没有适用硬性规则。但该立法也对第三类应用程序(如AI聊天机器人;能够创建合成媒体的生成式人工智能工具(也称为deepfakes);以及通用人工智能模型(GPAI))提出了一些(轻度)透明度义务。如果被归类为具有所谓的“系统性风险”的最强大的GPAI,那么它们将面临额外的规定规则——在那里会启动风险管理义务。

GPAI规则是AI法案的后期补充,是受到关注的欧洲议会议员推动的。去年,议会的立法者提出了一套分层制度的要求,旨在确保负责近期生成式人工智能工具激增的先进模型不会逃脱监管。

然而,一些欧盟成员国,主要是法国,朝相反的方向发起了推动 — 在国内人工智能初创企业(如“Mistral”)的游说下 — 提出应为先进人工智能模型制造商设立监管例外,因为他们认为欧洲应该专注于扩大在这个快速发展领域的国家冠军,避免在全球人工智能竞赛中落后。

面对激烈的游说,在12月份,政界达成的政治妥协削弱了欧洲议会关于监管GPAI的原始提议。

它没有完全豁免法律,但大多数这些模型只需满足有限的透明度要求。只有那些训练时使用了大于10^25 FLOPs计算能力的GPAI模型才有可能需要对其模型进行风险评估和缓解措施。

自妥协协议达成以来,还曝出Mistral接受了微软的投资。这家美国科技巨头在总部位于美国的ChatGPT制造商OpenAI中持有更大的股份。

在今天举行的全体会议前的新闻发布会上,两位共同报告员被问及 Mistral 的游说活动是否成功削弱了欧盟对GPAIs的规定。"我认为我们可以同意结果说话," Brando Benifei回答道。"这项立法明确定义了对最强大型号安全需求的清晰标准... 我认为我们提供了一个明确框架,将确保最强大型号的透明度和安全要求。"

图多拉奇还拒绝了游说者对法律最终形状产生负面影响的建议。他说:“我们进行了谈判,并做出了我们认为是合理的妥协。”他称这一结果是一种“必要”的平衡。“公司选择做什么是他们的决定,他们的行为没有以任何方式影响我们的工作。”

"对于所有研究这些模型的人来说,保持这些算法所需数据的‘黑匣子’是有利益的,"他补充道。“而我们倡导透明,尤其是对于受版权保护的材料,因为我们认为这是唯一能够实现作者权利的方式。”

贝尼菲还指出,在AI法案中增加环境报告要求这一点,也是另一个胜利。

立法者补充说,AI法案代表欧盟对人工智能治理的起点 - 强调这一模式需要在未来演变并通过额外法规进行扩展,贝尼费指出有必要制定指令来规定工作场所中人工智能的使用规则。

他表示,我们还需要努力改善人工智能投资条件。"我们希望欧洲投资人工智能。做更多的共同研究。在共享计算能力方面做更多工作。超级计算机的工作...强调完成资本市场联盟的必要性也是很重要的,因为我们需要能够比今天更容易地投资于人工智能。今天我们面临着一些投资者更倾向于投资美国而不是其他欧洲国家,不是其他欧洲公司的风险。"

这项法案只是漫长旅程的开始,因为人工智能将对我们的教育系统、劳动力市场以及战争产生影响,这并不仅仅通过这项人工智能法案来衡量。Tudorache补充说:“因此,在这个全新的世界中,人工智能将发挥核心作用,从这一点开始,我们还将建立制定法案的治理,必须非常留意未来技术的演变,做好准备应对可能产生的新挑战。”

图多拉奇还重申了他去年呼吁志同道合的政府共同合作推动人工智能治理的观点,甚至更广泛地,在任何可以达成协议的地方。

我们仍然有责任尽可能实现互操作性 - 与尽可能多的民主国家,与许多志同道合的伙伴合作,建立开放的治理。因为技术是统一的,不管你在世界的哪个地区。因此,我们必须投资于建立一个合理的框架,加强这种治理的联系。

推荐阅读

在2024年的SXSW上,反对人工智能的情绪受到了热烈的掌声,电影制片人将人工智能拉拉队称为“可怕的胡说八道”

2024-03-13 2691
Chat中文版

洛卡斯机器人的成功是专注于有效的故事

2024-03-13 1371
Chat中文版

DoorDash的新AI动力的“SafeChat+”工具可以自动检测口头辱骂

2024-03-13 2374
Chat中文版

艾克西恩雷的人工智能努力检测产品缺陷,以预防召回

2024-03-13 1909
Chat中文版

共情(Empathy)筹集了4700万美元,用于开发人工智能帮助处理实际和情感上的丧亲过程

2024-03-13 2474
Chat中文版