Karine Perset帮助政府了解人工智能

为了给专注于人工智能的女性学者和其他人应得的——而且是迟到的——关注时间，TechCrunch正在推出一系列采访，着重介绍在人工智能革命中做出贡献的杰出女性。在人工智能蓬勃发展的时候，我们将在今年发布多篇文章，突出那些经常被忽视的重要工作。在这里阅读更多的人物访谈。

Karine Perset在经济合作与发展组织（OECD）工作，负责管理其人工智能部门并监督OECD.AI政策观察站和数字经济政策部门下的OECD.AI专家网络。

Perset专注于人工智能和公共政策领域。她之前曾担任互联网名称与数字地址分配机构（ICANN）政府咨询委员会的顾问，以及经济合作与发展组织（OECD）科技与产业总局的顾问。

你在人工智能领域最引以为傲的工作是什么？

我对OECD.AI所做的工作感到非常骄傲。在过去几年里，OECD成员国和人工智能生态系统的其他参与者对可信人工智能的政策资源和指导的需求不断增加。

当我们在2016年左右开始这项工作时，只有少数几个国家拥有国家人工智能计划。快进到如今，OECD.AI政策观察站-一个提供人工智能数据和趋势的一站式服务-记录了近70个司法管辖区内超过1,000项人工智能计划。

全球各国政府都面临着关于人工智能治理的同样问题。我们都清楚地意识到需要在促进创新和人工智能所能提供的机遇之间找到平衡，并减轻与技术滥用相关的风险。我认为，2022年底生成式人工智能的崛起真正将这一问题凸显出来。

2019年起草的十项OECD人工智能原则在某种程度上非常预见，预见到了许多至今仍然重要的问题——5年过后，人工智能技术大幅进步。这些原则作为一个指导，帮助各国政府制定人工智能政策，推动可靠的人工智能造福人类和地球。它们把人放在人工智能发展和应用的中心位置，这是我认为无论人工智能技术有多先进、多惊人、多令人兴奋，我们都不能失去的东西。

为了跟踪实施经济合作与发展组织AI原则的进展，我们开发了经合组织AI政策观察台，这是一个实时或准实时提供AI数据、分析和报告的中心，已成为全球许多政策制定者权威的资源。但是，经合组织无法独自完成，多利益相关者合作一直是我们的方法。我们创建了经合组织AI专家网络 - 这是一个由全球超过350名顶尖AI专家组成的网络 - 以帮助利用他们的集体智慧来支持政策分析。该网络分为六个主题专家组，研究包括AI风险和问责制、AI事故以及AI未来在内的问题。

你如何在男性主导的科技行业以及AI行业中应对挑战？

当我们查看数据时，不幸的是，我们仍然可以看到一个存在性别差距，即谁拥有技能和资源来有效地利用人工智能。在许多国家，女性仍然缺乏接受培训、掌握技能和数字技术基础设施的机会。她们在人工智能研究与开发中仍然少见，而算法中固有的刻板印象和偏见可能导致性别歧视，限制女性的经济潜力。在经济合作与发展组织国家，16-24岁的青年男性能够编程的数量是女性的两倍以上，这是人工智能开发过程中的一项重要技能。我们显然还有很多工作要做，以吸引更多女性进入人工智能领域。

然而，虽然私营部门的人工智能技术世界男性占主导地位，但我认为人工智能政策领域的性别平衡要好一些。例如，我在经合组织的团队几乎实现了性别平衡。我们与许多人工智能专家合作，其中真正鼓舞人心的女性包括来自美国国家标准与技术研究所（NIST）的Elham Tabassi；IBM的Francesca Rossi；合作伙伴关于人工智能的Rebecca Finlay和Stephanie Ifayemi；欧洲委员会的Lucilla Sioli、Irina Orssich、Tatjana Evas和Emilia Gomez；IEEE的Clara Neppel；Decathlon的Nozha Boujemaa；斯洛文尼亚JSI人工智能实验室的Dunja Mladenic；当然还有我的令人惊叹的老板和导师Audrey Plonk等等，当然还有很多其他的。

我们需要科技领域、学术界和公民社会中有女性和多元化群体的代表，以带来丰富和多元化的视角。不幸的是，在2022年，全球仅四分之一的人工智能研究人员是女性。虽然与女性合著的出版物数量正在增加，但与男性相比，女性仅为所有人工智能出版物的大约一半，并且随着出版物数量的增加，这一差距也在扩大。总之，我们需要在这些领域中有更多来自女性和多元化群体的代表。

所以回答你的问题，我如何应对男性主导的技术行业的挑战？我会展现出来。我非常感激我的职位让我能够与专家、政府官员和企业代表会面，并在国际论坛上就人工智能治理发表演讲。这让我能够参与讨论，分享我的观点，并挑战假设。当然，我也会让数据说话。

你会给那些想要进入人工智能领域的女性什么建议？

根据我在人工智能政策领域的经验，我想说不要害怕发表意见，分享自己的观点。在制定人工智能政策和模型时，我们需要更多不同声音参与。我们都有独特的故事和不同的见解可以带到对话中。

为了开发更安全、更包容和更可信赖的人工智能，我们必须从不同角度审视人工智能模型和数据输入，问问自己：我们漏掉了什么？如果你不开口说出来，那么可能会导致团队错过一个非常重要的洞察。很可能因为你有不同的观点，你会看到其他人没有看到的东西，作为一个全球社区，如果每个人都做出贡献，我们可以比各自势力之和更伟大。

我还要强调的是，人工智能领域有许多角色和路径。计算机科学学位并非在人工智能领域工作的先决条件。我们已经看到法学家、经济学家、社会科学家和许多其他领域的人将他们的观点带到了讨论桌上。随着我们向前迈进，真正的创新将越来越多地来自于将领域知识与人工智能素养和技术能力融合在一起，以提出特定领域的有效人工智能应用。我们已经看到大学在计算机科学系之外开设了人工智能课程。我真心相信跨学科将是人工智能职业的关键。因此，我鼓励来自各个领域的女性考虑她们可以用人工智能做些什么。不要因为害怕比男性不够 kompetent而退缩。

人工智能在发展过程中面临的一些最紧迫的问题是什么？

我认为人工智能面临的最紧迫问题可以分为三个方面。

首先，我认为我们需要弥合决策者和技术人员之间的差距。2022年底，生成式人工智能的进步让许多人感到意外，尽管一些研究人员事先预料到这样的发展。可以理解，每个学科都从不同的角度看待人工智能问题。但人工智能问题是复杂的；政策制定者、人工智能开发者和研究人员之间的合作和跨学科性是理解人工智能问题的关键，有助于全面了解人工智能的进展和弥合知识差距。

其次，人工智能规则的国际互操作性对于人工智能治理至关重要。许多大型经济体已开始对人工智能进行监管。例如，欧盟刚刚通过了其人工智能法案，美国已经颁布了关于人工智能安全、可靠和值得信赖发展和使用的行政命令，巴西和加拿大也推出了旨在规范人工智能发展和部署的法案。在这里面挑战在于要在保护公民和促进商业创新之间取得正确的平衡。人工智能不分国界，许多经济体对于监管和保护的方法各不相同；因此，在不同司法管辖区之间实现互操作性将至关重要。

第三，还有一个追踪AI事件的问题，随着生成式AI的兴起，这些事件迅速增多。未能解决与AI事件相关的风险可能会加剧我们社会对信任的缺乏。重要的是，关于过去事件的数据可以帮助我们预防未来类似事件的发生。去年，我们推出了AI事件监测器。这个工具利用全球新闻来源追踪全球范围内的AI事件，更好地了解由AI事件造成的危害。它提供实时证据，支持关于AI的政策和监管决策，特别是针对偏见、歧视和社会破坏等真正风险以及导致这些风险的AI系统类型。

AI用户应该注意哪些问题？

全球决策者正在努力解决的一个问题是如何保护公民免受AI生成的错误和虚假信息的影响，比如深度伪造的合成媒体。当然，错误和虚假信息已经存在一段时间了，但这里的不同之处在于AI生成的合成输出的规模、质量和低成本。

政府对这个问题了解得很清楚，并正在寻找方法帮助公民识别人工智能生成的内容，评估他们所消费信息的真实性，但这仍然是一个新兴领域，关于如何解决这些问题还没有共识。

我们的 AI 事件监控器可以帮助追踪全球趋势，并让人们了解有关深度伪造和虚假信息的重要案例。但最终，随着 AI 生成内容的增加，人们需要发展信息素养，提高他们的技能、反应能力和能力，查看权威来源以评估信息的准确性。

负责任地构建人工智能的最佳方式是什么？

我们人工智能政策领域的许多人都在努力寻找构建负责任人工智能的方法，承认确定最佳方法通常取决于人工智能系统部署的具体情况。然而，负责任地构建人工智能需要在整个人工智能系统生命周期中认真考虑伦理、社会和安全影响。

OECD的人工智能原则之一提到了人工智能参与者对他们开发和使用的人工智能系统正常运行负有责任。这意味着人工智能参与者必须采取措施确保他们构建的人工智能系统是可信的。也就是说，他们应该使人们和地球受益，尊重人权，公平、透明、可解释，并且具备适当的稳健性、安全性。为了实现这一目标，参与者必须在整个人工智能系统的生命周期内管理和控制风险 - 从规划、设计、数据收集和处理到模型构建、验证和部署、运营以及监测。

去年，我们发表了一份关于“推进AI问责制”的报告，概述了整合风险管理框架和AI系统生命周期以开发可信赖的AI。该报告探讨了可以促进基于价值观原则实施可信AI的过程和技术属性，并确定了工具和机制，以定义、评估、处理和管理AI系统生命周期的每个阶段的风险。

投资者如何更好地推动负责任人工智能的发展？

通过倡导他们投资的公司进行负责任的商业行为，投资者在塑造人工智能技术的发展和应用过程中发挥着至关重要的作用，他们不应低估自己通过提供的资金支持来影响内部实践的力量。

例如，私营部门可以通过诸如经合组织负责任商业行为准则（RBC）指南等倡议来支持制定和采纳人工智能的负责任指导方针和标准，我们目前正专门为人工智能进行定制。这些指南将显著促进跨境销售产品和服务的人工智能公司的国际合规性，并实现人工智能价值链中的透明度——从供应商到部署者再到最终用户。人工智能的负责任商业行为准则还将提供一种非司法执行机制——通过国家政府指定的国家联络点来化解纠纷，使用户和受影响的利益相关者能够寻求人工智能相关损害的补救措施。

通过引导公司实施类似RBC的AI标准和指南，私营部门合作伙伴可以在促进可信赖的AI发展和塑造AI技术未来的过程中发挥至关重要的作用，从而使整个社会受益。