人工智能领域的女性：Trail of Bits的安全工程总监Heidy Khlaaf

为了给AI领域的女性学者和其他人他们应得的——而且迟到的——关注时间，TechCrunch推出了一系列采访，专注于为AI革命做出贡献的杰出女性。随着AI繁荣的持续，我们将在今年发布几篇文章，突出往往被忽视的重要工作。阅读更多档案资料，请点击这里。

Heidy Khlaaf是网络安全公司Trail of Bits的工程总监。她专门负责评估软件和人工智能在“安全关键”系统中的应用，如核电站和自动驾驶车辆。

Khlaaf从伦敦大学学院获得了计算机科学博士学位，并在佛罗里达州立大学获得了计算机科学和哲学双学士学位。她领导过安全审核和安全审计，提供咨询和审查保证案例，并为安全相关应用程序及其开发制定标准和指导方针做出了贡献。

问答环节

简单来说，你是如何开始从事人工智能领域的？什么吸引你进入这个领域？

在我很年轻的时候，我就被机器人技术所吸引，并在15岁开始学习编程，因为我对利用机器人和人工智能自动化工作流程的前景着迷（它们是密切相关的）。比如在制造业中，我看到机器人被用来帮助老年人，自动化危险的人工劳动。然而，我最终获得了计算机科学另一个子领域的博士学位，因为我认为在计算机科学领域拥有扎实的理论基础能让你做出教育和科学的决策，判断人工智能在哪些地方适用，在哪些地方可能会出现问题。

你在人工智能领域最为自豪的工作是什么？

利用我在安全工程和安全关键系统领域的丰富专业知识和背景，为新兴领域AI“安全”提供必要的背景和批评。尽管AI安全领域已经尝试借鉴和引用成熟的安全和保障技术，但在其使用和含义上仍存在一些术语被曲解的情况。缺乏一致性或有意义的定义牵涉到了AI社区目前使用的安全技术的完整性。我尤为自豪的是在“AI系统的全面风险评估和保证”以及“用于代码综合大型语言模型的危险分析框架”中，我揭示了关于安全和AI评估的虚假说法，并提供了关于弥合AI内的安全差距的具体步骤。

你如何应对男性主导的科技行业的挑战，以及男性主导的人工智能行业？

对于现状变化如此之小的认识并不常被讨论，但我相信对我和其他技术女性来说，理解我们在行业内的位置，并保持对所需变化的现实看法是非常重要的。自从我进入这个领域以来，女性的留任率和担任领导职务的比例基本保持不变，而那已经是十多年前的事情了。正如TechCrunch所指出的，尽管女性在人工智能领域取得了巨大的突破和贡献，但我们仍然被边缘化，无法参与我们自己定义的对话。认识到这种缺乏进展帮助我理解，建立一个强大的个人社群更有价值，作为一种支持来源，而不是依赖令人遗憾地没有推动改变的多元化、平等和包容性倡议，因为对技术女性的偏见和怀疑在科技行业仍然相当普遍。

您会给想要进入人工智能领域的女性什么建议？

不要依赖权威，并找到你真正相信的工作方向，即使它与流行的叙述相矛盾。考虑到目前人工智能实验室在政治和经济上的权力，有一种本能倾向于把人工智能“思想领袖”所说的一切都视为事实，然而往往情况是许多人工智能的声明都是夸大其词的营销用语，夸大了人工智能对利润的好处。然而，我看到许多初入行的女性在对自己的男性同行所作不可证实的主张表示怀疑时存在显著的迟疑。在科技领域，冒充者综合症对女性有着强大影响，并导致许多人怀疑自己的科学诚信。但是，比以往任何时候都更重要的是挑战那些夸大人工智能能力的主张，特别是那些在科学方法下不具有可证伪性的主张。

人工智能发展中面临的一些最紧迫的问题是什么？

尽管我们将观察到人工智能方面的进步，但它们永远不会是我们问题的唯一技术或社会解决方案。目前存在一种趋势，即无论其在许多领域的效果如何（或者缺乏效果），人们都试图把人工智能硬塞进每一个可能的系统中。人工智能应该是增强人类能力的工具，而不是取代人类，我们目前正目睹对人工智能潜在缺陷和失败模式的完全漠视，这导致了真正有形的伤害。就在最近，一个名为ShotSpotter的人工智能系统最近导致一名警官射击一个孩子。

人工智能用户应该注意哪些问题？

人工智能是多么不可靠。人工智能算法在需要精确、准确和安全关键的应用中普遍存在高错误率。人工智能系统的训练方式嵌入了人类的偏见和歧视，这些偏见和歧视会变成“事实”并自动化。这是因为人工智能系统的本质是基于历史数据的统计和概率推断和相关性提供结果，而不是基于任何形式的推理、事实证据或“因果关系”。

负责任地构建人工智能的最佳方式是什么？

为了确保人工智能的发展能够保护人们的权利和安全，需要建立可验证的声明，并要求人工智能开发者对其负责。这些声明还应当被限定为监管、安全、伦理或技术应用范围，并且不能被证明为虚假的。否则，就会存在明显的科学诚信缺失，无法对这些系统进行适当评估。独立监管机构也应当对人工智能系统根据这些声明进行评估，就像目前FDA对其他行业产品和系统所要求的那样。人工智能系统不应当免除旨在确保公众和消费者保护的标准审计程序。

投资者如何更好地推动负责任人工智能？

投资者应与并资助那些致力于建立和推进人工智能审计实践的组织合作。目前大部分资金都投入到人工智能实验室本身，认为他们的安全团队足以推动人工智能评估。然而，独立的审计师和监管机构对公众信任至关重要。独立性使公众可以信任评估的准确性和完整性，以及监管结果的诚信。