人工智能领域的女性：Hugging Face全球政策负责人艾琳·索赖曼

为了让专注人工智能的女性学者及其他人物获得他们应得的——以及已经过期的——聚光灯下的时间，TechCrunch将推出一系列采访，聚焦那些对人工智能革命做出贡献的杰出女性。随着人工智能的繁荣持续发展，我们将在整个年度发布多篇文章，突出那些经常被忽视的重要工作。点击这里阅读更多相关人物介绍。

艾琳·索莱曼在OpenAI开始了她在人工智能领域的职业生涯，担任研究员和公共政策经理，领导了GPT-2的发布新方法，这是ChatGPT的前身。在Zillow担任人工智能政策经理近一年后，她加入了Hugging Face担任全球政策负责人。她的职责包括全球建立和领导公司的人工智能政策以及进行社会技术研究。

Solaiman还就人工智能问题向电气和电子工程师学会（IEEE）提供建议，并被认定为经济合作与发展组织（OECD）的知名人工智能专家。

艾琳·索莱曼，Hugging Face全球政策负责人。

简要说一下，你是怎么开始涉足人工智能领域的？是什么吸引了你进入这个领域？

在人工智能领域，非线性职业道路非常普遍。我的兴趣起初和许多社交技巧尴尬的青少年一样, 是通过科幻媒体培养起来的。我最初学习人权政策，然后开始修读计算机科学课程，因为我认为人工智能是一种解决人权问题、创造更美好未来的手段。能够在一个充满未解问题和未走路径的领域进行技术研究和制定政策，让我对工作充满激情。

您在人工智能领域最自豪的工作是什么？

我最引以为傲的是，当我的专业知识与人们在人工智能领域产生共鸣，特别是我在复杂的人工智能系统发布和开放性方面的写作。看到我的论文关于人工智能发布梯度框架的技术部署引发了科学家之间的讨论，并被用于政府报告中，这让我很有信心——也是我在正确的方向上努力工作的一个好迹象！就个人而言，我最受到激励的一些工作是关于文化价值调整的，这是为了确保系统在部署的文化中发挥最佳作用而专注于的。和我令人难以置信的合著者，现在我亲爱的朋友克里斯蒂·丹尼森一起，我们致力于为社会调整语言模型的过程，这是一个全心投入（和许多调试小时）的项目，塑造了今天的安全和调整工作。

你如何应对男性主导的科技行业挑战，同时也包括人工智能领域男性主导的情况？

我已经找到，并仍在寻找，我的同行 — 与关心我同样重视的问题的出色公司领导一起工作，与我可以在每次工作会议开始时进行微型疗法会话的出色研究合著者。亲和团体在建立社区和分享技巧方面非常有帮助。交叉性是需要强调的重点；我身边的穆斯林和BIPOC研究人员社区不断给我启发。

你会给想进入人工智能领域的女性什么建议？

有一个支持团体，他们的成功也是你的成功。用年轻的说法，我相信这就是所谓的“闺蜜”。我和这些女性以及盟友们一起进入这个领域，他们是我最喜欢一起喝咖啡和在截止日期前深夜恐慌电话的人。我读过的最好的职业建议之一来自Arvind Narayan，在之前被称为Twitter的平台上建立了“连姆·尼森原则”，即不一定是最聪明的，但拥有一套特定的技能。

随着人工智能的发展，面临的一些最紧迫的问题是什么？

最紧迫的问题本身在不断发展，因此元答案是：为了所有人实现更安全系统的国际协调。使用和受到系统影响的人们，即使在同一个国家，也有各种各样的偏好和对自身安全的定义。而出现的问题不仅取决于人工智能的发展情况，还取决于其部署的环境；不同地区的安全优先事项和我们对能力的定义也存在差异，比如在数字化程度更高的经济体中，关键基础设施遭受网络攻击的威胁更大。

AI用户应该注意哪些问题？

技术解决方案很少能全面解决风险和危害。虽然用户可以采取措施提高人工智能素养，但重要的是投资于多种风险防范措施的发展。例如，我对水印技术作为技术工具的研究感到兴奋，我们还需要协调政策制定者就生成内容分发提供指导，尤其是在社交媒体平台上。

如何负责任地建造人工智能？

随着受影响的人们不断重新评估我们评估和实施安全技术的方法。有益的应用和潜在危害不断演进，并需要迭代反馈。我们改进人工智能安全性的方式应作为一个领域进行集体审查。2024年模型的最受欢迎评估比我2019年运行的要强大得多。如今，我对技术评估比红队演练更有信心。我发现人类评估非常有用，但随着出现越来越多关于人类反馈的精神负担和不同成本的证据，我越来越看好评估标准化。

投资者如何更好地推动 AI 的责任化发展？

他们已经在积极参与安全和政策对话，包括通过公开信和国会证词。看到许多投资者和风险投资公司参与其中，我感到高兴。我渴望听到更多投资者在激发各行业小企业发展方面的专业知识，尤其是在看到越来越多非核心科技行业利用人工智能的情况下。