Francine Bennett利用数据科学让人工智能更加负责任
为了给以人工智能为重点的女性学者和其他人他们应得的——而且是过去拖延的——光明之中，TechCrunch 正在推出一系列采访，专注于为人工智能革命做出贡献的杰出女性。随着人工智能的繁荣持续发展，我们将在今年内发布几篇文章，突出展示通常被忽视的重要工作。在这里阅读更多个人简介。
弗朗西恩·贝内特是艾达·洛芙蕾斯学院的董事会创始成员，目前担任该机构的代理主任。在此之前，她曾在生物技术领域工作，利用人工智能寻找罕见疾病的医疗治疗方法。她还共同创办了一家数据科学咨询公司，并是DataKind UK的创始受托人，该组织帮助英国慈善机构进行数据科学支持。
简单来说，你是如何开始涉足人工智能领域的？是什么吸引你进入这个领域的？
我起初只对纯数学感兴趣，不太关注应用领域 - 我喜欢玩弄电脑，但认为任何应用数学只是计算，并不太有智力上的趣味。后来，当我和其他人一样意识到数据在许多领域变得更加丰富时，我开始接触人工智能和机器学习，看到这为我们提供了在全新的方式下利用AI和机器学习来解决各种问题的激动人心可能性，并且这些比我之前意识到的更有趣。
在AI领域，你最自豪的工作是什么？
我最自豪的是那些技术上并不是最复杂的工作，但却为人们带来了真正的改善 - 例如，利用机器学习尝试在医院的患者安全事故报告中找到以前没有注意到的模式，以帮助医学专业人员改善未来患者的预后。我为代表人民和社会的重要性而自豪，而不是以技术为中心，比如在今年的英国人工智能安全峰会上。我认为这只有通过权威才可能做到，因为我既有与技术一起工作的经验，又对技术感到兴奋，并深入了解它在实践中如何影响人们的生活。
您如何在男性主导的科技行业和人工智能行业中应对挑战？
主要是通过选择在对个人和其技能感兴趣的地方和与人合作，而不是过于关注性别，并且利用我所具有的影响力来使这种选择成为常态。另外，尽可能在多元化团队中工作 - 在一个平衡的团队中，而不仅仅是一个“少数族裔”的例外，会营造一种完全不同的氛围，并且让每个人更有可能发挥潜力。更广泛地讲，由于人工智能如此多面，很可能会对许多生活领域产生影响，特别是对边缘社区的人们，很明显，来自各行各业的人都需要参与其中，才能使其良好运作。
你会给那些希望进入人工智能领域的女性做什么建议？
享受它！这是一个非常有趣、挑战智力的、变化无穷的领域 - 你总是会发现一些有用的、充满挑战的事情去做，而且还有许多重要的应用，甚至还有一些人没有想到的。此外，不要过分担心需要了解每一个技术细节（实际上没有人知道每一个技术细节） - 只需从你感兴趣的事情开始，然后从那里开始。
随着人工智能的发展，面临的一些最紧迫的问题是什么？
目前，我认为我们缺乏对人工智能在社会中可以做什么和不能做什么以及我们希望它为我们做什么的共同愿景。目前正在进行很多技术进步，这很可能会对环境、财政和社会产生很高的影响，人们对推出这些新技术充满了兴奋，但却缺乏对潜在风险或意外后果的深刻理解。大多数建造技术和讨论风险和后果的人都来自一个相当狭窄的人群。我们现在有一个机会窗口，可以决定我们希望从人工智能中看到什么，并努力实现这一目标。我们可以回想其他类型的技术以及我们如何处理它们的发展或者我们希望做得更好的地方-对于人工智能产品，我们跟新车的碰撞试验有什么等价物；让不小心给你食物中毒的餐馆承担责任；在规划许可期间咨询受影响的人群；像对待人类官僚一样上诉人工智能的决策。
人工智能用户应该注意哪些问题？
我希望使用人工智能技术的人能够对这些工具有信心，知道它们能做什么，并且讨论他们对人工智能的期望。人们往往会把人工智能视为一种无法预知和无法控制的东西，但实际上它只是一个工具集，我希望人类能够掌控如何使用这些工具。然而，这种责任不应该只是使用这项技术的人的责任，政府和工业部门应该创造条件，让使用人工智能的人能够自信地使用。
在负责任的前提下，如何最好地构建人工智能？
在艾达·洛芙莱斯学院，我们经常提出这个问题，旨在让数据人工智能造福人民和社会。这是一个棘手的问题，有很多角度可以探讨，但就我个人而言，有两个非常重要的方面。
首先，有时候要愿意不去建立或停止。我们经常看到拥有巨大势头的人工智能系统，那些建造者试图在事后添加“防护栏”来减轻问题和伤害，但却没有让自己处于可能停止的情况下。
第二点是要真正与各种人接触并努力理解他们将如何体验到你所构建的东西。如果你能真正融入他们的体验中，那么你就更有可能开发出积极负责的人工智能——基于对好的共同愿景的建立，真正解决人们的问题，同时避免负面影响——不会因为某人的日常生活与你的生活方式非常不同而意外地使他们的生活变得更糟。
例如，阿达·洛夫莱斯研究所与英国国民健康服务系统合作开发了一种算法影响评估，作为开发者获取医疗数据权限的条件。这要求开发者在实施之前评估其人工智能系统可能对社会造成的影响，并融入可能受到影响的个人和社区的生活经验。
投资者如何更好地推动负责任人工智能发展？
通过询问关于他们的投资和可能未来的问题 - 对于这个AI系统而言，工作得很出色并且负责任是什么样的？事情会出现什么问题？对人和社会的潜在连锁反应是什么？如果我们需要停止建设或大幅变更事物，我们如何知道，然后我们会怎么做？没有一种适合所有的解决方案，但通过提出这些问题并发出负责任很重要的信号，投资者可以改变他们的公司放在哪里的关注和努力。
