人工智能中的女性：Urvashi Aneja正在研究人工智能在印度的社会影响

为了让以人工智能为重点的女性学者及其他人得到应有的关注，TechCrunch将推出一系列采访，重点关注那些为人工智能革命做出贡献的杰出女性。随着人工智能的蓬勃发展，我们将在全年发布多篇文章，突出那些常常被忽视的重要工作。点击这里阅读更多人物介绍。

Urvashi Aneja是数字未来实验室的创始主任，这是一个跨学科研究项目，旨在研究全球南方科技与社会的互动。她还是总部位于伦敦的独立政策研究机构查塔姆研究所亚太计划的副研究员。

Aneja目前的研究重点是印度算法决策系统的社会影响，以及平台治理。Aneja最近撰写了一项关于印度人工智能当前使用情况的研究，审查了包括警务和农业在内的各个领域的使用案例。

问答环节

简而言之，你是如何开始涉足人工智能领域的？是什么吸引你进入这个领域的？

我在人道主义领域的研究和政策参与开始了我的职业生涯。多年来，我研究了数字技术在资源匮乏环境中的持续危机中的应用。我很快意识到，在处理易受伤者时，创新和试验之间存在微妙的界限。通过这种经验，我深感担忧围绕数字技术尤其是人工智能的潜力，技术至上主义的叙事。与此同时，印度启动了数字印度使命和人工智能国家战略。我对主流叙事深感困扰，那些将人工智能视为解决印度复杂社会经济问题的灵丹妙药，并对这个问题完全缺乏批判性讨论。

您在人工智能领域最为自豪的工作是什么？

我感到自豪的是，我们已经成功引起了人们对人工智能生产的政治经济学以及对社会正义、劳工关系和环境可持续性的更广泛影响的关注。通常，关于人工智能的叙述集中在特定应用的收益上，最好的情况是，关注该应用的好处和风险。但这种视角忽略了大局 —— 以产品为导向的视角掩盖了更广泛的结构性影响，比如人工智能对认识正义、劳工技能降低以及在绝大部分地球上大权无法归责所起的作用。我还为我们将这些关注转化为具体政策和规定感到骄傲 —— 无论是为公共领域中人工智能使用设计采购指导方针还是在全球南方对大科技公司提供证据的诉讼中。

你如何应对男性主导的科技行业以及男性主导的人工智能行业的挑战？

通过我的作品来说话。然后不断地问自己：为什么？

您会给想进入人工智能领域的女性什么建议？

不断发展你的知识和专业技能。确保你对问题的技术理解是扎实的，但不要狭隘地只关注人工智能。相反，广泛学习，这样你就能跨领域和学科建立联系。很多人并不理解人工智能是一个由历史和文化构成的社会技术系统。

随着人工智能的发展，面临的一些最紧迫的问题是什么？

我认为最紧迫的问题是少数科技公司集中权力的现象。虽然这并不是新问题，但随着大型语言模型和生成式人工智能的新发展，这个问题变得更加严重。许多公司现在正在制造关于人工智能存在性风险的恐惧。这不仅分散了对现有危害的注意力，还会将这些公司定位为解决与人工智能相关危害的必要角色。在许多方面, 我们正在失去一些跟随剑桥分析事件后产生的“科技批判”动能。在印度等地方，我也担心人工智能被定位为社会经济发展的必要条件，进而提供跨越长期挑战的机会。这不仅夸大了人工智能的潜力, 还忽视了遗漏出发展需要建立保障措施的机构。我们现在没有认真考虑的另一个问题是人工智能的环境影响 - 当前的发展轨迹可能是不可持续的。在当前生态系统中, 最易受气候变化影响的人很可能不会成为人工智能创新的受益者。

人工智能（AI）用户应该注意哪些问题？

用户需要意识到，人工智能并不是魔术，也不接近人类智能。它是一种计算统计形式，有许多有益的用途，但最终只是基于历史或先前模式的概率猜测。我相信用户还需要注意其他一些问题，但我想警告大家，我们应该警惕试图将责任转嫁给用户的尝试。我最近看到这种情况最为明显，即在大多数世界的低资源环境中使用生成式人工智能工具 —— 而不是谨慎对待这些实验性和不可靠的技术，焦点常常转移到最终用户，例如农民或一线卫生工作者，需要提升技能水平。

负责任地构建人工智能的最佳方式是什么？

首先必须评估AI的需求。是否有一些只有AI能够解决的问题，或者还有其他可行的方法？如果我们要构建AI，是否需要一个复杂的黑匣模型，或者一个更简单的基于逻辑的模型也可以做得很好？我们还需要把领域知识重新置于构建AI的中心地位。在对大数据的迷恋中，我们牺牲了理论——我们需要基于领域知识构建变革理论，这应该是我们构建模型的基础，而不仅仅是大数据。当然，这还要考虑到参与、包容的团队、劳工权利等关键问题。

投资者该如何更好地推动负责任的人工智能发展？

投资者需要考虑人工智能生产的整个生命周期，而不仅仅是人工智能应用的输出或结果。这将需要考虑一系列问题，比如劳动是否得到公平评价、环境影响、公司的商业模式（即是否基于商业监控）以及公司内部的问责措施。投资者还需要要求更好更严谨的证据来证明人工智能所带来的潜在好处。