微软禁止美国警察部门使用企业人工智能工具
微软已经改变了其政策，禁止美国警察部门使用通过Azure OpenAI服务进行生成式人工智能，该服务是微软完全管理的、面向企业的OpenAI技术包装。
周三，在Azure OpenAI服务条款中新增了语言，禁止与Azure OpenAI服务集成被美国警察部门“通过或为他人”使用，包括与OpenAI的文本和语音分析模型进行集成。
新的一项单独规定涵盖了“任何全球执法机构”，明确禁止在移动摄像头上使用“实时人脸识别技术”，如随身摄像头和行车记录仪，试图在“无控制、野外”环境中识别一个人。
在艾科恩（一个为军事和执法部门制造技术和武器产品的公司）宣布利用OpenAI的GPT-4生成文本模型来总结身体摄像头的音频的新产品后，一周后的术语发生了变化。批评者迅速指出潜在的缺陷，例如幻觉（即使是当今最优秀的生成AI模型也会虚构事实）以及由训练数据引入的种族偏见（这尤其令人担忧，因为有色人种比白人同行更容易受到警察的拦截）。
目前尚不清楚Axon是否通过Azure OpenAI服务使用GPT-4，如果是的话，更新的政策是否是作为对Axon产品推出的回应。OpenAI之前已限制通过其API对面部识别模型的使用。我们已联系过Axon、微软和OpenAI，如果有回复，将会更新此帖。
新条款给微软留下了调整的空间。
对于Azure OpenAI服务的完全禁令仅适用于美国警方，而非国际警方。而且并不包括在受控环境中使用固定摄像头进行的人脸识别，比如后勤办公室（尽管条款禁止美国警方使用任何形式的人脸识别）。
这与微软及其密切合作伙伴OpenAI最近与AI相关的执法和国防合同的做法一致。
一月份，彭博社的报道揭示了OpenAI正在与五角大楼合作开展一系列项目，包括网络安全能力 - 这标志着这家初创公司放开了此前禁止向军方提供人工智能技术的限制。此外，微软还提出利用OpenAI的图像生成工具DALL-E，帮助国防部（DoD）建立软件以执行军事行动，根据《揭秘》的报道。
微软的Azure OpenAI 服务在今年二月份开始在微软的Azure政府产品中提供，增加了更多符合政府机构包括执法机构需求的合规性和管理功能。在一篇博客文章中，微软政府业务主管林佳斯承诺，Azure OpenAI 服务将会为支持国防部任务的工作负载“提交额外的授权”给国防部。
微软和OpenAI没有立即回复评论请求。
