走佬百货因错误辨认顾客为扒窃者而被禁止使用人脸识别软件

据美国联邦贸易委员会（FTC）发现，美国药店巨头Rite Aid滥用人脸识别软件，使顾客受辱并将他们的“敏感信息置于风险之中”。因此，该公司将被禁止使用人脸识别软件五年。

美国联邦贸易委员会（FTC）的指令需要莱特艾德在十月申请破产保护后经过美国破产法庭的批准，同时删除其人脸识别系统中收集的任何图像，以及基于这些图像构建的任何产品。该公司还必须实施强大的数据安全程序以保护其收集的个人数据。

《路透社》2020年的一篇报道详细介绍了这家药店连锁店在2012年开始的八年期间，在约200家美国门店秘密引入了面部识别系统，其中“主要以低收入、非白人社区”作为技术试验基地。

随着联邦贸易委员会（FTC）越来越重视生物识别监控的滥用问题，莱特艾德（Rite Aid）已成为政府机构的关注对象。其中的指控之一是，莱特艾德与两家合作公司合作，创建了一个“观察名单数据库”，其中包含了公司声称在其某家店铺参与了犯罪活动的顾客的照片。这些照片经常是质量较差的，是从闭路电视摄像头或员工的手机相机中捕捉到的。

当一位顾客进入一家商店，据说与其数据库中已有的图片相匹配时，员工会收到自动警报，指示他们采取行动 - 大部分时间，这个指令是“接近并确认身份”，即核实顾客的身份并要求其离开。经常情况下，这些“匹配”是错误的阳性结果，导致员工错误地指责顾客有不当行为，给予顾客“尴尬、骚扰和其他伤害”，根据FTC（美国联邦贸易委员会）的说法。

“员工根据虚假的阳性警报行事，跟随顾客在商店内盯梢，搜查顾客，要求他们离开，召唤警察来对抗或驱逐顾客，并且公开指责他们，有时在朋友或家人面前指控他们偷窃或犯其他错误行为，”投诉书中写道。

此外，美国联邦贸易委员会称，莱特艾德未能告知顾客他们正在使用面部识别技术，同时还指示员工切勿向顾客透露这一信息。

对峙，勒索

在AI驱动的监控时代中，人脸识别软件已成为最具争议的方面之一。在过去的几年里，我们看到城市对该技术实施了广泛禁令，同时政治家们争取对警方利用该技术进行监管。与此同时，Clearview AI等公司因人脸识别技术涉及的重大数据隐私泄露而在全球范围内面临诉讼和罚款。

美国联邦贸易委员会（FTC）对莱特艾德（Rite Aid）的最新调查结果还揭示了人工智能系统内在的偏见。例如，FTC称莱特艾德未能降低对特定种族消费者的风险 - 调查结果指出，该公司的技术“在黑人和亚洲社区占多数的商店中更容易产生误报，而在白人社区占多数的商店中则不太容易产生误报。”

此外，联邦贸易委员会表示，莱特艾德在部署面部识别系统之前或之后未能对系统的准确性进行测试或测量。

在一份新闻稿中，Rite Aid表示“很高兴与联邦贸易委员会达成协议”，但对指控的核心持有异议。

"这些指控涉及公司在少数门店部署的人脸识别技术试点项目，"莱特艾德在其声明中表示。"莱特艾德在超过三年前就停止在这些少数门店使用这项技术，早于联邦贸易委员会对公司使用该技术展开调查之前。"