在周三欧洲议会的投票中,377 名代表 他们支持一项决议 这限制了执法部门对面部识别的使用。据记录,248 票反对,62 票弃权。
“基于人工智能的识别系统已经错误识别少数族裔群体、LGBTI、老年人和女性的比例更高。在执法和司法部门进行监视的情况下,这一点尤其令人担忧。”议会的一份声明中写道。
不透明的算法,审问式监视
为了确保在使用这些技术时基本权利得到尊重,算法应该是透明的、可追溯的并有充分的文件记录。 在可能的情况下,公共当局应使用开源软件以提高透明度。
欧盟议会声明
好消息是大多数欧盟政治代表都做出了这一评估。谁不想在公共场合使用面部识别技术对人们进行自动大规模监控。监控应仅限于那些被认为违法的人。私营公司积累的数据集也应该被禁止,例如 明视人工智能,以识别公民。 事实上,即使是允许警察使用的系统也能阻止 预测犯罪 从人们的行为和背景来看。
以下是欧盟议会关于面部识别和大规模监控的评论:
“基本权利是无条件的,”他说 彼得·维塔诺夫,代表保加利亚社会党的欧洲议会议员。 “我们有史以来第一次呼吁暂停部署用于监视和执法目的的面部识别系统,因为该技术已被证明无效,并且经常导致歧视性结果。”
我们显然反对基于人工智能和任何导致大规模监视的生物识别数据处理的预测性警务。这是所有欧洲公民的伟大胜利。
彼得·维塔诺夫, 环境保护部
投票不具有约束力,因此它不能直接导致任何立法变更。它被提升为欧洲议会的“脉搏”,并了解议员是否可以支持即将出台的法律,例如《人工智能法案》。其中的意图还包括禁止在边境管制处使用生物识别数据来追踪欧洲的旅行者。
仍然不完整的技术的失败
慷慨地说,这些监视算法的增长速度非常快,并且数据集不完整。面部识别歧视很常见(想想 Facebook 算法识别为“猴子”的人)。目前,有色人种更容易被面部识别认证机制误认。还有一种是忽冷忽热的:它就是 Uber 算法。
英国一名黑人优步司机因面部识别系统无法识别他的身份而被该打车应用程序屏蔽,导致他失去了工作,目前他正在对这家科技巨头采取法律行动。它将得到英国独立工人联盟 (IWGB) 的支持,该联盟呼吁举行 24 小时罢工,要求改变工作方式。
他说:“Uber 继续使用对有色人种无效的面部识别算法,这是一种歧视。” 亨利·昌戈·洛佩兹,IWGB秘书长。