根据《华盛顿邮报》及相关媒体的报道,近期美国三大科技公司IBM、亚马逊和微软先后发表声明,表示将限制警察部门使用其人脸识别技术,直到国会立法部门出台联邦层面的法律对人脸识别技术的使用进行规范。
基本情况概要
随着社会各界对种族偏见的担忧加剧,尤其是近期非裔黑人弗洛伊德在警察执法中不幸去世,引发美国国内民众对警察种族歧视、暴力执法的强烈不满,开始纷纷指责警察的执法和办案方式,首当其冲的便是备受争议的“人脸识别技术”。抗议者们指出,人脸识别技术能够精准识别出有色人种,并向警方和科技公司施压,要求暂停使用该技术。
顺应社会呼声,美国多家科技巨头企业表态将暂停为美国警方提供人脸识别技术,以避免警方在执法存在的偏见。其中,亚马逊宣布暂停警方使用其人脸识别技术一年。亚马逊表示:“我们提倡政府应制定更严格的法律以规范人脸识别技术的道德使用,最近几天国会似乎已准备好应对这一挑战。我们希望这为期一年的暂停可以使国会有足够的时间制定适当的规则,我们随时准备根据要求提供帮助。”与此同时,亚马逊仍将允许Thorn、国际失踪与受虐儿童中心以及 Marinus Analytics等组织使用其人脸识别技术,以帮助这些组织营救人口贩卖中的受害者并寻找失踪的儿童等。
微软表示希望加强人权保护。微软总裁布拉德·史密斯指出,除非有基于人权保护的联邦法律规范人脸识别技术,否则该公司不会将其提供或出售给警察部门使用,微软的底线是在使用这项技术时保护人们的基本权利。在6月10日的《华盛顿邮报》活动上,史密斯表示,该公司尚未将其面部识别技术出售给警察部门。根据《华盛顿邮报》的消息,微软和亚马逊都只是在声明中表示暂停与警方合作,是否会禁止美国移民局和海关执法局等其他政府机构部署面部识别技术还不得而知。
另外一家科技巨头公司IBM则特别提到了人脸识别技术使用中的偏见问题。IBM首席执行官Arvind Krishna在给国会的信中谈到了“种族司法改革”,称该IBM已经停止了通用型人脸识别和分析软件产品的销售,IBM坚决反对并且绝不容忍将任何技术(包括其他供应商提供的人脸识别技术)用于大规模监视、种族歧视、侵犯基本人权或者与其价值观相抵触的任何目的。IBM同时指出:“我们认为现在是时候开始关于国内执法机构是否应该使用面部识别技术以及如何使用人脸识别技术的全国性对话。”
人脸识别争议已久
人脸识别技术的应用已经有很长一段时间了,其间争议不断。早在2016年,亚马逊公司就推出了人脸识别软件Rekognition,作为亚马逊云服务业务的一部分。该技术本质上是一种匹配算法,用户可以通过标记存储在其服务器上的图像来训练该服务从人群中找出个人,其面部识别技术可以扫描其他照片和视频来检测特定的个人。面部识别的准确性通常取决于上传和标记的图像和视频的质量,并且收集的数据越多,技术越成熟。亚马逊在推出人脸识别服务时曾表示,俄勒冈州华盛顿县警方已经试点该技术指认嫌疑人。
警用人脸识别技术一直存在争议。公众的担心在于,一方面,警方使用面部识别并不能精确地找到罪犯,因为一些人的长相只是和视频图像相似而已;另一方面,有研究表明,相对于白人,面部识别系统更容易识别错有色人种。美国公民自由联盟(ACLU)曾使用亚马逊的这款人脸识别软件进行了一项实验,他们扫描了全部535名美国国会议员的照片,并将它们与25000张警方公开的罪犯面部照片进行了比对,系统错误地将28名国会议员的照片与罪犯面部照片进行了配对——错误率达到5.2%。更为严重的是,测试表明,对于皮肤较黑的人和女性,人脸识别通常不太准确。虽然对于整个国会来说,错误率是5.2%,但对于非白人的国会议员,错误率达到39%。
美国国内的批评者认为:人们有权不被政府监视,并在街上自由行走。通过自动监视人群,像Rekognition这样的人脸识别系统会威胁到这种自由权利,尤其是对那些在现有政治背景下已经被不公正对待的社区和族群,一旦这些强大的监控系统建成并部署开来,后患无穷。
未来规范调整的方向
近年来,美国公民自由联盟等民权组织多次指出人脸识别技术服务的应用会引发公民自由和公民权利担忧,并警告说虽然人脸识别系统的功能很强大,但它们也可能存在偏见。从2019年开始,美国一些州已经开始限制使用人脸识别技术。例如加利福尼亚州于2019年10月签署了《身体摄像机责任法案》,该法禁止执法机构或执法人员安装、激活或使用任何与执法人员摄像机或摄像机收集的数据有关的生物特征监视系统。立法指出,人脸识别和其他生物识别监视技术对居民和访客的公民权利和公民自由构成了独特而重大的威胁。与此同时,亚马逊的合作伙伴俄勒冈州华盛顿县也主动暂停了人脸识别项目,该办公室表示,人脸识别是一项值得探索的执法技术创新,但在有更严格监管之前,其将无限期搁置此项目。
目前,民权组织和私营部门都在推动制定规范人脸识别技术的联邦法律。参议员Jeff Merkley和Cory Booker 于2月12 日提出了《人脸识别伦理使用法案》(Ethical Use of Facial Recognition Act),该法案将暂停所有联邦对人脸识别技术的使用,直到国会通过相关立法为止。此外,今年早期美国众议院共和党领导层公布的新兴技术议程中也包含了一部涉及人脸识别的法案,即由共和党众议员Buddy Carter领导提出的《推进人脸识别法案》(Advancing Facial Recognition Act),该法案拟确保在人脸识别技术的发展中保护消费者权益,识别并缓解风险。
总结来看,美国官方和民间对使用人脸识别技术的态度开始转向谨慎,预计未来将会出台相关立法对该技术的使用进行明确规范。
本文系中国信息通信研究院互联网法律研究中心团队原创作
声明:本文来自CAICT互联网法律研究中心,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。