简言之
对于计数使用场景,可径行要求企业摒弃人脸识别技术的运用。
在这个场景中,部分企业声称识别人脸只是为了统计人流中特定个体之间相互不重复,常见的如厕所取纸张要求人脸识别,避免有人重复拿纸。【当然,在此暂时不考虑这种应用违规留存人脸信息,并用于算法训练的目的】
对于认证、识别场景可以适用个人信息保护中“知情-同意”和个人敏感信息的框架予以规制。
所谓的认证场景,是指为了证明“我是我”,例如进入火车站需要人脸识别,在机场办理临时身份证等。
所谓的识别场景,是指企业或公权力机关事先存有了一份用户的数据库清单,利用人脸识别技术,迅速地将识别对象与事先存有的用户数据库中的记录对应起来。例如新零售场景中,企业运用人脸识别技术识别走进店铺的用户,并向销售人员推送此用户此前的喜好和购物习惯等。
监控场景之下,需要考虑公权力利用人脸识别技术开展全景式监控的正当性和比例性。
所谓的监控场景,本质上就是识别+追踪。例如新零售场景中,识别出存量用户之后,继续跟踪其在货架或区域的停留时间等,进一步分析其关注点和兴趣。在企业监控场景中,用户还可以用“知情-同意”这样的经典框架来拒绝或者对抗。
但在日益增多的公权力监控场景中,个人是没法拒绝的。例如智慧城市项目,以及北京市地铁人脸识别项目等。此时,仅仅从个人信息保护的框架去讨论,显然没有全部抓住问题的本质,还需要从公权力行为的正当性、比例性去考虑。【相关内容见:解读世界首例警方使用人脸识别技术合法性判决】
也正是从这个角度,美国有不少城市禁止公权力部门采用人脸识别技术。例如伊利诺伊州、华盛顿州、德克萨斯州和俄勒冈州和新汉普郡、加利福尼亚州旧金山市、马萨诸塞州的萨默维尔市等。
用于伪造目的,需要从肖像权或者创设新的法律框架。
目前国外,特别是美国,对利用人脸识别技术形成的“deepfake”非常关注,也提出了不少新的法律草案。这些法律草案的特点是:不仅仅从肖像权角度去保护被伪造对象,更关注伪造后的传播带来的负面影响。美国这方面的尝试,值得我们关注。
窥探场景,可以适用传统人格权或隐私保护的框架。
所谓的窥探场景,典型的例如从人脸去分析性取向,从人脸去分析心理状态和个性以判断是否可以入职、升迁等,利用人脸识别技术捕捉微表情等判断心理活动(例如课堂监控)。这样的场景,人脸识别技术相当于一把利剑,戳开了保护我们隐私的各种“帷幕”。因此在这个场景中,我们甚至应该考虑微调“技术中立”的原则,在特殊的情形中,考虑对人脸识别技术的运用设置黑名单。
此外,在刚刚结束的数据保护官沙龙(DPO)第十八期上,我们讨论了生物识别信息的安全保护,非常精彩,会议纪实见:第十八期DPO沙龙纪实:生物识别信息的安全保护
发言实录
工作中为什么会碰到人脸呢?因为起源于两件事情,一个是很多老百姓给我们举报,我们建了一个举报平台,在微信上大家可以很方便的举报。现在接到的举报超过1万多个,实名的、有效的举报涉及了2000多款APP,我们现在完成了对其中600多款APP测试,然后我们发现,老百姓很烦注销的时候需要拿身份证放在自己的胸前拍一张照,注册的时候不需要,但是注销账户的时候反而需要。然后他们就问我们,企业要求我们这样合不合法?老百姓朴素的感觉是违规的,这是我们第一次注意到了人脸这个事情,因为老百姓朴素的觉得人脸和身份证照片传到了企业,企业说用于注销,谁知道这张照片后续会用于什么,因为强认证场景下,比如银行开户也只要这样就够。这是第一个问题引起我们的注意。第二个问题就是换脸软件,比如ZAO那次风波。这两件事情引起了我们的关注,大家其实对换脸这个东西是非常关注的,我们也开了很多的研讨会,实际上越来越发现老百姓对酒店的刷脸也很反感,他说以前不需要,现在也都需要。现在走在大街上,到处都有公共摄像头,也很反感,很多专家自己也很反感。总体上梳理人脸图像、人脸识别技术,我自己梳理有四个主要方面,实际上不限于这四个,至少我还能举出两个。
第一个,用于计数的目的。比如,厕所需要刷人脸来拿厕纸。我们跟做这个的公司有过打交道,他说其实我只是要识别这个人不是上一个人,不是老来拿厕纸就行了,他不在乎我是谁,他只要知道在某个时间段之内,我不是经常来拿厕纸就行了。等于说他是为了计数用,他不是为了知道我到底是洪延青还是汪庆华,不要这个目的。我说怎么不能用手机或者说指纹?他说你看刚上完厕所没人愿意去按这个东西,厕所对吧?天天在那按的话,让你上去按,你可能也不愿意。那电话号码呢?他说一般厕所的信号不太好,对吧?单次认证不好弄,他说我们想来想去好像只有人脸是比较好的,其实他不是为了知道我们是谁,我的身份是什么,他不需要,他只是要知道这是个独特个体就行。但实际上我们交流完之后,他们在自己为数不多的屏幕里头加了一个隐私政策,说我这个会对你的人脸怎么样,但实际上他是想拿这个人脸去做算法的训练,但是他肯定是没有说的很清楚。假设他没有那个目的,我们就单纯从那个场景来说,人脸识别的技术有一个目的,有一个场景的用途,就是用于计数而已,他没有更多的目的。
第二种,用于认证。我在杭州听了胡凌老师讲的认证,我就用他这个词,认证就是说我要是识别出我是我,比如现在坐高铁,只要人脸和身份证,去机场快速通道也只要那样的东西,他是为了证明你是你我是我这个目的。
第三个,用于识别。我为什么把认证和识别区分开,比如说新零售,银行的跟我介绍,他们现在在营业网点里头装了很多摄像头,摄像头能自动识别,然后就知道数据库里头是不是命中了他某个VIP大客户,如果命中的话,银行会给大堂经理发一个短信,说老总进来了,他过去在我们这里办了什么业务,接下来可能会办什么业务,大堂经理就会主动地迎上去,把他引到VIP的房间去,这是识别。识别是什么意思?企业背后有一张单子,等于说他有个数据库,为了把现实中的某个人对到他数据库中去叫识别他的会员或者VIP客户。企业能做这个事儿,政府肯定更在做,张学友演唱会里,某个人命中了逃犯库,这其实就是识别,这是第三种场景。
第四种场景是用于监控,其实是糅合了识别和跟踪这两个目的,我把它合起来叫监控。监控的话,企业在做,例如新零售场景中,识别出存量用户之后,继续跟踪其在货架或区域的停留时间等,进一步分析其关注点和兴趣,比如某个企业在线下开了一个店,他肯定要知道洪延青在某个架货架前停了多久,他买了什么东西,他过去有什么习惯,然后我的商品摆放的合不合理,怎样逐步引起他的关注,他也想知道有孩子的父母一般的购物习惯是怎么样的。实际上监控在虚拟的场景早就有了,我们在每一个网页上停留的次数和时间,消费者从某个网页跳转到下一个网页等等,实际上这就是一个监控,只不过在现实中他用人脸很方便。当然企业能做的话,政府也在做,政府在做智慧城市,公安也在做监控。
第五个,伪造。这个场景中不一定叫做人脸识别,就是人脸的运用,它可以用作于伪造,这是第五种场景。
还有一种场景,直接通过人脸的特征来识别你的性取向,你的心理状态,微表情的捕捉,这是第六种框架。国外有很多研究,通过唇距和鼻子脸型和眼距的搭配,它能90%多识别出你这个人到底是不是一个同性恋取向,这个靠人脸就能做。
这六个不同的场景要用不同的框架去规制。比如说计数,不需要用到个人信息保护的框架,可径行要求企业摒弃人脸识别技术的运用,为了区别计数你可以用别的方式,就刚才说的指纹或者说手机号等等。如果说真的不让他用人脸做的话,他肯定能想出别的方式的。认证和识别,就涉及到传统上个人信息保护的框架,从最开始的告知,接下来是同意,第三个是有没有目的限定,有没有数据最小化,有没有删除和更正的权利,然后你给第三方的话是不是要经过我的授权同意等等,实际上这样的框架能够解决2和3场景中的适用。第四个,用于公权力监管,如果单纯用个人信息保护的经典框架去理解它的话,难以面对公权力。在企业监控场景中,用户还可以用“知情-同意”这样的经典框架来拒绝或者对抗。但是政府在做智慧城市,你没得选,你只能去接受这个事情。我们有没有足够的公众讨论这个事情。这也是为什么在美国,基本上城市这个层面,会要求公权力部门不得用人脸识别技术去跟踪,所以我觉得第四应该用另外一个框架去了解它,去讨论这件事情。第五个,深度伪造,需要从肖像权或者创设新的法律框架。目前国外,特别是美国,对利用人脸识别技术形成的“deep fake”非常关注,也提出了不少新的法律草案。这些法律草案的特点是,不仅仅从肖像权角度去保护被伪造对象,更关注伪造后的传播带来的负面影响。美国这方面的尝试,值得我们关注。第六个,通过人脸来窥探到性取向或者心理上的微表情。比如我坐在这,监控探头在看着,可能我装的很认真的在听,但我是走神的状态,我眼神和微表情跟认真的状态是不一样的,汪老师可能收到一个短信,说下面那个人貌似眼睛睁着,但实际上是在睡觉。我觉得也不一定非要用个人信息保护的框架去规制,可以用人格尊严或者传统上的人格权保护方式去讨论。我梳理出这5到6个场景,我们不要全从个人信息保护的角度去看,它有更多的面向,然后在这个基础上,我们去更加全面的认识人脸识别。
再扩展一步,人脸识别它就是一个技术,主要是要规范它用在什么场景,而不一定是非要限制技术本身。当然存在例外,要不要允许用人脸识别去识别性取向这个事儿,可能要对技术有个黑名单。就像《个人信息保护法》,一般来说没有禁止不得收集某一类型的信息,包括《GDPR》那么严,也只是说收集特殊类型的个人信息需要额外的更高的标准,但也没有说不得收集。但是唯独在征信业条例里,种族、血型这种信息不得用于征信目的,等于说,在征信业是不能收这种信息的,这是很少见的。反过来说,面对技术中立的呼声,在某些特殊领域可能我们需要再往前走一步,不能认为它是中立的,还要认为技术没必要去用于这个领域,等于说直接去做这么一个判断,但这种判断一般会很少下,因为企业或者科研人会说需要科研探讨,不能一概的禁止我去探讨科学这个事情。科研人员和企业会说技术中立。
讲了这么多,实际上就两个角度,一个是,人脸识别需要划分不同场景,应该有不同的框架去认识它、解释它和规制它。第二个,技术中立,大部分情况是这样,但是在少数情况下我们需要禁止它。我主要说这两个,谢谢大家。(洪延青)
声明:本文来自网安寻路人,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。