2018年12月3日，第七届北大-斯坦福互联网法律与公共政策论坛在深圳成功举办。
本次的论坛的第三个环节，针对最近几年全球关注的热点话题，专门设置了未成年人网络保护专场。
会上，美国家庭网络安全研究所创始人与首席执行官Stephen Balkam，英国数字、文化、媒体与体育部网络安全司副总监Orla MacRae，北京大学法学院教授王锡锌，韩国青少年政策研究院高级研究员Chang Geun Young，腾讯研究院副院长杨乐，就「未成年人网络保护」展开讨论。
共同探讨了未成年人网络保护热点、难点问题的解决思路，分享了各国在未成年人网络保护领域面临的问题和具体实践，对国内企业和行业在相关领域的发展也提出了一些建议。
美国家庭网络安全研究所创始人与首席执行官 Stephen Balkam
FOSI创立的目的是希望让网络世界更安全，通过政策启发大家，使父母能够保证孩子们安全地享受网络。很多国家都在针对互联网、青少年制定一些法律，亚马逊、雅虎、腾讯、谷歌等公司也都加入了这个行列。
我们一方面要制定法律法规，另一方面要让家庭里面的成年人了解他们采取什么措施，能够保证孩子有一个安全的网络，并且规管孩子的行为。
可以看到，有些成年人的网上行为也是需要检讨的，父母们不良的上网行为也会影响到孩子们。要保障孩子们上网的安全，我们也要对这些新技术加以了解，这些才能知道未成年人在网上都做什么，怎么保证他们的网络安全。
对我们这个机构来讲，要研究的就是未成年人在网络世界面临哪些风险，怎么解决这些风险，以及怎样尽可能减少这些对孩子们的影响。因此，我们提倡要构建一种全新的“在线责任文化”。
这种文化要从下而上的制定起来，能够让年轻人的声音被大人听到。同时，我们要承担的责任，不只是制定相关的法律法规，还要有相应的机构来帮助实施法律法规，为家长们提供相关的工具，以及让家长了解我们的法律法规。
这就像是老师的角色一样，要为孩子们讲解，要让孩子们知道，要鼓励他们，使得他们能够在享受互联网的同时做到安全。
另外针对整个行业来讲，也同样有责任、有压力，因为他们要去探索保护家长和孩子的内容和技术。这里不止是针对未成年人，也包括这些未成年人的父母。政府要提供相应的监管、相应的支持，包括不断地进行研究，积极地与业界合作，同时也与非政府机构合作。不管哪个方面的问题，都能够及时抓住机会进行解决，同时促进技术的发展。
英国数字、文化、媒体与体育部网络安全司副总监 Orla MacRae
在英国，成年人和孩子都可以从互联网广博的知识中受益，但我们需要有一些对儿童友好的法律法规，孩子们才能在这个环境中非常重要。
我小的时候，互联网刚刚开始兴起，很多家庭刚刚能够上网，那时候家里有一部电脑，只能在家里上网，没有移动互联网。那时候我的爸爸妈妈想要知道我在网上做了什么太容易了，只要看看我的电脑就知道了，可是现在不是这样了。
那么现在英国是怎么来应对这些挑战的？
现在，我们有一个互联网安全战略，这是去年公布的一份政府文件，目的就是能够保证网上的安全，这同时也帮助到业界搭建自己的数字化的业务。我们有很多的技术，在网上有很多的机会，怎么能把这些风险尽可能控制到最低，而且同时能够抓住这些机会。我们自己也有一些公共咨询的活动，很多时候大家会比较担心网上不安全，比如说针对小孩来讲，有很多不良的内容，并且他们会滥用互联网。
同时公众也希望媒体公司、相关的技术公司能采取负责任的活动。因此我们也根据公众的反馈，制定了一些指导性的文件，除了线下的活动，线上也做了很多的活动，包括法律行为相关的主题活动。
所有网上的风险都要进行监控，技术公司有责任对他们的用户负责，家长要对孩子们看哪些内容负责，这也是基于一个简单的事实，因为我们发现在线上的一些行为，你要满足一定的标准才能保证你的网络的安全，尤其是这些技术公司，他们要更加承担起自己的责任，进行监管。这些原则显示出了英国政府采取的措施，因为这种责任不是说政府一方面的，而是包括公民、市民，包括我们的用户，包括业界，共同分担的一个责任。
现在给大家讲一下我们做的一些具体工作，如何让孩子的上网更加安全。
我们通过了一些新的法规，保证青少年不能看成人网站，在验证年龄的过程中，也会保证你的数据安全。很多媒体必须是18岁以上才能使用，而很多年轻人他们的账户上面并不是真实的年龄，这为我们带来了很多的挑战。我们会设定一些不同的年龄、不同的标准，保护这些年轻人不去看那些网站，同时我们也要保证在他们进行验证的时候，禁止向用户获取一些不相关的数据。
我们讲互联网安全战略的时候，很长时间以来重点总是放在孩子们身上，对于父母来讲，很多时候我们关注的不够，实际上是因为很多时候父母本身对于互联网了解的也并不多。所以我们有一个首席战略官，他们针对这些年轻人和他们的父母做了一个报告，看看孩子们是怎么使用这些技术，然后在我们制定政策的时候予以充分的考虑。
同时我们也鼓励企业承担起更多的责任。在这方面我们做了三项工作：首先我们有一个行为准则，这个主要是针对媒体公司的，这个行为准则已经发布了。同时我们鼓励企业有一个更加透明的网站。最后我们认为技术是解决方案中非常重要的部分，因此我们跟互联网服务供应商一起更好地改善我们的服务，我们希望借助这些不断新推出的平台，通过技术影响到青少年。
北京大学法学院教授 王锡锌
我想谈一下在中国的未成年人网络保护立法当中，应该特别注意的四种关系：监管与技术的关系、收益与成本的关系、政府与社会的关系、管控与疏导的关系。
在讲这四组关系之前，简单回顾一下中国的未成年人网络保护立法，特别是在立法之外，这些规则实施的现状和问题。
当我们在讨论未成年人的保护或者说未成年人网络保护的时候，我们到底在说什么呢？是不是不让这些未成年人去上网？当然不是的。
是不是对未成年人上网要做出各种各样的规定或限制？如果是这样的话，这些规定和限制到底是对互联网企业的？是对学校的？是对家长的？还是对监管者的？
所有这些问题都是未成年人网络保护中必然会涉及的问题，但在现实中，目前中国关于未成年人网络保护的突出问题，不是在于规则表达和保护观念的缺乏，而是这些立法性的规则在实践当中的落实程度是非常有限的，这就存在一个规则表达和规则实践之间的巨大落差。
我有一个特别有意思的经历，几年前我在纽约开会的时候，晚上因为时差反应比较厉害，我就到我住的酒店下面的便利店，我想买几瓶啤酒过来，那时候其实我已经40多岁了，但是我到便利店买啤酒的时候，店员要我出示我的护照，他要认证一下我的年龄，好像我应该是未成年人。那一次我非常高兴，我拿出护照，本来要买一瓶的，后来买了一箱。
同样的问题如果放到中国，我们可能碰到的是另一种完全不同的情形。中国的《未成年人保护法》明确规定了任何人和组织机构都不能向未成年人售卖烟酒，这在法律中是有规定的，也是非常清楚的。
但我们都知道，在通常情况下，未成年人如果要到商店里面去买烟和酒的话，基本上不会碰到任何的问题，也不会有要求身份认证的系统。如果真实的物理世界都是这样的话，把这样一种情形放到网络空间当中，情况只会变得更糟。
目前，《未成年人保护法》经过两次修订，已经逐渐适应了网络时代、加强了对未成年人进行网络保护的意识，包括未成年人网络游戏防沉迷管理办法等等，以及2017年国务院法制办公开征求意见的《未成年人网络保护条例》。
从这些立法当中我们都能看到，国家立法者对于未成年人保护以及未成年人网络保护已经有了非常强烈的意识，也已经有了非常明确的规则准备。但正如我前面所提到的，在这样的一个背景下，你的规则越多，保护性的宣告的语言、符号越多，你会发现在规则、文字和实践之间的距离会越来越大。
我觉得当下在未成年人网络保护方面，第一个问题就是存在着所谓象征性的治理。象征性的治理一个特点就是，它有很多的规则，有很多的宣告，但是这些规则、这些文字落实的情况非常有限。
在这种象征性治理的背景下，我们对未成年人网络保护，不是说政府没有做什么，有的时候也会做，比如说出现某些相关的事件，特别是媒体通过报道一些比如说未成年人沉迷于网络游戏，出现悲剧性事件的时候，监管部门会采取一种运动式的执法形式。
运动式执法背后是一种法律问题的政治化。当前，我觉得未成年人网络保护除了立法上的象征性治理之外，另外一个问题就是行动当中的运动式执法和法律问题的政治化。
这是我们今天所面临的问题。
在这些问题的背景下，关于未成年人保护法的修订，特别是关于未成年人网络保护条例的制定，重新考虑规则的表达与规则的实践之间的协调，我觉得是非常重要的，而要处理这样一种协调关系，就要解决我们前面所说的四个核心的问题。
第一个问题是监管与技术的关系问题。我们知道法律与规则会制定很多监管的要求，也就是设定一些标准，比如说网络ISP要求不要有涉黄、暴力、血腥等等的内容。对于未成年人使用网络，我们会有一些特别的规则规定，比如说使用网络时长有限制，比如说网络游戏。
但是这些监管的标准到底在实践当中怎么去落实？我觉得简单地靠监管部门的传统行政手段是很难去实现的。在这个方面，企业通过技术化的手段，是真正地使我们的这种目标得以落实的关键一环。很多的企业从社会责任的角度，已经在这方面做了很多的尝试，比如说腾讯在它的许多非常受欢迎的游戏中引入了健康管理的技术，比如游戏的时长限制等等。要通过技术解决的另一个关键问题，就是未成年人的年龄的限制和识别怎么去做。当然实名认证系统、与公安合作的身份认证系统，这些都很重要，但我觉得像人脸识别技术这样的一些新技术的使用可能是一个关键。
在这个领域当中，国家在许多立法上，鼓励企业用新的技术去加强对未成年人的保护，这个技术既然是国家鼓励的，而技术在我们治理目标的实施中又如此重要，那么我认为，未来在法律和政策层面必须要有足够的政策和财政的激励，让那些企业能够真正地投入更多的资金研发新的技术，让研发新技术的企业能够在市场竞争中占到更有利的位置。
第二组关系是收益与成本的关系。前面我们讲到了技术，更高的监管标准和保护标准，这意味着企业需要更多的合规，研发更多的技术。那这个成本怎么来分担？是不是都让企业承担？是不是都让家庭和学校承担？政府到底怎么样在获得对未成年人保护的整体收益的同时，使得成本有一个合理的分担？我觉得未来的立法需要避免这种立法者请客、企业买单的情形。政府搞了很多很高的标准，获得了一片掌声，但是技术上保障落实的成本主要由企业来承担，这也是不公平的。
第三是政府与社会的关系。我们的《未成年人保护法》也讲到了学校、家庭、司法的保护，我觉得整个合作式的治理框架已经没问题了。这里有一个国际上的重要经验，立法者应该在未来立法的时候考虑到，就是像FOSI这种专门的社会组织。我想我们在《未成年人保护法》和《未成年人网络保护条例》制定当中，是否可以更多地鼓励、强调这样一些非政府组织的作用，因为这样一个角色应该说是非常关键的。靠家长，家长有时候不太懂网络，靠学校，学校也未必是这方面很专业的，如果有一些网络安全的社会守护者，我觉得这对于网络安全是一个非常重要的帮助。
第四组关系是管理、管控和引导的关系。当我们说保护未成年人网络的安全时，我们绝对不是说让孩子们不要使用移动终端，不让他们上网，不要他们接触网络，这样的情形在今天不仅是不可能的，而且是愚蠢的。所以一味的管控肯定不是办法，怎么样通过立法上的一些政策性的引导，比如说我们可以通过内容的进化，创造一个更加健康的网络环境，这算是一种疏导性的做法。
监管与技术的关系、收益与成本的关系、政府与社会的协作关系、管控与引导的关系，这是我们今天正在进行的《未成年人保护法》的修订，以及《未成年人网络保护条例》制定当中特别重要的四组关系。
韩国青少年政策研究院高级研究员 Chang Geun Young
我要跟大家讲的是我们国家针对青少年人的保护政策。
从2005年开始，互联网用户增长非常快，社交媒体的用户数量增长也是一样，游戏越来越多的向低龄人群渗透，中小学生玩游戏的比例非常高。
在互联网，尤其是游戏方面，对未成年人保护是非常重要的。在韩国，1997年我们通过了未成年人保护法案，里面规定，如果说你玩一些有潜在危险的游戏，必须要有成年人陪伴，并且关于游戏的信息也要进行监管。我们有一个部门，叫做性别平等和家庭平衡，由他们来监管这个法案的实施，帮助成瘾的青少年戒除网瘾。
接下来跟大家讲一下我们的未成年人保护具体是怎么做的。
从1999年开始，我们的性别平衡与家庭部就开始每年做一个全国的调查，里面有很多针对学生的调查，包括从四年级一直到中学一年级、高中一年级的数据，这些数据可以提醒家长多关注未成年人的网络安全。
这是关于在线游戏、编程的活动，这里面有两类：一种是保护孩子们不要受有毒媒体的影响，另外一种就是有内容方面的控制，同时我们有戒除网瘾的支持，给到这些未成年人，通常有一个非常综合的测试，看看哪个孩子可能需要我们的帮助。这些学生通过测试有可能会需要去做一些咨询，或者是需要有戒除网瘾的支持给到他们。
我们的调查结果也发现，尽管互联网上网的人数不断地增长，但是因为政府的这些措施，和相关的保护性政策，针对19岁以下未成年人的影响的数字并没有增加。
父母如果对孩子们玩的游戏有所了解的话，对保护青少年也会有积极的作用，因此我们也对父母要展开一些教育活动。我本身也在做针对父母的课程的讲解。
在线的游戏、智能手机和一些新的媒体，这里面包含了最先进的技术，还有极其丰富的信息，这些技术是非常重要的，未来可能还会更重要，因此需要我们尽可能减少这些媒体对未成年人带来的不良信息，及早地保护这些青少年，教育他们的家长。
目前我们认为最重要的一个问题就是，现在我们自己的法律体系似乎某种程度上剥夺了父母监管孩子的权利。这些未成年人玩游戏的时候，家长应该有责任去决定他玩不玩、玩多少。另外，这些游戏公司在网站上给这些用户提供游戏的时候，也必须确定玩游戏的人，他已经不是未成年人。
另外还有很多测试类游戏，这些成绩可以在学校之间分享，也可以与其它的相关机构进行分享。但是从另外一个角度来看，这种分享也有可能侵犯到隐私权，我们要有更加严格的选择。
学生可以选择什么时候可以去玩游戏，或者是跟父母一起玩游戏，这样游戏公司就只是在这个时间段针对学生们开放，可以让他们在线玩游戏。政府的政策也会针对这些私营企业的法律法规进行修订，希望将来能进一步改善。
腾讯研究院副院长 杨乐
非常荣幸作为企业的代表跟大家分享腾讯的一些做法，我今天的题目是在讲未成年人保护的三重视角。
首先我是一个妈妈，我有一个7岁的儿子，所以网络游戏对他来说也是巨大的吸引力，我在来参加这次论坛的时候，在妈妈群里做了一个小调查，我问大家在孩子上网的时候最担心什么，大家经过一番讨论，总结了几个大家的担忧，一个是网络上的有害内容，小孩子不懂分辨怎么办。第二，他长时间打游戏、看视频，他的视力下降了怎么办。第三，他达到网络沉迷了，上瘾了怎么办？第四，他在网上乱花钱了，有的极端的案例花费数额非常大，网上乱消费了怎么办。第五，网上有那么多的诱惑，有那么多的陌生人，有一天他万一上当受骗了，又该怎么办。最后大家还在担心，还有一些网络上的极端案例，比如说网络欺凌，比如说孩子已经出现了严重的心理健康的问题，我们作为父母又该怎么办。
带着这些问题，我也回到公司里来看，我们腾讯公司的员工，很多也是为人父母的，我们也在关心这个问题，我们也从点点滴滴在做不同的努力。
针对网上的不良内容，怎么办呢？在腾讯视频已经开发出了儿童专区，叫做“小企鹅乐园”，或者是叫“宝贝听听”、“宝贝童话”，有不同的产品的专区，目的就是把真正适合孩子的产品以一个专区的形式展现出来，呈现给孩子，让他上网的时候可以找到那些适合他看的动画片、视频等等。同样我们还开发了一个企鹅童话的开放平台，我们鼓励行业里面越来越多的第三方的企业，能够一起来开发适合孩子的内容的产品。
近视眼了怎么办？刚才王老师和司院长都有提到，在腾讯视频护眼实验室，我们的团队想了一个好的办法，当你使用手机看视频离屏幕过近的时候（低于40厘米），它会自动检测到人眼的距离，然后把这个画面用技术上的处理变得模糊，这样其实是在提醒用户，你应该拉大逆的距离。同样在应用宝手机端推出了亲子守护的功能，它也是通过手机上的感应器的原理，能够感应到你使用手机的姿势，能够管理你每一个APP使用的时长，让未成年人树立一个健康合理使用的习惯。
针对大家反映最强烈的网络沉迷、游戏上的乱消费怎么办？现在腾讯已经形成了事前、事中、事后一整套的保护体系。
事前我们开发了腾讯的成长守护平台，这是在PC端、手机端以及小游戏都有入口，这个可以看作是给了父母手中一个遥控器。家长事前可以通过这个工具来绑定孩子的游戏帐号，设置孩子可以进行游戏使用的时长、消费的限额，我们不让他玩是不现实的，我们更多的是希望形成有节制的状况，目前已经绑定的父母和未成年人的账户超过950万，跟没有绑定的用户，充值的限额最高下降了37%，使用的时长下降了25%，效果还是很明显的。
在事中形成了游戏的防沉迷系统，如果说前面一个叫做父母的遥控器，我们的事中系统你可以看做是游戏过程中的一键开关。最开始这个健康系统是源于2017年的暑假，腾讯拿出自己最火的一款游戏——王者荣耀，我们拿这款游戏做实验，也是表现了腾讯最大的诚意。在2017年暑假的时候，王者荣耀上了媒体称为史上最严的防沉迷措施，要求12岁以及以下的未成年人，每天的游戏时长不能超过1个小时，13岁以及以上的未成年人每天的游戏时长不能超过2小时，刚才韩国的张教授提到了韩国的游戏立法当中有一个0点到早上6点孩子不可以登录游戏的规定，腾讯的王者荣耀推出的措施比这个还严格，从每天晚上9点到第二天早上8点，未成年人是不允许登录的。运行了一年以后，到2018年9月，这个防沉迷系统再次升级，它全面和公安部的身份认证系统做了对接，做了最严格的实名认证，并且已经接入了人脸识别的系统，这其实是在金融的场景里面远程开户才会用到的技术，但是我们已经把它上到了未成年人的游戏保护里面。对于经过公安系统认证为一个成年人，但是游戏的各种行为又表现为疑似为未成年人的时候，对于这种异常的账户，我们就会启动一个人脸识别系统来看，到底是一个成年人还是未成年人。
在事后我们有一个少年灯塔计划，我们成立了一支主动服务的平台。同样也是对疑似为未成年人的用户，在30天之内你的账户消费有异常的，就会有腾讯客服的人员主动打电话过去，进行账户异常的询问。上线以来已经完成了近300万次电话的拨打，并且引入了很多教育学和心理学的专家进行了专业知识的介入，目前是76%的未成年人账户的金额受到了控制，有62%的账户游戏时长得到了下降，并且在腾讯平台上有113个孩子的极端的案例，在专家的支持下也得到了介入和帮助。
针对这些未成年人安全意识比较差，我们推出了网络安全课堂。我们走进中小学课堂讲一些网络安全的知识，给他们讲解辨别的能力。同时在微信公众号里面，有小朋友想搜索“自杀”这样的词，系统首先推出来的一定一个求助电话，也许在最微弱、最脆弱的一刹那，一个电话可能就会挽救回来一个生命。
在近期腾讯也是召开了未成年人守护平台和硬件厂商之间的圆桌论坛，我们希望能够通过一个单一的产品形成一个产品的矩阵，并最后能够推动整个行业形成一个健康、有效的行业的生态，共同为未成年人保护做出一点贡献。
最后一个角度，我自己一个互联网行业多年的研究者，在整个过程中也有了几点自己的观察和思考，在这里也跟大家共享。
第一，近些年未成年人保护在韩国、欧洲、美国都变成了一个棘手的话题，因为我们面临信息化、城市化的背景下，传统的家庭关系面临重塑。尤其是在中国这种城乡二元制的结构，会导致大量的家庭父母进城务工，造成家庭的亲子分离，在未成年人的管教方面受到了很大的影响。
第二，后喻时代：威权式教育结构被冲击。现在已经进入了一个后喻时代，这是一个人类学上的概念，是说我们进入了信息化、技术化的时代之后，以前我们的教育都是父辈、长辈对晚辈的教育，进入了后喻时代之后，反而是年轻人要更多的教育他们的父母，也就是父母要向子女学习更多的知识，这也就导致传统的威权式的教育结构被冲击，因此留守儿童就成了各种矛盾激烈爆发的焦点。
第三，技术化治理，科技向善与社会担当。前面列举了非常多腾讯采取的技术手段，我把它叫做技术化治理，大公司究竟如何履行它的社会责任，尤其是当腾讯这种面临10亿量级的大型平台的时候，我们的大型科技公司应该展现出越来越多的主人翁的精神，我们提出了科技向善的口号，并且把它贯穿到公司的产品设计当中，不断地去探讨如何用技术化的方式缓解数字化社会带给我们的一个又一个的问题。
第四，协同治理。我们希望能够跟社会各界的同仁们一起形成协同治理的局面，现在中国的《未成年人保护法》正在修订，我们的未成年人保护条例也在起草中，希望各方能够理性探讨，能够有责任、有担当、不推卸地参与到未成年人保护工作中来。
声明：本文来自腾讯研究院，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
