自2020年11月，英国通信办公室（Ofcom）开始监管英国的在线视频服务，包括点播节目服务（ODPS）和视频共享平台（VSP）。2023年，英国通信办公室在2022年《视频共享平台监管报告》的基础上广泛研究了英国监管范围内的视频共享平台提供商采取何种方法保护网络上的儿童以及平台需要面对的挑战。自2023年2月至8日，英国通信办公室向受儿童欢迎的Tiktok、Twitch和Snap请求提供安全措施信息，并进行分析。2023年12月14日，英国通信办公室在调查分析的基础上发布了一份名为《视频共享平台（VSP）如何保护儿童免遭有害视频》的工作报告。报告对于Tiktok、Twitch和Snap焦点和发现板块最低年龄确认和未成年人账户识别措施、访问控制措施、内容标签等安全措施和家长控制措施等与儿童在线安全有关的措施进行报告与分析，发现视频共享平台注册时以年龄自我声明作为执行最低年龄限制的措施、筛查未成年人账户措施的有效性、访问控制措施和内容标签等安全措施的有效性以及两种措施的配合都应进一步探索和改进。
一、背景
视频共享平台监管制度（the VSP Regime）可见于《2003年通信法案》（the Communications Act 2003）的4B部分，来源于《2018年欧洲视听媒体服务指令》（the European Audiovisual Media Services Directive 2018）。该制度对平台的监管于2020年11月生效。与此同时，英国通信管理局被指定为英国的视频共享平台运营商（VSPs）监管机构。
视频共享平台监管制度要求视频共享服务提供商需要根据《2003年通信法案》附表15A的规定，提供并实施适当的措施以保护18岁以下儿童免受含有“相关有害材料”和“限制材料”视频的伤害。其中，相关有害材料包括可能基于特定理由对一群人或一群人的成员煽动暴力或仇恨的任何材料，包括根据有关恐怖主义、儿童性虐待材料、种族主义和仇外心理的法律构成刑事犯罪的材料；限制材料包括拥有或可能获得R18证书的视频内容，不适合BBFC分类的视频内容或可能损害18岁以下儿童的身体、精神或道德发展的材料。考虑到报告的目的，工作报告主要选取了包括服务条款中的最低年龄要求、访问控制措施，如年龄保证、与内容标签相关的安全措施和家长控制措施作为调查的内容。每个平台的措施可能根据其不同的特征而有所不同，例如内容类型和用户基础。
在视频共享平台监管制度下，英国通信办公室有权收集信息，并提供视频共享平台服务提供商为保护未成年用户免受有害内容所采取措施的报告，以及这些措施的具体实施方式。2022年10月，英国通信办公室发布了第一年监管报告，认为平台需要采取更有力的措施来防止儿童接触色情作品和其他不适宜其年龄的内容。2023年，英国通信办公室在2022年《视频共享平台监管报告》的基础上广泛研究了英国监管范围内的视频共享平台提供商采取何种方法保护线上的儿童以及他们需要面对的挑战。该报告主要关注广受儿童欢迎的Tiktok、Twitch和Snap平台的焦点1和发现2板块如何实现保护儿童接触潜在的有害视频。
二、视频共享平台的主要举措和报告发现
（一） 视频共享平台提供商如何管理儿童对平台的访问
截止到2023年8月，Tiktok、Twitch和Snap三个平台的最低准入年龄均为13岁，三个平台对于真实年龄的确认依赖于用户在注册时自主选择的年龄，Tiktok和Twitch的用户可自由选择他们的出生日期，Snap设置的出生日期选择是空白的，但显示的最近的出生日期是创建账户13年前。
尽管三个平台都采用了自我声明作为年龄确认措施，但是自我声明不是唯一的在注册视频共享平台时确认用户年龄的措施，例如，OnlyFans作为一个承载色情内容的视频共享平台，虽然不能与Tiktok、Twitch和Snap直接比较，但是平台提供了包括通过名为Yoti的第三方面部年龄估算程序（如果估算失败，则进一步进行身份验证），或通过名为Ondato的第三方程序确定用户的年龄，是一个使用更准确方法确定用户年龄的实例。
图2.1 Tiktok、Twitch和Snap年龄选择插图
英国通信办公室发表的研究显示，超过1/5实际年龄在8-17岁的儿童其账户显示的年龄大于18岁，而1/3实际年龄在8-15岁的儿童其账户显示的年龄大于16岁。这种现象使人们对自我声明如何独立有效地运作产生了疑问3。因此，英国通信办公室希望平台探索其他方法更好地了解用户的年龄，部署措施识别可疑的未成年账户并采取行动删除这些账户。Tiktok、Twitch和Snap在用户创建后使用各种方法筛查未成年人账户，包括各种行为和语言分析技术工具，以及负责任地个案审查，以识别和删除实际由未成年人使用的账户。
表2.1 Tiktok、Twitch和Snap用户年龄检测措施
视频共享平台名称 | 措施 |
Tiktok | Tiktok使用一些技术来检测关键字，帮助识别潜在的未成年人账户。出于保密原因，Tiktok没有提供进一步的资料解释该技术。 |
Twitch | Twitch试图采用行为、语言和网站分析工具的组合来检测登录的未成年用户，包括根据对可疑流量数据的分析和使用可实时评估在线聊天的人工智能工具（Spirit AI）来识别未成年账户。Twitch还通过人工审核团队即安全专家来检测儿童用户，识别标志包括某些面部特征和身体比例。 |
Snap | Snap通过平台用户报告或标记用户未满13周岁作为促进调查的方式。Snap还使用年龄推断模型来识别13岁到17岁之间的用户，该模型使用多种信号评估用户的年龄，包括基于兴趣的因素、用户对Snapchat的使用和他们朋友的年龄。Snap使用这些信号来防止18岁以下用户在“焦点”和“发现”板块看到受管制商品的广告。 |
尽管平台使用上述工具来筛查未成年账户，但是平台识别未成年人账户方法的有效性尚未经过确切的检验。视频共享平台须改进衡量标准，定期评估并提升其措施的有效性，以更好地保护儿童。
英国通信办公室将视频共享平台提供的数据与英国总用户基础进行比较后，发现不同平台识别和删除未成年人账户的数量有很大的差异。由于数据保留期，Tiktok仅提供2022年6月至2023年3月期间的数据，在此期间被删除的未成年人账户总数约占TikTok在英国月活跃用户总数的1.09%。Twitch在2022年3月至2023年3月（包括在内）期间，被删除的未成年人账户总数约占Twitch英国用户总数的0.03%。Snap在2022年3月至2023年3月期间，每月的活跃用户的总数在2000万至2500万之间（包括所有用户）。在此期间，Snap删除了700-1000个疑似未成年人的英国账户。鉴于Snap在美国儿童隐私立法下他们能够收集和保留的数据所面临的限制，这是一种指示性数据。
未成年人账户的普遍存在是英国通信办公室重点关注的一个问题。就目前而言，由于不同服务商提供根据不同指标计算的数据，英国通信办公室认为无法直接比较不同平台删除的未成年账户的数量。但是上述信息能够在一定程度上反映平台举措的效果。此外，可能有各种因素影响一个服务商删除的未成年账户的数量，包括视频共享平台的大小、视频共享平台上儿童用户的占比、用于衡量检测水平的指标类型、服务提供商选择部署的未成年账户的检测方法以及这些方法达到的准确度。识别儿童用户以及防止和清除服务上的未成年用户也是执行英国2023年《在线安全法》的一个关键任务，是英国通信办公室在如何识别和保护儿童问题上持续关注的领域。
（二） 视频共享平台如何管理儿童对视频内容的访问
保护儿童需要通过内容标签和年龄保证措施共同防止儿童接触到潜在的有害内容。如果可能对儿童有害的内容很容易获取，则儿童受害的风险更高。因此需要尽可能提供有效措施限制对这些内容的访问：一方面，需要对内容进行适当标签，以便对含成熟或不当内容的视频进行分级。另一方面，一项服务必须了解用户年龄，才能准确地将儿童阻挡在受限制的内容之外。总而言之，内容访问措施的有效性与内容标签措施和年龄保证措施的准确性有很大关联，这凸显了一种措施的有效性可能取决于其他现有安全措施以及两者如何有效配合。最后，服务提供商如果将对访问的控制限于登录用户而允许未登录用户访问所有内容，这会影响平台防止儿童接触有害内容的能力。换言之，如果一项视频共享服务允许用户在不登录或不确认年龄的情况下访问内容，那么这些公开的内容应该适合所有年龄的受众，否则也会造成儿童接触到有害内容。
英国通信办公室研究了Tiktok、Twitch和Snap平台的访问控制举措，发现Twitch允许任何年龄的访问者在未登录的情况下访问大部分内容，Tiktok允许账户登录访问大部分内容，Snap的应用程序要求用户登录账户访问视频内容，但是其网站允许未登录情况下任意访问“焦点”“发现”板块内容。
表2.2 Tiktok、Twitch和Snap的访问控制措施
视频共享平台名称 | 措施 |
Tiktok | 用户必须有一个账户并登录才能查看大多数内容并上传视频。未登录的用户可以在Tiktok网站上查看有限数量的内容，但采用了一系列措施限制未登录的用户接触有潜在问题的内容。例如，设置多轮人工审核，任何有警告提示的内容或带有触及“敏感词列表”的标题或标签的视频都不能显示给未登录的用户。 |
Twitch | Twitch是一个开放访问的视频共享平台，用户不需要一个账户或登录以查看Twitch上的内容。这意味着大多数内容，包括以前标记为“成人”，现在通过新的“内容分类标签”标记的内容可以被任何用户访问和查看。Twitch用户需要登录后才可以上传内容、关注或订阅频道、聊天或与其他用户在聊天室或通过直接消息互动，以及访问专属于订阅用户的小部分内容。 根据Twitch提供的数据，2022年，登录用户数量一直远高于或略低于30%，这意味着大多数访问Twitch视频的用户都没有登录，反映任何人只要能使用网络浏览器或移动设备，就能访问Twitch上的大部分内容。 |
Snap | 对于受视频共享平台监管制度管理的两个板块“焦点”“发现”，在应用程序上，始终需要一个账户来查看视频内容。但自2022年9月以来，Snap的网站的访问者可以在没有账户的情况下看到这两个功能。这意味着任何可以访问网站的人都可以访问Snap上的内容。 然而，大多数用户通过应用程序访问Snap。 |
内容标签可以作为一种根据用户年龄定制其体验的工具。视频共享平台采用不同的方法来分类和标签内容，但实施结果是儿童有时仍会受到伤害。
表2.3 Tiktok、Twitch和Snap的内容标签措施
视频共享平台名称 | 措施 |
Tiktok | 2022年7月，Tiktok推出了内容等级制度，基于主题的成熟度分类组织在平台上的内容。该制度将内容分为三类：13-15、16-17和18+，具体内容包括平台上不禁止但可能不适合18岁以下青少年的内容，例如，明显的性化内容、暴力和血腥内容、含酒精和烟草的内容、误导性内容以及自称未满16岁的用户上传的内容。即使这些内容是他人分享而来的，自称为18岁以下的用户仍然无法搜索或查看这些内容。如果他们试图访问这些内容，则会被告知由于这些内容受年龄保护而无法访问。 |
Twitch | 2023年，Twitch对其主播的内容标签进行了修改。此前，Twitch允许主播用“成熟内容”的标签标记他们的频道。但在2023年6月，Twitch引入了更详细的内容分类标签，包括性主题、赌博、毒品和酗酒、成熟评级的电子游戏、亵渎和暴力。这些标签现在可应用于单个流媒体，用户访问这些内容之前会跳出警告提示。如果主播多次未能正确标记内容，Twitch将对该主播设置一个标签，并依据之前通过电子邮件向主播发出的警告次数，锁定该流媒体数日或数周。 然而，Twitch仍然是一个开放访问的视频共享平台，用户不需要登录来查看内容。到目前为止，Twitch还没有使用其内容标签系统来限制那些自称为13-17岁的登录用户访问内容。无论用户（包括儿童用户）是否登录，他们仍然可以访问评级为成熟的任何内容（并取消警告）。 |
Snap | Snap使用算法排列“焦点”和“发现”板块的内容。根据社区指南，Snap禁止色情内容、暴力或危险行为等内容，并设置人工和自动内容审核工具进行审查。为了确保“焦点”和“发现”上的内容是匹配用户年龄的，Snap会考虑用户在创建账户时自我声明的年龄，用户的好友和活动推测用户的潜在年龄，按年龄组对用户进行分类。年龄指标将考虑进内容排序，这最终决定了用户在“发现”和“聚焦”功能上接触到的内容。 |
（三） 视频共享平台的家长控制系统如何运作
家长控制是允许父母对孩子的网络活动进行一定程度的监督或控制的工具或系统，可以采取的形式包括知道甚至控制孩子可以看到的内容类型，抑或限制谁可以查看孩子上传的内容。家长控制功能往往是家长为确保子女安全而使用的一系列工具或策略的一部分，例如家庭规则、屏幕限制时间等。
为使家长控制有效，通常需要家长了解某个平台，清楚家长控制功能如何帮助他们在实践中支持孩子。平台则需要在儿童使用其服务的合法权益与一系列不同的家长风格和规则之间取得平衡。例如，一些家长可能认为他们的孩子已经足够成熟，不需要对他们接触的视频有太多限制，但是有些家长可能特别想要参与监督。单独实施家长控制不能确保儿童的安全，全面保护儿童还需要其他安全措施的参与，包括前文提及的准确了解用户年龄等。
英国通信办公室研究了Tiktok、Twitch和Snap的家长控制措施，Tiktok和Snap都有家长控制功能，但是Twitch没有实施家长控制，也未定义家长监督的实际含义，而是让用户及其家长自行决定。然而，TikTok和Snap目前均对家长控制中配对账户的使用人是否为儿童的父母、看护人或受信任的成年人开展验证。
表2.4 Tiktok、Twitch和Snap家长控制措施
视频共享平台名称 | 措施 |
Tiktok | Tiktok于2020年4月推出了家庭配对系统。Tiktok利用家庭配对系统允许父母和看护人与孩子关联账户。家长可以选择是否启用包括屏幕时间管理、限制模式、搜索、直接消息、隐私设置、仪表板、推送通知和内容过滤在内的功能。18岁以下用户可以随时停用家庭配对，但家长会收到停用通知。 |
Twitch | Twitch没有实施家长控制，而是依赖于其服务条款中的一个要求，即18岁以下的未成年人只能在同意接受服务条款约束的父母或法定监护人的监督下使用Twitch。用户在创建账户时必须同意这一政策，尽管用户不需要账户即可访问Twitch的视频。如果Twitch意识到用户违反了此规定，则可以在收到家长许可之前暂停其账户。家长和监护人也可以联系Twitch，要求删除其子女的账户。如家长想要删除子女的账户，需要提供用来核实账户所有权的账户详细信息并填写和交回一份用来核实父母关系的家长签名的证明表。在2022年8月至2023年8月的12个月内，Twitch没有收到家长要求删除无人监管的儿童账户的报告。 |
Snap | Snap于2022年8月推出家庭中心。家庭中心允许父母和受信任的成年人和儿童关联账户和报告问题。家庭中心设立的前提是儿童账户接受父母或受信任的成年人发出的邀请，并且儿童有随时离开家庭中心的权限。在家庭中心的家长账户可以看到孩子的好友列表，以及他们在过去七天内与谁交流，但对话的具体细节不会透露。2023年3月，Snap增加了“内容控制”功能，允许父母和受信任的成年人限制孩子通过“发现”板块在Snapchat上观看的内容类型。2023年4月，在“我的人工智能”发布后，Snap还发布了一项功能，允许家长查看儿童何时与“我的人工智能”交流。 |
英国通信办公室进一步询问了TikTok和Snap家长控制功能的使用情况。Tiktok未能及时提供准确的信息，英国通信办公室表示将会持续追踪。在2022年8月1日（Snap推出家庭中心）至2023年10月30日期间，Snap使用家庭中心的18岁以下用户人数约占18岁以下日常活跃用户总数的1-2%。
在TikTok和Snap设计和实施家长控制的规划和管理方面，两者的家长控制都包括灵活的功能，以供家长随着孩子年龄的增长进行调整。Tiktok表示，他们希望家庭配对是一个方便的、易于使用的工具，让家长或监护人便于定制他们的孩子在平台上的体验，让家长可以根据孩子的年龄和自主程度决定使用不同的功能。Snap家庭中心的主要设计目的是增强父母和青少年保护青少年的自主权和隐私的能力。Snap的家庭中心在设计中进行了与安全和隐私相关的具体审查、咨询了来自20多个组织的相关专家以及与家庭进行了接触。TikTok和Snap在设计和管理家长控制功能的过程中，都有一系列团队的参与。例如，TikTok在“家庭配对”的设计和开发过程中有包括未成年人安全产品、青少年安全和福利政策、信任和安全工程以及相关专家团队的参与。
在提高家长对家长控制系统的认识方面，Tiktok和Snap均采取多种措施提高人们对父母控制功能的认识，Twitch则倾向于希望父母在现实生活中监督他们的孩子。
表2.5 Tiktok、Twitch和Snap设计和实施家长控制的规划和管理流程
视频共享平台名称 | 措施 |
Tiktok | Tiktok试图通过各种媒体包括在安全中心和帮助中心的解释，提高人们对家庭配对的认识。Tiktok通过从2022年底开始的营销活动提高人们对包括“家庭配对”等安全功能的认识，也利用弹出式广告推广家庭中心。TikTok还与外部组织合作制作资源，例如Internet Matters制作TikTok playbook。这是为教师提供的保障指南，以更好地支持学生安全使用该服务。Tiktok还为家长们提供了包括如何提高数字素养和进行安全对话的资源。 |
Twitch | Twitch为家长提供儿童在线安全媒体素养指南。Twitch认为有针对性的预防和减少伤害是保护18岁以下儿童的最重要形式。而且它正在优先投资安全工具和措施，比如新的报告技术。 |
Snap | Snap通过其隐私与安全中心（Privacy and Safety Hub）上专门的家庭中心页面、支持网站以及在应用程序中，在家长或受信任的成年人设置家庭中心时，向家长提供有关家庭中心的信息。Snap通过采用家庭中心、搜索家庭中心、访问隐私和安全中心页面以及使用或试图访问家庭中心相关帮助的用户数量，来衡量家长和受信任的成年人对家庭中心的了解程度。 |
三、下一步举措
英国通信办公室在视频共享平台监管制度下，将继续与视频共享平台合作，确保平台遵守制度，并在必要时进行改进，包括直接监督并与平台的合作、发布透明度报告以及在适当情况下采取强有力的执法行动。
英国2023年《网络安全法》于2023年10月26日获得英国王室批准。这一新制度扩大了英国通信办公室的监管范围，也为视频共享平台引入了新的法定职责和更广泛的服务范围。在2024年春季，英国通信办公室计划就其保护儿童的行为守则草案进行咨询。
视频共享平台监管制度仍然有效，并将继续适用。尽管视频共享平台监管制度最终将被废除，网络安全体系将会取而代之，但英国通信办公室仍致力于在该制度有效的情况下推动积极的变革。在2024年初，英国通信办公室将发布针对视频共享平台监管法规的最新计划和方法，旨在阐明英国通信办公室希望在新制度接入时达成何种目标以及如何确保这两个机制之间的平稳过渡。2024年，英国通信办公室将继续研究视频共享平台的不同方面，并发表其发现。
脚注：
[1] 显示用户生成内容的个性化信息展示功能。
[2] 提供来自经验证的媒体和经审核内容创作者的内容。
[3] Online Nation 2023 Report, https://www.ofcom.org.uk/__data/assets/pdf_file/0029/272288/online-nation-2023-report.pdf, 2023-11-28/2023-2-1.
[4] 虽然若用户认为父母家长控制有效，则更有可能参与父母控制。然而，使用率并不能表明父家长控制系统本身的有效性。
苏筱凡 | 清华大学智能法治研究院实习生
选题、指导 | 刘云
编辑 | 刘懿阳
注：本公众号原创文章的著作权均归属于清华大学智能法治研究院，需转载者请在本公众号后台留言或者发送申请至computational_law@tsinghua.edu.cn，申请需注明拟转载公众号/网站名称、主理者基本信息、拟转载的文章标题等基本信息。
声明：本文来自清华大学智能法治研究院，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
