当前，网络空间发展日益深化，嵌入社会生活的方方面面，网络内容治理成为社会治理的重要组成。党的十九大报告提出, 要“加强互联网内容建设, 建立网络综合治理体系, 营造清朗的网络空间”。如何顺应时代发展与技术进步，与时俱进、因势利导，优化网络内容治理方式，提升网络内容治理水平，既是确保网络空间健康发展的有力保障，也是实现国家治理体系和治理能力现代化的一个重要方面。
一、网络内容治理面临的新形势
网络内容治理并不是一个新问题，随着社会信息化的不断提高，全球网络内容治理一直在不断丰富和发展。目前来看，网络空间发展进入新阶段，各国政府网络治理面临着新形势。
一是网络空间发展走向纵深。根据全球化社交媒体数字营销机构Wearesocial联合Hootsuite最新发布的《2020全球数字报告》显示，截至2020年1月，全球网民数量达到45.4亿，约占全球总人口的60%；其中社交媒体用户为38亿，全球手机用户数量为51.9亿，每个网民平均在线时间为6小时43分/天。网络空间越来越宽阔，网民数量越来越多，网上生活也越来越丰富，网络世界和现实生活相互交织更为紧密，互动更为频繁，危害也更为真实。非法行为者借助网络平台发布色情内容、交换恐怖信息、散布仇恨言论、传播虚假新闻、在选举中相互干扰、滥用消费者个人数据等，给现实国家安全、社会稳定、个人隐私带来严重的挑战。
二是数据积累规模越来越庞大。物联网、云计算、大数据、人工智能、边缘计算、移动互联网等新兴技术的发展，使得凡人、凡事、凡物随时随地产出大量数据，全球数据量呈现指数级增加。目前全球数据总量已超过40ZB，活跃的物联网设备直逼100亿台。机器学习技术的运用使得数据的价值属性越来越突出，各类主体将数据作为关键资源，通过技术手段进行收集、存储和再利用。在此背景下，数据的积聚为网络内容治理提供了关键资源，但同时也增加了管控的难点。
三是信息技术进步日益智能化。信息技术进步智能化主要体现在两方面：一方面是网络空间信息收集、处理、分析、发布日益智能化，大数据爬虫技术、智能数据处理和分析平台、新闻机器人的应用使得信息的产出、传播更为快捷，“阅后即焚”的社交软件更是改变了信息发布者与接收方的互动模式；另一方面是技术智能化带来的方便使用，各种新兴技术运用“飞入平常百姓家”，各组织、企业甚至个人可以接触和运用到最前沿的互联网技术，如“深度造假”（Deepfake）的社会化应用变相带来“人人造假”的时代，给监管带来挑战。
四是围绕网络内容的多学科研究加快成果转化。近年来，基于网络内容的网络行为学研究、社会学研究、政治学研究、心理学研究、传播学研究等同步兴起，越来越多的研究人员将网络内容或网络行为作为研究对象，进行多学科融合并加快成果转化，这为网络内容治理既带来了机遇，相关研究成果形成的新模式、新业态也对治理构成了挑战，“剑桥分析”就是利用网络行为学进行数据滥用的典型例证。
五是网络水军成为业态。出于营销宣传或商业竞争的需要，网络水军从之前的灰色产业已发展成为网络空间一项独有的业态。基于其行动主体来源多样、社会结构复杂以及组织化程度高等特征，网络水军通过在社交媒体上“造粉”、“刷排名”、“散布虚假信息”等系列操作，利用“信息漫灌”大量散布特定信息占据网络空间，迫使受众被动地或者无意识地接收，影响受众的判断和认知。由于网络水军的隐匿、分散和低成本的特点，治理网络水军已成为全球难题。
六是国家层面“信息操纵”已成为现实。基于人工智能发展、虚假线上身份、算法操纵以及自动账户传播等，网络内容操纵正在逐步从商业领域延伸到政治领域，2016年美国大选、英国脱欧等重大事件中的“网络干选”仍然在持续塑造西方国家对于网络内容治理的认知和行动。根据牛津大学互联网研究所发布的数据显示，2017年以来，有组织的社交媒体操纵成倍增长，全球70个国家利用计算宣传控制公众意见。应对国家层面内容操纵的“信息战”成为全球网络治理的新问题。
二、当前网络内容治理面临的新挑战
传统的网络内容治理主要指的是以政府为主体，以网络内容载体为主要治理对象，以网络信息为主要治理内容的网络治理形式。随着信息技术的发展，传统的网络内容治理面临以下几点挑战：
一是网络法律法规与内容发展速度不匹配。当前，网络的纵深发展和移动互联网的普及使得人与网络空间的关系更为紧密，“手机成为人体自然器官”，使得“发表网络言论正如同说话一样自然”，良莠不齐、鱼龙混杂的信息内容充斥在网络空间。非法发布者的匿名性以及发布内容的时间敏感性使得在线追踪变得非常困难，网络执法往往陷入“打鼹鼠”的窘境，再加上网络犯罪跨国境作案更牵涉到国际管辖权问题，更加剧了网络内容治理的难度。可以说，传统的网络内容治理法规以及方式普遍滞后于摩尔定律驱使下的网络内容产业发展，这也是当前各国网络治理均存在的一个普遍现象。
二是政府与企业巨头资源占有不平衡。一方面，当前绝大部分的数据资源往往掌握在大型科技巨头手上，而网络内容治理又离不开大数据的溯源和分析，这使得政府缺乏治理的必要技术手段和资源支持，治理能力和效果受到影响；另一方面，科技巨头制定着互联网隐性规则。虽然迫于政府压力各大科技企业普遍制定了自律性的政策，如脸书的“平台标准”、优步对司机的“要求”，但互联网巨头们仍然保留着代码、算法和数据方面的“立法权”。资源的不平衡与技术的不对称导致政府在网络内容治理的博弈里处于劣势。
三是网络舆情的引爆点高度不确定。互联网是一个开放的、不断演进的复杂巨系统，特定信息一旦引爆，其突发性、涌现性就会变得非常明显。随着线下生活的线上化，网络舆情引爆点的门槛越来越低，发展规律越来越不确定。纵观国内外突发舆情事件，偏远地区的一件局部事件可在数小时后传遍全球，普通网民的一则网贴可在少数时间内获得上亿人关注，形成全网高度关注的焦点，更有甚者演变成为线下活动，给社会稳定和国家安全形成严重的挑战。
四是网络操纵精准化与应对盲目化的不协调。近年来，算法与大数据的结合，通过打分、排序、评级的方式在用户、环境和推荐对象之间建立联系，展开精准的话语宣传，极大地提高了网络操纵的效度。算法的技术门槛高造成问责难、溯源难，再加上“算法黑箱”无法公开透明，基于算法操纵的问题越来越突出。与网络操纵逐渐具体化和精准化形成对比的是应对措施并未相应发展，无论是个人、组织还是国家面对精准化的操纵往往显得力不从心。
五是传统网络内容治理方法与网络组织化结构不一致。网络属于扁平化的组织结构，其结构特点要求治理方必须具备完善的信息共享能力和快速的反应能力，这就对传统的自上而下的科层制组织结构提出了挑战。再加上互联网由多利益相关方组成，使得政府在网络治理中往往面临着一对多、一对众的情况，容易陷入以寡敌众的错位困境，给政府治理带来较大压力。
三、国际网络内容治理的新特点
近年来，随着假信息、深度伪造、网络干选等现象的出现，世界主要网络强国逐渐改变了对于网络内容传统的放任监管模式，包括英国、法国、德国、意大利、西班牙、澳大利亚、加拿大、新加坡甚至美国等国家政府，均相继出台相关法律法规，开启网络内容治理的“监管风暴”。在此轮网上内容治理的浪潮中，有几点变化值得注意：
一是网络平台主体责任从有条件中介责任转移到完全中介责任。
一直以来，欧美国家各类互联网平台坚持“技术中立法”，鼓吹“算法无价值观”，利用“避风港”原则逃避中介责任。但随着网上生态环境的恶化，平台责任的重新界定成为网络内容治理的首要步骤。欧洲国家三部法律的出台彻底改变了传统互联网平台中介责任的界定，分别是德国的《网络执行法》、法国的《反网上仇恨言论法》（根据其提出者Laetitia Avia命名，又称为Avia 法），以及英国《网络有害内容白皮书》。法德两国的法案基本类似，主要是课以社交网络平台对其平台内容的主体责任，明确平台的报告义务，要求在24小时之内删除非法言论，并规定了严格的惩罚措施。英国《网络有害内容白皮书》则提出所谓的“法定注意义务”（duty of care），要求各平台主动对其用户的安全负责，改变了此前“通知-取下”的被动反应，三部法律的出台开启了欧洲国家网络内容治理的新进程。
二是网络内容治理对象从传统的言论规制扩大到网上行为、模式管理。
随着网络生态的发展，各国网络内容治理开始从虚假信息、仇恨言论、政治言论、恐怖主义信息，扩展到打击伪造图片与视频、版权保护、端对端加密管理等多重规制目标。澳大利亚政府在2019年4月新西兰恐怖袭击事件后公布《刑法典修正案》，禁止网络服务提供商展示重大暴力内容，重大暴力内容被定义为涉嫌恐怖主义行为、谋杀未遂、酷刑、强奸或绑架的画面。同月，欧洲理事会通过《数字化单一市场版权指令》，规定内容原创者有权分享新链接所产生的额外收入，即“链接税”，同时要求互联网公司要对上传到其网站的内容负责，使用过滤器对涉嫌侵权的内容进行筛查，即“上传过滤器”。当前，印度政府正在推行便利政府获取加密信息的法案，要求网站授予访问执法框架内任何所需信息的权限。可以看出，网络内容的治理对象呈现出深化的趋势。
三是网络内容治理方式正由“企业自律”向“政府主导”转变。
各国在此轮监管潮中制定的网络内容法律法规，普遍授权政府成立专门机构、制定“定假”标准、规定惩罚措施、界定企业责任，逐步扩大政府在网络内容治理中的主导权。2019年6月，新加坡出台《防止网络虚假信息和网络操纵法案》，规定政府有权要求个人、网络平台更正或撤下对公共利益造成负面影响的假新闻，甚至可以封锁传播假新闻的网站和平台。有评论认为，该法预示着政府在决定什么是虚假新闻中的权力不断扩大。澳大利亚《刑法典修正案》规定，未能“确保将暴力内容迅速删除”者，相关负责人将被处以最高3年的有期徒刑和企业年全球营业额10%的罚款，这也是全球范围内首次将“未能防止重大暴力内容”在线上传播列入刑法范畴。在应对近日的新型冠状病毒假信息中，韩国政府要求电信监管机构和网站运营商删除或屏蔽可能导致社会混乱的假信息，马来西亚也采取行动删除多条相关假新闻。互联网平台完全的“自律”管理模式基本结束。
四是网络内容治理原则寻求权利保护、自由言论和平台经济发展间的平衡。
在此轮网络内容治理监管潮中，严苛的惩罚措施对于言论自由以及平台经济的影响引起较大争议。为了处理好公民权利保护、自由言论和平台经济发展的平衡，各国政府采取行政措施和数字工具相结合的手段，利用包括屏蔽、过滤、域名追踪、建立非法行为者名单、通过区块链进行数字认证、对犯罪内容进行大数据分析，以及通知和删除、通知和留用以及在线公众意识行动等措施。英国在《网络有害内容白皮书》中多次强调，政府有义务保护公民的合法权利，恪守遵循比例原则、保障救济机制、鼓励技术创新等。更为看重平台经济的美国业界对于欧盟为代表的强监管模式表示质疑，认为相关监管规定含糊不清，特别是欧盟的版权指令和恐怖言论监管，缺乏明确细节，存在监管漏洞；对于平台“良好行为”缺乏具体的标准，影响企业的对标实施。对此，美政策人士建言，政策制定者应该警惕干预可能产生的反竞争影响，充分发挥自动化工具，正确识别非法内容；同时将政府权力下放到企业自身，采用问责制系统评估平台政策的有效性以及回应公众担忧的及时性。
四、强化我国网络内容治理的几点认识
网络内容治理一直是我国网络空间安全治理的重要内容，在我国网络空间的发展中发挥着重要作用。2019年12月，国家互联网信息办公室发布《网络信息内容生态治理规定》，对当前网络内容治理新形势与新挑战进行了回应，并为我国网络内容治理提供了新的指导。为贯彻落实《规定》提出的从“生态”层面系统全面建设清朗网络空间的基本要求，我国网络内容治理工作需要从思想观念、制度建设、治理模式、管理方法、合作层面进行改进和提高，切实推进我国网络内容治理体系的完善。
首先，在思想观念上从“被动应对”转变为“主动引导”。
“互联网的未知大于已知”，我们对于互联网的认识仍然处于摸索阶段，对于互联网的治理也存在不到位不全面的情况，这使得我们在应对互联网带来的挑战中一直处于被动地位。在网络内容治理方面，简单地将传统媒体管理方法应用到互联网上，实施一刀切的监管方式，进行“封”、“堵”、“删”已经不适用于当前的实际情况，效果也往往适得其反。对此，各级主管部门应从思想观念上进行转变，主动回应社会关切，释放权威信号、正面回应疑虑。
第二，在制度建设上加强“数据把控”能力。
在大数据时代，掌握海量数据的获取能力，提高大数据的溯源和关联分析能力，基于数据进行科学的趋势判断，对于提升网络内容治理工作至关重要。我国政府多年的信息化发展积累了海量的政务数据，但是存在碎片化、封闭化的特点，数据运用能力又落后于科技企业，对此我国应充分发挥体制优势，尽快制定相应法律法规，整合全国各地政府数据，做好数据的分级分类，并加大与企业的数据共享，建立统一的数据共享交换平台，提高政府数据利用效率，加强政府数据把控能力。
第三，在治理结构上形成“以网治网”的协同模式。
当前，我国相关政府部门在应对网络内容治理中处于相对孤立的局面，互联网中的“政府力量”相对而言显得碎片化和分散化。对此，应大力发挥各级政府的组织优势，联合互联网所涉的多方力量，包括各级政府、企业、社会以及公民或群体共同参与到网络内容治理中，相互协作，建构网状的组织网络，实施“以网治网”的协同共治模式。
第四，在管理层面加强风险预警与应急处置能力。
加强“事前”预警和“事后”处置是各国网络内容治理的主要策略。在事前预警方面，当前全国各地重复建设了众多舆情监测系统，如何把这些系统资源集成起来，利用互联网技术手段实现对网络信息的实时监测，是提高网络舆情发现能力和预警能力的关键。在应急处置方面，强化各级政府网络内容安全事件的应急处置能力，同时明确制定平台标准，建立合理有效的问责制度，以既能够让民众接受、又适应互联网特点的方式化解危机事件。
第五，加强网络内容治理的国际合作。
由于网络内容治理是一个全球性问题，是人类在数字时代面临的共同挑战。我国在网络内容治理上积累了丰富的经验，也存在着不少教训。鉴于此，我国应在国际上发挥主动性，积极推动联合国机制下的网络犯罪治理进程，参与建构网络内容治理方面全球性、整体性的解决方案；对于各国在网络内容治理上的不同诉求，采取“搁置争议，共同应对”的原则，从危害各国共同价值观以及各国已达成共识的领域入手，加强在打击儿童色情、盗版产品、恐怖言论等方面的信息共享和执法合作；加强国际技术合作，积极参与研发统一的数字工具。（桂畅旎）
（本文刊登于《中国信息安全》杂志2020年第2期）
声明：本文来自中国信息安全，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
