【编者按】
2019年12月20日，国家互联网信息办公室近日发布《网络信息内容生态治理规定》（以下简称《规定》）。《规定》旨在营造良好网络生态，保障公民、法人和其他组织的合法权益，维护国家安全和公共利益。《规定》对网络信息内容生产者、网络信息内容服务平台、网络信息内容服务使用者、网络行业组织的权利和义务进行了详细的阐述，对于提升生态治理的专业化、科学化和规范化水平，完善立法和治理机制，落实各行为体不同责任，建立健全网络综合治理体系有着重要意义。
2019年8月30日，在由赛博研究院承办的2019世界人工智能安全高端对话上，赛博研究院联合腾讯安全战略研究中心重磅发布《人工智能时代数字内容治理的机遇与挑战》报告。该报告深入剖析新形势下网络内容治理正在或即将面临的内容爆炸、算法弊端、内容造假、信息茧房、隐私泄露、数字鸿沟六类风险问题，并提出前瞻性建议，以期各方能够成功应对挑战，把握新时代下网络内容发展治理的机遇。
1 网络内容治理面临的挑战
新兴信息技术助推网络内容产业颠覆性发展，难免伴随着现有治理模式及监管体系与新业态的不匹配：既存在现行治理手段滞后带来的治理失效和力不从心，也体现为网络内容治理问题与其他社会问题及风险的交织泛化，具体包括内容爆炸、算法风险、内容造假、信息茧房、隐私泄露、数字鸿沟等各类技术问题、信息问题和社会问题。
1.网络内容极大丰富，内容审核能力不足矛盾凸显
面对庞大的网络内容洪流和各国日趋严格的内容审核政策，试图依靠传统审核模式实现内容含义的准确判断并及时应对信息爆炸引发的各类问题，越发捉襟见肘。内容审核能力不足的问题将会更加凸显，集中表现为人工审核难以应对海量负面信息和算法审核机制尚不完善。尽管机器审核能够有效缓解人工审核压力，却可能存在因算法审核机制不完善而导致的结果歧视。
2.“算法偏见”与“算法黑箱”影响网络内容公正性，技术攻关存难度
算法偏见（Algorithm of Prejudice）是指因为训练数据不完全、算法本身设计不健全、技术开发或是与人类交互过程中存在偏见观念等问题因素，误导或投射到算法输出结果中，使之带有歧视性，算法推荐的歧视结果导致用户接收不公正、片面加强或偏差的信息。“算法黑箱”（Algorithm Black-Box）或算法不透明的产生既有商业机密保护的原因，也有因技术门槛高导致普通用户难以理解算法的情况,还存在由于算法模型依赖的组件、模块和数据库过于复杂，而导致开发人员也很难说清楚每个决策的影响因子和判定依据。
3.内容造假滋生灰色产业，深度伪造威胁国家社会稳定
政治或经济利益驱动下恶意利用人工智能技术炮制虚假新闻（Fake News），同时大范围地广泛传播或是针对特定人群的精准推送，将恶化网络内容质量，威胁新闻真实性和中立性，破坏信息传播秩序，误导用户判断，甚至催生或煽动社会极化情绪,诱发各种社会问题。
深度伪造（Deep fake）是内容造假在人工智能时代的升级版，这种基于生成对抗网络（GAN）的深度伪造技术应用在视频制作中，能够“换脸”“换声”和模仿行为举止，未来甚至能虚构环境场景，其与虚假新闻最大区别在于，人们基本无法从内容本身做出真伪判断。
4.“信息茧房”循环强化，或引发网络社群“部落化”“极群化”
算法主导下的内容分发模式，会放大和加强被标签了的信息输出和推送，由此引发“自我封闭”的危险。“信息茧房（Information Cocoons）”并非人工智能时代的产物，但在算法的助推下，传播中“回音室效应”将被放大，人们极易过滤和忽视那些自己不熟悉、不喜欢、不认同的信息，只会看到和听到自己希望看到和听到的内容，在不知不觉地长期重复和自我证实中塑造出桎梏自身观念的“茧房”。一旦身处其中，就再难接受异质化的信息和不同的观点，甚至在不同群体、代际间竖起阻碍沟通的高墙。相同观念的人们在各类议题热点下逐渐聚集，对所处社群观念不断强化认知，加速网络社群的“部落化”，甚至最终走向不同社群间观念极化对立和舆论失衡的极端。
5.无序数据挖掘泄露个人隐私，跃升网络内容治理突出问题
在万物互联、万物皆媒的智能时代，任何智能终端都有可能成为内容的信源和接收的窗口，存储着大量可供挖掘的数据，个人隐私泄露问题跃升为网络内容治理的突出风险。相较于传统互联网应用主要采集用户上网习惯、消费记录等信息，智能应用可采集的信息更加丰富多样，包括用户人脸、指纹、声纹、虹膜、心跳、基因等具有强个人属性的生物特征信息。这些信息具有私密性、唯一性和不变性，一旦被泄露或滥用将对公民权益造成严重影响。
6.信息资源竞争催生新数字鸿沟，将成网络内容治理新难题
网络信息时代，包括国家、地区、行业、企业、社区在内的信息活动主体，由于对信息、技术的拥有程度、应用程度及创新能力存在差别，或将造成扩大的信息落差，导致贫富进一步分化。信息社会的竞争目前已逐渐演变为对信息资源的争夺，谁拥有信息资源，谁才能有效地使用信息资源。新兴技术的价值分配会使一部分群体受益，那些拥有信息及强大数据处理能力的企业或个体通过人工智能技术获得更多信息占比，从而获取更多优势，或可能产生新的数字鸿沟和机会差距。
2 展望和对策
1.人工智能时代下网络内容机遇与挑战将长期并存
未来很长时间，人们将面临网络内容固有顽疾更加复杂的现实，还将应对由人工智能本体安全性和误用滥用产生的新问题，但是，人工智能技术本身的不断成熟优化以及在各个治理场景中的应用潜能，又将会给网络内容治理提供更高效的技术支持和创新思路。因此，人工智能技术集合对于网络内容的赋能作用呈螺旋式发展，机遇与挑战将长期并存。
2.综合统筹社会协同，形成网络内容治理良好环境
人工智能时代的网络内容治理靠传统治理模式或单一治理手段绝对行不通，应当强化综合统筹治理、协同参与的思路。国家需从战略规划层面高度重视，健全完善垂直领域网络内容政策法规体系、明确各方主体责任；充分调动社会各界力量在产业规划、标准制定、行业自律中发挥作用；促进人工智能与其他学科、行业的跨界沟通和交流，加强科普和舆论引导，推动全民网络内容技能和网络内容素养提升；引领相关企业和科研人员秉持向善之心，践行科技向善理念，追求至善，不仅仅局限于把技术和产品开发出来，而是更多地思考技术和产品开发可能产生的影响，提高风险研判水平，肩负起对科技、对社会的责任，确保未来的正确方向。
3.大力推动国际合作，构建网络内容治理国际机制
人工智能的技术创新具有改变人类基本规则的可能性，对于全球都有着深刻影响，在其赋能下的网络内容发展问题更是全球性的治理议题，这要求在进行人工智能时代网络内容治理时，必须要大力推进国际合作，构建国际协同治理机制。
目前，部分发达国家处于人工智能和网络内容发展的引领地位，其他国家则被技术发展的趋势所裹挟，各国在网络内容发展中的获益情况具有较大差异。通过加强国际合作，才能够应对数字鸿沟带来的国际不公平现象。第一，多边参与：要基于多边参与的立场下构建网络内容的国际治理机制。第二，明确原则：国际社会要在网络内容治理议题中确定基本的价值原则和规范，明确发达国家和发展中国家不同的责任义务。第三，平衡发展：平衡网络内容全球化发展和各国传统文化传承两条主线，尊重每个文明、每个国家的网络内容发展权利。
4.探索创新应用落地，形成“人-机”良好协同路径
企业本身将在产业应用和治理实践中直面人工智能技术的不足，同时也必然承担起网络内容产业发展中对应的社会责任和法律义务。这些将对作为网络内容治理实践者的企业提出更高要求，要大胆探索，稳妥推进。
第一，不断积极探索：企业要积极探索布局在各种领域人工智能技术的治理应用。在未来，内容治理合规将成为各国普遍要求，利用人工智能技术提高内容合规的质量和效率，能够在市场竞争中占据主动；第二，寻求技术突破：人工智能企业要主动寻求技术突破，提供高质量的自动化工具和针对性的解决方案。网络内容治理将是人工智能产业未来重大应用领域，主动布局能够形成人工智能产业的先发优势；第三，形成良好的“人-机”协作：目前来看，人工智能技术短期内无法完全替代人类在关键时机进行决策，人工与机器智能将长期并存，良好协调的“人机合作”模式能够最大限度地发挥人类决策和机器智能的相对优势，企业要针对人工智能技术本身的局限，寻求良好协调的“人机合作”模式。
声明：本文来自赛博研究院，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
