近年来，各国加大人工智能产业政策扶持和创新平台建设力度，加速人工智能的应用化、产业化与融合化。人工智能技术大大促进了数字内容产业发展，但同时整个行业正在面临革新过程的各种新问题、新挑战，对技术、产业、政策乃至社会层面带来深刻影响。
8月30日，在由赛博研究院承办的2019世界人工智能安全高端对话上，赛博研究院联合腾讯安全战略研究中心重磅发布《人工智能时代数字内容治理的机遇与挑战》报告（以下简称《报告》。该报告也是国内首份聚焦人工智能与数字内容行业关系，全景式呈现发展趋势、挑战风险、政策创新、治理赋能等内容的报告。
数字内容产业呈现六大发展趋势
数字内容产业整体发展趋势体现为纵向延伸、垂直整合、跨界布局、生态融合，行业边界逐渐消弭，数字内容产业催生新的社会化分工，孵化出新的产业价值体系，在内容生产、传播、消费、载体、质量、安全等各环节或方面呈现出六大发展趋势。在内容生产方面，“人-机”协同生产模式进一步解放劳动力；在内容传播方面，算法精准推荐占据信息流分发主导地位；在内容消费方面，沉浸式体验与交互式反馈提供个性化选择；在内容载体方面，万物皆媒环境中数字内容嵌入各行业场景；在内容质量方面“内容为王”成为数字内容产业核心竞争力；在内容安全方面，各类治理难题凸显，机遇与挑战长期并存。
AI与数字内容交织引发七类风险
人工智能助推数字内容产业颠覆性发展，难免伴随着现有治理模式及监管体系与新业态的不匹配，既存在现行治理手段滞后带来的治理失效和力不从心，也体现为数字内容治理问题与其他社会问题及风险的交织泛化，主要风险包含以下七大类：
数字内容极大丰富与内容审核能力不足的矛盾凸显；“算法偏见”与“算法黑箱”影响数字内容公正性，技术攻关存难度；内容造假滋生灰色产业，深度伪造威胁国家社会稳定；智能化内容生产权责归属困难，版权保护亟待健全法规体系政策；“信息茧房”循环强化，或引发网络社群“部落化”、“极群化”；无序数据挖掘泄露个人隐私，跃升数字内容治理突出问题；信息资源竞争或催生新的数字鸿沟，将成数字内容治理新难题。
各国数字内容治理举措差异明显
当前，不同国家的数字内容产业有着不同的发展路径，所呈现的治理问题在种类、风险和危害程度上亦有差异。在应对人工智能时代新型、复杂的治理挑战时，现行数字内容治理政策显得较为滞后和无力，但都结合各国数字内容发展情况作出各有侧重的政策创新和尝试。例如，美国强调对内容造假和算法歧视冲击国内政治生态的问题治理，欧盟强化算法伦理规范，对数据泄露和歧视言论采取较为严格的规制，新加坡和日本除了同样重视人工智能技术的赋能作用以外，就内容造假和知识产权问题开启多项立法进程。我国主要通过健全完善数字内容垂直领域的政策规制展开治理，集中关注新闻信息服务、社交群组、泛视频、直播和电子游戏。
AI+产业创新实践保障内容治理
报告具体考察了国内外企业运用人工智能技术保障数字内容安全的20+案例，以治理场景为导向，介绍人工智能技术在内容审核、事实核查、版权保护、打击诈骗、舆情治理和破除信息茧房等场景领域的技术应用思路和产业探索实践。如在内容审核方面，人工智能技术极大地提高了不良信息识别发现、审核判别、处置处罚等治理效率，有效节省人力、物力成本。Facebook公司开发使用eGLYPH工具用于极端主义、歧视言论的内容审核，包括事前审核、事后检测、删除和防止洗稿上传。而国内对于内容审核的技术应用同样出众，如基于腾讯云图像分析等人工智能技术，微信推出“珊瑚内容安全助手”小程序，为广大小程序开发者提供风险自测、内容鉴别、行业动态三个维度的内容安全能力。
在加强版权保护方面，基于人工智能技术的数据挖掘、文本汇聚、深度学习等技术能够有效检索虚假内容的传播源头，构建各类结构数据库和标识体系，帮助核查者对海量资讯进行针对性处理。美国三大主流事实核查机构PolitiFact、FactCheck和FactChecker在事实核查中不断提升人工智能技术的应用水平。
本报告对政策创新与治理赋能方面的考察具有填补空白的创新和突破意义，人工智能时代数字内容治理的机遇与挑战将长期并存，但AI赋能数字内容产业更加繁荣发展必是大势所趋，需要我们一起努力推动形成良好治理环境，促进国际合作，继续探索创新应用。
下载报告：http://sbwz.walkhunter.com/Upload/ueditor_file/ueditor/20190902/1567422236432958.pdf
声明：本文来自赛博研究院，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
