当前，新一轮科技革命和产业变革蓬勃发展，数字化、网络化、智能化加速推进，算法正成为网络平台的底层架构。在繁荣数字经济、推动社会发展的同时，算法操纵、算法歧视、算法黑箱等一系列问题凸显，对算法治理越来越必要，也越来越重要。习近平总书记多次强调，要加强网络新技术新应用的管理，确保互联网可管可控。为贯彻落实党中央要求，及时回应广大人民群众关切，2021年12月31日，国家网信办会同工信部、公安部、市场监管总局出台《互联网信息服务算法推荐管理规定》（以下简称“《管理规定》”），对算法推荐服务做出全面规范，科学构建网络平台问责体系，成为我国乃至全球第一部对算法进行全面、系统规范的立法。
总体来看，《管理规定》是在数字化变革时代对算法治理的有效回应，在立法目的上，旨在实现算法技术创新与用户权益保障之间的良性动态平衡。在监管机制上，逐步由行业分散监管转向整体统筹协调。在治理理念上，体现了综合治理和精细治理并进的思路。
一、顺应国际算法治理趋势，提出中国本土化方案
从全球范围来看，算法治理已经成为国际社会广泛关注的重要议题。在国际组织层面，OECD、G20、IEEE等相继发布人工智能、算法等伦理指南，推动算法实现透明可释、公平公正、安全可控等。在区域和国家层面，欧盟提出技术主权话语体系，重点关注算法带来的人类自主性、人性尊严威胁，以及日益突出的极端言论、政治生态等问题，通过《通用数据保护条例》《数字服务法（提案）》《数字市场法（提案）》《人工智能法（提案）》等制度构建，持续遏制美国巨头平台攫取欧洲数据资源，保障欧洲公民基本权利。基于多种族多文化、对公权力信任缺失等社会背景，美国在公共治理、招聘、司法等场景下，频繁出现算法种族歧视、操纵政治选举等问题，直接促使《纽约算法问责法》《机器人披露和责任法》等相关法律问世。
近年来，我国《电子商务法》《网络信息内容生态治理规定》《个人信息保护法》《反垄断法（修正草案）》等相关立法对算法问题已作出相关规定。从规制范围来看，《管理规定》覆盖对象颇为广泛。不仅包括用于社交媒体、电商场景、搜索平台的个性化推送算法、排序精选算法、检索过滤算法，也包括适用于网约车、外卖场景下的调度决策类算法，还包括用于游戏和虚拟环境中生成内容的生成合成类算法。同时，不仅限于当前讨论热烈的具有典型算法黑箱性、数据依赖性和通用目的性的人工智能算法，同时也包含了当前应用广泛，仅基于数学、逻辑学，用以实现辅助人类功能的非人工智能算法。
一方面，《管理规定》的出台顺应国际算法治理趋势，体现算法公平正义、安全可信等共同价值，有助于我国参与国际算法治理合作，在全球范围内发挥算法治理引领作用。另一方面，《管理规定》聚焦我国本土实践，回应较为突出的信息茧房、干预信息呈现、网络沉迷、大数据杀熟、劳动保障等热点问题，重点关注商业领域算法应用场景，高度体现我国本土需求。
二、强化算法透明度要求，同时注意精细化区分
算法透明度是一种针对算法运行的规制原则，要求算法的设计方或者使用方披露算法逻辑、输入数据等算法要素，有效解决算法操纵用户思想行为、问责缺失等问题。对于深度学习算法，还面临更为复杂的不可解释问题。当前，揭开算法面纱、强化算法透明度已成为公众熟知且被普遍认可的算法伦理准则，在部分国家和地区也已经写入立法。
《管理规定》将算法公开透明列为基本原则，并从三个维度进行精细化设计，注重算法透明度目的和制度的统一，有效平衡算法透明和企业利益。首先，强调对用户透明，明确告知机制。《管理规定》第16条规定平台应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。该条款并不要求披露源代码，仅要求说明算法的运行逻辑、运行目的，同时强调以简明有效的方式实现有意义的透明度，便于用户实现知情权和选择权。其次，对监管部门透明，确立算法备案制度。《管理规定》第24条要求通过算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息。一方面，算法备案有助于监管部门掌握算法运行状况，评估算法风险。另一方面，可作为固定证据的手段，在损害发生时，平台应就算法损害结果、输入数据、运行目的等是否符合备案信息进行说明解释，并承担不利后果。最后，对社会透明，推动广泛监督。《管理规定》要求，遵循公开透明原则，鼓励行业组织加强行业自律，督促指导平台制定完善服务规范并接受社会监督，制定并公开算法推荐服务相关规则。由于大型平台公共属性增强，算法公开成为平台履行社会责任的重要内容。
此外，算法透明度要求也进一步推动平台积极探索人工智能算法的透明度方案。如引入知识图谱、因果推断等可解释的技术；在深度学习算法中引入可理解的人工规则，不完全由深度学习算法模型完成自动化决策；对于算法模型进行可视化分析，辅助人们理解算法模型的决策逻辑，提升透明度等。
三、维护用户自主选择权利，亟需软法配合落地
算法人工干预和自主选择是重塑人类在算法应用中的自主性，避免算法操控的重要手段。欧盟《通用数据保护条例》第22条确立免于自动化决策权，其初衷即是避免人类受到未经人工干预的算法控制，以免造成人类自主性丧失、人类责任缺失等有损人类尊严的问题。随着算法应用的普及，自主选择权的实现需求更为迫切。在工信部开展的侵害用户权益专项整治行动中，“刚刚聊到某个话题，很快就能在某个APP中收到相关广告”“APP没有关闭推荐算法的选项，有关闭选项的也隐藏在很难找到的地方”“用苹果手机叫车，打车费用更高”等侵害用户权益问题突出。
《管理规定》落实《个人信息保护法》《电子商务法》有关退出算法推荐的权利内容，要求平台应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。美国2021年6月《过滤气泡透明度法（提案）》、俄罗斯立法等均提出应向用户提供非基于算法生成的信息选项。同时，《管理规定》首次提出对用户标签进行选择管理的权利，确保对输入数据的干预。用户标签作为一种输入数据，直接影响算法模型训练和结果的生成。赋予用户对针对个人特征用户标签的选择、删除权利，有助于用户在一定程度主导个人兴趣、避免歧视等。
在具体落地层面，单纯退出算法推荐是否能满足用户最佳需求，如何在界面设计中满足用户对大量标签的选择删除权利，针对隐性标签如何实现标签管理等，需要发挥行业标准、伦理规则、企业实践等软法作用，积极探索用户赋权方式。如有平台对用户退出界面进行精细化设计，用户既可以选择关闭全部个性化推荐，也可仅关闭基于所在位置、基于搜索记录、基于关注列表的个性化推荐，为更好平衡用户体验、个人自主及风险控制，提供了优质企业实践方案。
四、全面确立平台主体责任，同时注重场景回应治理
数字经济背景下，平台借助算法技术，成为数据生产要素的提炼加工者和资源配置方，同时扮演市场参与者和组织者双重身份，具备了一定的社会权力。近年，国外网络平台责任改革趋势显著。2020年9月，美国司法部提出改革《通信规范法》230条款的法律提案指出，因使用算法推荐内容，平台具备了审查言论，并将特定观点施加于用户的能力。2021年10月，美国众议院提出《对抗恶意算法的正义法案》 ，指出为获取利润，平台主动设计个性化算法宣扬极端主义、传播虚假信息和有害内容，应当改革美国《通信规范法》第230条对平台责任的豁免规则。2020年底，欧盟也发布《数字服务法（提案）》，拟对《电子商务指令》中的平台责任进行改革。法案对超大型平台使用算法推荐系统作出规范，要求向用户说明推荐系统的运行规则、采用参数，并赋予用户调整参数的权利。同时要求平台定期向数据服务协调员和欧盟委员会提交审计报告，其内容包括风险评估、采取的风险控制措施等。
在我国平台责任设置上，《管理规定》注重遵循主客观相一致、权责一致的原则，并遵循《数据安全法》《个人信息保护法》等立法精神，进行分级分类和场景化治理。一方面，《管理规定》划清算法推荐服务的红线，规定了不得设置诱导用户沉迷或过度消费、不得利用算法虚假注册账号等十项“不得”要求。另一方面，《管理规定》提出应当定期进行算法审核、评估，完善网络日志留存，配合安全评估和监督检查等十六项“应当”要求。在分级分类管理方面，确立了舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等判定标准，为平台监管和企业合规提供指引。
同时，《管理规定》对部分重点场景进行集中回应。如对于未成年人网络沉迷问题，落实《未成年人保护法》网络保护专章内容，规定应当开发适合未成年人使用的模式、提供适合未成年人特点的服务，提出不得利用算法推荐服务诱导未成年人沉迷网络等要求。在老年人权益保障方面，提出应按照国家有关规定提供智能化适老服务，依法开展涉电信网络诈骗信息的监测、识别和处置，便利老年人安全使用算法推荐服务。在劳动者权益保障方面，要求平台建立完善订单派送、报酬构成及支付、工作时间和奖惩等相关算法，维护新就业形态劳动者的劳动权益。针对大数据杀熟问题，要求不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。
总体来看，数字经济发展不断提速，算法作为数字社会新型生产力的地位和作用日趋明显，《管理规定》的出台是上层建筑构建的重要步骤。下一步，以《管理规定》为重要法律依据，必将促进形成治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局，推动数字经济发展行稳致远。
作者简介
程莹，中国信息通信研究院互联网法律研究中心高级研究员，中国政法大学与牛津大学联合培养博士，算法推荐服务立法研究团队负责人，主要从事算法治理、平台责任、新技术新应用风险规制等互联网领域法律研究工作。
联系方式：chengying@caict.ac.cn
方禹，中国信息通信研究院互联网法律研究中心主任，对外经济贸易大学法学院兼职硕士生导师，中国互联网协会法治工作委员会副秘书长，中国通信企业协会信息通信法治工作委员会副秘书长。主要从事电信和互联网领域立法研究、支撑、起草工作。
联系方式：fangyu@caict.ac.cn
声明：本文来自中国信通院CAICT，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
