在网络平台服务盛行的今天，城市生活中的每个人在接受算法服务的同时，也默默地接受算法的影响和控制。但算法作为企业服务模式和商业模式的代码化，既是企业的知识产权，又代表着企业核心竞争力，其历来就以竞争性商业机密为理由，一直在黑暗和封闭的空间中野蛮生长，除了开发它的公司和程序员之外，无人知晓算法这个黑盒子里面的运行机制究竟是什么。网络平台算法目前处于监管空白区，存在大数据“杀熟”、推荐投其所好、破坏包容性发展等算法恶意利用行为，带来的社会危害已经开始显现，加强网络平台算法治理已经刻不容缓。

网络平台算法应用暴露的问题

不良算法催生了大数据杀熟。在大数据盛行的今天，人们在担忧个人隐私泄露被企业用来作恶以外，还有一种大数据作恶方式让人毛骨悚然，那就是商家基于大数据的千人千面，对已经养成消费习惯的老顾客，暗中提高销售价格，坑害消费者利益，此类行为被称为大数据“杀熟”行为。基于大数据的千人千面，通过让渡部分个人隐私，帮助企业做最优决策，本是有利于双方互利共赢的事情。但很多无良企业却利用了大数据这个利器作恶，他们会给消费者的每次行为打数据标签，甚至会为消费者打上千甚至上万个标签，可能比消费者自己都了解自己，然后利用这些标签和消费者的消费习性牟取不属于他们的利益。新零售火爆的当下，线上消费作为牵头者，其积累了亿万消费大数据优势，是其能够作为引领消费的有力保障，但大数据“杀熟”丑闻的出现，将会影响新零售中用户对大数据这个工具的态度，造成严重的不良影响。大数据“杀熟”行为具有很强的隐蔽性，没有人能完全明白无良企业在数据黑箱里究竟装了哪些运算法则，也没有人能够在智能计算定义运行的经济社会中“独善其身”。

不良算法加剧了投其所好。互联网在带来自由开放的同时，很大程度上加深了投其所好和个人见识偏见。随着互联网的不断发展，网络内容服务越来越个性化，它会投个人所好，为个人准备想看到的东西。网络平台会根据用户的历史记录，制定投其所好的服务推荐算法，使得每个人会看到不同的内容，爱看八卦的人会不断地被推荐八卦内容，爱看色情的人会不断地被推荐色情内容，爱军事就会不断地被推荐军事，爱体育就会不断地被推荐体育;甚至在搜索引擎上输入同一个关键词，不同的人搜索的结果都可能是不一样的。网络平台的这种投其所好的行为，对网络平台而言，其受欢迎程度会越来越高，其平台用户规模和流量也会越来越大，最终表现为企业收益上的增长。但对个体而言，网络平台这种做法在满足了个体兴趣爱好的同时，也会渐渐让个人变得知识狭窄。甚者，如果网络平台推送的是博眼球、不良、不健康的内容，会导致受众个体养成不良嗜好或偏好，让个人误入歧途。每个人看到的都是他愿意看到的那部分信息，且这种现象在不断加剧，这就是网络平台推荐算法造成的互联网回音壁现象。互联网在打破信息壁垒的同时，也在形成新的部落壁垒。

不良算法破坏了包容性发展。网络平台按照网络行为主体的服务能力、服务质量和信用记录进行等级划分，给服务对象在选择服务时提供更好遴选参考。这本来是一件好事情，但这种做法一定程度上也破坏了包容性发展，尤其是在那些规模比较庞大、服务能力比较强、服务质量把关控制严、具有长期信用积累的大型企业面前，成立时间比较短、信用积累和服务能力有限、但具有很强创新力初创企业或中小企业而言，网络平台这种全面量体比较做法，进一步强化了“马太效应”，大大缩小了创新型中小企业发展空间，遏制了其发展，同时对行业创新也构成了极大危害。另外，目前许多网络平台按照服务使用积分值来区分客户服务等级的做法也破坏了包容性发展。与应用网络服务较为频繁的年轻人相比，老人、小孩等应用网络服务较少的群体，网络平台如果按照使用历史积分值来区分客户优先服务等级，提供不同等级的服务，那么老人、小孩这类本该享受更多帮扶的群体在网络平台算法面前，其应享受的权利就会被无情地剥夺，人群之间的数字鸿沟就会被进一步拉大。

网络平台问题产生原因

网络平台核心算法是企业服务模式和商业模式代码化的结果，已经超越了技术本身，里面蕴含着企业经营服务模式、商业模式、经营价值理念和企业价值观。算法虽然不具有道德规制的属性，但算法的开发者是受到社会制度规约的。算法有价值观，算法的价值观就是企业的价值观，算法伦理道德缺陷是企业价值观上的缺陷。部分企业利用大数据算法实施“杀熟”行为，跟传统线下企业对新客户实施“杀生”行为，同样都是违背商业诚信的行为。部分企业大肆宣扬技术中立、算法中立等观点，为了博大众眼球，赢商业利益，宣传和推动低俗内容，吸引点击率和访问率，办网站的一味追求点击率，做社交平台的成为谣言扩散器，做搜索的仅以给钱的多少作为排位的标准，实质上满眼球都是企业的利益，却忽视了企业应遵守的社会公德和肩负的社会责任。

缺乏对算法的深度监管和治理。算法自从它诞生以来，就以竞争性商业机密的理由，一直在黑暗、封闭的空间中生长。算法作为蕴含在软件和网络平台内部的运行规则，天生具有很大的隐蔽性和不透明性，加上算法一定程度上代表着企业商业模式和竞争模式，是企业的核心竞争力，代表着企业知识产权，因此企业核心算法公开度和透明性向来是比较低的。传统各部门监管模式都是基于业务合规性的，但互联网业务的分布式和后台管理等特性，给传统利用集中监测手段来判断业务合规性的监管模式带来了很大挑战。由于数据采集访问、算法内容分析、系统开放等系列技术性问题，像大数据杀熟、个人信息违规利用等不合规业务很难被监测到，只有从算法内容层面加强深度治理，方可既治标又治本。

缺乏深层次的行业自律机制。类似大数据开发利用等各类联盟很多，但是聚焦在软件和网络平台运行算法合规性方面的联盟目前几乎空白。联盟缺位使得企业对行业算法目标宗旨、应用标准、运行规则等方面缺乏公开交流探讨，尚未形成统一共识。企业在设计算法时，就光盯着企业利益最大化，缺乏了行业共识规则的约束，加剧了行业乱象发生。行业评估是规范行业乱象、引导行业发展的重要手段，软件网络平台算法方面行业评估的缺失，也使得部分企业算法胡作非为的情况缺乏同行业专业性监督。

网络平台治理对策建议

鼓励和推进算法公开。一是推进精准营销、社交娱乐、个人信息开发、数据挖掘等领域网络平台服务算法原理和流程的公开，提高网络平台算法的透明度和社会公信力。二是鼓励网络平台服务企业算法代码公开或算法开源，从社会伦理、法律法规、商业合规、技术安全等角度广泛接受社会监督，不断推进算法演进和发展。三是加强对网络平台企业算法的公开交流和研讨，围绕加强个人信息保护、提高商业诚信、维护社会公德等需要，共商网络世界算法创新准则、算法创新禁区、算法治理模式等等。

开展算法应用安全评估和审查。一是面向新闻舆论、精准营销、服务推荐、个人隐私保护、数据挖掘等领域，建立网络服务平台算法试运行前的报备制度，备案算法作用、运行原理、技术实现、应用场景、自评合规性等情况，提高对算法商业应用的监督检查支撑能力。二是建立算法安全评估制度，从舆论动员能力、个人隐私保护、商业合规性、国家数据主权等角度，加强算法应用前安全测试和影响力评估，部分领域实施算法使用准入管理，提前做好风险预测和技术防范，提高对个人隐私、商业公平、社会安全保障能力。三是针对用户规模庞大的网络服务平台，建立算法安全审查制度，加强网络平台核心算法的定期性安全性测试和审查，做好社会影响力评估分析，确保不出现重大负面影响和系统性风险。

加强算法应用动态监测。一是建立算法网络监测平台，变革传统监测治理手段，应用互联网、大数据、人工智能等技术手段，加强对网络平台算法数据采集、运行过程、社会影响等方面的动态监测，强化事中监管，提高对风险预测、防范和处置能力。二是建立算法监督检查机制，根据企业算法备案内容，加强对企业网络平台持续监测和不定期抽查，提高算法备案制度的影响力，确保算法备案制度落到实处。三是支持和鼓励高等院校、科研院所、行业组织等机构，开展网络算法第三方监测、评估等方面研究，加快算法社会服务准则等相关规则制定研究，促进网络平台算法朝着正确方向发展。

构建行业自律机制。一是以大型网络平台为主体，构建网络平台服务算法联盟，围绕数据挖掘、隐私保护、精准营销、数据流动等领域，加快制定算法宗旨、应用标准、运行规则、负面清单等相关行业规则，加快形成算法方面的行业共识，提高行业自律能力。二是依托行业联盟，发布算法应用行业自律承诺，推动龙头企业算法应用更加重视个人信息保护、商业诚信和社会公德，形成社会引导和示范效应，带动全行业算法公信力的整体提升。三是开展行业算法应用发展水平评估，总结行业算法发展成就，查找问题和不足，提高算法社会透明度，提升社会对企业算法应用的信任度。四是加强算法创新行业交流，定期组织相关网络平台企业开展算法应用创新研讨，共同商讨网络世界算法创新应用模式。

链接

什么是算法?

算法是解决问题的理念、思路和方法，是一组有穷的计算运行规则，规定了解决某一特定类型问题的一系列运算，是对解题方案的准确完整描述。在计算机科学中，算法要用计算机算法语言描述，算法+数据结构就组成了我们日常使用的各类计算机应用程序。解决相同问题，不同人设计的算法可能不同，不同人设计的算法代表了其解决问题不同的理念和思路。制定一个算法，一般要经过设计、确认、分析、编码、测试、调试、计时等阶段。完成相同任务，解决相同问题，不同的算法用的时间、空间或效率可能完全不同。

算法具有五个重要特性。一是输入，一个算法有零个或多个输入，以刻画运算对象的初始情况。二是输出，一个算法有一个或多个输出，以反映对输入数据加工后的结果。三是确定性，算法中的每一条指令必须有确切的含义，不能产生多义性。四是算法中的每一条指令必须是切实可执行的。五是有穷性，算法必须能在有限步后终止。

各类软件应用和网络平台核心算法都是企业服务模式和商业模式代码化结果，已经超越了技术本身。在网络和软件构建起来的网络空间里，算法即代表运行规则。

作者：陆峰

声明：本文来自学习时报，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。