引用参考文献格式：
张成福，王祥州. 人工智能嵌入公共服务治理的风险挑战[J]. 电子政务，2023(01): 37-51.
摘要：人工智能技术的迅速发展推动了公共服务治理革新的同时，也出现诸多不容忽视的风险挑战。在应用范围上，人工智能于社会治安、交通基建、市场监管、反腐倡廉、应急管理、医疗保障、文化教育、能源管理等公共服务领域的应用，提高了公共服务决策能力、公共服务组织的管理效能、公共服务的质量与效率、公共服务组织与服务对象互动，以及强化了公共服务组织的内外部监督。但人工智能嵌入公共服务治理也面临着数据质量不足、技能人才短缺、统筹规划抵牾、数字鸿沟庞大、解释问责模糊、伦理冲突激化、安全隐私脆弱、就业收入分化等风险挑战。于公共服务治理场域中克服这些困境与问题，是发展具有创新性、可靠性、安全性的人工智能嵌入模式的必由之路。在收益与风险间寻求平衡，可以有效促进以证据为主导和以数据为支撑的公共服务治理路径的创新。
关键词：人工智能；公共服务；大数据；数字治理
DOI：10.16582/j.cnki.dzzw.2023.01.004
一、问题的提出
进入现代数字社会，人工智能技术得以广泛应用。人工智能技术不仅对社会结构、经济发展与文化传播等方面产生了深远影响，还时刻倒逼政府革新公共服务供给方式、优化公共服务供给结构和完善公共服务供给机制，以适应科技进步的时代潮流。党的二十大报告指出，“加快建设网络强国、数字中国”，并“构建新一代信息技术、人工智能等一批新的增长引擎”，进一步强调人工智能在推进治理水平提升的重要性。人工智能技术的应用为政府转型与发展提供了必要契机与技术支撑，正悄然辊动着传统政府服务模式与治理体系。不同于其他信息技术，人工智能面对纷繁复杂的数据信息时，往往以数据流、部门流和业务流为准绳，整合跨部门、跨平台和跨界别的政务信息，以此减少重复性工作和提升行政效率。目前，尽管人工智能的应用与创新正成为提升公共服务质量的重要途径，涉及社会治安、文化教育、交通基建、医疗保障、养老服务和能源管理等公共服务领域的方方面面[1],将人工智能技术用于提升公共服务与治理水平的应用却还在起步阶段，这项技术的使用尚未被视为一种创造公共价值的基本手段。在人工智能的发展进程中，公共服务部门通常扮演规范者身份而非人工智能的直接受益人。这就导致公共部门于人工智能与公共服务方面的政策多是“治理人工智能”而非“运用人工智能治理”[2]。本文将结合各国当下人工智能嵌入公共服务治理的实践与应用对其中的困境与挑战进行阐述，以期对未来人工智能的公共服务应用研究提供思路与方向。
二、人工智能的演进历程
（一）人工智能的定义
人工智能这一名词实际上并不新奇，自20世纪50年代起，学界在这一领域的探索便从未停止。随着计算机算力与数据量的提升，当今的人工智能已然步入一个飞速发展的时代。基于人工智能系统所使用的算法和信息处理技术、所应用于的领域、生命周期阶段，人工智能具有多样化的定义。联合国教科文组织在报告中将人工智能系统概括为“运用类似于智能行为的信息处理方式的技术系统”，这种智能行为可以包括学习、感知、规划、预测和控制等[3]。欧盟委员会在人工智能法的提案中将人工智能定义为利用机器学习、逻辑与知识、统计学等方法，在物理或数字维度上，为完成由人类定义的目标，生成能够影响与之交互的环境的内容、预测、建议或决策等输出的软件[4]10。其核心领域包括机器学习、自然语言处理、计算机视觉、语音识别、机器人技术等。综上所述，当聚焦于人工智能技术在公共服务领域的应用时，人工智能一词通常用来指机器学习算法或由机器学习算法所开发的系统。这些算法通过自行组织其内部的变量和数值以实现所期望的结果[5]，其核心特性就是根据环境条件处理所获取的数据，并做出合理的建议、预测或决策。
人工智能大致可分为弱人工智能（ANI）、强人工智能（AGI）和超人工智能（ASI）三个发展阶段。弱人工智能，又称实用人工智能，适用于解决特定问题或逻辑运算[6]298，也是人工智能目前所处的阶段。强人工智能则被认为是更具有智能意志的机器算法，其能够像人类一样思考、学习和总结抽象化概念[6]298。超人工智能是指计算机几乎在任何领域已拥有远超人类极限的智能，包括科学创造力、一般智慧和社交技能[7,8]。
人工智能从19世纪50年代起发展至今，从英国数学家艾伦•图灵对机器能否自主思考的提问，到1956年达特茅斯人工智能夏季研究项目以及其后20年人工智能理论与技术的蓬勃发展，历经从1973年起长达41年的英美学者对人工智能的批判与政府研究资助的大幅削减，再到基于人工神经网络和深度学习的谷歌AlphaGo于2015年取得成功[9]，如今已广泛融入大众生活，人类在这一领域的探索一直在不断深入。在过去的十年里，计算机算力、各种传感设备、大数据和云计算等硬件和技术的突破性发展，使以机械学习为核心的人工智能得到蓬勃的生命力和广袤的发展空间，也为众多核心人工智能研究，如自然语言处理、自动驾驶和自动机械、计算机视觉等分支创造了新的机遇[10]。
（二）人工智能于公共服务治理的发展前景
人工智能对公共服务治理而言仍是一项相对新颖的技术，而公共服务对人工智能的发展则是重要的驱动力量。在私营部门，国内外已有大量人工智能成功应用于企业服务与产品的案例，谷歌、IBM、微软等公司对人工智能研发进行了大量的投资，如苹果公司的虚拟语音助理Siri、微软公司的虚拟助理Cortana、字节跳动旗下的抖音智能内容推荐及内容自动审核算法等。在公共部门，世界各国正战略性地使用人工智能，在改进决策、提供服务和绩效管理方面也取得了重大进展。
作为一项普适性技术，人工智能拥有以下潜在功能[11]：①语音识别：能够理解人类自然语言，并能对口头或书写的指令做出反应。②虚拟助手：运用语义分析、计算机视觉、自然语言处理、实时翻译等方式辅助或替代人工处理相应的任务。③信息管理：通过收集、归纳、记录和传播来概括与系统化整理信息。④智能预测分析与数据可视化：运用量化和统计学数据分析，处理大数据并进行预测。⑤可信身份认证：配备大数据分析和身份认证管理的软件可被用于面部识别以及欺诈行为检测。⑥程序自动化：自动处理标准化的任务，代替人类执行复杂的逻辑性或危险性任务。⑦机械自动化：以强大的计算能力为基础，运用高级的识别能力来学习周围环境并做出类似人类行为的反应。⑧推荐系统：基于个性化信息预测用户偏好的信息过滤系统。因此，人工智能于公共服务领域的应用前景是广泛的，并可能发挥更多作用（参见图1）。
⒈提高公共服务决策能力
西蒙将决策过程定义为四个阶段：情报活动、设计活动、抉择活动、审查活动[12]。决策者在情报活动阶段收集信息并形成对决策问题的理解，在设计活动阶段确定标准和制定行动方案，在抉择活动阶段对备选方案作出选择，最终在审查活动阶段对过去的抉择进行评价。人类在进行决策时倾向于借鉴过去的行为、综合当下的情境以及对未来的概念化[13]。将这些信息作为决策依据，以因果判断与价值判断为决策逻辑，人类在各种情境下分析与学习，并提升自身的决策能力与决策结果。然而，个体的信息处理能力受限，使得学习的速度放缓和范围局限[14]，依靠人类有限理性的判断时常失灵，且易受固化思维和原有习惯的影响，难以有效地优化既有的决策过程与行为逻辑。
人工智能算法提供了一条克服这些局限性的决策进路。算法本质上是一系列处理信息的步骤，可以将问题的现实情况作为数据输入，从而输出对问题的处理方案。人工智能因此能够参与到决策的每个阶段中。随着可用数据量的提升，人工智能可以评估过去决策的影响、对实时数据进行监控与分析、对未来情境进行模拟，借助强大的分析与信息处理能力，为公共服务决策提供更加准确和精细的信息支持；通过不断学习和理解所收集的信息，人工智能可以对不同环境做出快速反应，运用逻辑分析为决策者提供解决方案设计；人工智能亦可对备选方案进行模拟和评估，从而辅助或是代替决策者做出理性抉择；基于对决策信息和结果的分析，算法能够为决策者提供决策评价甚至改善建议，从而提升公共服务决策能力。将决策的所有阶段都交由人工智能进行处理，公共组织甚至能借助智能算法系统实现事务的自动决策，如发放贷款时自动检索征信数据、通过匹配求职人员技能与岗位要求提升就业率等[15]。在整个政策周期中，人工智能可以从议程设置和政策制定，到执行和评估，为政府活动做出积极贡献，从而提升公共服务政策设计和评估能力[16]96。
⒉提升公共服务组织内部管理效能
将人工智能植入组织的内部管理链路，包括对战略制定、人力管理、资源调度、绩效评估等全流程的精准分析和自动化转型，人工智能可以进一步为公共服务组织内部管理赋能。通过将一些像报表填写、文字语音识别记录[17]、流程运作、审核审计、数据信息管理[18]等繁琐且具有一定重复性的常规任务分配给人工智能自动化处理，公共服务组织能够有效提升内部工作效率。公共服务人员因此能够将时间、精力和资源更多地投入到处理模棱两可或更需要直觉、创造力、情感、判断力和同理心的情境[16]14。人工智能将把行政人员从日常和重复性工作中解脱出来，进而降低行政负担[19]，减少公共资源的浪费，实现高效能的行政管理，并为积极主动的公共服务提供模式和缓解资源受限问题创造条件[20]。人工智能为公共服务组织提供先进的管理、控制和决策支撑工具融入组织结构，进而实现组织的战略目标。
⒊改善公共服务的提供效率与质量
在公共服务的运营过程中采用人工智能，可以在为公众和企业提供公共服务的效率与服务的效果方面产生巨大的效益，从而提高他们对公共服务质量的满意度和信任水平。传统公共服务模式往往受限于信息传递和资源分配能力，对需求的识别和响应有所滞缓，且缺乏靶向能力而导致服务供给精准性不足，公众多元化需求难以满足。将大型数据源与先进的机器学习算法相结合，可以有效改善各部门的公共服务供给方式。通过简化和规范审批流程，精准识别特定群体甚至个体的需求，快速实现公共资源的有效分配，提供高质高效且个性化的公共服务，使其更好地回应公共需求，从而创造更多公共价值。人工智能也能被应用于创造新型公共服务，例如，利用人工智能开发针对不同学生学习情况的适应性教学模式[21]，通过智能算法分析交通数据实现自动化交通管制，协助降低车辆行驶里程从而减少行车排放和促进环境保护[22]，政务服务应用程序可以基于用户资料和过往服务互动记录数据分析，为用户提供包括答复服务询问、协助查找和填写表格、翻译、路由请求、起草文件等个性化公共服务[23]。
⒋加强公共服务对象与公共服务组织的互动
人工智能可以通过提供更好的交互方式促进公共服务对象与公共服务组织之间的互动。政民互动对促进政策制定与实施、弘扬民主精神以及阐释公共价值都具有积极且深远的影响[24]。运用虚拟助手、聊天机器人等人工智能应用，公共部门可以拓展与公共服务对象的沟通渠道，提供更为便捷、更为高效的互动方式，提升双方的交流联系。人工智能借助词义分析、观点挖掘和情感分析，可以收集并总结公民的反馈意见，捕捉其蕴含的情感观点从而对收纳的信息按照消极、中性和积极分类，对关键词进行标签化管理，优化政务意见箱管理模式[25]。
基于这一技术，一条更具创新性、更有表现力和更智能的数字互动渠道得以发展，其将适用于更广泛的互动模式，所能应对的复杂性、模糊性和不确定性程度都将高于现有的数字沟通渠道[26]。具备全天候值守和即时响应功能的人工智能助手将使政民互动更为灵活和高效，也可以使公民更多参与公共服务活动和决策过程来增加对公共服务组织的信任。通过改善公平、高效的公共服务供给，人工智能具有提升信任与合作、加强透明度与民主性的潜在能力[27,28]。随着人工智能与政民互动渠道深度嵌合，民主、协商、透明和参与的公共价值创造路径将得到更为深入的发展。
⒌强化公共服务组织的内外部监督
腐败通常被定义为滥用委托权力谋取私利，是我们时代最大的社会和政治挑战之一[29]。将人工智能纳入政府行政系统，有助于构建自上而下和自下而上的反腐倡廉监督体系[30]。自上而下的监督体系依靠法律塑造的政策制度对组织进行规制，通过在公共服务场域引入新的法律法规来规范组织和其成员行为。内部监督主体可以使用人工智能对海量数据做实时分析判断监管薄弱环节，弥补权力监管的漏洞，强化对权力使用的把控，将权力牢牢锁进制度的牢笼中。与此同时，人工智能算法在原则上是不偏不倚的，并不像人类决策者易受个人利益或诱惑的侵蚀，因此以人工智能代替人工督查为逻辑进路，减少人类干预，使跳出“监察者腐败陷阱”[31]成为可能。自下而上的监督体系则更取决于社会经济环境，分析特定的社会文化背景来减少腐败行为的产生，寻求社会团体和公众媒体作为外部监督者[32]。在自下而上的监督机制中，外部监管也同样能运用人工智能对公共服务组织数据做到精准分析，确保公共权力不被滥用。但与自上而下依靠组织内部的监管相反，人工智能将更多人纳入监管流程中以确保合法性，使公民作为监督客体参与到权力运行的监督中来。
三、人工智能嵌入公共服务治理的战略与应用
（一）各国人工智能发展战略
公共服务部门的战略计划为理解国家的优先事项和实现这些优先事项的战略提供了宝贵的路线图，这种发展规划过程使公共服务部门可以从各种相关利益者处获取信息[33]。人工智能的迅速发展与其在各个领域的应用正在潜移默化地改变人类社会和经济活动，在公共服务治理中所发挥的作用也在日渐显现。
牛津智库Oxford Insights发布的2021年政府人工智慧完备指数（Government Artificial Intelligence Readiness Index2021）报告对全球国家和地区政府对运用人工智能提供公共服务的准备程度做出评估，涵盖愿景、治理与道德、数字能力、适应性、规模、创新能力、人力资本、数据可用性、数据代表性和基础设施共10个维度42个指标。其中美国在全球得分排名第一，其次为新加坡和英国，中国排名第十五。世界各国纷纷抢抓人工智能发展的重大机遇，并积极应对人工智能部署于公共服务中所遇到的政策、社会、经济、技术等问题，强调推行国家级的战略计划将会为社会各界带来变革的契机。
国务院于2017年印发的《新一代人工智能发展规划》强调，至2030年中国人工智能理论技术及应用需总体达到世界领先水平，核心人工智能产业规模达1万亿元。构建开放协同的人工智能创新体系，坚持技术研发、产品应用和产业培育“三位一体”有序推进，构建人工智能创新平台，建立人工智能技术体系。2020年，教育部、国家发展改革委、财政部印发《关于“双一流”建设高校促进学科融合加快人工智能领域研究生培养的若干意见》指出，我国人工智能相关学科的人才培养与学科建设与发达国家相比仍有差距，需要抓住产业变革的战略机遇，推出创新性的高层次人才培养机制，实行多维融合的推动政策，打造健全的人工智能人才培养模式，提升人才培养规模与质量。2022年，中共中央办公厅、国务院办公厅印发的《关于加强科技伦理治理的意见》提出，“以习近平新时代中国特色社会主义思想为指导，深入贯彻党的十九大和十九届历次全会精神，坚持和加强党中央对科技工作的集中统一领导，加快构建中国特色科技伦理体系，健全多方参与、协同共治的科技伦理治理体制机制”，在加快科技创新的同时，明确科技伦理原则，严格完善科技伦理治理制度，加强科技伦理审查与监管。
很多国家纷纷将发展人工智能提升至国家战略层面，并制定了相应发展政策。美国和欧洲各国在人工智能发展与应用战略上起步较早。2016年，美国国家科学技术委员会发布的《国家人工智能发展与研究战略计划》（The National Intelligence Research and Development Strategies Plan）和美国总统行政办公室和科学技术委员发布的《为人工智能的未来做好准备》（Preparing for the Future of the Artificial Intelligence）分别指出了人工智能跨部门发展的国家导向和人工智能为政府治理带来的问题与挑战。2020年12月，白宫发布《关于促进在联邦政府中使用可信的人工智能的行政命令》（Executive Order on Promoting the Use of Trustworthy Artificial Intelligence in the Federal Government），要求政府在使用人工智能时需遵守9大原则：合法服务国家利益、实用性驱动、精准可靠、安全保障、可理解性、责任明晰、定期监测、公开透明、问责体系。2021年1月，美国国会通过《2020年国家人工智能行动法案》（National Artificial Intelligence Initiative Act of 2020），旨在为整个联邦政府提供行动纲领，以加速人工智能研究和应用，促进国家经济繁荣和国家安全。新加坡政府于2018年将其对使用人工智能于公共服务的雄心绘制于《数字政府蓝图》（Digital Government Blueprint）中，大力推动信息通信技术与数字化公共服务。英国政府于2016年发布的《人工智能：未来决策制定的机遇与影响》（Artificial Intelligence: Opportunities and Implications for the Future of Decision Making）指出，人工智能技术已经融入政府日常工作中。2019年，英国发布《人工智能行业新政》（AI Sector Deal），认为人工智能具有快速、便捷和高效处理复杂问题的潜能，将人工智能运用于公共服务将有效提高数字化公共服务质量，且政府、企业和学界强有力的合作是必不可少的。2021年9月，英国政府公布《国家人工智能战略》（National AI Strategy），进一步推高人工智能领域的影响力。2018年，瑞典政府发布《人工智能的国家方针》（National Approach to Artificial Intelligence），表示该国政府的目标是抓住人工智能发展所带来的机遇，提升全社会的福利与竞争力。2021年，澳大利亚发布《人工智能行动计划》（AI Action Plan），旨在促进社会生产力发展与经济繁荣、创造就业机会、解决社会当下的现实问题以及提升未来产业竞争力。
（二）人工智能应用场景与实践探索
随着技术的不断发展，人工智能技术越来越多地取代传统的编程算法。基于图像识别、语音识别、自然语言处理、程序自动化等技术，公共服务治理逐渐构建了更多具有智能化特征的公共服务新模式。人工智能与公共服务治理相互嵌套于多样化的服务场景中，带来了各个领域的革新性变化（参见表1）。
⒈社会治安
在社会治安管理方面，人工智能技术已在我国大部分地区的智能监控系统中普及，使其能够通过面部识别技术迅速对重点区域内人群进行特征分析，协助警方识别犯罪嫌疑人。据统计，2017年10月，公安部门运用人工智能监控系统对天安门附近过往人群进行面部识别，在超10万人次的检测对象中报警92次，盘查60人，有效盘查53人，在一定程度上提升了安保工作效率[34]。美国西雅图警察局也于2017年推出治安数据分析平台，用于改善监督、优化决策和社区参与，其整合17个内部跟踪指标与配套的可视化工具，用以监控治安数据，如暴力事件、车辆盗窃、逮捕数量、响应速度、拦截次数和民众投诉等，同时根据每个警官的详细活动信息分发相匹配的任务[35]。该平台旨在帮助警局领导团队跟踪相关的治安数据趋势与部门活动记录，有助于部门管理、社区治理和执法支持。基于统计学的特征分析，美国国家犯罪和违法行为委员会制定的结构化决策模型，已广泛用于虐待儿童的监管系统。随着人工智能技术的融入该决策模型显著提升了风险判断的准确性，并有效减少了工作人员的负担[5]。
⒉交通基建
传统的城市道路管理已无法有效处理交通拥堵或事故，为居民出行造成诸多不便，甚至危害交通安全。中国已将智能技术应用于交通建设和管理，许多城市正在部署人工智能技术高效利用其生态圈内的数据资源。在城市交通系统中融入大数据、云计算以及物联网技术，可以有效提高交通管理效能，降低城市交通拥堵的概率。远程管理和检测系统也使得交通控制和道路规划更为高效。基于智能信息管理平台的智慧公共交通、轨道运输、航空航运系统和应用软件使乘客可以准确地把握公共载具的位置和状态，以便提前计划和制定路线，政府的相关部门也可以实时进行监督，并对突发状况及时做出反应。人工智能技术的应用优化了交通服务，大幅提高了交通效率，降低了响应延迟。
⒊市场监管
美国证券交易委员会已在其五个部门和独立分支机构的算法执法软件中应用人工智能。通过自动化的智能算法进行自然语言处理，对申报文件进行分析，如招股说明书、提示函、投诉和转介等，检测潜在的市场不当行为[36]268。其中一个应用工具——CIRA，用于检测会计和财务报表中的欺诈行为；ARTEMIS和ATLAS用于监管基于市场的交易平台的不当行为，尤其是内幕交易；ADV表格欺诈检测器（The Form ADV Fraud Predictor）用于监测非法投资，其监督的重点对象一般为资产经理和投资顾问[37]。致力于处理财务文件和申报材料，人工智能已经能够协助执法和审查部门识别潜在的具有欺诈性或有不正当行为的机构和交易者，从而实施有效的资源部署。虽然在目前的审查过程中各个步骤仍然需要人力参与或监督，但美国证券交易委员会的目标是实现完全自动的审查流程[36]268。
⒋反腐倡廉
大数据与人工智能算法使潜藏在阴暗处的腐败无处遁逃。原本无法通过人工处理的庞大数据可由人工智能进行分析，其介入使得原本难以探查或预测的腐败和欺诈得以显现。世界银行于巴西构建的治理风险评估体系利用其开发的人工智能系统对巴西政府总金额超过1000亿美元的约2.5亿采购活动数据进行扫描，从中发现超过225起高风险案件[25]。该系统大幅优化了既有的公共支出腐败的侦破流程，节约了大量人力物力，增强了稽核与侦查效率，也为政府外部监管提供了新的路径。
与此同时，一条新的反腐道路也由此展开：运用人工智能来改变易腐败的系统结构，而非一味地追逐腐败。肯尼亚政府于2014年与IBM公司展开合作，将IBM旗下的智能认知计算系统Watson用于协助简化企业设立流程[38]。通过智能数据收集、提出假设、构建解决方案，该项目将流程从11个步骤简化至仅3个环节，在优化营商环境的同时也大幅降低了政府行政成本，也使监管效率显著提升。
⒌应急管理
人工智能还被用于构建需求预测的数理模型，使管理人员能够更灵活地响应危机和引导资源。澳大利亚联邦科学工业和研究组织（CSIRO）融合人工智能技术，研发患者入院数据预测工具（PAPT）和森林火灾预测系统Spark，实现敏捷应急与高效配置。PAPT能够准确预测医院急诊科的预期每日患者负载，患者的医疗紧急程度和应属科室，以及出入院的病患人数[5]，使医院管理人员能够更好地规划资源和人员配置需求，以减少患者等待时间，提高治疗效果。Spark系统则利用人工智能对灾情数据进行分析并预测丛林火灾的蔓延[5]，使得相关部门能够更好地分配消防资源和制定最佳灭火策略，从而挽救生命以及减少财产损失。
基于人工智能神经网络和强化学习算法，美国海关和边境巡逻队通过大数据和温度传感器对新冠肺炎接触者进行追踪、甄别与隔离，进而最大限度地减少对经济生活的干扰并遏制疫情的蔓延[25]。半自动化的监测系统极大地加快对灾害的应急响应速度和提高基础设施的应急韧性。在此次疫情防控中，中国各高新科技企业在国家政策的引导下，有效运用大数据和人工智能等技术，对人员聚集场所、人口流动状态、异常体温个体等数据进行精准把控，从而使疫情防控政策高效统一地实施。中国移动基于大数据分析研发的“疫情专项分析服务”，对流动人口、人员密集区域、传播链溯源等重要数据进行分析、追踪与可视化[39]。阿里集团、百度等公司运用热成像、红外测温等技术配合人工智能实时监测实现对人流密集区域的高危人群追踪。医疗机构通过对大规模病例特征数据的机器学习分析和建模，形成精准有效的应对方案。人工智能在精准防控、社会治理、疾病诊疗和复工复产等方面体现了其应用场景广泛和独特的优势。
⒍医疗保障
人工智能对病患监测与疾病筛查的技术赋能为医疗服务提供了新的思路。位于俄亥俄州克利夫兰的非营利多专业学术医疗中心——克利夫兰医学中心，使用微软的人工智能数字助理Cortana，通过预测性数据分析来识别ICU病房中具有潜在危险的患者。Cortana被集成到克利夫兰医学中心的eHospital系统中，从晚上7点至早上7点监控6个ICU的100张病床[40]。妙佑医疗国际使用人工智能进行宫颈癌筛查，以诊断妇女宫颈癌前病变。该人工智能的解决方案运用图像识别算法，对来自美国国家癌症研究所的六万多幅子宫颈图像进行分析，以识别癌变前征兆。研究报告称，该算法的准确率（91%）远远高于训练有素的人类医学专家（69%）[40]。在中国，人工智能技术正在被用于诊断结肠息肉。四川省人民医院的一项临床研究显示，基于人工智能技术的实时自动监测系统和一位胃肠病学专家合作诊断病人的检出率较只有一位专家进行常规诊断的检出率高20%[41]。
⒎文化教育
ALEKS是一个在美国广泛应用的基于网络的人工智能评估和学习系统，其功能包括为大中小学课程提供教学补充、作为学生课程内容、课内活动和个性化在线作业，以及结业考试的复习平台等。该系统基于知识空间理论，将领域知识建模为一组概念、问题以及它们之间的关联关系，运用人工智能技术为学生提供适应性与个性化的学习体验[42]。研究指出，ALEKS在作为传统教学方法的补充内容时能够有效提升学生的成绩[43]，在疫情期间也能够有效替代传统教学方式[42]。美国教育考试服务公司（ETS）设计和使用的e-rater作文自动评价工具[44]，基于多种机器学习算法，使程序对文章的评判方式与人类教师高度相似。e-rater能够准确、高效地评价学生的作文，包括语法、结构、风格、用词和整体评分等，不仅提高了教师的考核效率，还能引导学生提高写作能力。基于虚拟现实技术的虚拟教室与实验室能够为师生提供更为新颖的教学体验，使得曾经难以表述或观察到的现象生动地呈现。通过构建高度仿真的虚拟实验环境和实验操作对象，借助先进的体感交互设备进行虚实交互，实验者仿佛置身于真实环境即可完成各种实验项目，且得到的实验结果与真实环境下的实验结果相当甚至更好[45]。
⒏能源管理
诸多大型能源公司使用搭配人工智能技术的大数据云计算、IoT传感器和区块链技术来管理和优化能源产出与规划。比如，使用基础设施即服务(Iaas)、平台即服务(Paas)和软件即服务(Saas)的云计算服务模式，以较低的管理成本快速处理大量能源板块数据[46]。将小型发电和消耗电力的单元集成到基于人工智能与区块链技术的智能电网中，可以为消费者提供更公开透明的收益，并为能源供应商开发了新的商业模式，提高能源生产与配给效率[47]。
在新能源发展领域，人工智能的多种算法被用于储能优化方案的各个环节中，包括完善系统配置、能源控制策略、参数估算。例如，算法会通过对风电功率进行实时分析，为电网中的不同电源配置适用频率[48]。人工智能技术在可控性、大数据处理、网络攻击预防、智能电网、物联网、机器人技术、能效优化、预测性维护控制和效率计算等各个方面都优于传统能源管理模型[49]。
四、人工智能嵌入公共服务治理的风险与挑战
虽然人工智能技术能为公共服务部门带来诸多便利，但其带来机遇的同时也伴随着风险与挑战。倘若罔顾技术在应用过程中存在的实际问题，盲目地诉诸其带来的快捷和便利，就容易落入计划与现实的断层。而造成这种断层的原因是多元的，使人工智能与公共服务治理有机融合仍需克服诸多困难。
（一）不足的数据质量
公共服务研究中的数据侧重于收集公共和个人生成的多模式数字数据。要实现精准可靠的算法决策，人工智能机器学习算法需要大量的数据用于深度学习和训练。公共服务数据可以包括：①由公民个人通过他们在互联网上的互动而产生的数据（例如社交媒体数据）；②由各类传感器生成并收集的数据（如海洋传感器和道路交通传感器）；③公共服务部门在其运营过程中所收集的数据。将人工智能运用于治理过程，获取并整合这些数据是一个重大的难题。此外，由于缺乏收集和保存数据的格式标准，也使得基于人工智能的解决方案的开发变得十分复杂[50]。在公共部门中，鲜有可用的数据标准用于收集和存储数据，既有公共数据开放平台的数据质量参差不齐。虽然网络上已经有很多具备潜在价值的公开数据可供自由取用，但绝大部分有价值的数据仍然只掌握在部分组织的手中。不论是为了保护自身的竞争力还是维护客户的隐私安全，企业可能不愿与外界分享数据信息。若要提高企业分享数据信息的意愿，政府需要制定明确的法律规章来保护个人的隐私权、界定数据采集和分析的范围，以及保障企业的竞争优势。然而，收集大量但无用的信息则是另一个问题。一些机构在没有首先设定优先级和计划质量检查的情况下收集了尽可能多的数据，急于追逐“大”数据，导致了数据冗余和无意义的结果产出。同时，许多数据以不同格式存储，一众数据平台只是对数据进行简单堆砌，存在数据碎片化、更新不及时、无统一标准等问题，使缺乏结构性数据也成为阻碍人工智能普及的巨大挑战。将这些文件及信息归档和标注为人工智能可用于训练的数据集仍需要相当大的努力。
（二）短缺的技能人才
将人工智能融入公共服务治理需要大量高新科技人才。从硬件基础设施建设，到软件开发和部署，再到具体的操作与使用，每个环节都离不开相应的技术人才。然而，公共部门人员利用人工智能技术的能力有限，绝大多数公共部门职员对人工智能或机器学习并不熟悉，公共服务组织内部也缺乏在职的人工智能技术人才。实施高质量的智能服务需要建立全面的专家团队，涵盖从网络开发到安全和隐私的所有相关实践领域[51]。人工智能人才在全球劳动力市场中都是相对稀缺的，因此这类专家往往更愿意在私营部门就职，以换取较高的薪资待遇，也致使公共部门难以吸引高精尖技术人才[52]。实施人工智能在公共服务部门的全面普及，对在职人员的知识管理和培训也不可或缺。在公共服务领域导入人工智能解决方案，不仅需要设计、实施和管理的技术技能，还需要将管理能力与对技术及其潜力的理解结合起来的社会技术跨专业人才[4]18。将发展的矛头单独对准技术能力的提升并不足以应对日趋增长的多样化公共服务需求。
（三）抵牾的统筹规划
由于各部门的信息系统建设大多是独立进行的，其所采用的建构方式以及所用技术也不尽相同，造成开展公共服务的各个部门的信息系统之间并不互通、难以共享，逐渐形成了一个个“信息孤岛”。同时，政府虽然拥有海量且多样的数据储备，但缺乏与其他各行业组织之间的信息互流，这些组织参与数据的开发和运用程度也仍然不足，难以发挥大数据原本应有的效益[53]。以上问题主要源于在部署人工智能应用时并没有从最基本的底层架构出发，对人工智能应用的建设没有进行统筹与规划。目前，我国不在少数的智能化服务都是在原有的传统结构上模块式地添加数据应用，而且大多数相关组织间的服务仍是独立部署的，导致这些数据驱动的功能并没有发挥其最大的效益或产生协同作用。公私部门在应对风险的方式和相互竞争的制度逻辑上的不同也使人工智能在跨部门协作领域出现分歧[54]。由于公共服务部门通常保守性地对待风险以及人工智能治理与公共服务领域融合的缺失，公共部门难以像私营部门那样快速适应人工智能的飞速发展[52]。若是过度依托私营企业作为提供人工智能服务的核心，则数据安全与治理责任都可能处于模糊性泛滥的风险。
（四）庞大的数字鸿沟
基于网络与数据存储技术的飞速发展，互联网正在快速改变社会，然而这种迅速的变革也导致数字鸿沟越发扩大。一方面，由于数字鸿沟，不同人群因为年龄、居住区域、社会经济地位等因素而有不同水平的信息和网络技术的拥有程度和应用程度。比如，拥有智能手机的人群主要集中于年轻群体，日新月异的科技迭代对于中老年群体而言可能难以快速地接受和学习。而且，智能手机与其他上网设备对于经济能力较低的人群是相对奢侈的，因此不同群体产生的数据量会有所不同。也因为数字鸿沟的存在，在运用人工智能时就必须注意通过这些数据分析总体情况时也会难以获得正确的推论。另一方面，人工智能在提升强数字能力群体于公共服务参与度的同时，也为信息化程度较低的群体制造了参与困难。社会弱势群体不仅缺乏接触数字技术的机会，并且也在进一步落后于其他正在使用数字技术的人群，被数字技术排斥于社会讨论与参与平台之外而越发可能陷入“社会隐形”的风险[55]。为使公共服务惠及更广泛的人群，如何削弱数字鸿沟的负面效应也是人工智能应用于公共服务治理的重要议题。
（五）模糊的解释问责
人工智能系统的可解释性是指其给出的结果以及各算法部件的信息输入与输出的可理解性。虽然人工智能提供了高效便捷的决策方式，但由计算机代码构建的人工智能系统对于非技术人员存在本质上的技术壁垒，且随着人工智能技术不断更新，像神经网络以及深度学习的算法具有极高的算法复杂性，使得技术“黑箱化”而无从知晓其运行过程中的各项决策。人工智能系统的不透明性使公务员难以理解系统并向公民传达其意义[20]，致使公共部门不愿贸然在工作中使用人工智能系统；人工智能算法的不透明性也造成民众对人工智能处理公共事务的不信任。然而，解释性不能与透明性划等号，对算法的完全公开也将损害同政府合作的私营企业利益。
解释性的缺失则造成合法性的存疑。算法的决策判断多建立于变量间的关联性而不一定是因果关系，因此人工智能使用者的主观意图与人工智能的行为结果也可能出现偏差，致使决策的责任与问责主体难以判定。责任落实模糊于公共服务中的数据提供者、算法制定者和智能系统的操作者之间[15]。如果不经慎重评估就赋予人工智能法律主体地位，则可能为规避责任而出现滥用[56]。由于缺乏透明度和足够的技术能力来监督算法，一些隐藏在算法之下的偏见对于公共服务组织和公众并不明显。算法替代公共服务组织执行一部分决策，也隐藏着私有化公共权力的公共性风险[57]，无节制地将公共权力外包给智能机器可能会破坏人工智能时代的人权、法治和民主问责制。现有的法律规制难以约束和界定人工智能，为解释智能系统决策的合法性仍需要投入大量人力，而公共部门却鲜有足够的时间去应对人工智能如此高速和大规模的影响[58]。
（六）激化的伦理冲突
伦理与隐私的问题是探索公共服务人工智能会面临的重大问题之一。人工智能介入公共服务决策自然会引入算法对于社会价值的判断，而这种嵌入算法的价值又主要源于训练人工智能的公共服务数据与算法缔造者的价值观念。公共服务数据通常包括姓名、性别、种族、肖像、通信方式、住址等具有天然伦理属性的隐私信息[59]，而人工智能对这些数据的收集、处理和分析可能对一些弱势群体造成侵权或其他负面影响。不完整、不准确或存在统计偏见的数据也将导致算法产生负面偏见，使预测结果有利于或不利于特定群体[60]。即便在数据收集过程中准备充分，一些偏见来源往往也难以预见。开发人工智能算法的数据科学家团队所固有的认知偏见也可能被带入算法之中，一些人工智能企业也可能对算法进行操纵而使其利益最大化[25]。过度地依赖人工智能也将会削弱人类的自主性，人类有被排除在重要决策之外的风险[20]，而且人工智能系统在进行判断时所遵循的价值可能也与人类不同，算法可能把人类作为达成目标的条件而非中心。
如果用于训练人工智能算法的数据集无法准确反映事实，算法从中学习到的错误关联性，包括性别、种族和宗教的现有社会偏见[61]，有概率混淆于数据处理中，导致不利于社会平等的歧视以及公共服务的不公平。因此，如何保障算法符合社会伦理，在信息化时代保障人民主体地位，将技术为人所用，无论是对公共部门还是对私营部门而言都是至关重要的。
（七）脆弱的安全隐私
随着人工智能更为深入的发展和部署，越来越多的电子系统变得紧密相连，使数据信息的安全威胁也不再只是针对单一系统，而是在系统间具有可扩散性[62]，也使恶意代码的跨系统、跨网络甚至“无网络”设备的传播更加剧了网络攻击的负面效应[25]。当公共部门与其他相关利益者互动越发密切，数据隐私和安全也更加容易受到侵犯，数据资料的泄漏可能被用于不正当目的。由于开放的公共数据资源极易被获取，平台在开放数据的过程中可能导致国家秘密、商业秘密和个人隐私的泄露。即便开放的公共数据并不包含机密内容，不法分子仍可能将与自然人、法人相关的数据与其他信息进行关联分析，威胁到国家安全与个人隐私[63]。模型窃取的风险是人工智能系统的另一安全隐患，系统攻击者可通过逆向工程和复制人工智能算法以获取敏感信息[16]69-70。公共机构需要在人工智能全面嵌入公共服务之前找到加强其数字安全能力的方法，进而应对来自数据泄露、算法操纵甚至系统间级联故障的风险挑战[62]。
（八）复杂的社会信任
社会对人工智能的信任也是其是否能够在公共服务中有效运用的关键因素。一项社会调查显示，公众对人工智能的不信任源于其可能对人际关系的负面影响、对就业市场的冲击、对原有经济的损害、在军事武器中的应用甚至对人类社会的破坏等潜在威胁的恐惧[64]。人工智能的投入使用可能会减少公民对公共部门的信任，而这种信任缺失往往是由于隐私侵犯或认为隐私受到了侵害，又或是认为人工智能产出的公共决策是缺乏公平性的。类似于人脸替换的视频与图像处理技术的不法应用，使公众更加不信任人工智能。随着技术系统越来越复杂，人们对人工智能技术了解得越少，对技术的信任就变得越重要。公共服务对象是否认为人工智能系统具备技术可信度，且在被应用的场景中是否足够可信[65]，是公共服务部门必须考虑的问题。
除了对技术系统的信任外，对部署人工智能系统的公共服务部门的信任也尤为重要。公共服务部门若是不具备人工智能技术的运作与维护能力或是人工智能技术的部署使民众对该部门的信任大打折扣都将严重影响所提供的公共服务质量。人工智能于公共服务领域中所需的信任是利益相关者对公共服务组织的信任，对其他公民的信任，以及对技术的信任[66]。人工智能对服务个体需求的精准满足也助长了算法对社会群体的划分，社交媒体以及公共信息服务可能在提供个性化信息推送时，这种社群划分便发挥着回音室的作用[67]，让用户直接收到符合其偏好或需要的信息，将个体困于“信息茧房”之中，使其闭塞于其他政治观点和多元化的社会表征之外，并不断强化个体已持有的认知。公众反馈的人工智能自动化处理，在帮助公共服务部门简化琐碎工作和提高效率时，也可能忽略其他更为重要的意见[68]，使其也同样陷入信息阻塞的风险。人工智能导致的社会信息阻断与认知强化可能会造成不实信息的传播进而影响社会对公共部门的信任[4]17。因此信任是复杂且高度情境化的，且是公共服务治理运用人工智能必须克服的风险。
（九）分化的就业收入
虽然人工智能的积极应用产生了巨大的高科技人才需求，创造了许多新兴的就业岗位，但毫无疑问也对传统就业市场造成了冲击，使得许多日常由人类劳动力完成的工作被机器操作所取代，从而引发社会失业问题与传统劳工体系的变革[56]。通过自动化的工作模式，人工智能对女性、高龄、低学历和低收入劳动力的替代效应会更为严峻[69]。此外，人工智能对高尖端劳动力的影响也不容忽视。除了执行重复性任务和常规性信息处理，人工智能具有识别规律、做出判断和提升优化的能力，因此其在如医疗诊断、诈骗检测、检修维护等本需要专业技术人才的领域的冲击也将愈发危急[70]。
越来越多的证据表明，传统的自动化与智能化替代加剧了收入不平等和两极分化，造成一部分人群无力应对老龄化[71]。人工智能对技能水平低下的劳动力替代作用与对技能水平较高的劳动者的辅助作用将会共同加重劳工市场的收入不平等[72]。智能系统运用智能化与自动化技术减少对人工劳力的需求，或将更加强化现有的权力关系和财富积累，使得原本存在的贫富间差距越发拉大[73]。
五、结语
政府公共服务过程在本质上来看就是信息获取、处理、发布的过程[74]。在人工智能的赋能下，公共服务将拥有远超以往的精度、速度与质量。人们完全可以想象一个基于强大数据洞察力，将人口、区域和现象数据进行智能化分析以提供个性化优质服务的人工智能服务网络。人工智能在协助提升公共服务治理能力和完善治理体系方面拥有巨大潜力。但随着这些潜能逐渐进入公众视野，风险也随之而来。
于公共服务治理场域中克服这些困境与问题，是发展具有创新性、可靠性、安全性的人工智能嵌入模式的必由之路。在收益与风险间寻求平衡，可以有效促进以证据为主导和以数据为支撑的公共服务治理路径的创新。构建包容、值得信赖和可持续发展的数字社会[75]，建立由数据驱动的人工智能公共服务体系，将有利于政府将正直、公开和公平的良好治理价值观纳入公共服务政策周期以及提升公共服务质量和管理效率。
参考文献：
（略）
作者简介：
张成福（1963—），男，陕西眉县人，中国人民大学公共管理学院教授，博士研究生导师，从事政府改革与治理创新研究。
王祥州（1998—），男，浙江温州人，中国人民大学公共管理学院博士研究生，从事算法与政府治理创新研究。
声明：本文来自电子政务杂志，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
