中国科学技术发展战略研究院 韩秋明 李修全 王 革
摘要：国家科学、技术与艺术基金会（NESTA）是英国最大的支持科技创新发展的非政府机构，它从2012年开始，每年定期发布技术预测的相关报告。本文通过对NESTA已经实施的7次技术预测的内容进行梳理，总结出人工智能技术发展将面临的6大挑战，并提出安全发展人工智能技术的对策建议。
关键词：英国智库；NESTA；技术预测；人工智能技术
技术预测是把握未来科技发展方向、趋势与重点的有效工具，许多国家政府、机构都把技术预测作为政策创新、科学决策、资源分配等的基础性工作[1]。我国对技术预测工作非常重视，2016年7月发布的《“十三五”国家科技创新规划》中明确写道：“建立技术预测长效机制，加强对我国技术发展水平的动态评价和国家关键技术选择。”[2]中央全面深化改革领导小组第三十二次会议审议《国家科技决策咨询制度建设方案》时明确提出“要健全国家科技预测机制”[3]。
英国是开展技术预测的重要国家。从1993年开始，英国贸工部发表的科学、工程与技术白皮书《了解我们的潜力》中提出“技术预测计划”，并由英国政府科学办公室持续开展政府层面的技术预测工作，最近一次相关工作进展是于2017年发布的《技术与创新的未来2017》（Technology and Innovation Futures 2017）报告。
从时间范围来看，技术预测可分为短期预测、中期预测、长期预测和远期预测。不同于英国政府科学办公室的中、长期预测，英国智库进行的技术预测则是短期技术预测。短期技术预测更加关注当前经济社会环境下技术的发展趋势和影响，可以作为中长期预测的基础。2017年12月，中英两国签署《科技创新合作备忘录》，正式发布中英科技创新合作战略，该战略中的一个重要内容就是“开展技术预测，遴选优先合作领域。”因此，关注英国智库的技术预测活动，既是完善我国技术预测机制的需要，也是推进落实国家相关政策的要求。
一、英国NESTA技术预测基本情况
英国国家科学、技术与艺术基金会（NESTA）是一家创新基金会，目前是英国支持科技创新发展的非政府机构。NESTA将政府、投融资机构、科研单位、企业等各方面的资源集合在一起，协助中小企业及创业公司稳步发展，同时从事创新政策研究、支持公益事业发展，定期发布创新研究成果和报告，对英国的创新政策制定有重大的影响[4]。该基金会由13个部门组成[5]，分别是校友会、受托人董事会、挑战奖励中心、联络部、合作服务部、高管团队、探索部、健康实验室、创新项目部、创新技能部、投资部、出版中心、研究分析和政策部。
1.1 NESTA的主要任务
NESTA属于“第三方”机构，主要有6大核心任务：
（1）发展创意经济，通过充分利用数字技术和新的资金来源帮助艺术和文化组织在货币紧缩时期仍然蓬勃发展；
（2）通过测试和增长教学技能的方法，以及专注于提高数字学习技术的可获得性和有效性，让人们拥有未来良好工作所需的技能和知识，以应对未来工作形式和方式的变化；
（3）帮助政府改革公共服务，通过更好地利用人员、数据和技术来满足社会需求和提高公民对政治的参与度，进而应对日益增长的经济下滑预期、预算缩减和脆弱的政治系统信任；
（4）让人们有能力长期保持健康的身体状况，通过使用以人为本和数据驱动的健康方法，让人们即使在卫生和护理系统面临严重的经济压力时仍然有能力提升自己的健康水平。
（5）制定相关政策以支撑国家经济增长和建设更美好社会。研究并创建新的分析工具来建立关于创新的知识和证据，通过创新能力建设来考察和传播支持创新的新方法，帮助政府更好地促进创新、推动增长和提升社会福祉。
（6）通过举办“未来论坛”（FutureFest）等研讨会等交流活动，探索新兴技术和未来发展的突破性思路，以应对未来将面临的挑战。
1.2 2012—2017年NESTA的技术预测
NESTA非常看重技术预测工作，它认为无论是评论新兴技术趋势，还是经济社会发展趋势，背后的目标都是寻找在未来一段时间内新的、更有价值的以及更有效率的工作方式。从2012年开始，NESTA的内部专家团队会通过圆桌会的形式分享彼此对未来的技术愿景的看法，以此来预测未来12个月经济社会和科技发展的主要趋势和技术突破。
进行相关的技术预测工作也为NESTA提供了一个明确的工作切入点，其主要目的不仅仅是促进内容团队成员向专家方向发展，还可以使他们思考如何承担更多的公共责任。每年一次的预测工作可以促使每个相关的工作人员从自己的专业研究中解放出来，让他们将研究成果分享给大家，并且从自身角度阐述对经济、社会和科技发展的认识。
当然，准确的预测和创造未来的愿景始终是难以达到完全的平衡。有些人认为尽管做出精确的预测是必要的，但也有可能为了追求预测的精确度而忽视未来多种不确定性等更加重要的信息。NESTA的预测并没有多么精确，而是更加关注技术发展过程中有趣的不确定性和可能的方向。
1.3 2018年NESTA的技术预测
作为2012年开始的技术预测工作的延续，NESTA于2017年12月19日发布2018年10大预测，描述了2018年可能出现的10项技术突破和社会发展趋势[12]。
1.3.1 无人机将提供公共服务，而不仅仅是运输包裹
无人机技术在无人驾驶的条件下可以完成复杂飞行和负载任务，目前已经在诸多领域得到大规模的商业化运用，成为创新工作方式的有力工具。美国科技政策办公室《白宫人工智能的未来计划》报告预测，下一个10年里，商业无人机产业的发展将为美国经济带来超过820亿美元的效益；到2025年，可以提供约10万个新的工作岗位[13]。目前无人机已经被用来运送商品，2018年，无人机的应用将更加广泛，并将向有利于城市发展、提供更多公共服务方向发展。
1.3.2 规范引导智能技术的发展
2017年是人工智能高速发展的一年，全世界的媒体都在报道相关的技术进展、应用和美好的前景。同时，各个国家也开始研究应该如何应对人工智能技术快速发展可能带来的风险和挑战。2018年，一些规范人工智能技术发展，同时保障其在应用中更安全、更符合道德准则的政策、规章、制度、条约等将会逐渐出现。这些政策会加快新技术的产生和应用，以及公司和行业的发展，同时通过详尽的约束来最大限度防止技术负面影响的出现和蔓延。虽然这并不容易，但这也将使人工智能成为政府创新最活跃的领域之一。
1.3.3 通过模拟技术实现政策的智能制定
随着科技发展速度不断提升，制定新的科技政策或评估新兴技术的未来影响并非易事。特别是政府监管部门虽然一直在努力遵循技术发展的步伐，但更多的是被动改变而不是主动应对。模拟技术通过模拟城市人口流动、土地使用调控、金融财税改革等变量之间的关系及其对城市和地区经济绩效的影响，有可能革新政府工作人员思考和规划科技发展的方式。模拟技术还能使决策者更好地规划和解决其设计政策中的不确定性和不可预测性，使其成为应对气候变化、心理健康甚至全球难民危机等关键挑战的最佳创新方法。
1.3.4 合作经济出现新形态
合作经济工作者将开始利用新的方式重新合作，再次颠覆市场。以往对合作经济平台的批评一直集中在他们的商业模式无法公平对待工人。在2018年，很多平台将允许公司协调大批分散的个体工作人员执行协调的工作任务，工作人员使用相同的技术进行合作，相互支持。平台合作将通过网络连接分散的资源和工作人员，为集中拥有的平台提供统一管理的替代方案。这种方式不是专注于为股东创造利润，而是按照成员的意愿分配收入，同时工人们分享平台所有权，并在治理和分配任何剩余收入时发挥作用。
1.3.5 国家走向虚拟化
2018年，随着数字化技术的深入发展和应用，各国政府逐渐认识到在全球化的背景下，无论人们出生在什么地理区域，人们都应该能够自由选择最适合他们的数字/公共服务。因此，政府也将逐步开始利用数字化技术使其国家成为数字化国家，政府成为数字化政府。爱沙尼亚在数字政府方面走在世界最前沿。2015年，它们推出了电子居民证，允许世界上任何地方的任何人获得爱沙尼亚政府颁发的数字身份证。电子居民证使人们能够获得该国数字公共服务，并能够在该国登记和管理任何业务，这与在爱沙尼亚出生的人完全一样。截至2017年11月，已有2.7万多人申请成为爱沙尼亚电子居民，他们已经建立了4 200多家公司。爱沙尼亚的目标是在2025年前拥有1 000万虚拟居民。
1.3.6 情绪监管迫在眉睫
人工智能正在学习以前所未有的方式理解人们内在的心理世界，如以前在我们自己的头脑中私密的心理和情绪、感受和心理压力等，都将通过构建的智能系统反映出来。已有公司开始使用人工智能通过简单的网络摄像头更详细地监测测试受众的情绪。随着这些技术变得更准确、更实惠和更易于使用，它们可能会嵌入到日常生活的更多方面。这有可能改善心理健康问题的检测和治疗，但如果情绪数据被滥用，则可能会成为一个大问题。尽管数字时代的隐私问题受到高度重视，但到目前为止，大部分都是对已有的、传统的监控形式的扩展。
1.3.7 监管机构开始重视客户数据
自谷歌域名首次注册以来的20年间，数据已经成为经济发展的重要基础资源。许多当今最有价值的业务都是建立在数据基础上的，所有主要技术人员都在加倍努力实现数据积累。除了技术之外，数据在几乎所有行业都成为优势的来源，无论是汽车还是金融，无论是能源还是零售。由此，监管机构也同样正在越来越多地将数据转化为自身的优势以及公民管理的优势。监管机构同时开始审视拥有大量数据的科技巨头企业是否应该得到更多的监管。同时，监管机构本身开始尝试使用尖端的数据科学来实现自己的管理目标。
1.3.8 高技术巨头竞相收购医疗服务提供商
在医疗健康方面，人工智能已经达到了某些诊断工作（如皮肤癌和视网膜病变等）的临床水平，它可以找到人们无法察觉的数据模式，进而提高诊断的准确性。一个乐观但看似合理的未来应用场景是，人工智能将会提供早期诊断和高效病情甄别，实现对症状更好的实时监测，以及提出护理个性化的新方案。它可以减轻卫生系统的压力，并帮助人们更多地提升他们的健康和护理水平。目前进展的限制因素并不是缺乏投资或技术本身，而是缺乏人工智能训练所需的数据。因此在2018年，一个或多个科技巨头将并购医疗保健提供商，并快速加大他们在数据获取和训练方面的努力。
1.3.9 互联网走向绿色环保
尽管人们认为互联网大多是虚拟的、零成本的互动非实体空间，但它对环境的影响是非常真实的，如比特币和以太坊这样的加密货币能量消耗惊人。数据中心现在几乎占欧洲能源消耗的3％。在全球范围内，每年产生的电子废物量接近5 000万吨，随着上网人数持续增加和物联网的应用，预计这个数字还将猛增。许多公司已经开始意识到这些问题，如荷兰初创公司Fairphone的智能手机仅采用回收材料制造，谷歌、脸谱网和其他科技巨头都致力于在未来几年内实现其数据中心的碳中立。在此背景下，越来越多的企业也开始投资电子废物高效回收的领域。
1.3.10 人和机器共同创造获奖艺术作品
人工智能技术在语音识别、图像识别、医疗诊断等提升人类认知能力方面已经取得巨大的进展，特别是AlphaZero的出现，展现出人工智能在某一特定领域强大的自我学习能力。同时人工智能技术也在设计、艺术等最具“创造力”的领域开始应用，如悬架桥设计人员将目标和参数（如尺寸、材料、承载能力）输入到智能软件中，数秒内软件即可生成数千种设计方案，其中很多方案都具有可操作性且成本较低，这是任何人类设计师都无法比拟的；再如人工智能撰写诗歌、短文等艺术作品。NESTA预测，未来几年内艺术家和人工智能合作的作品将会获得具有英国当代艺术的风向标、艺术界“奥斯卡”之称的特纳奖。
1.4 NESTA技术预测的主要特点
NESTA的技术预测从2012年开始，已经开展了7次，在充分吸取之前经验的基础上，更加关注智能化技术对经济社会的全方位影响，且从前几次的十几个方向固化为每年的10大方向，标志着其技术预测已经程序化和规范化。
通过对7次技术预测的梳理，可以看出NESTA技术预测主要有以下特点。
1.4.1 关注技术的短期影响
与国家开展的中长期技术预测不同，NESTA的技术预测仅关注未来一年可能的科技进展和经济社会趋势。这样的好处是，其技术预测的结果更容易得到政府、企业和科研机构的评价。中长期技术预测较少得到回看和评估，主要是因为实施时间较长，且一般会横跨两届执政的政府，从而造成了技术预测本身评估的困难。NESTA的技术预测关注的时间周期较短，有利于人们客观判断其技术预测的努力和成效，为政府和企业提供基础信息和数据，支撑政府管理部门、学术界、企业的研发投入需求，以及满足社会大众希望对技术发展状况有所了解的需求和兴趣。
1.4.2 关注智能化技术的应用
NESTA的技术预测与Gartner曲线的关注重点类似，更加关注信息技术领域，特别是数字化和人工智能技术在经济社会中的应用，以及由此带来的诸多变化，而不像国家中长期技术预测一样覆盖的技术领域非常广泛，内容繁杂，NESTA的技术预测则相对聚焦。在移动互联网、大数据、超级计算人工智能等新理论、新技术以及经济社会发展强烈需求的共同驱动下，智能技术和数字化技术加速发展，它不仅仅是信息技术的突破，还赋能了除金融、医疗、教育、零售以外的公共服务、政府管理等行业，成为经济社会发展的新动力。
1.4.3 方法简单易行
NESTA的技术预测方法较为简单易行，即通过内部专家团队圆桌会的形式分享彼此对未来的技术愿景的看法，以此来预测未来12个月经济社会和科技发展的主要趋势和技术突破。专家研讨会的方式一方面对专家不设任何限制条件，鼓励专家自主、独立、系统地发表意见，现场没有点评或引导，专家彼此之间通过观点碰撞激发灵感，产生有建设性的观点和创造性思维，另一方面有助于专家们通过内外信息的交流与反馈，产生“思维共振”，进而将产生的创造性思维活动集中于预测对象，在较短时间内得到富有成效的创造性成果，为预测提供依据。
1.4.4 关注技术发展的负面影响
技术的发展，特别是智能技术的发展为人类生活带来诸多便利的同时，也需要关注其负面影响。NESTA的技术预测里的每一项经济社会发展趋势中，一般都会有技术负效应的文字描述，以期唤起政府及人们对技术发展可能存在的问题投入更多关注。无论是互联网能源损耗问题，还是人工智能的伦理、道德、法律等一系列社会问题，都是预测过程中需要重点关注的对象。
二、NESTA技术预测结果表明人工智能技术发展将面临6大挑战
NESTA 7次技术预测的结果可以看出，人工智能正在促进工业、农业、商业等发生“数字蝶变”；自动驾驶、医疗影像、语音识别和城市大脑等智能开放平台在业内掀起巨大热潮；政府科技管理部门利用智能技术模拟政策设计中的不确定性和不可预测性，实现政策制定化被动为主动。在人工智能带来福祉的同时，政府也应重视其“双刃剑”的作用，提早应对智能技术发展给政府带来的新挑战。
2.1 跨境金融监管缺失可能引发金融风险
许多国家对于区块链技术以及数字货币的监管仍处空白，以比特币为代表的数字货币在跨境支付结算领域的应用将给各国政府带来极大的监管挑战[14]。全球金融统计体系迄今仍缺少对数字货币的全方位监测和预警功能，不同国家对于金融跨境管理的标准也不统一，相关监管部门之间信息共享仍不充分，不同管理系统不能实现完全有效对接。金融跨境过程中大量的国际资本以数字货币方式进出，使得“热钱流入”与“资金外流”交替存在，给各国跨境资金流动以及支付结算带来了局部性甚至系统性风险。
2.2 “电子公民”冲击国家公民管理制度体系
一些国家推出“电子居民”身份授权服务，全球已经有3万余人得到其授权，可以享受该国家的部分公民待遇，还会获得注册公司等方面的税收减免，已经使得国家之间的“地理边界”开始模糊化。特别是基于互联网的“虚拟国家”开始出现，如“比特国”发布“成立宣言”，已经有超过1万名的“公民”。部分网络平台正在准备取代政府职能，这将使得国家主权受到侵害，现存法律体系、政府管理制度和公民国籍身份等都将受到冲击，现有国际秩序将被破坏，由此将引发一系列的政府管理问题，对各国政府都提出了前所未有的挑战。
2.3 人工智能监管责罚体系亟待完善
人工智能目前还处于发展阶段，技术成熟度还比较低，广泛使用的深度学习方法由于采用黑箱模式，导致模型的可解释性不强，相关智能产品的创造者难以事先预料、判断和控制其在不同场景中的行为、反应与决策选择。目前的主要做法是以产品设计、研发、制造过程中未充分考虑产品可能造成的负面影响来追究产品制造者的过错，以及没有尽到注意的义务来追究产品使用者的责任，但是这样的方式显得有些过于简单，且在实际操作过程中难免会遇到多种复杂而难以界定责任的情形。因此，适应人工智能多场景应用的监管责罚体系亟待完善。
2.4 科技巨擘垄断用户数据和资金等创新资源
目前行业的用户数据都掌握在大型的高科技企业手中。如谷歌旗下的安卓、谷歌搜索等6款产品均有超过10亿人的用户；脸谱网的活跃用户数量已近20亿人；推特也有5亿左右的用户数量。用户数据一旦泄露将会带来隐私侵犯、数据滥用和经济诈骗等风险。此外，这些科技巨擎也掌握大量研发资金，仅2017年一年，谷歌的研发投入是129亿欧元，微软的研发投入为124亿欧元，苹果的研发投入为95亿欧元[15]。这些大型高技术企业凭借对数据和资金的控制，可以轻易击退或者收购那些颇具技术创新能力的初创企业，从而降低市场整体的竞争能力，形成市场、用户、数据和资金的多重垄断。
2.5 行业数据开放导致数据安全问题
以“开放式银行”为代表的行业数据共享打开了许多封闭数据集，刺激了市场竞争和创新。但与此同时，诸多第三方机构能够使用大量的用户数据，此外，行业数据的开放可以使服务商利用大数据实现对用户的精确刻画，产出诱导行为模式，造成用户失去主动性；还有可能使那些缺乏接入网络渠道或不习惯使用网络的群体遭到抛弃，失去共享社会数字化、智能化所带来便捷服务的权利。
2.6 智能设备的普及加剧能源消耗
支撑数字化、智能化的设备不仅成本高昂，而且还耗费大量能源。目前为互联网提供动力的全球基础设施已经消耗了全球约15％的电力，比特币网络运行所需的能源超过1吉瓦（10亿瓦特），相当于爱尔兰全国一年的电力消耗[13]。随着技术设备日益复杂，制造中使用的不同组件的数量也在增加。30年前的电子设备平均仅使用大约11种不同的化学元素材料，今天的智能手机平均含有超过63种材料，它们中的绝大部分都是稀缺资源。这些资源供应有限且难以获得，将导致各国开展疯狂的资源争夺竞赛，加剧资源损耗。
三、安全发展人工智能技术的对策建议
人工智能从1956年诞生到现在，由于基础理论的发展、研究范式的转换，以及算法、算力和数据等要素的限制，其发展过程经历“三起两落”。为保障人工智能技术规范有序发展，一方面要对智能技术的发展方向和负面影响及时预测和评估，另一方面还要对可能的风险有所制约、有所设计，从国家战略、法律、科学家自律及社会监督等方面规范先行，提前布局、审慎应对。
3.1评估人工智能技术的影响和风险
开展智能技术的经济社会影响评估，特别是负面影响和潜在风险的评估和预测；综合考虑经济、外部环境、社会影响等多个维度，从技术价值、技术目的、技术工具等角度制定评估标准；组建由科技管理部门、行业协会和企业等参与，管理人员、科研人员和技术骨干共同组成的智能技术风险评估实施队伍，开展智能技术的风险识别、风险评估、控制决策和风险监控。
3.2建立健全智能化时代的法律法规体系
加快研制出台《人工智能发展管理规范》，初步建立保障人工智能健康发展的法规框架，适时升级为国家法律；加快研究制定人工智能开放平台管理办法，围绕自动驾驶、服务机器人等应用基础较好的细分领域，出台相关安全管理法规；制定人工智能发展的产业行为规范和伦理准则，完善智能产品的设计、制造与使用中有区别的归责体系；细化人工智能技术应用过程中的权责明晰制度、强制保险制度、后果判定制度、数据隐私保障制度和赔偿基金制度等，健全相关的管理制度体系。
3.3建设公开透明的人工智能技术监管体系
在国家层面建立一套公开透明的智能技术监管体系，实现对算法设计、数据采集、产品开发和应用等过程的全流程监管；制定统一技术标准，解决跨领域的多技术融合问题，实现算法决策的透明性和公平性；制定技术风险防范预案，确保技术发展可以有效接受中立第三方或者监管机构的审查；完善数据权益保护规范，加强对违规行为的惩戒，督促人工智能行业和企业自律。
3.4强化人工智能技术的基础研究
聚焦人工智能重大科学和技术的前沿问题，尽快启动和推进重大前沿理论和关键技术的立项和研究工作；开展跨学科探索性研究，推动人工智能与神经科学、认知科学、量子科学数学、经济学等相关基础学科的交叉融合；加强人工智能算法、模型的数学基础理论研究，重视人工智能法律伦理的基础理论问题研究，保证算法、模型可解释和可控制的“透明度”。开展人工智能系统规范和价值准则研究，通过算法或模型将规范和价值嵌入系统，从底层技术层面构建“智能防火墙”。
3.5加强人工智能技术的科普和教育
扩大人工智能技术的宣传教育，客观地介绍技术发展状况，全面提升社会各个群体对人工智能的理解，解决科技企业与技术专家出于利益原因导致对人工智能技术本身过度吹捧引发的诸多危险和误解；立足国家人工智能发展战略，开展智能技术专业化教育，积极培养大批守法的“人工智能+”的复合型人才；开展基层技术培训，尤其重视提升欠发达地区居民的技术认知水平，防止智能时代的发展不均衡问题。
参考文献
[1] 韩秋明，袁立科，王革. 韩国第五次技术预测实践及对我国的启示[J].全球科技经济瞭望，2017，32（8）：35-44.
[2] 国务院. “十三五”国家科技创新规划[EB/OL]. [2017-06-12]. http://www.gov.cn/zhengce/content/2016-08/08/content_5098072.htm
[3] 新华社. 习近平主持召开中央全面深化改革领导小组第三十二次会议[EB/OL]. [2017-07-12]. http://cpc.people.com.cn/n1/2017/0206/c64094-29061750.html.
[4] 王茜. 英国创新中介机构之NESTA模式[J]. 全球科技经济瞭望， 2014，29（5）：9-13.
[5] NESTA Team. The people behind NESTA[EB/OL]. [2018-02-03]. https://www.nesta.org.uk/team/?offset=10&teams=4.
[6] NESTA. 12 predictions for 2012[EB/OL]. [2018-02-03]. https://www.nesta.org.uk/feature/12-predictions-2012/.
[7] NESTA. 13 predictions for 2013[EB/OL]. [2018-02-03]. https://www.nesta.org.uk/feature/13-predictions-2013/.
[8] NESTA. 14 predictions for 2014[EB/OL]. [2018-02-03]. https://www.nesta.org.uk/feature/14-predictions-2014/.
[9] NESTA. 10 predictions for 2015[EB/OL]. [2018-02-03].https://www.nesta.org.uk/feature/10-predictions-2015/.
[10] NESTA. 10 predictions for 2016[EB/OL]. [2018-02-03]. https://www.nesta.org.uk/feature/10-predictions-2016/.
[11] NESTA. 10 predictions for 2017[EB/OL]. [2018-02-03]. https://www.nesta.org.uk/feature/10-predictions-2017/.
[12] NESTA. 10 predictions for 2018: 10 trends, tech breakthroughs and social movements for the year ahead [EB/OL].[2018-02-03]. https://www.nesta.org.uk/feature/10-predictions-2018/.
[13] 韩秋明，王革.基于三螺旋理论的美国无人机发展策略研究[J].科技管理研究，2017，37（20）：21-26.
[14] 韩秋明，王革.区块链技术国外研究述评[J].科技进步与对策，2018，35（2）：154-160.
[15] We are social. Digital Around the World 2018[R/OL]. [2018-03-05]. https://wearesocial.com/blog/2018/01/global-digital-report-2018.
来源：《全球经济瞭望》2018年第7期
声明：本文来自科情智库，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
