编者语

本文是整理了高文院士在第十五届中国电子信息技术年会“网络空间智能安全”专题论坛中的报告，以下是报告的部分内容。

（一）人工智能发展历程和趋势

人工智能目前正在经历第4个阶段的发展。第一个阶段是图灵机模型和图灵造脑设想的诞生，这为人工智能铺垫了前期的基础。第二个阶段，从1956年开始，是人工智能开始发展最好的一个阶段，人们对于人工智能的关注度和期望值都很高，但是很快进入了瓶颈期。第三个阶段，1986年神经网络模型在计算可信后，人工智能进入了以知识工程、专家系统为主的阶段，但由于知识工程发展的速度赶不上互联网的发展，人工智能再次进入低迷期。直到2006年，谷歌Geoffrey Hinton和facebookYann LeCun、Yoshua Bengio发表了关于深度神经网络方面的重要论文，人工智能开启了第四个阶段的发展。

目前，这一阶段主要以深度神经网络为主，深度神经网络主要基于大数据、算力、算法，但目前的智能仍不能与人类的智能相比，仍处于初级阶段，需要再进化。而类脑计算（强人工智能）有可能是一个新的天地。智能未来要向“智能为用”、“机器为本”、“学习为魂”的强人工智能发展。

国际上，美国非常重视人工智能的发展。2016年5月，白宫成立人工智能委员会。2016年10月连续发布了两个重要战略文件《为人工智能的未来做好准备》和《国家人工智能研究与发展战略规划》，将人工智能上升到了国家战略层面。2019年6月，发布新版《国家人工智能研究和发展战略计划》。

中国工程院从2015年7月到2016年5月，组织撰写《中国人工智能2.0建议》。2017年7月，国务院发布了《新一代人工智能发展规划》。

中国人工智能发展的四个优势和四个劣势。优势是：1.国家政策的支持，强有力的战略引领。2.丰富的数据资源和应用场景。3.青年人才储备成长快。4.开放的市场环境。差距是：1.基础理论和原创算法差距较大。2.高端芯片、关键部件、高精度传感器等基础薄弱。3.还未形成具有国际影响力的人工智能开源开放平台。4.高水平人才不足。

（二）强人工智能与类脑计算的发展路线

现在的人工智能系统都是弱人工智能，希望未来的人工智能向强人工智能演进。所谓弱人工智能，也称专用人工智能，是指完成特定智能任务或解决特定智能问题的人工智能。专用人工智能由于功能单一，大多可以基于大数据实现，本质上是统计学以及拟合函数实现，实际上并不能真正地理解问题，也无法解释和融合推理。至今为止出现的人工智能都是弱人工智能。强人工智能，也称通用人工智能，即真正能推理（Reasoning）和解决问题（Problem-Solving）的智能机器。这样的机器可以是有知觉的和有自我意识的。

人工智能未来将向强人工智能演进，需要引进新的机器学习方法。这种方法可以在有限的数据中“悟”出一些道理。这需要更大的数据、更大的算力作为基础，提炼出模型，然后进行迁移和演化。要向自然界学习，人是如何思考的，要想解决这些问题，要在深度学习里面找到更可信的参考模型。

聚焦人类视觉，从哪下手，使得它更容易变成强人工智能。人的大脑很多部分是与人类感知相关的，视觉是7亿年进化的结果，人类的大脑只相当于25W功耗的机器在运作，然而这25W能力比现在最厉害的超算在感知上更精准更有效，这就是进化的结果。通过这个结果到底我们能学习到什么？大脑是高效、理想的系统，目前，我们对大脑和人体的智能系统只认识了微观，宏观还未深入。人类是高效的动力学系统，对周边世界有认知能力，对认知是基于神经科学，通过这些运行功能模拟，解析仿真，功能的模拟仿真，就可以慢慢理解宏观。

如果有一个好的模型，从类脑计算推进整个人工智能的进一步的发展，这个演进类脑计算就是推进人工智能发展的动力之一。虽然现在的人工智能对于问答、视听和学习已经做的比较理想，但是仍然无法解释意识怎么工作的。作为人的一个参照，我们要构造一个环，从大脑神经网络解析、电子大脑系统仿真、理解机器智能、理解大脑，类脑或电子大脑的系统仿真，通过这些仿真去理解机器是什么样的模型，然后再理解大脑，循环反复，通过螺旋上升，对整个类脑计算可能会有一个更好的结果。

（三）应对强人工智能发展的安全对策建议

强人工智能面临的安全问题更为重要，需要更加严格的管控。主要有3个安全风险点：1.模型的不可解释性。2.算法和硬件的不可靠。3.自主意识的不可控制。

针对这些风险设定一些风险评估的要素：1.能力风险。2.动机风险。3.行为风险。有了这些就可以制定一套评估方案和方法，用它去指导对这个系统的安全性。

风险预防策略从理论及技术研究阶段考虑包括：1.完善理论基础验证，并实现模型的可解释性。2.严格控制强人工智能的底层价值取向。3.实现技术的标准化。从应用阶段考虑包括：1.预防认为造成的人工智能安全问题。2.对人工智能进行动机选择。3.为人工智能获取人类价值观。4.应对强人工智能的国际合作必要性。5.应对强人工智能的人才培养重要性。

最后，高文院士讲到：“祸兮福所倚，福兮祸所伏”，中国在人工智能发展上有弱势也有优势，应该积极开拓，勇做头雁。

声明：本文来自网络空间安全科学与技术，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。