2018年11月，美国著名智库布鲁金斯学会发表文章，分析人工智能和其他新兴技术带来的新挑战与潜在政策解决方案，并详细论述人工智能对于国家安全战略的影响。文章指出，人工智能对国家安全战略影响从作战层面将延伸到战略层面。从未来战争将如何受到由人工智能所主导的新兴军事能力的影响，以及这些军事能力将如何影响战场上的冲突，到国家安全决策者如何运用人工智能解决何时、何地、为何、如何以及在什么情况下利用国家权力。
在近两年的世界黑客大会上，具有人工智能的“神器”“杀器”频繁出现。联合国曾召开“人工智能向善”大会，专门讨论技术标准、安全规范和道德伦理等问题，以防机器人作恶，表达了国际社会的集体焦虑。近期，谷歌公司3100多名员工联名抗议为五角大楼开发相关高端人工智能技术，也正是这种社会忧虑的反应。本文从不同角度分析人工智能迅速发展可能带来的安全性问题。
一、人工智能技术“双刃剑”特征突出
2018年2月，出于对人工智能技术被恶意使用的可能性，由26名人工智能专家撰写了名为《人工智能的恶意用途：预测、预防和缓解》的报告。这26名专家来自于14家顶尖人工智能研究及安全组织，包括非盈利组织OpenAI、剑桥大学、牛津大学、新美国安全中心和电子前沿基金会等。长达100页的报告指出，人工智能技术具有“双重用途”的属性，既可以造福人类，也可以轻而易举的扰乱社会秩序。
人工智能技术是典型的军民两用技术，它的智能化程度越高，“双刃剑”特征就越突出。已故的英国科学家斯蒂芬·霍金教授认为人工智能技术存在毁灭人类的可能，直接将“能否掌握对人工智能的控制权”这一拷问，提到人类战略的高度。当前，世界各国在纷纷竞争发展人工智能技术的同时，都高速重视其存在的安全风险。政界、军界、产业界和智库密集讨论其对国家安全和国际秩序的威胁和挑战。总问言之，人工智能技术的发展及应用存在不可忽视的安全风险。
二、人工智能对国家安全战略的影响
1.人工智能对国家安全的影响
2017年7月，哈佛大学肯尼迪政治学院贝尔弗科学与国际事务中心就曾应美国情报高级研究计划局(IARPA)的要求发布《人工智能与国家安全》的报告。该报告详细评估了人工智能技术对变革军事、信息、经济等领域的巨大潜力，系统的总结了以往颠覆性技术对国家安全产生的重大影响和应对经验，提出了国家安全领域保持人工智能技术领先并有效管控风险的政治建议;今年4月，兰德公司发布报告《人工智能对核战争风险的影响》指出，到2040年人工智能有可能颠覆核威慑战略的基础。
人工智能技术是给国家安全带来深刻变化的颠覆性技术。现有的人工智能技术能力在国家安全方面拥有巨大的潜力，如机器学习技术可以使卫星图像分析和网络防御等劳动密集型活动实现高度自动化。未来的人工智能技术将有可能与核武器、飞机、计算机和生物技术一样，成为给国家安全带来深刻变化的颠覆性技术。人工智能的每一种应用技术都可以为国家安全机构的战略、组织、优先事项和资源分配带来重大的变革，其未来的影响力至少可以与核武器相提并论。
人工智能技术使机器拥有越来越高级的智能，力图突破人力的局限性，甚至改变人类与技术的深层联系，给国家发展带来深层变革。如果利用或者管控不当，将直接影响政治、政权、经济、金融、网络、文化等国家重要行业和核心领域的安全与稳定。世界各主要大国在国家安全和科技发展等重要文件中均特别强调对人工智能危机国家安全的担忧：一是对人工智能这一新兴战略能力的缺失的担忧。普遍认为，新一代人工智能会成为重要的战略层面的威慑力量。只有在人工智能技术上占据制高点，才有可能在未来的国际舞台上掌握主动权、拥有话语权;二是对人工智能技术滥用的失控的担忧。人工智能技术是赋能极强的技术手段，获取容易，管控很难，被滥用的门槛极低，很容易落入极端个人或犯罪组织之手，给政权安全和社会稳定带来重大的威胁;三是对人工智能应用中重大安全风险的失察的担忧。人工智能技术应用推广隐含着诸多的不确定性，近年在西方政治中出现的利用大数据分析和社交平台部署机器人水军达到网络干预选举的口水战和剑桥分析公司利用人工智能等技术操控选民意见和行为的曝光，暴漏出新的政治安全风险。如若没有预测、预警和预防能力，智能化时代的系统性和灾难性在所难免。
2、人工智能对军事安全的影响
近年来，人工智能技术越来越多的走上战场，深刻改变战争的面貌和形式。通常，人工智能在军事领域的应用主要表现在智能化感知与信息处理、智能化指挥控制辅助决策、无人化军用平台、仿生机器人和扩展人的体能机能和智能五方面。新的军事技术、作战理念和组织编程相互作用达到显著提升军事作战能力时，必然促进新军事变革的深入发展。人工智能在军事领域的广泛应用，正成为军事变革的主要推动力量，催生新的战争形式，改变战争制胜的内在机理。可以预见，随着无人机编组、无人潜航器编组、战场机器人士兵编组以及无人与有人作战单元的协同编组在战场上运用，各类混合式新型作战力量将不断涌现。
人工智能技术的军民两用性，也使其格外受到军方的青睐。越来越多的国家试图研发“致命性自动武器”，而个人或者非国家行为体则越来越容易获得四两拨千斤的远程精准打击能力，机器自动杀人可能不再是科幻剧中的情节。更值得一提的是，西方军界对智能化武器装备、战场战法、战争理论等的研究越来越多。以至于特斯拉创始人马斯克等来自26个国家的116名专家曾经联名致信联合国，强烈呼吁制止智能武器的军备竞争，将其纳入国际公约的管制范围。今年4月，30个国家和地区的50名专家学者联合抵制韩国科学技术与军工企业合作的机器人武器研发项目。同时，英国政府的一份报告也明确表示：永远不能给人工智能系统伤害人的权力。
3、人工智能对社会安全的影响
人工智能技术的创新和推广，将不断突破现有法律法规、社会规范和伦理道德的限制，直接给社会生活带来多维度的安全挑战。
产生就业压力和算法偏见
智能社会的经济生产与生活模式高度自动化，具有智能的机器对传统人工的替代在解放人力劳动的同时，直接带来对就业的冲击，给本来就存在就业压力的发达国家带来社会风险。尤其是人工智能越来越多地应用于大数据环境下的决策，由于机器系统无法像人那样解释或合理化其所作的决定，所谓的“算法偏见”会带来更为复杂的社会问题。
被反向利用的风险极大
人工智能主要靠软件与算法驱动，而软件与算法都是人为编写，难免会出现技术漏洞和人为缺陷。人工智能与物联网的深度融合，使得智能产品成为网络攻击新的风险点和突破口。人工智能既普遍又敏感，正用反用，存乎一念。美国有研究表明，虚设假场景、伪造音视频会直接引发股市动荡、街头政治和社会危机。
三、人工智能对信息安全的影响
1、人工智能对数据安全的影响
数据方面，人工智能技术的进步将深刻影响情报收集、数据分析和数字媒体的创造能力，这一能力将在维护国家安全，开展价值宣传、战略欺骗和情报行动中发挥极为重要的作用。
近年来，得益于信息化技术手段的提升和网络融合趋势的加快，看不见摸不着的数据呈现出“井喷”态势。尤其是无人机和卫星影像等新兴技术的发展，正源源不断地传送着大量图像和视频信息。当今的社交网络上每分每秒都产生着海量数据，如何从中快速有效提取出关键信息，是诸如情报研究、数据分析等与数据处理联系十分密切的行业和部门研究的重点。人工智能投身数据分析等工作，第一步就是数据处理——把大量的非结构化数据经过清洗和标注，再借助语音识别、文本识别、人脸识别等技术，就可以把大量非结构化数据“整合标注”，把计算机采集的数据压缩成能被人脑容纳和理解的有用信息。以上这些都还只是较为初级的数据信息筛选，理想情况下，人工智能并不是机械地对特定关键词或画面做出警报，而是能对所有的文本、图像和视频信息有一个整体、动态化的理解过程。
研究人员借助人工智能技术，实现对离散数据的关联集成，不仅提升了数据分析的自动化处理水平，还可以自主学习得出基于用户识别的开源数据。美国军方目前正花费数十亿美元建立地理空间情报系统，这些涉及到“人文地理”的网页、电子邮件、即时消息和社交媒体等数据，恰好可以通过人工智能和机器学习实现收集处理自动化。人工智能“数据分析员”的优势就在于算法可以适应不断变化的环境和场景，还可以替代人工操作员实施目标识别等任务。
人工智能用于数据分析，是否会完全取代人类的劳动，使人类彻底“下岗”，答案是否定的。美国情报高级研究计划局开展的卫星影像分析比赛中，就出现了多角度拍摄物体影像上下颠倒、云朵移动影响成像效果、卫星影像分辨率参差不齐等诸多问题，进一步增加了人工智能深度学习的工作难度。更何况地球卫星图像并非完美无瑕，即便是人工智能识别精准度达到90%以上，依旧无法自主完成全部工作。除此之外，人工智能最大的“克星”，当属来自人类的欺骗或“诱导输入”。只需要通过简单的数据输入就可以“欺骗”人工智能系统，哪怕只是像素被放错位置，一张坦克的照片就可能被误判为汽车，但人眼就很容易辨别个中差异。所以，无论在数据分析的应用中或者其他行业背景中使用人工智能技术，都会面临许多的机遇与挑战。人工智能技术对数据安全的影响，最终取决于开发者在该技术上如何“扬长避短”。
2、人工智能对网络安全的影响
谈及人工智能与网络安全的关系，或许会联想到电影《终结者》里的天网——一个人类于20世纪后期创造的以计算机为基础的人工智能防御系统。但是网络安全业内专家认为，必须从更广泛的角度来理解人工智能，包括其对网络安全的影响以及科技信息产业如何利用人工智能来提升自身网络安全等级等。关于人工智能和网络安全之间的关系，以色列本古里安大学的网络安全研究实验室的首席技术官Dudu Mimran在2018年经合组织(OECD)论坛的演讲及之后的博文中深入讨论了这一问题。
AI与网络安全的短期和长期预测
虽然以人工智能为驱动的网络攻击威胁可能性越来越大，但短期内AI还是不可能具备人类思想从而对人类造成伤害。人类的生活越来越依赖于技术，黑客极有可能利用这一点来伤害我们。然而，如今大多数黑客可以不依赖AI就能进行网络攻击活动，这也是目前尚未看到融合人工智能技术开展黑客攻击的主要原因。
AI在恶意软件攻击归因方面的应用
人工智能技术存在一项潜在的利用价值——恶意软件攻击归因。在网络攻击中，如果了解实施网络攻击的攻击者，并且能够迅速做出反应，将能够大大地增加击退真实对手的机会。由于网络攻击归因商业价值不高，一直缺乏有力的投资，而网络攻击的归因又相当困难，研究人员需要核对许多变量，诸如恶意软件的非编码语言，文化和政治背景以及模仿现有恶意软件结构的迹象等。值得一提的是，目前已经有新兴网络安全公司开始投身这一领域的研究，并与欧洲最大的银行展开合作共享威胁情报。
四、启示
1、辩证认识人工智能面临的安全问题
回顾人类历史，在利弊并存的技术革命和社会创新面前，人类总能凭借自身的智慧探索出一条趋利避害的发展道路，从而在适应发展、改造自然的进程中化险为夷，转危为安。相对于多方面的风险和隐患，新一代人工智能技术带给人类的发展机遇更为现实和明显。随着计算能力的提高，大规模数据的积累和学习算法的进步，人工智能正在重塑我们的世界、社会和生活。日新月异的人工智能应用不仅能给我们的生活带来更多的便捷和高效，更能为我们应对和解决重大社会性、全球性难题提供新的方法和手段。尤为重要的是，人工智能技术的发展将给全球带来巨大的经济发展机会。普华永道2017年的一项研究表明：在人工智能技术的推动下，2030年全球GDP将增长14%，相当于15.7万亿美元。发展与安全的利害关系，显而易见。四十年的改革开放生动地证明了“发展是硬道理”，也辩证地揭示了“不发展是最大的不安全”。因此，对人工智能发展中面临的安全问题，应当辩证的认识。
首先，要树立科学的安全观。要立足发展讲安全，权衡利弊讲安全，防止出现安全问题绝对化的认识和安全风险扩大化的现象。不能让安全问题成为发展路上的绊脚石，而是要以有效的法律法规、管理手段和技术措施主动应对，让安全保障成为确保发展的垫脚石。只有对安全问题有了全面科学的认识，才敢大力发展和深入研究人工智能技术，才能紧紧抓住这一历史机遇。
其次，要确立有效的治理策略。任何一项技术创新都会经历一个从不完善到完善，从不可控到可控的过程，其治理的原则为“两利相较取其重，两害相较取其轻”。但是由于技术发展太快，应用涉及太广，作用影响太大，对于颠覆性超强的新兴科技，治理滞后的现象越来越明显。而对人工智能技术的自主、智能和自适应等鲜明特征，发展与治理并举的紧迫性也就更加凸显。欧美各国均在人工智能发展战略中同步考虑安全管控和风险治理，加大了对安全问题的研究力度和安全措施的投入强度，为有效把控安全风险做准备。
再次，要建立良好的社会环境。良好的社会环境是科技创新最好的培育根基，任何技术进步和科技创新都是有成本的，要享用人工智能带来的发展与机遇，就要为其可能带来的社会变革付出代价。人工智能应用越广，这个问题会越突出，我们不仅要在人工智能技术的研发、试验和推广应用中包容失误，宽容出错，而且要在安全保密的文化和观念上走出 “绝对安全”的认识误区，避免条件反射式的监管冲动，靠发展化解隐患，以动态管控风险。
2、有效应对人工智能引起的安全挑战
我国已于2017年7月正式发布新一代人工智能的发展规划，凭借规模庞大的市场和技术应用优势，抢占先机，获得主动。在安全管控问题上，坚持发展与治理并举，趋利避害。
1)强化战略引领，发挥体制优势，争取技术领先。首先，在总体国家安全观的指导下，完善人工智能发展战略，尤其要充分考虑新一代人工智能技术的新特点和应用的新领域，处理好发展与安全的辩证关系，同步布局、设计和安排与安全相关的工作内容。其次，根据国防、安全等国家战略需求，统一建设人工智能国家实验室、安全风险测评基地、模拟试验场等技术基础设施。防止各行业、各部门的重复投入，避免同质竞争造成资源浪费。再次，设立重大科技专项，研发人工智能积极防御关键技术，抢占战略制高点，提高国家在该领域的核心竞争力。
2)强化军民融合，推动商业应用，促进创新发展。一是增加人工智能安全相关的基础研究投入，针对在交通、医疗、金融、教育、智慧城市、工业控制等方面大规模人工智能的应用需求，研究有针对性的安全技术，促进原始创新。二是将人工智能商业应用创新作为军民融合的重要内容，激发技术创新和成果转化，鼓励科研成果的实际应用，在应用中改进，在改进中完善和提高，形成良好的产业生态。三是支持跨部门、跨界的数据共享和业务配合，推动机制创新，使信息化、网络化和大数据等方面的优势有效转化成人工智能发展与应用的直接动力。
3)强化安全治理，提高防范能力，管控重大风险。一是要深化改革，明确人工智能安全治理的责任部门，防止权责不明，减少企业经营负担和公众政策困扰。二是与国家人工智能发展战略相适应，持续加大投入力度，着力建设防故障、防干扰、防破坏、防控制等技术标准。三是贯彻人类命运共同体理念，支持科研团体、专家学者广泛开展国际合作，主动搭建人工智能国际合作平台，积极参与国际标准和规则制定。
声明：本文来自网络安全新视野，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
