编译：国家互联网应急中心 张冰

作者系美国智库大西洋理事会的克里斯·怀特（Chris Whyte）博士，研究国土安全和应急准备的助理教授。他的研究兴趣包括信息技术在战争与和平中的应用、政治传播和网络安全学说/政策等国际安全问题。

一、场景

人工智能（AI），作为影响网络冲突实践发展和战略思考的核心关键技术，其符合逻辑发展结果是引发一场以获得离散军事化能力为中心的国际化人工智能军备竞赛。即使所谓的狭义人工智能都可能对网络冲突的各个层面产生深远影响，从加速和创建新的攻击媒介到识别和区分高度复杂的目标。在更高层面，它将使各国有能力以新的创新方式实现其战略目标，而不用受到其武器发展史上所面临的研发实力、产业发展或法律、约束条件的限制，从而引发了一场探索无限可能的技艺竞赛。更加充满挑战的是，与历史上曾有过的武器装备竞赛不同，对人工智能武器的防扩散机制几乎不可能建立或执行。

人工智能对网络冲突影响有两个关键趋势。一是不断变化的安全前景。在日益广泛的日常活动中不断引入狭义人工智能将改变已有的安全关系。这种变化的方式和程度取决于这种人工智能是来自民族国家还是私营部门。二是“巴别塔”效应[1]。运用人工智能赋能的网络能力将带来信任和协调方面的挑战，其规模将取决于互联网沿主权边界的分裂程度。

人工智能技术注定将给全球社会带来革命性改变。与此同时，新的信息技术使现存社会的政治和安全基础设施更加多样化、碎片化，从而增加了定义如今日常生活的无数数字交互在未来冲突中的重要性。在这一新的前景下，对外国系统控制和访问的争夺，将取决于在线离散化作战能力被基于人工智能的技术修改、自动化、智能化的程度。尽管其他技术（以及社会对其的理解）、政治和经济方面的革命性因素无疑也会影响网络冲突的方式，但人工智能可能比其他任何驱动要素更为决定性地影响网络作战人员将守卫的网络边界。实际上，人工智能将使更多参与者更容易地提高交互速度（例如：进攻、防御和间谍活动），并降低进入冲突的壁垒。总之，人工智能在增强网络作战能力方面面临各种机遇和挑战，其不断发展进步对全球冲突带来各种难以预测的影响。

人工智能由一系列技术共同组成，这些技术既可以单独使用，也可以与其他技术共同使用，从而使机器能够更有效地塑造其所处的环境，并反过来也被环境所塑造。以最简单的形式，机器中的智能是使系统超越单纯利用预定义程序指令进行基本信息处理和响应的任何能力。尽管从最简单的意义上说，人工智能是由微观行为程序构成的一项功能，但机器智能的结果往往超出标志尖端计算机程序的结构化算法过程。

在人工智能研究领域，这些系统通常被归类为“狭义”或“通用”。“狭义”（或“弱”）人工智能意味着所实现的智能技术可大大提高人类执行某类特定任务的能力。而通用（或“强”）人工智能——被广泛认为能够完成任何人类可执行任务的机器智能，可能需要几十年才能变为现实。目前需要重点探讨狭义人工智能系统在极大地提升人类执行特定传统任务能力方面的可能性。

通常而言，我们所讨论的一揽子技术包括允许机器独立移动（例如机器人技术）、感知环境、从环境中学习并使针对具体情况作出响应成为可能的各类技术。实际上，最后一类技术是有关人工智能讨论中最常提及的，并且同关于人工智能和网络冲突对话最相关。允许机器进行学习的技术是那些能够超越结构化响应能力的技术，即可通过图灵测试的技术，图灵测试有关机器智能是否等同于人的测试。这些技术，包括机器学习、自然语言处理、自动推理和知识表达，使智能系统能够在其所感知的运行环境中工作，利用外部知识概率性地适应环境，并使用神经网络测试和生成有关环境的各种新知识。

二、人工智能与网络冲突的动力学

通过应用等同或超过人类操作员所能达到的技能水平，帮助机器学习和执行离散任务的技术，将可能提高网络冲突的交战速度，并降低当前对攻击者和防御者同样而言构成重大挑战的复杂性难题。这将使网络冲突进一步泛化，并在网络域内创建更多、更复杂化的参与者集合。也许最值得注意的是，人工智能有可能成为新型持续性威胁的工具（以及由此产生的参与者）的产生基础，这将带来比当前更有效的渗透国外系统和应对反制措施的方案。

也许更为重要的是，增强的适应智能环境变化，快速塑造方案的能力，预示着网络作战和信息运营之间界限的进一步模糊。毕竟，全面考虑目标生态系统特征的智能、高度自适应自动入侵工具可以更好地采取行动，既可以更有效地破坏敌方系统，还可以迷惑防御者，迫使其质疑自身防御努力的有效性。很明显，这意味着政府和私营企业将争相开发此类能力，以开发更好的人工智能驱动的防御工具。随着技术的进步和新型智能网络威胁的出现，此类系统（如自主智能网络传感器）已经面世并必将变得更好。

战略上讲，一场聚焦增强网络冲突能力的人工智能工具军备竞赛前景在几个方面令人担忧。从广义上讲，增加基于人工智能的网络作战能力将提升潜在的攻击规模和速度，这对研究人员构成了挑战，使无数持久行动的关联性难以确定。例如，可导致当前国防承包商系统被破坏的先进性鱼叉式攻击变得相对容易重建。人工智能驱动下的攻击可利用社交媒体上的交互来发现对网络犯罪缺乏免疫的用户，从而利用后者作为源头发起更加难以识别的鱼叉式攻击。复杂性的增加意味着有效响应时间增加，除非可以采用同样复杂的防御措施。人工智能的进步不会立竿见影地使这种防御方式收到成效，即使在取得成功的情况下，因为防御任务比起攻击而言需要更全面的归纳性。扩大规模，特别是在目标不仅（或甚至主要是）在公共部门中的情况下，这加剧了在国家层面强化目标保护的挑战。这也将改变对违法行为的激励构成，因为成本效益比随着成功可能性的增加而增加。

物联网的发展会使面临的问题更加复杂，更加令人忧虑。无人驾驶汽车、植入体内医疗设备和舒适的基础设施（在众多迅速出现的IoT案例当中）等的出现，为网络犯罪分子和出于政治目的的网络攻击者提供了新攻击手段。特别是在网络冲突作为政治斗争浪潮的附属修正者存在情况下。物联网的扩展，伴随着先进智能入侵能力进步，将增加国家以外的个人和机构遭到威胁可能性。正如最近有关网络作战对信息战价值的学术研究所显示的那样，这对国家安全考量的意义重大，因为杰出政治人物、名流或专家等社会角色通常是观念和经济市场正常发挥作用的关键推动者。

三、人工智能驱动的网络冲突的拜占庭特征

人工智能对网络冲突过程的增强可能会带来复杂性的增加，这可能会降低国家社会政治和军事系统的容错能力。尽管在线互动固有的溯源挑战造成了不确定性，但人工智能的引入将会使这种不确定性在未来的网络冲突中永久存在。如果此类工具能够在总体战役层次上快速适应作战需求，那么自然而然地将敌方使顺着杀伤链评估失败原因的能力进一步削弱减弱。参考典范的拜占庭将军问题，在该游戏中军队被迫进行通信以展开成功的攻击，其结果成为一种战略态势的代名词，在其中分散系统不可避免地被随机破坏，至少这些入侵作为背景被认为是具有战略意义的。

可靠计算机系统必须处理故障组件，这些组件会向系统不同部分发送冲突的信息。这种情况可以用一群拜占庭军队的将军及其部队在一个敌方城市附近扎营来抽象地表达。将军们只能通过使者交流，他们必须共同商定战斗计划。但是，将军中可能有一个或多个叛徒，他们会企图混淆他人的视听。问题是找到一种算法来确保忠诚的将军们达成共识。研究结果表明，在只使用口头传达信息的情况下，如果有且只有三分之二以上将军是忠诚的，这个问题才能解决，即一个叛徒可以欺骗两个忠诚的将军。如果有不可伪造的书面信息，这个问题对于任何数量将军和可能叛徒来说都是可以解决的。

这种动态变化对遏制网络空间敌对前景和危机状况下发动网络战带来的风险都具有重大意义。一方面，国外对手可以设计巧妙的攻击，通过不断地变化导致拜占庭式错误，否则可通过精心伪造以发送欺骗性信号，导致无法静态假设防御性或报复性措施的威慑价值。当然，惩罚措施有可能在某个具体问题和时间点成功地塑造国外交战方的行动。然而，以智能化网络战装备为核心的军备竞赛可迅速用有效的模拟和非模拟技术来获得战术收获（根据有关的战略条件），这自然地使威慑成功的预估越来越缺乏持久力。另一方面，危机情况下开展网络作战者必须加倍努力地应对各种心理危机。在这种时期，入侵者是否会偏离网络空间中持久战的“正常”模式，或者有迹象暗示冲突升级？特别是在网络攻击导致异常结果的情况下，作战者是应该熟视无睹，还是应该横刀立马？人工智能对网络冲突的增强作用日渐凸显的情况下，人们可能会越来越倾向于选择后者。

四、未来人工智能驱动的网络冲突

日益智能化自动化的人工智能网络战装备导致未来的网络冲突加剧，其动态变化主要取决于所处的外部条件。换而言之，未来几十年，随着人工智能不断发展导致条件改变，其很可能成为引发国家行为者扮演的网络冲突角色广泛而不同变化的重要因素。在此，本文描述了四个未来的“世界”（场景），其中人工智能在更广阔地缘战略格局下所呈现的重要性有所不同。这种重要性主要取决于两个外生因素的相互作用：人工智能的研发受国家安全机构（包括与其关系紧密的私人国防合作伙伴）或私营企业驱动的程度；互联网在全球各个国家/地区间碎片化程度。

在世界1和世界2中，由国家驱动的用于发动和防御网络冲突的人工智能网络战装备开发在不同互联网架构演变背景下发生。在世界1中，互联网在几十年后不再是真正的全球架构，在这样的未来世界中，网络作战本质上与竞争性的反映不同社会价值观的互联模型相关联，而明显由国家利益驱动的人工智能军备竞赛被政治化为颠覆的工具。在这种场景下，与其他潜在的未来应用相比，人工智能发挥的更多的是决定游戏胜负的作用，因为利益相关者会在社会、经济和政治的独特、竞争生态系统中将其发展置于中心地位。

相比之下，世界2的愿景是，在私营行业利益驱动和西方让步下形成多边、多方的混合治理秩序，维持一个相对非巴尔干化的全球互联网架构，在其中由国家驱动人工智能的发展。在这里，尽管各国处于主导地位，但人工智能的政治化利用程度较低，而人工智能帮助下的网络犯罪成为面临的共同挑战，为有关网络作战自动化的标准和阈值的国际协调开辟了空间。尽管复杂性不断提高，但基于国际法律条款的准则的制定仍有助于各国针对网络冲突建立有一定效果的威慑姿态。

在世界3和世界4中，私营企业在开发用于网络进攻和防御的人工智能技术方面处于主导地位。在这里，人工智能对未来网络冲突的重要影响体现在主权和访问控制方面。在世界3中，开放的全球互联网与广泛分布式的人工智能开发相结合并汇入到网络安全工具中，产生了微妙的碎片化效果，因为服务提供商提供保护服务的最佳方法是开发专有的、访问受限的环境。这种效果被特别地称作“社会脱网”，已日益成为西方世界普遍的选择，特别是随着城市成为比国家、甚至联邦、实体更重要的政治单位，这种影响就更加明显。对私营行业而言，物联网和商业化智能工具的不断扩展是漏洞数量大量增加，引发更有效的黑客攻击，这意味着商业成功必须要建立在有效防止外部服务干扰的承诺之上。因此，尽管各国与私营行业协作（或通过审查其产品）发展其网络武库的任务仍像今天一样多，但是对人工智能驱动的数字世界中定制解决方案的激增限制了各国开展与竞争对手合作的能力。

世界4中，私营企业开发人工智能网络战装备方面的角色与互联网的分裂性质发生了强烈冲突，使问题加剧的是，确保信息服务的完整性和路由功能的责任超出了国家的控制而展现在公众视线中。因此，在这一双重碎片化的世界中，使用人工智能增强的网络能力实现冲突目的的国家面临的战术挑战是，在民意驱使下将重要责任交予私营行业来承担。在一个系统的完整性主要靠另一个系统来支撑的情况下，互联网服务提供商和其他开发人员利用自身平台阻断军事和情报的能力将使国家主权受到挑战。

五、结论

机器学习和自动化决策正被越来越快地集成到网络安全作战和信息战中，这使得决策时间窗口日益紧绷，并减少了人工干预的机会。对开放社会的防御将因互联网的碎片化而变得复杂，后者同样会对有关防御的、健康的机器学习优先级的共识准则造成破坏，这可能导致入侵的不断升级和频度增加。这种碎片化将同样影响作战中集成机器学习和自动决策技术的能力，因为跨越国家和私营部门的研究可能会大相径庭。

声明：本文来自关键基础设施安全应急响应中心，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。