随着信息技术的发展和社交媒体的普及，利用人工智能技术生成相关信息，进而塑造目标受众的认知越来越成为各国信息作战的重要内容。为此，2018年10月，美国陆军协会陆战研究所发布报告《影响力机器——让自动化信息作战成为战略制胜机制》，在人工智能的辅助下，利用算法生成内容、实施个性化的目标锁定及密集的信息传播组合而成的“影响力机器”实施信息作战，将会产生指数级的影响效应。
影响力机器——让自动化信息作战成为战略制胜机制
作者：plus评论员 刘栋
来源：https://www.ausa.org
著名的人工智能专家吴恩达(Andrew Ng)指出：“就像100年前世界的一切因电力而改变，现在也很难想像哪个行业在未来几年不会因人工智能而发生重大变化。”在这种大势下，影响力（influence）领域的变化发展将对美国的国家安全产生极为重要的影响。在人工智能的驱动下，新型的信息作战能够迅速有效地模拟人类的情感，实现在特定时间、特定地点、以特定方式塑造特定目标受众的感知。其战略层面上的影响力远胜于人工智能技术在其它领域的应用。
一、影响力机器
利用算法生成内容、实施个性化的目标锁定、密集的信息传播是人工智能技术驱动下实施信息作战的三项重要能力，而三种能力的结合被称为“影响力机器”（the Influence Machine）。其运用过程如下：利用人工智能技术大批量自动生产有说服力的内容。同时，在机器学习的辅助下利用其情感、偏见筛选、锁定那些心理最易受到影响的目标受众。最后，将定制的“精神弹药”快速密集的“射向”目标群体，达到影响其心理、操纵其认知的目的。
利用算法生成内容并非新鲜事物，已经在体育报道和股市分析中得到大量应用，如果将其用于制造虚假信息也是易如反掌。例如，在一段广为人知的视频中，“奥巴马”总统就警告说，深度造假技术将在未来几年内挑战我们对真相的认知。而实际上，这段视频是著名的奥巴马模仿者乔丹·皮尔将前总统的面孔映射到自己的脸上，用计算机制作的一段虚假视频。随着视频的普及和增强现实等技术的出现，计算机生成的内容不但会变得更加普遍，而且与现实的区别会越来越小。难怪参议员马克·卢比奥断言，没有任何人、政治运动或组织能抑制虚假信息的快速传播。
经济学家阿贾伊·阿格拉瓦指出，晶体管小型化大大降低了简单计算的成本，从而使预测在人工智能的驱动下也逐渐变得廉价。人工智能使用用户社交媒体数据、经济媒体互动数据，以及个人电子设备的位置数据进行“训练”，以实现从目标受众身上预测信息的目的。可以说，人工智能可以更好的预测目标受众在想什么或要做什么。这在商业上已经得到广泛应用。例如，亚马逊公司利用算法向消费者推荐商品，剑桥分析公司使用类似技术，以脸书的用户为目标制作国际头条新闻。因此，在人工智能的影响下，克劳塞维茨关于无法对士气进行分类或计算的假设已经变得不成立。
密集的、不间断的向目标受众传播定制信息是影响力机器发挥作用的最重要一环。在这方面，俄罗斯的网络水军就是很好的例证。美国《纽约时报》拥有大约12个Twitter账号，每天发布约300条推文，而俄罗斯的互联网研究局（IRA）在24小时内竟能够推出2.5万条推文。俄罗斯互联网研究局掌握的机器人账号帮助俄罗斯政府散播相关信息，构建目标受众的认知，而且其产生的衍生影响也不容忽视。当“精神弹药”成功地影响目标受众时，这些受众会以惊人的速度将这些信息再次传播到网络中去，从而极大的改变事实。所以说，“重复是开展信息作战的关键原则”。而下一代网络水军通过简单的强化学习，将采用更快的计算技术，并在5G技术部署后能从更高的网络速度中获取更多利益。
二、制造的影响力
当前电子设备无处不在、无时不有，便于在非接触的条件下大规模影响外国公民。而俄罗斯对影响力机器的作用就有深刻地理解和认识。其利用影响力机器可以不动用枪炮或无人机就瞬时操纵特定选区人民的情绪，不但可以在特定时期达成自身的政策目标，而且还能给对手带来负面影响。
2016年，俄罗斯对美国大选的种种干扰举动给美国内部造成严重的破坏。由普京数字代理人运营的脸书账户引发了60多场线下抗议活动。例如，HeartofTexas和Blacktivist等账号利用数字手段欺骗美国公民上街游行达到支持俄罗斯政治目标的作用。俄罗斯人不仅实现了战略性破坏，而且还发现了非常规战争的有用工具，使其不用涉足其他国家就可以挖掘当地居民的抗议潜力。这是俄罗斯数十年来“积极措施”的新应用。未来学家大卫·布林指出，在20世纪20年代和30年代，纳粹和斯大林主义者开始利用无线电和公共广播。到20世纪50年代，苏联利用集中控制和整合的网络广播和公共广播系统对国家内部进行影响。而在当前互联网和社交媒体的作用下，俄罗斯信息作战的量级和雄心变得更加宏大。
俄罗斯的军事学说也一直支持对其他国家的“意志”进行战略打击。就像俄罗斯战术家瓦列里·格拉西莫夫将军所言：“非军事手段在政治和战略目标的实现上作用越来越强，而且在许多情况下，其效力已经超过了武力。”
三、影响力机器的指数化效应
虽然五角大楼认识到人工智能的巨大潜力，但其对人工智能的应用很多都放在了无人驾驶装备上。例如，各军种都在探索使用全自动蜂群或由人工智能驱动的一组无人驾驶飞行器的概念。尽管这些项目在战场中能发挥重要作用，但是其难以产生指数化效应。
影响力机器比人工智能引导的无人武器装备更具战略危险性。无人武器装备可以每小时25英里的速度行进，而在数字战场上的影响行动可以光速实施。无人机群的射程在500米到几英里之间，而影响行动却可以依托网络达到全球任何角落。无人机有起降点，而影响行动却难以被溯源。与攻击乌克兰电网不同，影响行动的作战环境是开放的，无处不在的电子平台也极大的消除了战场的复杂性。此外，人类的大脑也不会进行“软件更新”，更不会进行身份验证。
未来主义者雷·库兹威尔这样描述指数化效应，即“关键指标，如计算能力，在每个时间单位乘以常数因子（例如，每年翻倍），而不是仅仅逐步增加。”而全球无处不在的电子平台为影响力机器发挥指数化效应提供了契机。对于影响力机器而言，关键指标是受众的范围，而常数因子是特定影响的传播速率。任何物理武器的杀伤范围都是按照线性来发展的，而影响力机器则完全不同。网络上每天有39亿网民，理论上都在影响的范围之中，这是任何物理武器都无法比拟的。战略轰炸也曾试图以胁迫对手民众的方式达到战役目的。与战略轰炸类似，影响力机器也是要削弱对手民众的意志，但不同的是影响力机器不会给对手民众造成相同的体验，其主要是在对手内部制造分裂，从而使其无法达成统一的战略目标。
美国参议员马克·沃纳指出：“我们生活的世界存在越来越多的网络漏洞，错误信息和虚假信息可能成为冲突工具。”而影响力机器的目标是改变对象战略目标的价值。如果影响力机器能对足够人群的认知进行干扰，就能够阻止或推迟民主政府对侵略的反应，从而形成一种制胜机制。通过影响行动，降低竞争对手受众的预期收益，使其国家首脑不愿意或无法应对威胁，从而屈服于本方的意志。随着假新闻与真实新闻的竞争变得惊人，影响机器的出现为“破解”战争不变的人性提供了一种新颖的方式。
四、应对举措
当前，应对影响力机器威胁的工作已经开展。牛津大学的计算式宣传项目已在多个国家编制了自动化影响报告;德国马歇尔基金会创建了Hamilton68数据库，以跟踪俄罗斯对Twitter的影响；美国国防部高级研究计划局（DARPA）也正在开发识别深度造假技术的软件。但谎言的传播速度总要快于事实，因此单靠驳斥俄罗斯的假新闻是行不通的。
从公开情况来看，美国在数字信息作战方面的举措十分有限，仅限于军事社交媒体“WebOps”和国务院全球参与中心（GEC）的行动。这些工作主要由承包商负责，容易出现失误并专注于反恐。虽然近年来美国政府确实有一些资金用于数字信息作战，如国务院全球参与中心的资金超过1亿美元，而作战司令部的Webops资金则高达5亿美元，但是美国没有一个组织负责整合和同步应对影响力机器威胁的行动。尽管国防部是一个值得信赖部门，但军方不应在这项工作中打头阵。
2016年的《反虚假信息和宣传法》使国防部在应对外国影响行动威胁方面发挥支援作用。鉴于当前的技术状态，国防部必须拥有必要的数据来进行更真实的信息传播，澄清真相的速度一定要比对手编造传播谎言的速度快。对于来自战争前线的信息，国防部具有先天的优势。目前，美军士兵已经开始携带摄像机巡逻，并将搭载摄像机的无人机应用于叙利亚和乌克兰。国防部必须开发利用这类数据的方法，而人工智能提供了相关方法。
值得注意的是，叙事科学等软件可以产生新闻稿和社交媒体更新，却不用花费更多人力。美国军事网络产生了TB级的任务指挥数据，这些数据与体育、股票和民调的数据标准形同，完全可以由机器取代人开展军队的社交媒体信息发布工作。也有人担心利用机器会暴露相关行动的细节，但如果华尔街可以信任数百亿美元的人工智能交易，也许军方可以让计算机管理一些社交媒体账户。
查看英文网页原文：https://www.ausa.org/publications/influence-machine-automated-information-operations-strategic-defeat-mechanism
声明：本文来自学术plus，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
