摘要
2016年以来，人们对虚假信息、宣传、信息操纵和伪造、“假新闻”（fake news）、“真相衰退”及相关趋势的兴趣日渐增加，这种广泛的现象称为敌对的社会操纵（hostile social manipulation），它是指有目的、系统生成和传播信息，通过影响信仰、态度和行为对目标国家和地区的社会、政治和经济带来不利的后果。从人工智能到虚拟现实以及个性化消息传递等多种新兴技术的交汇，为“侵略者”改变基本的社会现实提供了支持，虚拟社会战争可能涉及多种技术的任意组合，其潜力肯定正逐渐显现。现在唯一的问题是，民主政体是否能团结起来控制和捍卫自身免受敌对的社会操纵带来的威胁。
引言
自2016年以来，人们对虚假信息、宣传、信息操纵和伪造、“假新闻”、“真相衰退” 及相关趋势的兴趣激增，这种广泛的现象被称为敌对的社会操纵。敌对的社会操纵是指有目的、系统生成和传播信息，通过影响信仰、态度和行为对目标国家和地区的社会、政治和经济带来不利的后果。
一种新的冲突形式
研究表明，尽管美国和其他民主国家已经做出了巨大的社会操纵努力，但他们只是瞥见了这些方法有一天可以实现的冰山一角。多种新兴技术的交汇点（基于针对特定个人、虚拟现实和增强现实、人造视频和音频等大量信息数据库的针对性营销）正日益为“侵略者”创造改变基本社会现实的潜力。由于信息领域或不断变化的信息环境控制着后现代民主国家，这些风险在今天显得尤为重要。除其他趋势外，信息领域的特征是权力的分散、信仰孤岛的兴起，以及毫无根据地以社会异议为名，持续的恶意挑衅和侵略性的骚扰。但是，信息领域的许多领先趋势令人担忧，新兴技术的潜在影响非常危险。先进社会正以尚未完全了解的方式危险地依赖脆弱的信息和数据收集、交换、通信、分析和决策网络。
几十年来，社会科学家一直认为，先进的民主国家已经从工业时代转向信息经济时代，更多地是以生产和交换信息为基础，而不是实物商品。信息领域的最新变化以及新兴技术的趋势清楚地表明，这一重大转变实际上才刚刚开始，其影响也刚刚显现。
在此过程中，这种虚拟侵略可能会迫使人们重新考虑国家安全的性质以及为保护国家安全而采取的步骤。
本文调查了“真相衰退”现象的大背景，将“真相衰退”定义为事实和分析在美国社会中的作用下降，其特征在于以下四个部分：
（1）关于事实以及对事实和数据的分析解释与日俱增；
（2）观点与事实之间的界限日益模糊；
（3）观点和个人经验对于事实的影响越来越大；
（4）对曾经受人尊重的事实信息来源的信任度下降。
“真相衰退”构成了信息领域的主要趋势之一，这种趋势使后现代民主更容易受到敌对的社会操纵。这种脆弱性凸显了一种关键的关系：激进的社会操纵技术建立并利用民主国家的社会和信息趋势，但通常无法创造这种趋势。真相的衰退和相关信息领域的趋势，以及与之并行的社会趋势是根本性问题，如不平等的加剧和精英阶层信心的下降。敌对的社会操纵是国家或非国家行为体利用社会和信息的变化特性来危害民主的一种技术。
不断发展的信息领域
正如兰德公司关于真相衰退研究所记录的那样，在过去的美国历史中，“色情新闻”、虚构的故事、病毒传播的信息以及其他“信息污染”的程度达到了惊人的水平。但是当前的信息领域可能与早期的信息领域有很大不同，这在很大程度上与信息环境的主要趋势有关。以下概述了研究中出现的主要趋势。
2.1 更广泛的社会趋势
最全面和最重要的趋势是出现了大规模的社会机构，它们对公民理解或控制其运作的能力构成了挑战，并造成了信任的固有问题。吉登斯研究了“专家系统”在后现代社会中的作用，这种作用以权力分散、变化步伐加快和领土认同感扩散为特征。大型的技术社会需要“技术成就或专业知识体系来组织我们今天生活的大部分物质和社会环境。” 它们是人们日常生活中必须依靠的抽象系统，但是对它们的控制很少，对知识的了解也很少。
2.2 网络动态和信息的病毒传播
信息领域的核心组成部分是网络日益紧密，相互依存的性格：“相互关联”的基本属性既创造了机会，也创造出重大漏洞。这种网络化的品质包括信息交换，通过社交媒体和其他渠道的密集网络，以及数据库和网络日益增强的互联性，各种主张和叙述正在迅速传播。
病毒传播或信息级联是一种社会影响现象。人们遵循别人在说、在做和“喜欢”的事情。一个故事、表情包、动画或歌曲走红的具体原因可能很神秘，但其基本机制却并非如此：这是一种社会证明效应。这种效应包含了一层含义，具体是指级联反应可以通过早期和重大的认可而引发，特别是来自具有社会影响力的参与者的认可。无论哪种方式，级联都可以非常迅速地启动或搁浅，这再次表明了社交操作领域的先发优势。
2.3 耸人听闻
在过去的三十年中，新闻媒体和信息领域的主要趋势是，在报道的内容和风格上，耸人听闻的程度有了明显的提高。这种普遍的耸人听闻的现象并不新鲜，映射出了更早的信息领域时期，例如19世纪末臭名昭著的色情新闻时代。
2.4 信息源碎片化
碎片化可能会让操纵者更难创建一个单一的替代现实，但它也破坏了曾经为抵制虚假信息和社会操纵提供了主要堡垒的共享信息和意识社会机制。未来的挑战是在很大程度上仍将碎片化的环境中，构建由较小的信息中介组成的复杂拼接体。
2.5 信息平台集中化
随着人们获得许多新渠道的信息和数据，社交媒体平台如此多地进行信息交换，以及相关的系统和数据管理平台和信息处理现在集中在五个大型企业中，分别是苹果、谷歌、亚马逊、脸书和微软。他们已经在收集用户的大量数据——有时很明显，在用户不知情的情况下。在一定程度上，这些平台及其多个接口在塑造公众观念中起着主导作用，它们将获得前所未有的影响力。
2.6 回音室的作用
研究人员尝试研究碎片化的信息环境如何提供极端和极化的看法，而这一切又将如何影响信息搜索和由此产生的“情感极化”：对立政治集团的成员被以一种苛刻的负面眼光看待的程度。他们发现，实际上，“自由选择信息搜索”（即在高度碎片化的信息环境中寻找两极分化、确认证据的能力）具有将这种情感极化提高多达15个百分点的作用。相关研究发现，接入宽带互联网，从而获得更广泛的潜在信息源（包括高度两极分化的信息源）会增加情感极化。
2.7 影响者的作用
研究表明，任何社交媒体或其他信息网络中的一小部分人将构成信息共享的重要组成部分。社交网络中的这些集群通常围绕有影响力的个人或群体或信息源（通常被称为影响者） 而发生。
2.8 数据规则
信息领域的特征越来越多，其特征是大量数据库的积累和操纵，这些数据库用于驱动从营销算法、医疗保健决策到教育选择的所有事物。在传统的网络攻击中，攻击者可以利用这些信息“锁定医疗记录，抹去财务信息，操纵社交媒体，传播有关个人不当行为的谎言和半真半假的信息”。攻击者可以骚扰朋友和亲戚，甚至通过推特发送死亡威胁。但是一种更为渐进的社会操纵形式是，攻击者可以在一个月间做数百种这样的小动作，以此（在社会中）造成足够的困惑、沮丧和焦虑情绪，从而有碍于竞争/敌对社会的正常运行。而这些小动作还达不到被视为大规模网络攻击那种操纵行为的程度。
这些趋势表明，新兴的信息领域在几个方面可能容易受到先进的社会操纵运动的影响。这些趋势描述了一个新兴的信息环境：
（1）碎片化和去中心化，很大程度上受到回音室效应的影响，缺乏统一社会认知、让人们在政治团体中有基础和归属感的宏大叙事；
（2）越来越多的网络互联依赖于少数几家大型科技公司提供的平台，这些公司掌握着大量有关美国个人的数据，这些数据加在一起构成了越来越大的系统性风险；
（3）以大量耸人听闻的新闻和对社交媒体参与者的恶意挑衅和骚扰为特征。
结果可能是一个信息领域越来越以破坏社会连贯性的方式分解，以造成网络脆弱性的方式相互联系，并以不断歪曲公众的看法并压抑本体论安全性，对未来的信任和社会制度的方式产生极端的轰动。甚至在我们考虑从外部采取积极、敌对的手段来操纵一个国家的信息圈之前，有证据表明，目前的趋势是已经产生了一种信息环境，这可能对民主体制和社会稳定产生腐蚀作用。
换句话说，问题首先是不断变化的信息领域，其次才是社会操纵的措施。
新兴技术与虚拟社会战争
迄今为止，社会操纵在很大程度上反映了简单的网络入侵(窃取有害信息或进入关键网络)与宣传和虚假信息(如社交媒体广告和使用机器人传播病毒信息)的结合。然而，数据驱动的先进社会基础以及尖端人工智能和虚拟现实技术的发展，可能会极大地拓宽现有社会操纵技术的范围。这些工具的全面使用可能造成一种前所未有的危险，即远程破坏开放社会的运作。
3.1 人工智能
未来10到15年，人工智能将成为创新的主要推动者，影响每一个行业以及个人在物理环境和网络空间中的日常活动性质。
3.2 算法决策
另一个与社会操纵相关的计算技术新兴领域是使用算法来处理信息并做出决策、预测或估计。这类算法目前在某些搜索、营销和社交媒体平台上最为先进。
然而，在社会生活的许多领域，人们越来越多地使用算法来生成最优的结果决策。他们也已经“被用来决定谁可以假释，谁可以贷款， 谁可以找到工作”。
3.3 虚拟现实与增强现实
新兴技术的另一个领域是虚拟现实和增强现实。现在这两种技术的各种产品都已上线：例如，手机的增强现实应用程序正在兴起，它增加了通过手机摄像头“看到”世界的各种功能，以及虚拟现实头盔的快速加速技术。尽管技术已经发展了几十年，但最近对该领域的商业领袖和技术人员的调查显示，它们可能正逐步成为主流技术。普华永道（PwC）最近的一项研究显示，这是一个前沿性的技术领域，预计到2022年，美国将有超过5500万部虚拟现实头盔投入使用。
虚拟现实技术和增强现实技术的潜在社会操控性是显而易见的，尽管可能并不那么简单。已有的研究警告称，新兴的虚拟现实系统可能容易受到黑客攻击。
3.4 物联网
物联网指的是智能技术在我们的家庭、身体和物理环境中日益密集的交互网络。物联网正逐渐成为传感、信息交换和决策的密集网络，为先进社会提供必要的数据收集和网络支撑。就其本身而言，这将是社会操纵者寻求破坏社会机构的信任和信念，降低人们更大的本体安全感的最复杂的机会之一。
3.5 监控系统
到2030年至2035年间，几乎每一项与云或物联网相关的新技术都将能够服务于某种监控目的。到2030年，运动放大和显微镜软件（称为欧拉视频放大[EVM]）将成为监控、智能手机摄像头和视频记录的标准；这些工具揭示了原本不可见的细节（例如，眼部肌肉的微小运动、血液流动、看似稳定的物体的微观运动）。地球上还将至少有10亿架无人机，其中大多数将携带监控设备并具有接收和传输数据的能力。
这些复杂且在许多方面相互联系的技术套件具有加速发达经济体信息领域转型的潜力。预测这些技术的传播或者能力的当前趋势，或假设其影响将是线性的，都是过于简单的。
可以说，先进社会的稳定性和连贯性还面临着不断增加的风险，技术还具有内在的潜力，可以通过破坏社会凝聚力和民主治理的方式改变信息领域本身的特征，甚至没有故意操纵的可能性：加速共享现实的衰落，加强制度对个人的支配体系，并加剧普通人的疏离感。
这些技术的集体效应可能是变革性的，社会和政府很可能会面临这样的要求：在努力塑造其影响的过程中，要越来越有自觉性与指导性。
应对虚拟社会战争的途径
在充分考虑虚拟社会战争所带来的风险的情况下，可以通过以下多种途径来应对挑战，以增强民主的弹性。其中包括 :
（1）投资研究和理解。
在许多对话和分析中，一致的主题一直是我们意识的局限性：不断发展的信息领域的真实特征及其可能的方向，演变过程中的关键因果关系，人们对各种形式的社会操纵的反应，以及最有效的答案可能是什么。富有弹性的信息领域和强大的社会形态的主要标志是什么？我们可以使用哪些指标来评估我们是否实现了这些目标？
（2）开始建立预防和恢复机制，以应对最恶劣的信息社会操纵形式。
运动不应该局限于在发生外部对抗之后，而应提前采取措施来建立增强抵御此类主张和运动的抵抗力。预先警告可能比事后处理的既定叙事更为有效。
（3）认真对待当今社交媒体所扮演的领导角色，以及在该领域中开展的许多信息控制辩论的先例设定特征。
各国政府应越来越多地寻求能够激励社交媒体平台来最大限度地解决问题的行动。在这个过程中，各国政府应该确定这些平台在未来两到三年内可以做的四到五件事，以便在这个问题上有所作为。
（4）进行旨在建立新的、广受信赖的信息中介机构的投资，这些机构可以帮助人们理解事件。
政府（以及私人基金会和维权人士）还可以促进信息公司之间的反复试验，以尝试修改后的算法，新的浏览器扩展，并对不同的网站和来源进行评级和排名，以了解有效的方法。其目标是发出有助于政府政策寻求的总体效果的信号。当今挑战的一个主要根源是，公众可以依靠的受尊重的、受信赖的中介源都在减少，而原本公众依靠它们了解自己看到的内容是否准确。除了基本的事实核查组织外，对这种经修订的中介机构进行不同种类的试验可以帮助减轻虚拟社会侵略的影响。
（5）开始致力于限制使用虚拟社会侵略的国际准则。
虚拟社会战争的最大风险可能是，它代表着一种对领土完整规范的潜在的、逐步的退化，这种规范自1945年以来基本上一直占上风，并有助于维持国家间的和平。在某种程度上，各国开始以虚拟但极具破坏性的方式相互攻击，关于领土不侵略的普遍共识可能崩溃，最终导致大规模的武装冒险主义。与其他形式的侵略一样，威慑可以有力地促进防御，但是，有助于将国家的地位和威望与它们对基本原则的尊重联系起来的国际准则也可以这样做。
（6）更好地了解新兴技术的工作原理和漏洞，尤其是人工智能驱动的信息渠道，虚拟和增强现实以及算法决策。
如果美国和其他国家不小心，这些技术在私人应用方面的进步将超越政策甚至理解，会导致社会严重的脆弱性。虚拟社会战争危险以及民主社会和发达经济体对这种信息应用的特定依赖，表明有必要研究其潜在影响和国家可以采取哪些步骤来保护自己。
结论
新出现的侵略形式对先进国家构成了重大威胁，而且是以一种前所未有的国家安全威胁出现的。特别是在核时代以及在全球普遍反对全面领土侵略的时代，大规模入侵已成为过去。但是，尽管可以制止军队入侵，但渐进式的、低水平的对信息领域的敌对操纵对国家而言可能是侵略的新领域，虚拟社会战争的潜力肯定正逐渐显现。今天唯一的问题是，各国政府是否能团结起来控制和捍卫自身免受这种威胁。
作者简介
兰德公司是一家研究组织，致力于开发解决公共政策挑战的方案，以帮助全世界社区变得更加安全、健康、繁荣。兰德是非营利性的无党派机构，致力于对公共利益的研究。
https://www.rand.org/pubs/research_reports/RR2714.html
译者简介
卢垚（1985—），女，博士，上海社会科学院新闻研究所助理研究员，主要研究方向为新媒体传播与媒介文化。
选自《信息安全与通信保密》2020年第二期（为便于排版，已省去原文参考文献）
声明：本文来自信息安全与通信保密杂志社，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
