2024年7月27日，立陶宛维陶塔斯·马格纳斯大学学者伊格纳斯·卡尔波卡斯（Ignas Kalpokas）在波兰期刊《应用网络安全与互联网治理》发表文章《技术背景下的后真相和信息战》（Post-Truth and Information Warfare in their Technological Context）。文章讨论了后真相和信息战在技术背景下的演变，特别是在数字通信环境中的变化，以及这些现象对社会沟通和政治行为的影响。
技术背景下的后真相与信息战，我们该如何应对？
编译：辛勤耕耘者
全文摘要与关键词
1.后真相——数字信息生态系统的产物：
①信息环境的核心变化之一——信息时代→后真相时代：后真相现象的出现与信息环境变化相关，公众对信息真实性要求降低，对观点一致性内容偏好增加
②自动化内容治理——算法选择：信息与传播的内容数量超出人们的掌控，算法选择是关键
③信息过剩与注意力竞争：信息过剩和注意力竞争助长了后真相政治
④后真相与数字信息生态系统：后真相是数字信息生态系统的产物
2.后真相、信息战与数字通信环境：
①后真相的基础：人类依赖数字环境
②后真相是人与机器之间的互动条件
③人工智能和算法工具在通信中的作用日益增强
3.合成媒体加剧恶化信息环境：
①合成媒体对信息环境的影响：生成式人工智能导致认知混乱现象；合成媒体降低人们对信息的信任度和处理能力
②新闻怀疑主义：娱乐化趋势加剧了新闻怀疑主义
③反制合成媒体：依赖水印技术会产生虚假的安全感；合成媒体导致的不信任降低了故意操纵的门槛
4.操纵公众认知过程：
①信息战策略利用技术和社会变化操纵公众认知过程：基于事实的叙事受技术的影响不易验证；利用叙事操纵公众的认知过程：侵蚀信任→社会进入自我毁灭模式→公民之间两极分化→灌输矛盾点→认知混乱
②叙事劫持公众认知过程：劫持公众认知的过程：注入操纵性信息→受众自发传播→诱导和响应受众→施加基于事实的干预措施→认知混乱，增加对虚假叙事的需求
在政治领域，成功的核心变量“不是证据（即事实），而是意义”
5.结论：
信息环境的变化导致真实性角色的转变
技术变革创造新的战略环境，改善信息战目标国家的劣势方案有限
认知混乱最终的社会影响尚不清楚，有待深入研究
6.评述：
①信息环境的变化和新兴技术对人类认知的影响不容忽视
②在后真相时代需不断深化对认知战的认识
③积极应对“后真相时代”
俄乌冲突中除了动能战场外，战争行动也在信息领域展开。此类行动对技术发展的利用程度不亚于动能战场。数字通信领域的变革促成了全新的信息战。对现有趋势和发展进行回顾，开发一个概念框架，解释后真相、信息战和军队情报技术之间的相互作用十分必要。
01 后真相：数字信息生态系统的产物
1.1 信息环境的核心变化之一：信息时代→后真相时代
后真相现象的出现与信息环境变化相关，公众对信息真实性要求降低，对观点一致性内容偏好增加。后真相是受众倾向于选择意见一致性和易于获取/认知作为信息选择的主要标准，而不是信息的真实性。后真相在很大程度上是由人类与数字技术间日益增长的相互依赖性所致。互联网使联网的个人能够自我组织起来，人们的注意力转移到操纵、虚假信息和信息战，成为政治竞争的特征，也为成国际竞争甚至混合战争的特征。在俄乌冲突中，后真相可看作是对传统战争实践的补充。战争与后真相之间的相互作用使管理受众认知过程更普遍、更全面、更具互动性。
1.2 自动化内容治理：算法选择
信息与传播的内容数量超出人们的掌控，算法选择是关键。数字内容无处不在，个人需要从环境中做出选择，只关注值得注意的内容，使自动化内容治理成为数字平台的一项宝贵功能，算法选择成为关键因素。注意力捕获与信息传递的算法过程有关，尤其是在社交媒体平台中。网络平台通过算法选择出用户喜欢的内容，并向其推送。人们是数字信息流及其固有算法逻辑的被动接收者，并积极地参与此类内容的生成和传播。
1.3 信息过剩与注意力竞争
信息过剩和注意力竞争助长了后真相政治。作为信息过剩和注意力竞争的直接后果，公民的世界观通过对其既有信念的想象确认而得到进一步加强和巩固。那些受信息不足驱动的人与拥有可验证事实知识的人一样，更有可能表达自己的声音和意见，并积极推动与意见相称的政治决策，从而导致非事实观点的进一步扩散及其被纳入政治议程，从而助长后真相政治。
1.4 后真相与数字信息生态系统
后真相是数字信息生态系统的产物。“后真相”的状况是数字信息生态系统的结果，而不是由那些恰好遵循和支持非事实叙事的个人的内在缺陷决定的。信息战利用技术变革和发展，涉及到人类与数字技术之间相互关系的重大转变。
02 后真相、信息战与数字通信环境
后真相的基础：人类依赖数字环境。随着数字化通信环境的变迁，人类在交流过程中的中心地位被逐步弱化。人工智能和算法在这个过程中扮演的角色日益重要，不仅是信息的传递者，还参与到内容生成和意义构建中。人类与数字的相互依存是后真相的关键前提，是政治和社会进程的基准。
后真相是人与机器之间的互动条件。在使用人工智能工具时，问题的关键不是人类与机器之间的物质互动，而是与基于各种人类数字痕迹生成通信的系统互动。人工智能工具会对人类做出反应（人工智能被动，人类主动），这样做的方式是从外部构建人类行为和反应的条件（人类被动，人工智能主动）。后真相在此被视为一种互动条件。
人工智能和算法工具在通信中的作用日益增强。目前是进一步假设人类与数字产品之间横向相互关联和交织的最佳时机。一方面，数字产品作为结构参与者、对话者和内容共同生成者的作用和能力日益增强；另一方面，人类自主行为传统上被视为是理所当然的结果（比如人类抬腿走路被视为是理所当然的行为，但实际上，这一动作蕴含着复杂的行为机理）。综合来看，一种新的、以交织和互动为重点的、主动的沟通和意义构建是必要的。
03 合成媒体加剧恶化信息环境
合成媒体加剧认知负担。合成媒体的兴起导致了认知困惑的增加。AI生成的内容使得人们难以区分真实与虚构，进而可能影响人们对信息的信任度和处理能力。社交媒体平台上的内容管理并非以新闻为中心，而是更多地提供娱乐化内容，这进一步加剧了认知负担和新闻怀疑主义。
3.1 合成媒体对信息环境的影响
生成式人工智能导致认知混乱现象。为充分理解技术发展在后真相出现和为当代信息战战略创造条件方面的作用，须考虑人工内容生成的影响。生成式人工智能存在明显的安全隐患，需加以考虑。人们通常特别关注人工智能生成器用于制造虚假信息和直接欺骗，但更应该关注人工智能生成内容的存在以及日益普遍所导致的潜在背景效应。这种影响可描述为认知混乱。
合成媒体降低人们对信息的信任度和处理能力。合成媒体，即“部分或全部由技术生成/修改的视听媒体”，无论生成此类合成内容的意图如何，其无处不在的事实本身就可能导致信任度的降低。所有这些只会进一步增加个人在尝试浏览网络信息空间时的认知负荷。即使在合成内容并非完全有害且并非出于恶意目的（包括讽刺或戏仿）的情况下，仍然可能仅仅因为徘徊在人们的脑海中而产生负面影响。尤其是，某些内容可能是人工智能生成的这一可能性本身就会降低人们对真实信息的信任度。
3.2 新闻怀疑主义
娱乐化趋势加剧了新闻怀疑主义。合成媒体引起的认知混乱因内容分发的主导模式而进一步加剧。例如，社交媒体上的算法内容治理不是以新闻为中心的，此类平台倾向于向用户提供脱离语境、以娱乐为中心的内容，阻碍了对当前社会问题的有效表述。用户需付出巨大努力，刻意寻找新闻内容，算法才能掌握这种能力。随着新闻与娱乐和其他类型的内容交织在一起，这些内容对可接受的人工智能增强（或完整生成）的门槛要低得多，新闻中的语境分化和认知信任会逐渐减弱，使语境变得模糊。所有这些都为参与信息战的参与者创造了有利条件，使得目标受众的认知超载和新闻愤世嫉俗更易实现，包括战争原因和暴行在内的任何事情都可能陷入（或被故意推向）这种不确定性得漩涡中。
3.3 反制合成媒体
依赖水印技术会产生虚假的安全感。人们正在努力减轻认知负担，从而减少认知混乱，其中最受关注的是水印。对水印和其他识别人工智能生成内容方面采取的措施值得称赞，例如制订监管框架、推出相关法案，但这些措施可以通过使用专门的软件来消除。此外，对于混合了不同媒体的内容，例如，在一个帖子中使用文本、音频、视频和图像，更难区分真假。水印只有在人工智能生成（或修改）的内容是例外而不是常态时才有效，依赖水印作为验证工具可能会产生一种虚假的安全感。水印篡改很可能会开辟一条信息战的新战线。
合成媒体导致的不信任降低了故意操纵的门槛。广泛采用合成媒体后出现认知混乱的一个关键方面是由于所有事物都可能是假的，任何真实性都可能受到质疑。错误地将内容标记为人工智能生成既可能是无意的，也可能是故意的。这种误导性的伪造指控，其影响会随着时间的推移趋于稳定，而且对那些关心特定主题的人的影响更大。因此，使故意操纵受众意见的门槛进一步降低。
04 操纵公众认知过程
文章讨论了信息战策略如何利用这些技术和社会变化来操纵公众的认知过程。通过利用或制造危机和不信任的环境，这些恶意行为者旨在通过叙事劫持观众的认知过程，达到恶意行为者的目的。
4.1 信息战策略利用技术和社会变化操纵公众认知过程
基于事实的叙事受技术的影响不易验证。当信息环境与技术驱动的变化相结合时，后真相才对信息战有利。为更好地理解不确定条件下的应对机制以及导致信息战行动的扩散现象，我们需要关注叙事。叙事并不总是存在的，特别是在快速变化的时代或危机情况下。技术因素可能造成或加剧认知混乱，基于此种情况，先前存在的叙事不再起作用，我们需要给世界一个新的解释。由于基于事实的叙事可能出现得较慢且通常很难验证，因此很容易陷入虚假信息的漩涡并被信息战所挫败。即使是与事实不一致的叙述也可能联系在一起，特别是当它们与有事实依据、尚未得到充分解释或解决的不满情绪相联系时。如果将解释性或伪解释性叙事置于战略位置，将会带来更多好处。
利用叙事操纵公众的认知过程：侵蚀信任→社会进入自我毁灭模式→公民之间两极分化→灌输矛盾点→认知混乱。叙事对于国家和非国家行为者开展信息战活动具有现实意义，其目的往往是制造混乱和迷惑，例如通过恶作剧、虚假新闻，最后利用集体行动问题。这一过程的第一步往往是信任的侵蚀，无论是公民之间的横向信任，还是公民与国家/政府之间的纵向信任，从而为进一步的敌对行动创造良好的条件。一旦威胁行为者引发了不信任的恶性循环，社会就会进入自我毁灭模式，随后，迷失方向和两极分化使得公民不可能（或至少非常困难）形成共同利益并参与实现任何目标。只需向特定公众灌输相互矛盾的观点，就足以削弱人们对任何主张的信任，造成认知混乱。
4.2 叙事劫持公众认知过程
劫持公众认知的过程：注入操纵性信息→受众自发传播→诱导和响应受众→施加基于事实的干预措施→认知混乱，增加对虚假叙事的需求。利用社交媒体平台进行信息战，威胁行为者还可以诱导受众对信息做出看似自发的反应，这种做法相对简单、快速且成本低廉。一旦成功将操纵性信息注入目标受众，目标受众会进行二次传播。因此，将目标受众赶入信息孤岛或劫持现有的过滤泡沫构成了一个关键的战略目标，然后，威胁行为体介入解决各种不确定性，诱导和响应受众，当公众在没有其他或更快速可行的选择时，他们会求助于未经证实的信息。与此同时，用基于事实的干预措施来应对后真相和信息战的行动，不仅处于劣势，而且还使整个以真实性为中心的叙事变得更加复杂和令人困惑，从而增加了对明确但不太真实、简洁叙事的需求。
事实或信息等真相并没有内在价值，相反，真相取决于叙事本身，而叙事本身创造价值。因此，在政治领域，成功的核心变量“不是证据（即事实），而是意义”。阴谋论或蓄意散布虚假信息（如信息战）的机会就很多。
05 结论
信息环境的变化导致真实性角色的转变
当代信息环境的变化，尤其是内容过剩及其算法管理，导致了真实性角色的转变。一是“真相”取决于个人所采用的注意力管理策略、群体动态，以及基于数据的自动匹配和个人倾向； 二是人类被视为数字工具的共享信息代理，这种变化有利于信息战行动，信息战行动可以利用新的内容传播和消费模式，将战略性刻画的叙述注入选定受众的头脑中；三是合成媒体的快速传播开始引发认知混乱，任何事物都有可能被操纵。在这种情况下，叙事可看作是一种应对策略，信息战行动正朝着提供这种解决方案的方向发展；四是故意侵蚀信任成为信息战的第一阶段，创造了条件，促使目标受众倾向于预先制作的叙事，在目前的技术背景下更容易实现。
技术变革创造新的战略环境，改善信息战目标国家的劣势方案有限
技术变革和随之而来的信息领域转型创造了一种新的战略环境，在这种环境中，信息战的目标国家始终处于劣势，而改善这种状况的解决方案有限。
认知混乱最终的社会影响尚不清楚，有待深入研究
数字工具和技术不仅可用于传播虚假信息，还可用于战略沟通和其他反虚假信息代理。但就造成的认知混乱而言，目前尚不清楚其最终的社会影响是什么。建立例如纯粹的不确定性诱导认知混乱与削弱虚假信息的认知混乱之间的平衡是未来研究的问题。
06 评述
一、信息环境的变化和新兴技术对人类认知的影响不容忽视
在社交媒体时代，“后真相”现象呈现出两个方面的显著特征：一是情绪传播大于事实传播；二是情绪在短时间内“病毒式扩散”。造成后真相时代来临的原因众多，如数字信息环境的变化、技术与媒体的演进、经济与社会的不确定性等，传播主体不再对新闻事实进行完整的呈现，而是通过煽动情感、强化偏见、迎合情绪的方式传播符合受众主观认知但偏离事件原本真相的内容，客观事实和理性思辨被传播主体和接受主体抛之脑后，最终造成情感传播大于事实传播，造成人类认知混乱，给信息战发动者以有可乘之机。因此，信息环境的变化和新兴技术对人类认知的影响不容忽视，后真相受信息环境的影响与规制是值得深入持续研究的重要课题。
二、在后真相时代需不断深化对认知战的认识
传统战争是消灭对手肉体，占领其地盘和财产。在后真相时代，认知战是通过叙事改变人们的思想，语言、文字、音/视频图像等一切信息载体齐上阵，精心编织的叙事在新兴技术的推动下，通过多种不同的方式描述同一事物，这些描述具有同等的真实性，但只包含片面的真相，给人们造成信息过载，难以整体把握事件真相，造成人类认知混乱、信任危机，达成常规手段难以企及的效果。“同一个事实，不同的表述”，成为认知战的重要表现。围绕“叙事”的较量成为认知域战场的重要阵地。因此，在后真相时代，获得事件的一点真相是容易的，困难的是获取全部真相。当真相不完整时，人们的认知就很容易被误导。随着信息环境的变化、新兴技术的发展及应用，认知战变得更加复杂，需要不断深化对认知战的认识，并采取相应的对策积极应对。
三、积极应对“后真相时代”
在后真相时代，敌人处心积虑地设计和传播叙事，其影响绝不可低估。除了不断深化对认知战的认识外，采取相应的对策积极应对才是上策。
（一）遵循客观逻辑，对事件进行冷处理。只遵循客观缜密的逻辑推理，不为主观情绪所掌控，面对敌人提供的信息，“让子弹先飞一会儿”对事件进行冷处理，从中发现漏洞，并及时反击；
（二）多源化追溯信息，分析动机。顺着对方提供的“事实”，思考其动机及可能采取的行动；通过比较“可能结果”与“实际结果”之间的差异，追溯和洞察对方的原始动机；
（三）及时还原真相。归根结底，更具代表性、更加全面的真相是对抗误导性真相的最佳武器。随着真相被还原，敌人因处心积虑地设计和传播叙事而逐渐失去受众的信任，最终变成一个自导自演的“小丑”组织。
事实决定观点，观点决定行动。面对敌人的“叙事”，不要轻易被情绪裹挟，要尝试用理性和逻辑破解真相，洞察对方的动机，并用“反叙事”的手段反击，才能在这场“后真相时代”的认知战中立于不败之地。
参考文献：
https://www.acigjournal.com/pdf-190407-112733?filename=Post_Truth%20and.pdf
https://mp.weixin.qq.com/s/uLDUhBE-TJtA8DhZeklOdQ
声明：本文来自认知认知，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
