远望智库开源情报中心 忆竹 编译
2023 年 9 月，MITRE主办了一次题为“构建认知战复原力”的技术交流会议(TEM)，与会者来自MITRE、国防部和澳大利亚国防军，重点关注保护认知领域的安全，包括确定国家级合作伙伴关系和创新机会。
本报告探讨了面对快速发展的技术时认知安全的重要性，并深入探讨了“认知战”的概念，即针对人类认知的网络、虚假信息、心理和社会工程攻击的融合。本文借鉴TEM的见解，讨论了认知战的当前形势、其对公共部门任务的影响以及潜在的对策。它还广泛审视了保护认知领域的挑战和机遇，敦促对研究、政策和技术进行投资，使人们对认知战更具抵抗力。
认知领域的安全考虑包括涉及网络、虚假信息/错误信息、心理和社会工程能力整合的攻击。虽然这些攻击利用了既定领域内个别技术和方法，但攻击的融合模式引起了公共部门对所谓的“认知战”的关注。鉴于保护认知领域是一项动态、社会和技术挑战，TEM涵盖了广泛的主题，包括认知战的当前格局、认知战背后的神经科学和认知科学、认知战对公共部门任务的影响，以及可用于识别和评估认知战的方法和技术。TEM的结论为重要行动方案提供了以下建议：
（1）将认知战社会化，作为认知安全的一个组成部分，以创造更多机会来建立复原力。认知战一词可以人为地将保护认知领域的主题限制在军事或情报环境中。作为一项社会技术挑战，认知安全受到个人、技术、基础设施、流程、文化和目标的影响。与其他安全领域一样，应该考虑认知安全如何影响广泛的公共部门任务。
（2）优先制定有效性措施（MOE），并在国家安全背景下实施基于实验室的研究。制定有效性措施应利用市场营销等其他领域的应用研究。这些努力不应局限于“重新发明轮子”，而应着眼于应对如何设计和进行应用研究的挑战。
（3）为认知安全研究创建一个跨学科的兴趣社区。利益相关者对使用其特定领域以外的技术测量认知的可行性存在误解。快节奏的信息环境意味着运营社区通常处于基于反应的姿态，导致对节奏较慢的严格认知和人类行为研究有不同的容忍度。因此，可能会有一种“灵丹妙药”的心态或倾向，即在没有真正的跨学科合作的情况下寻找解决困难问题的简单方法。
（4）研究和开发基于证据的方法，为数字部队保护计划的实施提供信息，使人员对数字数据的脆弱性、威胁和影响有更高的认识，包括生理信息。尽管使用生理数据来预测认知方面的科学状况尚不成熟，但当前事件表明，利用生理学有可能成为一种普遍的威胁媒介。例如，2023年6月，美国陆军刑事调查司（CID）和海军刑事调查局 （NCIS）发现，全军服役人员报告说在邮件中收到了不请自来的智能手表，并通知服役人员不要打开或使用这些设备。
MITRE主办的TEM会议对认知战争的复原力为确保认知领域的问题提供了新的见解和意识。TEM确定了多个潜在的行动方案，这些行动方案将推进政策、方法和技术的研究和开发，以更好地确保认知领域的安全。通过跨学科行动方案和跨部门伙伴关系对这些关键领域的投资将创造机会，带来创新方法，从而建立复原力认知战争。
1.引言
既定的安全领域，如运营安全、网络安全和反情报，侧重于物理或数字/网络的威胁、方法和行为。保护认知领域正在迅速成为一个重要的话题新兴和不断发展的技术为国家安全带来了机遇和挑战。“认知安全”拓宽了威胁和安全领域，因为其目标是人类认知，而人类认知引导着判断、决策和感觉、态度、信念和感知。确保认知领域是一个动态、社会和技术挑战，并提供了具有国家和全球利益的创新机会。2023年9月28日，MITRE主办了一个技术交流会议（TEM）建立对认知战争的复原力确定国家一级的伙伴关系努力和创新机会，以应对确保认知领域的挑战。
2.背景：认知领域和认知战争
认知领域从整体上将认知视为那些传递、接收、响应或对信息采取行动的人的态度、信仰和感知。可能成为认知攻击目标的认知过程包括感知、注意力、思想、想象力、智力、知识形成、记忆和工作记忆、判断和评估、推理和计算、解决问题和决策、理解和语言产生。虽然对确保认知领域的关注通常集中在人类认知上，但它也不忽视人机团队和系统的影响。
除了对认知的整体考虑外，认知领域内的安全考虑还包括涉及整合网络、虚假信息/错误信息、心理和社会工程能力的攻击。虽然这些攻击在既定领域内使用离散的技术和方法，但攻击技术和方法的趋同模式引起了公共部门对所谓的“认知战争”的兴趣。作为这种兴趣的一个示例，北约举办了一系列研讨会，以确定和发展关于认知战争概念的研究。研讨会的一些收获是：（1）北约需要在认知领域抓住主动权：（2）认知复原力是对社会和力量至关重要：（3）北约和成员国需要具有分布式传感（包括地方、文化和社会知识）和中央感知的能力来理解信息环境。
3.认知战：“炒作”或新颖？
认知战这一主题的一个普遍挑战是对定义缺乏共识。在主办TEM 之前，MITRE与拥有应用军事和情报经验，来自一系列学术背景包括认知心理学、网络、人为因素和系统、神经科学、安全政策、国际和政治科学、系统工程和人工智能（AI）的MITRE主题专家（SME）讨论了这个话题。讨论的中心是确定认知战是否被认为是一个新的新兴话题，如果是的话，确保认知领域的潜在挑战和需求是什么。
中小企业绝大多数都同意认知战是一个新兴的话题。虽然没有共识定义，但认知战确实有基于共同基本假设的概念描述。形成TEM方法的共同假设包括以下内容：
（1）认知战代表了跨领域、多维、基于对抗的行动的融合，为以新颖的方式应用技术技能、系统使能工具和对抗战术提供了独特的机会。既定业务包括心理战（PSYOP），信息战和网络战，以及技术使能和能力的示例包括人工智能（AI）/机器学习（ML）、人机团队、人力增强技术以及建模和模仿真。
（2）根据对手的国家战略，认知领域的利用可以发生在信息环境的多个维度上。认知战使用跨学科方法来明确改变人类和/或机器认知。
除了被视为一个新的新兴话题外，中小企业还发现，认知战为统一社区（即国防、智力）和研究领域（即神经科学、心理学、生物技术、认知科学、社会和行为科学，AI/ML），以便科学家、研究人员和分析师能够有影响力和先发制人地“领先”利用最好的科学未来方法。
4.TEM讨论主题
为了批判性地评估在构建认知战弹性项目中保护认知域的跨领域主题，MITRE团队邀请美国政府和MITRE主题专家讨论以下主题。
4.1认知战景观
讨论集中在研究、影响力和安全背景下的认知战。Lura Danley 博士介绍了关于MITRE努力检查和促进确保认知领域和建立认知战复原力的信息。这些努力包括参与2022年11月北约科技组织（STO）认知战研讨会，并共同撰写研讨会的技术评估报告。讨论总结了主题领域面临的关键挑战，如“认知战”的潜在负面内涵可以通过将该领域称为“认知安全”来避免，来自不同学科的利益相关者如何对其他学科的科学成熟度水平有误解，以及快节奏的信息环境如何创造通过将运营社区置于基于反应的姿态来设置障碍。尽管存在这些挑战，但人们一致认为，保护认知领域为统一社区（即国防、情报）和研究领域（即神经科学、心理学、生物技术、认知科学、社会和行为科学、AI/ML），以便科学家、研究人员和分析师能够有效地“领先”利用最好的科学未来方法。
4.2 科学与安全：对认知战争状况的看法
MITRE的Doug Bryant博士和Sophia Gatsios女士介绍了关于影响力作战的关键见解。Bryant博士提出，我们没有足够的信息来知道影响力作战是否有效。他描述了多种已知影响力的案例作战几乎没有可归因的影响，并讨论了科学文献，表明错误信息不经常被共享，行为后果有限。进一步研究表明，针对影响力作战的对策尚未得到很好的理解，大多数对策的有效性根本没有得到研究。Bryant博士建议，影响力作战的有效性必须是一个研究课题，由于我们不知道对手的意图，我们应该开始我们的研究，研究我们自己的进攻性影响力作战，将对照组与目标人群一起使用。
Sophia Gatsios女士讨论了她对战术和技术新兴趋势的研究，这些策略和技术为对手提供了保持和维持态势感知和参与行动的先进能力。Sophia介绍了背景信息无处不在的技术监控（UTS），生成大量商业数据，并创建我们身份、位置、活动和联系的持久记录。Gatsios女士还描述了广告技术（AdTech），即软件和广告商用于实施、管理、跟踪和分析数字广告活动的数据。讨论审查了使用人工智能和自然语言处理（NLP）来生成消息和媒体（即人工智能生成的语音消息和假的，令人信服的新闻业），以及用于影响操作的基于AI/NLP 的技术的成熟度。本节的结论是，这些类型的工具及其产生的数据为我们的对手提供了许多有效运行影响的机会。
MITRE的Paul Ward博士讨论了支撑认知战复原力的认知科学背景。利用北约工作组讨论的成果，Ward博士提出了认知战作为“一种心理-社会-技术的形式，以认知、神经、心理、社会文化和社会技术能力为目标的技术影响力战争。”认知战“扰乱、影响或利用对手的思维——特别是决策、理智或情境意识-在个人、群体和/或社会层面”，以提供“对对手的决定性优势”。认知模型有助于识别认知战的许多目标。因此，针对认知的基本过程可以在理想化和日常行为和决策中表现出色。对决策自动化的无处不在的依赖意味着认知战也可以用来影响人类和机器一起工作。建立认知人机团队的复原力需要设计系统，以支持持续的适应和优雅的可扩展性。
MITRE的Beth Brokaw博士描述了认知战背后的神经科学，包括信息如何影响认知状态，以及如何在脑部扫描中看到这些变化。然而，在专门的实验室环境之外，不可能用大脑扫描的精度来测量认知状态。可以使用远程扫描以及可穿戴设备来测量生理，如心率、心率变异性、呼吸率等。然而，许多因素影响生理学，这些技术对某些人群（例如，肤色较深的人）来说可能不太准确。使用可穿戴的生理学措施，可以检测到表明个人处于能量状态的变化（例如，激动、愤怒、紧张），但目前无法仅靠生理学来精确确定这种状态。尽管愤怒、恐惧和紧张的生理迹象目前无法区分，但未来科学促进的潜力是存在的区分识别这些状态的信号，并从生理学上更准确地预测行为。
5.公共部门任务中的认知安全
来自美国政府的发言人讨论了他们对认知战和公共部门任务执行和结果的看法。海军陆战队信息作战中心（MCIOC）副作战官James McNeive先生概述了MCIOC，并讨论了理解影响力如何影响作战空间意识的重要性。。
斯蒂芬·汉密尔顿上校和西点军校陆军网络研究所的卡尔伯格博士讨论了如何保护战士免受心理战的影响，这意味着确保战士和潜在影响源之间的物理分离。现在影响力作战是在网上发生，大国竞争将需要数字力量努力保护军队免受认知领域的攻击。数字部队保护没有简单的解决方案，但提供对正确信息的便捷访问无疑是答案的一部分。
6.方法和技术：检测、威慑和减轻认知战
MITRE的Steven Davic描述了其最近的一项研究工作，旨在评估使用公开可用信息来识别和分析社交媒体影响操作的商业技术。影响技术清单被汇编成一个由三个能力类别组成的框架：态势感知、交互和操作以及评估。商业技术概述表明，在当前的商业市场中，收集、分析和可视化社交媒体影响力操作相关数据的能力比衡量影响力操作有效性的能力成熟得多。将这些结果扩展到认知战，结果表明存在能力差距，需要对认知战行动的建模和有效性进行应用研究。
MITRE的 Daniel Sixto先生介绍了SPICE框架，一个框和箭头过程框架，用于标准化影响操作的映射和分析。SPICE还提供了一个知识库，其中包含先前研究的影响行动中使用的战术、技术和程序（TTP）以及这些行动的评估指标。SPICE中的多种技术与认知战的各个方面有关，包括利用预先存在的偏见和心理偏见，以及使用情感分析以指导消息传递。
来自美国政府和MITRE的小组成员讨论了“应用研究建立认知战复原力”的主题。小组成员在讨论中介绍了他们对作战社区和研究人员与方法和测量相关的重中之重的见解，以及如何衡量认知战的有效性可能是独一无二的。小组成员一致认为，衡量认知战的效果与衡量其他影响或信息战面临相同的挑战，制定有效性的衡量标准是一个关键的优先事项。
7.TEM 的十大关键发现
TEM 的演讲和讨论得出了以下结论：
（1）制定认知战行动有效性的衡量标准与衡量 PSYOP（心理战） 和影响行动的有效性面临同样的困难，即如何将任何观察到的行为变化归因于所研究的行动。此外，重要的是要明确定义感兴趣的认知效果的指标，不要避免测量什么最有影响，因为它可能不容易测量。
（2）认知战应被视为心理-社会-技术影响战的一种形式，针对认知、神经、心理、社会文化和社会技术能力，因为：a.它扰乱、影响或利用对手的思维来提供比对手的决策优势。b.它针对个人、团体和/或社会层面的决策、理智或态势感知。c.破坏、影响或利用对手的思维是使用技术驱动的战术、技术和程序（TTP）完成的。这些TTP 充当力量倍增器，以减少工作量、资源需求和风险，增加信任并建立复原力。
（3）作战界和研究界对影响行动是否有效的认识存在根本差距，特别是当这些作战应用于国家安全领域时。影响对策也知之甚少。。
（4）未来了解如何保护认知领域的努力可能包括探索使用UTS、AdTech、AI和NLP来生成信息和媒体，以及用于影响作战的AI/NLP技术提高媒体素养的影响。
（5）衡量认知困难，但并非不可能。认知的认知心理学模型提供了检查认知的框架，以了解潜在的威胁，以及认知的哪些方面可能成为对手的目标。无处不在的人机团队进行决策支持意味着对决策支持工具的攻击也是认知战。
（6）脑电图（EEG）、心率和体温等生理活动测量提供了对认知状态的洞察力，但这些测量目前不足以区分个人的想法，或区分复杂的情绪状态。继续监测关于如何使用生理测量预测认知状态的研究，对于保持对生理测量设备造成的潜在认知战威胁的态势感知至关重要。
（7）用于分析信息战的商业技术在重工程能力方面要好得多，例如收集、可视化和分析数据，而不是需要理论进步的能力，例如测量影响力作战有效性和辅助因果推断。
（8）描述信息战中使用的TTP的SPICE框架已经包含了认知战中使用的TTP的子集，并且很容易扩展以包含更多TTP。
建立对认知战的复原力和确保认知领域将需要公共部门，特别是美国国防部，如何进行根本性的文化转变，处理不需要或适得其反的工作行为（即从基于合规性的培训，不能禁止部队人员在个人装置上使用互联网或社交媒体）。因此，需要更好地了解如何有效地实施数字部队保护计划，以提供人员提高对数字信息、系统和设备的脆弱性、威胁和影响的认识，并研究对认知领域的威胁可能如何影响“战斗意愿”等行为。
8.对认知战的建议
TEM的主要研究为MITRE和赞助商提出了几个重要的行动方案，以及建立对认知战的复原力和确保认知领域的伙伴关系机会。
将认知战社会化，作为认知安全的一个组成部分，以创造更多建立复原力的机会。认知战一词可以人为地将确保认知领域的主题仅限于军事或情报背景。作为一项社会技术挑战，认知安全受到个人、技术、基础设施、流程、文化和目标的影响。像其他安全领域（即网络安全、运营安全、信息安全）一样，应该考虑认知安全如何影响广泛的公共部门任务。
优先制定有效性措施（MOE），并在国家安全背景下实施基于实验室的研究。开发MOE的努力应利用营销等其他领域的应用研究，并超越“重新发明车轮”，迎接如何设计和开展应用研究的挑战。
创建一个跨学科社区对认知安全研究的兴趣。利益相关者对使用其特定领域以外的技术来衡量认知的可行性有误解。快节奏的信息环境意味着作战社区通常处于基于反应的姿态，导致对慢节奏的严格认知和人类行为研究的不同容忍度。因此，因此，可能存在一种“银弹”心态或倾向，即在没有真正跨学科合作的情况下寻找解决难题的简单方法。
研究和开发基于证据的方法，为数字部队保护计划的实施提供信息，使人员对数字数据的脆弱性、威胁和影响有更高的认识，包括生理信息。尽管使用生理数据来预测认知方面的科学现状缺乏成熟度，但当前事件表明，对生理学的利用有可能成为普遍的威胁载体。例如，在2023年6月，美国陆军刑事调查司（CID）和海军刑事调查局（NCIS）确定，整个军队的军人报告在邮件中收到了未经请求的智能手表，并通知军人不要打开或使用这些装置。
9.总结
TEM在“建立对认知战的复原力”上为确保认知领域的问题提供了新的见解和意识。鉴于确保认知领域是一项动态、社会和技术挑战，TEM的目标是确定跨学科、应用的领域方法和伙伴关系将是最有效的。根据这一目标，MITRE和公共部门发言人主持了关于认知战前景、认知战背后的神经科学和认知科学、认知战对公共部门任务的影响以及可用于识别和评估认知战的方法和技术的讨论。通过这些讨论，TEM 确定了多种潜在的行动方案将允许研究和开发政策、方法和技术，以更好地保护认知领域。通过跨学科行动方案和跨部门伙伴关系对这些关键领域进行投资将创造机会，带来创新方法，从而增强对认知战的抵御能力。
https://www.mitre.org/sites/default/files/2024-02/PR-23-00371-18-building-resilience-to-cognitive-warfare.pdf
声明：本文来自战略前沿技术，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
