近年来快速发展的混合现实（Mixed Reality, MR）技术基于云计算、先进输入、环境感知等方面的进步而实现了物理世界和数字世界的混合，开启了人、计算机和环境之间自然且直观的沉浸式交互体验。美军已经研发部署了相关装备，发现能够显著提升官兵学习训练和遂行任务的效率，但也存在其用户认知可能遭受恶意干扰或破坏的风险。为解决混合现实用户面临的认知安全风险，美国国防部高级研究计划局（DARPA）于10月16日发布招标公告，向业界寻求“内生认知安全”(Intrinsic Cognitive Security, ICS)解决方案，希望用三年的时间研发形成对混合现实用户进行安全防护、使其免遭认知安全攻击的方法。
美国“内生认知安全”项目综述
编译：学术plus高级观察员琦发
本文主要内容及关键词
本文综述“内生认知安全”(Intrinsic Cognitive Security, ICS)项目的背景、主要研发内容、进度及技术指标，期望为相关研究提供参考借鉴。
内容主要整理自外文网站相关资料
仅供学习参考，欢迎交流指正！
文章观点不代表本机构立场
*****
01 背景
混合现实与虚拟现实（Virtual Reality, VR）、增强现实（Augmented Reality，AR）关系密切。虚拟现实是一种通过计算机技术创造的虚拟环境，用户可以借助特殊设备（如头戴式显示器）进入这个环境并与之互动，产生身临其境的感觉。增强现实是指利用计算机生成的显示、声音、文本等来增强用户对现实世界的体验，实现数字信息与用户环境的整合。混合现实则是把增强现实和虚拟现实结合起来，将虚拟物体对应到实际场景中，为用户提供高度逼真的沉浸式多感官交互体验。也有业内人士把虚拟现实、增强现实和混合现实统称为扩展现实（Extended Reality, XR）。
美国国防部已经认识到扩展现实技术的重要军事价值，正在积极研发部署。在2022年国防部预算中，有30多个采购项目涉及增强现实技术，相关总经费超过220亿美元。例如，美国陆军从2021年开始与微软公司合作研发“一体化视觉增强系统”（Integrated Visual Augmentation system, IVAS），可在目标发现与决策方面为官兵提供有力支撑，其1.2版在今年8月进行了测试，美陆军计划将该新型头盔接入战术云系统。美国防部期望实现或正在研发的由扩展现实赋能的能力包括部队班排级协同、实时微光/红外辐射/X射线叠加成像、实时培训指导、无线电通信可视化、武器瞄准、目标选择与协同、远程医疗援助、战斗潜水态势感知、导航辅助等。
美国国防部发现，现有商采混合现实系统在研发过程中应用了认知工程原理，但并不能确保在遭受恶意干扰时能够正确操作。虚拟环境下用户的认知面临诸多风险，例如敌方可能试图操纵情绪、诱发晕屏、造成混乱、降低对设备的信任等。目前的商用混合现实系统对使用环境的恶意性、对抗性考虑不足，缺乏对用户进行安全防护的措施。美国国防部用于解决传感器和网络安全威胁的传统方法也不能解决用户认知方面的问题。在混合现实技术广泛运用于国防部各种任务之前，必须认真研究对其用户的安全防护方法，确保用户认知的安全。
此前，在保护混合现实用户认知安全方面，尚未广泛采用形式化方法。形式化方法是采用数学方法对复杂计算机系统建立严格语法与语义规范的系统设计与验证方法，常用于复杂动态系统的需求规约、模型设计和属性验证，在计算机硬件设计、软件系统构造、控制系统模型设计与分析、通信系统协议验证和程序代码合成等方面得到了成功应用。形式化方法通过严格的数学建模和推导证明软硬件算法的正确性，经过形式化设计和验证的系统被公认为具有最高评估保障等级。
认知工程领域为混合现实系统的研发提供了关于研发模型和保障措施的原则，美国防部希望采用形式化方法对这些安全保障机制进行证明，包括对用户在使用混合现实系统时的行为进行建模并做出形式化描述。事实上，相关研究已具有较好基础，例如在对虚拟现实游戏的模拟效果和其他健康问题的探索中研究了用户生理效应，在夜视仪和其他产品的研发中研究了用户感知效应，在飞机驾驶舱的设计中研究了用户注意力效应，在自动驾驶汽车的研发中研究了用户信心效应，在商业混合现实系统隐私性的探索中研究了用户状态效应。
02 研究目的
根据美国DARPA信息创新办公室（I2O）于10月16日发布的招标公告，“内生认知安全”项目期望利用计算科学的突破性创新，构建能防范认知攻击的战术级混合现实系统。该项目的核心技术假设是可以把形式化方法应用于认知保障手段及模型，使混合现实系统的人类用户免遭认知攻击。
DARPA期望本项目所研发的保障机制和相关模型能解决关于混合现实用户的五类问题：一是生理类，包括对使用者造成急性或慢性健康危害的问题，例如使用混合现实设备可能导致用户恶心、头晕、头痛和长期负面健康影响等；二是感知类，包括导致用户理解错误的问题，例如使用虚拟信息来掩盖真实世界重要事件、干扰用户使其无法准确知晓自己所处方位、使用户对真实世界事件做出错误评估；三是注意力类，包括通过混淆或分散信息而使用户在遂行任务时表现不佳，例如在用户遂行任务的关键时刻用不重要的告警或突出显示不相关信息来分散用户注意力；四是信心类，包括导致用户怀疑虚拟世界或真实世界信息的问题，例如通过向用户提供不一致的数据或超过其承受能力的大量信息而导致用户关闭设备；五是状态类，包括导致对手也能利用用户与系统所共享数据的问题，例如对手能获知用户位置、瞳孔直径等敏感数据。
这些类别涉及不同的问题，DARPA预计相应的保障机制和相关模型在很大程度上会彼此无关，特别是对应于不同问题类别的保障机制和模型。这些不同类别的保障机制和相关模型也很可能采用不同的建模语言来描述，因为技术挑战并不类同，而模型又对应于要证明的保障机制。
例如，对于生理学类别中的关于混合现实设备导致晕屏的某种安全保障机制，需要用能够刻画导致用户眩晕的环境模型来进行证明；对状态类别中的可防止用户瞳孔直径被泄露的安全保障机制，需要用关于混合现实系统信息流的模型进行验证；对注意力类别中的用以防止在关键时刻分散注意力的安全保障机制，则需要能描述各关键时间点的任务模型来进行证明。预计投标者将使用多种语言和工具来应对这些不同的挑战，不能期望这些用以支撑不同保障机制的模型相互关联。
03 主要研究内容
本项目有两大技术域：一是混合现实认知，二是评估。
混合现实认知
该技术域需解决两方面的技术问题：一是认知保障机制，二是认知模型。
1. 认知保障机制
需创建能确保MR用户安全的认知保障机制，解决当前存在的若干挑战，包括：当前缺少能应对混合现实安全漏洞的保障机制；需要用适合基于模型进行证明的语言来表述保障机制；需要在混合现实系统中实现这些保障机制。作为示例，应对这些挑战的可能方法包括：
运用认知工程原理来识别负面攻击效果并确定缓解措施；
用现有形式化语言来描述安全保障机制，并把混合现实设备的操作与攻击效果关联起来；
使用认知模型支持的技术语言来对保障机制做出形式化表述；
用原型演示这些保障机制可以推动形成相应的系统需求。
2．认知模型
构建用于针对混合现实系统用户进行推理的认知模型，需解决的问题包括：目前缺乏与混合现实系统脆弱性相关的认知模型；需要创建关于人类用户行为的高保真度模型；需要能支持对保障机制进行自动推理的可分析数学模型。应对这些挑战的可能方法包括：
使用认知堆栈的工程相关元素构建支持对具体保障机制进行证明的模型；
使用支持现有形式化推理工具的语言，并开发能支持对混合现实保障机制进行证明的推理框架；
依据现有认知工程原理对模型进行验证，并根据需要开展实验。
DARPA称，上述挑战都很重要、都是示例性的，而并非全部，因此要求在提交的标书中清楚地阐述所考虑的其他挑战及应对方法。投标者也不应局限于上述示例方法，而应提出能解决相关问题的新方法。标书中应阐释所提出的方法很可能会怎样满足本项目指标，并提供初步结果作为证据。
3. DARPA对本技术域的期望
DARPA期望本技术域的标书能清楚地阐述以下内容：
使用现成可用的硬件和软件可以快速构建出一个或多个任务的原型，已找出将通过采用本项目的保障机制而得以缓解的潜在漏洞，并阐释美国防部可如何使用混合现实技术；
将得到形式化证明的各种保障机制能够解决混合现实的安全漏洞，这些保障机制涵盖所有或几乎所有问题类别，并具有相应的创新技术计划，在这种计划中明确了为表述这些保障机制而将改造的语言或其他方法；
提供帮助证明这些保障机制的模型，关于为证明相关保障机制而如何表示并使用这些模型的创新技术计划，以及使用现有文献或实验确保模型保真度的计划；
任何需要开展的以人类用户为受试者的实验，关于开展这些实验的计划，以及确保获得相关部门批准的计划；
用于确定保障机制可在实际系统中实现的一个或多个原型，以及将使用的商用平台和软件基础设施；
具有完成本技术域任务所需各种技能的执行团队；
标书所述工作能在多大程度上推进项目指标和达到项目目的；
与“评估”技术域中标者互动的计划，以支撑有效评估。
评估
本技术域的目标是对模型、证明和保障机制的效能进行评估，包括：
通过与现有或新研究进行比较而验证“混合现实认知”技术域提供模型的高保真性；
通过使用自动推理工具验证“混合现实认知”技术域提供的对保障机制的证明；
验证“混合现实认知”技术域提供的原型实现与经过证明的保障机制的假设相一致。
本技术域还将完善本项目所提出的项目指标，确定基线，并对本项目开发的技术能否支持所提指标做出评估。DARPA期望本技术域的标书能清楚地阐述以下内容：
对原型与保障假设的一致性进行评估的方法；
技术方法，包括建议遵循的标准（依据这些标准可以判断各种模型是否具有足够的保真度）；
具有计算机专业技能的人员，应能够管理和维护使用不同方法和工具形成的证明；
能根据文献和实验结果对模型的合理性做出评估的人员；
与“混合现实认知”技术域中标者互动的计划。
04 进度安排与技术指标
项目进度安排
图1 项目结构
本项目共分两个阶段，如图1所示。第一阶段主要研发经过形式化证明的保障机制和支撑模型。这些保障机制用于描述混合现实系统的期望属性，相关模型则用于支撑对保障机制的证明，预计很多模型属于认知模型。所采用的技术方法应尽可能利用现有语言和证明系统，相关模型则是根据现有研究和所需新研究而开发的。第二阶段在前期工作基础上继续研发保障机制和相关模型，但第二阶段的重点是验证这些保障机制在混合现实系统中的效用。中标者将开发相关原型系统，用以演示这些保障机制如何减少实际系统中的安全漏洞。预计本项目开发的原型系统成熟度较低，使用商采硬件和软件，主要演示如何将这些保障机制融入到具体系统的实现中。
图2 项目进度安排
本项目计划用3年时间完成，进度安排如图2所示。DARPA要求投标者在2023年12月20日前提交标书，计划于2024年7月1日正式开始研发。
项目技术指标
本项目的技术指标见表1。
表1 技术指标
05 结束语
本项目所称的“形式化方法”是个广义概念，建模、技术要求和推理方法都需要在数学上严格，并满足本项目的技术要求和证明需求。DARPA强调应利用或研发新的开源架构、开源技术，用以对安全保障机制进行证明的模型应具有足够的保真度，不可过于复杂。内生安全是近年来国内外网络安全领域的研究重点，其中形式化方法因具有严格数学基础而备受青睐。美国DARPA前期已开展了“高保障军事网络系统”（High-Assurance Cyber Military Systems, HACMS）、“针对突发执行引擎的开发工具链加固”（Hardening Development Toolchains Against Emergent Execution Engines, HARDEN）等项目，探索形式化方法在网络安全领域的应用。本项目期望将形式化方法应用于认知安全，对混合现实技术的应用推广具有重要意义。
参考链接：https://sam.gov/opp/cfaf7a3e51fc4f62ae4120f88d52f418/view
声明：本文来自学术plus，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
