2024年11月，英国艾伦·图灵研究所（ATI）的新兴技术与安全中心（CETaS）发表文章《AI在战略预警中的应用现状》（The State of AI for Strategic Warning），文章探讨AI在战略预警中的应用现状、挑战、机遇以及投资决策相关问题，为相关领域研究和决策提供参考。
《AI在战略预警中的应用现状》
编译：梨梨子
机构：新兴技术与安全中心（CETaS）是隶属于英国国家数据科学和人工智能研究所——艾伦·图灵研究所（ATI）的研究中心。CETaS就数字科学、人工智能、网络安全和隐私技术相关主题进行以政策为重点的研究和分析，并与政府、学术界和私营部门的各种利益相关者合作
全文摘要与关键词
1.战略预警中的人工智能应用现状：战略预警中的人工智能技术能够解决传统分析师的工作费时费力、人工分析范围局限等问题，政策制定者可拥有更多决策时间获得决策优势
2.人工智能预测面临的挑战：数据基础设施缺乏、时间框架限制、概念缺失、幻觉问题、无统一可靠的性能指标、数据访问受限、可解释性不足
3.人工智能在战略预警中的新兴机遇：改善数据基础、优化数据处理与分析、强化批量分析与模式识别、集成人类预测、自动化人类反馈机制
4.建立认知韧性——全面抵御认知战：战略预警是情报界的核心职能之一；利用AI技术有助于在与关键对手的竞争中保持平衡或占据先机；引导AI系统发展方向
5.结语：
人工智能在战略预警领域具有巨大潜力，但同时面临诸多挑战。通过合理选择考虑和技术改进，有望克服现有问题，实现AI在战略预警中的有效应用，为国家安全和政策决策提供有力支持。
01
战略预警中的人工智能应用现状
美国和英国的情报界长期依赖情报分析师的专业知识进行战略预警工作，其密切关注全球地缘政治动态，以识别潜在威胁，并向华盛顿和伦敦的政策制定者提供战略预警。情报分析师的战略预警可以通过两种方式发挥作用：
对直接损害美国和英国战略利益的事件的关键预测
涉及对美国和英国战略利益有利或有害的事件的预警
传统分析师的工作费时费力，无法及时为决策者提供见解。人类分析师以往依靠深厚的主题专业知识和精妙的情报收集对军事活动、政治变革等的可能性进行定性预测，其工作成果对于政策制定者在战术和战略决策方面具有关键意义。但人工分析通常很费时费力，可能会导致延迟，无法及时为决策者提供见解来应对危机。
AI可辅助分析师更快预警。鉴于竞争对手正在探索和利用AI技术，美国和英国的情报界同样将AI工具集成其分析和评估工作流程中。AI赋能分析师的工作，可提醒分析师和政策制定者注意在原本不受监控的区域即将发生的政治事件，并比人类分析师更快地警告其监控区域的军事侵略。
AI助力政策制定者获得决策优势。AI赋能的主要优势是政策制定者将有更多的时间采取行动，重新分配资源，更好地权衡各种风险缓解措施的后果。简而言之，AI能帮助政策制定者将更多时间花在战略决策上而不是战术方面。
02
人工智能预测面临的挑战
2.1 技术层面的7大困境
现有AI系统的战略预警面临的技术挑战主要源于数据基础设施（管理系统软件、策略、存储和共享的结构）以及数据中持续存在的人为偏见。
数据基础设施问题
数据碎片化和不一致性严重，迫使分析师整合不同来源的数据集，但由于缺乏统一标准和规范，数据质量参差不齐。同时，AI工具通常无法获取敏感和机密信息，过度依赖历史数据和公开可用的数据集，如武装冲突地点和事件数据（ACLED）、乌普萨拉冲突数据计划（Uppsala）以及社会冲突分析数据库（Conflict Data Program），容易因数据编码问题、更新不及时等导致模型错误分类事件等异常情况。
时间框架限制
训练集数据截止日期往往远早于目标数据，无法涵盖近期地缘政治事件，使模型对当前形势的理解和预测存在偏差。部分AI系统专注于提供高度详细的实时评估，预测越详细，预测的时间范围就越短，难以满足政策制定者需要足够时间做决策的需求。
概念缺失问题
现有AI工具主要关注国内冲突，对国际冲突以及太空、国际水域等争议区域涉及较少，导致对全球地缘政治格局的理解不完整。此外，现有AI工具忽视了诸多难以量化的社会因素，如生活模式、政治内斗、欺骗、集体记忆、公众舆论以及虚假信息传播等，这些因素在实际地缘政治事件中可能起到关键作用。
幻觉问题
大语言模型（LLM）不可避免地产生幻觉的问题，导致无意义或错误的输出，而且这可能加剧分析师的偏见而影响分析结果。
缺乏统一可靠的性能指标
随着AI系统的不断发展和不同类型AI技术的应用，难以在不同模型之间进行有效的性能比较，增加了AI技术选择的难度。
数据访问受限
开源数据难以保障实现精确预测，而包含机密信息的数据，现有模型难以获取利用。此外，数据安全以及治理等方面的问题也阻碍了集成数据基础设施的发展。
可解释性不足
AI系统的可解释性不足，使得分析师和政策制定者难以理解系统如何生成预测，影响对其输出结果的信任和有效利用。
2.2 模型输出的局限性
尽管AI工具在处理数据方面具有一定能力，但目前其输出结果仍存在明显局限性。政策制定者感兴趣的地缘政治事件都是高度微妙和罕见的，而且历史只展开一次，AI工具对于预测新的暴力事件（特别是在历史上相对和平的地区）的准确性有限。例如，试图预测俄乌冲突的区域影响的分析师没有关于数千种此类冲突的数据，仅可比较暴力爆发的异质数据以集中推断结果。
同时，模型无法深入洞察领导人决策背后的复杂思维过程，这意味着其预测更多是基于表面数据，难以真正把握事件发展的深层次原因。
03
人工智能在战略预警中的新兴机遇
尽管存在这些重大的技术挑战，但AI工具能力正在迅速增长，形成对上述挑战的改进反应。
改善数据基础——利用AI技术可以加速历史数据的数字化进程，并实时整合新的数据，从而强化训练数据的基础。例如，通过图神经网络、基础模型以及Few-shot学习技巧等，有效地挖掘数据中的潜在模式，填补缺失信息，为更准确的预测提供有力支持。
优化数据处理与分析——大语言模型能够分析多种数据源，快速合成融合信息，生成更准确的预测和可能的威胁场景，同时减少幻觉现象。基于机器学习的工具也能够更好地识别政治暴力并预测冲突，为政策制定者提供更全面的信息。
强化批量分析与模式识别——深度强化学习改进后的数据集，可建立事件之间的因果关系。通过独特的适应、学习和思考方式，近似潜在结果，突破传统地缘政治预测模型中固定算法或脚本模式的限制。深度神经网络、基于大语言模型的智能体以及相关推理和复合系统等技术的发展，有望提高模式识别能力，进一步优化预测效果。
集成人类预测——深度强化学习可融合多个或众包的人类预测，例如聚合或有估计程序（Aggregative Contingent Estimation Program）和宇宙集市（Cosmic Bazaar）等项目模式，通过汇集不同视角和专业知识，提高预测的准确性和可靠性，弥补单一模型或个人判断的不足。
自动化人类反馈机制——自动化人类反馈机制能够根据系统输出结果进行校准和改进，通过将人类反馈信息用于微调模型，使AI系统不断优化，从而提供更符合实际需求的预测结果。
04
建立认知韧性：全面抵御认知战
4.1 AI赋能预警的必要性
战略预警是刚需
战略预警是情报界的核心职能之一，尽管当前AI技术尚未完全成熟，但从长远来看，其在该领域的应用将成为必然趋势，以在未来的情报竞争中保持优势。
应对对手竞争压力
考虑到对手可能利用人工智能与人类智慧的结合获得情报优势。因此，利用AI技术有助于在与中国、俄罗斯、伊朗和朝鲜等关键对手的竞争中保持平衡或占据先机。
引导AI系统发展方向
早期投资使分析师和政策制定者能够参与到AI系统的发展过程中，提供反馈意见，确保系统发展符合自身利益和实际需求，避免在技术发展过程中失去话语权。
4.2 AI系统的风险防范
AI技术在战略预警中的应用，还需要防范系统受到攻击的风险，如通过数据中毒或恶意提示等手段，导致系统误判事件。因此，选择AI技术时，其防护措施至关重要，以确保系统的安全性和可靠性。
05
结 语
人工智能在战略预警领域具有巨大潜力，但同时面临诸多挑战。通过合理选择考虑和技术改进，有望克服现有问题，实现AI在战略预警中的有效应用，为国家安全和政策决策提供有力支持。
参考文献：
https://cetas.turing.ac.uk/publications/state-ai-strategic-warning
声明：本文来自认知认知，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
