2024年8月15日，秘鲁《安全与陆权》杂志（SECURITY AND LAND POWER JOURNAL）发表文章《人工智能和虚假信息：在21世纪冲突中的作用》（Artifcial Intelligence and Disinformation: Role in 21st Century Conficts）。文章认为，世界各地新近发生的各种冲突表明，人工智能等颠覆性技术对战争发展至关重要。使用最先进技术的不仅限于传统的国际人道主义法（IHL）行为者，非国家行为者也参与其中。这不仅挑战国际法律框架的有效性，为非法和不正当的行动开辟道路，而且可能会扩大和平与战争之间的灰色地带。在这个混乱且日益危险的环境中，信息和虚假信息已被用作战略武器。文章旨在分析人工智能（AI）等颠覆性技术的军事应用，并确定虚假信息和信息作为战略工具的潜力。
人工智能和虚假信息：在21世纪冲突中的作用
编译：大林
全文摘要与关键词
1.21世纪冲突的技术背景：“第四次工业革命”：数字化和自动化，虚假信息成为国际安全的最大威胁之一；颠覆性技术与虚假信息相融合
2.AI与虚假信息：GAI与虚假信息的破坏式结合；武装冲突充斥着AI生成的虚假信息；信息技术削弱“权利”边界；打击和规范虚假信息
3.AI和虚假信息在21世纪冲突中的应用：AI和虚假信息的战争应用与影响悬而未决；AI侦察或可失误，伤及平民；虚假信息是一把双刃剑，一项古老而有效的战争原则；信息/虚假信息的应用（作为战略武器、作为欺骗策略、作为破坏稳定的手段、造成混乱和社会分裂的根源、逃避责任和制裁、创造定制现实或后真相的工具）
4.关于军事行动中不道德使用AI和虚假信息的立场：
①道德困境：“新军事技术的发展和扩散导致了几场系统性战争中出现了无法预料的残酷性”
②回旋镖效应：即谎言的传播可能会导致人们被谎言所信服并扭曲现实，直到其陷入信息困境
③趋利避害：AI推动了技术研发的进步，也是生成虚假新闻的极其有用的工具
④防患于未然：AI或可预见冲突并采取先发制人的行动；虚假信息无需战争即可击败敌人是一项既定的战略原则
5.结论：信息或虚假信息已成为发动战争的手段，如何规范用于训练AI的私人数据和世界人口信息，防止人工智能被用于暗杀人民、违反国际法、制造可信的谎言或替代现实以及发动战争，仍有待确定。
“第四次工业革命”：数字化和自动化，虚假信息成为国际安全的最大威胁之一。21世纪初的主流画卷充斥着技术进步，世界正在经历所谓的“第四次工业革命”，其特征是数字化和自动化，由互联网、云、数字协调、信息物理系统、机器人和人工智能等颠覆性技术驱动。第四次工业革命带来良好愿景并取得了进展，但也带来了诸多挑战。在军事领域，对超连接和技术手段的普遍依赖已经影响了战争的进行方式，战争已经拓展到网络空间和媒体领域。这使人工智能和虚假信息在战略和战术上都成为实现政治目标的关键要素。俄罗斯总统普京甚至强调，“谁掌握了人工智能，谁就控制了世界”。同样，联合国也认为，虚假信息是对国际安全的最大威胁之一。
颠覆性技术与虚假信息相融合。在这个日益混乱且危险的环境中，信息和虚假信息已被用作制造争议、操纵思想、抹黑政治人物、分裂社会、掩盖真实目标、引发冲突的手段；与此同时，也被用作高影响力武器（high-impact weapons）。主要的虚假信息和社会操纵活动应用人工智能精准、大规模、迅捷和广泛地实现其目标。在政治、社会、经济活动和军事行动中，颠覆性技术与有效的虚假信息融合在一起，而人工智能是主角。
02 AI与虚假信息
GAI与虚假信息的破坏式结合。人工智能被定义为模仿人类的行为、提高生产力、避免人为错误、远远超越人类执行的任务并寻求实现人类未实现的目标：自我意识。生成式人工智能（Generative AI，GAI）近来已成为在所有领域超越潜在人类对手的选项。在最近的冲突中，人们发现生成式人工智能已成为产生大量“假新闻”（深度伪造）的高效工具，证明了生成式人工智能与虚假信息之间的破坏式结合（destructive formula）。
武装冲突充斥着AI生成的虚假信息。在此背景下，人工智能大量应用信息作为吓阻、欺骗、操纵、控制或破坏稳定的武器，扩大了其影响范围并使其影响多样化。人工智能产生的虚假信息使国际行动陷入瘫痪，加剧了争议，操纵了行动，为暴行辩护，制造混乱，暴露了双重话语并分裂民意。鉴此，可以认为武装冲突充斥着人工智能生成的虚假信息。现在，需要采取有效且高效的对策，既要维护冲突各方的完整性和安全，也要维护国际体系的完整性和安全。
信息技术削弱“权利”边界。就目前而言，应用人工智能等信息技术造福自身还是毁灭自身的决定权仍属于人类。但在当今的情形下，对法律框架的尊重薄弱，（民用）科技公司参与战争的情况真实存在，灰色地带不断扩大，秘密行动成为常态，道德已被遗忘，战争技术的大规模应用以及国际机构的无效性已变得司空见惯。这种情形还将持续多久？人类愿意把生死攸关的决定权交给计算机吗？国际社会能否扭转这一趋势？
打击和规范虚假信息。虚假信息的成因和后果十分复杂。因此，明确界定打击虚假信息的机制至关重要，这包括社会、文化、宗教和传统（ancestral）表达，这些表达可能会以打击虚假信息的借口受到错误限制。处理虚假信息方面的困难并不妨碍国际社会在和平时期或冲突局势中努力规范虚假信息。许多研究试图找到一种有效的方法来减轻虚假信息对公民思想的影响，但迄今为止，还没有找到普遍适用的解决方案。这些研究证实了虚假信息具有社会、心理、经济、外交、政治和军事影响，有助于讨论虚假信息在“混合战争”和“非接触战争”中的作用。这两种战争形式存在于21世纪的冲突中，并与人工智能的关系密切。
03 AI和虚假信息在21世纪冲突中的应用
AI和虚假信息的战争应用与影响悬而未决。人工智能和（虚假）信息将成为21世纪冲突中的首选武器，尤其是其具有的有效性、打击范围、成本效益、破坏性和隐蔽性优势。然而，考虑到目前很难抵消其影响并将这些在战场上使用的新形式技术手段归为战争性质，国际社会还有很多工作要做，以限制其在军事行动中不受限制地使用。能及时做到这一点吗？人工智能开发人员会做出什么反应？武装部队是否愿意在战斗中放弃这种技术？一切都悬而未决！
AI侦察或可失误，伤及平民。保护非战斗人员是国际人道法的基本原则，所有参与武装冲突的人都必须遵守。表面上看，使用人工智能对危险人物进行有效侦察可以促进这一目标的实现，但却导致了误报，将平民误认为军事目标。武装部队的这种行为将人类简化为一组数据，并引发了三方面担忧：一是遵守国际人道法，二是尊重数字权利，三是数字非人化（digital dehumanization）。使用虚假信息作为武器，或以混乱、无知为由违反现行法律框架的行为辩护，使挑战更加严峻。
虚假信息是一把双刃剑，一项古老而有效的战争原则。尽管包括人工智能等颠覆性技术旨在促进和平、正义和人权发展，但其却愈发被用于破坏性的自主行动，加剧了不平等和压迫。信息被用来播下不确定性和混乱的种子。虚假信息证明人工智能是一把“双刃剑”，既能增强人类的建设能力，也能增强人类的破坏能力。通用人工智能的风险尤其明显，因为其有能力生成高级内容，从而加速过程、提高生产力和增加利润；同时，其也会生成宣扬仇恨、不确定性、虚假信息甚至死亡威胁的内容。虚假信息代表了数字环境和通信时代的重大威胁之一，其被广泛用于在任何冲突之前改变意志，这是一项古老而有效的战争原则。
信息/虚假信息的应用。文章分析了以非常规方式使用信息和/或虚假信息的可能性：虚假信息可作为一种战略武器、一种欺骗策略、一种破坏稳定的手段、一种混乱和社会分裂的制造者、一种逃避责任或制裁的工具以及一种创造量身定制的现实（后真相）的工具：
作为战略武器
虚假信息作为战略武器的特征源于其范围、影响、实用性和破坏力。虚假信息是故意制造的，目的是损害、反驳、削弱和诽谤个人和社会。其主要目标之一是通过煽动社会混乱和不确定性来破坏社会稳定，而这种混乱和不确定性是由人们内部“臭名昭著”的两极分化所推动的。最终，必须认识到，虚假信息被用作一种武器，用于操纵、利用或加剧社会分裂，以推进政治、军事、宗教、社会或商业目标。在虚假信息中，一切都是战略；它试图在发起直接对抗之前控制对手的思想，诱导错误并破坏对手的战斗意志。这是不费一枪一弹就赢得战争，这得益于欺骗的能力，以及通过彻底了解细节而提供的多种策略或修辞程序。
作为欺骗策略
虚假信息是误导性和恶意的信息，其唯一目的是激起情绪、利用恐惧、改变观点、充当反宣传工具、挫败对手的战略、战胜防御、玩弄对手的思想并增强自身能力。事实上，正如中国古代战略家孙子指出的，兵法中的一切都基于欺骗，而欺骗是取得胜利的重要策略。正是在这一点上，虚假信息在当今的冲突中具有真正的重要性，各国必须注意，因为诡计有助于出其不意。
作为破坏稳定的手段
虚假信息的作用是提供错误信息、误导目标人群。作为一种极好的政治宣传工具，虚假信息可以面向世界各地的政府领导人、民间社会或大众。其破坏个人、组织和国家稳定的能力源于难以核实信息的真实性。其目的是欺骗接收者相信信息的真实性，妖魔化敌对团体的行为，质疑目标的可信度。虚假信息是地缘政治和商业不稳定的主要因素，已成为世界各地都存在的幽灵。《福布斯》杂志指出，联合国也担心人工智能可能在选举中用于传播虚假信息。
造成混乱和社会分裂的根源
虚假信息在情报和反情报战略中发挥着作用，即插入容易被公众相信的误导性或虚假数据。具有讽刺意味的是，在信息时代，互联网被广泛用于传播虚假新闻以及难以控制发布内容的真实性，这使实施混合战争日益成为一种战略，旨在削弱公民对其机构的信心，制造混乱和对国家目标的不确定性。
逃避责任和制裁
虚假信息缺乏确定性事实、创造替代性现实、利用信息制造矛盾、导致数据泛滥和撒谎便利性，使某些犯罪行为逍遥法外。利用虚假信息作为逃避责任或制裁的工具，一直是阻碍或逃避执法的有效方式。一些国际战争行为受到国际社会的惩罚和谴责，而其他类似甚至更为严重的犯罪行为却没有受到惩罚，虚假信息强化了某些国际行为体的双重话语，也证明了存在有罪不罚现象。
创造定制现实或后真相的工具
“后真相”一词最早由史蒂夫·特西奇于1992年使用，当时他提到“伊朗门”丑闻，以证明舆论倾向于承认统治者的谎言是绝对真理。特西奇的工作由拉尔夫·凯斯和埃里克·奥特曼等学者继续进行。21世纪初，后真相被更详细地描述。正是由于后真相能够以误导性的方式描述当前情况，使用虚假信息，后真相甚至可被称作“情绪化谎言”，这意味着故意扭曲现实以塑造舆论并赢得那些信任他人的公民的心。
04 关于军事行动中不道德使用AI和虚假信息的立场
由于人工智能和虚假信息的广泛使用且尚未得到监管，在维护国际安全的各个国际组织和公共论坛中都引发了一场尚无定论的争论。在其中，支持和反对在军事行动中使用人工智能和/或虚假信息的人的立场发生了冲突。
4.1 道德困境
例如，反对非法使用人工智能的人士认为，人类永远不应该将生死攸关的决定权交给计算机，这不仅对任何国际行为体的潜在敌人构成威胁，而且对整个人类构成威胁。不知何故，对许多人而言，世界大国使用致命性自主武器已经超越了道德界限，改变了战争的性质。除此之外，还有一些需要解决的道德困境，例如人工智能的偏见、其在法律体系中的使用、其创造艺术的能力以及可能伤害人类的自主行动的可能性。这些人士寻求的在某种程度上是避免不受限制的暴行，“新军事技术的发展和扩散导致了几场系统性战争中出现了无法预料的残酷性”，这一观点已开始在关于21世纪冲突的理论和实践中得到体现。
4.2 回旋镖效应（Boomerang Effect）
反对将信息用作武器的人认为，这可能会创造一个基于多重真相的虚构世界，这可能会使人们最终难以识别真正的事实。这可能会产生“回旋镖效应”（boomerang effect），即谎言的传播可能会导致人们被谎言所信服并扭曲现实，直到其陷入信息困境。此外，根据国际研究，人工智能正在推动虚假内容的生成，而这些虚假内容正值各国际行为体发展、繁荣和寻求安全的关键时刻。反对者指出，这种新兴技术有助于制造威胁人民、机构和政府完整性和安全性的深度伪造品。
在这种情况下，作为该论点的证据，2023年10月，联合国秘书长对人工智能可能造成的危害表示担忧，其中包括虚假信息、偏见、歧视、持续监视、侵犯隐私、欺诈和其他侵犯人权行为。这些事件将人们的生存和完整性置于危险之中，并证明了人工智能如何扩大个人或政府手中敏感信息的使用。此外，有人认为，人工智能的使用缺乏道德规范，这可能会侵犯人权，甚至使人类成为自身创造的受害者。
4.3 趋利避害
AI推动了技术研发的进步，也是生成虚假新闻的极其有用的工具。在自动化和数字化盛行的条件下，不可否认的是，当人工智能用于进步时，其促进了全球目标追求，并推动了技术研发的进步。然而，当人工智能被用来破坏治理时，其会产生阻力、不信任、冲突、混乱和不确定性。此外，很明显，人工智能增强了数据库和信息的使用，极大地影响了话语和叙事的构建，无论是好是坏。换句话说，人工智能是生成虚假新闻的极其有用的工具，是当今有效的武器。正是这种潜在的非法使用促使国际社会发出声音，寻求有效的答案和解决方案，以减轻技术和虚假信息在当前冲突中造成的负面影响。
4.4 防患于未然
AI或可预见冲突并采取先发制人的行动。支持在21世纪冲突中使用人工智能和虚假信息的人认为，人类有能力控制技术发展，并使其受到人工操作者的监督。在武装冲突的背景下，有人声称人工智能可以预见未来的冲突并采取先发制人的行动，这让人想起科幻电影《少数派报告》，其中的预防犯罪能力通过在实施计划之前读取未来受害者的思想来防止犯罪发生。然而，必须注意的是，系统总是存在故障的可能性。
虚假信息无需战争即可击败敌人是一项既定的战略原则。同样，部分国际社会支持将虚假信息用作战争工具，因为其能给使用者带来好处。例如，它可以改变观念、促进行动、防止重大损失、既具有进攻性又具有防御性、提高士气、隐藏意图、构建现实并允许出其不意地采取行动。这些方面有助于减少人员伤亡和长期冲突的高昂代价。根据支持将虚假信息用作战争武器的人的说法，这可以赢得社会民心，无需战斗即可击败敌人，并有效实现既定目标，这是一项得到广泛认可的战略原则，尽管国际社会发生了变化，但这一原则仍然具有现实意义。可以肯定地说，这场辩论将会继续，国际环境将继续塑造21世纪冲突所需的新法律框架。随着这场讨论的展开，人工智能和虚假信息仍将是当今冲突中开展军事行动的关键手段。此外，二者将成为本世纪战争战略变革的关键驱动力。
05 结论
世界正在经历数字化转型，生产、行政、政治和政府活动也正实现自动化。这一演变使发动战争的手段重新配置，将人工智能和虚假信息纳入武器库。此外，大型科技公司在冲突中发挥了关键作用，改变了军事战略和战术，给国际体系带来了新挑战。
各种武装部队和武装冲突参与者在战场上使用人工智能已成为常态，而人类并未充分意识到其对直接参与者和整个国际社会的影响。文章认为，人工智能和虚假信息已成为21世纪战争的典型武器；然而，由于存在升级风险，彰显机器优于人类的性质，因此引发了大量问题和担忧。这引发了“是人类控制着人工智能，还是人工智能控制着人类”的疑问？这也将在未来几年和未来冲突中得到解答。
管理信息或处理虚假信息没有单一的正确方法。文章认为，人类对抗虚假信息影响的最佳武器是批判性思维、社会良知、信念和坚守原则的力量。归根结底，寻求真相是一项未完成的、包容性的工作；真相是动态的，由所有参与者共建。值得注意的是，面对虚假信息，最薄弱的环节是人类，因为人类本身就存在缺陷和脆弱性。特别是，个人通常从不完整、不准确、不可靠和难以核实的信息中构建现实，诉诸思维捷径以掩饰自己的不足。这导致人们做出错误、不合理且可能被操纵的决定。
在这个混乱且日益危险的环境中，信息或虚假信息已被用于制造争议、操纵思想、抹黑政治人物、制造社会分裂、掩盖真实目标、成为发动战争的手段，当然，还被用作高影响力武器。其中甚至还有道德和政治挑战需要解决。如何规范用于训练人工智能的私人数据和世界人口信息，防止人工智能被用于暗杀人民、违反国际法、制造可信的谎言或替代现实以及发动战争，仍有待确定。
参考文献：
https://ceeep.mil.pe/2024/08/15/inteligencia-artificial-y-desinformacion-papel-en-los-conflictos-del-siglo-xxi/?lang=en
声明：本文来自认知认知，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
