2024年9月30日，德国马歇尔基金会（GMF）发布报告《俄乌冲突中的先进技术：民主与人权面临的风险》（Advanced Technologies in the War in Ukraine: Risks for Democracy and Human Rights），主要研究了乌克兰在俄乌冲突中对先进认知技术的使用，分析了战争中技术应用的隐患，并强调在国家安全与公民权利之间，寻求平衡至关重要。本文有助于了解乌克兰在战争中使用认知技术面临的人权和政治困境。
美国智库关于俄乌冲突中先进技术的观察与思考
机构简介：德国马歇尔基金会（GMF）成立于1972年，总部设于美国首都华盛顿，其宗旨是致力于对跨大西洋问题和全球问题进行研究和分析；在国际会议上召集政策和商业领袖；为美国和欧洲的新兴领导人提供交流机会；以及支持加强民主的举措。
编译：黄沙
全文摘要与关键词
1.乌克兰采用的战争技术：国家部门+私营企业共助卫星成像技术；乌克兰使用卫星图像记录并分析武装冲突
2.人工智能技术：
①俄罗斯在认知战中使用AI的案例：强制征兵、议员腐败、军队腐败
②民主与人权可能遭遇的风险：削弱了乌克兰的社会凝聚力
3.遥感技术
①卫星遥感技术有利于敏感区域的信息收集
②态势感知技术有利于战争情报收集
③卫星遥感技术有利于战后重建恢复
民主与人权可能遭遇的风险
卫星图像可能被操纵或扭曲、不安全的数据存储或传输可能导致未经授权的访问、Delta相关系统性和技术性风险
4.面部识别技术（FRT）
①FRT面临的技术风险：FRT面临生物识别数据的伦理和法律问题、各国对生物识别数据采取的保护行动
②乌克兰如何使用FRT技术？——乌克兰使用美国Clearview AI软件用于识别在线网络图像
民主与人权可能遭遇的风险
在战时使用FRT可能对乌克兰的民主和人权根本原则构成威胁；
FRT仍可能成为侵犯公民权利和威胁民主的强大工具；
FRT技术的准确性较低，可能带来歧视和不公平待遇。
5.评述：俄乌冲突刺激了乌克兰战争技术的快速进步和创新，尤其是在尖端数字技术的使用上。遥感、面部识别等技术显著提升了乌克兰的军事应对能力，人工智能在现代全面冲突中的认知战的作用也不可忽略。同时，先进技术也给民主和人权带来了深刻的挑战和风险。
自从2014年克里米亚事件以来，乌克兰开始把军事技术引入战争当中来，这主要依靠志愿者和民间组织力量。在此期间，涌现出许多新型软件。
国家部门+私营企业共助卫星成像技术。志愿者开发的众多军事应用是通过志愿者与国家部门合作产生的，例如Delta战场态势感知系统。乌克兰卫星监视领域主要由国有系统主导，不对外公开数据，但私营卫星行业的迅速发展正开始改变这一格局。Maxar Technologies、Planet Labs和Capella Space等公司已成为行业的关键力量，推动了卫星成像技术的进步，并使高分辨率图像的获取更加大众化。
乌克兰使用卫星图像记录并分析武装冲突。在乌克兰，国际组织和独立调查机构普遍使用卫星图像。例如，利用开源情报的Bellingcat调查新闻网络，大量运用卫星图像记录和分析武装冲突。但是卫星图像被篡改以配合特定的叙事情境的事件屡见不鲜，因此确保开源情报的完整性有其重要性，将卫星图像作为证据，也凸显了新技术在追求真相中的关键作用。
02 人工智能技术（AI）
2.1 人工智能在认知领域的应用
AI技术的飞速发展使得虚假信息和宣传能够以前所未有的规模和速度被制造和传播。生成式AI、深度伪造和声音克隆技术的出现，极大地改变了认知战的格局，不仅影响了军事战术，还影响了更广泛的政治和社会动态。
在战争背景下，争夺信息控制权的重要性不亚于物理战斗。战争加剧了公众对虚假信息的易受性，削弱了公众信任，为深度伪造技术提供了理想的使用环境。
2.2 俄罗斯在认知战中使用AI的案例
在生成式AI出现之前，俄罗斯主要通过传统媒体传播认知信息，但随着冲突的进一步加剧，它转向混合策略，在军事和公共领域使用包括AI工具在内的先进技术创作认知战内容，从深伪视频到虚假新闻，并在社交媒体上广泛传播，旨在在乌克兰内部影响公众舆论，在西方则向乌克兰提供支持的决定。
AI技术让认知战行为体比以往更容易制作出高精准和强说服力的内容，以及非常逼真的情感化叙述。以下是三个深伪影片例子：
01 强制征兵
通过人工智能生成的故事，让观众感受到恐惧、绝望和不公。主角通常是普通民众被迫加入军队。这种设定旨在激发民众的焦虑和反抗心理，使他们更容易滋生反政府情绪。
02 议员腐败
其目的是唤起观众的不公正感，并引发这样的想法：“我们为什么而战？”然后，信息传播者在无形中传播了“每个人都偷窃”的信息。这削弱了对当局的信任，导致民众质疑其领导人的合法性和削弱乌克兰斗争的目的。
03 军队腐化
这描绘了军事领导者的腐败态度和对普通士兵困境的漠不关心。内容可能描绘指挥官在享受特权与权力，而普通民众却遭受苦难。带有#ukraine（乌克兰）、#mobilization（动员）和#corruption（腐败）等标签的帖子放大了这些信息，传播了军事领导层与民众脱节并剥削民众的思想。这旨在制造社会分裂和削弱公众士气，进一步破坏社会凝聚力。
此类内容的目的是通过散播虚假信息，从而让乌克兰人感到恐惧和士气低落。深伪影片对公众认知有深远影响，尤其是当它们涉及受信任的知名人物时。在媒体信任度低、社会高度两极分化的环境中尤为显著。乌克兰是这种环境的典型代表。根据2023年的一项研究，乌克兰人对本地媒体的信任度从上一年度的57%下降到29%。AI欺骗的破坏性可能与实体战争一样，真相之战成了国家安全的关键组成部分。
民主与人权可能遭遇的风险：
尽管俄罗斯利用AI进行的认知战行为有时显得笨拙或荒诞不经，但最终损害了乌克兰的公众信任，并在乌克兰引发了关于何为真相、何为虚假的困惑。乌克兰的社会凝聚力受到削弱，民众更难以保持团结一致。
这些使用生成式AI和深度伪造的案例的影响超出了乌克兰战争，它体现了战争信息传播格局的剧烈变化。其中数字工具、智能AI可以被用作破坏民主制度和侵犯人权的武器。
03 遥感技术
自2022年俄乌冲突以来，遥感技术一直是战争中的重要工具。它在记录俄军动态以及为态势感知提供实时信息方面发挥了关键作用。
卫星遥感技术有利于敏感区域的信息收集。它能追踪武装行动、人口迁移、人口走私以及基础设施的破坏情况，对于了解冲突地区的情况至关重要。卫星遥感还能够提供诸如强迫移民或种族灭绝等罪证，这能够补充传统调查手段，对于调查和起诉罪犯至关重要。乌克兰的很多人道案例具有划时代意义，因为它在很大程度上依赖于卫星图像分析，这些图像可能会影响到未来的审判结果。对卫星数据的广泛运用，可能会在国际法院的证据收集上带来重大变革。
态势感知技术有利于战争情报收集。最新的Delta态势感知系统与北约类似系统兼容，它集成了卫星图像、雷达数据、传感器、GPS追踪器以及eVorog聊天机器人等数据提供方的输入，这些系统允许普通乌克兰人报告敌方车辆和部队的动向。美国Palantir公司的Meta Constellation平台对乌克兰的国防至关重要，该平台能够实时指令卫星捕捉特定地点的图像，并通过算法过滤大量数据，确保只下载相关图像，从而在战场上助力快速、高效的决策。
卫星遥感技术有利于战后重建恢复。卫星遥感对于战后乌克兰的重建至关重要。战后重建、融入欧洲经济体系和全球供应链，乌克兰亟需实施大规模的恢复计划。例如，UADamage项目正在将卫星和无人机图像数字化，以便识别损害、评估损失并规划重建项目。同时，还有利用卫星图像和机器学习技术的私人志愿者损害评估活动。
民主与人权可能遭遇的风险：
卫星图像可能被操纵或扭曲，政府、私营企业、黑客、恐怖组织及其他具备利用能力的实体，这包括使用高级图像处理软件对图像中的特征进行修改或伪造，这些修改对非专业人士来说几乎难以察觉。
不安全的数据存储或传输可能导致未经授权的访问，使得图像在到达目标用户之前可能被篡改或滥用。即使是真实图像也可能被断章取义或带有偏见地解读，从而引发虚假混乱的叙述或指控。由于缺乏标准化流程和立法，这在乌克兰已成为一个严重问题。此外，卫星图像提供的民用信息，管控、传播和问责，也是个问题。
Delta相关系统性和技术性风险。在风险极高的战争环境中，Delta相关的风险则是系统性和技术性的，类似于任何类似平台可能出现的风险。包括潜在数据泄露、系统故障或效率低下，这可能影响用户体验和安全性。境外大数据公司的角色也值得审视，Palantir公司的创始人是唐纳德·特朗普支持者，该公司在特朗普总统任内在执行严格的移民政策、识别和遣返非法移民方面扮演了重要角色而成为争议焦点。
04 面部识别技术（FRT）
FRT识别个人的两种方法。FRT是指一种生物识别系统，能够自动检测并记录人脸信息，从而使得从数字图像中识别或识别出个人成为可能。这种技术有多种识别个人的方法。一种是通过测量人脸不同部位的距离、眼睛的形状和鼻子的宽度等生物识别数据来实现。另一种则是通过分析下巴的形状、眼睛和嘴巴的位置等面部特征来进行识别。
4.1 FRT面临的技术风险
FRT面临生物识别数据的伦理和法律问题。通过FRT收集生物识别数据引发了新的隐私担忧。这些数据对每个人都是独一无二的，不仅可用于身份识别，还可能用于个人画像或在不同地点追踪人员活动，使得FRT的侵入性更强。由于个人无法控制自己的生物识别数据的使用、存储和共享，这引发了关于同意和数据保护的伦理和法律问题。
各国对生物识别数据采取的保护行动。世界各国已经开始着手解决这一问题。例如，2020年，英国上诉法院裁定，面部生物识别技术“本质上属于个人隐私”，与指纹和DNA一样敏感。欧盟的通用数据保护条例（GDPR）将生物识别数据视为敏感信息，并要求在收集、处理和使用时必须获得明确授权。在美国，伊利诺伊州等州的生物识别信息隐私法要求，在使用生物识别数据时必须征得同意，并对不当处理行为提供法律援助，这一做法正在被其他州效仿。在加拿大，隐私专员办公室呼吁制定明确的法律法规，以保护此类个人信息。
4.2 乌克兰如何使用FRT技术？
乌克兰使用美国Clearview AI软件用于识别在线网络图像。乌克兰政府自2022年3月起开始免费使用美国人脸识别公司Clearview AI的软件，该软件可识别来自Facebook、Twitter、Vkontakte等在线社交网络和Google等搜索引擎的图像。其数据库拥有约300亿张图像，只需将照片上传至公司生物识别数据库，算法会自动匹配识别。
Clearview AI技术的典型案例。Clearview AI的技术主要应用于助力难民与家人团聚、识别战争受害者、识别敌对潜伏特工、识别参与战争罪行的士兵、识别阵亡军人并通知其家属等。例如，在冲突初期，乌克兰情报部门利用该技术协助识别并消除了20个敌对颠覆组织，并在利沃夫拘捕了350名可疑破坏者，这些组织隐藏在当地社区，意图制造不信任并向境外传递情报。
内务部推动草案，监管个人信息。近期，乌克兰内务部积极推动一项草案法律，旨在在整个乌克兰建立一个大规模的视频监控系统，该系统将利用生物识别数据来识别个人，并在内务部的监管下保存个人信息，最长可达15年。这些摄像头将持续在公共场所、学校、商业机构和医疗机构进行录像。
民主与人权可能遭遇的风险：
在战时使用FRT可能对乌克兰的民主和人权根本原则构成威胁。联合国人权事务高级专员沃尔克·图尔克（Volker Türk）指出，FRT可能带来负面影响，并可能导致“对我们公共空间的全面监控，彻底摧毁隐私概念”。
FRT仍可能成为侵犯公民权利和威胁民主的强大工具。至于Clearview AI——目前乌克兰唯一使用的此类系统，即便政府停止与该公司的合作，转而使用其他软件，无约束力的FRT仍可能成为侵犯公民权利和威胁民主的强大工具。因为滥用风险和隐私侵犯的可能性在所有平台上都普遍存在。此类技术对大量数据的无限制访问，毫无疑问会持续引发对公民反对政府行为或言论可能被追踪的担忧。它可能被用来针对某些种族群体、信仰体系，导致歧视性监视和严重侵犯人权的行为。.
FRT技术的准确性较低，可能带来歧视和不公平待遇。另一个关键问题是，FRT也很容易出现错误，这已有先例。研究也表明，在识别某些种族或民族群体的人员时，这项技术的准确性较低。特别是，美国国家标准与技术研究院的研究发现，在识别有色人种女性时，FRT的准确性最低。这种偏见可能导致歧视和不公平待遇，从而加剧了这项技术在广泛应用中的风险。
05 结论与建议
综上所述，俄乌冲突刺激了乌克兰战争技术的快速进步和创新，尤其是在尖端数字技术的使用上。遥感、面部识别等技术显著提升了乌克兰的军事应对能力，人工智能在现代全面冲突中的认知战的作用也不可忽略。同时，先进技术也给民主和人权带来了深刻的挑战和风险。
本文在一定程度上代表了西方立场上，对目前在俄乌战场中对先进技术的探索与总结。其中揭示了战争技术既能服务于有益的军事战略，也可能对人权和民主原则构成威胁，继而被对手所利用，值得警醒。因此，规范技术发展，确保其服务于合法和必要的国防目标，并维护基本社会价值观，显得尤为重要。
参考文献：
https://www.gmfus.org/sites/default/files/2024-10/Mysyshyn%20-%20Ukraine%20war%20tech%20-%20paper.pdf
声明：本文来自认知认知，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
