译 者 按
新数字技术的发展和使用已经成为当代武装冲突中最重要的演变之一，但这也同样带来了新的风险——平民的权利、生命、安全、尊严和复原力面临切实的伤害风险。了解这些风险是数字时代保护工作的核心。
在本篇文章中，Joelle Rizk和Sean Cordey思考了数字时代的一些关键保护问题，比如网络有害信息等；并为开展人道主义保护工作的行动者提出了前进方向，从而使其能够改进准备工作以应对这些问题。
有关武装冲突中数字风险的不解之处及应对之策
What we don’t understand about digital risks in armed conflict and what to do about it
人道主义保护是指人道主义行动者在武装冲突和其他暴力局势中为保障平民的生命、安全和尊严而做出的努力。为此，人道主义者和其他行动者参与保护活动，旨在确保有关当局和其他行动者根据相关法律的文字和精神尊重其义务和个人权利。此类活动的目的是预防或制止实际或潜在的侵权行为，并处理其后果。保护活动本质上是通过技术和人道主义援助，通过支持自我保护措施、风险教育、提供充分准确的信息等方式，减少风险暴露并降低脆弱性。保护工作需要不断分析民众在此类局势中所面临的风险。
保护活动需要不断调整以适应多变的冲突现实，包括影响战争的新技术的部署。武装冲突局势中的不同行动者——无论是国家、非国家武装行动者、犯罪团伙还是私营公司（以下简称“冲突行动者”）——使用新数字技术开展网络和数字行动的行为，是当代武装冲突中最重要的演变之一。虽然网络和数字行动鲜少在真空中存在，但是适用数字技术的意图和预期情境可能带来一系列风险，我们称其为平民的生命、安全、尊严和复原力的数字风险。这些有害后果通常是平民面对武装冲突之外的遭受的额外后果。
人道主义应对尚未充分理解冲突中平民所面临的数字风险的分量。因此，记录、评估和进一步了解新数字技术在物理和数字环境中的使用和危害至关重要。目前，数字风险可分为三大类，本文将重点讨论后两类：
首先，与人道行动者使用数字技术来支持人道主义活动和保护活动有关的风险，如生物识别技术的使用；
其次，与武装行动者为支持武装行动或在独立于武装行动的情况下使用数字技术相关的风险，如信息行动、针对平民或民用基础设施的网络行动，或对个人或人道主义数据的滥用；
第三，与再利用或双重用途技术以及基础设施有关，并允许平民参加涉及冲突的行动，如监视、情报收集或网络和信息行动。
这些特定行为和数字技术可能会横向影响和限制特定权利，如言论、集会或行动自由、自由和安全、个人身份和隐私。然而，红十字国际委员会在冲突环境中特别关注的是那些对受影响人群的生命、安全和身心健全——他们的尊严、自我保护和复原能力、经济生计以及获取的基本服务和人道主义服务——产生有害影响的行为。
在保护和人道主义行动者在日渐利用新数字技术来支持其人道主义活动和保护活动，并加强受冲突影响人群的能动性的同时，他们不希望造成任何伤害。尤其是如果在冲突环境中部署数字人道技术可能会助长和加剧风险，进而损害平民的基本权利及其对人道主义者的信任，并导致各种伤害。本文重点关注冲突行动者，而非保护行动者的行为及其对数字技术的使用。
一、数字时代的“保护”
在冲突中，技术可能带来诸多积极影响，如改善对救生信息的获取，以及有可能最大限度地减少附带损害。在不削弱这些积极影响的前提下，保护工作必须考虑数字时代的风险。换言之，保护工作必须涵盖在人们的生活与数字领域发生交集时对权利的保护。例如，根据国际人道法（IHL），在武装冲突期间，平民和民用物体不得成为攻击目标——这一义务同样适用于网络和数字行动。
因此，在保护背景下，数字风险可能涉及数据或其他数字资产的保护，但并不仅限于此。这些风险围绕着武装冲突背景下数字技术的使用，以及数字技术的应用如何使平民暴露于伤害之下，影响其权利、安全和尊严（如对平民使用间谍软件），包括当滥用或侵犯完全发生在网上时（如仇恨言论）。也就是说，数字风险是指任何由数字技术传导或增强的风险，无论是有形风险（包括卫星等支持性基础设施）、逻辑风险还是信息风险。换句话说，保护工作的范围应包括通过人与人之间、人与机器之间以及机器与机器之间的互动实施的行为和侵权行为（如针对民用或军民两用基础设施的网络攻击）。
二、风险暴露与保护问题
数字时代的保护并不一定会在本质上转化为全新的保护问题。然而，一个重要的区别是，与数字相关保护问题可能不那么显而易见或触手可及，也不易得到理解（尤其是受影响民众的理解）和报告。此外，由于攻击潜力大，漏洞普遍，数字威胁实际上可能会迅速扩大，且具有广泛影响。它们还可能随着数字技术和实践的进步而演变，从而可能产生不可预见的新风险，保护行动者必须对其进行监测。
1.网络有害信息
错误信息、虚假信息和仇恨言论（MDH）等有害信息的传播会助长冲突，损害人们的安全和尊严。网络信息和媒体平台扩大了有害信息传播的规模、范围和速度。国家和非国家行动者利用信息传播系统施加影响、改变行为或实现行动目标。在这一领域，信息叙事可能会助长或煽动针对人们的暴力行为，造成有针对性的困扰和持久的心理伤害，由于歧视、污名化和剥夺享有基本服务的权利而进一步加剧脆弱性，损害对形势的认识和自我保护措施，并扰乱或破坏保护行动者及其行动。随着人工智能生成的内容越来越容易获取，这种风险只会日趋严重。与此同时，数字通信工具的使用方式可能会侵犯特定的权利和义务，例如，在违反禁止招募儿童或禁止让战俘暴露于公众好奇心的情况下，使用工具传播这些有害信息。
2.针对平民的网络活动
平民同样是网络活动的直接目标，这些活动可能损害他们的福祉并削弱他们的权利。例如，针对平民部署的间谍软件会导致个人数据被滥用，从而损害个人利益，并可能影响更广泛的冲突。同时，冲突难民和其他流离失所者等本已因冲突而处于弱势的人群可能会成为犯罪分子和其他恶意行为者的网上攻击目标，从而引发身份盗窃、欺诈或诈骗等问题。
3.针对民用基础设施的网络行动
冲突行动者利用勒索软件、分布式拒绝服务攻击（DDoS）或数据擦除程序等网络手段打击和破坏民用基础设施和基本服务，如水电供应或医疗、电子政务和金融服务。此类行动可能会造成巨大的人员损失和潜在的破坏性人道主义后果，阻碍向受危机影响的人口有效提供基本服务，从而可能造成社会经济、社会和心理上的伤害，甚至导致死亡。当网络行动影响到卫星等军民两用基础设施时，平民也可能受到意外伤害。
4.数据滥用与处理不当
传感器、预测分析或生物识别数据处理等数据驱动型技术的部署和使用引发了一系列对受危机影响人群的权利、安全和尊严的担忧。例如，通过向第三方提供商提出访问请求、黑客攻击或泄露等方式截获的人道数据可能会被滥用于执法、逮捕行动和边境筛查等非人道目的。与此同时，受影响人群的私人、个人和可识别数据，包括与他们自身使用数字技术（如社交媒体）相关的数据，可被直接用来对其进行识别和攻击（如虚假信息、诈骗或暴力）。
5.数据、人工智能与决策
冲突各方在战争中正在整合由AI支持的自动化“决策支持系统”。这些软件工具可为军事决策者提供分析、建议甚至预测，可用于各级指挥部的各种军事决策，如“威胁评估”和目标识别、如何开展具体军事行动或拘留等影响民众权利的其他决策。这些系统的使用引发了两点担忧：如何确保由人类法律判断和干预，以及如何确保用户能够进行解释、提出质疑，且不过分依赖这些人工智能系统。其他令人关切的问题还包括这些系统的透明度、潜在的偏见和错误、不加区分的目标选择，以及因不成比例的攻击而造成的伤害，这些都可能对人们的生命和尊严及其权利造成潜在影响。
6.人道主义行动受到干扰
人道行动越来越受到数字手段的干扰，无论是通过攻击其完整性和中立性的信息宣传，还是通过网络行动和数据泄露。这不仅会影响人道主义行动者开展行动、接触受影响民众、与其他行动者协调、评估需求以及向受影响民众提供援助的能力，还会对人们的安全及其对人道主义行动者和人道主义行动的信任产生不利影响。此外，还会危及人道主义工作者和援助人员的安全。
7.网络连接中断
冲突行动者也越来越频繁地使用中断互联网和通信基础设施接入的做法来控制信息环境和/或支持政治或军事目标。关闭网络可能会给当地民众带来或加剧人道主义后果，并有可能危及生命。例如，网络中断不仅会限制受危机影响的民众获得拯救生命的信息（如有关人道工作者、食物、住所和医疗服务的信息），而且还可能增加家人离散的风险，因为网络连接对维持和重建家庭联系至关重要。同时，网络中断还可能削弱平民在冲突局势中的复原能力和风险意识，以及他们保护自身、把握经济机会、自由发言和集会的能力。
8.平民参与
平民和私营公司越来越多地参与数字战场上的活动，使个人面临受伤害的风险，并进一步弱化了平民和战斗员之间的区别。事实上，平民可以积极支持冲突行动者，无论是通过参与军事情报收集（如通过改为他用的应用程序），支持交战一方的网络防御，还是参与针对敌方目标（包括其他民用目标）的网络行动。这种参与可能使平民遭受严重伤害，如成为军方目标、财产被毁、被拘留甚至被杀害，还可能造成诬告和怀疑，导致进一步伤害。
三、数字时代的准备和保护工作
随着数字时代的保护问题不断产生，人道主义行动者在解读数字技术的局限性和风险方面依然任重道远。线上冲突和线下冲突的相互作用以及由此产生的人道主义后果将要求人道主义工作者以多种方式调整其技能、方法和途径：
1.促成保护性框架和对话
战争是有限度的，包括在数字领域。因此，数字时代的保护工作必须与这些保护框架相结合，并在可能的情况下予以拓展，以保护受冲突影响个人的权利、安全和尊严：无论是通过进一步发展这些框架，提高对它们的认识，还是与国家接触并倡导实施这些框架。
科技公司和网络团体等非国家行动者已成为武装冲突和行动中的利益相关方，这进一步加剧了对平民和其他受保护人员的威胁。应鼓励与这一领域的相关行动者进行对话。需要解决的问题包括治理、预防伤害和附带损害、国际人道主义法的适用以及平民和非平民目标的区分、合作开展或加强保护活动、恪守原则和以人为本的技术等。这些都可以基于并利用现有框架，如联合国《工商业与人权指导原则》。同时，通过与各国的对话，提醒其履行法律义务，以确保私营公司尊重国际人道主义法和国际人权法的相关规则。
最后，与此同步的是，随着人道主义工作者收集个人敏感数据，他们需要将数据保护实践和框架纳入其工作之中。这些做法包括数据最小化、数据保护影响评估、数据保护设计以及考虑数据主体的权利。值得称赞的是，在过去几年中，在人道主义背景下，人道主义工作者在负责任地使用技术和数据方面做了大量工作，如红十字国际委员会的《数据保护手册》、《保护信息管理》（PIM）或《保护工作专业标准》。
2. 培养复原力
我们应抓住机遇，将现有的保护工作与数字扫盲和风险意识计划相结合，并为受影响人群和人道主义工作者提供数字风险培训。但是，这些工作不能以将责任推给受影响人群为代价。随着越来越多的组织和私人行动者采用基于技术的解决方案，并为数字扫盲和提高意识创造机会，人道主义和保护行动者必须采取谨慎的方法，认识到社区或群体被排斥的风险，避免制造虚假的安全感，更重要的是不能将责任转嫁给最弱势群体。
3. 能力建设
整个人道部门的风险意识仍然支离破碎。在理解和记录数字威胁状况、受影响人群所面临的相关风险以及冲突环境中各行动者的行动者面，还存在相当大的差距。因此，应开发数字风险评估工具并将其纳入保护工作。人道主义工作者必须相应地继续加强与学术界、军方和技术专家的合作，及时、全面地开展基于证据的保护分析和应对工作。
此外，为了更好地发现、评估和缓解数字风险，保护工作者必须提高技能，依靠将传统方法与新手段相结合的综合方法。这主要包括进一步利用开源信息和社交媒体分析，并将其主流化，这两者都能提供更高的关注度和有力证据，为保护工作提供依据，相关工作涉及为保护对话提供参考的事件监测，以及量身定制基于社区的保护和参与措施。还应对保护工作者进行培训并提供支持，使其能够认识到并记录冲突中网络和数字行动的后果，包括与那些生活受到数字技术影响的社区进行接触。
由网上有害信息、网络防御行动、军事系统自动化、滥用个人和人道主义数据、连接中断或平民通过数字手段更多地参与冲突所引发或加剧的数字风险的上升，是数字时代冲突的现实。这一现实对受冲突影响人口的权利、安全、尊严和复原力的相关影响是一个不容忽视的问题。
在面临着数字扫盲、风险意识和提供伤害证据的能力等重要挑战的同时，保护工作者应努力扩大现有的保护性法律和政策框架（包括数据保护框架）；参与有关数字风险的保护性对话；通过风险教育和提高意识等方式培养受影响人群的复原力；并建设自身的专业知识和能力，以发现风险并预防或解决由此造成的危害。
在这个快速发展的数字环境中，保护人道主义空间和以保护为中心的方法至关重要。在人道主义者继续研究这对他们各自行动的意义时，重要的是不要重新发明人道主义轮子，而要调整现有的计划。参与应对数字风险并非“锦上添花”，而是人道主义工作者在道德和专业方面的当务之急。
编译｜李钰璐
排版｜强心语
审核｜裴 轶
声明：本文来自数据治理与竞争法研究，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
