编译：中国科学技术信息研究所 袁珩
审校：中国科学技术信息研究所 张丽娟
2020年11月，世界经济论坛发布《网络安全、新兴技术与系统性风险》报告。互联设备和网络、人工智能、量子技术、数字身份等技术是未来社会繁荣所依赖的关键技术，但这些技术的复杂性、发展速度、规模和相互依赖程度不断增加，可能会给全球带来系统性风险。报告为政府、行业界、学术界和国际社会从综合层面提出了15项建议，督促各方尽早行动，以确保未来新兴技术发展的完整性和可信度。
一、互联设备和网络
全球范围内互联设备和网络的数量快速增加，意味着整个数字生态系统中的各种关系日益紧密和复杂。从安全角度看，这会带来许多挑战。
1. 互联设备和网络可能带来的系统性风险
①互联生态系统规模扩大使其更易被攻击
互联生态系统规模庞大，这意味着潜在的网络攻击能够迅速扩大到大量网络组织中。同时，随着独立的系统连接到互联网，数字资产的保密性、完整性和可用性面临的风险也在增加。
②互连系统内的依存关系可能导致连锁效应
在数字生态系统中，新产品和新服务模式在网络组织、供应链、行业和个人之间创造出复杂的相互依存关系。这种关系会造成不可预见的连锁效应风险，即发生在互连生态系统某一部分的故障会损害依赖它的所有参与者和整个系统。
③共享资源可能成为有针对性的攻击目标
许多实体越来越依赖于集中的基础设施和共享服务，包括云、互联网、硬件、软件和设备供应链。这就形成了密切关联的共享资源系统，受攻击概率极高，并可能造成严重的系统性影响。例如，共享资源中的漏洞被利用可能会导致相关危害在整个互连生态系统中蔓延开来；通过共享基础设施对连入设施的个别用户进行针对性攻击，也可能带来附加损害。
2. 应对措施
①建立统一完善的技术标准和治理原则
当前的技术标准或治理原则主要适用于如何构建和运行网络系统，未来需要更多关注它们在商业中的使用及其管理规范。包括：确保技术互操作性和安全保证不因政策和法规的不兼容而受到损害，避免跨司法管辖区运营的公司面临不合规风险；建立一个能够识别网络生态系统中监管措施和政策措施是否匹配的机制，并针对相关冲突制定解决方案。
②提供透明且有保障的安全服务
网络组织有责任保证自己的服务，随着网络生态系统越来越复杂，这一挑战将更加严峻。为确保用户做出正确的风险管理决策，网络生态系统需要在各个环节内建立信任，并在安全功能方面保持透明。这需要围绕网络环境中的安全监管制定明确的措施，并在国际上相互认可。
③为发挥关键作用的参与者颁发“参与许可”
“参与许可”是指参与者根据其所发挥的具体作用，通过不断证明其安全性和所承担的责任，获得参与网络生态系统的许可。在大多数司法管辖区，国家关键基础设施（CNI）的提供者需获得经营许可并接受监管。但随着对通信基础设施的依赖不断增长，一些不属于CNI范围的基础设施正成为网络生态系统中越来越关键的组成部分，有必要对其加强监管。
二、人工智能
当前，网络攻击者和防御者都在部署人工智能，很难说哪一方占据了更多优势。
1. 人工智能可能带来的系统性风险
①为恶意攻击提供更多机会
随着人工智能技术的成熟和普及，恶意使用人工智能进行网络攻击的现象愈发频繁和复杂。例如，攻击者可以：利用人工智能加快攻击并扩大范围；通过“深度学习”预测攻击范围，了解被攻击者的防御方法，实现更精确的攻击；利用人工智能成功“隐身”，逃避检测和查杀。
②扩大攻击范围并操纵算法
人工智能系统正在成为大型企业重要资产的一部分，在减少人为监督的情况下执行越来越重要的任务。但一些人工智能算法已被证实可以被操作并使数据中毒。攻击者通过改变算法和数据完整性，可以操纵或破坏网络组织流程和社会基础设施。
③引发伪造问题
深度伪造，即利用数字化手段操控视频、图像和音频，使人难以与现实区分。一些针对性强的虚假新闻和可操控的信息会扭曲公众对事实真相的认知，甚至会带来政治和经济结果的改变。另外，深度伪造已成为新的网络攻击媒介，可能会针对个人进行勒索攻击。
2. 应对措施
①增强防御能力
网络安全相关研究部门必须迅速做好准备，开发有针对性的人工智能防御系统，发展能够对抗攻击者的能力。政府和企业领导者需要支持开发关键防御技术，并以公平和负担得起的价格采购和使用相关技术；指定一种指导性的网络安全运行框架，针对新兴的人工智能威胁自动检测、调查并制定防御方案；加强培训，提升政府企业和领导者的人工智能相关技能与能力。
②开发安全防御算法
制定包括以下原则的人工智能安全原则。安全设计：增强人工智能系统性能，抵御攻击性操作和破坏技术。生命周期管理：随着新数据的加入，不断对模型进行演变，并对算法进行实时审查。攻击管理：负责人工智能算法的人员需及时对攻击做出响应并减轻可能造成的伤害。
三、量子计算
1. 量子技术可能带来的系统性风险
①破坏加密基础设施
量子计算将对当前被广泛采用的非对称加密产生巨大影响。一台足够强大且具备纠错功能的量子计算机能够破解非对称加密，给企业和政府带来重大安全风险，使其数据机密性、完整性和可用性等暴露在危险之中。
②“先下载，后解密”
敏感期较长的数据存在“先下载，后解密”的风险，即数据可能会先被对手获取，并在未来敏感度降低后再解密。例如，卫星、运输和工业控制系统等领域存在这种风险。
③广泛应用带来的新型和次生安全风险
量子技术应用可能带来新的安全难题。当企业将其核心知识产权相关量子计算服务外包给第三方时，企业可能会面临对抗性干扰。另外，量子算法本身也可能产生偏差或被对手操纵，这将带来大量未知风险。
④地缘政治风险
量子技术可能改变国家安全的游戏规则。一些国家正在对量子技术和技能发展进行重大投资，将量子技术列入管制清单。未来少数发达国家获得量子霸权，将会产生地缘政治影响。另外，竞争和保护主义还将影响国际合作与公平，导致无法将量子技术的全部潜力释放到经济和社会发展中。如果各国不能确保公平获得量子技术，拥有量子能力的国家会获得战略优势，而其他国家则陷入“量子贫困”。
2. 应对措施
①安全开发量子技术
各国政府和产业界需共同制定投资战略，发展事关国家主权的量子能力；定期审查量子计划的安全性，并监测其风险；构建专业团队，开发安全性强的量子硬件和算法。
②重新审视治理原则
面对潜在威胁，需要制定正确的标准、治理和监管规范，并将其纳入风险决策框架中；对各国的技术标准和治理规范进行协调或制定全球治理准则，确保量子应用符合伦理道德。
③确保量子公平
各国政府需要共同努力，在认识到公平获得量子能力的潜在益处和理性看待相关风险之间达成平衡。
四、数字身份
随着新一代数字身份认证和访问管理系统的出现，社会对其的依赖将逐渐增加。攻击者寻求滥用这类系统以获取经济利益，而系统内的各方参与者也可能会寻求通过这类系统公开或秘密地获取经济或政治优势。
1. 数字身份系统可能带来的风险
①系统内的大量个人信息存在重大风险，如个人识别信息、生物特征、行为和位置数据。
②系统完整性如果被破坏会引发系统参与者的不信任。对于用户而言，不仅要求整个系统及组件保持完整，还要求系统功能不被滥用。
③存在可用性风险。攻击者会试图阻止用户对数字身份管理系统的访问和使用，如果系统没有必要的韧性与备用方案，针对系统的攻击则可能带来严重的后果。
2. 应对措施
①保持数字身份系统的可信度
为使数字身份解决方案被信任并被使用，其系统内各组件的安全性和弹性需得到保障，并保持一定透明度，使用户能够准确了解端到端流程的可信度。
②建立可共享和互操作的治理框架
由于不同国家和组织确立的数字身份系统存在不同，有必要召集各方参与者审查互操作性问题，构建一个在全球范围内相互承认、可互操作的治理框架，建立共同信任，并为那些运行身份系统和流程的工作人员进行定级，使其能够参与制定全球标准。
五、综合性措施
为避免网络和新兴技术产生无法应对的系统性风险，各国政府、产业界、学术界和国际社会应尽早进行干预。
1. 安全相关研究部门
安全相关研究部门需加强合作，设计、开发和提供有效应对网络和新兴技术风险的解决方案。①开发新模式和新的信息共享框架，提供态势感知，实现实时和自动化防护。②制定安全原则，开发安全工具，保护人工智能和高级机器学习相关设施，保护个人数据及隐私。③开发量子计算安全模型。④研究量子密码学问题对端到端分布式业务流程的影响。⑤评估并加强现有网络安全技能和教育方案，确保能够满足新兴技术发展需求。⑥为下一代数字身份系统构建全球互用的信任标准。
2. 行业和政府领导
行业和政府领导需制定新的教育和治理等相关工具，以应对新兴技术产生的安全风险。①掌握工具，决定如何最好地为新出现的风险做好准备。②掌握新的、国际通用的安全认证方法。③企业需与监管机构和决策者合作，明确责任问题，并在国际层面实施，减少贸易中的不必要摩擦。④制定能够及时动态反映底层技术和风险变化的法规和认证机制。
3. 国际社会
国际社会需制定政策进行干预，以确保网络安全能力达到一定水平，从而实现全球包容性。①各国需加强合作，提供公平的网络安全能力。②各国、国际机构和提供基础设施的技术企业需加强合作，更加重视网络犯罪操纵者的归属问题和破坏行为性质。③制定国际标准、法律和监管措施，加强打击网络犯罪及其他威胁全球数字经济完整性的行为。④采取国际一致的方法来确定国家关键基础设施的组成部分，确保不存在跨境风险，并能够识别和防范网络空间的系统性风险。⑤国际贸易机构应发展相关能力，能够识别其行业及成员所面临的新兴技术风险。
来源：《科技参考》2021年第8期
声明：本文来自科情智库，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
