摘 要：欧盟ENISA的《网络安全研究和创新需求及优先事项年度报告》提出了未来有关网络安全研究和创新的四大主题：超链接世界、智能系统、生命科学（生物技术）中的网络安全和计算安全，并将其作为未来10年到20年重点投资的领域。报告对这四个主题内容及意义的论述简洁而清晰，对我国相关工作也有一定的借鉴意义。报告特别提到了可持续密码学，认为量子计算将对密码学和网络安全产生重大影响，研究新的密码学原语、加密算法和协议是一项长期工作，应得到足够的关注。
关键词：可持续密码、网络安全、人工智能、量子密码、生命科学
《网络安全研究和创新需求及优先事项年度报告》主要内容翻译整理如下：
欧盟ENISA于2022年5月发布了题为《网络安全研究和创新需求及优先事项年度报告》的研究和创新简报。ENISA是欧盟致力于在整个欧洲实现共同的高水平网络安全的机构。欧盟网络安全局成立于2004年，其地位和功能得到了欧盟网络安全法的进一步加强，宗旨是通过网络安全认证计划提高信息通信技术产品、服务和流程的可信度，与成员国和欧盟机构合作，为欧盟网络政策做出贡献，并帮助欧洲为未来的网络挑战做好准备。通过知识共享、能力建设和提高认识，网络安全局将与主要利益攸关方合作，以加强互联经济的信任，提高欧盟基础设施的弹性，并最终保持欧洲社会和公民的数字安全。
概述
欧盟在数字时代的未来取决于今天做出的选择以及个人、企业和组织应对挑战和抓住机遇的能力。虽然欧洲和世界从公共卫生危机中恢复过来，但确定未来的挑战和机遇至关重要。
这十年，欧盟将增加对研究和创新（R&I）的投资。重点领域之一将是经济和社会的数字化转型，通过促进欧洲生活方式，支持民主和价值观以及保护其战略自主性而为人们服务。在这种情况下，研究界的工作对于了解未来发展所需的知识至关重要。欧盟在知识和创新方面是一个强大的参与者：它占全球研发、出版和专利活动的近20%。
这为其中一些挑战和机遇提供了前瞻性的视角。它认识到关键结构性趋势的重要性，这些趋势对欧盟到2030年及以后的数字雄心产生重大影响。趋势的多学科性质导致选择了构成本报告结构的四个主题：超链接世界、智能系统、生命科学（生物技术）中的网络安全和计算安全。
数字超链接是所有其他趋势的触发因素，独立于任何特定技术。无处不在的链接将增加行业、产品、技术和服务的融合，由加速的数据化驱动。对数据日益增长的需求将有助于使技术更加智能，成为日常生活中自动化和优化竞赛的下一个领跑者。此外，超链接性、数据化和智能自动化也有助于生命科学领域的研究。这十年，由于大流行和生物技术的效率，欧盟将增加对制药和卫生部门新技术的研究和开发投资。
然而，超链接性和智能自动化并非没有挑战。虽然其好处是众所周知的，但挑战和风险尚未得到充分认识。
网络安全对于确保欧盟公民、企业和组织机构可以享受在可靠和值得信赖的环境中承诺的好处。本报告还旨在通过创建计算安全知识，明确保护数据和保护身份验证的一些未来需求。
2022年，欧盟网络安全局将与利益相关者和专业团队一起推动几项举措，讨论本报告中概述的挑战和相应的研究需求。欧盟网络安全局还将利用这些发现来确定战略议程和欧洲网络安全工业、技术和研究能力中心（ECCC）工作方案的资金优先事项。
一、引言
（一）目标、方法和目标受众
本报告的主要目标是确定对欧盟数字十年战略和雄心至关重要的网络安全研究和创新领域。报告旨在完成欧盟网络安全局的任务，即就新的和未来的研究需求和优先事项向欧盟机构、团体、办公室和专门机构以及成员国提供建议，并将进一步发展本报告所载的信息，以帮助确定欧洲网络安全能力中心和国家协调中心未来工作方案的资金优先事项。
本报告探讨的四个研究课题主要通过与利益攸关方和研究界成员协商选出。从方法论的角度来看，欧盟网络安全局将主要从年度展望活动确定的趋势中选择这些主题。然而，今年在特殊情况下，由于欧盟网络安全局预见团队正在迈出第一步，因此与利益相关者讨论了这些主题并在内部达成一致。
所选的研究课题并非详尽无遗，这里介绍的工作是欧盟网络安全局成员和研究界专家之间几次互动的巩固和高度浓缩的结果。
在第一阶段，专家们被要求就其研究主题提供意见，汇编每个专家书面意见，对网络安全研究和政策格局进行总体概述。在这些意见中，专家们概述了各自领域进一步研究的关键领域。这些文件随后被合并，并成为2021年10月举行的研讨会的灵感来源。在这次研讨会上，讨论了每个研究课题，并试图为研究和创新找到一个共同点。本报告是以本次研讨会的贡献和成果为基础。
本报告针对的是欧盟机构、团体、专门机构、成员国和更广泛的网络安全研究界参与研究和创新领域的利益相关者。本报告可能特别适用于：
来自欧盟和国家实体的、参与资助方案或研究的成员，
政策制定者，
来自网络安全行业的学者，研究人员和研发人员。
（二）欧盟政策背景
2020年，欧盟委员会主席发布“我们生活在欧洲的数字十年”。2020年底，欧盟委员会和高级代表就“欧盟数字十年的网络安全战略”发表了一份联合通讯。通过这些指导性文件，欧盟表明它正在积极应对网络威胁带来的全球挑战，并将欧盟作为一个意识到未来几年必须面对挑战的行为者。
欧盟正在以多种方式发挥这一作用。首先，它正寻求在制定使用技术的全球规则方面发挥主导作用，并且已经这样做了很长时间。它力求尽可能就开发安全和有弹性的技术工具和机制建立全球共识。欧盟与国家和非国家行为者进行伙伴合作，建立一个连贯和可信赖的合作框架。
其次，欧盟已经发展出一种“开放战略自治”的话语，旨在发展一种统一的欧盟范围内叙事方式，发展欧盟层面的能力，以应对世界的威胁。
第三，欧盟政策工具包将侧重于网络信息服务（NIS）指令（目前正在修订中）、网络安全法（2019年）和即将出台的网络安全弹性和半导体法，将于2022年提出。欧洲理事会还呼吁加入网络部门，以进一步开发欧盟的网络安全工具包。
第四，对于本报告的目标至关重要的是，欧盟正在投资网络安全研究和开发。最近成立的欧洲网络安全工业、技术和研究能力中心表明了在欧洲政策和研究背景下对这一领域的承诺。这包括开发技术解决方案和工具，以有效应对当前和未来的风险和网络威胁。这些包括新的和正在出现的信息和通信技术，旨在有效部署风险防范技术。
根据上述努力，网络空间的安全将继续是一个正在进行的项目，欧盟已经作出了巨大努力，以制定支持发展这一领域能力的倡议。然而，将网络安全研究和创新议程分开的机会和需求是显而易见的。继续满足政府机构标准任务所需的努力正在创造范式转变，即网络安全风险和威胁不仅限于政府安全以外的领域。传统的政策制定体系也不适用于我们这个高度互联的世界。因此，需要一种跨越研究孤岛和创新的方法。
（三） 欧盟网络安全与研究全貌
网络安全研究和创新是许多政策领域研究的关键方面。自2013年左右以来，该领域文学的指数级增长（所谓的斯诺登启示录）见证了这一领域的出现，表明“网络科学”作为一个术语在当代话语中已经出现。
欧盟和欧洲的研究资助机构为网络安全领域的研究贡献了大量资源。许多机构都通过一些不同的手段推动了这方面的努力。在一个涵盖如此多政策领域的研究领域，资金和组织结构中固有的多元化是可以预料的，甚至受到欢迎。但到目前为止，他们并不是该领域发表研究的世界领先资助机构。
这清楚地表明，美国的研究资助机构在网络安全领域占主导地位，在这个广泛领域，大约43%的已发表研究得到了美国政府的公共资助。最近的数据，仅考虑2021年和2022年被引用次数最多的论文（预印本），显示欧洲研究人员现在正在这一领域崭露头角，代尔夫特技术大学、奥胡斯大学等大学和西班牙几所大学的研究成果被网络安全领域广泛引用。
（四）绘制全景
欧洲网络安全地图集强调了欧盟约750个研究中心在网络安全问题上的工作重点。在教育和培训方面，欧盟网络安全局自己的高等教育网络安全数据库（CYBERHEAD）在几乎所有欧盟和欧洲自由贸易联盟成员国中提供了100多个教育计划。这些计划表明，越来越需要制定全面的方法来应对与塑造我们世界日益重要的新型超链接技术和出现的相关安全威胁和风险。与此同时，许多研究所正在关注处于全球研究前沿所需的技术专业知识。在欧盟，有许多网络项目、倡议和促进欧盟的网络安全领域。
2017年，根据对欧洲国家600多人的分析研究，联合研究中心总局（DG JRC）与通信网络、内容和技术总局（DG CNECT）合作，进行了网络安全素养调查。这项调查伴随着网络空间分类系统的发展，以支持对网络空间能力的分类。欧洲网络安全分类法是促进欧盟网络安全能力分类的有用工具。网络安全本质上是一个跨领域的话题，包括许多不同的研究领域，学科和政策领域。
网络安全研究领域由广泛的不同活动组成，涉及技术、社会研究以及该领域的政策。这些行动链之间的整合需要在研究中全面解决，以便确保产生最广泛的影响。我们需要在不同学科和利益相关者之间架起桥梁，以接受并参与欧盟网络安全研究领域的丰富性。
二、一个安全和以人为本的超链接世界
高度互联世界的概念不仅仅由技术定义，还由它带来的社会、经济和政治影响来定义。超链接的概念最初由社会科学家定义，指的是通过各种数字方式不断连接的网络组织和社会中的人。许多数字环境中都存在链接性，它代表了各种信息系统、数据和通过互联网连接的许多设备之间的内在联系。最近某些技术平台的内外讨论都谈到了“元宇宙”，作为对沉浸式的、数据驱动的环境和我们日常生活之间关系的一种理解。
在计算机网络中，超链接是指通过网络进行通信的所有事物，包括人与人、人与机器甚至机器与机器的通信。随着网络覆盖、输入/输出通信（MIMO）和带宽的大幅增加，这一链接将成为可能。5G和6G等当前和未来的移动通信提供了这种可能性。
6G无线通信的引入还需要大约十年的时间。尽管如此，关于下一代新技术和潜在应用的首次讨论已经开始。从广义上讲，目前的问题是，6G是否应该在核心特征方面对5G有所改进，或者它是否应该超越现有的覆盖范围并进入新的领域，如水下和太空，甚至在分子水平上。
此外，随着在线购物、金融科技、加密货币、社交媒体和许多其他变革性技术的出现，商业和社会的日益数字化正在无处不在地利用链接。随着超链接、数字经济和社会将越来越依赖网络来改变公司开展业务的方式和我们所有人的生活方式。
随着数字经济与社会的联系日益紧密，网络安全也将变得越来越重要。网络威胁的频繁和复杂性将继续挑战个人和组织。超链接性增加了相互联系的个人、机构和国家之间的脆弱性。它代表了对人类的新挑战，即如何定义数亿个人互联这样的规模。
需要多学科和面向未来的研究来促进向这个不可避免的高度互联世界的过渡。
在提供对技术和社会变革的早期研究方面发挥着重要作用的远见卓识会塑造未来，并采取行动，帮助定义一个理想的、对全球有益的高度互联的未来。网络安全研究将为建立一个值得信赖和可靠的高度互联世界奠定基础。
一切数字化
数字化的过程——通常被称为数字化转型——深刻地改变了我们的经济和社会。在这十年中，它将继续影响个人、企业和组织。本报告中描述的所有对未来挑战和机遇的研究警示发生在经济和社会中对数字依赖性的政治意识日益增强之际。
在这场数字化转型中，最值得注意的模式是我们生活的数据驱动型世界，这个世界将永远在线，始终跟踪、始终监控、始终保持和观察——因为它将永远在学习。我们感知到的随机性将被复杂的算法限制为常态性模式，这些算法将以新的和个性化方式将我们的数据传递到未来。数据通常被认为是一种资产，但我们看到，在当代社会中，对数据的争论正在超越“数据是新石油”层面，推动将数据视为“新空气”。
一个重要的讨论是，随着实际应用、数据收集器和数据处理器的扩展，超链接将如何推动万物的数据化。以下列表重点介绍了未来几十年的一些挑战。
对个人数据的需求：通过超链接，收集数据的机会显著增加。其中最敏感的是个人身份信息和地理位置，如果被破坏或窃取，可能会对公民的隐私、经济和社会造成严重影响。
对监视公民的兴趣日益浓厚：人们担心私人（公司）和国家赞助的代理人对监视公民和组织的兴趣日益浓厚。随着超链接和对数据的需求不断增长，窃听可能会成为侵犯用户数据的隐私和保护用户数据的一个主要问题。
利用技术扩大影响欧盟公民基本权利的风险：使用人工智能探索数字平台所收集和维护的数据正迅速增加，可能会侵犯公民的基本权利，威胁隐私、数据保护和平等待遇，特别是当涉及到由于机器学习的快速发展而越来越多地使用大数据。
三、智能系统的时代
人工智能（AI）是我们这个时代最具变革性的力量之一，也是欧盟数字十年战略和雄心壮志的关键。本报告在各个部分也都提到了其不断扩大的重要影响力。人工智能将继续通过与机器学习（ML）、自然语言处理（NLP）和认知计算等先进技术的融合，改变企业和组织的工作方式，管理数据并与用户互动。在一些领域，仍然需要更多的研究和开发来促进值得信赖和可靠的人工智能，以支持欧盟公民的权利并尊重欧盟价值观。
为了描绘由网络安全的复杂和无限开放性定义的领域，我们在“用于伤害的人工智能”和“用于保护的人工智能”之间进行了明确的区分。
潜在的犯罪分子具有高度创新性，可能会开发算法、解决方案或程序，最终成为网络犯罪领域的新标准。此外，即使是一个“安全可靠”的系统，以后也可能被另一个恶意行为者劫持。
网络安全和人工智能交叉领域的参与者经常发现自己在知识创造和市场举措之间陷入困境，例如学术研究以比平常更模糊的方式与研发混杂在一起，同行评审的文献与人工智能和网络安全问题的主要参与者共存，主要咨询机构和顾问（通常是前任或现任活跃的C级高管），所有这些都有助于该研究领域的集体进步。
网络安全应用中的人工智能可以分为以下几类：人工智能驱动的防御机制、利用人工智能的网络威胁、对基于人工智能的安全机制的攻击（使用人工智能来及时检测、识别和适应网络攻击的协同关系的机制）和基于人工智能的保护机制的防御（以保护和保护基于人工智能的机制免受恶意尝试）。
为了给这次探索奠定基础，对两个特别重要的重点领域进行了案例分析，因为它们显示了人工智能和网络安全问题之间强烈的相互依赖性。
（一）人工智能改善网络安全防御
第一个研究重点应该是使用人工智能来改善网络安全防御。在这方面，应该研究常见的网络安全任务，例如预测和预防攻击、检测威胁和入侵、响应、规划和其他领域，以及如何应用人工智能和机器学习任务、技术和方法，并以何种方式解决这些问题。
人工智能工具的高性能体现在低成本和实时性。人工智能/机器学习提供有前途的解决方案的网络安全领域包括需要处理大量数据的应用程序。特别是人工智能/机器学习可以使用模式识别和异常检测方法自动检测威胁检测（已知和新兴威胁）的最重要算法之一。人工智能方法可用于垃圾邮件、入侵以及恶意软件检测和分类。支持向量机（SVM）是异常检测离子和模式识别（恶意软件、垃圾邮件和入侵检测）的最重要算法之一。其它算法也已用于垃圾邮件和入侵检测。结合多个机器学习工具的集成方法已被用于检测恶意软件和入侵。
基于人工智能的监督和无监督方式的防御，以及仿生算法和自动编码器，可以防止分布式拒绝服务（DDoS）、勒索软件、零日攻击等攻击。
此外，基于人工智能的系统还可以预测最容易获得的攻击点，使运营商能够相应地规划和分配资源。一般来说，手动响应无法跟上越来越多的自动化威胁，而这正是基于人工智能的解决方案显示出巨大潜力的地方。但是，这些工具的效率取决于数据的可用性和质量。在大多数情况下，并非所有必要信息都可提前用于算法，例如，在适当的背景下攻击数据。
（二）人工智能协调网络攻击
第二个研究重点应该是保护人工智能不用于协调网络攻击，以及防止对基于人工智能的机制和工具的攻击。攻击者利用人工智能来提高攻击效率，发现易受攻击的入口点，识别以前未知的弱点，自动化攻击机制并扩大其影响。此类攻击的示例包括恶意个性化推文或使用深度伪造的生成对抗网络（GAN）。人工智能还可以通过使用强化学习技术等来提高恶意软件的效率。
基于当前的假设，例如大量高质量数据的可用性和随时间推移的平稳性，研究和创新工作应侧重于小数据、端到端解决方案以及最大限度地减少对专业知识的需求。研究和创新应定期评估所开发模型的有效性，能够结合非平稳关系（即系统状态的时间方差变化）、仔细检查可用数据集以检测和消除现有的偏差和不平衡、以及开发标准化数据集，以可靠地再现和比较现有的基于人工智能的解决方案。
有些数据集促进了人工智能技术在网络安全领域的多样化应用。这些涵盖了广泛的网络安全应用，并在一定程度上代表了现实世界的情景。
人工智能工具和机制本身就是攻击点，即通过它们自己在开源软件库中的漏洞、数据中毒（毒害训练数据的攻击），基于生成对抗网络的对抗性攻击，以及训练模型的逆向工程。
最后，在解决网络安全应用时，有许多与人工智能相关的特定要求。基于人工智能的工具和方法应该是可验证的、可靠的、可解释的、强大的、最有利的对抗性攻击、可审计和无偏见的。同时，为了有效满足这些要求，人工智能应该整合多学科观点，如社会技术、经济、监管、文化和认知观点。
值得注意的是，为本报告所做的工作明确了现有差距，并为未来的研究提供了方向，这些研究将确保将人工智能作为提高网络安全工具而进行智能的和有效的部署。
四、计算安全
计算安全是一个庞大而新兴的研究领域，由于我们对通信技术的日益依赖而影响深远。处理系统将我们和日益高度互联的世界拼接在一起，它的安全性取决于处理器及其处理数据的方式。
计算安全性包括硬件安全性和密码问题。保护数据和应用程序的硬件安全性，如免受特权用户（如云提供商或系统管理员）的攻击，也变得越来越重要，著名的安全漏洞（例如2021年3月的Verkada）就证明了这一点。这一事件中，置于各种公共位置和私人位置的150,000多个安全摄像头可以被侵入。
密码学研究中最重要的争论之一是量子信息处理发展对它可能带来的严重影响。当今大多数密码学原语的安全性依赖于难解性的计算问题，而这可以很容易地被获得量子计算机的对手所克服。一些已确定的挑战包括以下内容。
新公钥系统的设计和标准化：在量子时代来临之后，所有流行的公钥解决方案都将被打破，新系统必须基于在量子计算模型中仍保持问题难解而设计。这些数学问题必须得到很好的研究，并针对量子算法进行广泛的评估。
新的对称密钥系统的设计和稳定化：虽然公钥方案将被打破，但对称密钥加密似乎受到的影响要小得多。Grover量子算法的影响可以通过将密钥大小增加一倍来补偿，以实现所需的安全级别。然而，这并不意味着这将是加密天堂的另一天。将密钥大小加倍会对加密模块的性能产生重大影响，在某些情况下，使用它们将是禁止的。
（一）可持续密码学
量子计算可能会对密码学和网络安全产生灾难性影响，这证明追求安全是一场马拉松式的比赛，需要不断的努力和意识。
研究新的加密原语、算法和协议是一项永无止境的任务。
一些已确定的挑战包括：
量子密码学：这是一个重要的范式转变，因为密码学领域的安全是基于物理学的。更准确地说，量子密码学涵盖了基于量子力学理论的大量加密算法。量子密钥分解是量子领域最广为人知的、应用已进入生产阶段的加密技术。然而，它仍然很难扩展，该方案的安全性虽然在理论上是无条件安全的，但在实践中受到几个假设的影响。
新的数学问题：自20世纪70年代中期引入公钥范式以来，已经提出了几个数学问题用于公钥方案。然而，公钥技术一直被两个主要的硬数学问题所主导，即整数的因式分解和离散对数问题的变体（场，椭圆曲线）。量子计算的预期实施迫使密码学界将其研究工作投入到新问题上，或者重新审视过去四十年中没有得到足够关注的旧问题。
（二）隐私保护区块链技术
区块链技术提供了实现公共交易数字分类账的可能性。该结构的主要安全特性是，它允许仅附加具有密码保证的操作，即用加密哈希函数的安全性保护结构的完整性。该技术已在许多应用中被广泛采用，并为用户提供了在没有中间人的情况下直接相互处理的能力 。
加密货币和金融通常已经认识到这种技术的重要性，也是该技术已经证明其力量的领域。但是，有几项改进是有序的，用户的隐私已被确定为其中最重要的改进之一。虽然基于区块链的加密货币的主要目标是透明度，但在许多情况下，个人或公司希望保护交易相关信息的隐私。毕竟，财务和交易通常被认为是私人信息。所确定的一些挑战包括以下内容。
可验证计算：可验证计算（VC）的范围是验证外包操作的输出。客户端希望将某些函数的计算外包给不受信任的计算机，并确保计算的输出是正确的。客户的目标是效率和诚信。云计算是主要应用领域之一，因为云数据处理结果可能不正确，并且不能始终信任。
零知识证明（ZKP）计划的标准化：每年都会出现几个新的方案，以改进以往的工程或引入新的属性。零知识证明方案有各种风格，每种都是针对特定用途量身定制。就目前而言，似乎没有一个方案来统领它们。从过多和多样的方案中可以清楚地看出，需要对这一领域进行澄清。需要指南来促进为每个用例选择最佳零知识证明方案。
（三）加强隐私-用户控制的加密
关于加密及其对执法部门访问数据的能力的影响，一直存在争议。虽然没有良方可以解决这个问题，但关于加密策略的讨论，亦或是，用户控制加密的讨论仍然存在。欧盟成员国被要求在“加密以实现安全和放任加密”之间找到平衡。从法律上讲，欧盟范围内的强加密立法被认为是确保人权安全的可能措施。仍存在以下一些挑战。
隐私保护市场：欧盟成员国必须在隐私和防止犯罪活动之间找到平衡。他们被邀请保护隐私和欧盟公民、欧盟市场客户的合法权利。这一挑战既是技术性的，也是监管性的。从技术角度来看，必须解决几个问题，即密码管理和数据访问控制。
（四）硬件辅助安全性
即使是最安全的算法，如果执行它的计算环境没有得到充分的保护，也是脆弱的。必须在整个数据周期中提供有效的保护机制，即必须始终在所有位置安全地处理数据。这导致对机密性和完整性的严格要求，不仅在数据“传输中”（例如，当通过网络连接交换时）或“静止”（例如，当它存储在磁盘上时）时，而且在“使用中”时（例如，它被加载到RAM或CPU中以执行计算）也是如此。
虽然保护传输中的数据和静态数据相对容易实现，但在很大程度上，保护使用中的数据仍然是一个悬而未决的问题。
硬件辅助安全性并不意味着硬件安全性。硬件安全是指保护物理系统免受损害，而不是保护在计算机系统硬件上运行的软件。相反，在硬件辅助安全中，我们倾向于支持软件安全，通常是通过可信计算（TC）功能。可信计算的一个关键概念是信任链。通过验证硬件和软件的每个组件（从最终实体到根）来建立信任链。可信计算的一些普遍同意的功能包括可信启动、密封存储、窗帘存储器、证明、完整性测量和安全I/O。
可信执行环境技术（TEE）提供了一个应用程序层，专为具有安全意识的开发人员而设计，这些开发人员将应用程序划分为安全关键部分（在处理器强化的安全区和/或受保护的内存区域中执行）和非关键部分（正常执行）。可信执行环境技术受到了开发专家、软件供应商、原始设备制造商（OEM）和软件生态系统合作伙伴的极大关注。可信执行环境技术的吸引力在于它能够为使用中数据的完整性和机密性提供保护，甚至可以针对超级特权软件和用户。值得注意的是，这不仅对恶意软件有效，而且还免除了信任第三方（如系统管理员或云提供商）的需要。
（五）保护隐私的人工智能
人工智能推理系统有望成为在云、核心网络和设备上部署和运行的绝大多数现代系统的组成部分。人工智能模型的训练和预测阶段都对客户隐私构成了新的风险。许多人工智能模型通过将客户的偏好嵌入到训练数据中来优化，而即使是原始的训练数据也可能包含私人信息（性别、位置、宗教、政治观点）。在推理阶段，客户端的输入在不受保护的情况下使用，而在一些情况下，甚至人工智能模型及其系数（例如权重和偏差、架构）也需要知识产权保护。毫不奇怪，隐私保护已被业界确定为广泛采用机器学习推理技术的关键因素之一。下面的列表确定了人工智能隐私研究的主要领域。
1. 实用的完全同态加密：同态加密（HE）是一种加密形式，允许用户在不首先解密加密数据的情况下对加密数据执行计算。这个问题已经研究了四十年，并于2009年首次提出了全同态加密（FHE）解决方案。从那时起，提出了越来越多有希望的计划。
2. 多方计算：在安全多方计算（MPC）加密中，多个参与者可以一起正确执行计算，而不会泄露各自的计算输入。该领域于20世纪80年代初引入，从那时起已经做了很多理论工作。
3. 标准化：一个由工业界、政府和学术界组成的开放联盟，旨在标准化同态加密，目前已有36个。标准化工作旨在促进同态加密技术的适应性，并以清晰易懂的形式呈现标准化方案的安全特性。到目前为止，所有提出的标准化方案都属于第二类。除了安全多方计算协议领域比同态加密更成熟之外，标准化工作非常有限。
4. 硬件实现：在过去十年中，由于理论的进步和更有效的实现，同态加密方案的性能显著提高了五个数量级。尽管在过去十年中的改进令人印象深刻，但全多方计算协议和同态加密方案都带来了不容忽视的巨大计算开支。复杂操作和大操作数的硬件实现似乎是高效全多方计算和同态加密模块的解决方案。
5. 编译器：对于非专家来说，实现基于同态加密或全多方计算的计算是复杂的，在过去十年中取得了巨大的进步，并且已经引入了几种编译器来产生有效的协议。为了方便开发人员的工作，已经提出了同态加密编译器来提供高级抽象。
五、生命科学（生物技术）中的网络安全
各国政府和安全专家认为生命科学行业特别容易受到网络犯罪的影响。审查生命科学，特别是生物技术中网络安全问题的重要性与许多其他关键基础设施（如化学工业、核物理等）没有不同。然而，由于缺乏认识和具体的网络安全控制来应对风险，以及可能对生命本身产生的长期影响，从研究角度审视这一主题的必要性就显得十分紧迫。
在网络安全方面，创新正迅速成为生命科学客户的双刃剑。最近，一位网络安全研究人员发现了两个高级持续威胁（APT）组织构成的威胁，这一威胁在被发现前已经访问一家领先制药公司的环境长达三年。他们从受害者处窃取了知识产权和商业数据、有关生物培养产品的信息、成本报告以及与公司海外业务相关的其他细节。对于制药公司而言最重要的是新药配方。
(一）网络生物安全的紧迫性
从广义上讲，网络生物安全旨在识别和减轻由生物学数字化和生物技术自动化带来的安全风险。网络生物安全最初被定义为，了解混合生命和医学科学、网络物理维度、供应链和基础设施系统内部或界面可能发生的不必要的监视、入侵以及恶意和有害活动，并制定措施进行预防和保护。对安全性、竞争力和弹性相关的威胁进行缓解、调查和归因。我们在理解生物系统如何工作方面达到了新的里程碑，还找到了以有意义的方式操纵生物系统以发挥我们的优势或需求。基因编辑等生物技术工具可以有意识地将可遗传的遗传性状引入野生种群，为避免某些通过媒介传播的疾病提供了一种新方法。
生物技术的某些领域是网络生物安全特别关注的领域。例如基因编辑工具CRISPR-CAS9（簇状规则间隔短回文重复序列相关蛋白-9核酸酶），在全球范围内用于快速精确的基因编辑。
研究人员喜欢使用计算机分析脱氧核糖核酸（DNA），操作实验室机器并存储遗传信息。在医疗保健领域，生物学和药物代谢工程的数字化正在加速新疫苗、药物和止痛药的开发。农业正变得越来越智能和数字化，农民依靠植入土壤的传感器、控制拖拉机移动的卫星和其他新做法获得的数据驱动决策。但新的可能性也带来了新的脆弱性和风险。
过去五年中，获取和使用生物武器的技术壁垒已经大大降低。生物技术进步带来的安全影响不仅限于生物武器，例如代谢途径工程的发展提供了生产海洛因等非法药物的方法。科学家们已经清楚如何制造其他麻醉剂中的活性成分，例如大麻和麦角酸二乙酰胺（LSD）的前身。如果发生恐怖组织或专制政权试图传播旨在袭击军队、吓唬平民或使粮食生产陷入混乱的转基因生物的情况，应如何应对。
最近，研究人员在一项研究中概述了通过使用基因测序技术改变序列或注释来破坏数据库的风险。本报告中，计算机科学家设计了一个DNA样本，测序时会产生一个允许黑客远程控制测序计算机并对DNA序列进行更改的文件。这些变化可能会推迟研究计划，导致资本和劳动力损失，或者可能被用于恐怖主义行为，以不受控制的方式产生毒素或传染性病原体。为了降低风险，生命科学界的文化必须从盲目信任转变为安全意识高且具备良好教育。这还需要处理好产品开发工作流程中计算和实验维度之间的复杂关系。
病原体和毒素的多样性及其用作生物武器（BW）的潜力可能是以下因素造成的：传染性（引起疾病所需的生物体数量）、毒力（所致疾病的严重程度）、传播性（人与人之间传播的难易程度）和潜伏期（从接触生物制剂到疾病暴发的时间）。这些属性都可以通过现代生物技术进行管理，而有关此类实验系列的信息验证是任何使用它们作为生物武器进行秘密攻击的关键。
同样，在网络空间中存在各种恶意代码，包括病毒（在目标计算机中复制的程序）、蠕虫（自我维持的程序）以及执行合法功能并结合恶意活动的载体，如特洛伊木马。此外，可以协调僵尸网络或受恶意代码感染的计算机网络来执行分布式拒绝服务攻击。
对于生物武器，运载工具的范围从先进的空中喷洒到食物或水的污染，而恶意代码可以通过用户门户、电子邮件、网络浏览器、聊天客户端、网络应用程序和更新在网络空间中传输。近年来，通过一系列破坏性事件，网络威胁急剧扩大。
生物信息学软件仍然没有针对网络攻击进行强化。因此有必要促进广泛采用标准软件的最佳安全实践，例如输入清理、使用内存安全语言或缓冲区边界检查以及定期安全审计。修补仍是挑战，因为分析软件通常驻留在单独管理的存储库中，并且没有定期更新。
(二）绘制已知网络生物安全挑战和现有差距图
可利用的技术和一系列（仍未得到充分评估的）攻击媒介包括（a）数据库（基因组，危险基因或生物体列表），设计-构建-测试库和规则、模拟、测试数据、样本记录；（b）单个计算机、实验室设备和过程、关键任务设备和硬件（例如汇编器、合成器、传感器）；（c）关键任务软件（例如工作流程控制、过程控制）；（d）本地和远程网络；（e）原材料、供应和实际生物物质。
值得注意的是，整个生物技术领域使用的许多设备都是便携式的，并且大多都连接到互联网。挑战不仅在应用层面，甚至在研究过程以及设计、构建和测试层面也存在。
由于自然界固有的巨大差异，生物过程很难掌握。计算机化或自动化的结果（例如分子诊断测试）几乎不可能用肉眼验证。然而，生命科学领域更传统的测试和过程已被计算机技术所取代。实践技能和实践经验不再是重点。此外，计算机化的结果（例如在诊断中）通常比临床观察更可信。虽然生物或医学决策传统上基于共识和专家意见，但计算机模拟或自动化过程很容易被扭曲和制造，而人无法区分。已知的攻击例子表明，破坏传感器和协议很容易，例如，通过自动化过程对皮肤癌，可参考的糖尿病视网膜病变和肺炎进行误诊是多么容易。
(三）未被识别的生物技术威胁形势
研究最多的网络生物安全危险可能涉及致病数据库。几项研究表明，人机界面加剧了广泛的网络安全漏洞（错误和社会工程攻击）。危险不仅在于不良行为者可能从不保险的数字信息中“创造”危险的微生物。同样令人担忧的是，错误或操纵的数据可能会损害国际研究活动以及疾病暴发期间（例如在试图理解、建模和检测新病原体时）的公共卫生对策。
一般而言，网络生物安全漏洞可能导致保密性、完整性和可用性（CIA）在各个层面（包括生物合成途径和过程、软件、硬件、关键任务设计等）和规模（从分子水平的生物产品到转基因植物、微生物或动物）的破坏。值得注意的是，由于生物技术只能处理小的生物片段（例如“标记基因”或“DNA特征”，据信它们代表整个生物体），因此在许多情况下，建立生物实体或过程的真正“完整性”（例如真正的转基因生物与非法或操纵的转基因生物）在技术上是不可能的。
生物数据机密性的损害可能会泄漏致病数据。例如，非法获取合成工艺或关键生物物质可能导致生物制剂的危险分布，并产生潜在的全球影响。
仅提供操纵的设备或流程可能会导致错误的医疗或错误检测攻击——设备或服务可能看起来正在运行，而实际上提供了错误结果。例如，使用现代测序技术可能导致错误诊断。当没有其他分子测试可用时，攻击甚至可能产生全球影响，就像新型病原体经常发生的情况一样。另外，缺乏可靠性（包括供应链攻击）可能导致药物、医疗用品、食品、知识等短缺。
六、核心领域研究中的跨学科性
本报告概述的所有四个主题（智能系统、网络生物安全、计算安全和超链接世界）都出现了许多常见的研究挑战和研究差距。
关键问题集中在核心领域研究人员的跨学科性，以及加入（或加强）如隐私、机密性和可信度等基本网络安全原则。信任也是贯穿所有主要研究主题的核心。
每个研究主题都提到了技能、教育和意识。新兴技术不仅提供了创新（社会和市场）机会，也提供了滥用风险。对这些技术发展可能被滥用的教育和认识必须聚焦于为开发人员和用户提供最合适的技能。
许多利益相关者参与研究了四个主题，这些主题被确定为将对社会韧性产生影响的关键领域。这些研究主题不应被解释为独立研究的孤岛。鉴于研究挑战的严峻性，需要各利益攸关方合作，在理解这些领域的技术、政治、社会和经济方法之间相互作用时，需要在根本层面上解决这个问题。一种方法是确保通过代表不同利益相关者的多学科团队来完成这项工作。所有研究主题都涉及理论构建、概念化、开发和生产不同阶段的利益相关者，并且应全部整合到研究和创新活动中。
人工智能与其他新兴趋势的融合
随着数字生态系统的不断扩大，物联网（IoT）和其他设备通过手机、中央系统、数据中心和机载设备连接个人、组织和价值链，人工智能可以被视为几个领域的关键驱动力和底层技术（并非详尽），例如下一代移动通信、计算机安全和生物技术（如网络生物安全和合成生物学）领域。
预计6G的发展将在未来十年内达到技术成熟和标准化，影响2030年后人们与数字世界的互动方式。6G将超越移动互联网，支持从核心到网络终端无处不在的人工智能服务。事实上，6G有望实现“人工智能化”，因为它的核心物理层功能将依赖于人工智能，并能够实现广泛的基于人工智能的新应用。
人工智能将在6G架构、协议和运营的开发、优化中发挥关键作用。与此同时，人工智能对于物联网来说将越来越必要，无论是运行一些本地和相对封闭的系统，还是通过互联网、云端或边缘监控全球生态系统。人工智能无疑是一套减轻物联网风险的优秀工具，无论是寻找漏洞还是预测问题（甚至通过自我报告功能预测它们），还包括控制跨网络问题、协调信息流量，甚至更普遍的威胁风险。
密码学是计算机安全的基础，也是网络安全中最重要的研究领域之一。密码学研究中讨论的最重要问题之一是其如何受到量子信息处理潜力的严重影响。
生物技术和人工智能的日益融合也是一个新兴开发领域。收集和处理大量数据的能力是人工智能、机器学习和深度学习的基础，加上基因编辑、DNA测序和合成等生物技术的进步，正引领着下一次工业革命产生质的飞跃。精准医疗、强化生物监测、合成生物学都是将从这些领域的交叉点中受益的技术。生物人工智能协同作用的进展也可能引发伦理问题。
除上述内容外，还需要为四个主题创造一个讨论社会挑战前景的空间。这些“观点”将继续批判性地评估我们的技术设计、使用和采用，而不仅是通过技术确定的镜头展望未来。
七、结语和后续步骤
本报告重点介绍了ENISA与专家团队协商确定的一些研究、创新需求和优先事项的关键领域。今年建议的四个主题包括ENISA确定的未来10至20年的一些关键趋势。在投入的研究人员和行业中，通过确定十年来对欧洲经济和社会数字化投资的方向，提高对关键挑战的认识水平。解决一些挑战需要政策制定者和研究人员的坚定立场和承诺，并将其纳入研发计划和路线图。
尽管欧洲作为研究和创新的全球贡献者处于领先地位，但仍有一些挑战需要注意，本报告强调了这一点。第一是涉及跨学科性，优秀的研究是在多学科中进行的；第二是将先进和小群体的基础研究与更广泛的实施举措联系起来，这在欧盟资金调度工具及其他方面都很明显；第三是在全球背景下组织和协调研究工作。
本报告旨在作为ENISA的指南，就网络安全研究和创新方面的重要问题向不同利益相关者提供建议，包括欧盟委员会，欧洲网络安全工业、技术和研究能力中心管理委员会以及成员国。本报告仅简要概述第一版年度报告，总结网络安全领域的挑战和研究机遇。
未来几年，ENISA将发布单独报告，分别评估四个研究主题，以提供本报告中概述的有关挑战和研究需求的更多背景和技术信息。与此同时，ENISA将继续与利益相关者和研究界合作，讨论网络安全相关主题。这些主题将事先从与利益相关者和专业团队进行的前瞻性研究中确定。讨论结果将以年度简报的形式进行审查和描述，并于年底前公布。（李元元 朱莉欣）
声明：本文来自苏州信息安全法学所，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
