编者按

英国政府通信总部（GCHQ）下属的国家网络安全中心（NCSC）1月24日发布题为《人工智能对网络威胁的近期影响》的评估报告，重点评估人工智能将如何影响网络操作的效率以及未来两年对网络威胁的影响。该报告以不同网络威胁者的意愿和能力为基础，从侦察、攻击陷阱、工具、横向运动和数据泄露五个维度分析了人工智能可能提升网络操作能力的程度，以及对网络威胁的影响。

在假设未来两年变革性人工智能不会取得重大突破的前提下，该评估报告得出以下关键结论：人工智能（AI）未来两年几乎肯定会增加网络攻击的数量并加剧网络攻击的影响，但对网络威胁的影响将是不均衡的，包括在网络威胁行为者的使用以及能力的提升方面；2025 年的威胁来自现有策略、技术和程序的演变和增强；人工智能将主要提高威胁行为者在社会工程方面的能力，随着模型的发展和采用的增加，生成式人工智能（GenAI）将促进与受害者进行令人信服的互动；人工智能快速汇总数据的能力将使威胁行为者能够识别高价值资产来进行检查和泄露，从而增强未来两年网络攻击的价值和影响；包括勒索软件攻击者在内的威胁行为者已经并将继续使用人工智能来提高网络操作各方面的效率和有效性，这可能会在短期内加剧全球勒索软件威胁；人工智能很可能通过提高现有技术的效率来协助恶意软件和漏洞利用开发、漏洞研究和横向移动；随着识别易受攻击设备的侦察变得更快、更精确，人工智能很可能会加速网络弹性挑战；专业知识、设备、时间和财务资源对于在网络行动中利用人工智能的更先进应用至关重要，在短期内，能够获得高质量培训数据、重要专业知识（人工智能和网络）和资源的威胁行为者才能在网络行动中更复杂地使用人工智能；随着时间的推移，更复杂的人工智能模型的激增和应用的增加将降低新手网络犯罪分子、雇佣黑客和黑客活动分子开展有效访问和信息收集操作的障碍；到2025年，对人工智能进行高质量数据训练对于其在网络行动中的有效使用仍然至关重要，但到2025年以后，数据馈送的人工智能几乎肯定会得到改善，从而实现更快、更精确的网络操作；网络行动的数量、复杂性和影响力的增加将表明威胁行为者已经能够有效地利用人工智能。

奇安网情局编译有关情况，供读者参考。

人工智能对网络威胁的近期影响

一、NCSC 评估

NCSC 评估（NCSC-A）是针对英国网络威胁的权威声音。NCSC融合全源信息（机密情报、行业知识、学术材料和开源信息），提供独立的关键判断，为政策决策提供信息并改善英国网络安全。NCSC与政府、行业和国际合作伙伴密切合作，为评估提供专家意见。

NCSC-A 是情报评估专业主管（PHIA）的一部分。PHIA 通过分析行业技术、专业标准以及建立和维持跨政府社区来引领行业发展。

本报告使用 NCSC-A 产品中的正式概率语言（参见标准）来告知读者人工智能对网络威胁的近期影响。

二、“现实的可能性”有多大？

情报评估专业主管（PHIA）概率尺度

NCSC 评估每次进行评估、判断或预测时都会使用 PHIA 概率尺度。使用的术语对应于以下可能性范围：

三、关键判断

● 未来两年，人工智能（AI）几乎肯定会增加网络攻击的数量并加剧网络攻击的影响。然而，对网络威胁的影响将是不均衡的（见表1）。

● 2025年的威胁来自现有策略、技术和程序（TTP）的演变和增强。

● 所有类型的网络威胁行为者——国家和非国家、老练和非老练的——已经在不同程度上使用人工智能。

● 人工智能提升了侦察和社会工程的能力，几乎肯定会使两者变得更加有效、高效且更难以检测。

● 在网络行动中更老练地使用人工智能很可能仅限于能够获得高质量训练数据、重要专业知识（人工智能和网络）和资源的威胁行为者。更先进的用途不太可能在 2025 年前实现。

● 人工智能几乎肯定会让针对英国的网络攻击更具影响力，因为威胁行为者将能够更快、更有效地分析泄露的数据，并用它来训练人工智能模型。

● 人工智能降低了新手网络犯罪分子、雇佣黑客和黑客活动分子开展有效访问和信息收集操作的障碍。这种增强的访问权限可能会在未来两年内加剧全球勒索软件威胁。

● 展望2025年及以后，犯罪和商业市场中人工智能能力的商品化几乎肯定会为网络犯罪和国家行为者提供更好的能力。

四、背景

该评估重点关注人工智能将如何影响网络操作的有效性以及未来两年对网络威胁的影响。它没有解决人工智能工具的网络安全威胁，也没有解决将其纳入系统架构的网络安全风险。

该评估假设在此期间变革性人工智能没有重大突破。应不断审查这一假设，因为任何突破都可能对恶意软件和零日漏洞利用开发以及网络威胁产生重大影响。

人工智能对网络威胁的影响将通过使用人工智能通过检测和改进设计安全性来增强网络安全弹性来抵消。需要做更多的工作来了解网络安全领域的人工智能发展将在多大程度上限制威胁影响。

五、评估

1. 人工智能对网络威胁的影响是不均衡的；无论是在网络威胁行为者的使用方面还是在能力的提升方面。

2. 表 1：未来两年人工智能带来的能力提升程度。

3. 人工智能将主要提高威胁行为者在社会工程方面的能力。生成式人工智能（GenAI）已可被用于与受害者进行令人信服的互动，包括创建诱饵文档，而不会出现经常暴露网络钓鱼的翻译、拼写和语法错误。随着模型的发展和采用的增加，这在未来两年很可能会得到提升。

4. 人工智能快速汇总数据的能力也很可能使威胁行为者能够识别高价值资产来进行检查和泄露，从而增强未来两年网络攻击的价值和影响。

5. 包括勒索软件攻击者在内的威胁行为者已经在使用人工智能来提高网络操作各方面的效率和有效性，例如侦察、网络钓鱼和编码。这种趋势几乎肯定会持续到2025年及以后。网络钓鱼通常旨在传播恶意软件或窃取密码信息，在提供网络犯罪分子实施勒索软件攻击或其他网络犯罪所需的初始网络访问方面发挥着重要作用。因此，网络犯罪分子利用可用的人工智能模型来改善访问可能会在短期内加剧全球勒索软件威胁。

6. 人工智能很可能通过提高现有技术的效率来协助恶意软件和漏洞利用开发、漏洞研究和横向移动。然而，在短期内，这些领域将继续依赖人类的专业知识，这意味着任何有限的提升很可能仅限于已经有能力的现有威胁行为者。人工智能有可能生成能够逃避当前安全过滤器检测的恶意软件，但前提是它接受了高质量漏洞数据的训练。存在现实可能性（即概率介于40%至50%）的是，能力强的国家拥有足够大的恶意软件存储库，足以为此目的有效地训练人工智能模型。

7. 随着技术的发展，网络弹性挑战将变得更加严峻。到2025年，生成式人工智能（GenAI）和大型语言模型（LLM）将使每个人，无论其网络安全理解水平如何，都难以评估电子邮件或密码重置请求是否真实，或识别网络钓鱼、欺骗或社会工程尝试。发布安全更新以修复新发现的漏洞与威胁行为者利用未修补的软件间的时间已经在缩短。这加剧了网络管理员在已知漏洞被利用前对其进行修补的挑战。随着识别易受攻击设备的侦察变得更快、更精确，人工智能很可能会加速这一挑战。

8. 目前，专业知识、设备、时间和财务资源对于在网络行动中利用人工智能的更先进应用至关重要。到2025年，只有那些投资人工智能、拥有资源和专业知识并能够获取高质量数据的人员才能从人工智能在复杂网络攻击中的使用中受益。几乎可以肯定，在网络威胁行为者中，能力强的国家行为者最适合在先进的网络行动中利用人工智能的潜力。其他国家行为者和大多数向世界各国提供能力的商业公司将在未来18个月内获得社会工程、侦察和泄露方面的适度能力提升。有能力且成熟的犯罪集团也可能拥有足够的培训数据和资源来获得一些提升。

9. 然而，随着时间的推移，随着更复杂的人工智能模型的激增和应用的增加，这些因素很可能变得不那么重要。公开可用的人工智能模型已经在很大程度上消除了行为者创建自己的复制技术的需要，特别是在鱼叉式网络钓鱼等低复杂度操作中。到2025年，技能较低的网络行为者几乎肯定会受益于此类行动的显著能力提升。网络犯罪能力的商品化，例如“即服务”商业模式，几乎可以肯定会使有能力的团体将通过人工智能支持的网络工具获利，使任何愿意付费的人都可以使用改进的功能。

10. 到2025年，对人工智能进行高质量数据训练对于其在网络行动中的有效使用仍然至关重要。自动化的目标侦察、社会工程和恶意软件的扩展障碍主要与数据有关。但到2025年及以后，随着泄漏的成功发生，数据馈送的人工智能几乎肯定会得到改善，从而实现更快、更精确的网络操作。

11. 网络行动的数量、复杂性和影响力的增加将表明威胁行为者已经能够有效地利用人工智能。这很可能会在短期内加剧英国政府和私营部门的网络弹性挑战。

声明：本文来自奇安网情局，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。