人工智能在网络安全领域的应用已经不是新鲜的话题，早从十多年前开始，全球各类安全产品和工具已经逐步利用AI提升对恶意威胁的检测效率，以及安全产品自动化响应和处置的能力，大幅提高安全运营效率，降低人工参与比例和安全服务成本。2022年底，ChatGPT的发布再次引燃市场对人工智能，特别是大模型和生成式人工智能的热议，国内众多网络安全厂商也在2023年陆续推出了各具特色的网络安全垂直领域大模型。

IDC认为，对于大多数网络安全专业厂商来说，投入顶尖人力，耗费海量通用数据、算力、时间和资金从零开始构建自有基础大模型是不现实的，选择国内外知名开源通用大模型为基础，利用自身多年积累的数以亿计的安全垂直领域数据和知识，在基础通用大模型之上投喂安全知识语料，进行模型的再次预训练和微调，从而生成安全垂直领域大模型，是一个性价比更高的途径。

IDC于近日发布了《大模型在网络安全领域的应用市场洞察，2023：破土萌芽，未来充满无限想象》（Doc: #CHC51403423）报告。IDC通过本次调研，看到安全运营、威胁情报、威胁检测与分析、应用程序安全、数据分类分级成为大模型在网络安全领域的五个主要应用方向：

  • 安全运营是网络安全技术提供商基于大模型构建安全能力中最活跃的领域。技术提供商将大模型与态势感知平台、安全运营中心（SOC）、扩展检查与响应（XDR）系统等集成，安全运营人员可以使用自然语言与安全系统沟通，并调用各类基础安全工具，极大地简化和加速日常工作流程，降低安全运营对高级分析师的依赖。

  • GenAI在威胁情报领域展现出直观的效果以及巨大的潜力。技术提供商将GenAI与威胁情报集成，帮助安全分析师通过自然语言进行威胁情报的查询和解释，简化甚至自动化部分判定流程，这在效率和准确性上的提升是显而易见的。随着威胁情报价值的提升和安全大模型的发展，两者的“协作”将发挥出巨大潜力。

  • 通过大模型增强威胁检测与分析能力，是技术提供商原有基础能力的聚合与增幅，而非对基础安全检测技术的替代。作为企业安全防护体系的“大脑”，大模型帮助安全分析师通过自然语言智能联动各类威胁检测引擎、AI小模型、安全工具及产品。利用大模型强大的计算能力和逻辑推理能力，对多源实时数据进行关联分析，提升大模型对异常行为、潜在威胁，尤其是未知威胁的检测效率和准确性。

  • GenAI可以帮助企业增强应用程序安全能力，从软件开发生命周期的起始阶段编写更安全的代码，并提升和简化检测和修复代码中安全缺陷的能力。当然，现阶段还无法通过GenAI帮助代码编写者实现应用程序安全性的巨大改进，产品还缺乏解释应用程序完整上下文的能力，因此难以防范复杂的代码安全风险。

  • 大模型在数据安全领域的应用也已经被技术提供商提上日程，特别是在数据分类分级中的应用前景令人充满期待。目前，众多数据安全厂商已经在运用机器学习、深度学习等技术来辅助进行敏感数据发现、分类分级、威胁分析等工作，随着安全大模型的加入，数据安全治理的效率和准确性将进一步提升。

IDC中国网络安全市场研究经理赵卫京认为，国内外网络安全技术提供商在2023年竞相推出网络安全垂直领域的大模型产品和服务，并在安全运营、威胁情报、威胁检测与分析、应用程序安全、数据分类分级等应用场景初露峥嵘。随着大模型技术的快速发展，将有更多的网络安全工具因为大模型的加入带来能力、效率和可用性等方面的跨越式发展。当然，企业在体验GenAI带来的巨大价值的同时，也需要关注GenAI可能引发的数据隐私与合规、系统脆弱性、内容偏见与幻觉等问题。

声明：本文来自IDC咨询，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。