前情回顾·大模型重塑网络安全

安全内参4月25日消息，在RSAC 2023上，谷歌云宣布推出Security AI Workbench，这是业界首套由谷歌安全大模型Sec-PaLM提供支持的可扩展平台。这套新安全模型针对安全用例进行了微调，并结合谷歌强大的安全情报，包括谷歌的威胁态势可见性，Mandiant关于漏洞、恶意软件、威胁指标与恶意黑客行为模式的一线情报。

谷歌云Security AI Workbench可为新产品提供支持，以其独特方式解决三大安全挑战：威胁过载、工具繁琐和人才短缺。它还提供丰富的合作伙伴插件集成，为客户带来威胁情报、工作流和其他关键安全功能。管理咨询公司埃森哲已经成为首家使用Security AI Workbench的合作伙伴。

这套平台允许客户在推理过程中提交私有数据，谷歌承诺确保对客户的一切数据履行隐私承诺。由于Security AI Workbench建立在谷歌云的Vertex AI基础设施之上，因此客户可以通过数据隔离、数据保护、主权与合规性支持等企业级功能来控制自有数据。

狙击网络威胁的二次传播

如果未能抢先一步识别和控制初步感染，还能如何帮助客户遏制威胁的进一步蔓延？随着AI技术的进步，谷歌云将世界一流的威胁情报、单点事件分析与基于AI的新型检测与分析结合起来，以防止引发新的感染。

如今，利用机器学习和生成式AI系统实施的潜在对抗性攻击正在快速增加，这些技术进步已经成为应对当前状况的关键手段。谷歌云为此推出了多项新功能：

  • VirusTotal Code Insight，使用Sec-PaLM模型分析并解释潜在恶意脚本的行为，可以更好地检测出哪些脚本将构成实际威胁。

  • Mandiant Breach Analytics for Chronicle，运用谷歌云和Mandiant威胁情报，自动提醒用户环境内的活动漏洞。该功能使用了Sec-PaLM模型，以实现对这些关键发现进行情境化和即时响应。

图：VirusTotal Code Insight分析样本行为

还有一些更新功能建立在谷歌行业解决方案的现有AI成果上。例如，Chronicle Security Operations使用了一线情报、综合推理与机器学习，来识别初始感染、确定影响优先级并遏制威胁；谷歌验证码reCAPTCHA Enterprise使用图像加噪功能，帮助网站免受恶意黑客利用新型AI发起的攻击，大大增强了对AI机器人的防御能力。

用智能工具降低安全繁琐度

为了推动组织客户开展安全现代化，谷歌云的一项重要手段是尽可能简化安全工具和控制项。生成式AI技术的进步，能帮助组织减少在保护自身庞大攻击面时所需要的工具数量，并最终使系统获得自我保护能力。这将最大限度减少管理多种环境及其安全设计、功能、控制所需要的工作量。因此，谷歌云推出了多项新功能：

  • Assured OSS，利用大语言模型将更多开源软件（OSS）包纳入OSS漏洞管理解决方案当中。

  • Mandiant Threat Intelligence AI，以Mandiant庞大的威胁图谱为基础，利用Sec-PaLM大模型帮助客户快速查找、汇总并应对相关威胁。

还有一些新功能以现有功能为基础，帮助客户将可见性、控制和检测目标集中起来，全面提高平台的整体安全性。例如，Security Command Center使用机器学习来检测客户容器环境内执行的恶意脚本，并向客户发出警报；Cloud Data Loss Prevention（谷歌云DLP）利用机器学习来查找和分类数据；机密计算产品则帮助客户在云上对敏感且受监管约束的AI模型进行协作、训练和部署，同时保持机密性。

推动安全工作变革以减少人才缺口

谷歌认为，要真正实现网络安全的大众化普及，首先必须承认AI发展将很快缔造出安全专业知识的新时代，深刻影响从业者们实现安全保障的方式。事实上，包括开发人员、系统管理员、网站可靠性工程师（SRE）甚至初级分析师在内，大多数安全相关工种并非接受过培训的安全专家。

大家不妨设想这样的未来：新人和安全专家们都能与AI专业知识相结合，把自己从重复和繁琐的日常任务中解放出来，完成一系列今天看来几乎不可能完成的任务。为了推动这方面发展，谷歌云正将Sec-PaLM大模型嵌入安全功能，使得安全更容易理解。谷歌云推出了两个提高效率的新功能：

  • Chronicle AI，支持搜索数十亿个安全事件，并与结果进行对话交互、提出后续问题并快速生成检测结果，整个过程无需学习任何新的语法或操作模式。

  • Security Command Center AI，能将复杂的攻击图谱转化为人类可读的攻击暴露解释，包括哪些资产受到影响和缓解措施建议。它还将为谷歌云的安全、合规及隐私检查结果提供基于AI的风险摘要。

还有一些新功能增强了原有产品。通过IAM Recommender推荐更适合实际使用模式的权限设置，帮助管理员进一步改善组织内的安全态势。Mandiant Automated Defense运用机器学习帮助进行第一层警报分类，减少重复以解决警报“轰炸”疲劳问题。

上市时间

VirusTotal Code Insight现已推出预览版，这是谷歌云面向客户推出的首个Security AI Workbench产品。谷歌云将在未来几个月内向受信测试人员陆续开放其他产品，并在今年夏季提供预览版本。

Security AI Workbench，包括Sec-PaLM与合作伙伴集成，以及上述演示中提到的各项产品创新，都将在提升整体生态系统安全水平的宏观目标中发挥基础性作用。截至目前，谷歌云正在努力实现：

  • 提供辅助功能，以颠覆式方法将IT人才快速培养为第一层安全操作员。Security Command Center现在可以汇总谷歌云的威胁情报洞察与调查结果，Chronicle能够快速生成YARA-L规则或其他检测结果。

  • 提供迭代查询和多变量检测生成、会话过滤、结果交互以及事件智能感知等高级功能，让第二层和第三层安全操作员专注于威胁分析工作，不必在流程和琐事中苦苦挣扎。Mandiant Threat Intelligence用户现可提升自己的核心能力，使用与Mandiant专家相同工具对威胁进行搜寻、调查和补救。

  • 将威胁情报和AI分析能力融合起来。VirusTotal Code Insight赋予安全团队洞察力，识别出可疑代码中潜藏的威胁。这将显著增强客户对潜在攻击的检测和缓解能力。

这只是第一步。谷歌云将继续迭代和更新，预计未来还将出现更多创新用例。

参考资料：https://cloud.google.com/blog/products/identity-security/rsa-google-cloud-security-ai-workbench-generative-ai

声明：本文来自安全内参，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。