在2024年的黑帽大会（Black Hat 2024）上，AI驱动的网络安全工具和技术成为焦点，引领了网络安全行业新趋势。众多安全厂商和初创公司展示了他们的最新成果，利用生成式AI来管理风险、检测并对抗网络犯罪，保障企业安全。以下是大会上一些备受瞩目的AI驱动网络安全产品和服务：

Apiiro：软件开发设计阶段的风险智能检测

Apiiro推出了一项名为“设计阶段的风险检测”的AI驱动功能，旨在分析功能请求，以在应用开发的早期阶段识别风险并启动安全审查或威胁模型。该功能依托Apiiro的专有LLM，使应用安全实践者能够在编码前的设计阶段缓解安全和合规风险，从而节省时间、减少返工并加速安全软件交付。主要风险分析领域包括架构设计、敏感数据处理、用户权限、生成式AI技术和第三方集成。

SentinelOne：Purple AI、CIEM、xSPM和SIEM

SentinelOne在其Singularity平台中新增了一系列功能，旨在利用生成式AI技术增强端点、身份和云环境的安全性。新功能包括Purple AI，它提供自然语言警报摘要和查询支持，帮助分析师简化警报。云基础设施权限管理（CIEM）帮助控制对云资源的访问权。此外，SentinelOne还推出了扩展安全态势管理（xSPM）和AI驱动的SIEM，以提供实时洞察和可扩展的安全解决方案。

Cymulate：AI Copilot

Cymulate宣布推出其AI Copilot，这是一款生成式AI解决方案，旨在启用针对实时威胁的安全控制。AI Copilot引入了动态攻击规划器，允许用户通过复制和粘贴威胁通告、新闻文章和安全研究发现中的URL或内容来执行自定义威胁评估。该功能旨在快速识别和修复安全漏洞，减少威胁评估所需的时间和专业知识。AI Copilot还生成定制的产品文档并简化故障排除，优化安全验证流程并解放IT资源。

Cequence：生成式AI驱动的统一API保护（UAP）

Cequence对其统一API保护平台进行了多项更新，重点是安全使用生成式AI应用程序和大语言模型。主要增强功能包括针对OWASP LLM十大威胁的测试套件、自动检测和阻止AI机器人活动、用于可视化API流的流图以及针对全面API发现的新集成。该平台还在本地处理API流量，提高效率和隐私，并提供针对API网关和基础设施的攻击面检测。

RAD Security：AI驱动的事件调查

RAD Security推出了其AI驱动的事件调查功能，旨在通过行为检测和响应提高云安全性。该方法通过结合LLM驱动的调查和行为检测，减少误报并提高事件评估的准确性。RAD Security的云检测和响应（CDR）解决方案创建行为基线，以检测零日攻击，并通过实时身份和基础设施上下文丰富检测。新功能包括Amazon EKS插件、自动AI驱动的调查、用于事件导航的发现中心和更新的RAD开源目录，以提高检测能力。

Code42：Incydr支持生成式AI的数据泄漏防护

Mimecast旗下的Code42，推出了其Incydr解决方案的升级版，以防止数据泄漏到生成式AI工具。Incydr的新数据可视化和PRISM系统可以帮助安全团队定位和响应数据向ChatGPT和Google Gemini等生成式AI工具的移动。该解决方案包括检测和阻止风险活动、为员工提供教育视频，并即将支持ChatGPT桌面应用程序。

Legit Security：AI安全指挥中心

Legit Security推出了AI安全指挥中心，旨在为安全团队提供一个控制台，以在开发环境中实现AI可见性和保护。该仪表板将帮助缓解在应用代码中使用AI模型的风险，提供AI模型清单的集中可见性，进行风险关联和优先级排序，并扩展ASPM控制以包括AI安全态势管理。Legit Security还宣布加入安全AI联盟（CoSAI），以推动软件开发中全面的AI安全措施。

Balbix：对话式AI安全助手

在Black Hat USA 2024上，Balbix推出了BIX，这是一款旨在简化网络风险和暴露管理的对话式AI助手。BIX旨在通过根据用户角色和过去的互动提供个性化、上下文相关的建议来简化风险管理。BIX具有移动访问、实时更新和与现有网络安全和IT系统集成的功能，有助于安全团队进行决策和跨渠道沟通。BIX利用基于RAG的大型语言模型和Nvidia硬件的多代理架构，旨在将复杂任务分解为可管理的子任务，以提高运营效率并减少响应时间。

Orca Research：AI Goat

Orca Research推出了一种开源AI安全学习环境——AI Goat，旨在解决OWASP十大ML风险。该工具可在Orca Research的GitHub存储库中获得，使用Terraform构建了一个易受攻击的AI环境，具有一系列威胁和漏洞，用于安全培训和教育场景。该工具旨在帮助安全专业人员和渗透测试人员理解和测试AI特定漏洞，并提高防御此类攻击的能力。在Black Hat USA 2024上，OWASP ML安全十大项目的负责人Shain Singh强调，AI Goat通过模拟现实世界的漏洞和错误配置，增强了对AI风险的理解，并帮助组织更好地防范潜在的AI攻击。

声明：本文来自GoUpSec，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。