在刚刚结束的慕尼黑安全大会期间，对技术（尤其是人工智能技术）的监管、治理和使用是热点话题之一。为了向来自世界各地的政府领导人展示捍卫人工智能安全的决心和信心，谷歌、微软和OpenAI三大人工智能巨头推出了一系列的重大举措和计划。

在大会召开一天前，微软和OpenAI发布了关于国家黑客组织对ChatGPT对抗性使用的研究报告，并承诺支持“安全和负责任”的人工智能使用。

随后，大会期间，谷歌推出了一个人工智能防御综合计划，包括承诺投资“人工智能就绪基础设施”，为防御者发布新工具，向教育系统提供研究补助金，启动新的研究和人工智能安全培训等。谷歌表示：“这将有助于通过国际化战略、人工智能工具及其使用技能来加强跨大西洋网络安全生态系统。”

最令业界瞩目的行动来自微软和OpenAI，二者在本周发布联合声明，宣称已经终止了来自伊朗、朝鲜和俄罗斯等国的威胁行为者相关账户，并声称这些组织滥用ChatGPT从事以下活动：

  • 调试代码并生成脚本

  • 创建可能用于网络钓鱼活动的内容

  • 翻译技术论文

  • 检索有关漏洞和多个情报机构的公开信息

  • 研究恶意软件逃避检测的常见方式

  • 对卫星通信协议和雷达成像技术进行开源研究

不过，微软在随后的报告中表示ChatGPT对网络攻击的帮助有限：：“我们的研究结果表明，我们的模型（ChatGPT）仅为恶意网络安全任务提供有限的增量功能。”

微软和OpenAI还承诺确保“安全和负责任地使用”包括ChatGPT在内的技术。微软公布的原则包括：

  • 识别恶意威胁行为者的使用并采取行动，例如禁用账户或终止服务。

  • 通知其他人工智能服务提供商并共享相关数据。

  • 与其他利益相关者就威胁行为者对人工智能的使用进行合作。

  • 向公众通报在其系统中检测到的人工智能使用情况以及针对它们采取的措施。

对于国家黑客滥用AI的行为，OpenAI在公告中承诺将：

  • 监视和破坏恶意国家附属行为者（使用其AI服务）。这包括确定恶意行为者如何与其平台交互并评估更广泛的意图。

  • 与“AI生态系统”合作。分享有关国家附属恶意行为者使用人工智能的性质、程度，提高针对他们采取的反制措施的公开透明度。

谷歌则在最新发布的威胁情报公告中指出，进攻性网络能力现在是地缘政治的首要任务，全球网络攻击威胁呈现以下趋势：

  • 攻击者正在不断提升专业化操作和程序

  • 进攻性网络能力现在是地缘政治的首要任务

  • 威胁行为者的最新策略经常能逃避标准安全控制

  • 俄乌战争的事态发展标志着网络战首次在战争中发挥了重要作用

  • 对手国家在进攻性和防御性人工智能方面投入巨资，开发更复杂的网络钓鱼、短信和其他诱饵工具、从事个人数据和知识产权盗窃，制造虚假新闻和深度伪造内容，将人工智能用于社会工程和信息操作。

参考链接：

https://blog.google/technology/safety-security/google-ai-cyber-defense-initiative/

https://openai.com/blog/disrupting-malicious-uses-of-ai-by-state-affiliated-threat-actors

声明：本文来自GoUpSec，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。