前情回顾·美国新技术监管

安全内参8月10日消息，拜登政府宣布发起为期两年的人工智能网络挑战赛（AI Cyber Challenge，简称AIxCC），以保护美国的关键软件。

该竞赛将由美国国防高级研究计划局（DARPA）牵头，旨在利用人工智能快速识别和修复关键软件漏洞。

白宫科技政策办公室主任Arati Prabhakar表示，谷歌、微软、OpenAI、Anthropic等AI领先厂商已经同意为这项赛事提供“他们的专业知识和平台”，“这是公共部门和私营部门共同努力做大事、改变未来走向的方式之一。”白宫官员希望此举能够展示人工智能的“美好前景”。

参加挑战赛的团队将设计“新颖的人工智能系统”，为保护关键软件代码展开角逐。DARPA将在比赛中发出总额1850万美元（约合人民币1.33亿元）的奖金。

大多数参赛团队可以通过“开放赛道”注册。同时，DARPA还在“资助赛道”提供七个小企业名额，每家可获得100万美元的资金，帮助这些公司能够参加挑战赛初始阶段的竞争。

DARPA将于明年DEF CON大会期间举办“人工智能网络挑战赛”的半决赛，而决赛将于2025年DEF CON大赛期间举行，冠军奖金高达400万美元。

期望推动美国网络防御能力大迈进

过去一年，生成式人工智能崭露头角。人们开始担心这项技术是否会被用于恶意行为，比如网络攻击。但是，官员们表示，DARPA比赛有助于美国有效防御对手发起的网络攻击。

拜登政府已将“更好地保护关键基础设施系统免受网络攻击”视为优先事项。补丁管理已经成为美国政府IT部门面临的重大挑战，根据美国网络安全和基础设施安全局2021年发布的一项约束性运营指令，各机构正应要求努力迅速查找和修复软件系统中的“已知被利用的漏洞”。

分管网络和新兴技术工作的美国副国家安全顾问Anne Neuberger告诉记者：“我们不仅能看到人工智能的美好前景，也能从当前的网络安全风险中看出，即使没有人工智能，我们也需要找到更快发现和修复漏洞的方法。我们需要做到有方法从整体角度来看待一个系统，找出什么能保证系统的防御性和弹性。”

官员们将“人工智能网络挑战赛”与DARPA以往的挑战赛相提并论，如2014年发起、关注机器自动化网络对抗的网络超级挑战赛（CGC）、2004年发起、关注无人驾驶车辆的首个超级挑战赛，认为这次比赛也能推动重大技术进展。

DARPA副主任Rob McHenry表示：“DARPA无人驾驶车辆超级挑战赛极大推动了自动驾驶汽车领域的发展，展示了机器学习的改变游戏规则的潜力。此次人工智能网络挑战赛，我们的目标是再次打造一个全新的生态系统。其中有各种各样富有创造力的网络竞争者，都得到了美国顶尖人工智能公司的支持。各方将一起寻找新方法，保护我们社会所依赖的软件基础设施。”

获胜者将开源成果，让行业共享创新

DARPA信息创新办公室项目经理Perri Adams告诉记者，开源软件社区也将参与此次人工智能挑战赛。Linux基金会的开源安全基金会将担任“挑战赛顾问”，保证竞赛设计能够解决“现实世界”面临的挑战。

DARPA会要求获奖者将获胜系统开源，“这样一来，不论是志愿开源开发者还是商业市场，所有人都能享受挑战赛完成的创新。如果我们成功了，我希望挑战赛不仅在这个领域打造出下一代网络安全工具，还能通过保护关键基础展示人工智能如何更好地造福社会。”

这项重大研究竞赛启动的大背景是拜登政府制定行政命令，鼓励开发“值得信赖的人工智能”。命令旨在确保“联邦政府竭尽全力推动安全、可靠、值得信赖的人工智能”。

去年秋天，白宫科技政策办公室发布了关于设计、开发和部署人工智能和其他自动化系统的“权利法案”蓝图。今年夏天晚些时候，白宫管理和预算办公室计划发布有关联邦政府内部人工智能的指导意见草案。预计这份指导意见将详细说明机构在开发、购买和使用人工智能方面应该采用的具体政策。

当被问及联邦政府如何希望利用DARPA人工智能网络安全挑战赛所带来的技术时，一名高级白宫官员表示，希望能够将获胜的系统应用于联邦政府甚至关键基础设施。

这位官员表示：“当然，最让我们感兴趣的是能够帮助识别能源网络、交通信号系统漏洞的方法。这些方法不仅要帮助找到问题，还要解决问题。本质上，就是要找到解决方案。然后，我们很期待能将这些解决方案应用于联邦政府和关键基础设施。”

参考资料：https://federalnewsnetwork.com/artificial-intelligence/2023/08/darpa-competition-will-use-ai-to-find-fix-software-vulnerabilities/、https://www.whitehouse.gov/briefing-room/statements-releases/2023/08/09/biden-harris-administration-launches-artificial-intelligence-cyber-challenge-to-protect-americas-critical-software/

声明：本文来自安全内参，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。