9月9日,美国商务部对外发布了“建立先进人工智能模型和计算集群开发的报告要求”拟议规则,并向公众征求意见,相关评论意见应当在拟议规则公布之日起30天提交给商务部工业与安全局(BIS)。

这项拟议规则的推出,是为了执行拜登2023年10月30日发布的《安全、可靠和值得信赖的人工智能开发和使用》第14110号行政令第4.2(a)节。根据该节,开发任何对国家安全、国家经济安全或国家公共健康和安全构成严重风险的基础模型的公司,在训练模型时就得通知联邦政府,并且必须分享所有红队安全测试结果等信息。这个直接要求美国AI公司跟商务部报告相关信息的条款,其法律依据是《国防生产法》(DPA)。

1950年通过的DPA,是国会在朝鲜战争爆发时采取的紧急立法,旨在为美国政府提供在战争或国家紧急情况下动员国内资源的权力,以支持军事生产和保障国家安全。DPA赋予总统广泛的权力,可以指挥私营企业优先生产军事物资,管控供应链,并确保关键资源和技术用于国防。该法还允许政府限制商品的分配、扩展工业产能,以及提供贷款或补助以促进生产能力。

除了最初的军事目的,DPA后来经历多次修订和扩展,用于应对非战争时期的紧急情况。例如在自然灾害、能源危机以及疫情期间都被应用。最近一次引人关注的使用是在新冠疫情期间,特朗普和拜登政府都动用了DPA来加速医疗设备和疫苗的生产。

第14110号行政令利用DPA作为要求AI公司报告相关信息的法律依据,是对这部法律的一种非传统使用方式。据说这是兰德公司的高级研究员Jeff Alstott的主意。我曾和此君在一次国际会议上相遇,当面问过他,他似乎没有否认,但解释说,这种直接要求私营企业给联邦政府的一个部门报告这个那个信息,一般只针对联邦政府的承包商,因为这些公司要和联邦政府做生意,要赚政府的钱,所以就要承担这个义务。但普遍适用于广泛的AI公司,的确是破天荒头一回,之所以援引了DPA,可能是因为国防、国家安全相关的法律,更容易在华盛顿取得共识、更难被挑战。

但第这个第4.2(a)节和它对DPA的独特援引的确引发了不小的争议,特别是遭到了一些共和党议员、科技行业的游说组织的批评和质疑。参议院商务委员会资深成员Ted Cruz和参议院共和党党鞭John Thune甚至一度要研究推动修订DPA,以制约拜登人工智能行政令。

对为何使用DPA,白宫总体讳莫如深,拒绝回应。白宫人工智能特别顾问Ben Buchanan在一次阿斯彭研究所的活动上为此辩护过,称拜登使用DPA的紧急权力是因为两用基础模型“确实是一个国家安全问题”,但也没有多做展开。

所以,对这次拟议规则,商务部一上来就花了大量篇幅讲“两用基础模型”和美国国防工业、国防安全之间的关系,试图为使用DPA强制私营企业报告相关信息提供更多合法性。商务部提到:

对国防至关重要的美国工业,如军事设备制造商(飞机、坦克和导弹发射器等)使用AI模型来提高设备的机动性、准确性和效率。同样,信号情报设备制造商(卫星、摄像机和雷达等)使用AI模型来改进这些设备捕获信号和消除噪音的方式。肩负保护对国防至关重要的各种系统和基础设施责任的网络安全软件开发人员,使用AI模型来提高软件检测和响应网络攻击的速度。

两用基础模型可以在更大程度上提升这些产品和服务的能力。具体而言,将两用基础模型集成到军事装备、信号情报设备和网络安全软件等产品中,可以使这些产品在更广泛的环境中更有效地运行,更有效地响应意外信号,并抵御更多类型的网络攻击。

鉴于这些潜在的能力,国防工业基地能够整合两用基础模型对国防至关重要。事实上,由于世界各地的产业和政府正在积极努力将两用基础模型整合到其国防能力中,美国国防工业基地将需要整合两用基础模型以保持国际竞争力。

将AI模型整合到国防工业基础中还需要美国政府根据需要采取行动,确保两用基础模型以安全可靠的方式运行,最小化双重用途基础模型对网络攻击的脆弱性。同时,美国政府必须为国防工业基础做好准备,以防外国对手或非国家行为者使用双重用途基础模型进行威胁国防的活动,包括开发武器和其他危险技术。

最后,商务部总结说:正是因为上述原因,美国政府需要了解有多少美国公司正在开发、计划开发或拥有开发两用基础模型所需的计算硬件,正在开发的两用基础模型的特征信息、关于其安全性和可靠性、网络安全保护措施的信息。同时,那些拥有庞大计算机集群的公司,也得告诉商务部这些“计算巨兽”具体在哪里、它们的性能有多强。

根据拟议规则,如果有公司已经在进行或计划在未来六个月内开展一些高级的AI活动,比如训练超强AI模型(需要执行超过10^26次计算操作),或者拥有一组机器组成的超快、超强的计算机集群,且这些机器通过速度超过300 Gbit/s的网络连接在一起,计算能力非常强大,理论上每秒可以进行超过10^20次计算(比如整数运算或浮点运算),主要用于训练AI模型,而且这些计算都非常密集,没有任何闲置部分。那么它们每季度都要向BIS提交报告。报告内容涵盖公司过去三个月内的活动,以及未来六个月的计划。

和拜登的人工智能行政令相比,拟议规则技术参数中的浮点运算数量标准没有变化,但机器之间的互联速度从100GB/s提升到了300GB/s,提高了门槛。报告的频率和技术参数是商务部希望公众重点发表意见的领域,因为这直接决定了需要报告的公司的范围。按照现在的技术参数,BIS预计不超过15家美国公司需要履行报告义务,且都是财大气粗的科技公司,不包括小公司。BIS也坦承,随着AI技术研发和应用不断发展,需要报告的美国人和公司的数量也会增加。但第14110号行政命令也明确了,商务部长会与时俱进更新触发报告要求的技术条件,受影响公司的数量还是会很有限。

当商务部收到这些报告后,会告诉公司还需要提交哪些具体信息,并提供一张问题清单,涵盖模型训练、开发的细节,模型权重的保护措施,模型在红队测试中的表现,以及其他与模型安全性和国家安全相关的信息。公司需要在收到这些问题后的30天内做出回答。如果公司不再从事相关AI活动,它们依然需要在接下来的七个季度内继续提交报告,确认自己没有继续这些活动。之后就可以停止提交报告了。这些收集到的信息会被视为商业秘密,除非总统认为公开这些信息有助于国防安全,否则这些数据不会被公开。

声明:本文来自东不压桥研究院,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。