Sec 1 法案名称
本法案应被称为,并且可以引用为《前沿人工智能模型的安全与保障创新法案》。
Sec 2 法案背景
立法机关发现并宣布以下各项:
(a) 加利福尼亚州在人工智能创新和研究方面领先全球,这得益于大大小小的公司,以及我们卓越的公立和私立大学。
(b) 人工智能,包括生成性人工智能的最新进展,有潜力催化创新和快速开发一系列对加利福尼亚公民和加利福尼亚经济有益的应用,包括医学进步、野火预测与预防,以及气候科学的进步,并拓展人类创造力和能力。
(c) 如果未来人工智能的发展没有适当地受到人类控制,也可能有潜力被用来创造对公共安全和保障的新型威胁,包括通过促成大规模杀伤性武器的制造和扩散,如生物、化学和核武器,以及具有网络攻击能力的武器。
(d) 州政府在确保加利福尼亚认识到这项技术的好处的同时避免最严重的风险方面发挥着至关重要的作用,同时还要确保人工智能创新和计算资源的获取对学术研究人员和初创企业,以及大公司都是可及的。
SEC. 3 CHAPTER 22.6. Safe and Secure Innovation for Frontier Artificial Intelligence Models
22602. 定义
(a)高级持续性威胁:指具有复杂专业知识水平和重大资源的对手,通过使用多种不同的攻击手段,包括但不限于网络攻击、物理攻击和欺骗,以创造机会实现其目标,这些目标通常是在组织的信息技术基础设施内建立并扩展其存在,目的是窃取信息或破坏或妨碍任务、计划或组织的关键方面,或将自己置于将来这样做的位置。
(b)人工智能:指一个工程化或基于机器的系统,其自主程度不同,能够根据其接收的输入推断出如何生成可以影响物理或虚拟环境的输出,以达到明确或隐含的目标。
(c)人工智能安全事故:指明显增加严重伤害风险的事件,包括但不限于以下情况:
(1)受监管模型或受监管模型衍生物在未获用户指令的情况下自主执行操作。
(2)受监管模型或受监管模型衍生物的模型权重遭遇盗窃、滥用、意外泄露、未经授权的访问或逃逸。
(3)管理和技术控制措施的关键失败,包括限制修改受监管模型或受监管模型衍生物的能力的控制措施。
(4)未经授权使用受监管模型或受监管模型衍生物,导致或显著促成严重伤害。
(d)计算集群:指通过数据中心网络连接,传输速度超过100千兆比特每秒,理论最大计算能力至少为(10^{20})次整数或浮点运算每秒,可用于训练人工智能的一组机器。
(e)(1)“受监管模型”如下:
(A)在2027年1月1日之前,“受监管模型”定义如下:
(i)使用超过(10^{26})次整数或浮点运算的计算能力进行训练的人工智能模型。该训练成本,按照训练开始时云计算的平均市场价格估算,超过一百百万美元($100,000,000)。
(ii)基于现有受监管模型,通过微调过程使用计算能力达到或超过(3 \\times 10^{25})次整数或浮点运算的人工智能模型。该微调成本,由开发者根据微调开始时云计算的平均市场价格合理评估,超过一千万美元($10,000,000)。
(B)(i)除了第(ii)款的规定,2027年1月1日及之后,“受监管模型” 指以下任意一项:
(I) 使用Government Operations Agency根据Government Code第11547.6节确定的计算能力训练的人工智能模型,其成本根据开发者合理评估,按照训练开始时云计算服务的平均市场价格计算,超过一百百万美元($100,000,000)。
(II) 通过微调已有的受监管模型,使用超过Government Operations Agency确定的阈值的计算能力创建的人工智能模型,其成本根据开发者合理评估,按照微调开始时云计算服务的平均市场价格计算,超过一千万美元($10,000,000)。
(ii) 如果Government Operations Agency在2027年1月1日之前未采纳管理子条款(I)和(II)的法规,则子条款(A)中的“受监管模型”定义将继续有效,直至该法规被采纳。
(2)自2026年1月1日起,本小节中的美元金额应根据Department of Industrial Relations发布的上一年度California Consumer Price Index for All Urban Consumers的变化,每年调整至最接近的一百美元($100)。
(f)“受监管模型衍生物” 指以下任意一项:
(1) 未经修改的受监管模型副本。
(2) 经过与微调无关的后训练修改的受监管模型副本。
(3) (A)(i)在2027年1月1日之前,经过微调使用的计算能力不超过三倍 (10^{25}) 次整数或浮点运算的受监管模型副本,其成本根据开发者合理评估,如果按照微调开始时云计算服务的平均市场价格计算,超过一千万美元($10,000,000)。
(ii)在2027年1月1日及之后,经过微调使用的计算能力不超过Government Operations Agency确定的阈值的受监管模型副本,其成本根据开发者合理评估,如果按照微调开始时云计算服务的平均市场价格计算,超过一千万美元($10,000,000)。
(B)如果Government Operations Agency在2027年1月1日之前未采纳(ii)的法规,则(A)(i)中的计算能力数量将继续适用,直至该法规被采纳。
(4) 与其它软件结合的受监管模型副本。
(g) (1)“关键伤害” 指由受监管模型或受监管模型衍生物造成或显著促成的以下伤害:
(A) 以导致大规模伤亡的方式制造或使用化学、生物、放射性或核武器。
(B)由模型执行或提供精确指令执行针对关键基础设施的网络攻击,导致大规模伤亡或至少五亿美元($500,000,000)的损害。
(C)由人工智能模型从事的行为导致大规模伤亡或至少五亿美元($500,000,000)的损害,并且同时满足以下两个条件:
(i)针对该行为所涉及的人类监督、干预或监管有限。
(ii)导致死亡、重大身体伤害、财产损害或财产损失,并且如果由人犯下,将构成刑法规定的需要故意、鲁莽或重大疏忽的犯罪,或教唆或协助此类犯罪。
(D)其他对公共安全和保障造成严重伤害,其严重程度与(A)至(C)款描述的伤害相当的严重伤害。
(2)“关键伤害” 不包括以下情况:
(A) 如果信息本身可以通过普通个人从受监管模型或受监管模型衍生物以外的其他来源合理地公开获取,则由受监管模型或受监管模型衍生物输出的信息引起的或显著促成的伤害。
(B) 如果受监管模型与包括其他模型在内的其他软件结合,但受监管模型并未显著促成其他软件引起或显著促成伤害的能力,则由该结合引起的或显著促成的伤害。
(C) 如果伤害不是由开发者创建、存储、使用或发布受监管模型或受监管模型衍生物引起的或显著促成的。
(3) 自2026年1月1日起,本小节中的美元金额应根据the Department of Industrial Relations发布的上一年度加州所有城市消费者年度消费者价格指数的变化,每年调整至最接近的一百美元($100)。
(h)“关键基础设施” 指任何资产、系统和网络(包括物理和虚拟的),其功能丧失或被破坏将对该州的物理安全、经济安全、公共健康或安全产生严重影响。
(i)“开发者” 指任何主体,无论是个人、公司、组织或其他法律实体,该主体通过使用足够的计算能力和成本训练模型,或通过使用超过(e)小节指定金额的计算能力和成本微调现有受监管模型或受监管模型衍生物,从而执行受监管模型的初始训练。
(j)“微调” 指通过引入额外的数据对已经训练好的受监管模型或受监管模型衍生物进行调整,以此来优化模型权重。
(k)“完全关闭” 指终止以下所有操作:
(1) 受监管模型的训练。 (2) 开发者控制的受监管模型。 (3) 开发者控制的所有受监管模型衍生物。
(l)“模型权重” 指在人工智能模型中通过训练调整的数值参数,它帮助决定输入如何转化为输出。
(m)“主体” 指个人、独资企业、商行、合伙企业、联营企业、企业集团、商业信托、公司、法人公司、有限责任公司、协会、委员会或其他任何非政府组织或协同行动的个人团体。
(n)“后训练修改” 指对受监管模型或受监管模型衍生物的能力进行的任何修改,这些修改包括但不限于通过微调来调整模型权重、提供给模型额外的工具或数据访问权限、移除或减弱旨在防止模型被危险滥用或不当行为的保护措施,或者将模型与其它软件结合或整合。
(o)“安全和保障协议” 指已明确记录的技术和管理协议,这些协议满足以下标准:
(1)协议旨在管理受监管模型及其衍生物在其整个生命周期内的风险,这包括直接或间接引发的风险,以及可能导致受监管模型衍生物产生的风险。
(2)协议明确指出,遵守这些协议是进行受监管模型及其衍生物的训练、运营、持有和向外部提供访问的前提条件。
22603:开发者责任
(a) 在开始初步训练一个受监管模型之前,开发者应当执行以下操作:
(1) 实施合理的行政、技术和物理网络安全措施,以防止未经授权的访问、滥用或对受监管模型及其所有受监管模型衍生物进行不安全的后训练修改,这些措施应当考虑到与受监管模型相关的风险,包括来自高级持续性威胁或其他复杂行为者的风险。
(2) (A)实施能够迅速执行完全关闭的能力。
(B)并在执行完全关闭时,适当考虑可能对关键基础设施造成的中断风险。
(3) 实施书面且独立的安全和保障协议,该协议应当包括以下内容:
(A) 明确保护措施和程序,如果成功实施,将成功遵守开发者的义务,以合理的注意避免生产出一个构成造成或显著促成严重伤害不合理风险的受监管模型或受监管模型衍生物。
(B) 以客观的方式明确合规要求,并具有足够的细节和特定性,以便开发者或第三方可以容易地确定安全和保障协议的要求是否得到遵循。
(C) 确定一个测试程序,适当考虑保护措施,以合理注意评估以下两点是否为准确:
(i)受监管模型构成造成或促成严重伤害的不合理风险;
(ii)受监管模型衍生物构成造成或促成严重伤害的不合理风险。
(D) 详细描述测试程序如何评估与后训练修改相关的风险。
(E) 详细描述测试程序如何处理受监管模型或受监管模型衍生物可能被用来进行后训练修改或以可能造成或显著促成严重伤害的方式创建另一个受监管模型的可能性。
(F) 详细描述开发者将如何履行本章节下的义务。
(G) 详细描述开发者打算如何实施本节中提到的保护措施和要求。
(H) 详细描述在何种条件下开发者会执行完全关闭。
(I) 详细描述安全和保障协议的修改程序。
(4) 确保安全和保障协议得到执行,包括指定高级人员负责确保员工和承包商对受监管模型或受监管模型衍生物的合规性,以及监控和报告实施情况。
(5) 保留安全和保障协议的未编辑副本,直到受监管模型用于商业、公共或可预见的公共用途结束后再加五年,包括记录和任何更新或修订的日期。
(6) 每年对安全和保障协议进行审查,以考虑受监管模型能力的任何变化和行业最佳实践,并在必要时修改政策。
(7)(A)(i) 显著地发布经编辑的安全和保障协议副本,并向总检察长发送该经编辑的副本。
(ii)只有在合理必要保护如下信息,允许对安全和保障协议进行编辑:
(I)公共安全
(II)商业秘密(如民法典第3426.1节所定义)
(III)州和联邦法律下的保密信息
(B) 总检察长应有权在要求时获得未编辑的安全和保障协议副本。
(C) 根据本段向总检察长披露的安全和保障协议副本,根据《加州公共记录法》(《政府法典》第10节(从7920.000节开始)第1章)予以豁免。
(D) 如果安全和保障协议被实质性修改,应在修改后30天内显著发布并发送给总检察长更新后的经编辑副本。
(8) 采取合理的其他措施,防止受监管模型和受监管模型衍生物构成造成或显著促成严重伤害的不合理风险。
(b) 在将受监管模型或受监管模型衍生物用于非训练或非合理评估目的,或在首次使其用于商业、公共或可预见的公共用途之前,开发者应当:
(1) 评估受监管模型是否可能造成或显著促成严重伤害。
(2) 记录并保留尽可能详细的测试和测试结果信息,以供第三方复制测试程序。
(3) 采取合理措施,防止受监管模型和受监管模型衍生物造成或显著促成严重伤害。
(4) 采取合理措施,确保受监管模型及其衍生物的行为,以及这些行为可能导致的严重伤害,能够被准确地追溯和归因于相应的模型。
(c) 开发者不得将受监管模型或受监管模型衍生物用于非训练或非合理评估目的,或在存在不合理风险的情况下,将其用于商业、公共或可预见的公共用途,该受监管模型或受监管模型衍生物将造成或显著促成严重伤害。
(d) 开发者应每年重新评估本节规定的程序、政策、保护措施、能力和安全保障。
(e) (1)自2026年1月1日起,开发者应每年聘请符合最佳审计实践的第三方审计师,对遵守本节要求的情况进行全面独立审计。
(2) 审计师应根据Government Operations Agency根据Government Code第11547.6节发布的规定进行审计。
(3) 审计师应有权访问未编辑的材料,以履行其在本小节下的义务。
(4) 审计师应出具审计报告,包括以下内容:
(A) 对开发者遵守本节要求的详细评估。
(B) 如有的话,识别出不符合本节要求的情况,并提出改进建议。
(C) 对开发者内部控制的详细评估,包括指定和授权负责确保开发者、其员工和承包商遵守规定的高级管理人员。
(D) 主审计师对审计结果的签名认证。
(5) 开发者应保留审计报告的未编辑副本,直到受监管模型用于商业、公共或可预见的公共用途结束后再加五年。
(6) (A)(i)开发者应显著发布经编辑的审计报告副本,并发送给总检察长。
(ii)只有在合理且必要保护如下信息,才允许对审计报告进行编辑:
(I)公共安全。
(II)商业秘密(如民法典第3426.1节所定义)。
(III)州和联邦法律下的保密信息。
(B)开发者应授权总检察长基于要求访问未经修改的审计报告。
(C)审计报告向总检察长披露时,根据 the California Public Records Act (Division 10 (commencing with Section 7920.000) of Title 1 of the Government Code).予以豁免。
(7) 审计师不得在其报告中故意作出重大虚假陈述。
(f) (1)(A)受监管模型开发者应每年向总检察长提交一份符合本节要求的合规声明,该声明由首席技术官或更高级别的公司官员签署,且必须满足第(2)项的要求。
(B) 如果受监管模型或任何受监管模型衍生物由开发者控制,并继续用于商业或公共用途,或继续可供商业或公共用途,则适用本条款。
(2) 根据第(1)款提交的声明中,开发者至少应提供以下信息
(A) 对受监管模型或受监管模型衍生物可能合理地造成或显著促成的关键伤害的性质和程度进行评估,以及根据(b)款第(1)项要求进行的评估的结果。 (B) 对于即使遵守了安全和保障协议,仍可能不足以防止受监管模型或受监管模型衍生物造成或显著促成关键伤害的风险进行评估。 (C) 描述签署官员用来验证符合本节要求的流程,包括签署官员所审查的材料、为支持声明而进行的测试或其他评估的描述,以及为验证合规性所依赖的任何第三方的联系信息。
(g) 开发者在首次知晓任何影响受监管模型或其控制的任何受监管模型衍生物的人工智能安全事故后,或在首次知晓足够信息以合理确信已发生人工智能安全事故后的72小时内,必须向总检察长报告每一起此类安全事故。
(h) (1) 开发者在首次将受监管模型或受监管模型衍生物用于非训练、非合理评估目的,或首次使其用于商业、公共或可预见的公共用途时,应在不超过30天内向总检察长提交(f)款所述的声明。
(2) 如果开发者已为衍生的受监管模型提交了(f)款所述的声明,则本小节不适用于该受监管模型衍生物。
(i) 在履行本节规定的义务时,开发者应当考虑行业内的最佳实践以及遵循美国人工智能安全研究所(U.S. Artificial Intelligence Safety Institute)、美国国家标准技术研究院(National Institute of Standards and Technology)、政府运营机构(Government Operations Agency)以及其他声誉良好的标准制定组织的指南。
(j) (1) 如果本节的要求与联邦政府实体的合同条款存在严格冲突,则本节的规定不适用于相关产品或服务。
(2) 无论受监管模型或受监管模型衍生物是否已由联邦政府实体开发、训练或使用,只要这些模型或衍生物的开发、使用或商业化及公共发布不是基于与联邦政府实体的合同,本节的规定仍将适用。
22604:计算集群运营者的义务
(a) 运营计算集群的个人或实体应在客户使用其资源进行可能足以训练受监管模型的活动时,实施书面政策和程序,以理性如下要求:
(1) 获取潜在客户的基本身份信息及其使用计算集群的目的,包括但不限于:
(A)客户的身份。
(B)支付方式和来源,包括相关的金融机构、信用卡号码、账户号码、客户标识符、交易标识符或虚拟货币钱包地址。
(C)用于验证客户身份的电子邮件地址和电话联系方式。
(2) 评估客户是否打算使用计算集群来训练受监管模型。
(3) 如果客户反复使用足以训练受监管模型的计算资源,则在每次使用前验证本条(1)项下最初收集的信息,并进行本条(2)项下所需的评估。
(4) 保留客户用于访问或管理的互联网协议地址以及每次访问或管理操作的日期和时间。
(5) 保留适当的记录至少七年,并在总检察长要求时提供,包括根据本节采取的行动记录和实施的政策及程序。
(6) 实施能够迅速执行对客户控制下用于训练或运营模型的任何资源的完全关闭的能力。
(b) 运营计算集群的个人或实体在遵守本节要求时,应考虑行业内最佳实践和美国人工智能安全研究所(U.S. Artificial Intelligence Safety Institute)、美国国家标准技术研究院(National Institute of Standards and Technology)以及其他有信誉的标准制定组织的适用指导。
(c) 在遵守本节要求的过程中,运营计算集群的个人或实体可以对客户施加合理的要求,以防止收集或保留计算集群运营者本不会收集或保留的个人信息。这包括要求企业客户提交企业联系信息,而不是那些可能识别特定个人的个人信息。
22606:民事诉讼及救济
(a) 总检察长应提起民事诉讼,以追究违反本章规定的行为,并寻求以下救济:
(1) 对于自2026年1月1日起因违规行为导致他人死亡、身体伤害、财产损害、财产被盗窃或挪用,或构成对公共安全的紧迫风险或威胁,可处以不超过用于训练受监管模型的计算能力成本的10%的民事罚款,首次违规按云服务平均市场价格计算,后续违规不超过该价值的30%。
(2) 对于违反第22607节规定,构成劳动法典违反行为的,按劳动法典第1102.5节(f)款规定的民事罚款。
(3) 对于运营计算集群的个人违反第22604节,审计师违反第22603节(e)款第(6)项,或审计师故意或因重大过失违反第22603节(e)款规定的情况,首次违反第22604节的行为可处以不超过五万美元( ) 的 民 事 罚 款 , 后 续 违 规 行 为 不 超 过 十 万 美 元 ( 100,000),相关联违规行为的累计罚款不超过一千万美元($10,000,000)。
(4) 禁令或宣告性救济(Declaratory Relief)。
(5) (A) 金钱赔偿。
(B) 根据民法典第3294节(a)款规定的惩罚性赔偿。
(6) 律师费及诉讼成本。
(7) 法院认为适当的其他救济。
(b) 在判断开发者是否已按照第22603节规定行使了合理的注意义务时,以下因素应予以考虑,但非决定性:
(1) 开发者的安全和保障协议的质量。
(2) 开发者忠实执行和遵守其安全和保障协议的程度。
(3) 开发者的安全和保障协议在质量和执行方面,与同类强大模型的开发者相比是较差、相当还是更优。
(4) 开发者对其模型可能造成的严重伤害风险的调查、记录、评估和管理的质量和严格性。
(c) (1) 任何合同或协议中的条款,若旨在放弃、排除或加重因违反本章规定而产生的法律责任,或将该责任转移给任何个人或实体,作为其使用或访问开发者的产品或服务的交换,包括通过标准合同(Adhesion Contract)的方式,均因违反公共政策而无效。
(2) 如果法院认定以下情况同时成立,则应忽略公司形式,并在法律允许的最大范围内对关联实体施加连带责任,以实现本节的意图:
(A) 关联实体在构建其公司架构时,故意并不合理地采取措施限制或避免责任。
(B) 由于(A)项所述的步骤,开发者或关联实体的公司架构将妨碍根据本节作出的罚款、损害赔偿或禁令救济。
(d) 根据本节规定由总检察长收取的罚款应存入根据政府法典第12530节设立的公共权利执法特别基金。
(e) 本节不限制其他法律的适用。
第22607节:吹哨人保护
(a) 开发受监管模型的开发者或其承包商或分包商不得从事以下行为:
(1) 阻止员工向总检察长或劳动委员会披露信息,包括但不限于通过雇佣条款和条件或试图执行这些条款和条件,如果员工有合理理由相信以下任何一项:
(A) 开发者未遵守第22603节的要求。
(B) 人工智能模型,包括非受监管模型或受监管模型衍生物,构成造成或显著促成严重伤害的不合理风险,即使雇主未违反任何法律。
(2) 因员工根据第(1)款披露信息而对员工进行报复。
(3) 作出与安全和保障协议相关的虚假或重大误导性陈述,违反第7节第2部分(从第16600节开始)或州法律的任何其他规定。
(b) 因违反本小节而受到损害的员工可以根据劳动法典第1102.61节和第1102.62节的规定,向法院请求适当的临时或初步禁令救济。
(c) (1) 如果总检察长或劳动委员会认为公开发布或向州长提供本节下的任何投诉或该投诉的摘要符合公共利益,总检察长或劳动委员会可以公开发布或提供。
(2) 如果总检察长或劳动委员会根据第(1)款公开发布投诉或投诉摘要,总检察长或劳动委员会应从投诉中删除根据加利福尼亚公共记录法(政府法典第1章第10节(从第7920.000节开始))保密或免于公开的信息,以及总检察长或劳动委员会确定如果公开可能会对公共安全构成不合理风险的任何信息。
(d) 开发者应向所有从事受监管模型和受监管模型衍生物工作的员工提供明确的通知,告知他们根据本节享有的权利和义务,包括承包商和分包商的员工使用开发者内部程序进行(e)款受保护披露的权利。如果开发者做到以下任何一项,则推定其符合本小节的要求:
(1) 在开发者维护的所有工作场所始终发布和展示通知,告知所有员工他们根据本节享有的权利和义务,确保所有新员工收到同等通知,并确保远程工作的员工定期收到同等通知。
(2) 至少每年一次向所有员工提供书面通知,告知他们根据本章享有的权利和义务,并确保所有这些员工收到并确认该通知。
(e) (1) (A) 开发者应提供一个合理的内部程序,以便员工在真诚地相信信息表明开发者违反了第22603节或任何其他法律的任何规定,或在与安全和保障协议相关的方面作出虚假或重大误导性陈述,或未能向员工披露已知风险时,可以匿名向开发者披露信息,包括至少每月向披露人提供一次关于开发者对披露进行调查的状态和开发者对披露作出响应所采取的行动的更新。
(B) 本款要求的程序应适用于开发者的承包商和分包商的员工,这些员工从事受监管模型和受监管模型衍生物的工作,并允许这些员工向开发者披露与开发者的员工可以披露的相同信息,并为承包商或分包商的员工提供与开发者的员工相同的匿名性和反报复保护。
(2) 该程序要求的每次披露和回应,应至少每季度一次与未涉及披露或回应中提及的行为或疏忽的开发者的高管和董事共享。
(f) 本节不限制劳动法典第1102.5节、政府法典第12964.5节或其他法律规定的对员工的保护。
(g) 在本节中:
(1) “员工”具有劳动法典第1132.4节所定义的含义,包括以下两者:
(A) 参与评估、管理或处理受监管模型和受监管模型衍生物造成严重伤害风险的承包商或分包商以及无薪顾问。
(B) 公司高管。
(2) “承包商或分包商”具有劳动法典第1777.1节中的含义。
第22608节:义务的累积性
本章规定的义务和责任是与其他法律项下的任何其他义务或责任累积的,不应被解释为解除任何一方根据其他法律所承担的任何义务或责任,也不限制现有法律下的任何权利或救济。
第22609节:联邦法律的优先适用
如果本章的任何规定被联邦法律所取代,则不适用。
Sec 4:Government Code增加第11547.6节
11547.6. (a) 在本节中,“关键伤害”与business and Professions Code第22602节中的定义相同。 (b) 特此设立前沿模型委员会。该委员会应设在政府运营机构内,并独立于技术部之外。州长可以任命一位经参议院确认的委员会行政官员,该官员在州长的授权下任职。行政官员应为委员会的行政负责人,并行使所有必要的职责和职能,以确保委员会的职责得到成功履行。 (c) (1) 从2026年1月1日起,前沿模型委员会应由九名成员组成,如下:
(A) 由州长任命并经参议院确认的开源社区成员。
(B) 由州长任命并经参议院确认的人工智能行业成员。
(C) 由州长任命并经参议院确认的化学、生物、放射性或核武器专家。
(D) 由州长任命并经参议院确认的人工智能安全专家。
(E) 由州长任命并经参议院确认的关键基础设施网络安全专家。
(F) 由议会发言人任命的两名人工智能领域的学术专家。
(G) 由参议院规则委员会任命的两名成员。
(2) 委员会成员应满足以下所有标准:
(A) 成员应不受直接和间接外部影响的约束,不得寻求或接受他人的指示。
(B) 成员不得采取与成员职责不兼容的行动或从事与成员职责不兼容的职业,无论是否有报酬。
(C) 成员在任命时或任职期间,不得在受委员会监管的实体中有财务利益。
(3) 委员会成员应在任命其的当局的授权下任职,但任职时间不得超过连续八年。
(d) (1) 在2027年1月1日或之前以及之后每年,政府运营机构应发布法规,更新“受监管模型”定义中的以下两个阈值,以确保其准确反映技术发展、科学文献以及广泛接受的国家和国际标准,并适用于构成造成或显著促成关键伤害重大风险的人工智能模型。
(2) 更新后的定义应包含以下两项:
(A) 人工智能模型被视为受监管模型所应超过的初始计算阈值。
(B) 人工智能模型被视为受监管模型所应满足的微调计算阈值。
(3) 在根据本小节制定法规时,政府运营机构应考虑以下所有因素:
(A) 被合理确定为可能造成或显著促成关键伤害的受监管模型所使用的计算能力的数量。
(B) 联邦法律、指南或法规中用于管理具有合理风险造成或促成关键伤害的人工智能模型的类似阈值。
(C) 来自利益相关者的意见,包括学术界、行业、开源社区和政府实体。
(e) (1) 在2027年1月1日或之前以及之后每年,政府运营机构应发布法规,建立适用于根据business and Professions Code第22603节(e)小节进行的审计的具有约束力的审计要求,以确保审计过程的完整性、独立性、效率和有效性。在根据本小节制定法规时,政府运营机构应考虑以下两项:
(A) 联邦或州法律或通过自我监管或标准制定机构所制定的相关标准或要求。
(B) 来自利益相关者的意见,包括学术界、行业和政府实体,包括开源社区。
(2) 根据第(1)款发布的任何法规,至少应与美国人工智能安全研究所和美国国家标准技术研究院发布的指南一致。
(f) (1) 在2027年1月1日或之前以及之后每年,政府运营机构应发布指南,以防止受监管模型和受监管模型衍生物造成或显著促成关键伤害的不合理风险,包括但不限于商业和职业法典第22603节规定的义务的更具体的组成部分或要求。
(2) 根据第(1)款发布的任何指南,至少应与美国人工智能安全研究所和美国国家标准技术研究院发布的指南一致。
(g) 根据本节通过的法规和指南应在前沿模型委员会批准后生效。
Sec 5:政府法典第11547.6.1节的增加
11547.6.1. (a) 在政府运营机构内特此设立一个联盟,根据本节规定,开发一个框架,用于创建一个名为“CalCompute”的公共云计算集群。
(b) 该联盟应开发一个框架,至少通过以下两项措施,推进安全、道德、公平和可持续的人工智能的发展和部署:
(1) 促进有益于公众的研究和创新。
(2) 通过扩大对计算资源的访问,实现公平创新。
(c) 联盟应尽合理努力确保在尽可能的范围内在加利福尼亚大学内建立CalCompute。
(d) CalCompute应包括但不限于以下内容:
(1) 一个完全拥有并托管的云平台。
(2) 运营和维护平台所需的人力专业知识。
(3) 支持、培训和促进使用CalCompute所需的人力专业知识。
(e) 联盟应遵守所有相关的劳动和劳动力法律和标准。
(f) (1) 在2026年1月1日或之前,政府运营机构应根据第9795节向立法机构提交联盟根据(b)小节开发的框架报告,用于创建和运营CalCompute。
(2) 根据本小节要求的报告应包括以下要素:
(A) 加利福尼亚州当前公共、私人和非营利云计算平台基础设施的现状分析。
(B) 建设和维护CalCompute对州的成本分析以及潜在资金来源的建议。
(C) 关于CalCompute治理结构和持续运营的建议。
(D) 关于CalCompute使用参数的建议,包括但不限于确定哪些用户和项目将得到CalCompute支持的过程。
(E) 对州技术劳动力的分析以及加强劳动力的公平途径的建议,包括CalCompute的作用。
(F) 与非政府实体(包括但不限于技术公司)提出的任何合作伙伴关系、合同或许可协议的详细描述,证明符合(c)和(d)小节的要求。
(G) 关于如何创建和持续管理CalCompute以优先使用当前公共部门劳动力的建议。
(g) (1) 联盟应根据州宪法法律,由14名成员组成,从以下各方面选出:
(A) 加利福尼亚大学和其他公共和私人学术研究机构以及国家实验室的代表。
(B) 受影响劳动力劳工组织的代表。
(C) 具有相关专业知识和经验的利益相关者团体的代表,包括但不限于伦理学家、消费者权益倡导者和其他公共利益倡导者。
(D) 提供技术援助的技术和人工智能专家。
(E) 必要时来自其他相关部门和机构的人员。
(2) 政府运营秘书应选出8名联盟成员,参议院临时主席和议会发言人各选出3名成员。
(h) 如果根据(c)小节在加利福尼亚大学内建立CalCompute,加利福尼亚大学可以接受私人捐赠,用于实施CalCompute。
(i) 本节仅在预算法案中为本项目的拨款后生效。
Sec 6:本法案规定的可分割性
本法案的规定是可分割的。如果本法案的任何规定或其应用被认定为无效,该无效性不影响其他可以没有该无效规定或应用而生效的规定或应用。
Sec 7:本法案的宽松解释
本法案应被宽松解释,以实现其目的。
Sec 8:立法机关的发现和声明
立法机关发现并声明,本法案Sec 3(增加商业和职业法典第22.6章(从第22602节开始))对公众获取公共机构会议或公共官员和机构文件的权利施加了限制,符合加利福尼亚宪法第一条第3节的意义。根据该宪法规定,立法机关作出以下发现,以证明受该限制保护的利益和保护该利益的必要性:
未经编辑的安全和保障协议和审计师报告中可能包含企业专有信息或有关受监管模型和受监管模型衍生物的信息,如果向公众披露,可能威胁到公共安全。
(朱玲凤)
声明:本文来自那一片数据星辰,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。