今天，加州州长大手一挥，给了加州《前沿人工智能模型安全创新法案》（SB-1047）法案一个巴掌——拒绝签署✍️‍‍‍‍‍

2024 年 6 月 5 日，经过七轮修订的加州《前沿人工智能模型安全创新法案》（SB-1047）获加州参议院通过，并将提交众议院最后审批。如果审批通过，加州SB-1047将可能成为比《欧盟人工智能法案》更严苛的人工智能领域法案。‍

然而，作为全球公认的人工智能领导者，也是2023年度被Time100 AI评选为世界上最有影响力的人工智能人物的Andrew Ng博士，公开发文表达了忧虑，甚至是一种愤怒，他呼吁公众抵制SB-1047法案的通过。‍

2024 年 8 月 29 日，在加利福尼亚州参议院同意加利福尼亚州议会提出的修正案后，参议院关于《前沿人工智能模型安全创新法案》的第 1047 号法案在加利福尼亚州立法机构获得通过。理论上，等加利福尼亚州州长签署后，法案将生效。‍‍

加州州长办公室

2024 年 9 月 29 日

致加利福尼亚州参议院议员们：

我将不签署参议院第 1047 号法案并将其退回。

该法案要求大型人工智能（AI）模型的开发者以及提供计算能力用于训练此类模型的机构，制定某些保障措施和政策以防止灾难性危害。该法案还将设立前沿模型委员会 —— 一个州级机构 —— 来监督这些模型的开发。

加利福尼亚州拥有全球 50 家领先的 AI 公司中的 32 家，是现代史上最重要的技术进步之一的先驱。我们在这一领域处于领先地位，得益于我们的研究和教育机构、多元化且积极进取的劳动力，以及我们对知识自由的自由奔放的培育。作为未来的守护者和创新者，我认真对待监管这一行业的责任。

今年，立法机构向我提交了几项经过深思熟虑的提案，以针对当前迅速演变的风险对 AI 公司进行监管 —— 包括对我们民主进程的威胁、错误信息和深度伪造的传播、网络隐私风险、关键基础设施面临的威胁以及劳动力的混乱。这些法案以及我的政府所采取的行动，都以人工智能系统的责任、公平和透明原则以及加利福尼亚州人工智能技术的部署为指导。

参议院第 1047 号法案放大了关于人工智能部署可能产生的威胁的讨论。辩论的关键在于监管的门槛应基于开发人工智能模型所需的计算成本和数量，还是我们应不顾这些因素评估系统的实际风险。这场全球讨论正值人工智能的能力以令人瞩目的速度持续提升之时。与此同时，应对灾难性危害风险的策略和解决方案也在迅速演变。

参议院第 1047 号法案仅关注最昂贵和大规模的模型，建立了一个监管框架，这可能会给公众一种对控制这一快速发展的技术的虚假安全感。较小的、专门化的模型可能会变得与参议院第 1047 号法案所针对的模型同样危险，甚至更危险 —— 这可能会以抑制推动公共利益进步的创新为代价。

在我们竞相监管一项仍处于起步阶段的技术时，适应性至关重要。这需要一种微妙的平衡。参议院第 1047 号法案虽然意图良好，但没有考虑人工智能系统是否部署在高风险环境中、是否涉及关键决策或敏感数据的使用。相反，只要是一个大型系统部署它，该法案就对即使是最基本的功能也适用严格的标准。我不认为这是保护公众免受该技术带来的真正威胁的最佳方法。

让我明确一点 —— 我同意作者的观点 —— 我们不能等到一场重大灾难发生才采取行动保护公众。加利福尼亚州不会放弃其责任。必须采用安全协议。应实施积极的防护措施，并且对不良行为者的严厉后果必须明确且可执行。然而，我不同意为了保护公众安全，我们必须接受一种没有基于对人工智能系统和能力的实证轨迹分析的解决方案。最终，任何有效监管人工智能的框架都需要与技术本身同步发展。

对于那些说这里没有问题需要解决，或者说加利福尼亚州在监管这项技术的潜在国家安全影响方面没有作用的人，我不同意。仅加利福尼亚州采取行动可能是有必要的 —— 尤其是在国会没有采取联邦行动的情况下 —— 但它必须基于实证证据和科学。

美国国家科学技术研究所下属的美国人工智能安全研究所正在根据基于证据的方法制定关于国家安全风险的指南，以防范对公共安全的明显风险。根据我在 2023 年 9 月发布的一项行政命令，我的政府内的机构正在使用人工智能对加利福尼亚州关键基础设施面临的潜在威胁和脆弱性进行风险分析。这些只是由专家领导的众多正在进行的努力中的几个例子，这些努力旨在为政策制定者提供关于基于科学和事实的人工智能风险管理实践的信息。像这样的努力已经导致了十几项针对人工智能带来的特定已知风险的法案的出台，我在过去 30 天内已经签署了这些法案。

我致力于与立法机构、联邦合作伙伴、技术专家、伦理学家和学术界合作，以找到合适的前进道路，包括立法和监管。鉴于利害关系 —— 在保护免受实际威胁的同时又不不必要地阻碍这项技术为促进公共利益所带来的前景 —— 我们必须正确处理此事。

基于这些原因，我不能签署这项法案。

真诚地，

加文・纽瑟姆

声明：本文来自互联网法律匠，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。