8月28日，加州备受争议的人工智能安全法案SB-1047已在州立法机关通过，目前正在等待州长的决定。该法案要求对先进人工智能模型进行安全测试，并要求开发人员设置终止开关，这引发了科技公司和立法者之间的激烈争论。支持者认为该立法对公共安全至关重要，而包括一些大型科技公司和民主党人在内的反对者则担心它可能会扼杀创新。
01 反对者的主要意见
法律的不明确性：法案的措辞存在含糊不清的地方，导致人们对开发者必须采取哪些措施才能遵守规定存在不同的解释。由于法院试图根据具体情况来解释法案的条款，这种不明确性可能会导致诉讼与执法的不一致。
影响加州AI领导者的地位：科技公司可能会把公司业务转移到一个监管环境更明智和宽松的辖区，这将把先进的人工智能开发推向地下或海外，而加州甚至美国将失去这些机会，威胁到加州作为人工智能全球领导者的独特地位。
合规成本遏制创新：法案施加的监管合规负担会增加企业的运营成本，开发者将承担过量的责任，这可能会影响较小的公司和初创公司，导致其会避免涉足被视为高风险的新技术领域，遏制人工智能领域的开发创新。
降低国际竞争力：不同国家和地区之间的监管差异可能导致市场分割和贸易壁垒的出现，而加州人工智能法案的严格监管可能会使本地企业在国际市场上的竞争力下降。
02 支持者的主要意见
有助于防范潜在风险：人工智能应该像其他构成潜在安全风险的行业一样受到监管，法案将提供合理的安全标准，防止未来可能创建的极其强大的人工智能模型造成严重伤害。
增强公众对技术的信任感：法案的出台将有助于提高人工智能系统的透明度和可解释性，明确企业的社会责任，保护普通公众的权益，增强公众对技术的信任感。
法案的监管较为宽松：法案的规则只适用于世界上最大的人工智能模型（成本至少为1亿美元，训练期间使用10^26FLOPS的模型），目前很少有公司的人工智能产品达到此门槛；法案没有许可证制度，不要求公司在培训或部署模型之前获得政府机构的许可，因此该法案是对人工智能进行有效监管的最低限度，相较于面临的风险，这是一项非常宽松的立法。
来源｜Digwatch、Neontri等
编译｜张羽翔
审核｜智能society
声明：本文来自上海市人工智能与社会发展研究会，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
