2024年10月11日，电子前沿基金会发布了一份加州近期科技立法的综述情况。
加利福尼亚州立法机构在本届会议期间再次忙于处理众多科技相关的法案，并于8月31日会议结束时通过了数项涉及隐私和人工智能（AI）的法案。州长加文·纽森（Gavin Newsom）在整个9月期间签署了其中的许多法案使其成为法律，但他也否决了三项重要的科技法案。以下是本届会议签署成为法律的主要隐私和AI法案的概要，以及对每项法律作用的简要说明。随后是对每项被否决法案的总结，以及纽森州长未予签署这些法案的理由。
已签署
定义“人工智能”于加利福尼亚州法律下（AB 2885）
AB 2885正式为加利福尼亚州法律目的定义了“人工智能”一词，即“一个工程化或基于机器的系统，其自主程度各不相同，能够为其明确或隐含的目标，从接收到的输入中推断出如何生成能够影响物理或虚拟环境的输出。”
生效日期：2025年1月1日
对AI生成内容的水印要求（SB 942）
SB 942，即加利福尼亚AI透明度法案，对特定生成式AI系统的开发者提出了标签要求。具体而言，该法律要求受涵盖的生成式AI开发者必须对其系统创建的所有图像、视频和音频加上一个不可见且难以移除的水印。法律还要求这些开发者为用户提供在其生成的或修改的图像、视频或音频内容上放置可见水印的选项。最后，法律要求受涵盖的AI开发者向用户提供免费的AI检测工具，告知用户特定内容是否由其生成式AI系统创建或修改。
生效日期：2026年1月1日
生成式AI的透明度（AB 2013）
AB 2013对生成式AI的开发者提出了透明度要求。该法律要求任何公开提供的生成式AI系统的开发者在其网站上发布关于AI系统训练数据的文档。披露内容必须是对用于训练生成式AI的数据集的高级摘要，包括任何数据是否为个人数据、合成数据或受版权、商标或专利保护的数据。
生效日期：2026年1月1日
政府使用生成式AI（SB 896）
SB 896，即生成式人工智能问责法案，要求加利福尼亚州应急服务办公室每年对使用生成式人工智能对州关键基础设施构成的风险进行分析。它还要求州实体如果使用生成式AI与个人沟通政府服务或福利，则必须披露其使用生成式AI的情况，并提供如何联系人类的说明。
生效日期：2025年1月1日
与选举相关的AI生成内容（AB 2655, AB 2355, AB 2839）
加利福尼亚州有三项新法律旨在针对与选举相关的AI生成的深度伪造内容。AB 2655，即捍卫民主免受深度伪造欺骗法案，要求大型在线平台在加利福尼亚州选举前后的特定时间段内，阻止与选举相关的实质性欺骗性内容，并将虚假或伪造的内容标记为“经过操纵”和“非真实”。该法律还要求这些在线平台实施机制，供用户报告应被阻止或标记但未被处理的虚假内容。
AB 2355要求任何使用AI生成或大幅修改的政治广告必须附带披露标签。
AB 2839禁止任何人在选举前后的特定时间段内，故意分发包含“实质性欺骗性内容”（包括深度伪造）的与选举相关的广告或通讯。10月2日，加利福尼亚州的一名联邦法官以第一修正案为由阻止了这项法律。
生效日期：AB 2655和2355为2025年1月1日；AB 2839立即生效
AI在自动拨号电话中的应用（AB 2905）
AB 2905要求自动拨号电话在录音中使用由生成式AI生成或显著改变的声音时，必须进行披露。
生效日期：2025年1月1日
AI生成的非自愿亲密图像（SB 926, SB 981）
SB 926和981均涉及非自愿亲密图像深度伪造。SB 926规定，创建或分发非自愿深度伪造图像为非法行为，如果创建者/分发者应该知道创建或分发该图像会导致情感困扰，并且实际上确实导致了困扰。SB 981要求社交媒体公司对平台上非自愿亲密图像深度伪造承担特定义务，包括提供用户报告此类图像的可访问方式，规定平台调查这些报告的具体时间框架，并要求平台首先在其调查期间暂时屏蔽图像，如果平台确定其为非自愿亲密图像深度伪造，则删除该图像。
生效日期：均为2025年1月1日
AI生成的儿童性虐待材料（AB 1831, SB 1381）
AB 1831和SB 1381均将加利福尼亚州反对儿童性虐待材料（CSAM）的法律扩展至适用于由人工智能生成或数字修改的内容。
生效日期：均为2025年1月1日
娱乐行业保护（AB 2602, AB 1836）
AB 2602和AB 1836均为娱乐行业中的演员和其他工作人员提供保护。这些法律要求工作室在创建或使用演员或其已故演员遗产的数字复制品（包括声音和形象）之前，必须获得他们的同意。
生效日期：均为2025年1月1日
AI在医疗保健中的应用（AB 3030）
AB 3030要求医疗保健提供者如果使用生成式AI向患者发送关于其健康状况的通讯，必须向患者披露，并必须向患者提供关于如何联系人类的明确说明。
生效日期：2025年1月1日
保护未成年免受成瘾性推送影响（SB 976）
SB 976禁止“成瘾性互联网服务或应用程序”的运营商向用户提供成瘾性推送，除非运营商实际知道用户年满18岁或获得了可验证的父母同意。此外，除非运营商实际知道用户年满18岁或获得了可验证的父母同意，否则在午夜至凌晨6点之间向用户发送推送通知是非法的。该法律还指示司法部长制定法规，规定受涵盖运营商应如何确定用户是否为未成年人。此法律与纽约州的SAFE for Kids Act相似。
生效日期：2027年1月1日
明确个人信息的定义（AB 1008）
AB 1008修订了加利福尼亚州消费者隐私法（CCPA），明确规定个人信息可以以各种格式存在，包括人工智能系统。
生效日期：2025年1月1日
保护神经数据（SB 1223）
SB 1223修订了CCPA，将神经数据作为敏感信息的一类。此修正案确保消费者的神经数据获得与其他所有形式的敏感信息相同的加强保护。加利福尼亚州继科罗拉多州之后（该州于4月颁布了类似法律），成为第二个为神经数据提供此类保护的州。
生效日期：2025年1月1日
已否决
浏览器对退出偏好信号的要求（AB 3048）
AB 3048本将要求浏览器和操作系统包含一个设置，允许用户向企业发送退出偏好信号。该法案还将授予加利福尼亚州隐私保护机构制定规则的权力，以确保法律能够跟上不断发展的技术。
在否决声明中，纽森州长对要求浏览器和操作系统包含退出机制的技术可行性表示犹豫，并表示这些问题应“首先由开发者解决，而不是监管者”。
电子隐私信息中心（EPIC）支持这项立法，并向审议该法案的委员会发送了一封信，连同其他几个组织一起，指出了广泛的民间社会支持。
前沿模型的安全要求（SB 1047）
SB 1047，即前沿人工智能模型安全与保障创新法案，本将对最大型AI模型的开发者提出安全要求。这些安全义务将要求开发者实现AI模型的完全关闭功能，记录和维护安全与安全协议，每年聘请独立审计师评估对本法案的遵守情况，并向司法部长报告与AI模型相关的任何安全事件。
该法案还将禁止开发者如果模型存在造成或促成重大危害（如制造核武器或促成对关键基础设施的网络攻击）的不合理风险，则不得将其公开提供。
这项法案在全国范围内引起了广泛关注，包括科技行业（尤其是OpenAI）和部分政治家（包括前众议院议长南希·佩洛西）的激烈反对。在否决SB 1047时，纽森州长表示担忧，认为这项法案可能会抑制AI创新，而无法有效地解决该技术的潜在风险。他指出，该法案仅涵盖大型基础AI模型，并未考虑模型部署的上下文。
加强对未成年人个人数据的保护（AB 1949）
AB 1949 本将对《加州消费者隐私法案》（CCPA）进行修订，以为未成年人提供更加严格的保护。目前，《加州消费者隐私法案》禁止企业在明知用户未满16岁的情况下出售或共享其个人信息。AB 1949 拟修订年龄判定机制，为更多未成年人提供保护，即禁止针对未满18岁消费者的信息的出售、共享、使用及披露，除非未成年人本人（针对13至18岁未成年人）或其父母（针对13岁以下未成年人）授权出售或共享其数据。
加州州长纽森（Newsom）在其否决声明中表示，担忧该法案将要求企业在收集数据时判断消费者是未成年人还是成年人。
https://epic.org/california-legislative-session-roundup-which-key-privacy-and-ai-bills-were-enacted-and-which-were-vetoed/
声明：本文来自清华大学智能法治研究院，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
