文|赵淑钰 中国信通院互联网法律研究中心高级工程师

杨默涵 中国信通院互联网法律研究中心实习生

2024年5月1日，美国《犹他州人工智能政策法》正式生效。《犹他州人工智能政策法》强调透明和非歧视地使用人工智能，保护消费者权益，并规定人工智能政策办公室以及人工智能学习实验室计划项目等内容。

一、明确重点概念内涵

《犹他州人工智能政策法》对人工智能相关概念内涵进行明确。如：

人工智能是指一种基于机器的系统，它可以作出预测，提出影响真实或虚拟环境的建议或决策。

人工智能技术是指使用或包含一种或多种人工智能形式的计算机系统、应用程序或其他产品。

生成式人工智能是指具有以下功能的自动化系统：（1）受过数据训练；（2）可以通过文本、音频或视觉交流与他人互动；（3）在有限监督或者没有人为监督的情况下，可以生成类似于人类所创造内容的非脚本输出内容。

合成数据是指通过计算机算法或统计模型生成的数据，不包含个人数据。

二、明确使用人工智能主体的用户保护义务

《犹他州人工智能政策法》区分了负有用户保护义务的两类主体，即非受监管主体和受监管主体。受监管主体是指需要获得执照或国家认证才能从事的商业活动主体；非受监管主体是指任何使用、提示或以其他方式使得生成式人工智能能够与人互动的主体。上述两类主体都要受到《犹他州人工智能政策法》规制。

《犹他州人工智能政策法》明确了上述两类主体的主要义务包括：

1、透明度义务：受监管主体必须“显著披露”用户在使用服务时与人工智能互动的情况。这种披露必须在用户与人工智能进行口头交流或对话开始时以口头方式进行，或者在用户与人工智能进行书面交流之前通过电子邮件进行。非受监管主体则适用更加宽松的标准，如果用户要求或者提示，非受监管主体就必须“清楚且显著地披露”用户正在与人工智能系统（而非人类）进行互动。

2、问责义务：根据《犹他州人工智能政策法》，任何公司如果通过使用生成式人工智能违反犹他州消费者保护部门的相关法规，则将对违规行为负责。即使生成式人工智能应用程序中作出了违规声明，或生成式人工智能实施了违规行为，或生成式人工智能被利用从而促进了违规行为，该公司都要对违规行为负责。

3、法律责任：违反《犹他州人工智能政策法》的公司每次违规将被处以最高2500美元的罚款，消费者保护部门除了可以采取行政和禁令补救措施外，还可以向法院提起诉讼以执行法律规定。如果公司不遵守因违反《犹他州人工智能政策法》而发布的行政命令或法院命令，则每次违规可能会被处以5000美元的罚款。

三、人工智能政策办公室

《犹他州人工智能政策法》明确了设立人工智能政策办公室。人工智能政策办公室任命一名主任，监督其管理和运作。人工智能政策办公室主要职责包括：

（1）创建并管理人工智能学习实验室项目；

（2）就新出的监管建议与犹他州企业和其他利益相关者进行磋商；

（3）根据《犹他州行政法规制定法》第三章制定规则，确定申请参加学习实验室项目的程序、要求和费用，邀请、接受、拒绝或撤销成员的标准，成员的数据使用限制和网络安全标准，要求成员向消费者披露的信息、向办公室报告、参与期限的延长以及其他要求。

（4）每年11月30日前向商业和劳工临时委员会报告学习实验室拟议的学习议程，学习实验室的发现和成果，以及根据学习实验室的调查结果出具的立法建议。

四、人工智能学习实验室项目

（一）内容和目的

《犹他州人工智能政策法》确定了人工智能学习实验室的项目内容和目的。其是由人工智能政策办公室管理，设立目的是：

（1）分析和研究人工智能技术的风险、收益、政策影响，为国家监管框架提供支持；

（2）鼓励国家发展人工智能技术；

（3）与人工智能公司一起评估目前存在的或者拟议的人工智能监管措施的有效性和可行性；

（4）为人工智能立法和监管提出调查结果和建议。

《犹他州人工智能政策法》还明确了人工智能学习实验室的运行规则。在运行过程中，人工智能政策办公室应定期为学习实验室制定学习议程，确定办公室打算研究的具体人工智能政策领域。人工智能政策办公室也有权邀请相关人员参与，或者接受个人参加学习实验室的申请，具体邀请和接受申请程序由人工智能政策办公室确定。但是在选择学习实验室的参与成员时，人工智能政策办公室应考虑到：

（1）被邀请者或申请人的申请条件与学习议程的相关性和实用性；

（2）被邀请者或申请人的相关专业知识；

（3）办公室认为与学习实验室相关的其他因素。

（二）监管缓解协议

由于美国法律给人工智能技术使用和研究设置了一系列监管措施，《犹他州人工智能政策法》创新性地给学习实验室参与者中使用人工智能技术的主体设置了缓解监管措施的方法，即放宽人工智能技术使用范围的特殊情况。明确在犹他州，使用或者希望使用人工智能技术的主体可以根据办公室制定的标准和程序，申请监管缓解，暂时给予管制缓解。缓解协议应当明确：

（1）对参与者人工智能技术使用范围的限制，例如用户的数量和类型、地理限制等；

（2）缓解后应当执行的保障措施；

（3）具体监管缓解措施。

为了获得上述监管缓解资格，参与者必须向人工智能政策办公室证明：

（1）具有负责任地开发和测试人工智能的技术专长和能力；

（2）有足够的财政资源来履行测试期间的义务；

（3）该人工智能技术为消费者提供了实质性利益，这种利益可能超过了减轻法规执行所带来的已确定风险；

（4）已经提出了有效计划来监测和减少已识别的风险；

（5）测试的规模、范围和持续时间会基于上述风险加以限制。为了评估申请人是否符合上述监管缓解的资格标准，办公室可以就该申请咨询相关机构和外部专家。

（三）参与人工智能学习实验室的义务

在人工智能政策办公室批准申请人参加学习实验室后，申请人必须与人工智能政策办公室及其他有关国家机构签订参与协议。参与者应根据参与协议向国家机构提供所需信息，并按照参与协议的要求向人工智能政策办公室报告。人工智能政策办公室可以为其认为风险较高的参与者制定额外的网络安全审计程序。参与者应当按照人工智能政策办公室规则或参与协议要求保留相关记录，在遇到导致用户权益受损、隐私泄露或未经授权的数据使用等事件时立即向人工智能政策办公室报告，此类情形也可能导致参与者被取消参与资格。

除了上述规定之外，《犹他州人工智能政策法》还为管制缓解协议的有效期和参与者申请时效进行了具体要求。并且明确，使用生成式人工智能实施犯罪或者故意提示或以其他方式导致生成式人工智能实施犯罪，都属于犯罪行为。

总体来讲，《犹他州人工智能政策法》为犹他州的人工智能创新路径和监管策略都指明了方向。犹他州也成为美国第一个颁布专门管理人工智能服务消费者保护法规的州，紧随其后，科罗拉多州也出台了全面的人工智能监管法案SB205，即《科罗拉多州人工智能法案》（2024年5月17日签署，将于2026年2月1日生效）。有美国研究者预测，未来几个月，美国州层面人工智能监管政策和立法将持续增加。

声明：本文来自CAICT互联网法律研究中心，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。