近日，美国两党参议员提出了《人工智能创新未来法案》，旨在为美国在人工智能和新兴技术发展方面继续保持领导地位奠定基础。该立法通过纳入关键的网络安全建议来响应研究人员的长期呼吁，例如制定国际标准、指标和人工智能测试平台；加强公私部门与国内外政府之间的合作；加强信息共享，推动安全的人工智能研究和开发。
除了预期的缓解极端人工智能风险框架之外，国会还忙着对人工智能进行立法，尤其是因为它涉及人工智能和网络安全交叉的许多领域。经过多年试图争论人工智能立法之后，立法者现在认识到让相关利益相关者参与政策实施的重要性。这与2023年 10月发布的人工智能行政命令相一致，该命令表示，为了社会的利益，打算对人工智能采取多利益相关者方法。《人工智能创新未来法案》是美国在促进人工智能安全发展和跨部门合作方面迈出的值得称赞的一步。本文为该法案的摘要版。
第1 节.简称；目录：本法案可称为《2024年人工智能未来创新法案》。
第2 节.国会意识：国会认为，有关人工智能的政策应最大限度地发挥人工智能的潜力和发展，使所有私人和公共利益相关者受益。
第3 节.定义：提供了关键定义，包括"人工智能蓝队"、"人工智能模型"、"人工智能红队"、"基础模型"、"生成式人工智能"、"合成内容"、"测试平台"、"TEVV "和 "水印"
亮点
美国人工智能安全研究所（Institute）在国家标准与技术研究院（NIST）正式成立 ，负责制定确保国家安全、公共安全和个人权利的人工智能标准。根据该法案，该研究所将研究“系统和模型的安全性、有效性和可靠性、安全性、能力和限制、可解释性、可解释性和隐私性；”制定标准，将生成式人工智能和基础模型的安全开发实践纳入其中；开发和发布“网络安全工具、方法、最佳实践和自愿指南”，以保护人工智能模型免受漏洞或攻击。我们鼓励研究所平衡特殊性的需求和足够的灵活性，以适应人工智能发展的飞速发展。
在国家实验室、NIST、国家人工智能研究资源试点、美国能源部和私营部门之间创建人工智能测试台 计划，为公司开发安全风险工具、指标和测试环境，以评估其系统的能力和性能。限制。测试平台可以帮助识别潜在的自主进攻性网络能力，这是一个值得欢迎的发展；人工智能生态系统中的漏洞；化学、生物、放射性和核威胁；和关键基础设施风险。
由负责技术标准的商务部副部长通过研究所所长并与能源部长协调建立基础模型 测试计划。该计划使供应商能够“跨一系列模式”测试人工智能基础模型，包括文本、图像、音频、视频和软件代码。这些自愿测试旨在提高基础模型的准确性、效率和偏差并对其进行基准测试。
由商务部长、国务卿和科学技术政策办公室主任组建国际人工智能创新和标准联盟。这项全球倡议旨在鼓励人工智能创新方面的国际合作，并协调各国的人工智能标准。该联盟致力于通过促进全球采用通用人工智能安全实践、标准和使用来促进人工智能开发的统一方法。
由美国国家科学基金会 (NSF) 指导启动双边和多边人工智能研究合作。这些合作的重点是在国际上推进人工智能研究和开发，包括共享数据和专业知识。利用国家人工智能研究所和全球中心等现有的 NSF 项目，这一发展将通过推动协调创新和安全人工智能发展来加强全球科学合作。
主要内容
一、人工智能自愿标准、度量标准、评估工具、试验台和国际合作
A.人工智能安全研究所和试验台
第 101节. 人工智能安全研究所
授权在美国国家标准与技术研究院（NIST）成立人工智能安全研究所（以下简称 "研究所"），其任务是协助私营部门和机构制定人工智能自愿标准和最佳实践。
设立研究所所长一职，并授权聘用全职工作人员。
授权 NIST 再聘用 15 名关键技术专家，并将日落授权从 2027 年延长至 2035 年，扩大了《CHIPS 法案》和《科学法案》的关键授权。
规定了研究所的三项主要职能：(1) 开展研究、评估、测试并支持自愿标准的制定；(2) 为人工智能的使用和发展制定自愿指南和最佳实践；(3) 与私营部门、国际标准组织和多边组织合作，促进人工智能的创新和竞争力。
在第一项职能中，指示研究所 (1) 开展人工智能测量研究；(2) 与能源部（"DOE"）、美国国家科学基金会（"NSF"）和公私伙伴关系合作，开发测试环境，定期进行基准测试和能力评估；(3) 推动制定和采用明确、可实施、技术上可靠、技术中立的自愿标准和准则，根据实体规模、人工智能系统的潜在风险和潜在利益以及实体在人工智能系统中的角色（如开发者、部署者或用户），在方法上适当变化；以及 (4) 制定识别基础模型中漏洞的最佳实践。
在实施的第二项职能中，指示研究所 (1) 调整能力评估，协调测试台环境，与美国盟国共享漏洞和事件数据；(2) 建立蓝队能力，制定缓解方法；(3) 支持制定基于共识的自愿标准和准则，用于数字内容认证、合成内容标记和检测，以及人工智能系统的透明度文件；(4) 与相关机构协调，针对不同用例制定或支持特定部门和应用的人工智能风险管理框架简介。
授权 NIST 成立人工智能安全研究所联盟，以支持研究所的工作。本法案颁布两年后，负责标准与技术的商务部副部长（"副部长"）将向国会提交一份报告，总结联盟成员为支持研究所的工作所做的贡献。
在履行研究所职能的过程中，副部长将支持制定测试人工智能系统组件的自愿标准，包括：(1) 用于训练、开发和运行人工智能系统的物理基础设施；(2) 用于训练和评估模型的数据；(3) 经过训练或部分训练的人工智能模型。
只要局长认为符合美国的利益，并符合所有相关的道德约束和原则，局长可以接受来自公共和私人来源的礼物。
本节中的任何内容均不得解释为向NIST主任提供任何之前未生效的执行权力。
第102节. 人工智能测试计划
指示 NIST 与 DOE 和 NSF 协调，建立并实施一项测试平台计划，以鼓励协作并支持 NIST、国家实验室、国家人工智能研究资源试点以及公共和私营部门实体之间的伙伴关系。
该计划应 (1) 在可行的情况下，利用这些合作伙伴的先进计算资源和专业知识，使用现有解决方案对人工智能系统进行测试和评估；(2) 优先识别和评估潜在的人工智能安全风险，必要时利用保密测试平台；(3) 考虑测试、评估和风险评估对使用生物序列数据（包括用于基因合成的人工智能）训练的人工智能系统的适用性；(4) 向国会提交一份评估该计划成功与否的报告。
要求 NIST 和 DOE 与私营部门合作制定一项测试计划，为基础模型供应商提供测试和评估其人工智能模型的机会。
本节的任何内容均不得解释为要求个人披露任何信息。
第 103节. NIST 和DOE 新材料试验台
指示NIST和能源部联合建立一个试验平台，通过使用人工智能、自主实验室以及人工智能与其他新兴技术（如量子和机器人技术）的整合，利用国家实验室和私营部门的资源，并酌情建立公私合作伙伴关系，来识别、测试和合成新材料，以支持先进制造业。
第 104 节.国家科学基金会和能源部在人工智能新科学发现方面的合作
指示国家科学基金会和能源部开展合作，通过使用人工智能以及人工智能与量子和机器人等其他新兴技术的整合，支持新的转化科学发现和进步，并可酌情建立公私伙伴关系和接受资源。
第 105 节.进度报告
研究所所长应与商务部长和能源部长协调，向国会报告本分节的实施情况。
B.国际合作
第 111节. 人工智能标准国际联盟
指示商务部、国务院以及科技政策办公室（"OSTP"）的负责人共同寻求与志同道合的国家结成联盟或同盟，就人工智能的创新方法开展合作，并协调和促进共同人工智能标准的制定和采用。
指示商务部、国务院和科技政策办公室负责人与能源部和国家科学基金会就人工智能创新和进步的方法进行磋商。
确保参与国保持足够的研究安全措施、知识产权保护、安全标准和风险管理方法。
第 112节：双边和多边人工智能研究合作
要求国家科学基金会支持双边和多边合作，以促进人工智能研发创新。
确保参与国制定并协调安全措施和出口管制，以保护知识产权和研发。
C.确定创新的监管障碍
第121 节.美国政府问责局关于人工智能创新障碍的研究
要求美国审计总署向国会提交一份关于人工智能系统创新的监管障碍的报告，包括：（1）直接影响人工智能创新和竞争力的联邦法规的重要实例；（2）对联邦机构在执行此类规定时所面临的挑战的评估；（3）对政府采用和使用人工智能来改善政府服务的评估；以及（4）主计长为改善人工智能系统创新而提出的立法或行政建议。
二、人工智能研究、开发和能力建设活动。
第201 节.人工智能创新的公共数据集
指示科学和技术政策办公室制定一份优先事项清单，列出用于培训和评估人工智能系统的经整理的、可公开获取的联邦政府数据，包括与《CHIPS和科学法案》中确定的关键技术重点领域相关的数据，以及对农业、气象服务、医药、交通、制造和通信等美国其他主要经济部门的适用性。
指导在《国家人工智能倡议法》所创建的机构间委员会（"机构间委员会"）中有代表的机构为开发和改进此类数据集提供资金，并鼓励私营部门分担成本，同时确保与现有技术和隐私标准保持一致。
第202 节. 人工智能创新大挑战奖
指示科技政策办公室为联邦人工智能大挑战制定一份优先事项清单。
优先事项清单可包括：
o利用人工智能克服微电子工程和应用研究中的障碍，促进计算和人工智能的发展，包括通过与机器学习和量子等新兴技术的整合。
o促进计算和人工智能技术的转型或长期进步。
o开发下一代人工智能解决方案，包括通过整合量子和机器学习等新兴技术，克服美国先进制造业的障碍。
o为经济部门开发人工智能解决方案，如扩大人工智能在海运船舶中的应用。
o开发改善边境安全的人工智能解决方案，包括与检测芬太尼、非法违禁品和其他非法活动相关的解决方案。
指示在机构间委员会中有代表的机构根据优先事项清单设立一个或多个有奖竞 赛或联邦投资计划。
总统应通过 OSTP 主任确保在优先事项清单确定后的一年内至少宣布三项有奖竞赛或联邦投资计划。
要求奖项对美国经济竞争力产生积极影响。
要求奖项研究必须在美国进行。
如果涉及开发和制造，则要求在美国进行先进制造。
声明：本文来自天极智库，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
