当地时间10月30日，美国总统拜登签署了一项关于人工智能的行政命令，推出白宫有关生成式人工智能的首套监管规定，要求对人工智能进行新的安全评估、公平和民权指引，以及对劳动力市场影响的研究。

拜登的行政命令要求大公司在人工智能系统正式发布之前与美国政府分享安全测试结果。它还优先考虑美国国家标准与技术研究院（National Institute of Standard sandTechnology）制定的人工智能“红队”标准，即对系统内的防御和潜在问题进行压力测试。美国商务部将制定为人工智能生成的内容加水印的标准。

此外，最新的行政命令还涉及大型人工智能系统的训练数据，并提出了评估机构如何收集和使用商业可用数据的必要性，包括从数据中介处购买的数据，特别是当这些数据涉及个人标识符时。

拜登政府也在采取措施吸引更多劳动力参与人工智能。从周一开始，具有人工智能专业知识的工人可以在AI.gov找到联邦政府的相关职位空缺。

白宫副办公厅主任布鲁斯·里德（Bruce Reed）在一份声明中说，该命令代表了“世界上任何政府在人工智能安全、安保和信任方面采取的最强有力的行动”。它建立在白宫此前从领先的人工智能公司获得的自愿承诺之上，是政府对这项技术采取的第一个具有约束力的重大行动。

此前，美国15家主要科技公司已同意实施自愿的人工智能安全承诺，但里德表示这“还不够”，周一的行政命令是朝着对该技术发展进行具体监管迈出的一步。

里德说：“总统拜登持续数月的努力，就为了在广泛的领域发挥联邦政府的权力，以管理人工智能的风险并利用其好处。”

虽然执法机构警告说，他们已准备好将现有法律应用于滥用人工智能的行为，国会也努力更多地了解这项技术来制定新法律，但行政命令可能会产生更直接的影响。像所有行政命令一样，它“具有法律效力”。

白宫的行政命令主要包括8个部分：

1、为人工智能制定新的安全和安保标准，包括要求一些人工智能公司与联邦政府分享安全测试结果，同时指示商务部为人工智能水印制定指南，并创建一个网络安全计划，使人工智能工具能够帮助识别关键软件中的缺陷。

2、保护消费者隐私，包括制定指引让机构可以用来评估人工智能中使用的隐私技术。

3、通过向联邦承包商提供指导，避免人工智能算法歧视，并就人工智能在司法系统中的适当作用（包括在量刑、风险评估和犯罪预测中使用时）创建最佳实践，促进公平和公民权利。

4、通过指示卫生与公众服务部制定一项计划来评估人工智能带来的潜在危害。

5、编写一份关于人工智能对劳动力市场的潜在影响的报告，并研究联邦政府如何支持劳动力市场受人工智能影响的工人。

6、通过扩大对气候变化等领域的人工智能研究的资助，以及制定具有关键专业知识的高技能移民留在美国的标准，促进创新和竞争。

7、与国际合作伙伴合作，在全球范围内实施人工智能标准。

8、制定联邦机构使用和采购人工智能指南，并加快政府雇用该领域熟练工人的速度。

今年8月，白宫与7家顶级人工智能公司，包括谷歌、微软、亚马逊、Meta、OpenAI、Anthropic和Inflection达成共识，每家公司都同意在开发人工智能方面做出一系列自愿承诺，包括允许独立专家在公开亮相之前评估工具，研究与人工智能相关的社会风险，并允许第三方测试系统漏洞。随后，再有8家公司参与到白宫的倡议当中。

全球人工智能峰会将举行 传G7即将就AI开发准则达成一致

由英国方面牵头的首届AI安全峰会将于11月1日至2日举办，英国政府宣称举办此次峰会意在讨论人工智能带来的风险，以及如何通过国际协调行动减轻AI风险。

而在峰会举办之前，七国集团（G7）最新发布的一份文件表示，七国集团的代表们即将同意制定一份行为准则，规范各大公司开发以及建设先进的人工智能系统。此举正值全球各国政府寻求降低人工智能的风险和潜在的滥用人工智能技术的方法之际。报告补充称，自愿行为准则将为全球主要国家如何管理这项全新的技术建立重要的里程碑。

报告指出，由美国、英国、加拿大、法国、德国、意大利和日本组成的七国集团（G7）在今年5月召开的部长级别论坛上启动了这一关键进程，该论坛被外界普遍称为“广岛人工智能进程”。

该文件还显示，新准则旨在促进全球范围推广安全、可靠和值得信赖的人工智能，并将为开发最先进的人工智能系统（包括最先进的基础模型和生成式人工智能系统）的组织的各项行动提供自愿性的指导意见。此外，该准则还旨在帮助各国和各企业抓住该新型技术的机遇，并解决该技术的潜在风险。报告称，该规范要求各大公司采取措施，检测、评估和降低人工智能生命周期中的风险，并在人工智能产品投放市场后处理相应的滥用事件。

文件显示，各大公司还被敦促发布关于人工智能产品的功能、限制、使用和任何滥用有关的公开性质报告，并投资于网络安保措施。

在管理人工智能方面，欧盟此前一直主张采取更强硬的立场，而日本则寻求更容易的管理方法——更接近美国为加强经济增长所采取的方法。东南亚国家也对人工智能采取了更有利于商业化的方式。

责编：叶舒筠

校对：苏焕文

声明：本文来自证券时报，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。