11月20日，美国商务部国家标准与技术研究院（NIST）下属的美国人工智能安全研究所宣布成立国家安全人工智能风险测试工作组（Testing Risks of AI for National Security，TRAINS），该工作组汇集了美国政府各部门的合作伙伴，旨在识别、衡量和管理快速发展的人工智能技术对国家安全和公共安全的新影响。
01主要内容
职责上，该工作组将在关键的国家安全和公共安全领域，如辐射和核安全、化学和生物安全、网络安全、关键基础设施、常规军事能力等，对先进的人工智能模型进行协调研究和测试。这些努力将推动美国政府保持美国在人工智能发展领域的领先地位，防止对手滥用美国的创新来破坏国家安全。
工作组由美国人工智能安全研究所（U.S. AI Safety Institute）的成员担任主席，初步成员包括以下联邦机构的代表：
国防部，包括首席数字与人工智能办公室（CDAO）和国家安全局；
能源部及其下属的十个国家实验室；
国土安全部，包括网络安全和基础设施安全局（CISA）；
卫生与公众服务部的国家卫生研究院（NIH）。
每个成员都将向工作组提供其独特的主题专业知识、技术基础设施和资源，并将合作开发新的人工智能评估方法和基准，以及开展联合安全风险评估和红队演习。根据最近的《关于人工智能的国家安全备忘录》（National Security Memorandum on AI）的指示，该工作组的成员将扩大到整个联邦政府。
02 前景展望
美国商务部长吉娜·雷蒙多（Gina Raimondo）表示：“实现安全、可靠和可信的人工智能创新不仅是经济上的优先事项，也是公共安全和国家安全的当务之急。美国的每一个角落都受到了人工智能飞速发展的影响，这就是为什么建立特别工作组是如此重要的一步，以联合我们的联邦资源，确保我们能够利用一切杠杆来应对这一决定一代人命运的技术所带来的挑战。美国人工智能安全研究所将继续发挥领导作用，集中政府各部门现有的一流国家安全和人工智能专业知识，以便利用人工智能的好处来改善美国人民和美国企业的生活。”
但是即将上任的总统特朗普曾表示将废除拜登的行政命令，人工智能安全研究所和其他联邦人工智能政策未来前景如何值得进一步观察。
来源｜NIST官网
编译｜尚健
审核｜唐巧盈
声明：本文来自上海市人工智能与社会发展研究会，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
