据2024年2月9日报道，美国白宫正在招募200多家人工智能公司、利益相关方和公共社会的众多组织，以组建美国有史以来第一个致力于人工智能安全的联盟。
根据美国商务部2024年2月8日发布的公告，人工智能安全研究所联盟（Artificial Intelligence Safety Institute Consortium，AISIC）将制定红队、安全评估和其他安全措施的指导方针。这个新联盟隶属于美国国家安全与技术研究所（National Institute of Safety and Technology，NIST）的人工智能安全研究所（AI Safety Institute），旨在充当人工智能开发人员和联邦机构之间的联络人。此外，它还将致力于为高级人工智能模型制定合作研究和安全指南。
AISIC概况
1.成员
首批AISIC成员包括大量非营利组织、大学、研究团体和如亚马逊、Adobe、谷歌、微软、Meta、Salesforce和Visa等大公司。它还拥有著名的人工智能学术中心，其中包括布法罗大学的人工智能和数据科学研究所和南卡罗来纳大学的人工智能研究所，以及领先如ChatGPT制造商Open AI的人工智能开发商。
2.任务
白宫于2023年10月发布的一项人工智能行政命令。该行政命令援引《国防生产法》，要求人工智能开发人员与联邦政府分享红队和其他安全评估的结果。根据NIST，AISIC是“迄今为止建立的最大测试和评估团队集合”，并将专注于“为人工智能安全领域的新测量科学奠定基础”。
AISIC的任务是建立一个人工智能利益相关者可以共享知识和数据的空间，并将寻求改善联盟成员之间的信息共享。AISIC还将提出促进“联盟成员之间的协作开发以及技术和数据转让”的措施。
AISIC前景
网络安全专家、立法者和法律学者此前曾表示担心，人工智能开发人员在开发可能对国家安全和公共卫生造成重大风险的先进模型时，缺乏全面的法规、标准甚至一套可遵循的最佳实践。白宫副幕僚长布鲁斯·里德（Bruce Reed）表示，AISIC将为公共和私营部门提供一个“关键论坛”，共同制定人工智能保障措施和安全标准。
里德在一份声明中表示：“为了跟上人工智能的步伐，我们必须快速行动，确保从政府到私营部门再到学术界中的每个人都在朝着同一个方向前进。”
来源｜GOV INFO SECURITY
声明：本文来自赛博研究院，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
