10月30日，美国商务部公开了今年与能源部共同签署的一份备忘录，该备忘录表明，两部门正在合作开展高级人工智能模型和系统的安全研究、测试和评估。
两部门打算评估人工智能模型对公共安全的影响，尤其对关键基础设施、能源安全和国家安全的风险。重点领域包括对先进人工智能模型的化学和生物风险进行分类评估，以及开发和评估旨在保护个人和商业专有数据的隐私增强技术。这些工作与能源部的人工智能测试平台相结合，将有助于为人工智能安全和创新的未来奠定基础。
01 主要合作内容
风险评估与缓解：两部门将共同努力评估和研究人工智能模型，特别是前沿AI模型及系统的安全性、局限性、风险和影响，并研究AI风险管理工具与技术。
隐私增强技术(PETs)的开发：两部门还将重点关注开发和部署用于保障隐私的隐私增强技术，探索创新的方法以保护数据隐私。
建立测试环境：按照第14110号行政命令的要求，能源部和商务部将共同开发测试环境（如测试平台），以支持AI技术在安全性和可靠性方面的改进。
提供AI指导和标准：商务部将通过NIST制定AI模型的评估指导方针，包括差分隐私保障等隐私技术的有效性评估准则。
02 合作形式
定期协调会议：双方将定期召开协调会议，讨论正在进行的合作活动，并规划未来的联合行动。
信息共享与沟通：双方人员将就AI相关评估、研究和技术开发进行信息共享和直接沟通，以确保合作的顺利开展。
专家互访和联合研究：两部门之间将通过人员互访和信息交换等形式加强沟通，支持双方的研究人员在技术评估和安全性研究方面的交流。
专项小组合作：能源部的国家实验室和国家核安全局(NNSA)的相关实验室也将参与到AI安全联盟的活动中，以支持美国AI安全研究所(USAISI)的发展。
03
前景展望美国商务部长吉娜·雷蒙多（Gina Raimondo）表示：“我们与能源部的合作，无疑将有助于美国人工智能事业的发展，美国人工智能安全研究所（AISI）和NIST将进一步推动人工智能安全科学的发展。”
下一步，商务部还将通过下属的国家标准与技术研究院（NIST）制定AI模型的评估指导方针。
来源｜美国商务部官网
编译｜尚健
审核｜唐巧盈
声明：本文来自上海市人工智能与社会发展研究会，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
