发达国家人工智能安全政策研判

引言

人工智能作为引领新一代信息技术发展的“头雁”技术，是推动我国实现高质量发展、创造高品质生活、提升国际核心竞争力的重要引擎。然而，作为全新的基础性使能技术体系，人工智能的双刃剑效应也尤为明显，对经济、社会、国家乃至全人类的安全发展都带来极为复杂的挑战，如何确保人工智能高质量安全发展尤为关键。对此，党中央多次强调，要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控。

1、全球人工智能安全的趋势研判

1.1 重视人工智能发展内嵌安全的观念

人工智能安全问题存在于技术发展的各个阶段。美、英、德、法、日等各国都在不同的战略政策中强调安全问题贯穿人工智能的数据采集、算法设计、产品开发、产业应用等全生命周期中。

1.2 重视人工智能在安全领域的两面性

人工智能技术发展给社会带来巨大的安全挑战，但也能为传统安全赋能。美、法、日都将国防和公共安全列为人工智能技术重点应用的领域之一，美国从保持全球领导力，基于国家安全的战略高度，强调人工智能对军事、情报和国家竞争力的作用，不仅拓展人工智能技术在传统安全领域的应用，也特别注意防范人工智能对国家安全的冲击。

1.3 重视人工智能的治理规范

人工智能治理规范不仅体现在宏观层面，如人类安全、伦理、价值观、信任、可靠等原则，更体现在具体的应用场景中的法律监管和技术标准，如智能机器人、自动驾驶等，也包括相关通用性的算法追责等规范。美、欧、英、日等结合各自人工智能技术发展能力以及社会治理传统经验，在治理规范上提出符合自身利益诉求的原则倡议或规范标准，但也注重强调占据社会道德制高点，在争夺人工智能安全领域的话语权。

2、主要政治体人工智能安全政策及特

2.1 美国：人工智能安全立足美国的国际领导力和国家安全战略

美国人工智能安全政策主要特点：（1）成立国家层面的人工智能安全委员会，直接向白宫和国会负责，统筹应对人工智能在安全领域的挑战，推进人工智能的发展；（2）强调人工智能发展和应用对于美国国防、军事、情报等传统安全领域的意义，重视人工智能在国防军事和情报领域的应用；（3）将人工智能纳入国际博弈和国家战略议题，视人工智能作为确保美国全球领导力、竞争力未来核心能力之一，并将人工智能列入限制对中国等国出口的关键技术；（4）国会、联邦政府、州政府等国家机构共同构建规范人工智能在算法安全和自动驾驶等发展、应用方面的法律监管体系；（5）包括微软、谷歌等科技巨头，还有IEEE、ITI 等行业协会，阿西洛马人工智能原则、OpenAI 公共智库等不断在人工智能治理原则、伦理规范和安全标准上发力。

2.2 欧盟（德、法）：重视西方政治价值与人工智能的协调

欧盟层面高度重视人工智能对现有的政治秩序、政治价值和伦理道德的冲击，设立欧盟委员会直属的欧盟人工智能高级别专家组，致力于将西方的人权、自由等政治价值内嵌到人工智能伦理体系中，并谋求在人工智能安全、伦理范畴的话语权和规则制定权。在德、法等成员国层面则以人工智能产业安全发展、监管规制的法律制定为主要侧重点。