近日，作为二战期间英国密码破译中心的布莱切利园（Bletchley Park）再次见证历史。当地时间11月1日，首届全球人工智能安全峰会（以下简称“峰会”）在此处召开。

会议上，由包括中国在内的与会国共同达成的《布莱奇利宣言》（以下简称《宣言》）正式发表。这份宣言旨在关注对未来强大人工智能模型构成人类生存威胁的担忧，以及对人工智能当前增强有害或偏见信息的担忧。

纵观全球动态，AI国际治理竞争与合作并存。相关专家在接受记者采访时表示，不宜对《宣言》看得过高，其对于人工智能治理认知仍处于较为初期的阶段，但需要看到的是，《宣言》提出了AI治理的全球问题，并努力做进一步的治理探索。

首个全球性AI声明

美国、英国、欧盟、中国、印度等多方代表在两天会期内，就人工智能技术快速发展带来的风险与机遇展开讨论。英国图灵研究所、中国科学院、经合组织等众多机构，深层思维、谷歌、腾讯、阿里巴巴等企业，以及马斯克、杨立昆、约舒亚·本乔、杰弗里·欣顿等行业专家也出席了峰会。

据新华社报道，中国科技部副部长吴朝晖率团参会并在峰会开幕式上发表讲话。近期在北京举行的第三届“一带一路”国际合作高峰论坛上,中方提出《全球人工智能治理倡议》,围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理中国方案。

中方指出，此次峰会为各国提供了人工智能安全与国际治理议题的重要对话平台与交流合作机会。人工智能治理攸关全人类命运，是世界各国面临的共同课题。发展人工智能，应当积极倡导以人为本，智能向善，加强技术风险管控，并在相互尊重、平等互利的原则基础上，鼓励各方协同共治，增强发展中国家在人工智能全球治理中的代表性和发言权，不断弥合智能鸿沟和治理能力差距。

值得注意的是，作为本次峰会的重要成果之一，《宣言》由来自中国、印度、美国和欧盟等28个国家和地区的代表签署通过，这也是首个全球性AI声明。签署方一致认为，迫切需要通过新的全球联合努力来了解和集体管理潜在风险，以确保人工智能安全。以安全、负责任的方式开发和部署人工智能，以造福全球社会。

前沿人工智能，即那些能够执行各种任务的高能力通用AI模型，成为关注焦点。《宣言》指出，对于前沿人工智能技术有意识滥用或者无意识控制方面的问题，可能会引发巨大风险，尤其是在网络安全、生物技术和加剧传播虚假信息等方面。部分原因是这些功能尚未被完全理解，因此难以预测。“这些人工智能模型最重要的功能可能会有意或无意地造成严重甚至灾难性的伤害。”

发展前沿AI能力的行为者，特别是那些异常强大和潜在有害的AI系统，对确保这些AI系统的安全负有特别重大的责任，包括通过安全测试系统、评估和其他适当措施。

《宣言》指出，在合作背景之下，应对前沿人工智能风险的议程将侧重于：

（1）确定共同关注的人工智能安全风险，建立对这些风险的科学和循证的共识，并能够伴随着能力的不断增强，在更广泛的全球范围内保持共识，以了解人工智能对社会的影响。

（2）根据这些风险，在各国制定各自的基于风险的政策，以确保安全，在适当的情况下进行合作，同时认识到这些方法可能因国情和适用的法律框架而异。这些方法应包括提高开发人工智能前沿能力的私人行为主体的透明度、适当的评估指标、安全测试工具，以及发展相关的公共部门能力和科学研究。

AI治理规则竞争加剧

“《宣言》提出AI全球治理问题，呼吁各国关注，努力做出更进一步的治理探索，这是目前能够看到的一个价值。”北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括说道。

在他看来，不宜把《宣言》意义看得过高。“《宣言》反映出来的对于人工智能治理的认知处于相对初期的阶段，更多是说需要治理、呼吁共同合作识别风险、构思解决方案。相较于中国发布的《全球人工智能治理倡议》，两个文件在发展阶段、认知阶段存有代差，《宣言》并没有对人工智能治理的核心关切和风险进行直接提炼，也未给出解决思路。”

而这跟英国的人工智能发展阶段相关联。“英国并不是人工智能技术和产业大国，但是为了彰显其自身大国地位，推动峰会召开。从本身的治理实践和技术积累上，英国积累还不够。”吴沈括说道。

纵览全球，人工智能快速发展，各国、各地区的人工智能治理也已提上日程。

中国出台《生成式人工智能服务管理暂行办法》为生成式AI立规并鼓励发展；近期发布《全球人工智能治理倡议》从发展、安全和治理三个板块出发，为全球人工智能治理提出了11项主张。欧盟的《人工智能法案》则在拉锯多个回合之后，进入冲刺阶段。

美国总统拜登则于近期签署了《关于安全、可靠和可信地开发和使用人工智能的行政命令》，并指示商务部设立美国人工智能安全研究所引领人工智能安全工作。此次峰会上，美国商务部长吉娜·雷蒙多表示，人工智能安全研究所将评估前沿AI模型已知和新出现的风险。

“关于人工智能治理，从全球来看，有两个大的方向，一是强调安全的治理思路。包括加强政府监管实现安全和通过行业规则实现安全。二是强调人工智能的发展。通过市场驱动或通过国家规划驱动发展。”吴沈括说道。

AI治理全球竞速的背后，或许离不开对AI治理话语权这一问题的回应。

“各国争夺AI领域的话语权其实基于多个要素的综合作用。”对外经济贸易大学数字经济与法律创新研究中心执行主任张欣分析，首先，人工智能愈发成为各国经济转型的元引擎，具有重要的驱动作用。因此掌握人工智能治理领域的话语权意味着可以更好地为本国的企业和产业创造有利的运行环境。其次，人工智能的竞争早已从单纯的技术和应用竞争扩展到治理规则的竞争。

“可以说，在这个领域，出现技术赛道、产品赛道和治理赛道多轨并行的局面。因此，在全球人工智能治理框架迅速形成的过程中，积极发挥影响力具有重要的战略意义。”张欣说。

对于中国而言，在AI全球治理过程之中，又该扮演何种角色？

吴沈括认为，“时代已经发生变化，当前并不是说有一个人工智能国际规则需要中国参与融入，而现实状态是，中国本身就是国际规则的推动者和重要的共同制定者。人工智能时代，国家地位和力量对比发生了根本性的变化，我们将会是规则共同的缔造者。”

“国际性风险”需要各方协同共治

值得注意的是，尽管当下各国争夺AI治理话语权的“竞赛”火热，但仅凭一国之力难以解决这一新技术带来的风险。《宣言》提到，“人工智能产生的许多风险本质上是国际性的，因此最好通过国际合作来解决。我们决心以包容的方式共同努力，确保以人为本、值得信赖和负责任的人工智能是安全的……”

在峰会上，吉娜·雷蒙多也表示，“即使我们激烈竞争，我们也必须为全球问题寻找全球解决方案……这项工作不仅仅始于美国和英国，我们希望在全球范围内扩大信息共享、研究、合作，并最终实现政策协调。”

为加深对人工智能尚未完全了解的风险和能力的理解，此次峰会的与会者还决心支持建立前沿人工智能安全科学研究网络。该研究网络建立在英国首相上周宣布的世界第一个人工智能安全研究所的基础上，并补充了包括七国集团、经合组织等现有国际力量。

根据英国政府发表的声明，下届人工智能安全峰会将于一年后在法国举办，韩国将在未来6个月内联合主办一次小型虚拟峰会。

“当下人工智能技术已经走出实验室，深入而广泛地嵌入到社会经济的方方面面，具有通用潜能的生成式人工智能更是具有基础设施的重要功用。因此，当下各国均角力人工智能，抢占新一轮科技革命的制高点。”张欣表示，在这种趋势之下，需要注意到很多人工智能技术是没有国界的，其所带来的风险和影响是扩散性的，引发的也是全球范围内的经济结构、社会秩序的颠覆性变革，因此《宣言》中强调了人工智能的国际风险，为后续寻求人工智能国际治理提供了重要的前提和基础。

人工智能的透明度和可解释性、公平、问责制等问题也被《宣言》提及。吴沈括认为，面对人工智能的种种风险，加强国际交流需要通过产业先导，即通过产业合作来共同识别和发现主要风险类型，并做出有效处理。通过产业先行形成良好实践，再上升到政府和国际间共识的提炼，并形成相应规则。

张欣表示，我国提出的《全球人工智能治理倡议》对促进人工智能治理达成国际共识具有重要意义，也是推动人工智能安全与发展双轨并行的重要举措。一方面，现在的全球人工智能治理领域的确出现以意识形态划线或者构建排他性集团的趋势，不利于人工智能全球协同治理的形成；另一方面，我国的倡议也能够通过构建包容性、平等性、多元性的人工智能治理框架促进人工智能技术的开放与交流，促进技术进步和最佳实践共享，避免技术标准和应用的碎片化。

“更为重要的是，我国代表发展中国家积极就人工智能治理议题发声，有助于为发展中国家发展人工智能提供平等的发展机会，有助于减少技术和经济差距，从而为全球范围内的稳定、和平、增加国际信任和合作做出积极的贡献。”张欣说。

记者 | 郑雪 钟雨欣 实习生周颖

编辑 | 王俊 冯恋阁

声明：本文来自合规科技研究，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。