导语

鉴于全球人工智能生态系统快速发展且日益复杂，元战略梳理美国兰德公司最新研究，探讨英美两国在开发、部署和使用可信赖人工智能工具方面的范例、英美在人工智能领域合作的机遇与挑战等，为读者分析全球可信赖人工智能领域的合作提供参考。

一、背景

在全球范围内，人工智能正在迅速改变我们社会的方方面面，从医疗和教育到金融和娱乐。然而，随着人工智能的能力越来越强、越来越普及，它也带来了伦理、社会和法律方面的挑战，这些挑战需要随着技术的进步而不断解决。因此，人工智能已成为全球利益相关者关注的一个重要领域。人工智能系统有多安全、可靠？如何确保人工智能系统符合人类价值观并尊重人权？如何防止和减轻人工智能的潜在危害，如偏见、歧视、操纵和欺骗？人工智能系统的决定和行动如何得到充分和透明的解释？如何增强消费者和公众对人工智能的信任和信心？多年来，这些问题引发了人们关于“可信赖人工智能”（trustworthy AI）以及如何确保人工智能系统和应用值得信赖的大量辩论和讨论。

多年来，围绕可信赖人工智能的讨论促使人们制定了各种可信赖人工智能的框架和原则，如欧盟委员会（EC）的《可信赖人工智能的伦理准则》；经济合作与发展组织（OECD）的《人工智能原则》；联合国教育、科学及文化组织（UNESCO）的《人工智能伦理问题建议书》；以及英国政府发布的《支持创新的人工智能监管规则》白皮书、美国发布的《关于安全、可靠、可信地开发和使用人工智能的行政命令》和美国白宫科技政策办公室发布的《人工智能权利法案蓝图》中的基本原则。这些框架和原则在不同程度上概述了值得信赖的人工智能系统的理想结果和目标，以及整个人工智能系统生命周期的过程和相关利益方的可信度。然而，它们并未就如何在实践中实现这些目标、结果和要求提供具体指导。

这就是可信赖人工智能工具变得非常重要的原因。可信赖人工智能工具是帮助提高人工智能可信赖性的具体方法或手段，有助于缩小高层次人工智能原则和特征与可信赖的人工智能实际应用之间的差距。从广义上讲，这些工具包括各种方法、技术、机制和实践，可帮助衡量、评估和交流人工智能系统和应用的可信度（可信度可通过上述不同维度来表征）。这些工具还可以通过识别和解决潜在的问题和风险，帮助改善和提高人工智能系统和应用的可信度。因此，可信赖人工智能工具的目标是为开发者、决策者和其他利益相关者提供所需的资源，确保以负责任和合乎道德的方式开发和部署人工智能。

二、研究目标和研究方法

此研究考察英美为开发、部署和使用可信赖人工智能而设计的各种工具，并采用混合方法开展研究，以确定英美已经开发和部署的可信赖人工智能工具的实例。此外，研究人员采访了与一些已确定的可信赖人工智能工具相关的专家，以及了解可信赖人工智能工具的更广泛的利益相关者。与此同时，研究人员还与一系列专家开展了在线活动，以收集有关选定工具示例的更多信息。

三、英美可信赖人工智能工具概况

1. 此研究发现了233种可信赖人工智能工具，其中约70%与美国有关，28%与英国有关，其余是美英之间合作有关的工具。

2. 从广义上讲，这些工具可分为技术型、程序型或教育型，进一步涵盖了与可信赖人工智能相关的一系列特征和维度。在美国，可信赖人工智能工具更多是技术型的工具，而在英国则更多是程序型的工具。大约72%的美国工具属于技术型，而英国工具的这一比例为56%。30%的美国工具属于程序型的，而英国工具的这一比例为58%。最后，9%的美国工具是教育型的，而英国工具的这一比例为12%。

3. 与英国相比，美国学术界参与开发可信赖人工智能工具的程度更高。大约27%的美国工具是由学术界或学术界与外部合作伙伴（如工业界）或非营利组织合作开发的，相比之下，9%的英国可信赖人工智能工具涉及学术界。

4. 美国大型科技公司正在开发各种工具包，以提高人工智能产品和服务的可信度。一些非人工智能公司正在制定自己的人工智能可信度内部指导方针，以确保它们遵守道德原则。

5. 对可信赖人工智能工具进行正式评估的证据有限。

6. 多模态基础模型的开发增加了开发可信赖人工智能工具的复杂性。

四、决策者可考虑的因素

1. 与利益相关者建立联系，积极跟踪和分析英美及其他国家的可信赖人工智能工具的发展状况；

2. 系统地收集有关可信赖人工智能工具的经验和教训，与利益相关者分享这些见解，并利用它们来预测未来的潜在方向；

3. 促进利益相关者一致使用可信赖人工智能的通用词汇；

4. 鼓励在开发和使用可信赖人工智能工具时纳入评估程序，以更好地了解其有效性；

5. 继续与国际组织和倡议合作，以促进可信赖人工智能工具的互操作性；

6. 联合各方力量，提供数据和计算能力等资源，以促进可信赖人工智能工具的开发民主化。

图 英国和美国政策制定者为建立一个联动、协调和灵活的生态系统而需考虑的实际问题

（本文内容系“元战略”公众号原创编译，转载时请务必标明来源及作者）

参考来源：兰德公司官网

参考题目：

Examining the landscape of tools for trustworthy AI in the UK and the US

参考链接：

https://www.rand.org/pubs/research_reports/RRA3194-1.html

免责声明：文章内容系作者个人观点，如有任何异议，欢迎联系我们！图片来源于网络，如有侵权请联系删除。

编译 | 元战略智库高级研究员

编辑 | 寂谷

审校 | Zoie Y.Lee

声明：本文来自元战略，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。