2021年12月，英国数据伦理与创新中心(CDEI)发布首个《人工智能保障生态系统路线图》，阐明了建立世界一流人工智能保障生态系统所需的努力，同时为实现英国政府在国家人工智能战略中提出的成为“世界上最受信任和支持创新的人工智能治理系统的雄心”添砖加瓦。
人工智能(AI) 为经济和社会提供了变革性的机会，有潜力为社会和经济带来巨大利益。有机构预测，从2017 年到 2030年，人工智能将为英国GDP 增加10.3%。AI保证对于在英国建立一种敏捷的、世界领先的人工智能治理方法至关重要。AI保证提供了一个机制工具箱来监控和证明法规遵从性，并支持组织按照新兴的最佳实践和基于共识的标准进行负责任的创新。
人工智能保障的愿景
英国的愿景是在未来5 年内拥有一个蓬勃发展且有效的人工智能保障生态系统。现有强大的专业服务公司，以及创新的初创企业和扩大规模，将提供一系列服务，以建立对用户人工智能的信任。如果AI产业能够跟随英国网络安全产业的发展，那么可能产生高达数十亿美元的经济价值。通过提供人工智能系统相关可信度的信息，人工智能保障行业还将支持人工智能的采用，并实现其经济潜力。人工智能保证服务提供了建立信任和确保值得信赖的工具。
两大问题
•信息问题：人工智能系统是否值得信赖。
•沟通问题：用户是否能够信赖人工智能系统
保证服务有助于克服这两个问题，以实现信任和可信度。通过执行此功能，保证服务协助展示人们对AI 系统的信任程度，如右图所示。
英国AI保障行业现状
英国有机会以身作则，影响国际上保障行业发展。为英国市场开发的保证技术和最佳实践可以出口，以支持不断增长的国际市场中的可信创新，促进贸易和行业合作。英国在其他保证生态系统的发展中发挥了类似的领导作用，包括网络安全和风险管理，目前国际标准化组织（ISO）/国际电工委员会（IEC）27001网络安全标准和ISO9001质量管理标准都是从最初的英国标准发展而来的。
建立一个有效的人工智能保证生态系统是解决人工智能的道德和治理挑战以及实现负责任的采用的关键部分。开发和部署人工智能的组织将越来越多地依靠独立的保证供应商市场来评估和管理人工智能风险，并证明和监测监管合规性。在发挥这一关键的促进作用时，人工智能保证本身将成为一项重要的经济活动，并且是一个英国完全有能力利用法律和专业服务的优势的领域。在英国和世界范围内，人工智能保证市场已经开始增长，一系列行为者开始提供保证服务。然而，现在还处于早期阶段，需要采取行动，将这一生态系统塑造成一个汇集跨学科技能和技术方法的正确组合，并提供正确的激励措施，使组织能够有效地管理人工智能风险。
AI 保障生态系统的重要参与者
本路线图旨在为塑造这一生态系统并使之协调一致做出重要的早期贡献。它列出了不同团体需要发挥的作用，以及需要采取的步骤，以迈向一个更成熟的生态系统。为了使生态系统有效成熟，在支持创新的同时减少风险和社会危害，生态系统中的不同参与者间需要步调一致。右图强调了需要在人工智能保证生态系统中发挥作用的四组重要参与者。这张简化图强调了这四组重要的行为者在人工智能保证生态系统中的主要作用。
六大优先领域
CDEI确定了开发有效、成熟的AI 保障生态系统的六个优先领域：
1.对人工智能保障的需求
人工智能供应链需要要求并获得可靠证据以了解技术风险，做出负责任的采用决策。构建、部署或使用人工智能系统的人需要考虑一系列问题，以确保值得信赖。公众对人工智能部署的潜在风险的关注，促使组织考虑使用人工智能的声誉风险为确保他们对 AI 系统的使用值得信赖，组织需要认识到这一问题并通过积极主动解决和管理AI 风险来应对。实现可信度需要人工智能供应链中的参与者对相关人工智能风险及其减轻这些风险的责任有清晰的认知。
2.人工智能保障市场
需要形成有竞争力、充满活力的供方市场，以提供工具和服务，以高效和有效的方式保障行业运行。人工智能保障没有灵丹妙药，人工智能系统的可信度需要根据风险类型和具体应用以不同的方式进行评估和沟通。为了有效地确保人工智能系统安全，要一个由不同产品、服务和标准组成的工具箱，以充分全面评估不同方面。
响应人工智能保障需求的市场已经出现，成熟的大公司和专业初创企业已经开始围绕算法偏差、稳健性和数据保护等主题，提供人工智能保障服务。因此亟需建立一个值得信赖、保障的供方市场，为人工智能保障和独立监督提供专业技能，以确保可信赖的、创新的激励措施在人工智能供应链中得以调整。
3.建立行业通用标准
AI保障生态系统需要不同类型的标准来构建通用语言和可扩展的评估技术。由行业主导的（技术）和监管标准的组合定义了保证的商定基础，使整个供应链的参与者能够理解什么是保证。有许多正在进行的人工智能标准化工作，这是积极的，但需要一定程度的整合和集中。英国的国家人工智能战略列出了政府在该领域的全球数字技术标准方面的现有工作，并计划扩大英国的国际参与和思想领导力。支持人工智能保证的人工智能标准的最优先领域是人工智能管理系统和风险管理标准，这些标准建立了组织可以认证的良好做法，以及一系列测量标准，这将建立关于测量人工智能风险和性能的共识和共同理解。
4.提高专业程度，打造可信行业生态
对保证服务提供者的管理和激励措施需要得到信任。保证服务的客户通常需要一种的手段来确定服务的质量。因此，建立一个可信的、值得信赖的保障供应商的生态系统将要依靠人工智能保障的高度专业化。认证形式多样，从认证服务提供商到个人认证从业人员，都需要拥有过硬的专业知识、良好诚信和实战经验来提供认证服务，从而保障用户权益，在生态系统中建立信任，打造良性行业生态。在其他情况下，认证和特许职业等模式提供这种信任。现在判断哪种模式适合人工智能保证还为时过早，但需要采取初步措施来建立一个人工智能保证行业。
5. 设立监管机构，保障监管义务履行
除了将审计和检查人工智能作为执法活动的一部分外，监管机构还将在支持更广泛的人工智能保障生态系统的发展方面发挥重要作用。可以设置监管机构，通过制定可评估的要求，使组织能够管理其监管义务的可保证要求来帮助实现保证。保证服务还通过授权AI用户实现合规性和管理风险来帮助监管机构实现其目标。可以通过设置使组织能够管理其监管义务的可保证要求来帮助实现保证。英国监管机构有机会在其职权范围内推动对保证的需求，并塑造人工智能保证技术和流程的发展人工智能保障格局也受到国际贸易的影响。人工智能技术的国际贸易将为英国经济带来重大利益，确保跨境监管合规性和互操作性对于促进贸易至关重要。
6. 鼓励多元化发展，发挥独立研究人员能动作用
除了专业的保证人员、标准、监管、行业和专业机构外，其他独立参与者可以为保证生态系统提供重要服务。独立研究人员已经在开发保障技术和测量方面发挥了重要作用，开发和部署人工智能系统的组织可以逐步加深与外部研究人员的合作程度，以识别和减轻人工智能风险。
CDEI这里的方法建立在网络安全的经验教训之上，在网络安全方面已经有了良好实践，即组织负责任地与独立的安全研究人员打交道，有明确的机制来负责任地披露安全缺陷，甚至是漏洞赏金。
有效的人工智能保障生态系统路线图
愿景实现
CDEI打算将此路线图作为建立有效AI保障生态系统的第一步。展望未来，整个生态系统的参与者豆浆需要发挥自身的作用，使其成熟。为支持该生态系统的发展，人工智能保障是CDEI 2021/22 工作计划的核心主题，其中包括：
1.实现可信赖的保障实践
发布人工智能保障指南：CDEI 将发布人工智能保障指南，作为该路线图的补充立即跟进这项工作；该指南更详细地介绍了人工智能保障的交付，旨在支持从业者和其他使用或提供人工智能保障的人。
将保障融入公共部门创新：CDEI 将把保障思维嵌入到与以国防为重点的组织、警察部队和地方当局的现有合作项目中。
2.为关键支持角色提供建议和影响
人工智能标准制定：CDEI 将支持数字、文化、媒体和体育部 (DCMS) 数字标准团队和人工智能办公室 (OAI) 建立人工智能 标准中心，专注于全球数字技术标准。CDEI 还将与英国的专业机构和监管机构合作并提供支持，为人工智能系统制定可靠的标准和要求；
支持有效的监管、政策和指导：CDEI 将与政府政策团队和监管机构以及行业和专业机构合作，以应对人工智能在整个经济中的出现。 CDEI 已经与联网和自动驾驶汽车中心 (CCAV) 合作，将道德尽职调查纳入未来的自动驾驶汽车监管框架，并与招聘和就业联合会 (REC) 合作制定使用指南 招聘中的数据驱动工具。
此外，CDEI正在支持 OAI制定关于人工智能系统治理的白皮书，并与DCMS 合作，考虑改革英国数据保护制度的潜在选择。
3.建立共识，确保利益相关者的协作
围绕保障需求建立共识：以路线图为讨论起点，最初的一系列活动将侧重于建立更详细的跨利益相关者战略和相应的责任来交付 一个有效的人工智能保障生态系统；
认证和专业化：CDEI 将召开 AI 保证认证论坛，汇集需要在 AI 保证专业化中发挥作用的专业和认证机构。
为了支持该生态系统的发展，人工智能保障是CDEI 2021/22 工作计划的核心主题。
CDEI 关于人工智能保障的工作计划
声明：本文来自天极智库，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
