2018年4月24日，美国知名智库—布鲁金斯学会发布《人工智能改变世界》报告。布鲁金斯学会是一家研究公共政策的非赢利组织，其宗旨是开展高质量的独立研究，并据此为决策者和公众提出具有创新性和实用性的建议。该报告分析了人工智能（AI）技术对社会、经济和治理所带来的改变和挑战，并结合近年来国际、美国联邦政府、美国地方政府和企业的典型案例，提出了法律法规、政府投入、人才培养、行业监管、道德伦理等方面的政策建议。本文对报告中AI带来的潜在风险分析及政策建议相关内容予以重点解读。

改变世界

人工智能技术已在深刻改变世界，在国家安全、智慧城市、金融、医疗保健、刑事司法、交通出行等领域得到日益广泛深入的应用，不仅让人们的生活更为高效便利，还将极大地促进经济发展。据普华永道国际会计事务所预计，到2030年，人工智能技术将使全球GDP增加15.7万亿美元（增长14%），其中包括中国7万亿美元，北美3.7万亿美元，北欧1.8万亿美元，非洲和大洋洲为1.2万亿美元，其他亚洲国家为0.9万亿美元，南欧为0.7万亿美元，拉丁美洲为0.5万亿美元。

潜在风险

在享受人工智能带来各项便利的同时，也应当正视其对行业监管、法律法规和道德伦理所带来的潜在风险。

数据使用

数据是促进人工智能发展的先决条件，发展人工智能的关键是“制定统一的数据标准、拥有友好的数据生态系统、实现跨平台的数据共享”。麦肯锡全球研究所指出，数据更为开放共享的国家，其AI更有可能快速发展。在全球国家数据开放度排名当中，美国排名第8位，中国位居第93位。目前，针对数据访问和使用问题，美国没有一个系统的、持续的国家战略，并缺少有助于研究人员访问专有数据的协议。在公共领域，谁拥有数据或拥有多少数据并不是很清楚。这些不确定性限制了创新研究和经济发展。    

算法公正性

用反映了过去的价值观和偏见的历史数据去训练当前和将来大量使用的人工智能系统，可能会带来的风险是，在将来仍然重复过去的不平等和歧视。例如，哈佛商学院研究发现，在Airbnb平台上，相比于使用白人名字的房客，具有明显非洲裔特点名字的房客被房主接受的概率要低16%。种族歧视问题同样也出现在脸部识别软件。

AI伦理与透明度

AI的算法植入了人类的道德伦理和价值取向，从而造成AI系统的决策具有偏好性。面向用户了解AI系统算法如何执行决策的需求，应提升AI系统算法其执行决策过程的透明度。在美国，很多城市的学校在招生时应用了算法。布鲁斯金研究人员发现，按规定，新奥尔良某学院在招生时应优先考虑经济困难的申请者，并给予33%的名额，但在实际招生时，招生算法中优先考虑的是现有学生的兄弟姐妹、学校教工子女以及学校附近地区的学生。欧盟在2018年5月即将实施《通用数据保护法》，该法规要求“用户有权取消对其推送针对其个人的广告投放”，并有权对由算法制定的决策的合法性提出控诉，并对算法是否受到人为干预提出申诉。该法规用于保护用户个人数据，并规定应向个人提供如何使用其数据的信息。

AI的法律责任

在AI系统危害或侵害人类的情况下，AI系统软件开发商、AI系统运营商和算法使用平台应该承担的法律责任范围亟待确定。典型案例如2018年3月18日晚，Uber公司的自动驾驶汽车在亚利桑那州发生的严重车祸事件，在全球范围掀起一场关于无人驾驶的责任认定问题的激烈讨论。而在Airbnb的案例中，该公司要求“用户在申请使用其服务时，应同意放弃他们的起诉权，或放弃参与任何诉讼或诉讼仲裁”。

政策建议

健全数据访问和使用机制

当前，对于数据访问、数据共享和数据保护，美国尚未制定统一的标准，美国政府应制定一个系统的数据战略，以在保护用户权益的同时促进技术创新。可以通过开放API接口、签署数据共享协议开展公私合作、公开政府公共数据等多种途径促进社会各方数据共享，为研究人员的分析提供数据。

加大政府投资

OpenAI联合创始人GregBrockman提到，美国联邦政府对尚处研发阶段的人工智能技术仅投资了11亿美元，该金额远低于中国或其他世界主要国家。人工智能技术将带来巨大的经济回报，为了促进经济发展和社会创新，联邦政府需要加大对人工智能和数据分析的投资。

普及国民AI教育

在人工智能技术无处不在的时代，对人们的技能和思维模式都将提出新的要求。联邦政府和各州政府一直在加强AI人力资源的投入。在2017年，美国国家科学基金会资助了6500多名计算机相关领域的学生，并已经推出了一些新举措，旨在鼓励从学前教育到高等教育和继续教育持续开展数据和计算机科学教育，目标是建立一个全面的人工智能和数据分析人才体系。

成立联邦政府人工智能咨询委员会

2017年底，部分国会议员已经提出了“人工智能未来法案”，根据该法案，商务部应成立联邦人工智能发展与应用咨询委员会，并规定该委员会应于该法案颁布后540天内向商务部和国会提交劳动力影响、职业培训、数据共享、算法偏见、国际合作等AI相关事项的研究报告，并对出台AI相关立法或行政措施提出建议。为提高行动效率，在此建议将该法案所要求的提交报告的540天缩短为180天至540天。

加强与地方政府的交流

部分地方政府也在对AI采取行动。如纽约市议会一致通过了一项法案，该法案提出由市长组建一个工作组，对纽约市政府机构采用的算法的公平性和有效性进行监督。纽约市在广泛的领域应用了算法，包括向贫困被告人的低保释金发放、消防站选址、教师表现评估、医疗补助诈骗的判定、犯罪地点预判等。根据该法案，政府官员有权了解这些算法的决策原理，应提供充分的透明度，并制定完善的问责制。该法案最晚将于2019年实施。

多方面考虑和权衡

欧盟对于数据收集和分析采取了严格的控制，出台法规限制公司收集道路状况数据，对自动驾驶汽车研发公司建立所需的高清数字地图带来了困难。欧盟在2018年5月即将实施的《通用数据保护法》将对机器学习等人工智能技术的应用产生严格限制。根据该法规，“禁止使用任何将显著影响欧盟公民的自动化决策，包括使用技术评估公民的工作表现、经济状况、健康、个人偏好、兴趣、可信度、行为、所处位置或运动等”，同时欧盟公民有权审查根据特定算法所提供的数字化服务的决策原理。如果欧盟官方对该限制予以严格的解释并实施，相比于世界其他国家和地区，欧盟的软件设计者将处于明显劣势。政府在制定政策时，应多方面考虑和权衡，而不是一味追求打开算法的“黑匣子”，了解具体算法如何运作，或限制对公民使用算法，这将阻碍人工智能技术的创新和应用。

高度重视算法偏见问题

从诸多案例来看，偏见和歧视已成为人工智能技术应用中的严重问题。建议将真实物理世界中实行的歧视相关法律法规扩展应用到数字平台，以保护用户权益，并建立正确使用AI的信心。另外，对于广泛应用的AI产品，应提升AI系统运作的透明度，应向用户解释AI产品如何使用数据进行预测和分析。

加强人类对AI的管控

艾伦人工智能研究所CEO OrenEtzioni提出应对AI系统加强监管，AI系统应遵守现有的人类行为法律，包括网络欺凌、恐怖威胁以及犯罪教唆等，并且不能泄露隐私和机密信息。美国电气电子工程师协会（IEEE）已发起了人工智能和自治系统的伦理准则全球倡议，建议AI系统开发人员在编程时应考虑人类行为规范和准则，AI系统应该是“诚实的”，并对偏见和歧视问题高度敏感。

严惩AI恶意行为维护网络安全

在瞬息万变的网络化时代，许多机构和个人拥有先进的计算能力，对于使用AI技术在网络上进行非法入侵、操纵算法、窃取隐私和盗取机密信息等恶意行为，要予以严重惩罚，以维护国家网络安全。

声明：本文来自CIE智库，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。