前言
——罗伯特·沃克
我们发现自己处于技术洪流之中,它正在无情地重塑我们生活的方方面面。无论是在农业、金融、商业、医疗保健还是外交和军事领域,先进计算、量子科学、人工智能、合成生物学、5G、小型化和增材制造等领域的快速技术进步正在改变旧的行为方式。人工智能(一种模拟机器中智能行为的技术)可能会对它们产生最广泛的影响。
许多国家都认同这一判断。中国、俄罗斯、欧盟、日本和韩国的成员都在加大对AI的研究、开发和培训。尤其是中国,将人工智能的进步视为在经济和军事实力上超越美国的关键手段。中国表示有意在 2030 年前成为 AI 的世界领导者,并正在进行重大投资以实现这一目标。
美国需要以对先前的技术竞赛(例如太空竞赛)做出反应的方式来应对这一技术挑战。美国在AI方面的领导地位至关重要,不仅因为技术是政治、经济和军事力量的关键推动力,而且因为美国可以影响AI在全球的使用方式。
正如本报告所解释的那样,尽管人工智能可以在社会中为人们带来不可思议的好处,但它也使未来的恶意用途成为可能,例如对民主国家发动复杂的影响力攻击。美国必须确保其在AI技术方面处于领先地位,并以符合民主价值观和尊重人权的方式塑造全球使用规范。
0 摘要
美国是世界上少数几个可以调集资源和人力资本以实现最雄心勃勃目标的国家之一。美国正处于另一个时刻。如今,谨慎的政策决定将有助于保护和巩固美国数十年来在人工智能领域的领先地位。
这些行动将有助于确保即将到来的AI世纪是美国的世纪。在这个新技术时代,美国的国家安全以及美国盟友和合作伙伴的国家安全将更加稳固,其经济将蓬勃发展,其规范和价值将持续支持全球AI技术的发展。
美国政府和工业界的领导人应致力于通过加大研发资金以及与志同道合的合作伙伴进行国际合作,来利用美国的科学技术基础。这些领导人还必须投入资源,以通过建立美国的人力资本来为子孙后代做准备。作为更新的K-12课程的一部分,教育者将需要新技能来教授未来的美国劳动力。
人力资本投资必须超越在美国本土的投资。国际人才是美国创新的基石。移民及其子女在美国技术生态系统中扮演着举足轻重的角色,培养了美国许多领先的科学头脑,并创立了美国许多最具标志性的公司。国会和行政部门必须解决过时的和严格的移民法,以继续鼓励世界上最优秀的AI人才在美国学习、工作和居住。
美国的开放性和机遇是其最大的特点。恶性势力也利用这些特质来反对它。非法的技术转让是一个严重的问题,它侵蚀着美国的竞争力,并给美国经济造成数千亿美元的损失。必须以与美国自由和价值观相一致的方式对付这种广泛的盗窃行为。
美国必须通过控制出口并确保先进的AI专用硬件的供应链安全和多样化来进一步保护其技术竞争力。还需要美国采取行动来促进政府的准备工作,以确保该国为AI对美国国家安全、美国经济和美国社会的可能变革性影响做好准备。
最后,美国在制定全球AI规范、标准和衡量标准方面的领导地位对于促进符合美国利益的AI道德、安全性和透明度至关重要。
本报告详细介绍了我们对这些问题的分析得出的具体建议。它们共同构成了实现美国目前对 AI 的愿景以及实现美国在AI方面继续发挥领导作用所需的战略基础。
1 引言
人工智能是一种模拟机器中智能行为的技术,可能会为美国经济、国家安全以及我们的健康和福祉创造巨大的机会。不幸的是,如果不采取政策行动,美国就有可能失去其在人工智能领域的领导地位。
中国、欧盟成员国、日本、韩国和俄罗斯正在增加AI研发方面的支出,并培训新的研究人员以利用AI。一些国家(尤其是俄罗斯)寻求开发自动机器人武器,以取代战场上的人类士兵。这些国家中的大多数不仅拥有AI战略,而且已经开始以威胁美国技术优势的方式实施。
本报告建议采取具体行动,以确保美国继续保持AI的领先地位,促进符合美国利益和价值观的标准的发展,并预测和应对安全挑战。
这些政策建议建立在美国现有AI政策的基础之上,包括《维持美国人工智能领先地位的行政命令》(2019年2月)和《国家人工智能研发战略计划:2019年更新》(2019年6月)。该行政命令强调需要使用人工智能来促进经济和国家安全,促进技术突破,开发技术标准,为工人和研究人员提供技能培训,进行国际合作以及对研发进行投资。
2019年的AI研发计划列出了八个高层战略概念,这些概念确定了联邦研发的重点。这两份文件都指出了美国的优势、挑战、机遇和优先事项。
立法部门也有助于制定高层次的愿景。美国国会在2019年《国防授权法》(NDAA)中授权建立国家人工智能安全委员会(NSCAI),并认识到需要采取综合的国家方法来应对AI发展。
该委员会是一个独立机构,旨在“审查人工智能、相关机器学习的发展以及相关技术的进展”,以便“全面满足美国的国家安全和国防需求”。NSCA于2019年11月4日确定了美国政府应重点关注的五项工作:研发投资,人工智能的国家安全应用,培训和招募人工智能人才,保护和利用美国的技术优势以及促进全球人工智能合作。
这些重点领域的确定清楚地表明了美国正在进行战略竞争,而人工智能是其中心。
该报告提出了具体的后续步骤,以确保美国政府实现持续AI领导的愿景成为现实。它提供了政策建议,以通过增加研发支出和国际合作来增强美国在AI方面的竞争力;通过教育和移民改革建立美国的人力资本;处理学术和工业间谍活动;改善美国政府为广泛采用AI做好准备的程度;在国内投资于AI专用硬件,并限制半导体制造设备的出口;促进安全、透明、可解释、可靠、安全和有弹性的AI的发展;与全球AI发展保持同步,以防止技术意外。
2 创建美国的 AI 未来
美国正在接近其历史上一个重要的决策点:如何解决AI对美国经济和社会的迫在眉睫的影响问题。人工智能技术将从根本上改变人们与机器、设备以及彼此交互的方式。人工智能将改变我们的学习方式、工作方式、疾病治疗方式、战争方式。人工智能带来了巨大的机遇。它也带来了巨大的风险。美国如何为这个新时代做准备将决定美国社会是否可以在减轻威胁的同时获得收益。
阻力最小的办法是维持现状。放任自由的做法被普遍认为对美国有利。在这种叙述中,基于自由、独创性、勤奋、乐观和一点运气的独特结合,美国成为了世界上最富有、最强大的国家。
这种美国优先主义有一定的安慰作用。特朗普政府表达的当前美国AI愿景以对行业的信念、创新精神以及对指导和资金的放手态度反映了这种观点。
但是,这条道路充满风险,因为它低估了到达这里所需的努力、费用和愿景,它不能保证美国的技术领先地位。今天的美国植根于数十年前进行的对教育、科学、研发和基础设施的投资。
按照目前的发展轨迹,随着全球研发支出份额的不断减少,人力资本短缺,以及近乎匹敌的竞争对手的迅速崛起,美国无法继续滑行。
美国最大程度地利用AI的能力受到威胁。达不到要求将浪费经济和社会利益,并使美国面临本可避免的风险和挑战。
3 研发领导
在AI研发方面加大投资对于维持美国在AI领域的领导地位至关重要。在整个20世纪,联邦政府通过资助关键的基础研究在推动技术创新方面发挥了关键作用。
政府资金对于开发晶体管、全球定位系统和互联网至关重要,这些发明改变了世界经济。然而,在过去的几十年中,联邦政府用于研发的支出占GDP的百分比从1976 年的约 1.2%下降到 2018 年的约 0.7%。
这是令人担忧的趋势,因为联邦政府仍然是基础研究的主要资助者。政府的支持对于促进AI的新突破以及确保美国政府能够获得这些突破都至关重要。
美国政府实体已经在追求重要的AI研发计划。美国国家科学基金会为政府、学术界和私营部门的利益相关者提供一系列基础研究和合作伙伴的资金,以促进该领域的发展。美国国立卫生研究院正在整合深度学习,改善疾病筛查和自然语言处理,以进行信息检索和发现。
2018年,负责开发新兴技术的美国国防部高级研究计划局(DARPA)发起了一项为期20年的长期计划,以激励创建一系列新的AI功能和应用程序。
彭博社从2019年3月开始的分析显示,2020财年联邦政府在国防AI研发上的未分类支出约为40亿美元。白宫在2019年9月宣布了2020财年近10亿美元的非国防AI研发预算申请。
相比之下,中国政府在AI研发上的支出水平尚不清楚。无法公开获得中国政府支出的完整年度数据。只有通过宣布计划的、多年支出的公告才能大致了解中国政府在国家、省和地方各级的总体研发支出的规模。例如,仅中国的两个城市就宣布设立1000亿元人民币(约合150亿美元)的多年期AI开发基金,而北京则宣布了在2018年建立一个20亿美元的 AI 研究园的计划。
美国享有强大的私营部门研发资金。由于公司通常不会在财务报表中透露研发支出的详细信息,而私营公司没有这种报告要求,因此很难确定准确的数字。也就是说,查看主要的AI密集型公司的总体研发支出,可以大致了解AI研发中私人投资的规模。美国公司Alphabet、IBM、Facebook、微软和亚马逊2018年的研发支出总和为 805 亿美元。
中国的科技巨头也宣布了重大的研发投资计划,尽管比美国同行要小得多。中国领先的人工智能公司阿里巴巴、百度和腾讯2018年的研发费用总计为91亿美元。这些公司也是中国AI 初创公司的主要投资者。
相比之下,欧洲则比较落后。欧盟(各国政府和私人投资)的研发总支出预计将从2016年的约37亿欧元(约合41亿美元)增加到2020年的200亿欧元(约合221亿美元)。
美国在启动资金(技术创新的主要推动力)中的主导地位开始受到侵蚀。2017年,美国在全球AI创业资金中所占的份额首次不到全球的一半。尽管自2013年以来,美国AI初创企业获得了风险投资资金,但复合年增长率仍只有 36%。
除人工智能外,所有国家研发支出的数字都更加清晰,并显示出令人担忧的趋势。其他国家的国家研发预算增长很快,超过了美国。自1996年以来,美国国家(公共和私人)研发总支出占GDP的比重一直停滞不前。
在同一时期,中国的研发支出占GDP的比重增长了三倍,以色列和韩国等国家也大幅提高了支出。
结果,在过去的几十年中,美国在全球研发中所占的份额从1960年的69%下降到2016年的28%。从2000年到2015年,美国占全球研发增长的19%,而中国占全球研发增长的 31%。
研发是长期经济增长的主要驱动力。国会预算办公室在2018年重申,联邦研发支出对私人研发支出会产生积极影响,并促进宏观经济增长。一项对28个欧盟经济体进行的为期十年研究的作者得出结论,研发支出占GDP的百分比增加1%,将导致实际 GDP 增长率提高 2.2%。
通过有效的技术传播,美国将从联邦研发支出中进一步受益。几部法律规定了从公共部门向私营部门的技术转让。这项法律赋予大学和小型企业联邦资助的研究所有权,并导致了数以千计的分拆公司、技术转让和创新的发展。根据这些法律,美国政府可以免费使用这些研究成果。
为了增强美国在AI领域的竞争力,国会和白宫应该在2025财年之前将政府每年用于AI研发的资金增加到250亿美元。该目标比2020财年提高了5倍,但可以承受。这仍然不到总统2020财年预算中所有未分类研发要求的19%。
在特定项目上的支出大幅增长也是有先例的:总统的2019财年预算要求在2018财年的基础上增加 181 亿美元的国防研发费用。
考虑到AI技术可能在经济增长、地缘政治和全球安全中发挥核心作用,以及全球 AI支出的急剧增长,相对而言,这只是一笔小数目。2020财年,美国仅在未分类的国防研发(包括AI研发)上就准备花费近590亿美元。从历史的角度来看,为期5年的曼哈顿项目以2018年美元计的成本为230亿美元。1960年至1973年的阿波罗计划(经通胀因素调整后)耗资2881亿美元,而美国航空航天局在这13年中总共花费了4900亿美元,平均每年377亿美元。
重点应该是为高风险/高回报的基础科学研究提供资金。在这些领域,私营企业几乎没有投资动机。软件方面的突破(例如解决现有AI方法局限性的AI新技术)和硬件(例如下一代半导体技术和超导人工神经元)可能会改变游戏规则,为美国带来持续的技术优势。
联邦政府应采取分阶段的方法来增加资金水平,以便有效、负责地使用资源。收到联邦研发经费的部门和机构(主要是DOD,HHS,DOE,NASA,NSF,USDA,VA,DOT,DOI,DHS,EPA)将需要时间来计划扩大的研究议程并制定相关指标来衡量进展和有效性。
3.1 激励私营部门的 AI 研发
第一,美国的私营部门是维持美国在AI方面总体领导地位的主要比较优势。政策制定者有多种方法可以激发企业在遵循自由市场原则的同时开展进一步的研发活动。首先是维持2015年的PATH法,该法将永久性地延长联邦研发税收抵免额。它通过减少税收负债为开展和扩大研发提供了强有力的动力。
第二,是按照特朗普政府的AI行政命令提议,并向私营部门和学术界提供当前和将来的政府数据集,以促进机器学习模型的培训。政府的“项目开放数据”是使数据可发现和可用的重要一步。这样做将通过扩大开源高质量数据集的数量来帮助解决数据稀缺问题,尤其是对于那些资源严重受限的实体(例如初创企业或一些大学研究人员)而言。
第三,是探索刺激私营部门研发活动的其他因素。对全球使用的研发激励措施进行的全面调查为决策者提供了其他选择,以增强美国的竞争力:
◆合格研发资产的加速折旧
允许在资产的早期扣除更多可用于减少应纳税所得额
目的:鼓励对实验室和设备等研发资产进行更频繁的投资和升级
◆研发费用超扣除税收优惠
允许纳税人从其净收入中扣除合格的研发费用可用于减少应纳税所得额
目的:促进企业增加研发支出
◆现金补助,低息贷款
通过不需偿还的资金或优惠条件的贷款为合格的研发活动提供资金
目的:向从事高风险 / 高回报研究的实体提供资金,而这些实体往往面临获得资金的障碍
◆免税和减免合格技术转让可用于减少应纳税所得额
目的:促进跨行业技术的传播和衍生公司的创建以促进创新
◆与专利相关的激励措施,例如降低无形资产收入的税率
降低无法从物理属性(例如软件和化学公式)中获得价值的资产的税率
目的:促进无形资产的研发,这种无形资产通常具有较长的开发时间和较高的失败风险
3.2 促进国际研发合作
作为一个拥有世界一流大学、研究机构和公司的开放式民主社会,美国在联合研发中成为有吸引力的合作伙伴。数十年的经验表明,与外国研究人员的联合工作大有裨益,而对我们的经济和国家安全无害。特朗普总统的行政命令正确地强调了与国际伙伴合作的重要性。
国际合作的好处包括费用分摊;调整互补的知识、经验和专有技术;改进互操作性;制定规范和原则;以及更有效的标准制定。美国同经济合作与发展组织(OECD)一起采用全球AI原则是朝正确方向迈出的重要一步,因为这表明美国支持国际准则制定可信赖的 AI。这有助于促进全球合作并促进人权等价值观。
美国很幸运能拥有世界上大多数领先的AI力量作为盟友和合作伙伴。例如,英国、法国、日本、新加坡和韩国已向AI研发投入了数亿美元。多伦多是全球AI枢纽。这些地区中的每一个以及众多其他地区都是互利合作的主要候选人。
促进跨国合作的机制涵盖从人员交流到在国内外建立合作的国际研发中心。通过加强签证和工作许可制度,提供拨款和贷款以及组织跨国创新奖竞赛,可以鼓励这种合作关系。这些竞赛可以以DARPA的一系列挑战和 XPRIZE竞赛为模型,这些竞赛已成功解决了一些最棘手的科学和工程问题,包括 AI。
4 利用美国的人才通道
4.1 美国人才
本土人才是美国AI生态系统的关键。美国在AI领域的领导地位始于K-12级的STEM教育。美国政府在改善K-12STEM教育方面取得了积极的进展,尽管是迟来的,并且应该继续扩大这些努力。
2018年,美国国家科学技术委员会(NSTC)发布了STEM教育战略,该战略建立在先前促进计算素养的努力的基础上,例如2016年全民计算机科学计划的后续行动。
该计划最初提出的40亿美元的资金请求从未实现,但是联邦政府对此事的关注可能有助于州和地方改善计算机扫盲计划的努力。2017年,特朗普总统签署了一项总统备忘录,指示教育部每年向STEM和计算机科学投入2亿美元。科技公司承诺再提供3亿美元来支持该计划,但仍远远低于拟议的目标。
同时,教育部在2019年首次将计算机科学的支持资金排在了优先级别。然而,尽管促进计算机科学的计划在缓慢扩展, 但专门用于建立 AI 技能的计划却滞后了。
美国人工智能人才的培养还依赖于大学拥有强大的教学基地。但是由于资源的增加,教学基地的师资正逐渐向私营公司流失。在过去的十年中,离开学术界进入私人公司的大学计算机科学系教职员工和选择在公司工作的硕博士人数从38%上升到 57%。
在深度学习领域,这种趋势可能更加显著。这种教师流失现在或长期损害了美国在AI领域的领导地位,因为它减少了可用于培训下一代AI人才的专家基础。进入公司的教职员工和高级博士学位的学生越来越多,这耗尽了可用来培训下一代AI专家的专业学者,而这是以对突破性创新很重要的长期研究项目为代价的。教师离开学术界去从事工业也损害了长期的创新潜力。
2019年发表的一项研究得出的结论是,当教授们离开私营部门任教时,他们的学生就不太可能创办公司,而那些人筹集的资金更少。除了较高的薪水以外,那些离开学术界前往私营部门的人还吸引了计算、数据、研究经费和高影响力的项目。一些公司正在采取措施,例如通过建立研究金和财团或允许教授在职责之间轮换,来保留建立人才通道的教师基础。
美国政府在其《国家人工智能研究与发展战略计划》中呼吁对AI研究进行长期投资,并发布可公开获取的数据集以填补部分资源缺口。
美国公司可以进一步帮助确保他们拥有未来的精英人才,并通过帮助教育下一代来长期提升美国AI领导力。包括微软、谷歌和亚马逊在内的技术领导者使员工可以向高中生教授计算机科学技能,例如编码,特别是在教育欠缺地区。此类举措有助于培育未来的AI 行业。
除了培养负责未来尖端突破的专家外,美国还需要培养实施和管理AI解决方案所需的人才。人才库的这一部分不一定需要博士学位,而是要获得AI应用相关的学士和硕士学位。这些精通应用程序的编码人员将占劳动力的大部分。AI领导层将要求拥有学士和硕士学位的程序员以及较少数量的精英人才。
为确保美国拥有必要的本土人才,白宫和国会应做到:
(1)加强公共和私营部门的AI和STEM教育以及技能培训。
白宫的STEM教育策略包括计划通过建立计算思维和教学数据科学等措施尽早培养人才通道。不过,这将受益于特别强调提高一般AI素养。
国会应为NSF提供更多资金,以扩大对学校的拨款,以开发新的以AI为重点的课程和相关资源,例如教师的专业发展。此外,国会应该为“全民计算机科学”计划或类似的新计划拨款40亿美元。
为了保持竞争力,美国需要一项针对技术的国家人力资本战略,并且必须投资于改善STEM的教育。国家科学技术委员会(NSTC)应该通过提出执行其建议的具体计划、特定任务的政府机构以及资金改革,来建立其 2018 年STEM 教育策略。此外,国会应为那些向员工、学生和教师提供相关STEM培训的公司提供税收抵免,无论是在内部还是通过第三方。
教育主要在地方和地区各级进行,但联邦政府在议程制定中发挥着重要作用。它不仅可以通过提供资源,而且可以通过授权AI作为国家优先事项和教育重点领域来影响 AI 的进步。
(2)增加大学研究人员的资助机会。
国会应增加大学AI研究的研发资金。联邦对学术界的拨款从2011年的455亿美元的峰值下降至2017年的409亿美元。这些拨款的价值实际下降幅度更大。研究人员直接引用停滞不前的AI研发资金作为向私营企业转移的动力。足够的资金对于机器学习尤为重要,因为它需要大量资源。
仅仅为计算资源训练一个模型就可能花费数万美元。增加AI研发资金不仅会留住更多的大学教授,还将使他们能够在重要领域进行长期研究,而这些领域可能不是行业研究的优先重点。
4.2国际人才
长期以来,移民一直是美国创新的源泉。在美国的整个历史中,高技能的移民为美国一些最具变革性的技术做出了贡献。今天也一样。国际人才仍然是美国技术生态系统的重要支柱。移民在美国创办了1/4的科技初创企业,移民及其子女还创立了近一半的美国财富 500强公司,其中包括苹果、谷歌、通用电气和 IBM。
高技能的移民在美国AI中扮演着不可或缺的角色。该国最大的AI人才库中有一半以上是外国人。与整个就业市场相比,受过STEM教育的美国人人数很少,并且STEM职业的就业增长更高,因此,美国的新技术公司目前严重依赖临时雇用的外国工人来解决STEM职业的严重短缺。
尽管劳动力市场指标表明AI人才短缺,但确切数字的估计差异很大。来自更广泛的计算机科学学科和专注于STEM的职业的可靠记录通常暗示了问题的严重性。仅在美国,目前就有超过300,000个与网络相关的职位空缺,预计到2022年,这个数字将猛增至180万个。
在整个STEM领域中,德勤(Deloitte)和美国制造业协会于2018年进行的一项研究估计,到2025年将需要350万个STEM职位,其中有200万个以上的职位由于缺乏熟练人才而空缺。
即使美国实施了强大且资金充足的STEM教育计划,移民仍将是美国人才库中不可估量的组成部分。发展一批美国出生的科学家和工程师将需要一代人的时间,而高技能的移民可以立即被招募,以解决当今严重的劳动力短缺问题。
此外,移民使美国可以借鉴世界上最优秀、最聪明的人。在全球范围内的AI人才竞争中,美国拥有自然的优势,因为许多人都想来美国工作。华盛顿应通过最大程度地吸收招募高技能移民在美国工作的机会来利用这一优势。
尽管需要人工智能研究和开发方面的国际人才,但在美国工作的移民机制仍然不足,入境手续通常很麻烦。自1990年《移民法》通过以来,移民限额一直停滞不前,而美国劳动力增长了30%,达到约1.63亿人。对于高技能的移民来说,签证和绿卡很稀少,很难获得。
美国科技公司最依赖H-1B签证来招募合格的移民。H-1B签证计划成立于1990年,旨在解决特定地区的劳动力短缺的短期解决方案,使雇主可以雇用具有专门知识的临时雇员。随着互联网时代的发展,对高技能劳动力的需求持续增长。随后,非常需要计算机科学专家的美国技术部门开始使用 H-1B 签证计划来雇用国际人才。
如今,可用的H-1B签证数量上限为每年85,000个,其中20,000个签证是为拥有研究生学位的人指定的。虽然这一上限自2005年以来一直保持在85,000个,但H-1B申请数量却猛增,在2017年达到顶峰,达到236,000个。新申请人的拒绝率已从2015财年的6%增加到2019财年的32%。自2017年以来,签证续签的拒绝率也有所提高。
H-1B申请的最近减少和拒绝率的增加可能是特朗普政府颁布新政策的结果。2017 年,特朗普总统签署了“支付美国人和雇用美国人”行政命令,指示国土安全部向“最熟练或收入最高的”工人颁发H-1B签证。这导致美国公民和移民服务局重新评估构成“专业”的工作和教育经历。在过去临时签证拒绝率增加的情况下,雇主报告说“由于拒绝增加而浪费了时间”,并且这些拒绝的影响造成了“数百万美元的项目延误和合同罚款”。
尽管H-1B签证计划是雇用临时雇员的主要途径,但可选的实践培训(OPT)是留住国际人才的至关重要的计划,该计划允许F-1学生签证持有人毕业后在美国工作。在STEM领域学习的学生签证持有人毕业后最多可在美国工作三年,并且OPT计划授予的工作许可没有上限。
近年来,各种立法者都呼吁限制或取消OPT计划。这将是一个错误。OPT计划是美国最大的临时高技能移民人才来源。在OPT计划下,2016年F-1签证持有人学习STEM的工作许可为172,000个,而2014年为 73,000 个。
现有移民途径的问题决定了美国成为包括中国在内的世界各地才华横溢的人的向往地的程度。从2005年到 2015 年,近 87%在美国学习的中国博士研究生计划毕业后留校。如今,虽然大部分中国顶尖AI研究人员留在美国机构工作,但毕业后剩余的中国毕业生总数正在缩减。
与2011年相比,2016年回国的所有学习领域的中国留学生增长了近57%。中国不断发展的技术生态系统以及在美国获得工作签证的众多障碍可能是造成这种下降的主要因素。
鉴于AI劳动力市场的结构以及雇主表明的明显需求,吸引和留住下一代顶级STEM研究人员的政策对于美国的长期竞争力至关重要。
为确保美国吸引世界上最好的 AI 人才,国会应做到:
(1)改革 H-1B 签证申请程序。
美国国会应该努力改革签证程序,使其更适合于雇用和留住国际人才。
首先,国会应该提高可用的H-1B签证的总体上限,并完全取消高级学位持有者的上限。
通过提高目前的上限并取消对高级学位申请人的限制,国会将至少部分解决H-1B申请与现有H-1B签证之间的显著不平衡。H-1B签证的年度限制已超过过去的2016年,因此,通过限制H-1B签证上限,美国在任意限制美国公司的主要人才来源。这是政府干预市场限制美国创新的一个不幸例子。
美国AI技术人员的确切短缺难以量化,但是很明显,尽管AI职位发布的数量持续增加,但求职者的数量却趋于稳定。虽然将H-1B上限维持在较低水平的动机是为了保护美国工人,但对于AI和计算机科学领域来说,这是不必要和有害的,因为AI和计算机科学领域的需求远远超过了美国出生的研究人员。为了满足需求,美国下一代的AI人才库将需要大量吸引选择在美国生活和工作的外国人,国会应为美国公司提供足够的机会从国外招聘人才。
其次,国会应该简化H-1B签证的申请程序,以使初创企业和小型科技公司更容易雇用必要的国际人才。
H-1B申请流程昂贵,需要申请人潜在雇主的大量证明文件。因此,拥有更多人员和资源的技术巨头,如亚马逊、微软、英特尔和谷歌,在批准的 H-1B 申请中占很大比例。因此,除了提高可获得的 H-1B 签证的上限和简化程序外,国会还应将这些签证的一定比例留给较小的技术公司和初创企业。
(2)创造新方法招募高技能移民。
除了改革H-1B签证程序外,国会和白宫还应该确定其他机制来招募和保留国际 AI 人才。
首先,劳工部(DOL)应该修改其ScheduleA职业清单,以包括高技能的AI技术人员。
根据附表A的规定,DOL有权确定针对特定职业的美国工人人数是否不足,并且雇用外国公民不会对美国工人产生负面影响。由于对AI技术人员的需求远远超过了可用的美国 AI科学家的人数,因此这是ScheduleA指定的合适职业。如果将AI专家添加到附表A的职业列表中,则希望为外国人提供绿卡赞助的雇主可以放弃永久居留流程的第一步,直接进行I-140申请流程,从而节省了时间和资源。
其次,国会应该制定一项新计划,以吸引合格的国际学生,并将他们留在美国的 AI劳动力队伍中。
该提议与《纽约时报》专栏作家托马斯·弗里德曼(Thomas Friedman)提出的“用绿卡换文凭”的概念不同,它更具针对性,要求计划参与者提前作出承诺,并使申请者免于要求雇主赞助。
设想的程序包括三个阶段:
在第一阶段,一名国际学生申请“F-prime”双重意图学生签证。
要获得这样的签证,学生必须被预先批准的与AI相关的研究生水平的学术课程录取,必须由FBI和国务院成功地进行筛选和审查,并致力于在AI相关领域工作,美国毕业至少十年。只要学生符合一定的学术标准,就可以在其学习期间为F-prime签证提供保证。
第二阶段从研究生院毕业开始。
计划参与者将获得为期十年的有条件公开市场EB-1绿卡,即所谓的“天才签证”,适用于在其领域中具有非凡技能的移民。就像现在的EB-1绿卡一样,这个新的子类别将没有劳工证书或雇主赞助要求,并且允许个人为任何美国雇主工作,但与典型的EB-1不同,它不会无限期地持续下去。
第三阶段,在美国工作了九年后,参与者有资格开始请愿书,以取消居住条件(永久绿卡)或申请入籍。成功完成十年的雇用期后,将获得无条件的永久居留权或公民身份。
该计划将具有三个主要好处。首先,通过相当可观的前期承诺,它吸引了已经非常倾向于生活、学习、工作和留在美国的最优秀、最聪明的外国学生。其次,它是针对特定于 AI 相关学科的。第三,通过消除雇主的担保要求,消除了向合格的外国人提供工作机会的成本和不确定性,从而解决了“启动签证”问题。
5 保护 AI 硬件在美国的优势
AI系统需要运行计算能力(“计算”)。对计算的访问可以建立或破坏一个AI项目。计算能力取决于硬件,与其他任何专门的物理对象一样,硬件也有其自己的设计、制造和供应链注意事项。因此,计算和供应链动态的可用性将推动国家AI的采用潜力,包括一个国家开发更先进系统的能力。美国决策者应将硬件视为人才—数据—硬件三元组的同等组成部分,并努力提高美国在这一领域的领导地位和安全性。
美国政府一直在努力创建用于研究的计算基础架构,以提高硬件供应链的安全性,并开发下一代AI优化芯片。为了保护美国的技术领先地位,必须在这三个领域采取健全的政策。
为了支持研究,白宫的美国AI倡议指示联邦机构为AI应用程序和研发分配计算资源。能源部加速应用程序就绪中心等许多用于AI应用程序的美国政府超级计算机已经向公众开放了用于研究项目的应用程序。在硬件开发方面,美国国家科学基金会与DARPA等机构共同资助了开发下一代芯片的项目。
为了解决供应链安全问题,美国国防部制定了“受信代工厂”计划。如果微电子资源可以确保芯片监管链的人员和流程的完整性,则寻求将其视为“可信”。截至2016年,该计划拥有约20个半导体工厂,而IBM运营着负责绝大多数先进定制芯片的设施。
但是,当总部位于美国的阿联酋公司GlobalFoundries购买了这些设施后,这些设施就失去了资格。由于缺乏其他选择,国防部与GlobalFoundries签订了为期7年的合同,继续购买微芯片。政府责任办公室(GAO)表示,国防部仍在寻求“保留可信赖的前沿能力的新方法”。
美国AI计划、白宫的《国家人工智能研究与发展战略计划》以及一些特定机构的项目概述了美国政府在硬件构建和部署方面所做的努力。国会和政府应采取更多措施来使计算可用,以减轻供应链风险,构建下一代AI优化芯片,并通过限制先进半导体制造设备的普及来保护美国的优势。
为了维护和促进美国在AI硬件方面的优势,国会和白宫应做到:
(1)增加负担得起的计算资源的可用性
美国政府在构建高性能计算机和向需要为项目进行计算的研究人员提供拨款方面拥有悠久的历史。它应该通过使用创新的方法来方便地访问负担得起的计算资源来补充这些现有的工作。
尽管大多数研究人员将不需要像橡树岭国家实验室的下一代超级计算机那样提供百亿分之一的计算能力,但即使对于较小的项目,计算能力也很昂贵。对于初创企业、大学和学院来说,这通常构成了准入门槛。
像高中这样的小型机构在接受下一代AI领导者的基础培训时,通常只能负担得起基本的必需品。例如,DeepMind的AlphaGo的改进版本AlphaGo Zero的云计算成本约为3500万美元。DeepMind的AI程序AlphaStar在星际争霸II策略游戏中击败了一位顶级的专业人类玩家,耗资高达1亿美元。
为了帮助解决计算访问差距,美国国家科学基金会通过“为CISE(计算机与信息科学工程)研究和教育实现对云计算资源的访问”计划和“探索加速云(E-CAS)”项目与美国云计算提供商建立关系。NSF应该扩大这些项目,而国会应该增加对它们的资助。
国会还可以激励公司向大学捐赠计算资源。最大规模的训练中使用的计算每三个半月增加一倍,需求可能还会增加。美国政府经营着许多对大学研究人员开放的计算设施,但是要满足不断增长的需求,就必须增加容量。
在马萨诸塞州,许多顶尖大学与州政府和私营部门合作,建立了马萨诸塞州绿色高性能计算中心,该中心容纳了供研究人员使用的许多高端计算机系统。州和联邦机构合作建立了支持该中心所需的基础设施。
此外,该项目还受益于联邦新市场税收抵免计划,该计划促进了对低收入地区的私人资本投资。捐赠或计算资源的税收折扣优惠措施可以增加大学对商业计算资源的访问,特别是在越来越多的公司寻求与学术界建立联系的时候。
(2)建立对半导体制造设备(SME)的多边出口管制,并增加联邦对下一代硬件的研发资金
美国在半导体设计方面具有全球领先地位,并应与盟国和合作伙伴共同制定多边出口管制措施,以保护其在硬件方面的竞争优势。
中国目前严重依赖进口外国制造的半导体来满足内部需求。作为“中国制造2025”计划的一部分,中国希望通过提高国内半导体产量来减少对外国芯片的依赖。然而,这种使生产本土化的愿望是美国战略杠杆的主要来源。
为了实现这一目标,中国需要从国外进口半导体制造设备(SME),这是建立芯片制造工厂或代工厂所需的设备和工具。
全球中小企业市场高度集中,美国、日本和荷兰占全球中小企业市场份额的90%。在关键地区,市场更加集中。一家荷兰公司是制造最新一代半导体所需的极紫外光刻机的唯一供应商。光刻胶(对半导体生产至关重要的化学物质)的全球供应几乎全部由美国、德国、日本和韩国的少数公司生产。
商务部和国务院应与主要盟友和合作伙伴(荷兰、日本、韩国和新加坡)合作,建立对中小企业的多边出口管制,限制对中国的销售。虽然对半导体产品本身的出口管制应该很少而且有针对性,例如针对华为和与中国军方有联系的其他几家公司的行动,但美国应与盟国和其他国家合作,对向中国销售产品的中小企业实行广泛的限制,以维持美国在硬件方面的优势。
中小企业出口管制的一项风险是,它们剥夺了美国公司目前用于研发的利润。中国在国内芯片制造方面的投资推动了中小企业行业的发展,在最近的市场增长中占了很大比例。美国公司必须继续投资于下一代技术,才能保持其全球领先地位。
随着芯片设计接近硅的原子极限,摩尔定律接近尾声,芯片公司正在寻找下一个突破口,它将带来新一代的计算硬件。为了确保美国在半导体领域的领导地位,联邦政府应加强在下一代芯片设计、制造和封装方面的研发。
(3)通过重新配置激励措施促进国内半导体制造
重振可信代工厂计划对于美国在AI硬件领域的领导地位将是一个积极的步骤,并有助于确保安全的供应链。建造半导体工厂非常昂贵,先进的制造工厂耗资可能高达 200 亿美元。
振兴可信代工厂计划这一部分的全新设施的可行替代方案是支持对现有的美国半导体工厂进行改造,以促进尖端硬件的发展。一些晶圆厂需要每两到三年进行一次更新以保持竞争力,而这些成本是沉重的负担。
几家公司已经请求资金来升级制造设备,以便向政府供货。美国应确定最适合改组的国内设施,并制定长期资金计划, 以重建可信赖的尖端半导体制造能力。
(4)保护半导体供应链
美国应与行业领导者合作,探索新颖的公私合作关系,以确保可信赖的半导体供应链,并与主要盟国合作,建立一个国际晶圆厂联盟,以使半导体制造多样化。美国是半导体设计的全球领导者,总部位于美国的公司约占全球市场的一半,但大多数制造都在海外进行。
严重依赖海外生产存在供应链出现中断或脆弱性的风险。例如,台积电(Taiwan Semiconductor Manufacturing Company)的芯片生产在2018年短暂中断,当时计算机病毒进入了制造设备。中国台湾是半导体制造的主要场所,产能占“纯晶圆代工厂”制造的 70%以上。
建立一个新的半导体工厂的成本是巨大的,大约为100亿到200亿美元,即使有潜在的政府补贴,外包的成本也很高。
此外,美国军事和情报界对安全的特殊需求超出了商业设施所能提供的范围,但他们缺乏使政府专用半导体工厂盈利的需求规模。国防部和情报界应探索与公司建立公私伙伴关系的新颖方法,以建立可信赖的设计、制造、包装和测试能力。
此外,美国应与盟国建立一个国际晶圆联盟,以分担建设新的半导体代工厂的成本负担,确保可信赖的多元化供应链。成员国应包括半导体制造设备的全球领导者,即美国、日本和荷兰。
6 塑造适用于人工智能的全球规范
人工智能的应用可以为社会带来不可思议的好处。它可以优化城市系统,研究就业模式,为决策者提供见解,并革新生物技术。总体而言,该项技术可以用于使人们的生活更轻松,但前提是必须遵守明智的政策。
越来越多的独裁国家滥用基于AI的技术来控制其人民。在某些情况下,美国研究机构、学术机构和私人机构在促成这些滥用行为方面是同谋。
人工智能技术会带来无数潜在的风险。AI的通用性和双重用途性质会增加滥用和事故的风险。滥用风险包括个人或团体以不道德的方式使用AI系统的可能性,而事故风险是AI系统以意想不到的方式表现出来的潜在危害。
人工智能还带来结构性风险,这意味着人工智能技术具有以破坏性或有害方式塑造政治、经济或社会环境的能力。相反,诸如竞争优势之类的结构性因素也可能影响使用AI的方式,包括产生不正当的激励措施,例如竞相首先开发技术并采取安全捷径。
随着AI越来越多地融入影响美国人日常生活的技术中,滥用、事故和结构风险的可能性也在增加。面部、图像和语音识别算法每天都变得越来越准确、普及和廉价。这些技术在增强执法能力的同时,也引起了人们对公民自由的关注。语音生成和合成媒体不仅可以用于艺术中,也可以传播虚假信息并破坏公众对事实的信任。
美国领导层与其他民主国家一起,在制定国际AI规范方面至关重要。为了确保以符合民主利益和价值观的方式开发和使用这些技术,政府和国会应做到:
(1)建立适当的 AI 使用规范
美国必须在如何使用和不应该使用人工智能方面起主导作用。作为一个开放的民主社会和世界上卓越的经济和军事力量,美国拥有无与伦比的影响力和权威。美国社会必须确定如何在围绕AI系统使用的关注之间取得平衡,例如关于面部识别技术的辩论。美国政府与公司之间的相互作用将决定处理此类棘手问题的程序。做到这一点至关重要,不仅是为了规范美国社会,也是为世界树立榜样。
美国政府应在建立AI规范方面寻求领导地位。2019年10月,国防创新委员会(DIB)提出了一系列AI伦理原则,如果五角大楼采用,将有助于指导国防部在战斗和非战斗系统中使用AI。这些原则可以作为OSTP领导的美国政府如何指导AI系统开发和使用的模型。
美国政府还应与从事AI安全、缓解风险和滥用行为研究的 AI技术人员合作。美国政府不仅需要制定AI使用指导准则,还需要制定实施方法和问责机制以遵守这些准则。
(2)与盟友和合作伙伴就AI使用规范进行合作
美国不能让自己孤立。在AI竞争日益激烈的时代,与盟友和民主伙伴合作对于建立AI使用的全球规范至关重要。人工智能对全球稳定的影响非常大。
美国通过认可经合组织的AI原则,表达了对尊重人权和民主价值观的可信赖AI的承诺。在认可这些原则的经合组织论坛上,美国首席技术官迈克尔·克拉佐斯声称:“在拥有我们共同价值观的每个国家,与我们一起发展人工智能,使我们的国家更强大,世界更安全,我们的人民更加繁荣和自由。”
与志趣相投国家的联盟和伙伴关系将确保负责任的AI管理成为全球规范。采取协调一致的合作行动将鼓励其他国家效仿,并向异常地区施加压力。
7 改善政府准备
通过AI计划,美国政府已经确定了实施国家AI战略的前提条件。根据牛津学院发布的政府人工智能就绪指数,美国在这方面是世界上就绪指数排名第四的国家。这些因素包括强大的治理,高质量数据的可用性,技术技能以及强大的公共服务。
该报告强调了美国的“高技能劳动力、友好创新的监管环境以及对技术基础设施和数据的访问”,这是积极的发展。
美国政府的AI研究与开发战略计划,有关AI的行政命令以及DARPA的AI Next运动等长期研究工作都是可以依靠的。在国会,HR4174要求在管理和预算办公室成立首席数据官委员会,以协调最佳实践和整个政府的数据共享。
OPEN数据法案要求联邦组织以标准化的机器可读格式发布信息,这可以提高数据质量和可用性,是标准做法。这些发展满足了许多采用AI技术的组织和数据基础架构要求,但要实现美国的长期目标还需要更多。
为了确保美国政府机构可以充分利用AI资源,国会和内阁级部门应做到:
(1)优先考虑人才管理
人工智能时代的人才管理将需要应对三个不同但相关的挑战。
首先,美国政府有必要吸引和保留具有AI专业技术的顶尖人才。
其次,许多国家的安全专业人员将需要接受AI培训,以便能够负责任和有效地使用AI应用程序。
第三,包括高级领导人、政策制定者和采购官员在内的政府官员将需要有关AI功能、用途和限制的实用知识,以制定政策并为收购提供信息。
围绕政府分配人才的轮换计划,以及围绕AI系统管理作为一种职业建立的职业轨迹,将进一步加强联邦政府的人力资本。美国还需要开发新颖的方法,即使在很短的时间内,也可以将外部AI专家带入政府。
临时任务、研究基金和其他机会(包括对此类任务结果的认可和公开讨论)使外部技术和政策专家更容易获得服务,这可能有助于确保政府拥有所需的AI专业知识。
美国政府用来雇用数字人才的一种模式是通过短期的“服务之旅”。某些举措是在整个政府范围内实施的,例如美国数字服务(USDS),该技术将技术人员置于各种项目和机构中。
一些项目是面向安全的。例如,国防数字服务组件促进了“入侵五角大楼”漏洞赏金计划。其他项目则展示了将人才应用于基于项目的方法如何使政府流程现代化。USDS已经完成了优化退伍军人部云应用程序和提高国土安全部案例工作数字化的项目。各个机构还进行了基于期限的工作。
美国国立卫生研究院(NIH)在其《数据科学战略计划》中宣布,打算从工业界和学术界招募数据科学家,以在NIH 项目中进行为期1~3年的“国家公职休假”。随着政府继续建立其长期人员需求,这些“服务之旅”和“数据研究员”概念可以作为启动 AI 实施的模型。
但是,美国政策制定者需要认识到,除非能够解决招聘和就业方面的障碍,否则愿意并能够在政府中服务的AI人才库仍然有限。政策和文化都限制了联邦劳动力的数量。
联邦雇员不再需要在一个机构中寻求三个十年的职业生涯,年轻的员工对职业管理的期望也不同。同样,许多不断发展的领域(从STEM到区域专业知识)都从专家那里受益匪浅,他们可以通过简化的回报途径在政府内外更新其知识和经验。
为了建立灵活且可渗透的劳动力队伍,OPM短期内应与国会和联邦机构合作,以改变现行政策,以允许以前的政府雇员在其有资格的任何级别进行非竞争性的雇用。同样重要的是,代理机构应消除部门和代理机构之间人才流动的障碍,包括过多和延迟的安全许可转移。
最后,联邦机构应为实习和研究基金计划提供更无缝的入学机会。
此外,政府应研究如何扩展现有的人才培养流程,包括AI专家。美国国防部的网络除对外服务部门已将新员工的招聘时间缩短了一半之外,还利用了AI专业人士。为了招募应届毕业生进入政府,可以使用“网络公司:服务奖学金”作为榜样。
该计划将根据毕业后为政府在网络安全职位上的工作提供奖学金。该程序可以扩展为针对安全和非安全功能的AI人才。
另一项努力是仿效国防数字服务。它采用来自商业界的最佳实践,将最佳可用技术快速带入部门。在政府临时指派的顶级私营部门技术专家的领导下,它启动了联邦政府的第一个漏洞悬赏计划和开放源代码协作任务。
美国空军Kessel Run计划提出了另一种新颖的吸引和留住人才的方法。其工作人员位于马萨诸塞州的剑桥市,而不是位于军事基地,创造了一个类似于技术初创公司的工作环境,而不是刻板的政府办公室。
美国政府各部门将需要创造性地思考如何吸引AI人才在公共部门工作,以与科技部门公司提供的津贴、灵活性和更高的薪水竞争。
(2)为联邦机构分配资金以实施 AI 计划
美国AI倡议呼吁各机构在预算范围内优先考虑AI。该请求取得了一些成功,例如美国能源部在2019年4月宣布了2000万美元的资金,专门用于加速将AI和机器学习实施到能源技术和设计中。
美国AI计划的不足之处在于它没有建立预算目标。没有专门的财务支持,代理商可能会滞后于AI的实施。政府采取的这种放任自流的做法很可能导致不必要的挫败感和效率低下。
最重要的是,AI计划需要增加支出,使其超出现有预算所能支持的范围。前端要求包括更高的研发资金、数据基础架构升级和人才培养。重新平衡有限的预算以实施AI可能会取代机构内部的关键任务和研究领域。这种风险使机构在可能的地方将其他正在进行的项目重新标记为与 AI 有关的项目。
白宫应该与国会合作,以确保为人工智能的实施分配足够的拨款。美国AI计划是一个良好的开始,但是应确保更多的资金和国会的支持,把AI列为国家优先事项。
(3)现代化 IT 流程
美国政府实施AI计划取决于系统更新的能力;管理、利用和共享数据;有权使用计算;以及管理技术人员。这需要整合数据中心并建立云服务。
美国政府在认识到这一领域的挑战方面已经取得进展。例如,GAO建议对IT 实践进行更新,这不仅有利于提高政府效率,而且有利于AI的采用。GAO建议对数据中心进行合并,对遗留系统进行现代化改造以及对 IT 员工进行管理。
另外,国防创新委员会的软件采购和实践(SWAP)研究认可了国防部软件采购流程的更新。国会将SWAP研究的内容纳入了2020财年的《国防授权法》(NDAA)。在采取这些措施之后,在继续的跨政府领导下,将为采用AI奠定条件。
云对于AI计划的实施至关重要。根据国防部云战略,“用于决策的算法取决于国防部的数据和信息在共同环境中的组织、安全和可见性”。人工智能取决于数据的汇总和计算;云解决方案可以同时提供两者。
为了实施 AI 计划, 美国政府需要优化其数据管理。政府已经通过多种立法来解决数据整合问题,例如2014年《联邦信息技术采购改革法案》,GAO的跨政府现代化工作,以及国防部云战略和联合企业防御基础架构(JEDI)云。
一些机构比其他机构要遥遥领先,但是虚拟化和云服务(无论是软件即服务、平台即服务还是基础架构即服务)的总体趋势似乎是乐观的。
8 领先的 AI 标准制定和测量
8.1 AI 标准
AI应该是安全、可靠和有弹性的。政府机构还应继续为可解释且透明的AI系统研究提供资金。需要AI技术的标准化来定义这些质量,并在需要时为其测量和调节提供基础服务。
长期以来,美国一直是电信等标准制定的领导者。2019年8月,美国商务部下属的美国国家标准技术研究院(NIST)发布了一项计划,说明联邦机构应如何参与AI标准。这一领导角色是特朗普政府的美国人工智能倡议授权的。
在美国政府之外,美国国家标准协会(ANSI)是致力于美国和国外标准制定的主要国家组织之一。ANSI中的一个子小组,即国际信息技术标准委员会,专门致力于开发AI标准。
ANSI和NIST参与了新兴的国际标准制定工作。现在,工作组正在讨论诸如AI的可信度、大数据、AI的用例和应用程序以及AI的治理含义等主题。
8.2 AI 测量
测量是AI研究界如何定位自身并确定研究优先级的方式。一些以测量为中心的计划,例如“ImageNet竞赛”,已帮助定义了图像识别等领域在整个领域的进步。其他举措,例如纽约大学针对语言的“GLUE”基准,本身已成为进一步研究的催化剂。
在各种各样的人提交了可以最大化GLUE性能的AI系统后,NYU建立了一个新的更严格的基准,称为“SuperGLUE”,该基准可以进一步促进AI发展。
基准测试对于理解AI系统的性能是必需的。随着构成 AI的技术、功能和能力的广泛发展,对设计定量测量方案提出了挑战。因此,目前测量人工智能的测试范围涵盖从模糊和概念到定义明确和成熟。AI指数汇编了一些追踪AI研究进展的最佳范例。
AI研究领域已建立的一个例子是F1分数,它是一个精确的和可回归的函数,被广泛用于评估自然语言处理模型。另一个例子是计算机创造力的概念,即计算机根据现有信息创建新想法或解决以前从未遇到的问题的能力。科学家们仍在争论“创造力”是什么意思,或者计算机是否有可能拥有创造力。
此外,AI测量方法不是静态的。随着技术的成熟以及对机器智能的期望的变化,从现在起的几年后,许多有意义的测试将不再重要。至少需要每五年进行一次定期检查,并需要更新测试方法,以确保AI系统发挥最佳功能。
以图灵测试为例,该测试通常用于测试聊天机器人模仿人类的能力,已有半个多世纪的历史了,如今它已成为测量机器智能的一种手段,其意义不大。专家们提出了新的人工创造力和智力测验,例如Lovelace2.0和Winograd Schema Challenge,以替代图灵测试。
一组研究人员表示,由于基于语言和数据的偏见,Winograd 本身也有缺点。2019 年7 月,研究人员宣布了一个新的、更大的挑战以及名为WINOGRANDE的关联数据集,以解决这些缺陷。我们应该期待随着知识和能力的增长对该新模式进行进一步的改进。
美国政府参与标准制定和测量非常重要,因为决策者将可以直接获得量化信息,以进行更好的循证决策。它进一步帮助政府专家确定小组委员会应有权建议在私营部门和学术界可以可靠地进行哪些连续测试、评估和测量,而不是应该由政府实体在外部进行(例如,远程医疗、医疗设备安全性和某些自动驾驶车辆功能)。
另一个功能应该是确定学术界和行业开始有针对性的资助领域,例如有关量化“AI稳健性”合并的措施。在这种情况下,美国政府可以将竞和“可信度”的学术研究,将有助于建立明确有效的指标。
测量AI系统的性能、功能的编码测试是非常重要和必要的。为确保美国在AI指标方面处于全球领先地位并促进AI解决方案的广泛采用,白宫科学技术政策办公室应做到:
(1)建立一个NSTC人工智能标准与测量小组委员会
该小组委员会将由OSTP和NIST共同主持,将在现有的NSTC AI专责委员会下成立,其任务是“优先和促进 AI研发,为AI社区利用联邦数据和计算资源服务,以及为AI使用做好培训。
目前,NSTC机器学习和人工智能小组委员会负责AI测试和标准的制定,该小组拥有更广泛的章程,重点是监测ML/AI的最新技术以及政府机构之间共享最佳实践。标准和测量对于培养安全、可靠、符合美国规范和价值观的AI技术至关重要,因此需要一个独立的小组专门处理这一问题。该小组委员会将在重点更为突出的国家科学技术委员会AI特别委员会下发挥最有效的作用。
它应召集政府、学术界和私营企业的主题专家和利益相关者来制定AI标准,确定需要测量的AI度量,确定AI风险,采用现有的绩效度量以及在必要时设计和整理相关的测量技术。争重点放在促进此类措施的标准化和采用上。
该机构应与美国国家标准协会(ANSI)合作,以确保新的AI测量技术符合美国AI标准。为有效起见,小组委员会必须具有永久授权,以便它可以根据需要随着时间的推移审查和更新指标和测试。
小组委员会应与ANSI合作,为政府机构和私人公司评估其开发和部署的AI技术的风险制定指导方针清单。欧盟有一个值得效仿的案例研究。2018年,欧盟委员会针对可信赖的AI引入了道德准则草案,确定了直接影响用户的系统的优先级。小组委员会的准则应侧重于滥用的可能性、发生事故的风险以及对结构或环境产生负面影响的可能性。
最后,国会应向特定的政府机构拨款,以小组成员的身份加入小组委员会。这笔拨款将用于支付人员和差旅费用,使政府机构可以从他们中间任命代表参加小组委员会的工作组会议。
(2)定义什么是 AI
美国政府应为此目的制定AI的定义。这是必要的第一步:这样做将有助于制定度量标准,简化与AI相关的资金的分配,并有助于跟踪政府部门和机构的 AI 支出。精心设计的定义将具有丰富的描述性,而不是虚假的,以限制其解释方式。它将需要解决AI的子领域,确认范围广泛的用例并确定所有相关流程(例如推理、解决问题、理解语言)。我们建议NSTC AI标准、度量和风险小组委员会确定此定义。
8.3 对冲技术意外
全球AI的发展对美国保持优势至关重要。跟踪AI的全球进度对于避免技术意外也很有必要。虽然没有对“技术意外”的标准定义,但广义上讲它涉及重大技术突破,发现先前未知的研究成果,科学或技术领域的意外快速发展或进步,以及对现有技术的意外使用。
最小化技术意外风险的一种方法称为水平扫描技术。这项技术结合了各种来源的研究,目的是发现变化,探索新兴技术领域中的问题和挑战以及辨别趋势。许多组织已经在应用水平扫描技术来跟踪AI的发展。OpenAI使用地平线扫描技术进行“AI和计算”分析。英国的非营利组织Jisc和情报未来中心以及澳大利亚学术学院理事会都使用该技术为AI研究提供信息。
在美国,斯坦福大学发布年度AI索引,其中包含许多可用于水平扫描方法的指标和数据点。中国的新媒体公司 Leiphone 发布了一个庞大的有关中国AI发展的信息数据库,称为AI影响因子数据库(AI Impact Factors Database),可提供宝贵的见解。
为了减少技术意外事故的风险,白宫科学技术政策办公室应建立致力于AI的永久性视野扫描工作。
美国政府有多个部门和机构(包括国防部、国土安全部和情报界)的人员在视野扫描方面经验丰富。相关的政府机构代表以及学术界和私营部门的参与者应举行定期会议和讲习班,以讨论和分析全球AI趋势,并定期发布未分类和分类的报告,以告知美国政府的决策者。
如果将重点放在对国家安全有重大影响的特定案例研究上,并且在非公开信息可以提供重要洞察力的情况下,例如在测量AI的进展以创建自主无人机移动系统和对抗性AI能力方面, 这项工作将发挥最佳作用。
9 结论
美国作为人工智能全球领导者的地位面临着越来越大的压力。其他国家,尤其是中国,在增加研发预算和在人力资本上投入更多资源方面已超过美国。
尽管如此,美国仍拥有重要的优势,其广泛的世界一流大学和研究机构体系,领先的技术公司以及充满活力的风险投资和私募股权市场为AI初创企业提供了资金。它仍然是来自世界各地的人们想要工作和生活的地方。
特朗普政府通过其行政命令和《国家人工智能研发战略》表达了强大的战略眼光。下一阶段必须严格执行以实现这些目标。实施本报告中的建议将有助于确保美国定位于近期和远期的成功,并使这一愿景成为现实。
当美国面对挑战时,它正处于最佳状态。通过培育和利用美国的优势,并解决开始落后的领域,美国可以确保AI世纪将是美国的世纪。
作者简介
马丁·拉瑟是CNAS技术与国家安全计划的高级研究员。拉瑟曾在中央情报局担任高级情报官和分析师。在离开政府机构后,拉瑟担任投资研究公司Muddy Waters Capital的参谋长。最近,他担任风险投资支持的AI初创公司 Kyndi 的分析总监。拉瑟获得了贝茨大学人类学学士学位和乔治敦大学安全研究硕士学位。
梅根·兰伯特是CNAS技术与国家安全计划的研究助理。在加入CNAS之前,兰伯特女士是Aspen战略小组研究员,她领导了Aspen战略小组夏季讲习班和两届 Aspen部长论坛的计划和执行。兰伯特女士从德克萨斯农工大学布什政府与公共服务学院获得国际事务硕士学位。她毕业于萨姆休斯顿州立大学,获得刑事司法学士学位。
艾尼基·里科宁是CNAS技术与国家安全计划的研究助理。在加入CNAS之前,里科宁女士曾在美国国防部近东南亚战略研究中心工作。在那里,她为来自北非、中东、中亚和南亚的参与者制定有关区域安全问题的合作计划。在此之前,她曾在国家恐怖主义与对策研究联合会实习,研究了外国的核计划和放射计划。里科宁女士拥有圣安德鲁斯大学国际关系学位,目前正在乔治敦大学攻读安全研究硕士学位。
切尔西·郭是 CNAS 执行团队的前Joseph S. Nye Jr. 实习生。在加入CNAS之前,郭女士曾在开放慈善项目中担任研究分析师,并在未来人类研究所担任政策实习生,她专注于与先进AI和强大竞争相关的问题。她目前正在牛津大学攻读政治学硕士学位(政治理论)。郭女士以优异的成绩毕业于耶鲁大学,获得了分子、细胞和发育生物学硕士学位,并获得了政治学文学学士学位,在这两个专业均取得了优异的成绩。
迈克尔·霍洛维茨是宾夕法尼亚大学政治学教授兼佩里世界之家的临时总监。他还是CNAS的兼职高级研究员。他获得了国际研究协会颁发的2017年卡尔·德意志奖,该奖每年颁发给40岁以下的学者,这些学者被认为对国际关系与和平研究做出了最重要的贡献。霍洛维茨教授是《领导者为什么要战斗》一书的合著者,也是《军事力量的扩散:国际政治的原因和后果》一书的作者。他的研究兴趣包括技术和全球政治、军事创新、领导人在国际政治中的角色以及预测。他在许多同行评审的期刊上发表过文章,包括《纽约时报》和《政治报》等广受欢迎的媒体。霍洛维茨教授曾在国防部国防政策事务大臣办公室工作。他还是外交关系委员会的终身会员。他曾在Weatherhead中心、Olin研究所和哈佛大学Belfer中心担任过研究学者,在那里他获得了政府博士学位。霍洛维茨教授获得了埃默里大学政治学学士学位。
保罗·沙尔是CNAS的高级研究员兼技术与国家安全计划主任。他是《无人军团:自主武器与战争的未来》获奖作者,该小说获得了2019年科比奖。沙尔在制定新兴武器技术政策方面发挥了领导作用。他领导了起草DOD指令3000.09的工作组,建立了DOD武器系统自治政策。沙尔是陆军第75游骑兵团的前步兵、狙击手和侦察队负责人,完成了多次前往伊拉克和阿富汗的访问。他拥有圣路易斯华盛顿大学政治经济学和公共政策硕士学位以及物理学学士学位。
https://www.cnas.org/publications/reports/the-american-ai-century-a-blueprint-for-action
译者简介
王锋,博士,美国路易维尔大学访问学者,研究方向为网络安全与机器学习。
选自《信息安全与通信保密》2020年第一期(为便于排版,已省去原文参考文献)
声明:本文来自信息安全与通信保密杂志社,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。