2017年年底，Reddit平台上出现了一种新的色情视频，名为“Deepfake”的用户借由机器学习将色情明星面孔实时动态“换脸”成名人，深度伪造（Deepfake）一词也由此被创造出来，取自“deep learning”（深度学习）和“fake”（伪造）的合成词，代表利用人工智能技术实现图像、音视频的生成或修改，达到信息内容“以假乱真”欺骗受众的目的。此前在计算机视觉领域，通过机器学习对图像、音视频进行处理乃至伪造并不鲜见，但是大多停留在学术研究项目中。2017年之后该技术在“GitHub”的开源软件涌现，开发的技术更为普适和易获取，能被缺乏专业知识的一般人利用并轻易制作，在色情和政治假新闻等领域被广泛传播而进入公众视野。
一、立法背景
如今深度伪造因被恶意滥用而争议不断，2019年更是一波未平一波又起：如伪造传播名人、明星的色情视频；伪造政治家、企业家等公众人物的公开演讲（如近期美国国会众议院议长南希·佩洛西、Facebook创始人马克·扎克伯格等相继中招，在美国引起震动）。近段时间，程序员还开发了名为DeepNude的应用，可以自动“脱掉”女性照片身上的衣服显示裸体。我国此前也有网友将朱茵扮演的黄蓉形象“换脸”成杨幂，造成了不良的社会影响。
深度伪造技术发展带来的风险及危害引起了美国的联邦和州层面的立法者的高度关注，近期不仅专门召开了国会听证会，议员们还提出了多份法案，探讨如何防范化解深度伪造的风险。其中具有代表性和较为中立的是两党议员分别在众议院、参议院同时提出的《2019年深度伪造报告法案》（Deepfakes Report Act of 2019），该法案于美国当地时间2019年6月28日提出，时间节点在国会听证会之后，反映了目前美国的立法者在防范深度伪造技术风险的努力方向。
二、主要内容分析
《2019年深度伪造报告法案》[1]（Deepfakes Report Act of 2019）的全称为“要求国土安全部部长发布关于使用深度伪造技术的年度报告及其他目的”法案（To require the Secretary of Homeland Security to publish an annual report on the use of deepfake technology, and for other purposes）。法案由Derek Kilmer等四位众议员提交众议院，同时由Portman等七位参议员提交参议院，当前正在参众两院同时进行审议。法案全文正如其名，要求国土安全部商有关部门对不断增长的深度伪造技术开展前瞻性研究，以评估防范这项新技术可能带来的风险及构成的威胁。具体规定了以下内容。
1、明确了“数字内容伪造”的定义
法案规定“数字内容伪造”（digital content forgery）是指使用新兴技术（包括人工智能和机器学习技术）来制造或操纵音频、视觉或文本内容，意图产生误导的效果。
2、规定了国土安全部应发布报告的内容
法案规定报告需包括以下内容，同时规定不迟于该法制定后200天发布报告及其后每18个月进行更新：
（1）评估用于创建或传播数字内容伪造的基础技术，包括此类技术的发展；此条规定的了解技术层面发展情况有助于增强立法的科学性；
（2）对数字内容伪造类型的描述，包括使用外国或国内来源；及网络攻击、色情和媒体；此条为厘清立法主体所包含的类型；
（3）评估外国政府及其代理人和关系网如何使用或可能使用数字内容伪造来损害国家安全；此条是重在防范域外安全威胁，深度伪造技术可能被运用在政治用途起到颠覆舆论的作用，这条也是该技术发展的最大风险点。美国众议院情报委员会在此前听证会上发出警告，应重点分析深度伪造技术的国家和选举安全风险。美国相关研究机构人员也声称，美国的专制国家对手可能会使用深度伪造作为虚假信息运动的一部分，试图诋毁美国国内持不同政见者和批评者并煽动美国内部矛盾[2]。
（4）评估美国的非政府实体，如何使用或可能使用数字内容伪造品；非政府实体在公共管理领域发挥的作用日益重要，此条体现了美国立法者对非政府实体使用该技术存在风险的担忧。
（5）评估用于生成未发生的事件的高保真人工内容的深度学习技术的用途、应用、危险和益处；此条侧重评估技术的正向价值和引发的风险，为立法打好基础。
（6）一种分析方法用于确定内容是由真人还是通过数字内容伪造技术创建，包括评估用于做出此类决定的任何有效的启发式方法；此条为对如何鉴别深度伪造的内容加强研究。
（7）对用于解决数字内容伪造技术问题的技术对策的描述。此条体现美国政府有意加强对新技术的研发以鉴别深度伪造。
（8）是否需要其他法律机构来处理报告结论的有关建议。
（9）国土安全部长认为适当的任何其他内容。
法案对报告的描述反应了当前美国立法者们对深度伪造技术最关心的事项，涵盖了目前深度伪造给网络安全和国家安全带来风险的主要方面，对我国开展前瞻性立法研究也有较强的借鉴意义，可以说包含的每一项内容都可作为课题专项研究。
3、反映了美国对该技术的监管架构
该法案明确了美国国土安全部作为主管协调部门，国土安全部作为美国政府在9.11事件之后设立的一个联邦行政部门，负责国内安全及防止恐怖活动，将国土安全部作为主管协调部门体现了美国立法者主要关注到深度伪造技术给国家安全带来的风险。此外法案规定报告的制作由国土安全部分管科学和技术事务的副部长负责。其分管的司局也与深度伪造技术直接相关，如科学技术局、网络安全司（国家网络安全中心）、国土安全高级研究计划局等。
法案还规定国土安全部在制作报告时，应商相关机构及召开公众听证会。相关机构包含：（1）情报界（根据1947年《国家安全法》第3节的定义）[3]；（2）国防部长；（3）参谋长联席会议主席；（4）司法部计算机犯罪与知识产权科(CCIPS)；（5）科技政策办公室；（6）国家标准与技术研究所；（7）国家科学基金会；（8）联邦选举委员会；（9）联邦贸易委员会；（10）认为必要的联邦政府的任何其他机构。上述机构都有部分职能与深度伪造技术相关，体现了以国土安全部为核心协调，情报界等法定和监管机构各司其职，以应对日益严重的深度伪造威胁的监管思路。
三、其他立法
除了上述法案外，美国联邦及州层面的立法者围绕色情和政治领域还推出了一些包括刑事处罚在内较为激进的解决方案，同时探索开展竞赛发展深度伪造的鉴别技术。
1、联邦层面
最早于2018年12月，由参议员Ben Sasse提出《2018年恶意伪造禁令法案》[4]（Malicious Deep Fake Prohibition Act of 2018），该法案规范了两类主体即制作深度伪造内容引发犯罪和侵权行为的个人，及明知内容为深度伪造还继续分发的平台（如Facebook）。对上述行为罚款和/或长达两年的监禁，如果严重的煽动暴力或扰乱政府或选举，监禁将长达10年。该法案由于争议较大，目前在国会搁置。
众议员Yvette Clarke 于2019年6月12日提出《深度伪造责任法案》（DEEP FAKES Accountability Act）[5]。该法案是目前在深度伪造方面规定的最为详细的一份法案，制度设计也较为激进，同样规定了刑罚，使视频创作者对发布修改视频负责，同时需要使用数字水印标记恶意的深度伪造，还为受害者提供救济渠道。Clarke表示法案的目标是阻止“外国和国内参与者的选举干扰，他们可以使用深度伪造技术来改变竞选候选人的图像和视频。”
此外还有众议员于2019年6月26日提交众议院审议的情报授权法案中提及开展相关技术竞赛。法案名为《2020财年Damon Paul Nelson和Matthew Young Pollard情报授权法案》（Damon Paul Nelson and Matthew Young PollardIntelligence Authorization Act for Fiscal Year 2020）[6]，在该法案中705节规定了5G技术竞赛，紧接着706节规定开展深度伪造鉴别技术竞赛，法案要求国家情报总监通过情报高级研究计划局局长实施一项有竞争力的奖励计划，刺激技术的研究、开发或商业化，以自动检测被机器操纵的媒体[7]，可向竞赛的一名或多名获奖者颁发500万美元以内的奖金。
2、州层面
弗吉尼亚州于2019年7月1日正式生效《非同意色情法》（Nonconsensual pornography law）的修正案[8]。自2014年起，弗吉尼亚州就已经禁止传播裸体图像或视频“意图强迫，骚扰或恐吓”他人。本月通过的修正案纳入了深度伪造的内容，澄清上述图像、视频包括“虚假创建的视频或静止图像”。同时规定违反该规则是第1类轻罪，最高可判12个月监禁，罚款2500美元，这是首个生效的覆盖深度伪造内容的州立法。
德克萨斯州近期也通过了专门的深度伪造法，全称为《关于制作欺骗性视频意图影响选举结果的刑事犯罪法案》[9]，该法的关注点同弗吉尼亚州不同，在于保障选举安全，该法将于今年9月1日正式生效。此外纽约州的立法者也试图一刀切的禁止深度伪造的色情制品[10]，严厉的立法招致影视行业的强烈反对。
四、总结
当前正在上映的《蜘蛛侠：英雄远征》中反派“神秘客”营造了深度伪造的虚拟现实差点骗过全世界，编剧结合了人工智能技术创新的时代背景“新壶装老酒”，耳听为假眼见亦为虚的戏谑背后也反应了对深度伪造等新技术发展给人类所带来风险的担忧。无疑任何新技术的发展都是双刃剑，深度伪造同样是机遇和风险并存。
深度伪造作为内容创作工具有其积极的一面，可能被广泛运用在公众教育、视听行业。但与此同时，任何人都可能成为深度伪造的潜在目标，被敲诈和传播负面信息，甚至被敌对势力用于信息战、误导公众舆论、操纵选举，尤其是在媒体的信任度较低的国家，公众更易被阴谋论的影响，严重损害国家安全[11]。美国近期各层面的立法活动频繁，也正表明了决策者对规制深度伪造技术风险的担忧。美国如何防范化解深度伪造风险的探索值得进一步关注，同时还可借鉴《2019年深度伪造报告法案》中的规定，尽快开展对深度伪造全面的风险评估，这将有助于政府部门和公众更加包容审慎的对待该技术，从而在法律政策的制定中更好的把握安全、自由及产业利益的平衡。
[1]详见：https://www.congress.gov/bill/116th-congress/house-bill/3600/ ，最后访问时间2019年7月9日。
[2]详见：https://www.politico.com/story/2019/06/13/facebook-deep-fakes-2020-1527268 ，，最后访问时间2019年7月9日。
[3]“情报界”一词包括以下内容：（A）国家情报总监办公室（B）中央情报局（C）国家安全局（D）国防情报局（E）国家地理空间情报局（F）国家侦察办公室（G）国防部内其他办事处，通过侦察方案收集专门的国家情报（H）陆军，海军，空军，海军陆战队，海岸警卫队，联邦调查局，缉毒局和能源部的情报部门（I）国务院情报和研究局（J）财政部情报和分析办公室（K）国土安全部情报和分析办公室（L）任何部门或机构的其他要素，可由总统指定，或由国家情报总监和有关部门或机构负责人共同指定，作为情报界的一个组成部分。
[4]详见：https://www.congress.gov/bill/115th-congress/senate-bill/3805，最后访问时间：2019年7月8日。
[5]详见https://brooklyneagle.com/articles/2019/06/14/clarke-introduces-bill-to-combat-high-tech-altered-videos/，最后访问时间：2019年7月8日。
[6]详见：https://www.congress.gov/bill/116th-congress/house-bill/3494/，最后访问时间：2019年7月8日。
[7]术语“机器操纵的媒体”是指使用机器学习技术生成或基本上修改视频、图像或音频记录，以便错误地描绘事件或错误地描绘个人的言语或行为。
[8]详见：https://www.theverge.com/2019/7/1/20677800/virginia-revenge-porn-deepfakes-nonconsensual-photos-videos-ban-goes-into-effect，最后访问时间2019年7月8日
[9]详见：https://legiscan.com/TX/text/SB751/id/1902830，最后访问时间2019年7月8日
[10]https://www.theregister.co.uk/2018/06/12/new_york_state_is_trying_to_ban_deepfakes_and_hollywood_isnt_happy/，最后访问时间2019年7月8日。
[11]https://new.qq.com/omn/20190611/20190611A0OKB1.html，最后访问时间2019年7月8日。
作者简介：沈达，中国信息通信研究院互联网法律研究中心研究员
声明：本文来自CAICT互联网法律研究中心，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
