深度伪造技术（Deepfake）的出现，使得篡改或生成高度逼真且难以甄别的音视频内容成为可能。这被美国等西方国家视为重大的国家安全威胁，美国已在推动相关立法，以期阻止该项技术的不当利用。
对此，可以通过研发鉴伪和溯源技术、教育提升社会公众素养、合理配置法律责任等举措包容审慎监管和治理，避免该项技术的滥用，并促进该项技术在教育、文创、娱乐等方面的积极作用。
深度伪造的出现和应用
1.1深度伪造是人工智能技术进步的产物
近两年来，随着以机器学习为代表的人工智能技术的发展，人工智能自动生成内容取得了显著的进步，不仅内容的质量得到了提高，而且内容的形式日益多元化，例如生成文字、图像、声音、视频等。
在此背景下，深度伪造技术“应运而生”，可以实现图像、声音、视频的篡改、伪造和自动生成，产生高度逼真且难以甄别的效果。深度伪造的最常见方式是 AI 换脸技术，例如 deepfake、face2face 等；此外，还包括语音模拟、人脸合成、视频生成等，以下统称深度伪造技术。
作为人工智能技术发展到一定阶段的产物，深度伪造的兴起主要归功于生成对抗网络（GAN）的出现和进步。GAN 算法上同时搭载着两个神经网络——生成器，基于一个数据库自动生成模拟该数据库中数据的样本；识别器，评估生成器生成的数据的真伪。两者在互相博弈学习中产生大规模和高精确度的输出。
随着GAN 算法的不断成熟和日益复杂化，无论是图像还是声音、视频都可以被伪造或自动合成， 并可达到几乎不能辨别真伪的程度。
1.2深度伪造在教育、文创、客服、娱乐等诸多领域具有积极应用价值
深度伪造技术或者说内容合成技术具有很大的正向应用潜力。在教育方面，逼真的虚拟教师让数字教学更具互动性和趣味性。
此外，借助深度伪造技术，可以以充满想象力和更具吸引力的方式向学生传播知识；例如，合成的历史人物演讲视频可以再现历史场景，让受众更具代入感 ; 借助深度伪造技术修改电影素材，以更灵活生动的形式呈现教学内容。
在娱乐方面，深度伪造技术使得对一个人的自我进行逼真的模拟成为可能，从而可为个人创造虚拟化身（avatar），并能通过虚拟化身参与媒体中各类社交活动，创造出超越现实的个性化体验和化身体验。
此外，深度伪造技术可以让电影、纪录片等艺术创作突破时空限制，以更真实的方式呈现，也能实现替身演员演出等效果；可以给通过视频进行的批评、讽刺、戏仿等提供新的表达形式；可以创造虚拟主播来播报新闻、天气预报等内容；也可以给医疗、零售、娱乐等领域提供更具亲和力的人形问诊机器人、虚拟客服、虚拟偶像等。而一旦这一技术被滥用，则可能给国家安全和公民、企业权益带来新的风险。
深度伪造的滥用风险
2.1给国家安全带来新的挑战
深度伪造技术对国家安全的潜在影响已经引起了美国国家高层的高度重视。美国情报界发布的研究报告《2019年全球威胁评估》认为，深度伪造技术已经对美国国家安全构成威胁，敌对势力和战略竞争对手很有可能企图利用深度伪造技术或类似的机器学习技术，创造出高度可信但却完全虚假的图片、音频和视频资料，以加强针对美国及其盟友和合作伙伴的影响渗透运动。美国国会为此已经提出了相关的法案，探讨可能的应对措施。
整体而言，深度伪造技术对国家安全甚至世界秩序都可能产生不可估量的影响，具体表现为：
2.1.1激发社会矛盾，挑战公共安全
不法分子借助易于获取的深度伪造技术，可以制作并散布真伪难辨的虚假视频，激发社会矛盾，煽动暴力和恐怖行动。
例如，2018 年印度各地共有 20 多人因为在即时通讯软件 WhatsApp上被谣传绑架小孩或涉及其他罪案而被暴力打死。深度伪造的视频内容还可能造成社会恐慌，破坏社会秩序。
例如，2018 年初美国夏威夷紧急事务管理局的一名员工因失误向公众发出关于核弹来袭的公告，短时间内引发了巨大的骚乱。
如果不法分子利用深度伪造技术发布类似虚假信息，会给信息安全治理带来极大挑战 ; 如果敌对国家或组织利用深度伪造技术进行暴力、极端和恐怖煽动，不具备辨别能力和技术的普通民众很容易被煽动，将给维稳工作和恐怖主义防控带来新的风险。
2.1.2挑拨国家关系，影响外交安全
例如，2017 年 5 月，卡塔尔的官方推特（Twitter）账号遭遇黑客攻击，并散布卡塔尔元首关于伊朗和伊斯兰教的虚假讲话内容，虽然卡塔尔政府快速澄清以正视听，但虚假内容经新闻和社交媒体大肆传播已经造成不良影响，且引发了海湾邻国的愤怒。
之后爆发的中东外交危机也被认为与此虚假信息事件有一定关系。借助深度伪造技术，类似的伪造视频等虚假信息将“如虎添翼”，将给世界秩序增加不安定因素。
2.1.3威胁国家安全，破坏国际秩序
随着深度伪造技术的发展，“深度伪造的虚假情报”或将成为继“网络战”之后又一重大国家安全威胁，不仅可用于干扰竞争国家的情报机构，甚至能制造出限制其行动范围的条件，例如通过投放深度伪造内容来误导目标国家在军事部署、科技战略、经济布局等方面做出错误的战略决策。
哈佛大学肯尼迪政府学院下属的 Belfer 研究中心发布的报告《人工智能与国家安全》指出，敌对国家和战略竞争国家的网络间谍在窃取一国的真实机密文件后，同时泄露该真实文件和一些相应的伪造文件，再利用深度伪造技术合成相应的音、视频材料来佐证相关的伪造文件，该伪造文件的可信度将极大提升，由此操纵公众舆论，影响国家政权稳定， 破坏国家安全和国际秩序。
2.2威胁个人和企业的合法权益
此外，深度伪造技术也可能给个人和企业带来人身财产损害。利用深度伪造技术可以轻 易绑架或盗用他人的身份，让人“言”所未言、 “行”所未行，达到以假乱真的效果。更进一步， 深度伪造技术可能成为实施色情报复、商业诋 毁、敲诈勒索、网络攻击和犯罪等非法行为的新工具。
例如，利用 AI 换脸技术制作虚假的色情视频，以达到污蔑或报复他人的目的；制作、散播关于商业竞争对手的深度伪造信息，损害其商誉等；借用合成的虚假内容对他人实施敲诈勒索或施加精神压力；借助深度伪造技术破解人脸识别等验证系统，非法盗刷他人支付账户、获取他人个人信息或从事其他冒名的违法活动； 深度伪造技术也给法院鉴别声音、视频等证据材料的真伪带来挑战，等等。
深度伪造的美国立法探索
如前所述，深度伪造技术的滥用风险已经引起美国国家高层的高度重视。美国众议院议长 Nancy Pelosi 的虚假合成视频在社交媒体上的广泛流传更是加剧了美国立法者对深度伪造技术的担忧。在美国 2020 年大选来临之际，美国立法者开始寻求措施，意图从根源上阻止深度伪造技术的不当利用。
在此背景下，2019 年 6月 12 日，美国国会提出《深度伪造责任法案》（DEEP FAKES Accountability Act），旨在通过限制深度伪造合成技术，打击虚假信息的传播。对于立法目的，Clarke 称，“随着 2020 年大选的临近，我们需要做好准备，防范外国竞争对手利用深度伪造技术散布虚假信息，干涉选举活动。”《深度伪造责任法案》主要内容包括：
深度伪造内容制作者具有披露义务。法案规定，利用深度伪造技术合成虚假内容放置于网络上传播，制作者应当采用嵌入数字水印、文字、语音标识等方式披露合成信息。违反披露义务的制作者或者恶意删除披露信息的行为人需承担民事责任，行为恶劣、造成严重后果的还会面临罚金、人身监禁等刑事处罚。
受害主体享有私人诉权。自然人或者法人因深度伪造内容遭受实际损害的，可以向法院申请禁令救济，或者对深度伪造内容制作者提起民事诉讼，要求其承担损害赔偿责任。在民事诉讼中，如果原告请求且有证据证明诉讼涉及个人隐私，法院应允许诉讼不公开审理。
假冒行为应包括采用深度伪造技术实施的冒充身份的行为。法案修订美国法典第 18章第 1028 节关于假冒身份的现有法律，规定利用深度伪造技术实施数字冒名顶替行为也应视为假冒身份行为。
政府应采取措施开发相关检测识别技术。法案要求政府成立深度伪造特别小组，其职责包括研究开发对包括深度伪造在内的图像、音视频操纵技术的检测识别和反制技术，为研究此类技术的其他政府部门提供行政和科学支持，与私营企业或学术机构合作开发检测识别工具等。
但是，该法案在美国也遭到了质疑和反对， 认为该法案存在部分定义不详、技术操作困难、与第一修正案存在潜在冲突等问题。
在该法案提出的第二天，美国众议院情报委员会召开关于人工智能深度伪造的听证会，公开谈论了深度伪造技术对国家、社会和个人的风险，参会专家也从技术、政策、法律和教育等不同角度给出了相应的应对措施。
2019 年 6 月 28 日， 美国国会提出了《2019 年深度虚假报告法案》（Deepfake Report Act of 2019），要求美国国土安全部（DHS）定期发布关于深度伪造技术的评估报告，是联邦和州立法者回应公众对虚假信息负面影响关切的最新努力。
此外，美国一些州也在推进相关立法工作，2019 年 7 月 1 日生效的美国弗吉尼亚州的反色情复仇修正法案，将“制作、传播虚假的裸体或性视频或图像” 以胁迫、骚扰或恐吓他人的行为也认定为刑事犯罪，即深度伪造已被视为实施色情报复的手段之一。美国的加利福尼亚州、得克萨斯州和马萨诸塞州等也在考虑出台相关法案来规制深度伪造技术。
深度伪造的应对之策
4.1鼓励研发鉴伪和溯源技术并加强对社会各界的教育宣传
随着深度伪造技术的进化，相应的鉴伪技术和溯源技术也在同步发展，以期能够迅速鉴别并可靠标记深度伪造内容及其来源，从而从传播媒介上阻止负面的虚假内容的扩散和蔓延。
但是，学术和商业界的防伪开发项目多针对特定产品而非通用的音视频，即需要针对每一种新兴的视频内容篡改技术都训练一个对应的鉴伪网络，还没有通用性的视频鉴伪网络。
正如Photo DNA（识别和屏蔽儿童色情图片的技术）技术开发者、达特茅斯学院教授Hany Farid 所说， 我们距离能够确切地识别深度伪造内容的鉴伪技术还有几十年的路要走。这意味着需要加大对通用且高效鉴伪技术的研发投入和支持力度。
此外，需要通过教育宣传等措施提升社会各界对于深度伪造问题的意识，让决策者、科技行业、学术界和用户能够清醒地意识到深度伪造技术的滥用及其危害，逐步提高用户的防范意识和鉴别能力，以批判性的眼光看待音视频资料并进行多方检索印证，在防范风险的同时为对抗性技术和鉴别技术的发展提供机会并促进深度伪造技术的妥善利用。
4.2加强研判和打击外国势力利用深度伪造技术实施的网络破坏活动
将来一旦外国机构或个人利用深度伪造技术或类似的机器学习技术实施敌对信息攻击和其他网络破坏活动，危害我国国家安全，由于该行为所具有的跨国性特点，我国的司法管辖和制裁可能受限。
因此应当加强对此类破坏行为的研判并考虑建立反制措施，如可以采取对抗性网络攻击等手段来反制和反击外国势力的敌对信息攻击。例如，美国 2019 年《国防授权法案》明确规定，美国国防部长有权在网络空间发起包括秘密行动在内的军事网络行动，包括采取对抗性网络攻击来回应网络攻击和其他恶意网络活动。
此外，还可以考虑采取经济制裁手段。例如，2016年俄罗斯被指责利用黑客攻击干预美国大选，前总统奥巴马即决定对俄罗斯联邦安全局FSB、俄罗斯情报机构 GRU和其他个人和实体实施经济制裁。
4.3按照分级分类的思路包容审慎监管深度伪造技术
技术是中立的，技术的价值观取决于使用技术的人。深度伪造技术本身并不邪恶，并非在所有情况下都会给个人、社会和国家带来重大损害和威胁，相反这项技术在教育、文创、娱乐、个人自治等诸多方面具有广泛的正向应用价值。
因此笼统地禁止该项技术，禁止制作或传播深度伪造内容并不科学，也无法真正打击不法分子，对于该技术需要细分应用情形分类管理。
所以美国国会当前针对深度伪造的立法探索就主要集中在对美国国家安全和政治选举的影响，例如美国加州已经提出法律草案禁止在投票选举前 60 日内传播明知是伪造或合成的候选人视频，除非包含视频属于伪造的免责声明。
所以对恶意或非法深度伪造内容的规制，应明确限于危害国家安全、散布淫秽色情等“九不准”内容，避免因噎废食，给引领经济社会转型的人工智能技术的发展带来意想不到的后果，削弱我国在人工智能领域的国际竞争力。对于企业利用大数据、人工智能等技术生成内容并由此获得的合法利益应予以保护。
更进一步，关于特殊情况下深度伪造内容的创造者和传播者的责任问题，一般可能涉及著作权、人格权等。例如，《民法典人格权编草案（二次审议稿）》新增“利用信息技术手段伪造等方式侵害他人肖像权”的规定，也适用于对其他人格权和自然人声音的保护；在国外，美国一些州将网络追踪、网络冒名行为作为犯罪，并立法禁止利用深度伪造技术制作、传播虚假的色情内容。著作权方面，深度伪造的图片或视频也存在版权侵权与合理使用的争议。
此外，考虑到当前行业内还没有通用的或高准确率的视频鉴伪技术，平台目前尚无能力对用户上传的或第三方的视频是否属于“深度伪造”或“自动合成”作出正确判断，通知—删除程序和过错责任已经足够，不宜要求平台对内容的来源进行判断和标注。
而是可以参考美国国会深度伪造立法草案，从源头上要求深度伪造内容的制作者和上传者对虚假的个人冒充图像和音视频的来源进行标记和披露。
曹建峰，法学硕士，腾讯研究院法律研究中心高级研究员，研究方向为互联网法律政策和人工智能、算法治理等前沿科技与法律交叉领域。
选自《信息安全与通信保密》2019年第十期
声明：本文来自信息安全与通信保密杂志社，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
