从《互联网信息服务深度合成管理规定》看深度合成技术及其治理

2023年1月10日，我国首部深度合成领域的专门法规——《互联网信息服务深度合成管理规定》（“《深度合成管理规定》”）正式施行。随着ChatGPT、AI换脸等逐步走进大众的生活，深度合成技术及其应用或将迎来又一轮发展高潮。然而，技术发展的另一面是深度合成技术遭到了一些人员的滥用，这些人有的利用深度合成技术制作、发布违法信息，有的通过深度合成实施诈骗，造成了人们的人身财产损失。如何正确认识深度合成及其法律风险，并对其进行有效治理，是包括中国在内各司法辖区决策者、研究者所共同关注的前沿问题。我国《深度合成管理规定》的出台既是对当前乱象的回应，也是国家对未来网络治理路径的探索。

一、何为深度合成？

深度合成最初通过以明星为“主角”的换脸视频走入公众视野，长期以来以AI换脸为实质的深度伪造成为了深度合成技术的代名词。事实上，AI换脸绝非深度合成技术的唯一应用形式，该技术还可应用于人脸生成、语音合成等诸多领域，并逐渐向全身合成、数字虚拟人等方向发展。此次公布施行的《深度合成管理规定》中也明确深度合成技术是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，规定亦对深度合成技术的细分类型及其应用场景进行了非穷尽式列举，除人脸生成与替换为代表的图像、视频内容中生物特征的生成与编辑这一最为著名领域外，基于特定算法的文本、语音、非语音音频、图像视频中非生物特征信息及数字人物、虚拟场景等的生成与编辑均被被纳入《深度合成管理规定》的其范围。

无论是技术进路还是法规进路，对技术的规制均须建立于对其原理及特性的充分理解之上。一般认为，深度合成技术的基础包括生成对抗网络（Generative adversarial networks，“GAN”）、卷积神经网络（Convolutional neural network，“CNN”）、循环神经网络（Recurrent neural network，“RNN”）等技术。其中，GAN是得到学界与监管者较多关注的一项。与单链条的传统深度学习网络相比，其核心思想来源于博弈论中的“零和博弈”，包括一个生成模型和一个判别模型，生成模型的任务是通过神经网络的学习与训练输出结果，判别模型则专注于判断输出结果是否“真实”。这两个模型一起进行对抗训练：生成模型产生一张图片去欺骗判别模型，然后判别模型去判断这张图片是真是假。在“对抗—辨别”模型的应用下，“深度伪造”视频等产物的“真实性”被大幅度提升，不仅是肉眼，部分专用检测技术甚至都难以鉴别其真伪。

换言之，基于对遍布互联网的海量样本的学习与双网络持续性对抗训练，GAN在输出足以以假乱真的深度合成作品的同时，还能实现自我升级进而应对潜在的检测机制。这一特性使其成为未来深度合成技术进一步迭代升级的关键，也使监管者几乎不可避免地陷入“道高一尺，莫高一丈”的尴尬怪圈，这也正是当下对深度合成技术规制中的重点、难点与热点之一。[1]

二、深度合成技术的规制必要性

尽管面对新兴技术发展，应当秉持“技术中立”的原则，但随着深度合成技术的迭代升级及其进一步的广泛应用，技术滥用的问题开始出现并对社会秩序造成一定不良影响，使得国家的干预与引导变得必要。

随着深度合成技术的广泛应用，其为公民权利保护带来了全方位挑战。例如，通过深度合成技术，可凭空制造大量以任何人为“主角”的色情作品。一项2019年的统计指出，目标网站的深度合成视频数量在七个月间增长了84%，对公民个人尤其是女性的人格权利造成了重大了威胁。[2]实际上，不仅是AI换脸等图像、视频领域的应用，文本、音频、虚拟场景等生成与编辑技术的应用亦为公民的肖像权、隐私权、名誉权、“声音权”及个人信息等带来了类似的风险。

此外，尽管该技术本身通常并不直接威胁公民的财产权，但目前利用深度合成作品通过诈骗、勒索等违法犯罪的案例已屡见不鲜。有报道显示，一些电商平台以0.5元每份的价格出售匹配了身份信息的人脸数据，[3]不法分子可轻易获取该类数据并利用深度合成技术制作出模拟真人面部表情的高度拟真的人脸模型，用于实施违法行为。南京警方此前公布的一起案件中，嫌疑人在盗用他人QQ账号及面部信息后，通过“AI换脸”在QQ视频通话中以冒充号主向其同学“借钱”的方式实施诈骗，一度引起全网热议的“假靳东”事件，也是通过类似手段骗取被害人的信任。

三、我国的深度合成治理

面对深度合成技术这把双刃剑，全球主要司法辖区均出台了相应政策对其进行规制。由于法律传统、政策偏好及社会环境等因素的差异，不同法域的政策也显现出各自特点。有研究者对美欧主要政策文本进行分析后发现，美国相关政策中出现频次最高的三个词是individual、person及act，表明其较为关注技术对个人所造成的威胁，严格治理危害个人安全的深度合成应用；欧盟最为突出的3个词分别是 act、data与cybersecurity， 显示出欧盟通过对通信技术、数据安全、网络安全的治理以达致对深度合成应用进行规制的政策倾向。[4]我国对深度合成技术的规制在前期以数据安全和网络安全的治理为主，《深度合成管理规定》的出台开启了对深度合成技术全方位治理的时代。

（一）《深度合成管理规定》出台前的规制体系

《深度合成管理规定》出台前，已有诸多规范性文件对算法、深度合成技术的应用作出了相应规定。具体总结如下：

除上述专门针对深度合成技术的规定外，其他法律法规如《民法典》中也有“不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权”等相关条款。

（二）《深度合成管理规定》下的规制体系

尽管我国此前已有诸多相关规定，但一方面，前述文件适用范围相对狭窄，无法有效覆盖深度合成技术快速扩张的适用领域；另一方面，由于并非专门针对深度合成技术的规范性文件，对于有关基础性概念的定义、相关主体的权利义务，以及针对性的管理制度、法律责任等均未能作出明确规定。《深度合成管理规定》被认为是我国在深度合成技术治理方面的一部更具针对性、系统性与专业性的“专门法”，阐明了深度合成技术的定义，明确了深度合成服务所涉及的各方主体及其对应义务，厘清了监管主体及其相应管理制度，还对法律责任进行了规定，体现了多领域、全流程的监管思路。下表对《深度合成管理规定》中各主体的重点法律义务进行了总结。

《深度合成管理规定》根据目前深度合成技术的最新发展，对服务提供者、技术支持者、使用者等相关主体的义务进行了相当详尽的规定。此外，我们还注意到，对比此前的征求意见稿，《深度合成管理规定》正式文本有一些值得期待的变化，表明我国针对深度合成技术应用的监管思路向更加科学化、精细化的“严而不厉”模式转变，有助于新技术的发展。例如《深度合成管理规定（征求意见稿）》第十五条规定，特定深度合成信息内容未进行显著标识的，应当立即停止传输。而在此次公布施行的正式版本中，该条被删除，而针对深度合成作品传播中的常见风险，新增了“任何组织与个人均不得采用技术手段删除、篡改、隐匿本规定第十六条和第十七条规定的深度合成标识”的条款（《深度合成管理规定》第十八条）。这既与《互联网信息服务管理办法》相协调，也体现了监管者对深度合成技术的更深入理解。

（三）尚待完善：面临挑战的著作权法律框架

当前深度合成规制体系下，立法者主要是从保护个人权利、数据安全与网络安全的角度制定了相关规定。但除此之外，深度合成技术的应用大多会形成各种形式的“作品”，这种作品如何与著作权法项下的作品相衔接，还是一个尚待解决的问题，需要法律规定的进一步完善。

深度合成技术及其作品具有两大特征，其一，深度合成技术就其性质而言归属于人工智能技术；其二，深度合成作品的生成往往需要多种“原材料”。因而，人工智能“作品”的著作权归属及“原材料”与深度合成作品间的著作权、邻接权争议也成为当前深度合成技术应用中对现有著作权规则的主要挑战。

人工智能“作品”的著作权归属早已成为近年来的热点话题之一。在2019年深圳市腾讯计算机系统有限公司（“腾讯”）诉上海盈讯科技有限公司侵害著作权及不正当竞争纠纷案——即著名的“人工智能作品纠纷第一案”中，法院认为“Dreamwriter软件的自动运行并非无缘无故或具有自我意识，其自动运行的方式体现了原告的选择，也是由Dreamwriter软件这一技术本身的特性所决定”，因而认定由原告腾讯开发的Dreamwriter人工智能软件生成的文章属于著作权法所保护的文字作品，且属于原告主持创作的法人作品。[5]而在同年审结的菲林律师事务所（“菲林律所”）与北京百度网讯科技有限公司著作权权属、侵权纠纷上诉案中，法院则未将原告菲林律所借助威科先行平台生成的可视化分析报告认定为文字作品，理由是“该分析报告并未传递软件研发者（所有者）的思想、感情的独创性表达……同理，软件用户仅提交了关键词进行搜索，应用“可视化”功能自动生成的分析报告亦非传递软件用户思想、感情的独创性表达”。[6]两相比较，可见这组结果迥异的裁判依据所体现的共同逻辑，在于人工智能创作是否体现了用户的独创性。随着深度合成等人工智能技术的迭代升级，独创性的判断标准会否因此产生潜移默化的变化，进一步地，在更远的未来随着技术的进步作品著作权会否直接归属于强人工智能系统，都是值得观察的命题。

深度合成作品还涉及“原材料”与所生成作品间的著作权、邻接权争议。以视听作品的表演者权为例，由于深度合成作品往往涉及对原表演者形象的替换从而实现与原表演近乎无异的表演效果，现有的“表演”概念——现场表演与机械表演已很难涵盖这种“虚拟表演”形式；同时，该类作品应当如何署名，应如何准确认定保护表演形象完整权中“歪曲”的意涵，现行表演者信息网络传播权在新技术条件下会否因垄断性过强而阻碍深度合成技术的应用，均是广泛争鸣却又尚无定论的疑难问题。[7]

四、结语

对新技术的治理，既不可放任其野蛮生长，也不应一刀切地一禁了之。尽管深度合成技术尚在起步阶段，《深度合成管理规定》已作为我国继《互联网信息服务算法推荐管理规定》后第二部算法类的专门规定于今年正式实施，足以见得国家对该领域的重视。但应当注意的是，监管并不等于打击，而是为技术的应用划定“底线”与“红线”，促进整个行业有序发展。从对《深度合成管理规定》内容的梳理我们可以看到，相较于事后规制，其更强调引入全环节、多主体的全流程规制措施，以促进技术能向上向善发展。正如有的学者所说，《深度合成管理规定》出台是网络内容治理由结果管理迈向行为管理的重要一步[8]，相信未来我国对新兴技术领域的法律制度构建会更多的通过全流程合规管理的方式予以引导。

[1] 参见王禄生：《论“深度伪造”智能技术的一体化规制》，《东方法学》2019年第6期，第59页。

[2] 参见《DeepFakes=假货制造机？一文告诉你深度伪造技术的发展现状！》，载搜狐网https://www.sohu.com/a/377857544_115128。

[3] 《利用信息网络侵害肖像权的案件攀升 AI“换脸”有危险》，载央广网百家号https://baijiahao.baidu.com/s?id=1679359468656282643&wfr=spider&for=pc。

[4] 赵雪芹，李天娥，胡慧慧：《国外深度伪造技术政策文本分析与启示——以美国、 欧盟为例》，《农业图书情报学报》2022年第9期，第64页。

[5] （2019）粤0305民初14010号

[6] （2019）京73民终2030号

[7] 参见何炼红，付耀：《深度仿冒技术下表演者权制度的反思与完善》，《科技与法律》2022年第4期，第56-57页。

[8] 《划定深度合成服务“底线”“红线”》，https://share.gmw.cn/wlaq/2023-01/11/content_36294041.htm。

大成数据保护团队

邓志松 律师

大成北京

专业领域：数据与隐私保护竞争与反垄断、公司与并购、跨境投资与贸易

电子邮箱：zhisong.deng@dentons.cn

戴健民 律师

大成上海

专业领域：数据与隐私保护、竞争与反垄断、公司与并购、生命科学与医药

电子邮箱：jianmin.dai@dentons.cn

本文源自：大成数据保护团队

感谢Cathy/Nick对本文的贡献

声明：本文来自个人信息与数据保护实务评论，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。