近日，美国加利福尼亚州通过了两项法案，限制换脸视频的使用。其中，AB 602法案规定，如果加州市民发现有人擅自利用其图像，制作了换脸色情视频，可以向法院提起诉讼。另外，根据一家阿姆斯特丹网络安全公司Deeptrace的报告显示，AI换脸色情视频数量增长飞快，其中，韩国女偶像是主要受害群体之一。在流量排名前四的Deepfakes色情网站中，视频观看次数已经高达1.3亿。
2017年，有人在美国网站Reddit开源了AI换脸算法，又称深度伪造（Deepfakes），能利用AI技术，将视频中的人脸替换成其他的人脸，近日网上流传的新垣结衣换脸岳云鹏就是一例。此后，Deepfakes技术、工具和服务迅速发展起来。
现有专门Deepfakes色情网站，女性成最大受害者
报告显示，从2018年12月至2019年7月，网上的AI换脸视频数量几乎翻了1倍，达14,678部，其中绝大多数是色情视频，占比高达96%。
在网络流量排名前五的Deepfakes色情网站中，女性成最大受害者，换脸对象占比达100%，而在专门或大量发布了Deepfakes非色情视频的14个YouTube频道中，男性成为主要换脸对象，达61%。
YouTube频道（非色情）换脸对象中，娱乐圈、政客排名前二
在网络流量排名前五的Deepfakes色情网站中，99%的换脸对象来自娱乐圈人士，且多为美韩人士。相比之下，在14个YouTube频道（非色情）中，换脸对象的职业领域较为多元，有娱乐圈、政客、新闻媒体人、企业家等。
其中，较为知名的有美国总统奥巴马、Facebook创始人马克·扎克伯格等人。截至目前为止，YouTube上的某一换脸奥巴马视频观看数近682万次。
美韩女艺人：色情视频换脸重灾区
由于数据敏感性问题，色情换脸视频数量排名前十的对象均匿名处理。报告显示，色情换脸视频中，某英国艺人的换脸视频最多，有257部，观看数达580万次。
AI前哨站注意到，韩国女歌手成换脸重灾人群，三名韩国女歌手的色情换脸视频数量达404部，观看数共1340万次，其次是三名美国女艺人，有336部，观看数共780万次。
受害者为何多是韩国女歌手？或与韩流、女性物化等原因有关
根据报告和Deeptrace的CEO乔治·帕特里尼（Giorgio Patrini）的推文显示，中国和韩国是换脸视频的两大制作来源，中国是深受韩流影响的国家之一。
换脸视频的制作来源。图自Deeptrace的CEO乔治·帕特里尼（Giorgio Patrini）推特。
AI前哨站注意到，乔治·帕特里尼（Giorgio Patrini）的推文显示，韩国流行音乐女歌手的Deepfakes视频一直是一种“早期趋势”，不仅是在色情换脸视频，在其他类型的换脸视频也是如此，韩流的全球流行或许是导致这种趋势的原因之一。
同时，韩流中女性物化可能是另一原因。研究韩流和全球文化的南加州大学安娜堡新闻与传播学院的实践助理教授Hye Jin Lee接受外媒采访时表示，他的确怀疑是韩流女偶像的“黑粉”制作了她们的Deepfakes图像，考虑到韩流与形象息息相关（尤其是品行端正的女偶像需维护她们的声誉和形象），没有什么比玷污韩流女偶像和羞辱她们更能让（男性）黑粉更加满意的了。
韩国大学国际研究学院的博士生Xi Lin的论文显示，韩流文化中存在“物化”女偶像的现象，较高的韩流消费水平与较低的性别平等态度相关，平均而言，越关注韩流活动的人倾向于越不开放的性别平等态度。
（ 陈志芳）
声明：本文来自AI前哨站，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
