据美国全国广播公司（NBC）报道，谷歌和必应等流行搜索引擎中的深度伪造色情视频正在泛滥，不法分子通过SEO和广告投放等方法将将深度造假色情内容置于搜索结果顶部，攫取大量非法收入。
这些深度伪造色情视频通常是“换脸视频”，即将真实女性（通常是名人）的面孔叠加到成人艺人的身体上。随着生成人工智能技术的进步，现在深度伪造色情内容黑市正在蓬勃发展，并可通过谷歌搜索快速变现。
在一次测试中，NBC新闻关闭了安全搜索，然后将36名女性名人的名字与“深度伪造”、“深度伪造色情”和“伪造裸体”等搜索词相结合进行搜索，结果发现Bing在热门结果中返回了35个深度伪造视频链接，而Google则给出了34个。必应甚至还发布了“迪士尼频道某青少年女演员的假裸照”，该演员似乎未成年。
谷歌发言人表示理解“这些内容对于受害者来说是多么痛苦”，并且正在“积极努力为搜索提供更多保护”。例如，谷歌正“积极”设计“排名系统”，以避免“意外的有害内容”震惊用户。
目前，受害者从谷歌搜索结果中删除未授权深度伪造色情内容的唯一方法是亲自或通过“授权代表”提交表格。该表格要求受害者满足三个要求：表明他们在深度伪造视频中“可识别地被描绘”；“相关图像是假的，并且错误地将她们描述为裸体或处于露骨的性场景”；并且这些图像未经他们同意就被传播。
虽然这为受害者提供了删除内容的渠道，但专家认为搜索引擎需要采取更多措施来有效遏制在线深度伪造色情内容的泛滥。
深度伪造色情内容正越来越多地影响到普通人，甚至儿童，而不仅仅是名人。去年6月，儿童安全专家发现了数千张人工智能儿童深度伪造色情图片在网上交易，大约在同一时间，美国联邦调查局警告说，人工智能生成的深度伪造图片在性勒索案件中的使用正在增加。
非自愿的深度伪造色情内容不仅仅在网上黑市上进行交易。去年11月，新泽西州警方对高中青少年使用人工智能图像生成工具制作并分享女同学的假裸照展开调查。
由于科技公司似乎迟迟无法阻止深度伪造内容泛滥，美国一些州已经通过了法律，将传播深度伪造色情内容定为犯罪行为。去年7月，弗吉尼亚州修改了现行法律，将报复性制作和传播色情内容定为刑事犯罪，包括“制作深度伪造视频或图片”。10月，纽约通过了一项专门禁止深度伪造色情内容的法律，对违规者处以1000美元的罚款和最高一年的监禁。美国国会还提出了立法，对传播深度伪造色情内容的行为进行刑事处罚。
NBC新闻还指出，除了搜索引擎外，谷歌的Play应用商店也托管了一款制作深度伪造色情内容的应用程序，这表明谷歌阻止深度伪造图像的措施可能存在漏洞。
谷歌表示将很快加强针对Play商店中包含人工智能生成的受限内容的应用程序的政策。1月31日生效的生成式人工智能政策将要求所有应用程序遵守开发者政策，禁止人工智能生成受限内容，包括欺骗性内容和与剥削或虐待儿童有关的内容。
微软发言人在接受Ars采访时表示，去年8月，微软更新了Bing搜索问题报告流程，将“深度伪造”中未经同意的亲密图像(NCII)纳入其中，因为它已成为“重大问题”。与谷歌一样，微软允许受害者通过提交网络表单的方式从搜索结果中删除深度伪造内容，并表示任何NCII的共享都是“对个人隐私和尊严的严重侵犯，会给受害者带来毁灭性的影响”。
微软总裁布拉德·史密斯(BradSmith)过去曾表示，在人工智能带来的所有危险中，深度伪造最让他担心，但利用深度伪造技术的“外国网络影响力行动”似乎比深度伪造色情更让他担心。
参考链接：
https://www.nbcnews.com/tech/internet/google-bing-deepfake-porn-image-celebrity-rcna130445
声明：本文来自GoUpSec，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
