麻策律师

就在整个世界为加州《前沿人工智能模型安全法案》争吵不休之时，另一个近乎变态的人工智能法案也在酝酿出炉——AB-3211《加州数字内容溯源标识法案》于2024年8月悄悄发布。

加州AB-3211法案提议要求科技公司在人工智能生成的图像和视频的元数据中嵌入水印，这些元数据提供了文本或图像的来源、上下文和历史等基本信息。根据法案，添加到人工智能生成内容的来源数据必须包括有关内容的合成性质、生成人工智能提供商的名称、添加来源数据的时间和日期以及内容的哪些部分是人工智能生成的信息。

此外，该法案还要求科技公司开发工具，让用户评估图像或视频是否是使用人工智能生成的，并沿着显示与该内容相关的可溯源数据。这些工具还需要进行测试，以确保它们不会被滥用，将虚假的出处数据附加到人工智能生成的内容中。

基于标识常见于文生图大模型，因此也有人将其称为“文生图标识法案”。

简而言之，这个法案的要求有四点：

  • 出处数据：该法案要求在AI生成物中嵌入可溯源数据，允许AI生成的内容追溯到其来源。

  • 强制性水印：人工智能生成的内容将被要求包含水印，使其易于识别并与人类创建的内容区分开来。任何AI都必须具备这个功能，没有例外，即所有生成式 AI 系统,无论内容或规模大小,都必须包含水印，不管是OpenAI 基础模型，亦或微调的模型，还是本地的模型。‍

  • 对抗性测试：为了确保水印的鲁棒性，该法案要求人工智能生成的内容进行严格的对抗性测试。

  • 平台披露：为了配套AI标识，该法案还将要求社交媒体公司明确标记在其平台上共享的人工智能生成的内容，禁止任何平台,如 HuggingFace 或 Github，使没有标识水印的生成物可供下载。

虽然OpenAI、Adobe和微软在内的主要科技公司都表示支持该法案，认为这是遏制滥用人工智能技术和维护公众信任的必要步骤。但是也不乏大量的否定性评价，包括认为这会扼杀创新，法案中列出的严格规定可能会阻碍人工智能领域的实验和创造力，开源开发者担心立法带来的额外负担可能会减缓创新的步伐。同时法案仅有利于大公司，一些批评者认为，该法案的规定可能会不成比例地有利于大公司，而边缘化较小的开发人员和开源社区。对某些平台的豁免可能会造成不公平的竞争环境，从而有利于老牌科技巨头而不是独立创新者。另外，法案可能阻碍协作，开源社区的繁荣依赖于协作和思想的自由交流，但法规可能会为共享和构建开源AI模型创造障碍，这对推动该领域的发展至关重要。

最重要的是，大量技术人员评估认为，目前的技术创造不出一种可靠溯源标识以跟踪的方法，法案只会造成比解决问题更多的问题。

技术人员认为，立法者提出一个自己希望存在的解决方案,但技术上却是不可能实现的，这就有点像强制要求人们用快速摆动双臂来飞行。一个 基本问题是水印不起作用且容易被删除；二是文本的水印根本无效或无法标识。

事实上，人工智能生成物和人类制作物本身似乎没有大的区别，在生成式人工智能诞生之前，人类就已经开始造假了。大量的广告宣传图、逼真的绘画、photoshop的修图，拍照滤镜和直播中的面容改变，等等，均具有迷惑性，但也没有加以标识是经过调整后的图片。全面水印的推动不仅在技术上是不可行的,也是一个误导的尝试。

法案还规定，从2026年7月1日开始，此后每年要求在线平台发布透明度报告，法案还授权技术部门对违反该法案规定的行为进行具体的行政处罚，包括对故意或严重疏忽行为造成的每次违规行为处以最高50万美元的行政处罚。

事实上，早在2024年7月11日，美国相关议员就提出了《编辑和深度伪造内容来源保护完整性法案》（简称“COPIED法案”）。该法案将保护创意作者人员及其内容不被人工智能及其开发人员未经授权使用。原因是COPIED法案旨在要求人工智能产品的开发人员或提供商允许内容所有者将“内容来源信息”（“水印”）附加到其工作中，该法案将水印定义为“记录数字资产来源和历史的机器可读信息”。

根据最近消息，该加州法案可能已经被延迟。‍‍‍‍

声明：本文来自互联网法律匠，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。