尽管恐怖主义行为发生在现实世界中，但它们在网上获得了某种“来生”。像最近克赖斯特彻奇枪击事件这样的案例，随着支持者们把它们上传到任何他们能接触到的媒体平台上而激增。欧洲的立法者对此已无法容忍，今年，他们希望制定新的法律，要求像Facebook和谷歌这样的大型科技公司对他们平台上的任何与恐怖主义有关的内容承担更多责任。

2018年9月，作为对ISIS宣传活动蔓延的回应，欧盟首次提出这项立法。专家表示ISIS的宣传助长了进一步的袭击。它涵盖了招募材料，如展示恐怖组织的实力、指导如何实施暴力行为以及任何美化暴力本身的内容。

这项立法可能意味着科技公司将被罚款数百万美元。

该立法的支持者称，社交媒体是恐怖分子招募策略的重要组成部分。“无论是尼斯袭击，还是巴黎巴塔克兰袭击，还是曼彻斯特袭击……他们都与在线极端主义内容有直接联系，”反极端主义项目（CEP）高级顾问露辛达•克雷顿说，该项目是一个帮助制定法律的社会团体。

新法要求社交媒体平台在通知发出后一小时内删除任何与恐怖主义相关的内容，并要求他们使用过滤器以确保其不会重新上载，如果他们在这些环节中出现问题，则允许政府对公司处以其全球年收入的4％的罚款。对于Facebook这样去年收入接近170亿美元的公司来说，这可能意味着高达6.8亿美元（约合6亿欧元）的罚款。

该立法的倡导者表示，这是一套旨在防止在线极端主义内容变成现实攻击的常识性提案。但包括互联网自由智库和大型科技公司在内的批评者声称，该立法威胁到自由和开放互联网的原则，并可能危及反恐组织正在开展的工作。

这些提案目前正在欧洲议会委员会审议中，因此在立法成为法律之前可能会发生很多变化。双方都希望在允许言论自由和阻止极端主义内容在网上传播之间找到平衡点，但他们对这种平衡点所处的位置有着截然不同的看法。

为什么需要立法？

与品牌商品一样，恐怖分子利用社交媒体来宣传自己。ISIS等组织利用网络平台在全球范围内煽动激进分子。这些人可能会亲自加入该组织的行列，或者在自己的国家发动恐怖袭击以支持ISIS。

在ISIS的鼎盛时期，它有一套极其有效的社交媒体策略，既让敌人感到恐惧，又招募了新的支持者。2019年，该组织在中东的实体存在几乎被完全消除，但该法案的支持者辩称，这意味着更有必要实施更严格的网络规则。随着该组织实体力量的削弱，网络上的思想之战比以往任何时候都更为重要。

“在过去18个月或两年左右的时间里，每一次攻击都有网络方面的内容。要么煽动，要么在某些情况下提供指导，或者颂扬，”英国外交官、欧盟安全事务专员朱利安•金（Julian King）在《卫报》首次提出这些法律时表示。

金一直是欧盟新立法背后的推动力量。他说，网络材料使恐怖分子“自我激进化”的频率越来越高，显示了拟议法律的重要性。

为什么是一小时？

一小时内的移除是该法案提出的科技公司的两项核心义务之一。

根据提案，每个欧盟成员国将指定一个所谓的“主管当局”。该机构的具体运作方式由每个成员国决定，但立法机构表示，他们应对标注有问题的内容负责。这包括煽动恐怖主义的视频和图像，为如何实施袭击提供指导，或以其他方式促进对恐怖组织的参与度。

一旦内容被识别，该机构将向承载该内容的平台发出删除命令，该平台可以删除该内容或禁用欧盟内的任何用户的访问。无论哪种方式，都需要在发出通知后一小时内采取行动。

克雷顿表示，这是一个严格的时间限制，但快速删除内容对于阻止其传播至关重要。

克雷顿说，该组织的研究表明，如果内容被保留超过一个小时，“其浏览量会增加十倍。”尽管这项研究主要集中在YouTube上，但该法案将适用于所有社交媒体平台的相同时间限制。从Facebook和Twitter这样的网站，到较小的网站，如Mastodon，甚至是Gab。

这项义务类似于已经存在的自愿规则，鼓励科技公司在一小时内删除执法机构和其他受信任机构标记的内容。

不过，新的功能是增加了一个法定的上传过滤器，理论上可以阻止同样的极端主义内容在被标记和删除后被不断地重新上传——尽管这些过滤器在过去有时很容易被绕过。

“令人沮丧的是，（极端主义内容）已经被科技公司标记，它已经被删除，但它会在一两天或一周后重新出现，”克雷顿说，“这种情况必须被阻止，这正是这个立法的目标。”

克雷顿及其同行提出的过滤器将使用软件为任何极端主义内容生成一个被称为“哈希”的代码，当它被人类管理员识别出来的时候。这意味着将来上载的任何内容都可以根据这个哈希数据库进行快速检查，如果找到匹配，就会被阻止。

克雷顿说，像这样的软件在阻止网上虐待儿童内容的传播方面发挥了重要作用，类似的方法也可以用于极端主义内容。

但是，识别极端主义内容与识别虐待儿童内容并不完全相同。没有合法使用描述虐待儿童的视频，但一些极端主义内容可能具有新闻价值。例如，在最近的克赖斯特彻奇枪击事件之后，YouTube的审核团队不得不对枪手的镜头进行手动重放，以确保使用这些镜头的新闻报道不会被意外屏蔽。

可能产生什么问题?

批评者说，上传过滤器可以被政府用来审查公民，并且积极地删除极端主义内容可能会阻止非政府组织记录世界上饱受战争蹂躏的地区的事件。“我们并不认为政府有权强迫公司以这种方式安装技术。”批评者还认为，目前的自愿措施足以阻止恐怖分子在线流动。他们声称大部分恐怖主义内容已经从主要社交网络中删除，并且用户必须不遗余力地在较小的网站上查找内容。

然而，克雷顿表示，无论规模大小，每个社交网络都应遵循相同的标准，并且这些标准应该以民主方式决定。目前，每个社交网络都有自己的内部工具和流程来调节内容，而关于这些工具和流程的公开信息非常少。“每个科技公司基本上都在应用并遵守自己的规则，”克雷顿说。“我们没有透明度。”

接下来会发生什么？

该法案目前正在欧洲议会审议中，其确切措辞可能还会改变。在发布之时，立法的领导委员会将于4月1日对其关于条例草案的报告进行表决。在那之后，它必须经过三部曲阶段——包括欧盟委员会、欧盟理事会和欧洲议会就该法案的内容进行辩论——才能最终由欧洲议会投票成为法律。

但由于欧洲议会任期和英国脱欧等因素影响，虽然可能会在年底前进行最终投票，该法案能否通过仍然未定。

（供稿者：苏 伟  编辑：袁 媛）

原文地址：

https://www.theverge.com/2019/3/21/18274201/european-terrorist-content-regulation-extremist-terreg-upload-filter-one-hour-takedown-eu

声明：本文来自北邮互联网治理与法律研究中心，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。