导言

2018年2月2日，在加州圣克拉拉大学举行的第一届内容管制与移除大会（Content Moderation and Removal at Scale conference）上，一些支持网上自由表达权的组织、倡议者及学术专家组成小型研讨会，讨论了在互联网平台日益强化对用户自创内容进行管制的背景下，如何使得这些管制更加透明和负责任。2018年5月7日，在华盛顿特区举行的第二届内容管制大会（Content Moderation at Scale conference）上，提出了三点原则，以此作为互联网公司在进行内容管制时应初步考虑的事项，被称为“圣克拉拉原则”（The Santa Clara Principles）。该原则指出，互联网公司应当提供必要的程序，既对内容发布者施加影响，同时确保公司内容管制指引的执行是公正、公平、无偏见以及尊重用户权利的。这些原则作为一个起点，划定了内容管制在透明性和责任力方面应达到的最低标准，未来它们还可以作为该议题领域内更多深度对话的基础。

一、数目原则

互联网公司应当公布被删帖子（posts removed）的数目，以及由于违反内容指引（content guidelines）而被永久或临时冻结（suspended）的账号数目。公布的信息至少应当包括以下方面：

1.被标记/举报的帖子和账号的总数。

2.被删的帖子和被冻结账号的总数。

3.按照所违反的规则类别，分别列出被标记的帖子和账号数目以及被删帖子和被冻结账号的数目。

4.按照内容的格式（如文本、音频、图片、视频、流媒体等），分别列出被标记的帖子和账号数目以及被删帖子和被冻结账号的数目。

5.按照标记的来源（如政府、可信的标记者、用户、不同类型的自动检测机等），分别列出被标记的帖子和账号数目以及被删帖子和被冻结账号的数目。

6.按照标记者和受影响用户的位置，分别列出被标记的帖子和账号数目以及被删帖子和被冻结账号的数目。

这些信息应当以机器可读的格式用正式的报告按季度公开发布。

二、告知原则

互联网公司应当向每一位其内容被清除或者账号被冻结的用户发送通知，告知内容被删除或账号被冻结的原因。

一般来说，公司应当向其网上社区提供关于“什么样的内容是被禁止的”的详细指引，包括被允许和被禁止的例子，以及评审员所使用的指引。公司也应当解释其自动检测系统是如何对各种类型的内容发挥作用。

当告知用户某个帖子被删除或账号被冻结的原因时，至少应包括：

1.可用以识别这条被删内容的URL、内容片段或者其他信息。

2.在内容管制指引中，被删内容所违反的具体条款。

3.这条内容是如何被检测并且删除的（它是被另一名用户、政府机构、可信的标记者、自动检测机还是其他投诉者标记出来的）。个人标记者的身份一般不予显示，然而，如果是政府机构对内容进行标记，则应当显示该机构的身份，除非法律规定不得显示。

4.告知用户可以通过何种流程，对管制决定提出申诉。

互联网公司应当对受影响的用户进行有效的告知，即便该用户的账号被冻结或者终止，他也应当能够收到通知。互联网公司也应当为标记者提供一份记录，以便查看其举报的内容以及内容管制处理的结果。

三、申诉原则

互联网公司应当为内容被删者或者账号被冻结者提供一个及时申诉的机会。申诉流程的标准至少包括：

1.人工审议，由未曾参与初次决定的评审员或评审员组成的小组进行。

2.提供一次机会，允许被评审人提交新的信息，供评审员考虑。

3.告知审议的结果，并且陈述理由，足以使被评审人理解该决定。

从长远来看，独立的外部审议流程也是用户寻求补救的一个重要方式。

四、主要参与者

* 美国公民自由联盟（American civil liberties union，ACLU）北加利福尼亚基金会；

* 民主与技术中心（Center for Democracy & Technology）；

* 电子前线基金（Electronic Frontier Foundation）；

* 新美国开放技术研究院（New America's Open Technology Institute）；

* 依琳娜·拉伊库（Irina Raicu），圣克拉拉大学马库拉应用伦理学中心；

* 尼古拉斯·叙佐尔（Nicolas Suzor），昆士兰科技大学；

* 萨拉·T.罗伯茨（Sarah T. Roberts），加州大学洛杉矶分校教育与信息研究学院，信息研究部。

* 萨拉·迈尔斯·韦斯特（Sarah Myers West），南加利福尼亚大学安嫩伯格传播与新闻学院。

报告原文下载：https://active.clewm.net/FGqyPz?qrurl=http%3A%2F%2Fqr32.cn%2FFGqyPz&gtype=1&key=f77a21597ad310beb329224fc8cb8a59f1cdf07269

声明：本文来自互联网研究前沿，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。