2024年1月31日，卡内基国际和平研究所发布《有效打击虚假信息：循证政策指南》文件。该文件是一份以证据为基础的高级别指南，提出制定“打击虚假信息”政策措施的9个政策观点，并对10种常见的反虚假信息方案进行了高级别循证评估。为政府、平台和其他机构反击虚假信息提供了较为全面且科学的依据。
《有效打击虚假信息：循证政策指南》真的能解决打击虚假信息的问题吗？
作者：乔恩·贝特曼（Jon Bateman），卡内基国际和平基金会技术和国际事务项目高级研究员
编译：奋斗小青年
全文摘要与关键词
1.评估反虚假信息措施的四个基本挑战：潜在问题难衡量，没有“成功”的统一标准，政策重合协同与冲突，缺乏对“非典型人群”社交网络影响研究
2.有关“打击虚假信息措施”的九个政策观点：
①基本共识：没有灵丹妙药
②政策制定：设定合理期望
③国家管理：多样化与平衡方法
④措施选择：长期结构性改革
⑤关注焦点：平台技术不是唯一
⑥难以摆脱：“政治性”归因
⑦最高水平：事实核查
⑧投入产出：性价比不高，结果未卜
⑨新兴技术：影响复杂，但无法改变游戏规则
3.十个案例研究：10个解决方案（支持新闻业，媒体素养，事实核查，内容标记，反宣传策略，选举网络安全，删除虚假账户，减少数据收集和定向广告，改变推荐算法）；局限性分析（经济与政治成本高，效果难评估，结构性劣势，规模化问题，市场可行性不明等）
4.评析：本报告围绕“打击虚假信息的政策措施”，通过系统的循证方法，给出了对政策现状与未来前景的清醒认识，弥合了主观感知与科学分析的差距，为国家、平台等机构制定“打击虚假信息的政策措施”提供了明确的理论与行动依据。
1 评估反虚假信息措施的四个基本挑战
虚假信息可能会引发暴力或危险行为，是全球面临的紧迫挑战。政策制定者正在寻找快速、有效方法劝阻人们不接受、不传播虚假信息。然而，在实际操作中，虚假信息很难定义、理解和衡量，更难以应对。
评估反虚假信息措施的四个基本挑战包括：
（1）潜在问题难以衡量。反虚假信息措施的评估十分复杂，涉及到多个交叉影响因素，包括：虚假信息对策实施后的影响、效果等，而这又涉及各种影响策略的有效性、所使用的媒介的作用、影响效果的持续时间以及国家层面的差异，因此，很难全面评估到反虚假信息措施的诸多潜在问题。
（2）成功可用多种方式定义。没有单一的标准或方式来理解反虚假信息行动“成功与否”，决策者须自己决定是否成功，以及衡量该措施成功的标准。
（3）政策之间的重合、协同和冲突。在现实中，应同时实施多种干预措施，须同时作出相互关联的努力。
（4）非典型人群很重要，可能会有不同的反应。许多虚假信息对策研究集中在普通人群，而非典型人群有时在社交网络中的影响力更大，而这些评估挑战没有现成的解决方案。
2 打击虚假信息的九个政策观点
基于上述问题，研究人员回顾了数百篇学术论文、分析研究、项目文献等，与学者、同行、决策者和资助者开展了一系列工作计划和磋商，邀请了具有相关领域知识的专家审查单个案例研究，还邀请了那些在反虚假信息领域有着更广泛视野的专家为整个项目提供反馈。
报告总结了有关打击虚假信息的9个主要政策观点。
2.1 打击虚假信息措施的基本共识：不存在“灵丹妙药”，或“最佳”政策选择
缺乏研究与实证。反虚假信息措施缺乏充分研究，大多数干预措施效用还不确定。例如，社交媒体标记、事实核查的措辞和呈现非常重要，而虚假信息宣传活动则取决于接受受众与可信演讲者之间的微妙匹配。
只有临时政策，没有最佳选择。任何一项政策都是针对虚假信息的唯一、紧急的解决方案，都应该谨慎对待。
2.2 政策制定者：应设定切合实际的期望
政治与商业动机+虚假信息心理需求。虚假信息是一种长期历史现象，深深植根于复杂的社会、政治和经济结构，是供需力量共同驱动的。在供给方面，一些行为者有强大的政治和商业动机参与、鼓励或容忍欺骗，而在需求方面，心理需求往往会吸引人们相信虚假叙述。
存在抑制供给和需求的可靠选择，但技术解决方案对虚假信息有较严格限制。在中短期内，有限的资源、知识、政治意愿、法律权威和公民信任限制了可能性。
2.3 国家应采用组合方法解决政策的不确定性问题
多样化+平衡。政策制定者应像投资者一样，采取多样化反虚假信息行动，同时不断学习和重新平衡。
充分的研究+有效战术行动→结构性改革。健康的政策组合将包括经过充分研究或有效的战术行动（例如事实核查和标记社交媒体内容）。但这将涉及结构性改革（例如支持当地新闻业和媒体素养），每项政策都应有一个持续重新评估的具体计划。
2.4 哪种类型措施效果更好？“长期的结构性改革”还是“当下的直接行动”
短期直接行动易受关注，但影响效果有限。尽管民主国家正实施多种不同的反虚假信息政策，但人们关注的是最切实、最直接和最明显的行动。
例如，平台、政府和研究人员经常因宣布发现或破坏外国和其他不真实的在线网络而成为头条新闻。此类行动虽有帮助，但通常影响有限。
相比之下，振兴当地新闻业和提高媒体素养的努力却鲜有关注。
2.5 “平台和技术”不能成为唯一的焦点
社交平台推荐算法。社交媒体平台有助于以各种方式助长虚假信息，例如，通过鼓励和放大误导性内容的推荐算法。
线下力量+线上线下互动的巨大影响。但数字平台与许多其他线上和线下力量并存和互动，政治精英的言论、电视等传统媒体的节目以及在值得信赖的社区成员中流传的叙事都对塑造人们的言论、信仰和行为产生巨大影响。
多领域行动互补的政策。与此同时，数字平台数量的不断增多削弱了任何一家公司打击虚假信息行动的有效性。鉴于多种声音和放大器的相互作用，有效的政策将涉及多个领域的互补行动。
2.6 打击虚假信息有时是”政治性“的
技术专家→政治中立？那些致力于减少虚假信息的传播和影响的人往往将其视为无私的技术专家，删除不真实的社交媒体信息等活动或多或少是政治中立的。
情感诉求→政治倡导？但其他努力，例如利用讲故事或情感诉求在叙事和心理层面与错误观念竞争的虚假信息运动，很难与传统的政治倡导区分开来。
“一切都是”具有政治意义的？最终，任何宣布真假的机构努力，并以权力、资源或声望支持这些声明都意味着某种权威主张，可被视为具有政治意义。
2.7 研究差距将长期普遍存在
事实核查代表了当前反虚假信息措施知识的最高水平。事实核查研究为未来其他对策研究提供了线索。
一方面，研究人员努力使事实核查成为一种普遍有用的工具，政策制定者可以相信事实核查值得投资。
另一方面，事实核查的有效性可能会因一系列高度相关、人们知之甚少的因素而有很大差异。即使在数百项事实核查研究之后，仍存在大量知识差距和方法偏见。
2.8 研究本身“性价比不高”，且结果不确定
重大投资。报告中强调的知识差距可作为未来研究路线图。填补这些空白需要研究，对人力资本、数据访问和技术等基础研究基础设施进行重大投资。
进展缓慢。社会科学进展缓慢，很少能对当前最棘手的问题给出明确答案。
耗时长且结果不确定。虚假信息研究是一个远不成熟和稳健的领域，是一项世代相传的任务，且结果不确定。
2.9 新兴技术（GenAI）的复杂影响，但不会改变游戏规则
GenAI带来的进步和变革。人工智能的快速进步使创建真实、个性化的虚假内容变得更容易、成本更低。对社会产生的影响尚不清楚。生成式人工智能可产生虚假信息，还可用来对抗虚假信息，将产生复杂影响。生成式人工智能的长期影响难以预测。关注虚假信息的政策制定者应接受复杂性并承认不确定性。
游戏规则还在”不变的人性需求“。人们相信虚假信息的意愿往往不是由内容的真实程度驱动的，而是其他因素，如重复、叙事吸引力、感知权威、群体认同和观众的心态等。
3 案例研究
评估面临的挑战是没有现成的解决方案，下面的十个案例基于两个目标而设计：一是确定更清晰的政策目标；二是利用现有的最佳信息，同时保持对许多未知的认识。
【案例1】支持当地新闻业（成本挑战）：有助于遏制新闻媒体助的虚假信息扩散，但成本挑战重大，慈善事业可提供针对性支持，长期解决方案需要政府干预和/或替代商业模式。
【案例2】媒体素养培训（成本，速度，规模，目标等挑战）：有助于人们识别虚假叙事和不可靠的新闻来源；但培训成本高且需要时间长，媒体素养培训在速度、规模和目标方面面临挑战。
【案例3】事实核查（结构性劣势）：可有效改变对特定主张的错误信念，但并不一定会导致态度或行为改变。事实核查人员面临结构性劣势，与纠正信息相比，虚假信息制造成本更低，传播速度更快。
【案例4】标记社交媒体内容（标记方式，受众反应两极化，需要新技术→扩大规模）。大的、自信的、破坏性的标签最有效，而谨慎的、通用的标签往往不起作用，但不同的受众对标签有不同的反应，且存在风险：有时会导致用户过度轻信或过度怀疑未加标签的内容。而主要社交媒体平台在很大程度上已接受了标签，但进一步扩大规模需要更好的信息共享或将人类判断与算法效率相结合的新技术。
【案例5】反宣传策略（难以触及受众，成本高，效果难评估）是通过针对使虚假声明具有吸引力的更深层次的感受和想法，反宣传策略有可能影响难以接触到的受众，成功取决于许多难以理解的因素的复杂相互作用。最好的策略会利用仔细的受众分析来选择最能引起共鸣的传播者、媒介、主题和风格，但这一过程成本高昂，成功与否难以衡量，有潜力的技术包括传达尊重和同理心、诉诸亲社会价值观以及给观众一种能起作用的感觉，通过叙述和心理层面吸引人们的真实沟通活动比单纯的事实更有效。
【案例6】与竞选和选举相关的网络安全（未落实，难防言论攻击，长期影响很小）：可防止选举系统违规行为，但其中许多做法仍未得到竞选和选举管理者的实施。选举系统本身可以合理的成本变得更加安全，但不能保证公众会认为此类系统在面对落选候选人的言论攻击时是安全的；在选举等敏感时期虽可暂时挫败外国影响者的网络行动，但长期影响微乎其微。
【案例7】国家治理、威慑与瓦化（是指通过虚假信息分化瓦解）。没有证据表明网络行动、制裁或打击能实现战略威慑。对外国平台和官方媒体的禁令具有很强的一阶效应（减少对它们的访问）；其二级后果包括目标国家对民主媒体的报复。最有力的治国工具是国家领导人先发制人地教育公众。但在世界各国家，国内虚假信息比外国影响力活动更频繁、影响力更大。
【案例8】删除虚假账户（效果难评估，成本高，必要性存疑）。检测并从平台上删除虚假陈述帐户或页面具有明显优点，但其有效性很难评估。数据表明，持续的打击能够减少不真实网络的影响，并使肇事者承担一些成本。但很少有平台实现这一目标，且需较大投资。同时，不真实的网络资产带来的威胁仍不清楚：此类网络和社交媒体更广泛地影响运营，在传播虚假信息方面可能不太有效。
【案例9】减少数据收集和定向广告（经济成本，政治成本）。据隐私保护可减少微观目标或数据驱动的个性化消息作为虚假信息工具的影响。但隐私保护明显削弱了对微观目标作用的有效性，给科技和广告公司、依赖数字广告的中小型企业带来高昂的经济成本。此外，对于缺乏其他沟通渠道的活动人士和少数群体而言，削弱这些群体的努力会增加总体政治活动成本。
【案例10】改变推荐算法（缺乏研究，市场可行性不明，有替代选项）。媒体平台既不是虚假信息的唯一来源，也不是政治两极分化的主要原因，但社交媒体算法加剧并巩固了这些平台外的动态。因此，改变推荐算法有可能改善这个问题，但尚未对此进行直接研究，且此类变化的市场可行性也不确定。主要平台针对参与度以外的其他方面进行优化将削弱其能够达到目前规模的核心业务模式。用户可通过具有公民意识的替代平台选择更健康的算法。算法生硬且不透明，用来遏制虚假信息也会压制一些合法内容。
4 评 述
4.1 采用循证方法是以一种科学的态度打击虚假信息
采用"循证"系统评价，支撑科学决策。循证是一种基于实证证据支持决策和实践的方法，是一种系统化的方法，其核心是系统评价。系统评价是一种收集、评估和综合所有相关实证研究中的证据的方法，是一种透明、重复和科学的方法，可提供高质量的证据，用于决策。系统评价的目的是提供尽可能准确的汇总结论，以便决策者能够根据证据作出准确的决策。
《有效打击虚假信息：循证政策指南》文件将指导有关国家以科学、辩证的态度对待打击虚假信息问题。具体表现在几个方面：
一是优先考虑与虚假信息问题有相当直接联系的建议，排除了难以对科技公司以间接方式影响虚假信息进行评估的反垄断执法。
二是关注的对策可以合理地受到有意义的实证研究，例如改变平台作为中介的法律责任，并没有考虑建立国际反虚假信息规范的外交努力。
三是力求涵盖各种各样的干预措施，包括政府、私营部门和公民社会可实施的行动；战术措施和结构性改革；以及弹性、破坏和威慑等多种变革理论。
4.2 文件为政府、平台和其他机构反击虚假信息提供了依据
《有效打击虚假信息：循证政策指南》确定的十个案例研究主题，每个案例研究都定义了干预，给出了具体用例。
从关于十种不同政策干预措施的实证研究和现实数据中提炼出核心见解，包括支持本地新闻业、媒体素养教育、事实核查、算法调整和反宣传运动等。
对于每个案例研究，其目标是让政策制定者对成功的前景有一个明智的认识，从而弥合科学理解和感知到的行动需要之间的差距。该文件为政府、平台和其他机构反击虚假信息提供了依据。
4.3 文件提出的对策尚有待逐步完善和发展
《有效打击虚假信息：循证政策指南》审查了一些重要的、普遍提出的政策构想，但并不全面，没有研究以下几个重要类别的长期的、大规模的变化。
一是政治机构可以尝试履行更强的守门职能，涉及政党初选、选区重划过程和竞选资金制度的改革。
二是科技平台需要更多的激励和协作来遏制虚假信息，涉及新的监管、收入的多样化和市场力量的削弱，使用户、广告商、活动家和其他人能够在主要平台上提供检查。
三是公众需要更多的鼓励探求和重视真理，信任诚实的机构和人物，涉及到解决公众的疏远、恐惧和愤怒的多方面根源，如地方社区建设的努力、经济前景的改善以及种族不满、冲突等问题。这些问题都是难以评估的，都有很大潜力帮助对抗虚假信息。
此外，研究结果也具有一定局限性。《有效打击虚假信息：循证政策指南》文件中称，是针对“民主国家”有效打击虚假信息的指南，但各国、各地区情况各异，干预措施的可行性和影响力因地而异，不可能普遍适用。美国对世界领先的社交媒体平台拥有巨大的影响力，在国家层面上，拥有强大的独立媒体。这些特点决定了在美国行得通，而其他国家则必须考虑到自己的国情。但正如文件中所述，打击虚假信息的努力将是一段漫长的黑暗之旅，须摸索前行，逐步完善和发展。
声明：本文来自认知认知，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
