2024年是备受关注的“全球大选年”，由人工智能特别是生成式大语言模型带来的虚假信息活动叠现，成为日趋白热化选举进程面临的新挑战。
2024年5月9日，瑞士日内瓦安全政策中心（GCSP）网络安全部门负责人加兹门德·胡斯卡伊（Gazmend Huskaj）撰文《未来选举与人工智能驱动的虚假信息》（Future Elections And Ai-Driven Disinformation），提出了人工智能驱动虚假信息行动的九种策略，并分析比较了人工的虚假信息活动、具有数百万和数十亿令牌能力的人工智能活动，在速度、效率、内容生成和适应性方面的能力区别。
文章展示了由数十亿令牌能力的大语言模型驱动的虚假信息活动，及其近实时的大数据和复杂场景处理能力（速度和效率明显优于人类行动）。因此建议政府和学术界必须合作制定对策，以打击人工智能驱动的虚假信息活动。
人工智能引发虚假信息泛滥将如何改变选举认知？
编译：大林
全文摘要与关键词
1.人工智能驱动的虚假信息活动：AI 数字工具-理解行为、预测行为、影响行为
2. 人工智能传播虚假信息的九种策略：传播“热爱”情绪；传播“仇恨”情绪；传播“恐惧”情绪；传播“骄傲和自负”情绪；传播“沮丧和自我贬低”情绪；传播“徒劳”情绪；持续审问；快速打击；假借名义
3. 人工智能处理能力呈指数化上升：AI模型已达到数百万/十亿量级的令牌（token）
4. 人工智能虚假信息活动的潜在能力对比：
①行动规模和精度（AI能力>人类能力）
②速度和适应性（AI能力>人类能力）
③内容创建和多样性（总体：AI能力>人类能力）仅在可信度与模拟人类情感方面，AI模型与人类表现相当
④对公众舆论和信任的影响（数十亿令牌的AI>数百万令牌的AI）
5. AI操纵选举的虚假信息活动场景虚构（基于九种具体策略）
6. 结语：虚假信息活动技术能力不断提升，已在多个维度超越人类能力，其快速精准的适应性可更好地应对不断变化的环境，不仅可操纵人类的感知，还将对信息资源、通信系统、供应链、等国家关键基础设施产生巨大影响。
“将机器人和巨魔结合使用”，正成为最有效的计算宣传形式”。威胁行为者利用算法、自动化和人工干预，有目的地在社交媒体网络上传播误导性信息。（巨魔：比喻在互联网上为吸引关注或捣乱故意留下激怒他人言论的人）
AI 数字工具：理解行为、预测行为、影响行为。最近的研究大大提升了人们对数字行为分析的理解。例如，“基于计算机的人格判断比人类更准确”的研究证明，算法评估在人格判断方面的准确性可超越人类；“挖掘大数据获取模式并预测现实生活中的结果”的研究进一步完善了这一观点，表明了大数据在揭示行为模式和预测现实生活事件方面的潜力；此外，“心理定位是数字大众说服的有效方法”（Psychological Targeting As an Effective Approach to Digital Mass Persuasion）”一文深入探讨了如何利用数字平台进行有针对性的说服传播。总之，这些研究凸显了数字工具在理解和影响人类行为方面日益增强的能力。
亟需预测AI驱动的虚假信息活动。这些影响人类行为的能力也具有重大影响，特别是在选举背景下，人工智能等技术的进步，其操纵信息、针对特定目标人群和影响公众认知的能力将变得更加强大，这凸显了了解和预测更复杂的AI驱动的虚假信息活动在未来选举中的影响的紧迫性。这种演变可能会带来更具破坏性的影响。
2 人工智能传播虚假信息的九种策略
人工智能传播虚假信息可能采用的九种策略分别如下：
（1）传播“热爱”情绪
涉及推广能培养对某项事业或团体的强烈亲和力、忠诚度或爱国主义内容。通常涉及积极的虚假信息，营造一种联系或忠诚感。
（2）传播“仇恨”情绪
这种策略侧重于煽动对特定群体、种族或国家的仇恨或愤怒。包括散布虚假信息以加剧种族紧张局势或制造敌意。
（3）传播“恐惧”情绪
传播可引发恐惧或恐慌的虚假信息。例如，散布夸大威胁或捏造危机的谣言，以制造紧迫感或恐惧感。
（4）传播“骄傲和自负”情绪
涉及奉承或使抬高目标群体自尊心的网络活动。虚假信息被用于使一个群体自感优越，操纵他们的感知和行动。
（5）传播“沮丧和自我贬低”情绪
与前述方法相反，这种方法旨在削弱目标群体的信心或自尊。通常涉及散布贬低或羞辱目标群体的虚假叙述。
（6）传播“徒劳”情绪
这种方法散布虚假信息，让目标受众觉得反抗或异议是徒劳的，助长了对某些问题或行动的绝望或冷漠情绪。
（7）持续审问
这种策略涉及在各种平台上反复传播相同的虚假信息或叙事。这种重复强化了其被接受为“真理”的可能。
（8）快速打击
这种方法是用大量虚假信息快速轰炸受众，旨在混淆视听，使其难以进行批判性分析和反应。
（9）假借名义
这涉及伪装成不同的实体或团体开展网络行动，旨在误导信息来源或诋毁被冒名的实体。
3 人工智能处理能力呈指数化上升
计算模型复杂度的基础——“令牌”（token），是计算文本长度的基本单位。例如，在英语中，一个单词大约是1.3个令牌，而在西班牙语和法语中，一个单词大约是2个令牌。GPT-3.5可以“记忆”4,096个令牌，大约是3,000个英语单词。2023年11月OpenAI发布的GPT-4 Turbo，可以“记忆”128,000个令牌，约合93,750个单词（相当于300多页文本）。
开发具有数百万/十亿令牌的AI模型。具有数百万令牌能力的AI模型的想法源于2016年美国大选期间的网络虚假信息活动。整个活动由成千上万的社交媒体帖文组成，包括针对民主党全国委员会（DNC）网络攻击造成电子邮件数据泄露，据信其单词量为数百万。
4 人工智能虚假信息活动的潜在能力
以下讨论分析了基于人工、具有数百万和数十亿令牌的AI实施虚假信息活动的能力。
4.1 行动规模和精度
基于人类和人工智能实施的虚假信息活动在规模和精度方面有何不同？人工智能是否能够根据目标的在线行为和心理特征更有效地定位目标？
规模（自动化能力，AI>人类）
人类活动：规模很大，但人力资源从根本上限制了活动数量和涵盖的主题范围。
AI活动：特别是那些利用数百万令牌的活动，由于其实现了自动化，规模显著增大，也能够管理更多的活动，覆盖更广泛的主题。具有数十亿令牌的AI活动，规模将进一步扩大，可同时执行多样性活动，超越人类和不太复杂的AI系统。
精度（深度了解趋势和行为，AI>人类）
人类活动：精度适中，依赖于实施者对社会和政治背景的理解，但往往缺乏深入的个性化。
AI活动：具有数百万令牌的AI活动，通过分析大规模数据集以识别趋势并有效针对特定群体定制消息，从而提供更高的精度。具有数十亿令牌的AI活动的精度可达到非凡水平，展示了其对复杂行为和趋势的细致理解。
总体而言，AI驱动的活动为内容创建提供了更高的精确度，最复杂的AI可实现最高水平的细致内容。
目标定位（个性化定位能力，AI>人类）
人类活动：通常针对更广泛的人口和心理特征，在超个性化方面效果较差。
AI活动：具有数百万令牌的AI活动通过分析在线行为和心理特征，目标定位能力较强。在拥有数十亿令牌的情况下，最先进的AI可以利用先进的算法创建高度个性化的内容，在个性化定位方面表现出色。这两种AI系统在定位方面都优于人类操作，其中更先进的AI系统尤其擅长制作高度个性化的信息。
随着人工智能在虚假信息活动中的复杂程度不断提高，活动规模、精度和有效性也相应提高，尤其是根据个人的在线行为和心理特征锁定目标的能力。
4.2 速度和适应性
与人工相比，人工智能虚假信息活动的速度和适应性如何？人工智能能否根据新趋势和反制措施实时做出响应并调整其策略？
适应性和策略变化（战略灵活度和捕捉人类行为，AI>人类）
人类活动：对新信息和不断变化环境的适应速度较慢，通常采用的战略较为僵化，缺乏活力。
AI活动：具有数百万令牌的AI活动适应性更强，能够根据数据趋势修改策略。然而，它可能无法完全捕捉人类行为的复杂性。具有数十亿令牌的最先进AI具有很强的适应性，能够根据对新兴趋势和人类细微行为的综合分析实时修改策略。
定位和个性化（颗粒度层面，AI>人类）
人类活动：依赖于人类的直觉和可用数据进行定位，可能不够精确。
AI活动：具有数百万令牌的AI基于数据驱动的方法提高了定位能力，但仍可能缺乏深度个性化。相比之下，具有数十亿令牌的AI在针对性和个性化方面表现出色，能够在更细粒度层面，根据目标偏好和行为定制内容和策略。
对策响应（预测且反制，AI>人类）
人类活动：通常在事后作出反应。
AI活动：具有数百万令牌的AI可更快确定对策，但其反应可能并非最有效。具有数十亿令牌的AI，在识别、预测和反制措施方面效率极高，而且往往是主动出击。
总之，人工智能驱动的活动，尤其是具有数十亿令牌的活动，在速度、效率、适应性和复杂性方面比人类操作的活动更具显著优势，对民主进程和国际关系具有潜在影响。
4.3 内容创建和多样性
人工智能创建的内容在复杂性、可信度和多样性方面与人类创建的内容有何不同？人工智能是否生成更有说服力的假新闻、深度伪造或其他形式的误导性信息？
复杂性（速度和质量，AI>人类；模拟人类情感，AI与人类旗鼓相当）
人类活动：受到个体知识和偏见的限制，尽管能够理解细微的人类情感和文化背景，但人类活动缺乏内容创建的速度和数量。
AI活动：具有数百万令牌的AI可分析和处理大规模数据集、识别模式并生成连贯的、与上下文相关的内容。不过，它们在理解微妙的人类情感和复杂场景方面仍有局限。相比之下，具有数十令牌的AI则表现出高度的复杂性，特别是在理解和模拟人类表情和复杂场景方面，并且擅长创建与人类思维和语言非常相似的内容。
可信度（具有数十亿令牌的AI与人类不分伯仲）
人类活动：可创建可信的内容，但其产出受到个人知识和时间的限制。
AI活动：具有数百万令牌的AI可更快地创建可信内容，尽管其有时难以反映人类主体的细微差别，尤其是在复杂或情绪化的语境下。具有数十亿令牌的AI擅长创建高度可信的内容，对语言及有关细微差别有深入的理解，因此很难与人类创作的内容区分开来。
多样性（产出量和风格多样性，AI>人类）
人类活动：可生成多样化的内容，但个人能力和视角限制了产出。
AI活动具有数百万令牌的AI可生成多样性内容，超越人类个体的能力，但可能会拘于某种模式或具有一定局限性。而具有数十亿令牌的AI可提供超级多样性，可轻松调整语言风格、语气和视角。它可以模仿一定创作风格的作者，使其内容具有高度的多样性和适应性。
误导性内容的可能性（高度定制化和有针对性，AI>人类）
虽然人类活动可能会产生误导性内容，但具有数百万令牌的AI可产生令人信服的假新闻和虚假信息，尽管与更先进的AI相比，其个性化和针对性较差。
具有数十亿令牌的AI更擅长创建高度定制化和有针对性的误导性内容，包括令人信服的深度假新闻，使其在传播虚假信息方面更加有效。因此，与不太先进的AI和人类相比，具有数十亿令牌的AI传播误导性内容的风险更大。
虽然这两种人工智能在内容创建的速度和数量方面都超过了人类，但具有数十亿令牌的AI在创建复杂、可信和多样化的内容方面尤其先进。
4.4 对公众舆论和信任的影响
两者对公众舆论和对民主制度的信任有何不同影响？人工智能个性化和优化信息的能力会导致更深刻的社会分歧吗？
影响水平（数十亿令牌的AI>数百万令牌的AI）
具有数百万令牌的AI：可生成令人信服的个性化内容，显著影响公众舆论，尤其是在涉及两极分化的社会分歧时。然而，它们在理解复杂的社会政治背景或微妙的人类情感方面存在一定的局限性。
具有数十亿令牌的AI：可创建高度复杂、语境准确且高度个性化的内容。它能更令人信服地模拟人类行为和言论，广泛而深刻地影响公众舆论。具有数十亿令牌的AI在创建个性化内容方面的先进能力会对公众舆论产生更深远的影响。
对信任的影响（强共鸣度，数十亿令牌的AI>数百万令牌的AI）
具有数百万令牌的AI：其传播虚假信息可能会导致信任的侵蚀，但仍具有一定的抵御能力。
具有数十亿令牌的AI：其制作的信息会与个人信仰和偏见产生深刻共鸣，导致对信任的更严重侵蚀。识别AI生成内容的难度加剧了虚假信息的传播。因此，具有数十亿令牌的AI由于有能力制造更有说服力、更能引起共鸣的虚假信息，对信任构成了更大风险。
虽然这两种人工智能都会对公众舆论和民主机构的信任产生重大影响，但具有数十亿令牌的AI在个性化和优化信息方面更为有效。这可能导致更深刻的社会撕裂，因为其更有能力巧妙地加强和利用现有的社会撕裂和紧张局势。
5 AI操纵选举的虚假信息活动场景虚构
结合上述人工智能虚假信息活动的九种策略，该文章给出了在2024年和2030年分别运用具有数百万令牌的AI（表1）和具有数十亿令牌的AI（表2）实施虚假信息活动的虚构场景。
表1：在2024年虚构选举场景中应用具有数百万令牌的人工智能
表2：在2030年虚构选举场景应用具有数十亿令牌能力人工智能
6 结 语
虚假信息活动的技术能力不断提升。人工智能等技术的进步深刻影响了虚假信息活动，特别是在速度、效率、内容生成和适应性方面。人工智能尤其是具有数十亿令牌能力模型，显示出比传统的人类活动显著的优势。这些进步使虚假信息活动更加迅速、复杂和适应性更强，可更有效地针对特定受众进行定制，并加速对不断变化的环境作出反应。
先进的AI模型将影响人类感知。随着未来5G/6G等信息通信技术的推出，与具备生成高可信文本、视频和音频的先进人工智能模型相结合，具有影响人们对现实感知的潜力，特别是在选举的背景下。与此同时，人工智能将可能被用于实时分析个人、操纵选举信息资源和国家关键基础设施，如金融系统、通信系统或供应链，从而造成更广泛深入的影响。
参考文献：
https://tdhj.org/blog/post/elections-ai-disinformation/
声明：本文来自认知认知，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
