文| 袁纪辉 中国信通院互联网法律研究中心助理研究员
美国智库已针对人工智能技术应用的社会负效应问题刊发出一系列报告，对上述报告进行学习总结、编译分享有助于我国相关机构准确识别相关问题、积极防御相关风险。本文特选取美国战略和国际问题研究中心（CSIS）发布的《人工智能和机器学习对美国政治的影响》（The Evolving Role of Artificial Intelligence and Machine Learning in US Politics）[1]报告，对报告内容进行编译、提炼、整理。整理内容如下，供参考。
一、人工智能对意识形态的影响
人工智能时代带来了新技术与新问题，影响着社会中的诸多现象、逻辑与关系。伴随着人工智能在媒介传播中目标的精准定位，人工智能已受到越来越多媒体的推崇，依托人工智能技术形成的个性化推荐日益频繁地应用于内容传播领域的选题策划、信息采集、内容生成和产品分发等环节。同时，人工智能还被应用于内容分发的呈现环节，让传播内容的呈现方式更加智能化、互动化，提升了用户消费内容的交互体验。
传统信息内容传播的筛选和排列主要基于职业工作者的价值判断和人工编辑，且考虑更多的是大众的普遍需求、内容的权威性和公共性，而非用户的个人兴趣。这种传播形式由于个性化程度的不足，在传播深度和广度上都具有传播极限。而以人工智能技术为支持建立起的内容分发，依托对每个用户兴趣的精准捕捉、需求极致化满足，形成的终端智能分发和个性化推荐形成的传播形式，具有超越传统形式的强大传播优势。无论从内容建设的角度来看，以机器学习技术为支撑的机器人写稿、深度伪造等技术产生了大量的内容，增强了内容的丰富度（虽然在另一个层面上稀释了人工生成内容的密度）。还是从传播格局的角度看，平台型媒体依托算法等人工智能技术，与信息接收人形成更密集的链接，更加具有吸引力和用户粘性。这种人工智能技术支持的新型传播方式逐渐成为社会思潮的主要传播途径，影响并塑造着社会意识形态的走向。
在一方面，有从业人员观察到，围绕重大突发事件进行的新闻传播，基于人工智能的技术优势，能快速地生成报道、推送和分发，这样可极大地提高“网络辟谣、阻击谣言、披露真相”的效率，从而避免因不实消息的传播所导致的情绪割裂和意识形态激化等问题。[2]但在另一方面，也有学者认识到，智能算法会加剧后真相里意识形态先行的程度，算法会根据用户在浏览不同消息时的停顿时长来识别用户的兴趣偏向，智能触控设备甚至会根据用户点击的频度和屏幕感知的压力来识别哪一类消息更被用户所关注，用户会收到大量吸引眼球的文章。利益集团可以识别用户的兴趣，对用户进行分类，展开精准的话语宣传，提高操纵的效度。算法的运行被视为商业机密，缺乏监管流程，“算法黑箱”和“算法操纵”也是需要警惕的问题。价值倾向、技术垄断和商业秘密使传播者潜移默化地影响公众的心理，不仅能激发公众的情感，更能够朝特定的方向引导公众的情感，制造符合自己需要的信息和意见格局，提高对社会群体操纵性。[3]
二、通过意识形态改变选举进程
美国学者呼吁到，人工智能（AI）、机器学习（ML）和大数据的出现从根本上改变了政治家与选民的接触方式，并将继续挑战着数百年来围绕选民选举权的政治和人际规范。鉴于网络空间中选民信息的体量增长和多样性丰富，政治家和社会团体拥有比以往更多的信息工具来影响选举进程和选择候选人。因此，有关部门的决策者必须认真审视在政治中大规模使用新兴技术的好处、缺点和潜在风险，在确保有效决策的同时保护民主免受潜在操控的影响。
早在2008年的总统选举中，社交媒体就成为政治对话和战略营销的核心工具。奥巴马的竞选活动首次通过机器学习将先进的数据分析和有针对性的广告引入政治领域，创建了“利用社交媒体活动生成的个性化社交数据和电子邮件消息”进行社会性分析来进行选举营销的活动。据估计，当时超过一半的投票人口在选举期间使用互联网接触选举活动。鉴于2008年这种数据分析活动在政治领域的巨大成功，美国总统选举团队在2012年发起了一场更高标准的运动，组建了一支由一百多名数据分析师组成的团队，成功构建了一个巨大的数据并行处理工具，以进行未来预测和指导战略决策。
上述事件可以看出，早在2008年和2012年，在政治竞选中利用人工智能加持的数据分析工具、投票情报平台和政治广告策略已成为常态。这些人工智能和机器学习工具可用于分析人的行为模式、指导有针对性的广告、预测立法通过的可能性、检测和打击假新闻和虚假信息、并影响选民对政治候选人的印象。谷歌研究员斯拉瓦·波兰克西博士曾指出，在政治过程中利用人工智能进行意见收集可以确保政治家们探寻人们内心的真实意见，帮助制定具有代表性的政策，完成既定目标的实现。
然而，另一方面，越来越多的恶意行为者渴望利用人工智能和机器学习影响美国的政治进程。他们利用网络机器人传播假新闻，通过有针对性的情感呼吁以致在心理上操纵易感选民，甚至通过网络爬虫大军在社交媒体扰乱信息传播来隐藏异议。《大西洋报》在分析科技在政治进程的作用时发现，“根据统计，关于2016年总统大选的所有推文中，约有五分之一是由机器人发布的。据披露，当年英国脱欧投票的所有推文中，约有三分之一是由机器人发布的。虽然这些技术的使用效果难以评估，但有理由认为，某处的选民投票或意见受到政治机器人的某种影响。否则，竞选活动中的利益集团不会花费数十亿美元来制作这些广告。”这一进程也意味着，数据寡头掌握人们的连接方式、接触空间和交往范围，加速利益和权力对事实的捏造，促进后真相的生成，被算法和兴趣圈养的用户难以搜索到客观、中立的信息。
这种利用基于机器学习的选民分析工具来推动竞选活动在美国政治进程发展得愈演愈烈。鉴于奥巴马首次成功地将大数据应用于2008年和2012年竞选活动的背景下，特朗普和克林顿国务卿领导的2016年竞选活动更是将这种手段应用到了新的高度。事实上，《华盛顿邮报》透露，在希拉里·克林顿2016年竞选活动中，竞选流程几乎完全由一个名为“Ada”的机器学习算法推动，该算法指导了克林顿做出的每一个战略决策，包括在哪里和何时部署何种方案，以及在哪里播出何种电视广告等等。
三、认识人工智能的政治影响及规范
牛津大学和耶鲁大学的研究人员认为，鉴于人工智能和机器学习在其产生以来短短四十五年内的深度社会渗透，除非公众集体决定脱离网络空间，停止网上购物，并删除所有社交媒体和聊天室应用程序，否则未来几乎无法阻止人工智能和深度学习在日常生活中渗透的进程。我国学者也曾指出，人工智能时代里的客观数据、智能信息和媒体融合能够提高公众对信息的解读能力，凸显公众的主体性，消解后真相中由于信息接收而产生的乱象。虚拟现实、算法推荐和数据垄断会再塑信息的生产方式，加强意识形态的操纵性。[4]
有学者已经指出，仅仅由机器或者由用户自身决定信息的分发，既在实质上消解了传统主流媒体的“把关人”功能，也将导致一部分受众弱化了完整接收信息的能力。人工智能的资讯推荐易造成“信息茧房”，加剧社群区隔，从而不利于主流意识形态的整合。同时，信息窄化容易造成用户的认知偏狭，使其被情绪化的片面信息所影响，对整体社会和公共议题的判断可能会有失平衡或理性。
目前，过度依赖人工智能和机器学习进行人类辅助决策引发出了社会系统性风险已成现实。值得庆幸的是，随着世界范围内开始关注科技监管和数据隐私问题，目前社会上也开始察觉并重视上述风险，关于使用人工智能和机器学习技术的道德伦理和国家监管的讨论也不断浮现。
目前，由于党派分歧的存在、候选人的政治动机以及公众对人工智能和机器学习的道德原则的分歧，使得监管目前无法完全应对上述技术的社会性应用。因此，我们必须继续跟进保护数据隐私方面的探索，鼓励制定关于人工智能和机器学习的标准法规和道德规范，提高对上述风险的立法意识，设立相关问题的责任底线。
[1]https://www.csis.org/blogs/technology-policy-blog/evolving-role-artificial-intelligence-and-machine-learning-us-politics
[2]张志安.人工智能对新闻舆论及意识形态工作的影响[J].人民论坛·学术前沿,2018(08):96-101.
[3]彭兰.假象、算法囚徒与权利让渡：数据与算法时代的新风险[J].西北师大学报（社会科学版），2018(5).
[4]张爱军,李圆.人工智能时代后真相现象的消解、再塑及矫治[J].中国行政管理,2019(08):61-65.
声明：本文来自CAICT互联网法律研究中心，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
