作者| Benjamin Parkin

编译|杨春雪 阿斯兰

审校|胡可怡

编辑 | 江文轩 穆祎璠

编者按

2024年，美国、印度、孟加拉国等多国大选纷至沓来。随着AI技术应用的日益普及，由其生成的虚假信息搅动各国大选竞争。当前，孟加拉国已经明显受到AI虚假信息和深度伪造视频的影响，尤其体现在现任总理谢赫·哈西娜和反对党孟加拉国民党之间的激烈斗争中。而在科技治理和内容管控过程中，与AI工具滥用等技术性问题相比，孟加拉国在治理过程中更面临如何管控跨国平台和外国科技公司的挑战。由于本国市场规模小，监管能力不足，美国网络平台往往对孟加拉政府的管控要求置若罔闻，而美国科技公司利用AI工具低成本生成的虚假内容则持续影响孟国内选举，凸显出南方国家在科技治理方面的困境，也同时为科技大国介入别国政治提供了抓手。南亚研究小组特编译此文，供各位读者批判参考。

图源：网络

随着南亚多国选举临近，使用AI生成虚假信息的问题日益严重。

全世界的决策者都在担忧，AI生成的虚假信息将在选举前被用来误导选民、煽动分裂。

在孟加拉国，上述隐忧已经成为现实。

2024年1月初，这个拥有1.7亿人口的南亚国家将举行全国大选，现任孟总理谢赫·哈西娜（Sheikh Hasina）将与反对党孟加拉国民族主义党（Bangladesh Nationalist party）展开激烈的权力争夺。

近几个月来，孟国内亲政府新闻媒体与意见领袖一直在大肆宣发由人工智能初创公司所提供的廉价AI工具制作的虚假信息。

在一段所谓的“新闻片段”中，一个由AI生成的主播大肆批评美国，而哈西娜政府曾在选举前对美国表示不满。另一个已被删除的深度伪造视频显示，一位反对党领导人在巴以问题上含糊其辞，而这种模糊态度在这个穆斯林占多数的国家可能招致毁灭性的选举结果，毕竟孟公众对巴勒斯坦人抱有强烈同情。

迈入2024年，随着包括美国、英国、印度和印度尼西亚等国在内的几场重大全国选举的临近，要求科技平台打击误导性人工智能内容的公众压力正在上升。作为回应，谷歌和Meta（Facebook母公司）最近宣布了新政策，要求竞选活动明确披露其政治广告是否经过数字修改。

然而，近期孟加拉国的例子不仅说明这些AI工具已经在选举宣传中被大加滥用，同时还显示在较小市场中控制AI使用的难度之高，这些市场因为体量较小，有被美国科技公司忽视的风险。

孟加拉国媒体研究公司“数字权利”（Digitally Right）的总经理乔杜里（Miraj Ahmed Chowdhury）表示，尽管目前人工智能生产的虚假信息“仍处于试验阶段”——大部分使用传统的图片或视频编辑平台制作——但其展示了无限制运用人工智能的现实后果。

乔杜里说，“当人们拥有类似于人工智能这样的技术工具，并且可借此大规模制造错误与虚假信息时，你可以想见这将产生多么严重的威胁，”他还补充说“科技平台对某一辖区的关注度高低，取决于该辖区的市场地位”。

过去一年，随着ChatGPT及各种AI视频生成器的普及度提高，全球对使用AI生成误导性与虚假政治内容的关注不断上升。

2023年早些时候，美国共和党全国委员会发布了一则攻击性广告，使用人工智能生成的图像描绘了美国总统拜登（Joe Biden）领导下的反乌托邦未来。油管还封禁了委内瑞拉的几个账号，这些账号使用AI主播宣传对委现任总统马杜罗（Nicolas Maduro）政权有利的虚假信息。

在孟加拉国，虚假信息加剧了1月大选前的紧张政治气氛。哈西娜政府对反对党大加镇压，数以千计的反对派领导人与活动人士被逮捕，这无异于操纵投票，同时也促使美国公开向孟政府施压，以保证选举的自由公平性质。

在线新闻网站“BD Politico”于2023年9月份在推特（现“X”网站）上发布了一段视频，该网站“世界新闻”栏目的一名新闻主播在演播室播放了一段视频，指责美国外交官企图干预孟加拉国的选举并且制造了政治暴力，视频中间还穿插了许多骚乱现场的画面。

该视频由洛杉矶一家名为“数字人”（HeyGen）的人工智能视频生成公司制作，该生成器允许客户以每月最低24美元的价格所使用AI工具制作剪辑视频。在“数字人”的宣传内容中，可以看到一个名为“爱德华”（Edward）的主播，这是可供该平台用户使用的数个AI主播形象之一。这些虚拟主播皆是由真实演员形象生成。目前X网站、BD Politico和“数字人”均未回应置评请求。

其他例子包括在Facebook上发布的针对反对派的深度伪造视频，其中一个视频谎称是孟加拉民族主义党（BNP）领袖塔里克·拉赫曼(Tariq Rahman)录制的视频，视频中拉赫曼建议BNP对加沙问题“保持沉默”，以免得罪美国。全球科技研究所（Tech Global Institute）和媒体非盈利组织“Witness”均认为，这段内容很有可能是AI生成的深伪视频。

孟加拉民族主义官员瓦希杜扎曼（AKM Wahiduzzaman）表示，他的所属党派要求Facebook移除此类内容，但该平台“大多数时候不屑一顾”。在在《金融时报》（FT）联系Facebook要求其置评之后，Facebook火速删除了这些视频。

另一个广为传播的深度伪造视频由总部位于特拉维夫的人工智能视频平台D-ID制作，该视频声称孟加拉民族主义青年团领袖拉舍德·伊克巴尔·汗（Rashed Iqbal Khan）谎报了年龄。全球科技研究所鉴定称，该视频旨在抹黑拉舍德的信誉。

D-ID表示其正在“采取措施屏蔽一些违反平台使用条款的用户”， D-ID补充称其已经制订了“严格的方针准则，规定平台技术不得用于传播虚假信息或其他不道德用途”。

全球科技研究所联合创始人、前Meta高管迪亚（Sabhanaz Rashid Diya）表示，识别此类虚假信息的障碍主要是缺乏可靠的人工智能检测工具，现有的检测工具在识别非英语内容方面显得尤其无能为力。

迪亚补充说，大型科技平台提出的解决方案往往侧重于监管政治广告中的人工智能使用情况，然而这种监管在孟加拉国等国家的效果有限，因为在这些国家，广告只占政治传播的一小部分。

“为应对AI虚假信息而提出的解决方案明显表现出‘西方中心主义’。”这些大型科技平台“对世界其他地区的信息监管并不非常重视。”

监管不足、选择性执法加剧了上述监管难题，例如孟加拉国的《网络安全法》就因过度赋予当局打击网络异议的权力而饱受质疑。

孟加拉国的互联网监管部门没有回应记者的置评请求，并未解释其到底正在采取哪些措施控制网上的虚假信息。

迪亚认为，比人工智能生成的虚假内容本身更大的威胁是，政客可能会利用深度伪造的可能性作由头，来诋毁那些不利信息的真实性。

例如在印度，就有一位政客在回应一段被泄露的音频时声称该音频是伪造的，然而经事实核查，这段音频并非捏造。

迪亚表示：“政客很容易说，‘这是深度伪造的’或‘这是人工智能生成的’，从而混淆视听。全球南方国家面临的挑战将是AI生成虚假信息这一可能性的武器化，进而动摇人们所相信的真与假。

作者简介：本杰明·帕金（Benjamin Parkin），《金融时报》（FT）驻新德里记者，报道南亚地区。他于2019年加入英国《金融时报》，此前常驻孟买。在此之前，他为《华尔街日报》(WSJ)工作。

本文编译自《Financial Times》2023年12月15日文章，原标题为Deepfakes for $24 a month: how AI is disrupting Bangladesh’s election，原网址为：https://www.ft.com/content/bd1bc5b4-f540-48f8-9cda-75c19e5ac69c?accessToken=zwAGDIlqqYO4kdO9G8W09UBI-NOc2nXBnlrGnA.MEUCICVdaNa1B_ZragQm-rogL_J7MlTJ7eEbsh15G222ump4AiEAs1xdDUuz06VekltCbG5mW2KBgZaNyhaGjS5gHai4y-Y&sharetype=gift&token=13e80e25-c67b-4346-b03f-2cbba16a9e11

本期编辑：江文轩 穆祎璠

声明：本文来自南亚研究通讯，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。