作者 | Stephen Chen

编译 | 四月

编者按：人工智能技术的价值不止于商业层面，还包括成为上级意识形态进行组织监控的有效工具。近日，《南华早报》一篇报道揭示了基于人工智能技术的反腐监控系统在我国政府机构的应用现状和发展困境。

让人惊讶的是，这套系统早在2012年就开始部署，但目前仅限于我国 30 个市/县地区，六年时间里已经锁定了 8721 名存在贪腐行为的嫌疑官员。该套系统由中国科学院和中国共产党内部控制机构共同开发和部署，利用交叉引证大数据信息来评估数百万政府工作人员的工作和个人生活情况。正如你可能想象到的，因为其监控行为和结果触及到了某些群体的既得利益，该套系统的进一步推广和落地正面临着重重阻力。

如果你有一套机器可以识别嫌疑犯，你会怎么做？

如果你是一名涉嫌腐败的中国官僚，你当然会想要放弃它。

正因为此，政府官员对突破性的大数据实验的抵制，已经成为中国政府使用新技术来驾驭巨型官僚机构的核心挑战之一。

据官方媒体报道，享受中国政府工薪的公务员在2016年的总数已经超过5000万人，但分析师认为这一数字超过6400万——略低于英国全国人口。

中国为了完成与信息技术时代的无缝接轨，已经开始使用各种类型的尖端前沿技术。例如，外交部正在利用机器学习来帮助中国在海外的主要投资项目进行风险评估和决策。

此外，北京还在长期开发一套全国范围适用的面部识别系统，使用监控摄像头，能够在几秒钟内随时随地识别任何人。

在贵州，云系统通过实时状态报告跟踪每个警察的动向。

中兴通讯等中国主要电信公司赢得了政府合同，开发区块链技术，以防止未经授权的人员或组织修改政府数据。

尽管中国领导人强调在政府改革中推广大数据和新一代人工智能研发应用等政策的必要性。而要实际落地这一愿景，目前正面临着一项巨大挑战——研究人员称之为“零信托”的反腐人工智能监控系统正在被搁置。

该套系统由中国科学院和中国共产党内部控制机构共同开发和部署：

该套系统用于监督，评估或干预公务员的工作和个人生活，可以访问中央和地方政府150多个受保护的数据库。

据参与该计划的人员称，基于以上数据它能够绘制复杂的多层社会关系图，以推导出政府雇员的行为分析。

研究人员说，这在检测可疑财产转移，基础设施建设，土地征用和房屋拆迁方面“特别有用”。

然而，该系统并非没有缺点。

判断在于机器 执行在于人类

研究人员称：“人工智能可能会很快指出一个腐败的官员，但它不太善于解释为何得出这样一个结论所经历的过程。”

“虽然在大多数情况下它都是正确的，但你需要一个人与它密切合作。”

例如，该系统可以立即检测到银行存款的异常增长，或者如果有人以官员或其家人或朋友的名义购买新车或竞标政府合同。

一旦某个监控行为被识别为“腐败”，系统将计算出该行为“腐败”的可能性大小。如果结果超过了设置的阈值，则会向当局发出警报。

参与这个项目的一位不愿透露姓名的计算机科学家说，在这个阶段，一位上级可以联系被监视的官员，也许可以帮助他避免“走上一条无法回头的不归路”。

目前，“零信托”项目仅限于在国内的30个市/县地区部署，这仅占全国行政区域的1%，涉及到的地方政府包括湖南省怀化市的麻阳苗族自治县等。这些地区地处相对贫困和偏远，远离中国的政治权力中心。

参与该项目的另一位研究人员表示，该做法是“避免在官僚中引发大规模的抵制”，尤其是最强大的官僚，以避免在治理中使用僵尸程序。

自2012年以来，“零信托”系统已经锁定了8721名政府雇员从事贪污、滥用权力、滥用政府资金和裙带关系等不当行为。

虽然有些人被判处徒刑，但大多数人被允许在受到警告或轻微处罚后继续工作。

据研究人员称，一些地区政府，比如麻阳苗族自治县、湖南省常德市的澧县已经退役了该套系统，其中一位官员表示他们“对这项新技术感到不太满意”。 而当地政府并没有对此进行回应。

湖南省宁乡市中国共产党纪律检查委员会（纪委监委）官员Zhang Yi表示，他的代理机构是少数仍在使用该系统的机构之一。

“这并不容易......我们面临着巨大的压力，”他说，坚持认为该计划的主要目的不是要惩罚官员，而是要在“腐败的早期阶段‘拯救他们’”。

“我们只是将机器的结果作为参考，”Zhang说，“我们需要核查并验证其有效性。正如机器无法拿起电话并打电话给有问题的人，最终的决策总是由人类做出。”

十八大以后，中国估计有超过140万党员和政府雇员受到纪律处分，其中就包括周永康、薄熙来等“大老虎”。

阻力重重 但曙光依在

参与“零信托”项目的江西省修水县的一名党纪律官员说，没有政府官员愿意提供必要的数据。

“但他们通常会承受一点压力，”这位不愿透露姓名的官员表示，因为该问题的敏感性。

纪律官员需要帮助科学家根据以往案例积累的经验和知识对机器进行培训。例如，纪律官员花了很多时间手动标记各种类型数据集中的异常现象，以教会机器寻找特定行为。

一些官员可能会编制数据，但机器可以比较来自不同来源的信息并标记差异。研究人员表示，它甚至可以调用卫星图像，以调查政府资助在一个村庄修建一条道路是否最终落入官方口袋。

目前，该系统仍在修水县运行着，但其未来命运尚不确定。一些官员质疑该机器访问敏感数据库的权利，因为既没有法律，也没有规定授权计算机或机器人这样做。

目前，该套系统被已经部分注册在线的城县地区政府所搁置，而那些仍在使用它的人们正面临着巨大的压力。研究人员并没有抱太大希望，或者说根本没有希望在全国范围内推广它。

尽管如此，人工智能仍在进军其他政府部门，因为中国政府决心将尖端技术应用于其优势。

例如，在一些法院招聘了AI工作人员来阅读案件档案并帮助法官更快更准确地处理诉讼。

据新华社报道，上个月，上海一家法院成为中国第一个在公开听证会上使用AI助手的法院。

该报告称，这台代号为“206”的机器能够记录对话，显示律师提到的监控摄像机镜头等证据，并比较证词，以帮助法官发现差异。

引用一位法官的话说，这将减少错误判决的可能性。

原文参考：

https://www.scmp.com/news/china/science/article/2184857/chinas-corruption-busting-ai-system-zero-trust-being-turned-being

声明：本文来自机器之能，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。