作者︱本杰明·弗里德
随着人工智能 (AI) 的不断发展，州和地方政府开始探索 ChatGPT 等人工智能工具如何改变他们为居民提供的数字服务。许多政府已经使用人工智能驱动的聊天机器人来实现服务自动化，例如医疗补助登记、驾照续签、小企业资源等。然而，包括 ChatGPT 在内的下一代人工智能有可能彻底改变政府与公民互动的方式。
这种乐观的评估预测了一个光明的未来，即下一代聊天机器人将帮助人们清晰、轻松地完成目前与政府进行的各种耗时的互动，但这种评估并非来自任何目光敏锐的顾问或充满炒作的公关宣传。相反，它直接来自 ChatGPT，这是一款文本生成人工智能工具，自去年11月发布以来就吸引了互联网的关注。
围绕 ChatGPT 最热闹的讨论都围绕着它的一些更邪恶的潜力——学生作业作弊、新手黑客编写恶意代码、廉价出版商削弱记者的利益。但根据经常使用人工智能和数字服务的工作人员的说法，至于“彻底改变政府与公民互动的方式”，这场革命可能不会像每个人喜欢的聊天机器人所预测的那样立竿见影。
虽然 ChatGPT 和类似产品会搜索大量信息来生成对话响应，但在政府环境中运行的此类聊天机器人必须经过配置才能识别某些程序和服务的工作方式、如何与来自不同背景的用户进行交互以及确保任何应对措施公平对待人们。
本文首先提出一个提示，要求 ChatGPT 写一篇详细的文章，介绍它及其生成的自然语言处理工具将如何改变地方政府提供的数字服务，特别是那些目前可以通过聊天机器人进行服务的数字服务。虽然机器人自己的预测可以准确地描述为“极度自信”，但人类技术专家的预测却充满了好奇和怀疑。
ChatGPT是对话式而非临床式
洛杉矶首席信息官泰德·罗斯 (Ted Ross) 是一位渴望使用文本生成工具的技术官员，他表示，他对城市服务有朝一日配备能够回答居民问题的虚拟助理的潜力感到“非常兴奋”。具有人性化答案的查询比链接列表更有帮助。
他说：“人工智能可以极大地改变我们的搜索方式以及我们获得的结果类型，因此您不仅可以获得无需搜索的链接即可点击。” “您实际上会收到一份为您总结的书面回复。这非常重要。”
多年来，聊天机器人已在州和地方政府中广泛使用，最常见的是作为一种搜索引擎，帮助居民找到从DMV服务到失业索赔再到租金援助等各种正确的信息指引。许多州还在COVID-19大流行初期将聊天机器人投入应用，利用它们来加快紧急福利的申请或消除错误信息。
但 ChatGPT 和其他所谓的大型语言模型的巨大吸引力在于，它们能够生成模仿人类对话的详细回复，而不是指向另一个网页给出临床指示。通过扫描数十亿个数据点并进行编程以对应某些行为或主题领域，这些机器人可以有效地查看一串文本并预测接下来应该出现什么单词。
如果一遍又一遍地运行提示信息将会产生数十种不同的回应，且准确度各不相同。
在列举可以通过其功能进行改进的聊天机器人和虚拟助理的示例时，ChatGPT 发现了一些实际存在的机器人，例如德克萨斯州劳动力委员会的机器人，可以帮助企业主和失业人员浏览该机构的网站。例如佛罗里达州劳工部提供的机器人，帮助有儿童的家庭找到营养援助和医疗补助等服务的申请。
它还自我“杜撰”了一些城市服务机器人，ChatGPT 写道：
与此同时，在洛杉矶，该市交通局正在使用人工智能聊天机器人来提供实时交通更新并帮助通勤者规划路线。这有助于减少交通拥堵，提高城市交通系统的整体效率。
哦吼，洛杉矶市的网站的确有一个聊天机器人，但不要问它需要多长时间才能到达道奇体育场。目前，它仅限于搜索该市311电话号码簿中包含的信息。罗斯说，但这并不意味着它最终能以更加广泛和灵活的方式应对洛杉矶人。
他说：“我们收到了人们提出的所有关于支付停车罚单、填补坑洼或图书馆资源的问题。虽然政府拥有了大量信息，但从应用实践来看，政府在使信息易于理解方面做的非常糟糕。”
不要让ChatGPT去做价值判断
但与所有人工智能工具一样，ChatGPT 的好坏取决于它可以访问的数据，马萨诸塞大学波士顿分校公共政策副教授迈克尔·安 (Michael Ahn) 表示，他研究了语言模型的潜力，虽然 ChatGPT 推出后能够搜索2021 年底之前互联网上的所有信息，但它已更新了更多的最新数据。他说，虽然要在政府环境中真正发挥作用，但基于该模型构建的聊天机器人必须能够处理实时信息以及用户想要完成的任务。
“目前，政务聊天机器人类似于传统的搜索引擎。”他说，“它可能会为你指明正确的方向。在政府服务、政府法规以及公民来自哪里以及他们需要接受过何种培训，然后您就可以看到其中的差异。不同之处在于使用传统搜索引擎与使用 ChatGPT 所获得的结果，后者更了解您的需求、情况和目的。”
但这也意味着，想要将 ChatGPT 或其他大型语言模型（例如Google的Bard 或Meta的LLaMa）集成到其数字服务中的政府将必须创建新的规则，以确保该技术辅助的决策是公平的，并且任何敏感信息都不会受到影响，用户共享的数据没有被错误处理。
当被问及对数字政府发展的隐私和公平的影响时，ChatGPT 仅给出了表面的回应：
在保护公民数据隐私和确保公平方面，像 ChatGPT 这样的人工智能模型可以通过为公民提供安全和个性化的数字服务来提供帮助。ChatGPT 可以根据用户的位置、语言和其他人口统计数据定制响应，确保所有公民都能平等地获得政府服务。
迈克尔·安说，事情没那么简单。虽然先进的数据和语言处理模型最终可能能够对交通状况进行实时分析，或者为申请商业许可证的人提供更健谈的界面，但还有许多政府服务是需要更人性化的考量的，例如与公共服务相关的服务。福利，总是需要人情味的。
“政府决策本质上是有价值的，比如面向无家可归的人的公益服务领域。任何涉及人的因素且需要一些价值判断的领域，ChatGPT 可能都不是最好的。”迈克尔·安认为。
ChatGPT 背后的软件实验室 OpenAI 的首席执行官Sam Altman在2月份也承认了这一点，并在有报道称该模型生成充满种族主义和性别歧视语言的回复后写道，该模型“存在偏见方面的缺陷”。
迈克尔·安建议，任何希望将大型语言模型整合到其服务中的政府机构都应采用某种监督机制来审查这些系统是否存在偏见，这些偏见会导致政策决策损害已经处于不利地位的群体。
“政府官员将负责审查决定并拥有最终决定权。”他说，“我相信人工智能将被用于政府和世界各地。但最终决定由人类做出。我们可能需要一个专门的机构来调查这个问题，以检查数据和算法的偏见和透明度。”
大模型已经度过幻灭期
特拉华州首席信息官杰森·克拉克 (Jason Clarke) 告诉StateScoop，虽然他的机构内还没有对 ChatGPT 进行太多讨论，但它已成为处理该州目前使用的人工智能应用程序中所有信息的潜在工具。特拉华州使用人工智能来支持监控交通状况和检测网络入侵等功能，以比人类更快的速度分析大量数据。
特拉华州的一些州机构也拥有聊天机器人。克拉克目前还没有计划深入研究大型语言模型，不过他表示，有一天，公共部门可能会在私营部门起飞后接受它们。
“我认为私营部门已经能够展示其如何在商业中发挥作用，随着这些产品变得更加主流，国家也将购买这些产品，”他说，“从研发的角度来看，他们有更多的机会走在前沿并在某些领域进行尝试。通常这会变成一些服务产品，此时州和地方政府可以购买，因为我们很少有能力建造。”
尽管洛杉矶首席信息官罗斯（Ross）声称很兴奋，但他也承认围绕 ChatGPT 的讨论陷入了IT咨询公司Gartner定义的“炒作周期”。
“当已经达到了过高期望的顶峰之后。人们会感到幻灭，然后就会真正从技术中获得牵引力，并将其用于实际用途。”罗斯表示。
ChatGPT无法取代人性化的触感
总体而言，ChatGPT 等人工智能聊天机器人的出现为州和地方政府改善数字服务并更好地为居民服务提供了重要机会。通过利用人工智能技术的最新进展，政府以降低成本、提高效率，并为其选民提供更加个性化和有效的服务。
这就是 ChatGPT 总结其在政府中的潜在应用的方式。但其中或它生成的几十篇样本文章中都没有提到的是，一些政府决策总是需要人性化——这一事实甚至像罗斯这样的热衷者也很快提到。
“我觉得我们永远会有一个呼叫中心，我们永远会有那些要么更舒服，要么感觉与人保持联系更重要的人，”他说，“在某些时候总会有一些事情需要人性化服务支持，并不是说我们无法摆脱它，我只是觉得我们不希望被公众视为故意‘减少服务’。”
但罗斯表示，人工智能与政府的互动可能即将快速推进。根据城市或州的意愿，虚拟助理可能很快就会使用大型语言模型来帮助完成更基本的任务，例如支付停车罚单或填写营业执照表格。
“我认为对于一些更简单的项目，我们应该与呼叫中心运营商在未来一两年内进行对话，这是一个巨大的飞跃。”他说。
但 ChatGPT 及其同类产品仍然是黑盒环境，任何在其上构建的产品的质量都取决于它们收到的数据和模型训练的质量，麻省大学波士顿分校教授Ahn表示。
Ahn认为，“拥有ChatGPT本身不会有任何作用，这又回到了数据。他们需要小心地生成、收集数据，然后用数据进行训练，然后留意应用规则的设计。你必须一遍又一遍地这样做。你必须提防偏见，为其提供更多相关数据，然后继续训练，这样你才能得到更有意义的结果。”
原文来源：https://statescoop.com/chatgpt-government-digital-services/
声明：本文来自数旗智酷，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
