美国联邦贸易委员会（FTC）就政府使用人工智能技术来打击虚假信息、深度伪造、犯罪和其他在线问题发出警告，理由是该技术存在偏见和歧视的固有局限性。FTC官员在提交给国会的一份报告中详细说明，人工智能技术不能在缓解在线社会问题方面发挥中立作用，并特别指出，以这种身份使用它可能会让位于从在线用户那里非法提取数据并进行不当监控。

这份报告阐述了九个方面。

首先，在监测旨在处理有害内容的人工智能工具的使用和决策时，仍然需要(或许永远都需要)人工干预。

其次，人工智能在这一领域的使用需要有意义的透明度，这包括它需要是可解释的和有争议的，特别是当涉及到人们的权利或个人数据被收集或使用时。

第三，与透明度交织在一起的是，平台和其他依赖人工智能工具清理其服务放大的有害内容的公司必须对其数据操作和结果负责。

第四，数据科学家及其制造人工智能工具的雇主——以及采购和部署这些工具的公司——对输入和输出都负有责任。

第五，平台和其他机构应利用可使用的一系列干预措施，如减缓病毒传播或以其他方式限制某些有害内容影响的工具。

第六，有可能赋予个人使用人工智能工具的能力，以限制他们接触某些有害或不受欢迎的内容。

第七，如果任何旨在打击在线危害的人工智能工具都能有效地工作，并且不会产生不公平或有偏见的结果，那么它将有助于较小的平台和其他组织获得这种工具，因为它们可能没有自己创造这种工具的资源。

第八，考虑到使用人工智能检测有害内容的局限性，重点放在关键的补救措施上是很重要的，特别是使用认证工具来识别特定内容的来源，以及它是否被篡改了。

最后，在人工智能和在线危害的背景下，任何法律或法规都需要仔细考虑。考虑到人工智能的各种限制和担忧，明确或有效地强制使用它来处理有害内容——例如对平台施加的过于迅速的下架要求——可能是非常有问题的。

FTC消费者保护局局长塞缪尔·莱文 (Samuel Levine) 表示，“我们的报告强调，任何人都不应将人工智能视为有害在线内容传播的解决方案，”。“打击网络伤害需要广泛的社会努力，而不是过于乐观地相信新技术——既有用又危险——将使我们摆脱这些问题。”

该报告特别强调了这项技术处于广泛的初级水平，主要是人工智能算法运行的数据集没有足够的代表性来成功识别有害内容。

人工智能软件开发人员的偏见也可能影响技术的决策，这是人工智能行业长期存在的问题。FTC报告的作者还补充说，大多数AI程序无法判断上下文，进一步使其在区分有害内容方面不可靠。

报告的主要结论是，政府、平台和其他方面必须非常谨慎地强制使用或过度依赖这些工具，即使是为了减少危害的重要目的。“虽然超出了人们的认知范围，但这一结论意味着，如果人工智能不是答案，并且如果规模使得有意义的人类监督变得不可行，那么必须寻找其他方式监管或其他方式来解决这些危害的传播。

FTC得出的另一个重要观察结果是，仍然需要人工干预来规范可能无意中针对和审查错误内容的AI功能。报告强烈建议围绕如何构建技术的透明度开展工作，而这一关键主要是在算法开发中。

该报告还指出，承载有害内容传播的平台和网站应努力减缓非法话题或错误信息的传播。FTC建议灌输工具，例如投票、标记或其他不一定是AI运行审查的目标操作。

报告的结论认为：“有效处理在线危害需要对商业模式和做法进行重大改变，以及人们如何使用或滥用在线服务的文化转变。” “这些变化涉及整个社会的大量时间和精力，其中可能包括技术创新、对该技术的透明和负责任的使用、有意义的人类监督、全球合作、数字素养和适当的监管。人工智能不是神奇的捷径。”

在《2021年拨款法案》(2021 Appropriations Act)中，国会指示联邦贸易委员会(Federal Trade Commission)研究并报告人工智能(AI)是否以及如何“可能被用于识别、删除或采取任何其他必要的适当行动，以应对”各种特定的“网络危害”。国会指的是欺骗性的、欺诈性的、被操纵的或非法的内容，特别是诈骗、深度造假、虚假评论、阿片类药物销售、儿童性剥削、复仇色情、骚扰、仇恨犯罪以及美化或煽动暴力的内容。此外，还包括误导或利用界面、恐怖主义和暴力极端分子滥用数字平台、与选举相关的虚假信息以及销售假冒产品。国会寻求关于此类人工智能使用的“合理政策、实践和程序”的建议，以及关于“推进人工智能用于这些目的的采用和使用”的立法建议。FTC委员们以4比1的投票结果一致同意将报告提交给国会。

参考资源

1、https://www.nextgov.com/emerging-tech/2022/06/ai-no-magical-shortcut-ftc-says-fighting-disinformation-online/368341/

2、、https://www.ftc.gov/system/files/ftc_gov/pdf/Combatting%20Online%20Harms%20Through%20Innovation%3B%20Federal%20Trade%20Commission%20Report%20to%20Congress.pdf

声明：本文来自网空闲话，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。