在2023年《科学》杂志的AI特刊中，Seth Lazar和Alondra Nelson两位教授的评论文章《AI safety on whose terms?》提出了AI安全的社会技术方法 (sociotechnical approach)。文章指出，当前以技术为中心的AI安全方法可能不足以解决先进AI带来的全面风险，主张采用社会技术方法，即在考虑AI技术的同时，还需考虑其与社会、政治和文化的互动影响。为了真正实现AI安全，必须跨学科合作，广泛吸纳各种背景和专业的意见，并通过公开讨论来决定AI发展的方向。

感谢安远AI伙伴何忠豪、刘顺昌（实习）对于文章内容的贡献。

■

最新大型语言模型的快速、广泛应用使得人们对先进AI的到来既感到兴奋又存在担忧。为此，许多人试图从AI安全领域寻求解决问题的办法。主流AI公司一边削减了抵御目前系统危害的“信任和安全”团队，一边对新兴的AI安全研究项目进行大量投资。各国政府也紧跟步伐。英国刚刚投资 1 亿英镑成立新的“基础模型工作组”(译注：已更名为前沿AI工作组(Frontier AI Taskforce))，并计划今年(译注：2023年)召开AI安全峰会。然而，随着研究优先级的确定，目前的AI安全的技术议程显然不足以解决关键问题。只有社会技术方法才能真正限制先进AI当前和潜在的危险。

■ 为什么要关注AI安全？

人们可能会以愤世嫉俗的态度看待对于AI安全的思考。大型科技公司厌倦了负面宣传，正在抓住机会把自己打造为算法危害的救世主，而不是算法危害的加害者。社会技术方法识别并拒绝“安全洗白”(safety-washing)，即口头上承诺对AI系统的安全，却没有必要的承诺和实践来确保这一点，并呼吁透明度和问责制来保持公司的诚信。

■ 确保AI系统安全意味着什么，为此必须采纳哪些价值观和方法？

是为了“人机对齐”，确保AI的部署符合某些设计师的意图吗？或者仅仅是为了防止先进AI毁灭人类？这些目标显然是不够的。即使我们设法阻止AI消灭人类，一个能够做到这一点的AI系统仍将是人类有史以来发明的最强大的技术之一，因此其需要符合更丰富的价值观和意图。而在如此强大的“失控”AI系统建成之前，人们也将为了自身利益，罔顾系统风险去建造和使用其他先进系统。多年的社会技术研究表明，如果不加控制，先进的数字科技会被用来追求权力和利润，而牺牲人权、社会正义和民主。确保先进AI的安全也意味着理解和缓解这些价值观的风险。社会技术方法强调，任何专家（尤其是技术专家）都不应单方面决定哪些风险算数，哪些危害重要，以及安全的AI应遵循哪些价值观。要确保AI安全，迫切需要就以上所有问题，以及我们是否应该尝试构建所谓的“上帝般”的AI系统进行公开思辨。

■ 如何确保AI系统的安全？

仅靠单一的技术方法是不够的。相反，AI的应用必须在更广泛的社会技术体系中有针对性地加以考量，因为AI始终嵌入在这些社会体系中。这意味着要从政治经济角度考虑AI，并认识到过度关注假设的未来危害会进一步加强少数主导公司的权力，从而使当前的主要问题得不到解决；这意味着强调用于制造先进AI系统的稀缺环境资源、征用数据和被剥削的劳动力；这意味着考虑如何使用先进的AI，这需要了解人和社会，而不仅仅是其技术。这还意味着要优先考虑基于实证的工作，关注实际AI系统及其带来的风险，而不是（也许是不可能的）为尚不存在的系统设计技术上的缓解措施。

■ 安全由谁来定义？

狭义的技术AI安全领域在意识形态和人口构成上缺乏多样性，它几乎是一种单一文化，因此不足以承担其使命所需的智识广度和严谨性。该领域从业者大多是白人、男性和占据优势地位的人士，往往来自硅谷的“有效利他”和“理性主义”社群。社会技术方法可以抵制这些结构性失衡，创造了更广泛的参与空间，以平等关怀和共同人性为基础引导我们的技术未来。这不仅是一种道德责任，也是理解AI风险和制定有效解决方案的关键。女性和有色人种研究人员和倡导者在揭示和减轻新技术的危害方面发挥了带头作用；他们相对被排除在AI安全领域之外，因此使该领域失去了合理性。社会技术AI安全将权力从单一文化中转移出来。

我们正在犯一个常见的错误。面对令人迷惑的技术变革，人们本能地向技术专家寻求解决方案。但先进AI的问题不能仅依靠技术手段来消除；缺乏更广泛社会洞察力的解决方案只会加剧我们面临的AI危险。要真正实现安全，社会需要采用社会技术方法来确保AI安全。

作者简介

塞斯·拉扎尔(Seth Lazar)是一位澳大利亚哲学家，澳大利亚国立大学哲学教授。他是机器智能与规范理论实验室(Machine Intelligence and Normative Theory Lab)的负责人。拉扎尔在2011年获得弗兰克·查普曼·夏普奖(Frank Chapman Sharp Prize)。

阿隆德拉·尼尔森(Alondra Nelson)是一位美国学者、政策顾问和作家。她是高级研究院(Institute for Advanced Study)社会科学学院的哈罗德·F·林德尔主席和教授。该中心位于美国新泽西州普林斯顿。

声明：本文来自安远AI，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。