宋人尝云：“动弦别曲，叶落知秋。风生大野，水向东流。”从已知数据中获知未知信息，甚至理解和预判某种趋势，似是一种梦寐以求的超能力。

本文回顾了美国于2023年10月通过的一项行政令——《关于人工智能的安全、可靠、可信的开发与使用的行政令》（以下简称“《行政令》”）中的部分内容与2024年科技界大动作之间的关联互动，认为：通过对该项《行政令》内容的适当分析，可以预判行业的某些产品规划及其实现路径。但究其具备可分析性的本质来源，在于对“类产业政策”与实体经济之间的一种直接相互作用的常识认知。

在《行政令》中，通过定义“隐私增强技术”，将隐私增强（国内有时也称为“隐私计算”）技术作为保护隐私和公民自由的重要措施，而隐私保护也是《行政令》明确的指导原则和优先事项之一。

在隐私增强技术的定义中，《行政令》通过举例方式罗列了当前主要的隐私计算技术，包括安全多方计算、同态加密、零知识证明、联邦学习、安全飞地、差分隐私和合成数据生成（比如时髦的NVIDIA的Isaac Sim）等等。其中，《行政令》对差分隐私进行了特别关注，在第九节“保护隐私”中规定，“在本行政令发布之日起365日内，为了更好地使（联邦）机构能够使用隐私增强技术以保护美国人的隐私不受可能因人工智能而加剧的潜在威胁影响，商务部长应通过国家标准与技术研究院（NIST）主任制定指导方针，供机构评估差分隐私保护措施的有效性，包括用于人工智能的措施。同时，指导方针至少应描述对差分隐私保护措施有重大影响的因素和在实践中实现差分隐私的常见风险”。

《行政令》为何对差分隐私予以特别关注，必不是因为其他隐私计算技术不存在实践中的风险或对技术措施有重大影响的其他因素，而应是差分隐私技术、市场领先企业和联邦机构业务实践的某种契合。虽然这种触发由谁而起不得而知，但将其纳入《行政令》说明已经就差分隐私的优先考虑并实质性推动达成了一致。

对于差分隐私的技术理论和法律定性，我们已在之前的公众号文章（隐私计算工具的《个人信息保护法》评价（一）——差分隐私）中进行了详尽分析，在此，本文进一步尝试通过登录一些典型的生成式人工智能服务网站，直接询问：美国领先的差分隐私企业或机构有哪些？在数据不出境的情况下首轮答案如下：

  • 美国国家科学基金会（NSF）：NSF致力于通过资助基础科学研究计划来促进科学的发展。NSF在计算机与信息科学工程领域资助了许多与差分隐私相关的研究项目。例如，卡内基梅隆大学的Virginia Smith通过NSF的CAREER项目研究了联邦学习和差分隐私的结合，在2021年《Private Multi-Task Learning: Formulation and Applications to Federated Learning》一文中提出了联合差分隐私（JDP）的概念，以保护多任务学习中的客户端（级）隐私。

  • 哈佛大学：哈佛大学与微软合作，参与了OpenDP Initiative，研发并开源了首个用于差分隐私的平台。该平台通过添加误差或噪音实现隐私保护，防止从数据集中推断出特定个人信息。

  • 苹果：苹果在其iOS和macOS设备中广泛使用差分隐私技术，以保护个人数据。例如，通过差分隐私技术收集并分析来自键盘、Spotlight和Notes的用户数据，同时保护用户隐私。

  • 谷歌：谷歌在2014年推出了名为RAPPOR的差分隐私工具，在Chrome浏览器中使用，以帮助在防止敏感信息追踪的同时，分析和获取有关浏览器使用情况的见解。谷歌在2019年将其差分隐私库开源。

  • 微软：微软与哈佛大学合作开发差分隐私平台，同时还在Windows设备中使用差分隐私技术来收集遥测数据，同时保护用户隐私。

  • 美国人口普查局：美国人口普查局在2020年的人口普查中使用了差分隐私技术，处理包含有关美国公民的详细人口统计信息，防止这些信息追溯到个人。

显然，在这里除了微软和OpenAI的合作外，拥有端侧产品的主要是苹果与谷歌两家公司，而由于这两家公司存在软硬件上的竞争关系，苹果快速入局的唯一选择似乎就只有ChatGPT。

接下来发生的事情便波澜不惊了。2024年6月11日，苹果在全球开发者大会（WWDC24）上宣布推出Apple Intelligence（苹果智能），表示与OpenAI合作，将ChatGPT整合到新一代iOS、iPadOS以及macOS中。

综上，通过对《行政令》的特定隐私计算内容的分析，我们得出了以下几个结论：

  • 差分隐私作为链接端侧与数据中心（两者可以重新定义为“算力节点”）的安全技术，仍有其重要价值；

  • 差分隐私在人工智能应用中，是否仍然可靠，需要进行必要的安全评估；

  • 由于差分隐私是基于信息（论）的安全而非密码学的安全，这也是为什么其受到马斯克等抵触的原因；

  • 对于拥有端侧设备的厂商而言，目前其选择人工智能的合作伙伴范围相对有限，除非自研或采用开源模型，否则几乎具有唯一性；

  • 在境内使用端侧设备和接入人工智能模型中，除非另有替代性技术，差分隐私等PETs技术将构成安全性评价的重要内容。

原浩，文章所涉观点内容谨代表作者本人

声明：本文来自苏州信息安全法学所，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。