当电脑有了像素级“记忆”,知道你看过的一切,做过的一切,不再有“阅后即焚”,可能意味着一场地狱级的隐私灾难。

近日,作为新发布的人工智能电脑“Copilot+PC”的最大亮点,微软在Build大会上发布了一个名为“回忆”(Recall)的新AI功能,可记住用户在电脑上的所见所为并智能检索回溯,引发了全球用户的广泛关注甚至恐慌。

尽管微软声称“回忆功能”记录的数据经过加密并存储在本地,但该功能仍然引起了大量用户对隐私问题的担忧。特斯拉创始人马斯克更是在X上发推文怒斥Windows的回忆功能堪比《黑镜》中的恐怖技术,必须关闭。(编者:颇为讽刺的是,特斯拉曾因大规模泄露汽车传感器记录的用户隐私数据而遭到起诉)

全程录屏的“回忆功能”

与常见的基于时间线和数据历史版本的回滚和恢复不同,“记忆功能”提供一种类似录屏的“视觉记忆”,允许Windows 11用户搜索和检索他们在PC上的所有历史活动(包括你的所有操作和屏幕历史截图)。

根据微软官网介绍,“回忆功能”利用了Copilot+PC人工智能电脑的高级处理能力,每隔几秒钟对用户的活动屏幕进行一次截图。这些截图被加密后存储在用户PC的硬盘上,用户可以通过搜索或时间线滚动来定位和查看这些内容。

“回忆功能”有些类似Windows 10中的时间线功能(该功能已在2021年停止),但“回忆功能”增加了持续截图(类似录屏)的功能。这方面,“回忆功能”与Mac第三方应用Rewind有许多相似之处,Rewind同样记录用户活动以供稍后回放。

除了视觉记忆外,“回忆功能”一个重要卖点是可以帮助用户快速找到特定时间段内的历史信息,提供相应的上下文,还支持通过AI功能对会议记录和观看过的视频进行转录和翻译。

更为“恐怖”的是,借助微软的人工智能助手,用户只需要通过语言描述(提示),就可以找到在屏幕中出现过的,用户自己都没注意的信息(例如滚动电商网站列表页一闪而过的某款棕色手提包,直播视频中某个人物的特写)。通常,如果一个页面或会话窗口被关闭,且用户没有收藏或者截图的话,这类信息很难被定位和回溯。

目前阶段,用户使用Windows的“回忆功能”有一定硬件配置要求。用户需购买搭载高通Snapdragon X Elite芯片并配备神经处理单元(NPU)的Copilot+PC,最低配置为256GB硬盘空间和50GB可用空间。

默认情况下,256GB设备的“记忆功能”需要分配的存储空间为25GB,可存储约三个月的截图。用户可以在PC设置中调整存储分配,当分配的存储空间满时,旧的截图将被删除。

微软表示,Recall目前处于预览阶段,正在收集用户反馈,开发更多企业客户管理和控制“回忆数据”的功能,并改进用户体验。

隐私与信息安全的一场灾难?

表面上,“回忆功能”为用户提供了方便的回溯工具,但深入了解后,人们对其可能带来的隐私问题(以及信息安全和版权保护问题)提出了质疑。因为“记忆功能”如同为PC提供了“全程录屏记忆”,用户可以通过本地大语言模型查询在PC上所做的一切,看到的一切。

通过时间线滚动,用户可以找到(任何)应用程序、网站或文档的(截屏)内容,并基于识别的内容建议相应的操作,例如用户可以轻松返回到Outlook中的特定邮件界面或聊天软件中的聊天记录。

一些安全专家认为,这可能意味着严重的隐私和数据安全隐患。任何拥有你Windows账户访问权限的人都可以利用“回忆功能”查看你最近在PC上所做的一切,这不仅涉及隐私问题,还可能威胁到记者或情报人员的生命安全。

尽管存在隐私问题,微软坚称“回忆功能”依赖于设备上的个人语义索引,所有数据都存储在本地设备上,不会发送到微软服务器。

微软的Yusuf Mehdi在一份声明中表示:“Recall截图仅与特定用户档案相关联,不会与其他用户共享,也不会供微软查看或用于广告定位。截图仅对登录设备的用户本人可见。你的截图是你的,它们保存在你的PC上。你可以删除单个截图,调整和删除设置中的时间范围,或随时从任务栏系统托盘图标暂停该功能。”。

微软表示,用户可以暂停、停止或删除AI捕获的内容,还可以排除特定的应用程序或网站。“回忆功能”不会对Microsoft Edge中的InPrivate浏览会话或受DRM保护的内容进行截图。

尽管微软声明这些数据不会被传输到他们的服务器,但仍有安全专家担心这些包含高度敏感隐私数据的记录在本地如何确保安全。以及一旦威胁行为者获得设备的本地访问权限,是否能够访问这些数据并将其发送到远程计算机进行离线分析,进而获取敏感数据?

最后,安全专家建议用户在选择微软Windows的“记忆功能”时权衡便利性与隐私风险。尽管“记忆功能”为用户提供了强大的“过目不忘”的回溯功能,但其潜在的巨大隐私风险也不容忽视。对于高度重视隐私的用户,特别是涉及敏感信息的工作者,需谨慎评估这一功能的使用。

声明:本文来自GoUpSec,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。