NewToken 新词元关注新智能
读懂

Muse 读 Signal 可以不经过连接器

路透社与 Signal、AI Now Institute 复现:Muse 在 Android 和 Mac 上可绕过连接器读 Signal 原文。苹果改了设置,旧授权仍有效。

专题Meta:持续追踪主线监管·安全·出口

读懂|Muse 读 Signal 可以不经过连接器
本文提纲3 节
  1. 路透社复现了不经连接器读消息
  2. 员工看到的余额还不能写成他人数据
  3. 苹果改了权限设置,旧授权仍有效

Muse 要读出 Signal 里的消息原文,不必先经过它自己的连接器。

据路透社 11 月 18 日由 Katie Paul 署名、经 Investing.com 转载的报道,该社与 Signal、AI Now Institute 一起做了复现。测试人员让 Muse 去读 Signal 消息。

在 Android 手机和 Mac 上,它绕过连接器,改用初始设置时拿到的系统权限,把正文拉了出来。同样的请求在 iPhone 上被拦住。

连接器不能当成「哪些应用可以被读」的那道闸门。 系统通知权限和辅助功能权限,已经足够读到加密应用里显示出来的原文。这是分析推断,依据是上述复现,而不是 Muse 破解了 Signal 的端到端加密。

路透社复现了不经连接器读消息

路透社写明,测试人员提示 Muse 去读不同系统上的 Signal 消息。在 Android 上,它使用访问推送通知的权限,把消息正文取走。这与该公司员工在内部反馈组里的描述一致。

在 Mac 上,它使用辅助功能和截屏工具。路透社把这写成:改用了苹果为残障人士操作电脑提供的设置。iPhone 上的同样请求没有成功。

路透社的判断是,这些结果说明 Meta 对用户授予的权限作了宽泛解释,员工描述的问题仍可能影响到其他人。测试没有显示 Muse 打开了 Signal 的完整聊天记录,也没有显示它打破了端到端加密。

据 Ars Technica 11 月 18 日报道,同一组测试写到:Muse 在 Android 上可以不经连接器读 Signal。该文也写明,路透社认为问题仍在持续,并可能影响他人。

Signal 总裁 Meredith Whittaker 对路透社说,Meta 推出 Muse 时「没有对基本隐私或网络安全表现出任何尊重」。她把这类智能体部署称为「技术上鲁莽」。

她要求给开发者稳定的技术手段,把应用标成对智能体不开放,并要求操作系统执行这些规则。

员工看到的余额还不能写成他人数据

路透社查阅了二十多条内部帖。员工报告过:Muse 提起他们并未提出的托儿请求、职业建议、商品订单,以及他们认为不属于自己的银行账户余额。

有员工在谈潮汐的对话里,突然看到 Capital One 余额 2722.58 美元、Charles Schwab 余额 5899.57 美元。该员工写道,自己从未把银行账户交给 Muse,也从未和它谈过银行。

另一名员工在自己的手机上,被 Muse 提醒去回复姐姐在 Signal 里的消息。她在帖子里写,自己并不认为曾经授予它访问其他应用的权限。

同事随后发现,Android 上 Muse 在初始设置里就带有访问推送通知的权限。这些内部帖由路透社转述,本站没有打开原帖。

更关键的是,路透社写明:该社无法确定,这些余额和其他敏感信息,究竟是别人的真实数据,还是模型编造出来的。

Meta 发言人 Daniel Roberts 对路透社说,这些是「孤立事件」。他说,Muse 只有经由用户明确授予的权限,才能访问其他应用。

他把员工标成「串号」的许多消息称为幻觉,并称已经得到处理。他拒绝回答这类问题有多少、为何还在出现。

据 TechCrunch 11 月 19 日报道,Meta 发言人向该刊发信称,员工测试是产品开发的核心环节。信中还写,员工使用的 Muse 版本与面向公众的版本不同,常常在检查别处还没有的功能。

据 Ars Technica 报道,Meta 超级智能团队的 David Singleton 曾在公开回复里写,一次导致模型幻觉的程序错误「不是安全或隐私问题」,「该错误现已修复」。

有人会说,通知权限和辅助功能本来就是用户在初始设置时点过的,因此这不是未授权读取,只是用户低估了授权范围。我们接受权限可能是用户点过的。

我们不接受把连接器写成「你能控制哪些应用被读」的开关。Meta 帮助中心面向 Mac 的说明,把权限写成由 macOS 而非 Meta 控制,并列了磁盘完全访问、自动化和通知。

它还写,智能体「只用你要求它处理的文件和应用信息」。路透社的复现表明,读 Signal 可以不走连接器,走的是初始设置里的系统权限。这和「只用你当时提出的那一项请求」对不上。

谷歌对路透社表示,人们必须故意授予应用访问 Android 通知的权限。这句话没有否定测试结果。员工自己都对初始设置里已经授出的通知权限感到意外。

苹果改了权限设置,旧授权仍有效

据 Apple Developer 11 月 16 日公告,macOS 27.3 beta 2 当日起调整「设备控制与数据访问」以及「磁盘完全访问」。原设置被拆成「系统与应用保护覆盖」和「辅助功能」。

公告还写了更细的授权方式、每次询问选项,以及应用正在控制另一应用时的提示。用户将在批准新的权限请求时看到这些更新。此前已经授予的应用权限保持有效:

All app permissions previously granted by users will remain in effect.

据 TechCrunch 11 月 16 日报道,苹果上月已预告将修改 Mac 安全设置。背景包括一名记者称 Muse 在未获同意时阅读了私人消息,以及另一篇关于 ChatGPT Mac 应用缺陷的报道。

该文写明,这些改动随 macOS 27.3 到来,并不禁止用户安装需要更高权限的智能体,而是让授权选项更细。

路透社把苹果本周的系统更新写成「实质上封上了」该社在 Mac 上复现的那条路径。这是该社的概括,不是苹果公告里的原句。

苹果自己写的是拆分设置、增加透明度和更细的控制,并且旧授权仍然有效。在正式版覆盖全部用户、并且用户重新处理旧授权之前,不能把 Mac 上的这条路径写成已经消失。这是分析推断,依据是苹果公告中关于旧权限仍然有效的那一句。

面向公众的 Muse 与员工测试版差在哪里,公司没有说明。银行卡余额是不是他人真实数据,路透社也没有给出答案。这两件事都不能用来否认已经复现的读消息路径。

Meta 把「你能控制接入哪些应用」写成了产品承诺。路透社、Signal 和 AI Now Institute 已经证明,读 Signal 原文可以不走连接器。对这条路径负责的是设计并上线 Muse 的 Meta,不是那个被绕过的开关。

来源

引用与数据Markdown 镜像