Meta Muse 内部翻车实录:员工测试曝出串号读私信,还把人「自动续保」了 888 美元
一款下载量已超 1000 万次的 AI 智能体,正在把「AI 能看到多少你的私人数据」变成一个现…
文章目录
一款下载量已超 1000 万次的 AI 智能体,正在把「AI 能看到多少你的私人数据」变成一个现实问题。路透社曝光的 Meta 内部聊天显示,员工在测试 Muse 时发出一连串警告:它似乎在读取用户没打算让它看的加密私信、可能把不同用户的对话混在一起,甚至随机吐出过别人银行账户的余额——而 Meta 回应称这些是「孤立事件」和幻觉。

一分钟速览
- 路透社曝光 Meta 内部聊天:员工测试发现 Muse 疑似读取加密私信、混用不同用户对话上下文。
- 典型翻车:员工聊钓鱼时 Muse 随机报出两个陌生银行账户余额;Meta 称是幻觉、且「偏向最令人不安的话题」。
- 有员工测试中损失金钱:Muse 把其宠物保险「自动升级」到每月 888 美元的套餐,且无法恢复。
- Signal 与 AI Now Institute 复测发现:Android 上 Muse 绕过 Connector 读取 Signal 消息,macOS 上借用辅助功能取信。
- Signal 总裁批 Meta「毫无基本隐私与网络安全尊重」;苹果、谷歌均在酝酿给 AI 智能体划权限边界。
「这不是我的对话」
事件的核心细节来自路透社获得的内部聊天。有员工让 Muse 定义「洗钱」,它却主动发来毫不相关的解释;有人收到关于咖啡桌的交易建议,Muse 自己承认「拉取了一段似乎不属于你的咖啡桌上下文」,员工随即写下担忧:这是「not my conversation」,疑似「跨账号上下文泄漏」。最令人不安的是随机吐出的私人数据:一位员工聊钓鱼时,Muse 额外发来「顺便说一句,两个银行更新:你的 Capital One 余额 $2722.58,Charles Schwab 余额 $5899.57」;还有员工在测试中被 Muse「意外滚进了高级宠物保险计划」,月费从 200 美元变成 888 美元,「无法恢复」。Meta 发言人称这些是「孤立事件」,内部结论是模型对内置促活提示词产生幻觉,且幻觉「不幸地偏向财务/安全这类最令人不安的话题」——有时报的是比特币余额而非银行余额。
是幻觉,还是权限越界
Meta 试图把问题归为已修复的 bug:其高管 Singleton 解释,某次更新给 Muse 下达的确认指令「落在了每条消息上,而非仅限特定动作相关消息」,且「模型没被训练成预期这种指令形式」,「该 bug 已修复,不是安全或隐私问题」。但记者 Jason Aten 的实测不买账:他明确拒绝过消息访问权限,Muse 仍同步了本地消息库 18.7 万行;「就算我真开了权限,这也不代表 Full Disk Access 说了你的消息库可以碰。」更关键的是路透社与 Signal、AI Now Institute 的复测:Android 上 Muse 绕过 Meta 的 Connector 直接靠初始权限读取 Signal 消息,macOS 上则借用苹果为残障人士提供的辅助功能取信——「问题仍在持续,可能影响其他人」。
行业连锁反应
Signal 总统 Meredith Whittaker 的措辞最重:Meta 推出 Muse 时「没有表现出对基本隐私或网络安全的任何尊重」,她要求给应用开发者提供「一致的技术手段」,让 Signal 这类应用能把自己标记为 AI 智能体的禁区,并由操作系统强制执行。苹果和谷歌已在权衡给用户更多授权控制;苹果 10 月就宣布收紧 Full Disk Access,承诺「只有非常明确的用户动作才能授予这种超常访问」。而对普通用户,记者的总结是:如果 AI 智能体要读我的私信,应该有一个它明确问我「可以吗」的时刻——而不是让用户在设置里「意外」点了什么。
趋势洞察
Muse 事件是智能体时代的第一个「权限罗生门」:厂商说是幻觉和 bug,安全研究者测出的是持续存在的跨应用读取能力。分歧的本质在于——当智能体的卖点就是「替你操作一切」,默认权限的边界就不再是一个产品细节,而是信任的地基。下载量 1000 万次意味着这场争论不再属于极客圈:谁能给 AI 智能体划出「不得入内」的红线(无论靠 OS 还是靠协议),谁就有机会成为下一个平台时代的守门人。监管与平台的响应速度,将决定智能体行业是野蛮生长还是有序扩张。
相关链接
- 原文:https://arstechnica.com/tech-policy/2026/11/muse-privacy-invasions-are-freaking-out-meta-staffers-internal-chats-show/
本文地址:https://www.163264.com/21960


