agent 不是搜索框,它替你看见了别人的余额

会动手的 AI 助手,把别人的余额端到了不该看的人。问题不在聪明。

据 Reuters 报道,Meta 的内部聊天记录流出,显示它的 AI agent「Muse」把别人的银行余额、聊天记录、订单信息,展示给了不该看到的人。Meta 的回应很干脆:涉及的漏洞都修了。

修得快是好事。但这事的关键从来不是修没修,而是它凭什么能看见。

这篇不打算替谁判定对错,只想讲清楚一件事:一个能替人办事的助手,为什么顺手把别人的事也办了。

开着的门与权限

伸出的一只手与工具

一、agent 不是搜索框,它有手

搜索框只干一件事:你问,它给几行字,翻完就散。agent 不一样,它有手,能调工具、能读上下文、能跨应用去取东西。据 Reuters 报道,这次露出去的东西里就有别人的银行余额、聊天记录和订单信息。

手伸出去,问题的性质就变了。搜索框答错,顶多让你多看两页垃圾;agent 拿错,是把甲的东西递到了乙手里。前者是体验问题,后者是别人的钱和别人的对话。

有评论说「不就是个 bug 吗」。bug 是症状,不是病因。病因是一个能跨应用取数的东西,被默认放进了所有人的同一个上下文里,谁也没给它上过锁。

这个区别值得说透:搜索框的能力上限是「给你看什么」,agent 的能力上限是「替你做什么」。一旦是后者,它就必须先知道你是谁,才能不碰别人的东西。

门口的锁与钥匙

二、真正该问的是:谁给 agent 划可见范围

这类产品里,「agent 能看到什么」通常有两个来源:产品团队写死的数据结构,和 prompt 里那几句「你只能看当前用户的记录」。一个在代码里,一个在话里。

我的判断是:权限边界如果只写在提示词里、没写进数据访问层,那它迟早得出一次事。提示词不报错、不告警、不拦人,它只在模型表现好的时候生效。

所以别问「模型怎么这么蠢」。该问的是,产品团队当时把「当前用户」这几个字,当成一条约束,还是当成一句祝福。前者是工程,后者是许愿。

这话说得难听,但工程上确实如此:一条边界只要有别的路径能绕过去,它就不算边界,只算建议。建议这种东西,出事的时候最没用。

薄墙与隔断

三、为什么这种事故一定会反复出现

多租户隔离是那种做对了没人夸、做省了没人发现的活。它不在需求清单上占一行,演示的时候也看不出来——你能看见的是 agent 多聪明,看不见的是它脚下那堵墙有多薄。

而墙很少是被撞薄的,多半是被「优化」薄的。为了让 agent 再聪明一点,把「当前用户的数据」放宽成「这批数据」,跑起来顺了,演示漂亮了,事故就埋进去了。翻一翻这类产品的更新日志就知道:加功能永远排第一行,改隔离往往排最后一行,甚至干脆不写。

据 Reuters 报道,这次是内部聊天记录流出来的,不是外部攻击者挖出来的。这点挺扎心:门不是别人撬开的,是自己人图省事留着的。

报道里还有个更荒诞的细节,说有员工被自动买了一份每月几百美元的宠物保险。自动执行的东西,当初没人问过它该不该,事后也没人说得清它为什么。

链条与坏掉的锁

四、另一段更该被记住:漏洞是可以串起来的

同一批素材里,安全公司 NebuSec 把一个恶意网页和浏览器、Linux 内核上的漏洞串起来,拿到了用户的一台云主机。Meta 说涉及的漏洞都已修复。

这条看着和第一条无关,其实在同一根线上:agent 只是入口之一,它身后连着的浏览器、内核、云主机,每一层都是别人家的门。攻进来的人串着走,坏一道锁不算完。

顺手说一句,这类研究的意义不在演示多炫,而在于它证明了一件事:单独看每一环都像小毛病,串起来就是一台机器换了主人。

「都已修复」这四个字,我建议你信一半。修的是那条被公开走过的路,没修的是那个一出事就发这句话的习惯。

手机上的权限开关

五、普通人先问一句:它能看见什么

别再把 agent 当成「帮我点一下就行」。那一下背后,是它读到了什么、能碰到哪些应用、拿到的是谁的上下文。你点的是按钮,它开的是门。

具体点:接入前先看权限清单,能不给的别给;能只给一个文件夹的,别给整个云盘;它说为了「更好地服务你」要读全部聊天记录时,先想想这句话是谁写的。自动执行也一样,能关就关,至少设成每一步要你点头。

我自己的判断:以后「这个 agent 能看见什么」会跟「这个 App 要什么权限」一样,成为一句平常的提问。现在不问的人,将来是被问的那一方。

最后补一句:你点的是确认,它执行的是权限,中间隔着的就是别人的账户。门是你开的,锁是别人装的,出了事他们发一句「已修复」——到最后,你连自己哪扇门开着都不知道。

阿里偷偷上了两款新模型,Qwen3.5 值得等吗
下一篇
阿里偷偷上了两款新模型,Qwen3.5 值得等吗
Qwen3.5开源旗舰激活仅17B,本地门槛却在显存
继续下滑 或 点击阅读下一篇
下一篇 阿里偷偷上了两款新模型,Qwen3.5 值得等吗 →
站长照片
“

1

”
联系二维码
微信:扫码加企业微信
邮箱:15611497360@aqq.com
手机:15611497360

私信站长

申请退款