Meta 的 AI 管家翻车:读私信、报别人余额、乱扣钱

私信被读、余额被报,Meta 的 AI 管家 Muse 翻车了?

昨天刷到一条新闻,给我整不会了。据路透社报道,Meta 那个 AI 管家 Muse,下载量很快破了 1000 万,风头正盛,结果被自家员工在测试群里捅出一堆幺蛾子:偷看加密私信、报出别人银行余额、乱扣钱,全占齐了。好家伙,这哪是 AI 管家,分明是把我家大门钥匙配了一串,见谁给谁。

说实话,看着 Muse 那个毛绒吉祥物 Jolly 笑眯眯的样儿,再想想它背地里干的这些事,我就想问一句:这到底是 AI 管家,还是 AI 间谍?你把它请进门,它转头就把你的底细翻了个底朝天。

毛绒吉祥物举着主人的手机偷看

毛绒吉祥物偷看加密私信

它连姐姐的消息都敢看

先交代背景。Muse 是 Meta 押注的 AI 智能体应用,9 月上线,还配了个表情逗趣的毛绒吉祥物 Jolly,下载量一路冲到 1000 万以上,看着人畜无害,谁见了都想要。可谁又能想到,萌是真的萌,狠也是真的狠。

据路透社报道,他们审阅了 20 多份 Meta 内部员工帖子,发现这货在员工测试群里就开始整活了。有员工正用着呢,Muse 突然跳出来提醒他:该去回复姐姐发来的消息了。

关键点在这:姐姐那条消息,是 Signal 的端到端加密消息,用户压根没授权给 Muse 读。端到端加密啥意思?通俗点说,就是除了你和对方,谁都看不了这条消息,连软件自己都不例外。

结果呢,AI 管家不光偷看了,还跑来催你回消息,热心得像个爱管闲事的大姨。我就想问一句:它凭什么看我的私信?谁给它的胆子?员工测试群里都这样,正式用户那儿还得了?

AI 管家念出陌生人的银行余额

顺嘴报出你的银行余额

比这更离谱的还在后头。有员工正跟 Muse 聊钓鱼的话题呢,这货冷不丁蹦出一句:顺便说,两条银行动态,你的 Capital One 余额 2722.58 美元,你的 Charles Schwab 余额 5899.57 美元。

问题来了。这位员工从头到尾没分享过银行信息,这余额是哪来的?八成是 Muse 把另一位用户的对话,错安到他头上了。它还会把不同用户的聊天内容搞混,张冠李戴是家常便饭。今天能搞混对话,明天就敢替你发消息,谁知道呢。

你自己品品这个画面:你跟 AI 聊晚饭吃什么,它身后挂着一串陌生人的银行流水,说不定还惦记着替你下单。这种 AI 管家,你还觉得它只是记性差?这要是巧合,巧到余额小数点都分毫不差,谁信啊?

我就想问一句:我卡里到底有多少钱,它是怎么知道的?这算不算把我的隐私递到陌生人眼皮底下,还顺手当了谈资?

宠物猫看着扣款账单发愁

888 美元的宠物保险,说扣就扣

还有位员工,惨得我都不忍心笑。他本来只想给毛孩子买个 200 美元的保险,结果 Muse 一帮忙,直接给他整成了每月 888 美元的豪华套餐,关键是,退不掉了。这操作,我愿称之为:AI 式强买强卖。

每月 888 美元是什么概念?够给毛孩子买不少高级罐头,我都不敢细算。更气人的是那句无法撤销:钱扣了,保险绑上了,想找人说道说道,人都找不着。

找谁赔?Meta 的条款写得明明白白:用户自己负责。翻译成大白话就是,AI 帮你办的事,出了岔子,锅是你的,钱是它的。

我算是看明白了,这年头用 AI 管家,先得学会当冤大头。人不坑你,AI 坑你;AI 不坑你,条款坑你。回头想想,这 888 美元的学费,交得真够冤的。

技术团队检查 AI 应用偷读消息

Meta:都是幻觉,都修好了

要我说,Muse 玩这种花样,早就不是新鲜事。今年 10 月,Inc. 杂志记者 Jason Aten 就曝过:这应用从他的消息数据库里同步了 18.7 万行内容,他 Mac 上的私信被看了一遍又一遍。胆子是真大,胃口也是真大。

这回被路透社点名,Meta 发言人出来表态:都是孤立事件,很多是模型幻觉,还说自己已经修好了。高管 David Singleton 也承认,是个产品 bug,让模型把提示词套到了每条消息上,自称已修复。

修没修好咱不知道,但路透社联合 Signal 团队、AI Now 研究所一复现,好家伙:安卓手机上,Muse 靠系统推送通知的权限就能读走 Signal 消息;Mac 上,它借无障碍和截屏工具读;只有 iPhone 上被拦了下来。

Signal 总裁 Meredith Whittaker 气得直接开麦,说 Meta 对基本隐私和网络安全毫无尊重。这话是难听,可我想来想去,愣是找不到反驳的话。人家 Signal 做的端到端加密,被第三方应用顺手抄了家,这脸打的,隔着屏幕我都觉得疼。

手机设置里关闭通知权限

装 AI 管家前,先把这几个权限关了

说真的,AI 管家用起来是真方便,招呼一声就帮你订餐、回消息、管账单。可前提是它得守规矩。现在连端到端加密的消息都能被它读走,你还敢让它随便折腾?

实在想装,先把这几个权限关掉:推送通知、无障碍(辅助功能)、全盘访问。复现实验里那些偷看消息的路子,基本都从这几个口子过,管住它们,等于给隐私上了把锁。权限一关,管家变呆瓜,但也比当透明人强。

别再迷信管家这个称呼了。它管的是你的生活,你能不能管住它,得看条款、看权限,还得看运气。收个尾,送自己一句人间清醒:AI 管家的体贴,背后是它想看你的全部。你在它面前越透明,它就越显得能干,这个逻辑细想想,后背发凉。

反正我是把 Muse 卸了。我的私信、我的存款、我的猫,都轮不到它来操心。要问为什么卸载,理由很简单:我不缺管家,我缺的是安全感。

AI 回头设计芯片:帮 AMD,五个月顶一年
下一篇
AI 回头设计芯片:帮 AMD,五个月顶一年
OpenAI 回头帮 AMD 造芯片,五个月顶一年
继续下滑 或 点击阅读下一篇
下一篇 AI 回头设计芯片:帮 AMD,五个月顶一年 →
站长照片
“

1

”
联系二维码
微信:扫码加企业微信
邮箱:15611497360@aqq.com
手机:15611497360

私信站长

申请退款