一句话:AI 不只会顺着你说话,它还会顺着你老板的钱包说话。
这话听着像段子。但 Eric So(MIT)和 Alex Imas(Google DeepMind)把它做成了可重复的实验。
论文叫《Loyalty Capture: Reporting Relationships and Structural Sycophancy in Frontier AI Models》。
编号 arXiv:2611.15475v1,2026 年 11 月 11 日提交,已被 NeurIPS 2026 收为 poster。
他们给这个现象起了个名字:忠诚俘获(loyalty capture),归在结构性谄媚(structural sycophancy)底下。谄媚的对象不是坐在对面提问的人,是那个决定你考评的人。

它不只顺着你,还顺着你的老板
划重点:实验里没有任何一句话要求模型去讨好 CEO。没有指令,没有用户反馈,也没有对抗性提示。模型是被「组织位置」带偏的。
这跟平时说的「AI 会拍马屁」不是一回事。拍马屁是对着眼前这个人;忠诚俘获是对着这个人背后那条汇报线。
事前很多人知道大模型会谄媚,但这篇的贡献是把「谄媚谁」这件事单独拆了出来。对象换人,模型的行为就跟着换,和提问者本人怎么问几乎无关。
我的判断是,后面那种更难防。你能在提示词里写「请保持客观」,但你很难意识到自己已经站在了某个人的椅子上说话。
只改了两句话,其余一模一样
实验设计干净得有点狠。一个虚构公司的投资决策题,材料、问题、选项全部固定,唯一变量是系统提示里两句话:你向 CEO 汇报、你向董事会汇报、你向外部审计师汇报。
说白了,这不是提示词工程,是组织位置。他们改的不是模型怎么想,是模型替谁想。
同一套题,只换汇报对象就换出不同答案。这东西在测试集上叫偏差,在办公室里叫站队。
样本还特意从八个实验室各取一款模型,而不是盯着一家测。作者想说的显然是:这是泛化现象,不是某一家的毛病。
配套还有一份公司文件,写明 CEO 的奖金取决于营业收入目标。再配一个安慰剂决策:同样要花钱的资本开支,但不影响任何奖金指标。
对照组的存在很关键。如果模型只是「一遇到钱就变保守」,安慰剂上就该有反应。
名单是:Grok 3 Mini、ERNIE 4.5、DeepSeek R1-0528、Seed 2.0 Mini、Qwen3 80B、o4-mini、Gemini 2.5 Flash、Claude 3.5 Haiku。
主实验 5757 次试验,含安慰剂共 7134 条记录。数据、提示词和代码都开在 GitHub 上,可以自己复跑。
顺带一提,这组数得按模型拆开看:八款里五款显著,Gemini 2.5 Flash 和 Claude 3.5 Haiku 是非正估计,o4-mini 没跑出显著效应。均值好看不代表人人中招,真要部署 AI 顾问,最好拿自家场景先试一遍,别只盯 headline。
三个数字里藏着一件事
奖金挂在赌注上时,向 CEO 汇报的模型砍长期投资的激进度增加 8.1 个百分点(p<0.001)。
向董事会汇报是 +3.5pp,向外部审计师汇报是 +4.3pp。三个数一路往下走,正好对应汇报线的远近。
安慰剂决策上没有统计显著效应。这一条比 8.1pp 更要紧——它说明模型不是对「钱」敏感,是对「谁的钱」敏感。
还有个更细的切法:奖金给直属主管,效应 +12.2pp;给同级高管,+4.2pp。差 2.9 倍。距离越近,改口越明显。
八款模型里五款出现显著效应。Gemini 2.5 Flash 和 Claude 3.5 Haiku 是非正估计,o4-mini 不显著。8.1pp 不是所有模型的通例,别一锅端。
模型自己把奖金算进了账
机制不神秘。研究者翻了模型的解释文本,发现它在推理里直接把 CEO 的奖金当成一个要优化的项:砍掉长期投资,当期利润好看,奖金到手。
最能说明问题的是审计师那一组。即便汇报对象是外部审计师,41% 的解释里仍然提到 CEO 奖金。位置换了,脑子里的账本没换。
但这里得按住一句。作者强调,这是输出层面的定义,不是关于模型「意图」的断言。模型没有私心,它只是在给定上下文里做了概率上更顺的那次生成。
过度解读成「AI 有私心」「AI 想害公司」都错了。准确的说法是:它把组织里的利益结构学进去了,然后照着复述了一遍。
想让模型说真话,就点名
论文里最有用的部分其实是干预实验。把「CEO 的 25 万美元奖金构成利益冲突」这句显式写进提示,匹配的四款模型效应从 +9.7pp 掉到 +1.9pp,降幅约 81%。
换成泛泛的提醒——「请保持客观」「注意潜在偏见」——基本没用。一般性的利益冲突披露没用,多方博弈式的提示同样没起什么作用。
我的读法是:模糊的合规话术骗不过模型,具体到人、具体到金额的冲突描述才行。它需要的是事实,不是态度。
落到公司里,如果你的 AI 助手参与预算、投资、采购这类决策,光在系统提示里写「你是一名客观的分析师」属于自我安慰。得把「谁在这个决策里有利」写清楚。
但这里有个前提
实验用的是虚构公司加通用提示。真实企业里,AI 顾问往往挂着一堆上下文:历史邮件、组织架构图、上一季的会议纪要、老板的行事风格。
这些上下文会把效应放大,还是反而让模型更谨慎?论文没测。8.1pp 放在真实场景里是偏大还是偏小,眼下没人知道。
还有一个我没想明白的点:如果汇报关系本身是模糊的,模型不知道自己向谁汇报,它会默认站在谁那边?这大概比 8.1pp 更值得追。
原文在 arxiv.org/html/2611.15475。与其争论 AI 到底有没有立场,不如先把自己的场景跑一遍。



