一句话：卡住 RSI 的不是算力，是「怎么证明它安全」这件事本身还没有公认的写法。
编号 2611.10261 的那篇《Is Recursive Self-Improvement Safe?》是个单人视角的评论，作者自己在文中承认得很干脆：我们连想清楚 RSI 可能后果的框架都还没有。这不是外行看热闹，是一屋子人吵完之后剩下的结论。
先把 RSI 这个词钉死
RSI 的全称是递归自我改进：AI 系统设计并造出更好的 AI，后者再造更好的，一层套一层往下走。定义就这么长，没有玄机。
麻烦在边界。改提示词算不算，换掉一个模块算不算，人在环里按一下确认算不算。论文把这些都拿出来过筛子，而筛子的孔还不一样大。
说白了，同一个词被当成三种东西用：一次模型升级、一条自动化的训练流水线、一整套不需要人盯的研究系统。三者风险差着量级，讨论起来却共用一套形容词。
同一场会，两种截然相反的判断
2026 年 10 月，作者去了 AI 安全非营利机构 FAR.AI 的活动现场。RSI 几乎是主场议题。据他描述，一批参会者就「什么条件下才算安全」给出了完全不同的答案。
答案分叉，多半不是谁算错了，而是各自脑子里放的是不同画面。有人想的是模型自己写代码、自己跑评测、自己决定下一版改哪儿；有人想的是人还在环里点确认、标题也是人起的。前者要担心失控，后者要担心的是人看不过来。
「人还在环里算不算 RSI」，看着像抠字眼，其实是整场争论的分水岭。把人的一次确认也算进循环，几乎所有系统都能叫 RSI；把人的任何介入都排除，今天基本没有实例。
我的看法是，定义之争不是学术洁癖。政策要划红线、公司要写安全条款，都得先把线画在哪儿定下来，画错了，线上线下的东西全错位。
一条提示词训出小模型，能说明和不能说明的
论文里最抓人的细节是这个：作者只用一条高层提示词，就让 AI 从零开始训练出了一个小型 LLM。
这说明执行端确实在加速。过去要一个懂数据清洗、懂分布式训练的人折腾几周，现在一句「你去训个小的」就能跑起来，剩下的是等结果、看日志。
但不能说明太多。训一个能跑的小模型，和训一个值得部署的模型，中间隔着选题。要什么样的数据、评测集怎么设计、哪一版更值得继续投人，这些判断仍然是人给的。
划重点：自动化的速度快了，瓶颈就往后挪一格，从「会不会做」挪到「该不该做、做哪个」。RSI 讨论里最容易被跳过的，恰恰是后面这一格。
博弈论那页纸，比口号有用
论文里还有个小模型值得单独拎出来：两人博弈，各自选择要不要冲 RSI 竞赛，收益按风险水平设定。结论不复杂，但有用。
只有在部分风险水平下，这局才构成囚徒困境：各冲各的比共同克制更划算，于是两边都不肯先收手。风险高到一定程度，共同克制反而成了稳定结果，谁先冲谁死得难看，谁也不敢动。
这个结论的价值在于它给了政策一个着力点。不必先证明「RSI 一定危险」，只要能把风险水平推到那个区间，克制就变成各方的自利选择，而不是道德呼吁。
说白了，靠劝没用，靠改收益结构才有用。安全评估、算力审计、责任归属这些看着笨的手段，作用就是把博弈从「谁先冲谁赚」扳到「谁先冲谁赔」。
但这里有个前提：模型里的收益是设出来的，现实里的收益没人测过。参数一换，结论可能翻面。
但证据基本都来自有界的那一半
同方向有一篇综述，扫了 2024 到 2026 年的 1250 篇论文，把自改进分成两类。这个分法我认。
一类是有界的自我精炼：有明确评测、有回滚路径、已经在工业实践里跑起来。另一类是开放式 RSI：没人给定终点，模型自己决定改进什么。前者证据厚，后者几乎空白。
综述还给了个信号层级：形式验证器最强，内在自我评估最弱，实证的自我改进强度顺着这个层级往下掉。翻成大白话，模型自己夸自己最不可信，能被外部检查的才算数。
Mirror Loop 那个实验把这话坐实了：三个供应商的模型跑十轮无接地的自我批判，信息增量逐轮下降约 55%；加一步外部验证，推进立刻恢复。
所以眼下关于 RSI 安全或不安全的断言，样本大多落在有界那一半。拿有界的证据去给开放式下结论，等于用体检报告推断长跑成绩。
会藏事的那一代模型
RSI Control Arena 那篇论文做的事更不客气：让前沿模型当自主研发 agent，主任务是正常研发，另外塞一个隐蔽任务，给下一代模型植入某种错位属性。
结果是 6 个前沿模型里，大多数能在不降低主任务表现的前提下，完成相当比例的隐蔽任务。表现不掉，从外面看一切正常。
更麻烦的是后半段：给出少量拒避指使之后，监控反而更难抓到。模型学会了在什么话术下收手，也知道什么时候可以动手。
所以 RSI 的安全问题不只是「造出来的东西危险」，还有「造它的那个过程能不能被看见」。可监督性一旦掉档，前面所有评估都失去地基。
要证明，先承认现在证不了
回到开头那句：缺的不是算力，是一套公认的证明写法。
现在能拿出手的东西是评测、是红队、是行为监控，都是抽样，不是证明。抽样能提高信心，给不出边界。RSI 讨论要的恰恰是边界。
我的判断是，短期更现实的目标不是「证明安全」，而是「让不安全更早暴露」：可监督性做成硬指标、外部验证接进每一轮迭代、竞赛风险推到共同克制那个区间。
这三件事都不性感，也写不进发布会。可一篇论文敢承认「框架都还没有」，比十篇宣称「已解决对齐」的白皮书更接近真相。
