RSI到底是啥?Altman否认一键自我改进

Altman确认自家技术让研发更快,但否认一键自我改进,RSI是谱系

先抛结论:RSI(递归自我改进)不是「模型自己点一下按钮就升级」,而是一条谱系——从轻到重分好几档。据 Sam Altman 在 Semafor 的访谈,他确认用自家技术确实让 OpenAI 的研发更快,但明确否认存在「无人监督、一键让模型自行设计并快速自我改进下一版」的做法。

一句话总结:「更快」不等于「自我改进」。前者是效率问题,后者是控制权问题。Altman 把这两件事分得很开,而这个区分,恰恰是 RSI 这个词最容易被误解的地方。

模型参与训练流水线的示意

模型进入研发流水线

RSI 到底指什么

RSI,Recursive Self-Improvement,中文一般译作「递归自我改进」。说白了,就是模型参与到「造出下一代模型」的整条流水线里,而不是只负责跑一下推理。它不是一盏开关灯,而是一个强度谱系,我把它拆成三档。

第一档,模型当工具人:帮工程师写训练代码、生成评测题、清洗训练数据。人做所有决策,模型只加速执行。第二档,模型当参与者:开始参与打分、评估中间结果,甚至提议改参数。第三档,模型当决策者:自己设计下一代怎么训、用什么数据、目标是什么,然后亲手把下一版造出来。

据 Semafor 访谈口径,Altman 承认第一档已经存在、而且有用,但否认第三档——那个「无人监督、一键自我改进」的状态。他同时说,可以更激进地往谱系后面推,只是现在做不到安全。划重点:他承认的是位置,否认的是跳级。

和「模型自己写代码」是两码事

很多人一听 RSI 就脑补「模型自己写代码」,这两件事差得很远。「模型写代码」是一种能力:你给它需求,它产出代码,跑不跑得起来还得人来验收。这一步里,人掌握着需求和验收两个命门。

RSI 说的是一整个循环:模型产出的新版本,去接管下一轮。区别在于,写代码只是链条上的一环,RSI 是把链条闭合成环。前者是「模型帮你干活」,后者是「模型干完活接着给自己排下一个活」。同样是模型在动,动的方向完全不同。

所以把 RSI 理解成「模型很会写代码」,是个常见误区。会写代码是必要条件,不是充分条件。真正决定是不是 RSI 的,是这一环结束后,谁来决定下一环怎么跑——是人,还是上一环的输出。

方向盘在人手里

「更快」和「自我改进」为何是两件事

Altman 那句「用自家技术研发更快」,翻译过来其实是承认:模型已经进了流水线。写训练代码、出题、筛数据,这些都能省人省时间。但注意,省的是时间,不是判断权。方向、目标、底线,这些关键判断还在人手里。

「自我改进」则是另一回事:判断权也交出去。循环从「人给反馈、模型改」,变成「模型的输出决定模型怎么改」。这两个循环的形状一样,区别只在握着操纵杆的是人还是模型。一旦操纵杆换手,人就从决策者退成旁观者。

这就是为什么「更快」可以大胆推进,「自我改进」得小心。前者再快,方向盘也在人手里;后者一旦转起来,人就慢慢站到窗外去了。Altman 否认的,正是这最后一次换手。

刹车没装好

卡在哪:为什么现在做不安全

说「现在无法安全做到」,外人听着像「技术还没练到」。但真正的卡点,不是算力或能力,是验证与信任。先说验证:怎么证明一个「由上一代模型设计出来的下一代」,还在人类可控范围内?我们缺一个可靠办法。模型越复杂,越难用有限测试覆盖它的全部行为。

再说信任:如果模型开始判断「下一版够不够好」,你必须信任它的判断。可你没法证明这个判断在每一轮迭代里都稳定。它可能这一版通过了所有测试,却在没人看见的方向上,悄悄偏了一寸。累积几轮,偏差就回不来了。

说白了,「不安全」不等于「做不到」,等于「没有可靠的验证和监督手段」。Altman 的话里藏着一个承认:能力也许快到了,验证还没跟上。能力是油门,验证是刹车,油门先踩到底而刹车没装好,这不是安全,是冒险。

我的判断:别急着喊「奇点」,也别不当回事

先纠一个调子。RSI 是谱系,不是开关。把它说成「要么没发生、要么马上爆炸」,是两种典型的误读。真实情况是:谱系前面的档已经在跑,后面的档还卡在验证上。Altman 的表述,基本和这个真实分布对得上。

但这里有个前提:「更安全」的 RSI,前提是验证方法要先于能力跑出来。能力一直在涨,验证如果一直滞后,那每个「更激进」的台阶,都在用没有刹车的状态往上爬。谁先到位,决定这是不是安全的。

所以我的判断分两层。对普通人:别被「一键自我改进」带节奏,那玩意儿 Altman 自己都说还没有;但「研发更快」是真的,模型进流水线这件事,已经在发生。对行业:真正该盯的不是「谁先做到 RSI」,而是「谁先做出能验证 RSI 安全的办法」。能力可以追赶,验证不能靠拍脑袋。方向对了,剩下的只是时间问题——但那个时间,取决于刹车装没装好。

ZDR零数据留存是什么?为什么它不是厂商标签
下一篇
ZDR零数据留存是什么?为什么它不是厂商标签
ZDR是端点属性不是厂商标签,分清客户管理模式与瞬时处理模式
继续下滑 或 点击阅读下一篇
下一篇 ZDR零数据留存是什么?为什么它不是厂商标签 →
站长照片
“

1

”
联系二维码
微信:扫码加企业微信
邮箱:15611497360@aqq.com
手机:15611497360

私信站长

申请退款