一句话:加州政府这份报告真正想管的,不是 AI 现在有多强,而是它会不会自己给自己加速。据 Jan Leike 在 X 上的点评,报告最有价值的部分,是提出了政府可以调节 AI 发展速度的机制,特别是针对递归自我改进的那一类。这也是我读完最想拆开的一句话——它把监管的焦点从「能力」挪到了「速度」。


先把递归自我改进拆开
划重点:递归自我改进不是一个玄学词,它描述的是一条工序链。模型先改自己的代码,改完再改自己的提示词,再改训练流程;改出来的新版本,回头接着改下一轮。这条链一旦转起来,改进的驱动力就部分脱离了人的手。
说白了,普通迭代是人在改模型:工程师看日志、调参数、发新版本,节奏由人的排期决定。递归自我改进的差别在于改的主体换了——工程师退到验收的位置,改的动作由模型自己发起。
为什么这个区别值得较真?因为迭代速度的上限变了。人在环路里,一轮迭代被作息、评审、上线流程限住;人退出环路,节奏就由算力和调度决定。上限一变,整个治理的时间表都得跟着重算。
据加州政府报告,这份《AI Safety in 2026 and Beyond》是 v2 版本、2026 年 11 月发布。报告把这类循环当成需要提前设防的对象,而不是等出了事再来复盘的对象。这个态度本身,比任何一条具体条文都更值得注意。
速度为什么比能力难测
划重点:能力可以测,速度难测。能力有基准、有分数、有排行榜,跑一遍就有数;速度是一阶导数,得连续测很多次才估得出来,还得保证每次测的都是同一件事。
说白了,测量天然滞后。你测出一个模型在十月初的能力,等分析写完、评审走完、对外公开,模型可能已经又走了两轮。等你看清曲线,那条曲线已经过去了——这就是监管最怕的那个时差。
更难的一层是对象。能力测试的题目是固定的,模型会针对题目优化,这事大家都清楚;速度不是一道题,而是一段过程。你没法用一张卷子测出一个人跑多快,只能盯着他跑。
所以监管者的紧张点,从「你现在多强」挪到了「你多快能变强」。前者是存量,存量可以慢慢谈、慢慢换;后者是斜率,斜率一旦拐弯,留给规则的时间窗口会突然变窄。

政府手里有几档刹车
据加州政府报告,可用的工具大致四类:算力门槛、训练报备、部署审批、披露义务。四类的共同点很明确——都作用在速度上,而不是作用在效果上。
算力门槛是入口控制:训练要用多少机器,就先向谁报备、拿什么许可。好处是可量化,机器数骗不了人;麻烦在于算法效率一直往上走,同样的事需要的机器越来越少,门槛会被技术进步一点点磨薄。
训练报备和披露义务属于信息控制:你未必拦得住,但要求你把计划、把改进过程写下来、交上去。部署审批是出口控制:模型上线之前过一道关,过了才许放出去。
这四档刹车的力度不一样。越靠前的越像限速牌,越靠后的越像年检。报告把它们并列写出来,等于承认一件事:没有任何单独一档够用,只能叠着用。
Leike 为什么单挑这个词
据 Jan Leike 在 X 上的点评,这份报告里有很多精彩内容,尤其有价值的是提出了政府可以调节 AI 发展速度的机制,特别是针对递归自我改进。
他为什么单挑这一条?Leike 出自对齐研究,对齐关心的从来不是模型能不能答对题,而是人在不在评估回路里。递归自我改进恰好就是把这个回路抽走的那一步。
说白了,一个会自己加速的系统,最麻烦的不是预测它跑多快,而是你评估它的速度追不上它改进的速度。评估者一旦落后,后面所有判断都建立在过期信息上。
这也解释了报告为什么谈「调节速度」而不谈「限制能力」:限制能力要先定义什么叫强,还要对抗企业绕开定义;调节速度只需要在过程里设几个阀门,动作更小,争议也更小。

机制写了,刻度在哪
质疑在这里:报告写了机制,没写刻度。什么叫「自我」改进?改代码算,改提示词算不算,改数据配比算不算?一轮的边界画在哪,直接决定速度算出来是多少。
更硬的问题是归一化。速度拿什么做分母?按时间算、按算力算、按能力增量算,三种口径能给出完全不同的结论。分母不统一,「跑多快」就既没法比较,也没法设阈值。
还有验证难题。要持续测速度,就得持续拿到训练过程的记录。企业愿不愿交、交到什么颗粒度、由谁来核,这些是披露义务真正落地时的摩擦点,也是报告最容易写成漂亮话的地方。
对普通读者,这条链最后落到一句朴素的话:你以后用的模型,可能被要求跑慢一点。不是因为不够强,而是因为加速的过程不好测。v2 把问题摆上了桌,刻度还得有人一格一格画出来——在这之前,刹车踩了多深,谁也说不准。