它一边警告 AI 会失控,一边让 AI 帮它造 AI

四分之一研究已交给 Claude,按推算 2027 年底它将全包

AI 自我加速研发

先把这组数字摆上台面

结论先放这:Anthropic 正在用 AI 造 AI,进度条已经拉到四分之一。25% 的研究工作由 Claude 完成,这是内部人在公开场合报出来的数,不是旁人猜的。

据前 Anthropic 研究者 Jacob Coxon(他也在 OpenAI 待过)在 YC 首场辩论里的推算,Anthropic 的研究者现在从 AI 那里拿到大约 4-5 倍的加速,这个数字大约每 3 个月翻一番,外推到 2027 年就是 100 倍。

他说得更直白:照这个趋势,到 2027 年底,Claude 将承担 Anthropic 的全部 AI 研究。这是科幻片里才有的设定,如今写进了内部人给的时间表。

4-5 倍、翻一番、100 倍,这组数字听着像财报 PPT 上的增长曲线。真正扎心的是「用 AI 加速开发 AI」这件事已经在真实发生,只是没人想清楚它意味着什么。想完这一层,再往下读只会更睡不着。

无人工厂流水线

研发翻倍的第一现场

比预言更近的实证,来自审计机构 METR 2026 年 11 月 5 日发布的报告:Anthropic 的 AI 研发进度因为 AI 的研究能力「大约翻了一倍」。这不是规划里的目标,是审计出来的既成事实。审计出来的数字,比任何发布会都硬。

打个比方:一家造车的厂子,发现自己造的机械臂已经能自己装车、自己调漆,干活的进度比人工快了一倍。老板的第一反应不该是算产能,而该想想:车间里还剩几个岗位,是给活人留的?

站内前天刚写过 AI 干了 OpenAI 一半的活、一天烧 2400 美元,昨天写过 Perplexity 用 16 个智能体打工。到今天这条消息,三件事放一起看就不是巧合了:一条流水线正在成形,AI 在替公司打工,公司拿报表当汇报。同一台戏,换了主角而已。

那个叫「自动化研发」的信号灯

警示灯与指示牌

那个叫自动化研发的信号灯,英文 Automated R&D——本来是各家科技公司自己立的规矩:研发效率快到某个阈值,必须停下来重新评估。据 METR 报告,Anthropic 研发翻倍这个速度,已经撞上了那道自己设定的阈值。

阈值是自己定的,测量是自己跑的,要不要拉闸也全是自己说了算。这套流程最大的优点是体面,最大的问题是:全程没有第三个部门在场,连个旁听的都没有。体面的流程,往往比严格的流程更常见。

我的第一个判断:把「开发 AI 的进度」当成公司内部的安保指标,本身就是一种乐观。好比酒驾的人给自己设了个吹气阈值,吹完宣布没超。红灯是装饰,油门是刚需,谁信谁天真。

白纸上的签名

安全承诺跟没有之间,只隔一张纸

更关键的几个字在报告里写着:那套「负责任扩展政策」并不具约束力。翻译成大白话:这份安全承诺跟没有之间,只隔了一层纸,而那层纸还是自己写的。

一边是创始人反复警告:比人更聪明的 AI 理论上可能失控,甚至「可能杀掉所有人」;另一边是公司刚在纳斯达克上市,募资 813 亿美元,首日收涨 17%,市值约 1.76 万亿美元。史上最大 IPO 的牌面,和一行「不具约束力」,挂在同一个门牌下面。

使命声明说要做出「比人更聪明」的 AI,实际动作是用 AI 加速自己的研究。警告归警告,油门归油门,这两句放在同一页里读,讽刺感拉满。嘴上是刹车,脚上是油门,这种姿势谁都见过。

创始人讲过的担忧不必当成假话,但也不必当成承诺书。真诚的恐惧和上市路演的修辞,可以同时长在一张嘴上。更麻烦的问题不是他信不信,是这套流程里没人有权力要求它慢下来。

监控室空荡的座椅

没人看着的那台机器

对着「谁在造 AI」这个问题,我更想多问一句:谁在看着 AI 造 AI?按 Coxon 的推算,到 2027 年底,Claude 要全权负责 Anthropic 的全部研究——那等于把图纸、方向盘和质检章,一起交给出厂的产品。

这不是阴谋论,是数字推到尽头的必然:从 25% 到 100%,中间站着的不是更多的工程师,而是更少的追问。研究越快,能抽身问一句「这方向对不对」的人就越少。工具越顺手,越没人愿意当那个喊停的旁观者。

我的第二个判断:对齐和安全这件事,最缺的从来不是技术方案,而是那个站在流水线旁边、不跟着流水线一起加速的旁观者。环顾四周,这个岗位目前像是空缺的,招聘页上也没挂出来。

账本还没到能结算的时候

有人会说,研发翻倍、IPO 破纪录,账面上全是好事。账还没算完:用 AI 造出来的 AI,谁来验货?谁来确认它还听话?这道题现在没有标准答案,也没有人签字。更麻烦的是,连出题的人都在加速,留给答题的时间越来越少。

4-5 倍的加速是喜报,也是倒计时。每翻一番,留给人想清楚的时间就少一轮。等 2027 年底那个 100% 真到了,再讨论「要不要」就晚了,只能讨论「怎么办」。翻倍不会自己踩刹车,能踩刹车的只有人。

账本还没到能结算的时候。别急着替它写结局——油门踩得越响,越该有人盯着后视镜里那台越追越近的机器。

苹果要自己做替你点鼠标的 AI 了
下一篇
苹果要自己做替你点鼠标的 AI 了
苹果在招人做会操作电脑的 agent,同时收紧第三方权限
继续下滑 或 点击阅读下一篇
下一篇 苹果要自己做替你点鼠标的 AI 了 →
站长照片
“

1

”
联系二维码
微信:扫码加企业微信
邮箱:15611497360@aqq.com
手机:15611497360

私信站长

申请退款