102 秒达标,比的不是峰值算力

TPU 用 1.70 分钟训到目标质量,口径得看清

工程师盯着秒表等达标

工程师看榜单与芯片对比

一句话:这次比的不是峰值算力,是「多久达标」

结论先摆出来:MLPerf Training v6.1 这批结果,量的不是谁家芯片的峰值算力高,而是把模型训到预设目标质量要多久。口径换了,整个故事就换了一种讲法。看这类榜,第一件事永远是先问它量的是什么。

一句话:这是计时赛,不是规格赛。Google Cloud 这次一次提交 10 项结果,覆盖第七代 Ironwood TPU 与 NVIDIA Grace Blackwell GPU,既有前沿预训练,也有 MLPerf 首次引入的 agentic 强化学习基准。

最抓眼的一条:8192 颗 Ironwood TPU,用 1.70 分钟达到 DeepSeek-V3 的目标质量。1.70 分钟约合 102 秒,这就是标题里那个数的来历。

但先把边界划清楚。这 102 秒对应的是 DeepSeek-V3 这个模型、MLPerf 设定的那个目标质量、以及那一套特定工作负载。换模型、换目标、换拓扑,这个数就不成立,别顺手拿去做跨场景的类比。

研究员对着图表做标记

划重点:三组数字和它们的口径

第一组,预训练规模。公布的结果 ID 里包含 2048、4096、8192 三个规模的 DeepSeek-V3 跑分。规模往上翻,达标时间跟着往下走,这是这批结果里最该看的一条曲线。

第二组,扩展效率。从基准规模扩到 4096 颗时,扩展效率达到 96%。说白了,芯片数量翻上去,有效算力几乎跟着翻上去,多出来那部分没被通信和等待吃掉。

第三组,对照项。在 Google Cloud 的 A4X Max 实例上,256 颗 NVIDIA GB300 GPU 用 31.96 分钟达到同一个 DeepSeek-V3 目标质量。芯片少一个量级,时间长出近十九倍,但这是两套不同配置,不是同一把尺子的换算。

三组读下来有个共同点:它们量的都是「达标时间」。MLCommons 给 MLPerf Training 定的度量口径就是这样——把模型训到预设目标质量所需的时间,而不是峰值算力。口径一换,最优解跟着换,这才是理解这批结果的关键。

机房成排机柜指示灯亮起

九成六的扩展效率,是怎么做到的

96% 不是天上掉的。Google 的说法是,这些结果来自 AI Hypercomputer 架构下芯片、网络、开放软件的协同设计。三个词单看都普通,凑在一起才值钱。

拆开看,训练大模型时被浪费的时间无非几处:梯度在芯片之间传得慢、存储喂不上、调度排队、故障重启。集群越大,这四处漏得越凶,所以扩展效率通常是一条往下走的曲线。任何一处掉链子,加卡就是加钱。

能在大规模上还守住 96%,靠的不是单颗芯片快。芯片快只决定起点,互联带宽、拓扑设计、软件栈的调度效率,才决定你加到第几千颗时曲线还肯不肯平着走。起点高、斜率掉得快,最后一样白搭。

换句话说,这条数字证明的是系统工程能力,不是某一颗芯片的跑分。这也解释了 Google 为什么反复强调「协同设计」——单卖芯片,这个成绩解释不通;卖整套集群,它才说得圆。

程序员写代码同时看屏幕

Agentic RL 这个新科目,才是真信号

比 102 秒更值得盯的,是这次新开的那门科目。MLPerf Training v6.1 首次引入 agentic 强化学习基准,Agentic RL 第一次进了榜。新科目第一次上榜,通常比老科目的名次更能说明方向。

Google 在这个科目上交的卷:640 颗 Ironwood,跑 Qwen3.5-397B,18.02 分钟达到代码基准的目标准确率,得分 0.765,目标是 0.69。数字不算夸张,但过了线。

为什么说这才是真信号?因为它的工作负载形状和预训练完全不同。代码生成和模型学习同时进行,芯片得一边等生成、一边等权重更新,空转的窗口到处都是。素材给的数字是:训练芯片等待时间不到 3%。

说白了,这个科目量的不是「训得多快」,而是「在必须来回等待的活里,能不能把空转摁住」。这一项守不守得住,直接决定强化学习这条路在集群上是省钱还是烧钱。等待时间不到 3% 这个数,含金量就在这里。

但这里有个前提:同场竞技不等于同价竞技

前面那些数字都成立,但有个前提得摊开说:MLPerf 测的是时间,不是钱。榜上没有价格,没有功耗,没有折旧,也没有你机房的电费和排队。

所以「1.70 分钟对 31.96 分钟」这种读法要收着点。芯片数量、实例类型、互联拓扑、软件栈全不一样,这是两套配置各自跑出的最好成绩,不是同一条件下的逐项对照。

另一头也值得看一眼:Google 另有五项 A4X 与 A4X Max 的提交,集中在 agentic 任务上。这说明 GPU 侧的火力同样在往新科目挪,不是只在预训练那条线上较劲。

给个结论。这次榜单真正坐实的是两件事:训练基准的度量已经从「谁算力高」挪到「谁达标快」,agentic 强化学习成了必须交卷的新科目。至于谁的每块钱更划算,得等带价格口径的对比出来才好下判断。这笔账,我不替任何一方算。

一台拔了网线的机房里,小模型开始自己查账
下一篇
一台拔了网线的机房里,小模型开始自己查账
小模型能自己查文件之后,数据可以不出门了
继续下滑 或 点击阅读下一篇
下一篇 一台拔了网线的机房里,小模型开始自己查账 →
站长照片
“

1

”
联系二维码
微信:扫码加企业微信
邮箱:15611497360@aqq.com
手机:15611497360

私信站长

申请退款