算力账单，是 AI 公司最不敢打开的报表——打开之前，先深呼吸三秒。这篇博客来自 Thinking Machines Lab，作者 Jack Cook，讲的事很朴素：训练全程用 4-bit。翻译成商业语言：他们把 AI 的开销实打实压下来了，而且模型质量没怎么掉。
反常识的地方在这：大家聊 4-bit，聊的基本是推理端压模型，先练好再减肥。人家直接把训练本身搬上 4-bit——相当于运动员不训练、直接上场。听着像找死，结果 Inkling 2 Small 成了目前已知最大的「端到端原生 4-bit 前向」训练模型。
4-bit 不是压缩，是另一套数学
先拆个词。外人看 4-bit，以为是精度问题：位数少，算得糙。错。训练里的 bit，本质是存储和搬运的成本。NVFP4 比 BF16 少 3.6 倍的 bit，数据搬得少，机器就轻松；在 GB300 上跑前向，比 BF16 快至 6 倍。精度是面子，账单是里子。
说白了，这不是把 BF16 的活硬塞进 4-bit 的鞋里，而是从头按 4-bit 的体格设计整个训练。鞋小脚大必然出血，从头量脚做鞋才走得动。「端到端原生」几个字的含金量就在这——不是减肥后的身材，是天生瘦。
还有个细节：卡与卡之间的通信也量化了。大规模训练里，成群的卡一起抬大旗，传数据经常比算本身还贵。传输也压成小 bit，等于把货运从空运改拼车。每省一秒通信，都是省下来的折旧和电费。
还有个容易忽略的：bit 少了，权重在显存里占的位置也少了，过去非得拆到多卡上跑的模型，现在单机就能塞下。GB300 NVL72 是按机架算生意的，模型能不能塞进一个机架，直接决定训练的起步价。这种优势买不到，只能靠算法设计挣。
前向反向各用一种精度
博客给了一张挺诚实的取舍表：前向用 NVFP4，反向用 MXFP8。为什么不一刀切？因为这两步怕的病不一样。前向是「把答案算出来」，最怕误差大，所以敢上更狠的 4-bit，冲速度和显存；反向是「把错误传回去」，最怕偏。
为什么反向怕偏？量化偏置会跨层、跨步一路累积，单步看不出来，攒起来就能把梯度带偏方向。所以反向用 MXFP8，再配重量化和随机舍入，专门压梯度偏置。你管这叫双精度，商业上这叫把钱花在刀刃上，剩下的地方，凑合。
这套配方还有个省事的地方：Inkling 2 Small 从预训练第一步到最终 RL rollout，全程同一套数值配置，不用在交付量化 checkpoint 时再跑一遍校准。省掉的不只是工序，还有那摊子校准玄学。
博客的取舍表还藏着一层意思：预训练阶段前向最重，追求最小化误差；RL 阶段采样最重，追求速度和内存，因为每个采样 token 都得从显存读权重。两边需求看着相反，其实都指向同一个方向——bit 越少越好。同一套配置能跑全程，就顺理成章了。
68 小时训完一个模型意味着什么
数字放这：几个月前，同尺寸模型训练要数周；现在，68 小时，在 GB300 NVL72 机架上把预训练跑完。周和天之间差着的不只是时间——是折旧、电费，还有排队等机器时，竞争对手悄悄跑掉的领先。
效果方面：在最大任务上，相比全 MXFP8 训练，预训练 wall-clock 提速 8%，RL 提速 20%。注意参照系：这已经是「比全 MXFP8 再快多少」的题目，不是「比 BF16 快多少」。越往下挖金子越亮，这句老话总算在算力上应验了。
RL 那 20% 值得多看一眼。强化学习采样时，每个 token 都要从显存里把权重读出来，读得多，bit 就值钱；bit 少，读得快。对做 agent 的团队来说，采样就是在等外卖，这 20% 是实打实的迭代速度。
换个角度算账：训练机架跑数周，机位就是钱，排队就是亏。当别人还在等机位，你已经把模型跑完、上线、收完反馈。时间差在「训练大模型」这件事上不值钱，在 agent 时代，就是生与死的距离。
算力税降了，谁先受益
训练成本曲线被压弯了，谁先笑？先笑的是大厂：他们本来就在 GB300 这类机器上卷，预训练缩到 68 小时量级，同样预算能多试两轮想法。实验室的试错成本，从「要不要立项」降到了「要不要跑一晚上」。
跟着笑的是中型实验室。「从头训一个大模型」过去是报价单上的劝退项，现在地板价被往下拽，小团队第一次敢把它写进预算。以前买不起整条街，现在租个门脸，也够摆货了。
至于卖 GPU 的？人家笑得方向相反——训练越快，同样预算买到的机时越多，需求曲线整体右移。算力税降了，真正赚的是造机器的那位。这也是博客语气克制的原因：它只讲自己省了多少，行业读到的是请柬。
普通人什么时候能感觉到？大概率是某天某个 App 突然变聪明了，而你在账单上看不出任何区别。省下的钱从来不会回到付账的人口袋，只会让他们下次付账时拿到更新的东西。商业史里，进步的标准姿势一直如此：账单变矮了，世界没变矮，但你买得起的，变多了。
