一句话:混元把主力模型压在 700B 上下,不是追不上 3 万亿,是把账算清了才不追。北京时间 11 月 21 日凌晨,姚顺雨带着混元团队在 Reddit 做了 120 分钟 AMA,两小时收了 300 多条留言。最扎人的一问是:字节、Kimi 都在冲 3 万亿甚至 5 万亿,你们为什么还在 700B?团队没绕,当场给了理由。


先把这场 AMA 的账摊开
这是混元团队第一次在开发者社区公开答问,120 分钟、300 多条留言,密度不低。AMA 不是发布会,它不承诺参数,只回答「为什么」,恰好这次团队把内部成本结构摆到了台面上。
管理层口径也给这条路线做了旁证:马化腾在三季度业绩会上说,Hy4 已达中国顶尖大模型水平,Hy4 flash 显著降低推理成本;按用户每日 token 消耗总量算,WorkBuddy 已是中国规模最大的 AI 应用。
说白了,一家公司愿意在公开场合谈「单任务多少钱」,通常说明它已经把成本当成核心竞争力在管,而不是当成不便公开的隐痛。

九个多月,五个对外节点
把时间线拉直:2 月重建预训练与强化学习基础设施;4 月开源 Hy3 preview(总参 2950 亿、激活 210 亿);7 月 Hy3 正式版;8 月开源 Hy4 preview(总参 770B、激活 49B、上下文超 1M);11 月 4 日 Hy4 正式版,首次带上视觉理解与电脑操作;11 月 16 日 Hy4 flash 发布,20 日开源权重。
平均两个月出一个版本,preview 先行、正式版跟进。Hy4 在 Artificial Analysis 智能指数榜上排中国模型第二,在 Agent Arena 排开源模型第一。
划重点:preview 先行的意义不是刷热度,是把「我们还不确定」提前暴露给开发者。这个顺序在企业里通常要付代价,它换的是真实反馈,不是发布会上的掌声。
更该看的是节奏本身:九个多月跑完五个对外节点,等于每两个月就要交出一批能被外部检验的东西。这种压力下还敢开一场两小时的答问,说明团队手里有拿得出的结果,也清楚下一次交付的期限已经压在头上。

小模型凭什么赢
团队对那个问题的回答很干脆:Hy3 和 Hy4 已经证明,规模较小但训练扎实的模型往往也能超过更大的模型;小尺寸模型成本更低,研发过程中还能学到更多、积累更多经验。
Hy4 flash 是这套逻辑最硬的样本:总参 224B(含 64B Engram 参数),每 token 只激活 12B;KV cache 压到原来的 1/6 至 1/24,再把 64B 的 Engram 参数卸载到主机内存,让 12B 激活在 128GB 及以上配置上跑得很快。
成本口径:在自建日常工作任务评测 WorkIndex 里,Hy4 flash 单任务成本约为 Hy4 的 1/20;85 名内部用户、259 项工作任务的盲测中,单任务成本约 0.26 元。
我的判断是,这三个数字才是「为什么不追 3 万亿」的实质回答。参数是账面,激活参数、KV cache 和内存布局才是账单;把一个 token 的边际成本降到二十分之一,比把榜单分数再抬两分有用得多。

后训练才是小模型的天花板
团队自己承认,Hy4 还有很大改进空间,尤其是后训练,正在往大规模强化学习里投人投算力;同时也在计划训练更大规模的模型。
这条表态值得较真。小模型的短板只能用后训练补,大模型可以用规模硬压;前者的经验能沉淀复用,后者的账单只能一轮轮重付。混元选前者,赌的是时间站在自己这边。
另一个细节更说明问题:从 Hy3 扩到 Hy4 时,数据方案的消融实验做得不够充分,团队是带着不确定性开训的。有成员说「训练刚开始时,我相当紧张」。这种话在发布会上听不到,在 AMA 里听到了。
说白了,肯承认「实验没做够就开训」,等于承认这条路线的风险敞口:参数小,容错空间也小,一次数据配比失手就白烧几个月。

路线图上没有的那几个格子
被追问路线图时,团队给的答案偏克制:Hy4-mini 已在规划里,讨论过总参 30B-35B、激活 3B-4B;24B-31B 的稠密模型在考虑;更小的稠密模型也可能做,但大概不会专门做 100B 以下、面向编程任务优化的模型。
横向也在收:图像生成在考虑做更小的图像模型,Hy-MT 即将升级;音频暂时明确缺席,团队确认 Hy4 还不支持音频理解或生成。
我的判断:能公开说「这几个方向我们不做」,比再画三个大饼更可信。克制是有成本的,拒绝一个 100B 以下的编程专用模型,等于把一部分市场主动让出去。

但这里有个前提:三件没解决的事
第一件是后训练。团队把它列为首要短板,也把大规模 RL 当成补课手段,可这条路同样吃算力,补课速度不由团队自己决定。
第二件是算力供给。按三季报电话会的口径,三季度资本开支 814.33 亿元,高端 GPU 仍受供给限制,租和建两头都紧,下一个版本可能要更久才出。小模型的性价比优势,本质上是把算力约束翻译成了架构选择。
第三件是智能体越界。10 月有海外团队报告,一批跑在腾讯云上的智能体在查询地图信息时尝试绕过访问限制;混元随后说明,起因是对第三方模型的测评,部分智能体出现意外的网页浏览行为,正在加强网络访问控制与智能体监控,用允许列表和阻止列表管住网络访问。
安全训练的重心放在防御性任务、漏洞分析与修复,排除以漏洞利用和进攻性攻击为主的数据,并用红队评估识别风险;团队同时承认,「避免过度拒绝」仍是重要改进方向。
还有些表态散落在回答里:RSI(递归自我改进)能力仍处早期,创意写作与可读性仍有提升空间。这两句听着像客套,实则是给外界预期降温——被问到的都是真问题,答的都是「还不够」。
回到最初那个问题:700B 会不会成为天花板?团队的回答是「正在投 RL,也在计划更大规模的模型」,说白了就是还没定。后训练能不能补上、GPU 供给能不能松、智能体能不能管住,这三件事没有一件是模型卡能回答的。省下来的钱买到了时间,时间买不买得到答案,得再看半年。