中国 AI 推理量首次超过训练量:AI 进入“用起来”的阶段

日均词元调用超 175 万亿,推理数据量首超训练量,智能体同时开始“进终端上岗”

中国电子信息产业发展研究院发布的《新域新质创新发展十大趋势》里,藏着一个转折点数字:截至今年 6 月,我国 AI 日均词元调用量超过 175 万亿,推理数据量首次超过训练数据量。同一周还有个信号:深兰科技发布了基于鸿蒙生态的智能体工作手机,让 Agent 从云端对话走进终端执行。

arcades

两个标志性数字

175 万亿 token 是什么概念?往前翻:2024 年初全国日均调用量才 1000 亿,一年多时间涨了 1700 多倍。更关键的是结构变化:推理量超过训练量,说明 AI 的重心正在从“造模型”转向“用模型”。

打个比方:以前是盖房子阶段,钢筋水泥往里堆;现在是入住阶段,每天有人在里面生活、办公、产生价值。行业从“研发投入期”正式切进“规模化应用期”。

推理量超过训练量意味着什么

训练算的是“模型的智商”,推理算的是“模型的工龄”。推理量大,意味着真的有很多人在天天用,而且是用在生产环节里。175 万亿这个盘子,背后是数不清的客服机器人、写作助手、代码工具、企业内部系统在同时干活。

对产业链来说,这信号更直接:算力需求的结构变了。推理侧的芯片、调度、成本优化,会取代“堆卡训练”成为新的投入重点。谁把推理成本打下来,谁就赢下应用市场。

智能体终端在加速

深兰的 Wowoker 工作手机走的是另一条路:把智能体从云上搬到终端,直接执行获客、客服这些业务任务。工信部同周发布了智能体设备入网新规,要给这类设备上身份码。政策、产品、算力,三条线同时动。

智能体和算力都在往“离用户更近”的方向走。云端负责重活,终端负责快活,这个分工正在成型。

gears

我的看法

推理量超过训练量,是我今年看到的最喜欢的一个行业数字。它不吵、不炫,但真实:说明 AI 不是PPT里的故事,是真有人在每天用它换钱、省钱、抢时间。

对个人和中小企业,我的判断很直接:别再纠结哪个模型最强了,赶紧想清楚自己业务里哪件事能交给 AI 天天干。用起来,比什么都强。

下一篇 返回列表 →
作者照片
“

Hi,我是老宋,正在做一些简单AI工具。有需求,请留言。 需求说不清也没关系,聊两句就清楚了

”
联系二维码
微信:扫码加企业微信
手机:13553162121

私信站长

申请退款