3 天把模型搬上 AMD,CUDA 还护得住吗

3天跑通不等于搬完,拆开这笔账看谁在买单

Anthropic 那场 42 分钟的路演视频,我看了两遍。3 天把模型搬上 AMD,听上去像奇迹,其实是把最贵的活外包给了模型。省下的是人肉工时,不是硬件门槛。

据 IT 之家报道,视频「算力策略」那一章说,公司今年第一次接 AMD 的 GPU,以往要几十名工程师干几个月,这回约 3 天、几乎不用人插手,内核几乎 100% 由 Claude 移植或编写。

全篇一图看懂

3 天跑通的是什么,脚注比标题老实

先说结论:跑通的是一个模型在 MI355X 上做 prefill,性能还能看。不是完整训练,也不是全量线上服务。这个限定不是外人挑刺,是路演视频自己打在画面上的脚注。

转发到 X 上之后,「一个模型」「prefill」这些字被裁掉了,只剩「3 天」和「CUDA 完了」。传播只搬最响的那半句,这不是第一次,也不会是最后一次。

打个比方:这不像搬家,像先把一台冰箱搬进新厨房插上电,听见压缩机嗡嗡响,就宣布新家能住人了。冰箱能转,和这房子能不能住一家五口,是两件不同的事。

官方用的词是「可用性能」,这四个字在工程里弹性极大。能跑、不崩、结果对得上,就算可用。离「跑得比原来便宜还稳定」中间还隔着几座山,而视频里吞吐、延迟,一个数都没给。

配图

省下的不是电费,是几十个人的半年

6 到 12 个月、几十名工程师,这是 Anthropic 自己说的以往经验值,厂商口径,没人复核过。这笔钱不写在采购单上,它藏在工资、社保、招聘周期,还有这半年里上不了新模型的机会成本里。

几十个人乘上半年,粗算就是几千到上万人日。按湾区那套人力成本报价,这笔账不比买一批卡便宜。所以 3 天真正打中的是人力预算那一栏,不是硬件那一栏。

AI 接手的正是最脏那段:把算子一个个搬过去、对齐数值、跑通、补测试。这活不体面,但它是所有迁移里最耗人的部分,也最容易被当成「工程师随便搞搞」。

我的判断:被压平的是「第一次跑通」那条曲线,不是「跑得比英伟达便宜」那条。两条曲线差着十万八千里,行业里天天有人把它们当同一条用。

配图

芯片不是门槛,那堆库才是

硬件参数好抄,软件栈不好抄。CUDA 底下压着 cuBLAS、cuDNN 这类库,再往外是 NCCL、NVLink、InfiniBand 拧成一股的整套东西。据 IT 之家报道,迁移成本真正落脚的地方在这里。这些文档里不写,它们只活在踩过坑的人脑子里。

ROCm 和 Triton 都能干活,卡也不是不能用。效率差在一个具体场景:半夜两点报错,工程师能不能在三年前某个论坛帖里找到同一个坑,五分钟解决,还是耗三天。

还有一种成本最难算:招人。能写高性能内核、又熟英伟达那套工具链的人本来就不多,让他们换一套栈重学,等于把最稀缺的产能压在地上摩擦。

所以那句话可以改一下:文档可以一夜之间翻译完,肌肉记忆不行。工具换人只要一次重启,人换工具要缓半年。

配图

谁在为这次迁移买单

背景是 Anthropic 正在 IPO 路演,发行区间每股 70 到 78 美元,算上员工期权估值约 1.26 万亿到 1.41 万亿美元。同一批材料里,它承诺 2027 年上半年起部署最高 2 吉瓦的 AMD 下一代 GPU,据 Gate 新闻报道。

它把 Trainium、TPU、英伟达、AMD 四类芯片当成一个可互换的算力池。这是采购策略,不是技术宣言。池子里有四家,桌上才有四份报价单。

我的判断:能同时压四家价的公司,说「迁移很容易」是划算的;只有一家供应商的公司,说同样的话是给自己找麻烦。同一句话从不同体量的嘴里出来,价钱不一样。

看客记住的是 3 天,签合同的人记住的是 2 吉瓦。一段视频喂两拨人,各取所需。投资人要故事,采购要筹码,工程师要能跑的代码,这三样从来不在同一页上。

什么情况值得迁,什么情况别动

值得迁的:推理量大到卡钱和电费占大头、模型是自己的、有能验收性能的工程团队、还能谈到长约折扣。四条缺两条,这事先放着,别为一句新闻动架构。

别动的:按小时租云卡的、模型不是自己训的、团队不到十个人。省下的工时还不够重写一遍调度和监控,结果卡是新卡,跑得比原来还慢,报表上找不到人背锅。

真要试,给个能落地的动作:挑一个最热的算子,在目标卡上跑通,写单测,吞吐和数值两道门槛都过了,再谈整体迁移。别拿整条推理链去赌一次路演视频。

还有一个更现实的判断:如果你的主力业务对算力成本不敏感,迁移的收益只写在三年规划里,写不进今年这张报表。这种时候还要迁,图的是对供应商的议价权,不是省钱。图哪个,得先想清楚。

丧钟还早,但钟摆动了

到目前为止,Anthropic 没公布 AMD 对英伟达的吞吐、延迟任何对比,3 天对 6 到 12 个月也是公司自报。Mythos 现在只给少数网络安全防御方用,外面的人连复现都做不到。

有分析师的反驳挺实在:跑通不等于规模化,也不等于有成本优势地跑。翻成大白话就是,能打着火不等于能跑长途。

那面墙什么时候真塌,看两件事:AMD 的软件栈能不能让人少踩坑,以及有没有第二家、第三家愿意公开同样的数据。一场路演能算预告,算不了结案。

所以别急着敲钟。这轮真正被杀掉的不是英伟达那堵墙,是「这活得雇几十个人干半年」这句报价。以后这句报不出去了,剩下的账得一张一张重算。

下一篇 AI 十年消灭癌症?业内先泼了盆水 →
站长照片
“

1

”
联系二维码
微信:扫码加企业微信
邮箱:15611497360@aqq.com
手机:15611497360

私信站长

申请退款