大模型「土木系」终翻身：AI Infra 年薪冲到 800 万？

2026-11-05 14:05:15 [休闲] 来源：瓜田李下网

“以前 AI 业内把做 Infra、做工程的型土叫‘计算机里的土木系’，干着最脏最累的木系活，拿垫底的终翻钱。谁能想到他们现在这么值钱？年薪”某大模型独角兽高管刘立向雷峰网感慨道。

他抛出一组薪资行情对比：AI Infra 工程岗以前在大厂，大模年包基本到不了 300 万；现在，型土好的木系 Infra 人有能开到七八百万的。比起算法岗（500~1400 万）还有差距，终翻但已经算打了个漂亮的年薪翻身仗。

上市人力资源服务公司科锐国际华南区 AI 业务资深专家卢炳宁，大模也见证了这场狂飙：“2024 年在深圳见一个做 Infra 的型土候选人，他年薪还是木系 30 万；2025 年涨到 50 万；今年一跳槽，直接 100 万。终翻”

这不是年薪个例。

“Infra 人才从独角兽跳去互联网大厂，薪资翻倍的有；从大厂跳去独角兽创业公司，薪酬包能涨到 3 倍左右，不过期权占大头。3 倍属于个例，2 倍更常见。”他补充道。

这轮涨薪的起爆点，是 DeepSeek R1 的发布。

“2025 年初 R1 爆火，让大家看到了 Infra 提升的价值，AI Infra 人才立马被各家模型厂商疯抢，这种状态一直持续到现在。”卢炳宁表示。

然而，薪水翻倍从来不是雨露均沾。当市场的真金白银砸向这群人，究竟是什么在为他们定价？又是哪类 Infra 人，吃到了这轮红利里最肥的那块肉？

“土木系”，凭什么拿高薪？

什么是 AI Infra 人才？

简单来说，AI Infra 人才做的是怎么把昂贵的 GPU 算卡，榨出尽可能高的利用率，实打实替公司省钱。

卢炳宁告诉雷峰网(公众号：雷峰网)，2022 到 2024 这三年，Infra 岗基本是个“配角工种”。

ChatGPT 出来后，国内随即进入“百模大战”和应用尝鲜阶段。资本和团队盯的是两件事：模型效果打平 ChatGPT，尽快跑出 Killer App。关注度也好，高薪也好，都优先给了算法岗和产品岗。

在“先上车再买票”的焦虑下，工程效率的优先级并不高，背后的算力浪费和调度效率问题被暂时掩盖。

“只要集群别崩、账单别炸，就算交差。Infra 工程这类支撑团队的价值，当时被等同于运维，没人当回事。”某大模型实验室算力调度专家张桐坦言。

反转发生在 DeepSeek R1 出来之后。

据卢炳宁回忆，R1 发布后，行业都在琢磨一件事：DeepSeek 就那么点人，却做出了那么好的产品，赚了那么多钱，他们到底是怎么做到的？

后来答案的一部分，落在了 Infra 降本上。

大家发现，大模型推理烧的是真金白银，而且常常把账单烧穿。这时候做 Infra 降本，省下的每一分都是实打实的利润。

于是各家开始盯着 DeepSeek 挖人，薪酬基本都是敞开了聊。

做好 Infra 降本，算力开支能节省上千万

“Infra 现在的角色，就是给厂商省钱。省钱也是在赚钱。”卢炳宁说。

能省多少？据他估算，做好 Infra 降本，算力开支能省下至少几千万的成本。

落到具体方向上，算子是把单张卡榨到极致，推理是把各类资源调度结合起来，做成本优化、提高有效利用率。其中 PD 分离、专家并行、VLLM、SGlang 这几类优化，降本降得最狠。

要知道，大模型公司最贵的开销，几乎都压在这些卡上。

业内流传过这样一笔预算配比：AI 模型公司每投 100 块到 AI 训练上，40 块花在算力，30 块花在人才，20 块打广告，剩下 10 块买数据。

训练一次大模型、跑一晚推理，GPU 集群的采购、租赁和电费，往往吃掉 AI 业务成本的大头，有的公司甚至占到 6 成以上。

可钱花出去，卡却常常在空转。

张桐告诉雷峰网，行业里 GPU 的实际利用率长期偏低，平均只在 25% 到 27%，也就是说买来的算力有一大半没被真正跑起来。

而这，恰是 Infra 人才的用武之地，“同样是这批卡，好的Infra团队能把利用率拉到 40%，这十几个百分点的差距，就是壁垒。”

简单算一笔账：B 卡 8 卡的一套机子，国内现货交割 1300 万，3 个月后的期货大概 1100 万，“但凡省 8 张卡，一千多万就省出来了”。

但省钱只是账面上最直观的一层。更深的一层是，大模型的技术竞赛，已经从拼算法创新，走到了拼底层系统工程的硬仗阶段。

AI行业阶段变了，Infra的价值权重也变了

在算法红利见顶的当下，底层系统工程成了性价比更高的杠杆。“你在 Infra 上抠出一点优化，带来的效率飞跃，远比死卷算法划算得多。”某大模型独角兽资深 AI Infra 工程师周岳坦言。

现在卷算法越来越难，因为大模型技术侧已经变了天。

大模型训练眼下近乎开卷考试。得益于开源模型普及，Transformer 等基础架构走向成熟收敛，行业比拼的重点，已经从基础预训练，转移到工程化落地、推理优化这些环节。

“现在大模型训练里，真正‘非你不可’的创造性工作已经很少了，大部分活就是数据清洗、数据配比实验、工程调优这些。这些活称不上高科技，却能带来真金白银。”周岳补充道。

他还讲了一个“七级老钳工”的例子：

Infra 工程师打开服务器，把光纤和线捋一捋，扎带松开一点别扎太紧，就能让一台服务器快个 10% 到 20%。“这玩意儿你真的讲不通道理在哪里，必须要真的干过才能摸透。”

“Infra 这个岗位，确实已经不是以前那个 Infra 了。”卢炳宁告诉雷峰网，以前 Infra 效益不高，是因为 2023、2024 年大家看的是评测，提升几个点对公司就是正向的，还能借此融到钱。

但现在算法和产品基本成熟了，公司开始转而要每张卡能产生的最大价值。这时候 Infra 带来的收益很容易被量化，价值自然就升上去了。

但价值被重估，不等于人人都涨薪。当市场把高薪砸向 Infra，真正吃到那块最肥溢价的，其实只有一小撮人。

仅 5% 的人吃到了这轮溢价？

看上去，“薪资翻倍”这四个字，已经成了 AI Infra 招聘市场的口头禅。但在 StartLux 联合创始人兼 CTO 郭权玮看来，这更像把少数离群值，错当成了普遍常态。

他的判断有一些数据支撑。

脉脉上的岗位薪资显示，中国大陆 AI Infra 人才月薪大致在 7.3 万元，已经略高于做大模型算法的人。不过，平均数掩盖了内部分化。真正把薪资曲线拉起来的，是那波能把算卡利用率提上去的人；而大量做“普通 Infra”的人，离翻倍还远。

比如，把 VLLM、SGLang 这类推理框架部署到产品上的 Infra 岗位，月薪大多停在 4 万到 5 万，跟“翻倍”不沾边。

更具体来说，谁的薪资在翻倍？

几位受访者给出的答案集中在两个方向：推理优化和模型量化。这类人做的事，正是把每一张 GPU 的算力尽可能压榨到极限。

“如果你帮公司省下 30% 的训练时间，或者多出 30% 的 Token 吞吐，成本就能直接降下一截，就意味着研发产出提高了。”郭权玮补充道。

在他看来，能把算子优化做扎实、把推理引擎的量化做漂亮、把吞吐量真正跑出来的人，薪资翻倍并不过分。

但问题是，这群人并没有想象中的多。

在郭权玮看来，这群人大多是在 Infra 行当里深耕了 5 到 10 年的老兵。他们早年在大型互联网公司做分布式系统、高性能计算、搜索推荐、数据库，起薪本就不低，经验很难被替代。

“你有这 5 到 10 年，才接得住今天 AI Infra 的盘子；一个刚毕业、或者才工作一两年的新人，开口就要两倍薪资，那不科学。”据郭权玮估计，这类真正吃到高溢价的人，在整个 AI Infra 人群里基本只占 5%~10%。

在涨薪分化上，卢炳宁也持类似观点。

他将 Infra 划分成了三块：推理优化加速、训练框架、算子开发。“这三块涨幅都高，但受重视程度有所差别。”

他给了一个通俗的比方：

做算子开发的，就像是在打磨厨具，刀怎么磨最利、锅怎么受热最匀；
做训练框架的，是在搭后厨体系，谁来切菜、谁来掌勺、出错谁顶上；
做推理的，是想怎么出餐最快。一份食谱怎么同时端出 10 道菜、喂饱几千个客人，做变现的环节。

业内一般认为算子和推理更重要，冷热也就这么分出来了。

雷峰网了解到，招聘市场上，训练框架人才的热度相对一般。原因之一是这活太烧钱了，只有头部互联网和云厂商养得起专职团队，而一些独角兽干脆把训练组整个砍掉，只留推理和算子团队。

谁在重金买单：五类买家，五本账

岗位冷热的分化，背后是不同雇主私下的算盘与焦虑。放眼整个行业，愿意为 Infra 溢价买单的“买家们”，大致有以下五类，它们的需求各有不同。

“字节业务体量大，他们要的是能把训练推理调度做稳的人。不管是 Seedance 还是豆包，如果推理工程师能加速 10%，一年省下的算力开支相当可观，投入产出比高得吓人。”前述大模型独角兽高管刘立表示。

腾讯走的是另一条路：早几年基模偏弱，这两年明显在补基模和完整 Infra，引入姚顺雨、单独成立 AI Infra 部门，靠从外部捞成熟团队来补齐。

阿里和百度这类云厂商，则是另一种节奏。上一波云计算和大数据的红利期里，他们就攒下大批搞分布式、做底座的 Infra 工程师，AI 浪潮一来，不少人可以直接转岗补缺。

加上两家都有自研芯片，重心更多放在异构上，招人也成了日常动作，细水长流，很少有把薪资拉爆的狂热。

真正对 Infra 人才需求暴涨的，是字节、腾讯，外加 DeepSeek、Kimi、MiniMax 这些想要把每张卡的效益都榨到极致的独角兽。

一般来说，巨头的排兵布阵讲究正规军兵团作战，一个 Infra 部门通常至少五六十人起步，算子、训练、推理、网络分得跟外科手术室一样细。

而独角兽们，往往走的是“精简特种兵”模型。

它们的 Infra 团队通常二十来号人，偏爱既懂算子底层、又能操盘推理引擎的多面手。架构也比较扁平，一个“全能”技术老大挑大梁，底下带两三个细分方向的顶尖高手，再领着二十来个资深打手，靠极高的单兵作战能力跟大厂肉搏。

最后是一群正在“赌国运”的国产芯片厂商。

“不少国产芯片厂商都已经走到 IPO 阶段，期权眼看能兑现，一些 Infra 人才会抱着‘赌一把、财富自由’的想法跳槽过去。”刘立告诉雷峰网。

虽然芯片厂开出的现金涨幅普遍在 45% 上下，很少能见到大厂那种翻倍的开价，但那张有可能兑现的股票，本身就是个极有诱惑力的筹码。

与此同时，放到底层技术栈上看，英伟达 NV 卡与国产卡这两条路线，溢价差距同样明显。

前述资深猎头卢炳宁告诉雷峰网，熟悉英伟达 CUDA 生态依然是“硬通货”，这类人才跳槽涨幅保底在 80% 以上；国产卡更依赖软硬件协同与复杂的生态适配，涨幅通常在 50% 上下，没 NV 人才那么猛。

不过，受限于外部的限售政策，NV 侧的人才本就不多；而政策又在推动各家采购国产芯片，国产卡这条线上的人，前景反而更有想象空间。

值得一提的是，北美市场对AI Infra人才同样求贤若渴。OpenAI 近期放出的岗位几乎全被推理引擎、GPU 底层算子与性能加速占据，Anthropic 也有十几个对应职位在招。

结语

AI Infra 人才的这波涨薪还能持续多久？这也是很多人关心的问题。

卢炳宁的判断是，这波涨薪，至少还能撑两三年。“现在还处在供不应求的状态，各家厂商基本都在招，薪酬挂得很高。”

之所以还会涨，是因为 Infra 衍生出了很多新业务场景。

通用对话基模这块，国内很多厂商布局得差不多了；但复杂垂直场景的落地，才刚刚拉开序幕。

无论是狂吃算力的 AI Coding，还是对吞吐与延迟要求极高的高清视频生成赛道，全链路的商业化闭环，很多都还没走完。

这些新赛道正在激烈交火，厂商们抢夺人才的战事远未终局。

只要大模型的商业化还在被昂贵的算力账单持续刺痛，那些能在算卡上挤出利润的 Infra 人才，就会继续获得一路走高的薪酬溢价。

▼

大模型「土木系」终翻身：AI Infra 年薪冲到 800 万？

“土木系”，凭什么拿高薪？

仅 5% 的人吃到了这轮溢价？

谁在重金买单：五类买家，五本账

结语

友情链接