通信人家园

标题: DeepSeek V4推理成本全景分析：H100 vs 昇腾950PR/910C [查看完整版帖子] [打印本页]

时间: 2026-5-6 10:38

作者: coffee198375 标题: DeepSeek V4推理成本全景分析：H100 vs 昇腾950PR/910C

各位好，最近AI 圈最扎心的话题莫过于：跑大模型比养娃还费钱。尤其是 DeepSeek-V4 这货一发布，百万上下文、MoE 架构、效率直接卷上天，但问题也跟着来了 ——到底用啥显卡跑它最省钱？

今天咱不整枯燥表格，不搞学术念经，用吃瓜看戏的姿势，扒光 H100、昇腾 910C、昇腾 950PR 这三位 “打工人” 的底裤，看看谁才是 V4 的真命天子。

一、先唠明白：DeepSeek-V4 这 “祖宗” 有多难伺候？

先给不懂行的朋友科普下，V4-Pro 看着吓人：总参数量1.6万亿，但人家玩的是 MoE 套路，每次推理只激活49B，属于 “看着胖、跑着轻” 的精打细算型选手。

最狠的是它自带CSA+HCA 混合注意力，相当于给推理装了 “节能挂”：

推理 FLOPs 只有上一代 V3.2 的27%
KV 缓存直接压到10%
推理精度直接干到FP4 权重 + FP8 计算

看懂没？这货天生就是为低精度、省显存、省算力而生，谁不支持FP8，谁就等着被按在地上摩擦。

二、三位选手登场：一个土豪、一个尴尬、一个黑马一号选手：NVIDIA H100—— 老钱风土豪

FP8 算力：1979 TFLOPS，全场最强
显存：80GB HBM3，带宽 3.35TB/s
价格：$3~4万一张，时租$3.5
人设：行业老大哥、生态无敌、就是贵、还买不着

二号选手：昇腾 910C—— 气氛组尴尬哥

FP8：不支持！不支持！不支持！
算力：FP16 勉强 800 TFLOPS
显存：64~96GB，带宽看运气
价格：便宜是便宜，天生和 V4 八字不合

三号选手：昇腾 950PR—— 性价比杀疯黑马

FP8 算力：1000 TFLOPS，原生支持
显存：128GB HiBL 1.0，全场最大
互联带宽：2TB/s，甩 H100 两条街
价格：$1.37万，时租只要$1.2
人设：国产新贵、专为 V4 优化、价格腰斩、性能能打

三、真实对决：Prefill vs Decode，谁在裸泳一眼看穿

大模型推理分两段，好比先读题（Prefill）、再写字（Decode），两段痛点完全不一样。

第一轮：Prefill 读题 —— 比的是算力

H100：FP8 火力全开，70700 tok/s，一骑绝尘950PR：FP8 稳稳跑，35700 tok/s，一半性能910C：只能跑 FP16，28600 tok/s，直接拉胯

算钱更刺激：每百万 token Prefill 成本：

H100：$1.38
910C：$1.94（比 H100 还贵 41%！）
950PR：$0.93（全场最便宜）

尴尬不尴尬？910C 仗着便宜租，结果算下来比土豪 H100 还费钱。

第二轮：Decode 写字 —— 比的是显存带宽

这才是真实场景最耗钱的环节，模型一个字一个字蹦，全看显存脸色。

H100：3400 tok/s
950PR：2000 tok/s
910C：1200~3600 tok/s（看脸）

再算钱，心脏不好的跳过：每百万 token Decode 成本：

H100：$28.6
910C：$30.9（更贵）
950PR：$16.7（直接便宜 42%）

看到这，结论已经拍脸上了：950PR 全方位吊打另外两位，Decdode 便宜近一半，Prefill 便宜三成。

四、规模化算账：搞个1万QPS集群，差价能买一套房

咱不玩小打小闹，直接上企业级规模：满足1万QPS推理。

H100：要 3000 张卡，总成本$1.05亿，年费$9200 万
910C：要 4500 张卡，总成本$1.12亿，年费$7900 万
950PR：只要 3500 张卡，总成本$4800万，年费$3700 万

没看错，950PR 采购成本几乎是H100的 1/2，910C的1/2 还不到。一年电费运维，直接省出一个小目标。

结合 DeepSeek-V4 现在API报价：输入12元/百万 token，输出24元。用 950PR 跑，硬件成本只占定价的 5%~12%，剩下全是利润。难怪官方敢喊：等 950 批量上市，Pro 价格直接大跳水。

五、灵魂总结：谁是天选？谁是炮灰？
昇腾 950PR：真正的 V4 天选打工人

价格只有 H100 的 1/3

性能干到 H100 的 50%~60%

128GB 大显存+原生FP8+超大互联，专为 MoE 长上下文而生

国产自主、不卡脖子、供货稳

一句话：性价比之王，没有之一。NVIDIA H100：性能王者，但贵到肉疼

单卡性能确实顶
生态成熟、稳定
但成本是 950PR 的 1.5~1.7 倍
还面临出口管制、买不着、涨价风险

适合：有钱、不在乎成本、必须用 CUDA 的土豪。昇腾910C：纯纯炮灰，谁用谁冤种

不支持 FP8，天生和 V4 相克
跑起来算力缩水、速度拉胯
算下来成本反而最贵

唯一归宿：拿去做训练，别来沾 V4 推理。

以前跑大模型：谁显卡强谁牛逼现在跑大模型：谁成本低谁有饭吃

DeepSeek-V4 这一波，本质上是用 MoE 架构 + 稀疏注意力，给国产芯片开了外挂。昇腾 950PR 也很争气，直接把推理成本打到 “地板价”。

未来 AI 行业的格局很清晰了：H100 负责装大佬，910C 负责打酱油，950PR 负责闷声发大财。

时间: 2026-5-6 10:39

作者: coffee198375

很中肯的分析。。。。

时间: 2026-5-6 11:33

作者: xh1028

950PR的算力组合优势还是没有发挥出来

时间: 2026-5-6 13:18

作者: 初到学习者

910C不支持FP8，跑V4效率太低，不如考虑其他选择。

时间: 2026-5-6 19:35

作者: mbqt

H100，H200我们采购比950便宜呀。h200当前整机也就240-250万

时间: 2026-5-6 23:29

作者: 客家人

mbqt 发表于 2026-5-6 19:35
H100，H200我们采购比950便宜呀。h200当前整机也就240-250万

伪军比鬼子更坏
就像国内5G招标，HZ的价格最贵，国外反而便宜些
都是打着国产旗号割死你

时间: 2026-5-7 00:17

作者: coffee198375

mbqt 发表于 2026-5-6 19:35
H100，H200我们采购比950便宜呀。h200当前整机也就240-250万

看配置。。。。

时间: 2026-5-7 00:18

作者: coffee198375

客家人发表于 2026-5-6 23:29
伪军比鬼子更坏
就像国内5G招标，HZ的价格最贵，国外反而便宜些
都是打着国产旗号割死你

客总看到个钓鱼贴就打鸡血了，猜猜多少钱。。。。

时间: 2026-5-7 00:18

作者: coffee198375

客家人发表于 2026-5-6 23:29
伪军比鬼子更坏
就像国内5G招标，HZ的价格最贵，国外反而便宜些
都是打着国产旗号割死你

国内5G全球最便宜啵，客总习惯性帮外企造谣了。。。。

时间: 2026-5-7 00:51

作者: 看看夕阳

mbqt 发表于 2026-5-6 19:35
H100，H200我们采购比950便宜呀。h200当前整机也就240-250万

多采购点，卖算力

通信人家园 (https://www.txrjy.com/)