通信人家园

标题: 780万美元的英伟达算力服务器长这样  [查看完整版帖子] [打印本页]
时间:  2026-7-23 13:50
作者: momo1728     标题: 780万美元的英伟达算力服务器长这样

0.jpg

0 (1).jpg

0 (2).jpg

关键规格：
72 个 Ru­b­in GPU + 36 个 Ve­ra CPU
FP4 推理性能：3.6 ex­a­F­L­O­S（单 GPU 约 50 PF­L­O­S）
高速内存：总计约 75 TB（其中 HBM4 主力 + Ve­ra CPU 的 LP­D­DR5X）
NV­L­i­nk 带宽：整柜 260 TB/s（NV­L­i­nk 6，每 GPU 3.6 TB/s all-to-all）
这比 Bl­a­c­k­w­e­ll GB200 NVL72 有显著提升，尤其在低精度推理和带宽上，适合万亿参数 MoE/Ag­e­n­t­ic AI 模型。

1. 光通信：
72 颗 GPU 全互联 + 260 TB/s NV­L­i­nk，对 光引擎/NPO（Ne­ar Pa­c­k­a­ge Op­t­i­cs） 需求极大。Ru­b­in 平台 NPO:GPU 配比接近 1:1 或更高，尤其在 sc­a­le-out（机柜间）会大量采用 1.6T 及以上光学互连。

2. HBM 存储：
75 TB 总高速内存 ÷ 72 GPU ≈ 每 GPU 1TB+ 级别（实际 HBM4 部分单 GPU 288 GB，总 HBM4 约 20.7 TB，剩余为 CPU LP­D­DR5X）。
这是 HBM4 的典型规格（带宽 ~22 TB/s per GPU），相比 Bl­a­c­k­w­e­ll 的 HBM3e 有明显升级（带宽提升 ~2.8x）。

3. 电源功耗（Ra­ck 级）：
预计 120 kW+（部分估算 130-166 kW，甚至更高取决于负载）。这对电源模块（PDU、电源架）、液冷系统需求巨大。传统风冷几乎无法支撑，必须全面液冷（wa­rm wa­t­er co­o­l­i­ng）。

4. PCB / 载板：
机柜级高密度设计对高层 PCB（高 Tg、低损耗材料）和 ABF 载板（Aj­i­n­o­m­o­to Bu­i­ld-up Fi­lm）需求大幅增加。Ru­b­in 的复杂互连和功率密度对载板平整度、信号完整性要求更高。



附件: 0.jpg (2026-7-23 13:49, 453.64 KB) / 下载次数 0
https://www.txrjy.com/forum.php?mod=attachment&aid=NzI4ODI5fDA0YTJkMjE1fDE3ODQ4MjcwMTZ8MHww

附件: 0 (1).jpg (2026-7-23 13:49, 358.14 KB) / 下载次数 0
https://www.txrjy.com/forum.php?mod=attachment&aid=NzI4ODMwfDUzNjJmNDMxfDE3ODQ4MjcwMTZ8MHww

附件: 0 (2).jpg (2026-7-23 13:49, 303.37 KB) / 下载次数 0
https://www.txrjy.com/forum.php?mod=attachment&aid=NzI4ODMxfDZhYjI2N2Y0fDE3ODQ4MjcwMTZ8MHww
时间:  2026-7-23 14:02
作者: PandaMD1024

这转起来声儿得多大啊
时间:  2026-7-23 14:18
作者: 为别人打工的人

是不是就跟第一台计算机一样，体积庞大，后来就变成了一本书
时间:  2026-7-23 15:00
作者: 第五影子

吃电怪兽
时间:  2026-7-23 15:01
作者: hsgq

PandaMD1024 发表于 2026-7-23 14:02
这转起来声儿得多大啊

液冷，不是风冷，噪音应该是很小的。
时间:  2026-7-23 15:01
作者: hsgq

为别人打工的人 发表于 2026-7-23 14:18
是不是就跟第一台计算机一样，体积庞大，后来就变成了一本书

三四十年后是不是硅的天下都难说
时间:  2026-7-23 15:07
作者: txrfangyuan

时间:  2026-7-23 15:27
作者: progrese

时间:  2026-7-23 15:33
作者: lesgo

第五影子 发表于 2026-7-23 15:00
吃电怪兽

现在AI逻辑完全就是堆性能堆规模，没办法
时间:  2026-7-23 15:38
作者: hsgq

刚刚搜了一下，得益于HBM4内存的价格疯涨，这个服务器一个机柜价值已经到910万美金了。
时间:  2026-7-23 15:56
作者: 俺寻思

Vera Rubin NVL72
时间:  2026-7-23 17:16
作者: hcf013502

hsgq 发表于 2026-7-23 15:38
刚刚搜了一下，得益于HBM4内存的价格疯涨，这个服务器一个机柜价值已经到910万美金了。

一个小目标，怪不得说AI烧钱呢
时间:  2026-7-23 17:22
作者: xhy133

后来就变成了一本书
时间:  2026-7-23 17:39
作者: coffee198375

单机柜25千瓦。。。。
时间:  2026-7-23 18:40
作者: 管局保安员

眼花缭乱啊



通信人家园 (https://www.txrjy.com/) Powered by C114