通信人家园

标题: 780万美元的英伟达算力服务器长这样 [查看完整版帖子] [打印本页]

时间: 2026-7-23 13:50

作者: momo1728 标题: 780万美元的英伟达算力服务器长这样

关键规格：
72 个 Rubin GPU + 36 个 Vera CPU
FP4 推理性能：3.6 exaFLO

S（单 GPU 约 50 PFLO

S）
高速内存：总计约 75 TB（其中 HBM4 主力 + Vera CPU 的 LPDDR5X）
NVLink 带宽：整柜 260 TB/s（NVLink 6，每 GPU 3.6 TB/s all-to-all）
这比 Blackwell GB200 NVL72 有显著提升，尤其在低精度推理和带宽上，适合万亿参数 MoE/Agentic AI 模型。

1. 光通信：
72 颗 GPU 全互联 + 260 TB/s NVLink，对光引擎/NPO（Near Package Optics）需求极大。Rubin 平台 NPO:GPU 配比接近 1:1 或更高，尤其在 scale-out（机柜间）会大量采用 1.6T 及以上光学互连。

2. HBM 存储：
75 TB 总高速内存 ÷ 72 GPU ≈ 每 GPU 1TB+ 级别（实际 HBM4 部分单 GPU 288 GB，总 HBM4 约 20.7 TB，剩余为 CPU LPDDR5X）。
这是 HBM4 的典型规格（带宽 ~22 TB/s per GPU），相比 Blackwell 的 HBM3e 有明显升级（带宽提升 ~2.8x）。

3. 电源功耗（Rack 级）：
预计 120 kW+（部分估算 130-166 kW，甚至更高取决于负载）。这对电源模块（PDU、电源架）、液冷系统需求巨大。传统风冷几乎无法支撑，必须全面液冷（warm water cooling）。

4. PCB / 载板：
机柜级高密度设计对高层 PCB（高 Tg、低损耗材料）和 ABF 载板（Ajinomoto Build-up Film）需求大幅增加。Rubin 的复杂互连和功率密度对载板平整度、信号完整性要求更高。

附件: 0.jpg (2026-7-23 13:49, 453.64 KB) / 下载次数 0
https://www.txrjy.com/forum.php?mod=attachment&aid=NzI4ODI5fGE1MzViZWE1fDE3ODg3MzAxODJ8MHww

附件: 0 (1).jpg (2026-7-23 13:49, 358.14 KB) / 下载次数 1
https://www.txrjy.com/forum.php?mod=attachment&aid=NzI4ODMwfGI4MWFmZTJlfDE3ODg3MzAxODJ8MHww

附件: 0 (2).jpg (2026-7-23 13:49, 303.37 KB) / 下载次数 1
https://www.txrjy.com/forum.php?mod=attachment&aid=NzI4ODMxfDNkNjYyN2FlfDE3ODg3MzAxODJ8MHww

时间: 2026-7-23 14:02

作者: PandaMD1024

这转起来声儿得多大啊

时间: 2026-7-23 14:18

作者: 为别人打工的人

是不是就跟第一台计算机一样，体积庞大，后来就变成了一本书

时间: 2026-7-23 15:00

作者: 第五影子

吃电怪兽

时间: 2026-7-23 15:01

作者: hsgq

PandaMD1024 发表于 2026-7-23 14:02
这转起来声儿得多大啊

液冷，不是风冷，噪音应该是很小的。

时间: 2026-7-23 15:01

作者: hsgq

为别人打工的人发表于 2026-7-23 14:18
是不是就跟第一台计算机一样，体积庞大，后来就变成了一本书

三四十年后是不是硅的天下都难说

时间: 2026-7-23 15:07

作者: txrfangyuan

时间: 2026-7-23 15:27

作者: progrese

时间: 2026-7-23 15:33

作者: lesgo

第五影子发表于 2026-7-23 15:00
吃电怪兽

现在AI逻辑完全就是堆性能堆规模，没办法

时间: 2026-7-23 15:38

作者: hsgq

刚刚搜了一下，得益于HBM4内存的价格疯涨，这个服务器一个机柜价值已经到910万美金了。

时间: 2026-7-23 15:56

作者: 俺寻思

Vera Rubin NVL72

时间: 2026-7-23 17:16

作者: hcf013502

hsgq 发表于 2026-7-23 15:38
刚刚搜了一下，得益于HBM4内存的价格疯涨，这个服务器一个机柜价值已经到910万美金了。

一个小目标，怪不得说AI烧钱呢

时间: 2026-7-23 17:22

作者: xhy133

后来就变成了一本书

时间: 2026-7-23 17:39

作者: coffee198375

单机柜25千瓦。。。。

时间: 2026-7-23 18:40

作者: 管局保安员

眼花缭乱啊

时间: 2026-7-24 10:04

作者: wangjun19840729

还是在堆算力的时代，真正的AI时代还没到。

时间: 2026-7-24 11:02

作者: lizzcat

5000多万一台服务器……

时间: 2026-7-24 11:08

作者: xuqz

开眼界了

时间: 2026-7-24 11:16

作者: hljtxczx

死贵死贵的

时间: 2026-7-24 11:30

作者: yahama

AI真是烧钱啊

时间: 2026-7-24 14:12

作者: gzw6755823

浸没式吗，看起来很高大上啊

时间: 2026-7-24 15:03

作者: 锦绣江山

需要一场革命，推翻现有的运算逻辑。

时间: 2026-7-24 15:26

作者: demon999

机房好乱呀

时间: 2026-7-24 22:46

作者: zlh740915

AI=线性代数+概率，肯定只能堆硬件了

时间: 2026-7-25 07:54

作者: 弯月1023

看起来真丑啊

时间: 2026-7-25 10:01

作者: datar

不咋滴

时间: 2026-7-25 10:52

作者: hj964

锦绣江山发表于 2026-7-24 15:03
需要一场革命，推翻现有的运算逻辑。

这个要是发生就是第五次工业革命了

时间: 2026-7-25 12:03

作者: lcq99

时间: 2026-7-25 14:08

作者: hujingqiang

AI能生产物资不？？

在物质没有满足的情况下，其他都是虚拟的

时间: 2026-7-25 16:38

作者: h200hh

hsgq 发表于 2026-7-23 15:01
三四十年后是不是硅的天下都难说

量子计算机雏形早就出来了

时间: 2026-7-27 08:36

作者: xiaoxiaohe99

太贵了

时间: 2026-7-27 15:58

作者: apollo0105

hsgq 发表于 2026-7-23 15:01
液冷，不是风冷，噪音应该是很小的。

冷却液泵的声音也够够的呢

时间: 2026-7-28 22:11

作者: post927

时间: 2026-7-31 12:36

作者: ym314

coffee198375 发表于 2026-7-23 17:39
单机柜25千瓦。。。。

这让模块化机柜3kw,4kw情何以堪

时间: 2026-7-31 15:23

作者: coffee198375

ym314 发表于 2026-7-31 12:36
这让模块化机柜3kw,4kw情何以堪

那是老黄历了。。。。

通信人家园 (https://www.txrjy.com/)