通信人家园

标题: 黄仁勋夸爆的华为AI超节点 [查看完整版帖子] [打印本页]

时间: 2025-6-19 11:01

作者: coffee198375 标题: 黄仁勋夸爆的华为AI超节点

6月15日，华为联合硅基流动发布论文《在华为CloudMatrix384上提供大语言模型（Serving Large Language Models on Huawei CloudMatrix384）》。据论文报告，在DeepSeek-R1模型的评估中，应用于华为AI超级节点CloudMatrix384的昇腾910C NPU可实现赶超英伟达H800 GPU的计算效率。

CloudMatrix384是华为于2025年4月发布的AI超级节点，是其下一代AI数据中心架构CloudMatrix的首次生产级落地。CloudMatrix384集成384颗昇腾910C NPU和192个鲲鹏CPU，通过超高带宽、低延迟的统一总线（UB）网络互连，从而有效解决传统数据中心架构中常见的可扩展性和效率挑战。

基于CloudMatrix384，华为推出了CloudMatrix-Infer服务解决方案。对DeepSeek-R1模型的广泛评估表明，华为CloudMatrix-Infer的计算效率可超过英伟达H800的表现。

CloudMatrix-Infer在预填充阶段为每颗NPU提供6688tokens/s吞吐，在解码期间为每颗NPU提供1943tokens/s吞吐，同时始终保持每个输出token低于50ms的低延迟。对应的预填充阶段计算效率达4.45 tokens/s/TFLOPS，解码阶段1.29 tokens/s/TFLOPS，这超过了NVIDIA H100上的SGLang和H800上的DeepSeek等领先框架的公布效率。

这样的成绩，也印证了前不久英伟达CEO黄仁勋的判断：虽然（如任正非所说）美国芯片技术比华为领先一代，但人工智能是一个并行问题，如果每台计算机的性能不够强，那就用更多的计算机，华为可以满足中国乃至更多市场的大模型需求。

华为的CloudMatrix架构愿景从零开始重新构想AI数据中心基础设施。通过拆除传统的孤立设计，它支持通过统一的超高性能网络实现CPU、NPU、内存、NIC和其他资源的完全点对点分解和池化，从而为可扩展的AI原生数据中心奠定基础。

时间: 2025-6-19 11:03

作者: coffee198375

既然暂时无法做到单一部件的领先性，那就追求整体系统的先进性，和当年钱老的思路一致。。。。

时间: 2025-6-19 16:23

作者: zzandss

这个是真厉害了

时间: 2025-6-19 18:08

作者: 客家人

zzandss 发表于 2025-6-19 16:23
这个是真厉害了

阿黄很懂人情世故

时间: 2025-6-19 18:30

作者: 狼人克星

客家人发表于 2025-6-19 18:08
阿黄很懂人情世故

客总如丧考妣

时间: 2025-6-19 18:39

作者: Vladimir_lenin

客家人发表于 2025-6-19 18:08
阿黄很懂人情世故

笑死，连我“朋友圈”都有拎着硬盘去新加坡训练的安利了，老黄海搁这吹呢···
蛮好的

时间: 2025-6-19 19:56

作者: axuan

黄老爷的墙角是被狠狠的锄了一镐头

时间: 2025-6-19 21:11

作者: hotheart

Vladimir_lenin 发表于 2025-6-19 18:39
笑死，连我“朋友圈”都有拎着硬盘去新加坡训练的安利了，老黄海搁这吹呢···
蛮好的

跪安罢

时间: 2025-6-20 07:28

作者: hhkkll2015

Vladimir_lenin 发表于 2025-06-19 18:39:24 笑死，连我“朋友圈”都有拎着硬盘去新加坡训练的安利了，老黄海搁这吹呢···蛮好的

拿硬盘到新加坡可以规避美国的制裁吗？好像不行吧。

时间: 2025-6-20 08:29

作者: 清河人

Vladimir_lenin 发表于 2025-6-19 18:39
笑死，连我“朋友圈”都有拎着硬盘去新加坡训练的安利了，老黄海搁这吹呢···
蛮好的

你比老黄懂呀

时间: 2025-6-20 09:24

作者: Vladimir_lenin

清河人发表于 2025-6-20 08:29
你比老黄懂呀

wish you good` 真有实力，你也晒宾利···

时间: 2025-6-20 15:50

作者: coffee198375

Vladimir_lenin 发表于 2025-6-19 18:39
笑死，连我“朋友圈”都有拎着硬盘去新加坡训练的安利了，老黄海搁这吹呢···
蛮好的

蛙总朋友圈这么low的吗。。。。

时间: 2025-6-20 15:50

作者: coffee198375

Vladimir_lenin 发表于 2025-6-20 09:24
wish you good` 真有实力，你也晒宾利···

晒蛙。。。。

时间: 2025-6-20 15:51

作者: coffee198375

客家人发表于 2025-6-19 18:08
阿黄很懂人情世故

客总回复这么弱的吗。。。。

时间: 2025-6-21 00:27

作者: 狼人克星

Vladimir_lenin 发表于 2025-6-19 18:39
笑死，连我“朋友圈”都有拎着硬盘去新加坡训练的安利了，老黄海搁这吹呢···
蛮好的

蛙总朋友圈一如既往得low

时间: 2025-6-21 08:33

作者: Vladimir_lenin

狼人克星发表于 2025-6-21 00:27
蛙总朋友圈一如既往得low

low不low你一外人怎么好判断呢...
做五毛钱生意和在大公司打螺丝完全不一样的好伐

时间: 2025-6-21 10:52

作者: 一日囚

川建国同志一方面把美国搞乱，一方面禁止优势技术出口中国，给中国相关产业市场空间和成长机会，好同志啊。
如果英伟达完全不受限制的在中国销售，肯定严重挤占国产智算产品的市场空间，市场空间小了，收入减少、各种场景验证和催熟的机会也少了，中国自己相关产业的技术成长就缓慢。
现在给了市场空间，中国又有像华为这种研发能力特别强，认定一个方向又敢于大力投入的企业，继续高速成长的话，未来英伟达的海外市场可能都受影响，多了个强力竞争对手。

时间: 2025-6-21 12:30

作者: 五星级用户

有点像美国五角大楼，去国会上大吹中国威胁论要到更多预算。吹一波华为也很先进，自己的产品就能让美国放行更多卖到中国了。吹虚对手成就自己，双赢！

时间: 2025-6-21 12:53

作者: axuan

那么问题来了我们有没有这样的操作毕竟么大家都是搞钱的

时间: 2025-6-21 13:35

作者: 狼人克星

Vladimir_lenin 发表于 2025-6-21 08:33
low不low你一外人怎么好判断呢...
做五毛钱生意和在大公司打螺丝完全不一样的好伐

你low嘛，经常语出惊人得low，物以类聚

时间: 2025-6-21 22:34

作者: coffee198375

axuan 发表于 2025-6-21 12:53
那么问题来了我们有没有这样的操作毕竟么大家都是搞钱的

您随意。。。。

时间: 2025-6-24 10:10

作者: 马云的云

Vladimir_lenin 发表于 2025-6-19 18:39
笑死，连我“朋友圈”都有拎着硬盘去新加坡训练的安利了，老黄海搁这吹呢···
蛮好的

老黄必须吹啊，毕竟领着硬盘出国终究不如直接卖卡进来方便。

时间: 2025-6-24 10:11

作者: 马云的云

五星级用户发表于 2025-6-21 12:30
有点像美国五角大楼，去国会上大吹中国威胁论要到更多预算。吹一波华为也很先进，自己的产品就能让美国放行 ...

看来英伟达内部成立了战忽事业部。

时间: 2025-6-24 10:12

作者: 马云的云

hhkkll2015 发表于 2025-6-20 07:28
拿硬盘到新加坡可以规避美国的制裁吗？好像不行吧。

当然可以。

时间: 2025-6-24 11:33

作者: Desla的马甲

马云的云发表于 2025-6-24 10:11
看来英伟达内部成立了战忽事业部。

我看，21世纪前20年，章家敦才是最大的战忽大拿。中国必须感谢他。
现在我看川普可以继承了。继续忽悠中国没有创新。只要卡了中国新技术脖子，中国技术就停滞了。当然台蛙那边也挺能忽悠的，比如对各种中国的旅游视频直播都是一概判断：临时布景，视频人物都是摆拍的演员。台蛙大多数人居然还信了。
云圣人看看谁的忽悠水平高？还是说脑子进水多才会被忽悠？

时间: 2025-6-24 20:27

作者: 五星级用户

Desla的马甲发表于 2025-6-24 11:33
我看，21世纪前20年，章家敦才是最大的战忽大拿。中国必须感谢他。
现在我看川普可以继承了。继续忽悠中 ...

*怎么会有人这么说，又有什么人会信。都是五毛编的忽悠*人的吧，目的是造谣*人没有认知。

时间: 2025-6-25 08:32

作者: Desla的马甲

五星级用户发表于 2025-6-24 20:27
*怎么会有人这么说，又有什么人会信。都是五毛编的忽悠*人的吧，目的是造谣*人没有认知。

来来来，说说看，我说的这几个哪个是造谣？要不要我把湾湾说去中国直播的是临时摆拍和演员的视频发给你看看，看看湾湾们是怎么自我麻醉的？
不止这些还说中国空间站也是假的。这些才是造谣，而且还是自我麻醉式的造谣，关键是，那么多湾湾们还愿意相信，就像精美人们虔诚相信灯塔国是守规则，讲道理的。

通信人家园 (https://www.txrjy.com/)