谷歌TPU对外销售了 - 通信人家园

谷歌挑战了英伟达在人工智能 (AI) 半导体市场的垄断地位。谷歌此前大量购买英伟达的 GPU，将其装入谷歌云数据中心，并出租给客户，现在又开始向外部数据中心供应其芯片——张量处理单元 (TPU)。

据IT媒体The Information当地时间3日报道，谷歌近期接触了中小型云计算公司，并提议引入TPU。该公司已与总部位于伦敦的“Floydstack”公司签订合同，将在纽约新建的数据中心设置TPU。预计这将是谷歌首次在自有设施以外的外部数据中心部署TPU。

市场对此举有两种解读。分析师认为，谷歌自有数据中心的扩张跟不上需求，因此需要使用外部设施；另一种解读是，谷歌正通过外部云公司拓展其TPU客户群。在后一种情况下，谷歌将成为与英伟达争夺芯片供应的“竞争对手”。

谷歌于2016年推出的TPU是一款AI芯片，曾应用于战胜李世石的围棋比赛的AlphaGo。正如其名称“Tensor（多维数据）”所示，它是一款AI专用芯片，旨在比GPU更好地处理深度学习所需的复杂数学计算（矩阵运算）。如果说GPU最初是为游戏图形处理而开发的，后来又用于AI学习，那么区别在于TPU从一开始就是一款专为AI运算而打造的定制芯片。正因如此，它在某些任务中拥有低功耗和高速的优势。迄今为止，谷歌尚未直接销售TPU，而仅通过其云端提供。这是出于战略原因，例如优化搜索和YouTube等内部服务，以及降低GPU采购成本。

然而，今年，这种趋势正在发生变化。今年4月，谷歌发布了其模型流水线解决方案“Pathway”，用于向外部开发者训练大型语言模型（LLM）。将其作为训练LLM等模型的必备手册，研究人员无需重新设计模型即可开发Gemini等LLM。谷歌发布了TPU（硬件）和JAX（软件），后者允许用户将LLM用作聊天等服务，甚至还发布了Pathway，这表明人工智能开发所需的整个流程都可以在谷歌生态系统内完成。换句话说，谷歌已经宣布与英伟达展开竞争是可能的。

TPU 的用户数量也在不断增加。根据美国投资公司 DA Davidson 2 日发布的报告，过去六个月，围绕谷歌云 TPU 的开发者活动增长了约 96%。报告分析称，不仅对去年 12 月发布的第六代 TPU“Trillium”的需求正在增长，而且对计划于今年晚些时候发布的大规模推理 TPU“Ironwood”的兴趣也在增加。“研究机构和企业对此的兴趣和需求正在日益增长，”DA Davidson 写道。“谷歌的 TPU 正在崛起，成为超越中国企业的英伟达芯片的最佳替代品。”

英伟达占据了AI训练GPU市场的80-90%，有效地建立了主导地位。如果仅从数据中心市场来看，截至今年3月，英伟达的市场份额高达92%，压倒了AMD（4%）等竞争对手。

GPU 运行在 Nvidia 开发的专用软件 (SW)“Cuda”上。随着该软件成为行业标准，许多公司和开发者都离不开 Nvidia 的产品。AWS、Microsoft Azure 和 Google Cloud 等大型运营商也纷纷批量采购 Nvidia GPU 并提供给客户。

随着TPU的外部供应开始认真进行，以及各大公司试图减少对Nvidia的依赖，预测数据中心半导体市场的格局可能会发生变化。

随着Google 母公司Alphabet 拥有日益壮大的TPU（Tensor Processing Unit）业务，加上Google DeepMind 专注AI 研究，投资银行DA Davidson 分析师认为，如果TPU 业务独立出来，整体价值可能高达9,000 亿美元，相较今年稍早估计的7,170 亿美元大幅提升。

专为机器学习和AI 工作负载打造的加速器TPU，受到AI 研究人员与工程师的关注。第六代Trillium TPU 自2024 年12 月大规模推出后，需求相当强劲。专为推论设计的第七代Ironwood TPU 在今年Google Cloud Next 25 大会发表，预期获得客户大量采用。

进一步来看，Ironwood TPU 每颗芯片在高峰可提供4,614 TFLOPS 运算能力，驱动思考型和推论型模型。 Ironwood TPU 大幅增加高频宽记忆体（HBM）容量，每颗芯片提供192GB 容量，是Trillium TPU 的6 倍，以处理更大型的模型和资料集运算；同时Ironwood TPU 每颗芯片频宽可达7.2Tbps 高速存取，是Trillium TPU 的4.5 倍。不只如此，Ironwood TPU 效能功耗比是Trillium TPU 的2 倍，为客户的AI 工作负载提供每瓦更多的运算能力。

合作伙伴方面，Alphabet 目前仅与博通合作生产TPU，但传出与联发科探索合作机会，由联发科为即将推出的Ironwood TPU 代工。与此同时，多家AI 公司加速采用TPU，如Anthropic 开始招聘TPU 核心工程师，可能平衡对AWS Trainium 芯片的依赖，马斯克（Elon Musk）旗下xAI 受到JAX-TPU 工具改进下，对TPU 展现兴趣。

DA Davidson 分析师认为Alphabet 在AI 硬件领域的价值未被充分估价，但要将TPU 业务拆分出来，在现今环境不太可能发生，TPU 将会结合Google DeepMind 研究实力继续融入更多Google 产品组合。