OpenAI计划采购TPU，谷歌又拿下一个大客户

公众号记得加星标⭐️，第一时间看推送不会错过。

据报道，英伟达的长期客户OpenAI计划采购谷歌的人工智能芯片（TPU），不过，相关交易的财务条款、采购规模及其他细节目前尚不清楚。

如果这一计划最终落地，意味着OpenAI在获取AI算力时，可能进一步扩大对外部芯片供应商的选择。长期以来，英伟达GPU在AI训练与推理基础设施中占据重要位置，而谷歌TPU则是其自研的AI加速芯片。随着大模型训练和推理对算力的需求持续增长，AI芯片市场的竞争也正在从单一芯片性能，延伸至算力供给、基础设施部署与成本等多个层面。

与此同时，在当地时间10月27日，Oracle宣布，将把谷歌的张量处理器（TPU）引入Oracle Cloud Infrastructure（OCI）。按照计划，OCI客户将从2027年开始使用谷歌TPU，相关算力将在未来数年逐步增加。

据The Register报道，这一合作将使OCI成为谷歌自有云服务之外，首个提供谷歌TPU的超大规模云平台。

对于Oracle而言，这不仅是一次新增芯片供应渠道的合作，也意味着其AI算力布局正在进一步多元化。在继续采购英伟达硬件的同时，Oracle开始向客户提供另一种AI加速器选择。

Oracle Cloud Infrastructure总裁Mahesh Thiagarajan表示，不同AI工作负载具有不同的计算需求，将谷歌TPU引入OCI，可以让客户根据性能、吞吐量和经济性，为不同工作负载选择合适的基础设施。

不过，Oracle并未披露此次部署谷歌TPU的具体数量，也没有公布2027年之后的详细扩容规模。

从此次公布的计划来看，Oracle并非简单地用TPU替代英伟达GPU，而是希望在同一个云平台上提供更多计算架构，让客户根据自身需求进行选择。

这一点也体现在Oracle同期公布的其他硬件计划中。公司宣布，英伟达Vera Rubin NVL72系统和Vera CPU已经正式可用，同时计划推出HGX Rubin NVL8系统，但尚未明确后者的具体上市时间。

也就是说，在引入谷歌TPU的同时，Oracle仍在继续扩大英伟达硬件的部署。两者并非非此即彼的关系，而是共同构成OCI面向不同AI工作负载的算力选择。

Oracle公布的AI业务进展也不局限于计算硬件。在与谷歌合作之外，公司还宣布扩大与OpenAI的合作，并推出两项与OpenAI模型有关的产品。

其中，Oracle AI Workspace旨在通过ChatGPT插件，将OpenAI的前沿模型与Oracle应用、企业数据及云服务连接起来。用户可以通过ChatGPT描述业务目标，再借助相关插件调用Oracle平台中的工具和信息。

另一项产品Oracle AI Security Mesh则面向网络安全场景。该服务将使用OpenAI的网络安全模型，帮助发现漏洞、测试漏洞是否能够被利用，并针对企业授权检查的技术环境提出修复建议。

此外，Oracle还宣布与Snowflake达成合作，将Snowflake的AI数据云作为原生服务引入OCI。

通过这项合作，Oracle客户可以直接从Oracle购买和使用Snowflake服务，由Oracle负责定价、折扣和账单管理。客户还可以使用Oracle Universal Credits支付相关服务费用。

从这些公告可以看到，Oracle正在同时扩展云计算硬件、AI模型应用、网络安全和数据服务等业务。谷歌TPU的引入，只是其AI基础设施布局中的一部分。

不过，持续扩大AI基础设施投资，并不意味着商业回报已经得到充分验证。

The Register在报道中提到，Oracle截至8月31日的季度营收同比增长30%，创下新高。与此同时，报道也指出，AI投资的回报目前更多体现在科技行业，其他行业能否获得类似收益，仍缺乏充分证据。

在这样的背景下，Oracle扩大与谷歌、英伟达和OpenAI等公司的合作，既是在增加AI基础设施供给，也是在继续拓展相关业务。

引入TPU后，OCI客户将能够在同一云平台上选择谷歌TPU和英伟达GPU；与此同时，Oracle还在通过OpenAI相关产品拓展AI应用，并借助Snowflake合作扩展数据服务。

但从现有公告来看，谷歌TPU的部署规模、具体扩容节奏，以及这些新增业务最终能够带来多少收入，仍有待后续披露。

对Oracle而言，接下来的关键不仅是提供更多AI算力选择，还包括如何将持续增加的基础设施投入转化为实际的客户需求和商业回报。

将 Google TPU 引入 Oracle 云基础设施

随着人工智能工作负载在各行各业的规模不断扩大，企业需要能够优化人工智能生命周期内吞吐量、延迟和单位经济效益的计算方案。为了满足这一需求，Oracle 和 Google Cloud 携手合作，将 Google 张量处理单元 (TPU) 引入 Oracle 云基础设施 (OCI)，使 OCI 成为除 Google 之外首个提供 TPU 的超大规模云服务提供商。我们将从 2027 年开始在 OCI 上部署 TPU 容量。

十多年前，谷歌基于一个清晰的产品理念打造了其首个 TPU：将定制硅与光网络、电源传输、液冷和编译器软件协同设计，可以提高每瓦性能和降低总拥有成本，这是独立组件无法比拟的。

TPU v1 的每瓦吞吐量是当时处理器的 30 倍。如今，TPU 为谷歌旗下拥有十亿用户的产品提供 Gemini 的训练和服务，第八代 TPU 的单芯片原生 FP4 计算能力高达 12.6 PFLOPS，是 TPU v1 的 92 TFLOPS 的 100 多倍，每瓦性能也比上一代提升了近 2 倍。然而，仅凭原始 FLOPS 并不能决定训练和推理过程中的客户经济效益。对于训练而言，关键指标是有效吞吐量，即集群用于执行有效计算的时间百分比。对于推理而言，关键指标是延迟和每个令牌的成本。TPU 通过系统级协同设计来应对这两个问题。

通过将片上芯片间互连 (ICI) 路由与光路交换 (OCS) 相结合，控制平面能够检测硬件或链路性能下降，并实时动态地绕过故障光路，无需重启作业，从而在大规模训练运行中，在数千个芯片上维持超过 97% 的吞吐量，并为生产环境提供高可用性。更大的片上 SRAM、更高的 HBM 容量以及将网络跳数减少 50% 以上的新型低直径互连拓扑结构，使得最新一代 TPU 能够在低延迟服务中实现高达 80% 的性价比提升。

这种硬件效率转化为产品开发速度，因为开发者可以无缝地采用它。我们在最近的 PyTorch 大会上发布的公告进一步强化了我们致力于将 Google TPU 软件生态系统打造为一个开放、对开发者友好的 PyTorch 社区环境的承诺。值得一提的是，我们为 Google TPU 开发的原生 PyTorch 技术栈 TorchTPU 现已在 GitHub 上开源。现在，您可以使用您已经依赖的工具（包括 vLLM、SGLang、llm-d、TorchTitan、Ray、TorchRec、Hugging Face 和 LiteRT）在 TPU 上训练、运行和部署模型。

这种可移植性使团队能够将每个工作负载分配给每个令牌成本最低或训练速度最快的加速器，而无需重写模型代码。随着今天发布的公告，他们很快就能将这些工作负载分配给 Google Cloud 或 Oracle 基础设施上的 TPU。

即使 Google Cloud 上的 TPU 采用率不断增长，全球对 AI 计算的需求仍然超过任何单一云提供商的容量。将 TPU 引入 OCI 可为客户带来四大显著优势：

专为人工智能高密度部署而设计的数据中心：谷歌的TPU系统采用机架级直接液冷设计，而OCI的下一代数据中心正是为此而建。Oracle提供灵活、耐用的容量，可根据客户需求的变化在尖端模型训练和生产推理之间灵活切换。将TPU的高效性能与Oracle创新的电源和冷却方案相结合，有助于快速、大规模地部署节能型人工智能计算能力。

借助 Oracle Acceleron 实现安全、高性能的网络：TPU 通过 ICI 和 OCS 传输芯片间流量，而 Oracle Acceleron 则提供连接 TPU 容量与 OCI 其他部分的网络基础架构。Acceleron 的 SmartNIC 具备硬件级租户隔离、高性能架构和零信任数据包路由功能，可在 Oracle 数据库、存储和 TPU 集群之间实现高吞吐量和低延迟的数据传输，而不会增加主机计算负担或削弱安全边界。

靠近企业数据：Oracle 数据库通常是企业组织的记录系统。在 OCI 中直接提供 TPU，使企业能够在现有企业数据旁边运行微调和推理，而无需进行成本高昂的跨云传输。

多架构选择：在 OCI 中同时提供 TPU 和 GPU，使团队能够灵活地将每个 AI 工作负载阶段分配给性价比最高的加速器。

通过将 Google TPU 引入 Oracle 云基础设施，Google Cloud 和 Oracle 将十多年来专为 AI 系统工程打造的资源开放给更广泛的开发者生态系统。当客户在更多云平台上拥有更多定制计算资源选择时，整个行业将能够更快地构建系统并更高效地运营。我们迫不及待地想看看你们会创造出怎样的杰作。

（来源：编译自theregister）

*免责声明：本文由作者原创。文章内容系作者个人观点，半导体行业观察转载仅为了传达一种不同的观点，不代表半导体行业观察对该观点赞同或支持，如果有任何异议，欢迎联系半导体行业观察。

今天是《半导体行业观察》为您分享的第4573期内容，欢迎关注。

加星标⭐️第一时间看推送~

求推荐