上海
英伟达正把AI基础设施的版图从训练侧延伸到推理侧。
周三，英伟达与全球最大数据中心托管商Equinix及AI推理平台公司Together AI达成合作，联合为企业客户提供开放模型推理服务，补上从模型训练到推理部署的最后一环。
按照三方分工，Equinix提供数据中心托管，Together AI提供推理平台，英伟达提供GPU及软件栈。三方把硬件、软件与托管能力打包，直接切入企业级AI应用的推理环节。
这一合作是英伟达在推理侧生态的关键补位。公司此前在训练侧已建立起领先地位，如今借开放模型推理向企业客户延伸，进一步拓宽其算力生态的覆盖面。
对Equinix而言，此次合作同样意味着它在万亿美元级的AI数据中心建设热潮中，找到了企业级开放模型推理这一差异化切入点。
三方分工：托管、平台与算力的组合
在此次合作中，Equinix负责数据中心托管，Together AI提供推理平台，英伟达提供GPU及软件栈。
在万亿美元级的AI数据中心建设热潮中，Equinix作为全球最大数据中心托管商，通过与英伟达和Together AI的绑定，将自身定位聚焦于企业级开放模型推理这一细分领域，成为这轮合作中同样受关注的受益方。
三方合作的核心目标，是帮助企业客户运行开放模型的推理工作负载，而非将算力局限于少数头部模型厂商。
英伟达押注开放模型的逻辑清晰。首席执行官黄仁勋近期发表公开文章阐述开源AI的重要性，获得几乎所有主要AI公司联署。在其看来，AI模型和应用是英伟达GPU的互补品，开源模型的繁荣意味着更准确、更广泛的算力需求。
推理收入已超训练，英伟达补上闭环
据英伟达投资者会议透露，约18个月前，英伟达的训练与推理收入大致各占一半；如今推理收入已超过训练，且这一差距预计将继续扩大。
与此同时，新兴云服务商贡献的AI计算基础设施收入已超过50%，增长动力正从传统超大规模云厂商向更广泛的AI算力生态扩散。
在训练与架构侧，英伟达此前已密集落子。
通过技术许可协议引进Groq核心团队及其 LPU 技术，并计划在下一代Vera Rubin 架构（Groq 3 LPX）中深度融合 LPU；拟以129亿美元收购开源AI平台Hugging Face。
此次联手Equinix与Together AI，则是英伟达把布局延伸至推理侧的关键一步，使其算力生态覆盖从模型训练到推理部署的完整链条。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
