对话高通数据中心业务总经理：从定制CPU到3D堆叠HBC，高通下出端云AI一盘棋

智东西
作者 ZeR0
编辑 漠影

智东西夏威夷毛伊岛9月22日现场报道，在骁龙峰会2026上，高通一口气推出两款2nm旗舰芯片——第六代骁龙8超级至尊版和第六代骁龙8至尊版。（详情参见《刚刚，高通2nm双旗舰来了，为智能体AI重造架构，手机能跑300亿参数大模型》）

会后，高通技术公司执行副总裁兼技术规划、边缘解决方案和数据中心业务总经理马德嘉Durga Malladi与智东西等媒体进行交流，涉及话题包括高通为何重归数据中心CPU市场、3D堆叠与高带宽计算（HBC）、定制CPU和高主频CPU的好处、如何构建AI软件栈、高通AI SoC的独特竞争力、与中国AI公司的合作情况等。

经智东西整理，重点信息如下：

1、高通进入数据中心CPU市场有什么优势？

在骁龙峰会2023上，高通首次介绍用于PC平台的定制Oryon CPU。当时，与行业里的其他产品相比，它带来了非常显著的性能提升。

此后，高通一直将Oryon CPU核心扩展到产品组合中的其他领域。

去年高通重新进入数据中心市场时，决定把Oryon CPU也带到数据中心。

高通认为，无论从性能还是性能效率来看，它都非常出色，相比目前行业里的其他方案也极具竞争力。

2、怎么看到将内存和计算单元3D堆叠的技术路线？

高通是这项技术的先行者之一。去年高通首次谈到要把近存计算引入其平台，几个月前宣布将这项技术命名为HBC。

这是一种新的存储与计算融合架构，基本思路是采用分离式3D堆叠技术，将计算单元与LPDDR DRAM Die堆叠，可以理解成在一个“内存立方体”的正下方放置计算单元，同时还会集成很多其他功能。

高通此前已经宣布，其第一代和第二代HBC产品将分别搭载于AI250和AI300数据中心AI芯片。

今天高通总裁兼CEO安蒙宣布，这项技术不会只应用于数据中心，高通也会把它带到终端设备上。

3、自研Oryon CPU对高通AI战略意味着什么？

高通拥有Arm架构授权，所以能在微架构层面进行创新，并进行自己的定制化修改。

定制CPU构成了高通的一项差异化能力，已帮助高通打造出了非常有竞争力的产品，高通会继续在这个领域投资。

过去CPU主要被用于通用计算，或者作为系统中的机头。随着智能体AI兴起，CPU正在成为智能体AI的关键计算基础之一，因为CPU需要承担大量工作，负责协调和编排整个系统，决定接下来应该做什么。

因此，在智能体AI时代，CPU的作用正在变得更加重要。高通认为自己的定制CPU核心对于未来发展会非常重要。

4、高主频CPU在智能体AI工作流中能发挥什么作用？

高通在移动平台上率先突破5GHz门槛，反映了其持续在自研Oryon CPU核心上的投入。

随着智能体AI的发展，CPU的重要性正在越来越高。它发挥作用的地方会从终端设备一直延伸到数据中心。

5、高通准备如何应对英伟达CUDA生态层面的竞争？

CUDA是英伟达的编程平台。在CUDA之上还有Dynamo推理服务框架，涉及很多其他编译器和软件组件。

几个月前，高通完成了对AI软件基础设施公司Modular的收购。Modular提供的是一个更加开放的开源平台，它的编程语言叫作Mojo。高通上个月已经宣布，Mojo将采用Apache 2.0许可证完全开源，而且它能够运行在任何第三方平台上。

类似地，高通还有AI推理框架MAX，它处于编译器/软件栈这一层，大部分也会开源，其中一部分会采用授权模式，但任何人都可以使用它。

高通正在大力投资这种开放式软件栈框架，因为行业需要这样的开放架构，AMD作为合作伙伴也表达了对高通的支持。

高通希望Modular软件栈未来部署时可以运行在多种硬件上，而不会局限于某一种硬件平台，会保持开放性。

6、怎么看AI导致消费电子涨价带来的挑战与机遇？

消费电子本身就是一个具有周期性的行业，价格会涨，也会跌。

不认为消费电子产品涨价是AI直接造成的，有多个因素共同作用。

一方面，AI技术正在让终端设备变得越来越强大；另一方面，整个行业存在一定程度的供应和内存短缺。

整个生态系统里的所有因素并不都由高通控制，高通能控制的是把强大的AI技术带进终端设备。

同时，高通也在努力大幅提高设备的效率，包括设备内部如何更高效地使用计算资源和内存资源。

7、如何为不同设备的个人上下文策略提供一致体验？

个人上下文会根据消费者的行为、使用模式等信息，逐步在设备内构建。

高通现在所做的一件事情，就是确保消费者无论使用哪一台设备，只要它是由骁龙平台驱动的，用户的上下文都能跟随用户在不同设备之间流转，从而获得统一、一致的体验。

要实现这一点，高通必须与合作伙伴以及云服务合作伙伴共同协作，这是高通正在推进的方向。

8、怎么应对不同品牌的用户个人数据管理方式不同？

高通能够了解消费者具体需要和想要什么，并保存这些用户偏好。

随着个人知识图谱不断扩展，高通可以采用合适的方法对这些信息进行压缩，从而控制知识图谱的规模，确保能够在设备端建立一个非常高效的知识图谱。

长期记忆意味着有些上下文信息需要在更长的时间尺度上被保留下来。最终发展到某一阶段后，其中一部分上下文可能也需要存到云端。

高通正在研究究竟什么样的方式才是最合适的方案。

9、端侧AI模型能用什么标准来衡量？

关键并不只是模型有多大，真正重要的是模型质量和各项指标、能否在智能体AI场景下把任务做好。

比如高通今天展示的在手机上跑300亿参数级模型，通常你不会在终端上看到这么大的模型，但这个复杂模型对智能体AI使用场景很有帮助。

智能体不一定只用设备本地运行的模型，可能还会调用云端进行一部分推理，同时还会进行联网调用以及其他函数调用，以确保能够获得完成任务所需的全部相关信息。

在衡量模型质量方面，业界有一些成熟的基准测试。对于智能体工作流，现在也开始出现一些新的基准测试。

高通会采用行业已存在的标准指标来评估，不会另外定义一套评价体系。

10、高通在AI芯片竞争中有什么核心优势？

当你考虑一款真正优秀的AI SoC或是一款能非常好地运行智能体AI的SoC到底需要什么时，你会发现，仅仅拥有最好的GPU、最好的NPU或最好的CPU都不够，而是需要这三者都非常优秀。

除了计算能力外，你还需要在如何充分利用内存带宽方面拥有丰富经验。这也是高通一直在内存等领域进行投入的原因。

此外，把所有这些东西整合到一起，需要合适的封装技术，以及各种外围组件和传感器。因为传感器中枢能够帮助你构建一种全新的个人上下文。

归根结底，高通的投入并不集中在某一个单独领域，其投资和研发覆盖了整个技术体系。完整的IP组合能力将成为高通未来的一个独特差异化优势。

11、目前最大的技术挑战是什么？

制程技术、计算能力和内存都是，很难只选一个。

12、高通如何与阶跃等中国AI公司合作？

高通在中国拥有非常大的业务和团队规模，与中国初创企业保持良好关系，相关合作覆盖很多不同的技术领域，原因是AI领域正出现大量创新，而高通非常喜欢和有创新能力的合作伙伴共事。

今天高通的演示就有两个例子，一个是阿里原生智能体电脑Qwen Book，另一个是在手机端运行30B混合专家（MoE）模型。这个MoE模型最初来自阿里Qwen 30B，阶跃对它进行了一些微调，研发出StepEdgeOmni 300亿参数MoE模型，然后他们和两三家合作伙伴一起做出整个端侧智能体demo。

高通一直关注哪些合作伙伴值得一起向前发展，对各种商业合作保持开放。

13、近几年什么变化使AI真正能带给消费者不同体验？

从ChatGPT发布至今，AI模型本身的能力成熟和强大了很多。今天的模型和2023年的模型已经完全不在一个水平上。这意味着，基于这些模型构建智能体AI应用时，能够实现的用例也得到了显著提升。

因此，虽然从2023年开始，行业里就已经有很多关于“我们应该开发哪些AI使用场景”的想法，但当时模型还没成熟到足以真正支撑这些体验的程度，现在以消费者为中心的应用场景已经很复杂和成熟。

14、实现高通未来核心收入目标，具体如何分配？

在今年6月举行的投资者日上，高通宣布核心财务目标：到2027财年结束时达到50亿美元，到2029财年结束时达到150亿美元。

高通对实现这些目标非常有信心，已公布了一些客户合作，但现阶段不会披露不同客户的具体收入分布情况。