当模型跑得比芯片快，下一代智算系统如何发展？

9 月 20 日至 21 日，以“下一代物理智能前沿”为主题的 PAIR Conference 2026 在上海举行。会议由上海物理智能与机器人研究院举办，大会邀请来自高校、科研机构及产业界的多位专家学者参与，围绕下一代智算系统、下一代智能载体、下一代科学发现和下一代计算范式等方向展开讨论。

在“下一代智算系统：从芯片到软件的协同重构”专题论坛上，报告嘉宾从具身智能、新型芯片架构、国产算力和推理系统等角度，讨论 AI 计算基础设施的技术演进。最后的圆桌将话题集中到模型与芯片的关系：当大模型迭代远快于芯片研发，算法与硬件如何协同，才能应对持续变化的计算需求？

圆桌讨论由复旦大学集成电路与微纳电子创新学院青年研究员朱可人主持，五位来自芯片研发、算法研究和计算系统等不同领域的嘉宾参与对话，他们分别是上海东方算芯科技有限公司副总裁郭炜；清华大学深圳国际研究生院助理教授于超；复旦大学芯片与系统前沿技术研究院助理教授朱浩哲；光本位联合创始人兼首席科学家程增光，以及清华大学计算机系助理研究员闪英迪。

模型架构和计算需求快速变化，而芯片从设计到量产往往需要数年。算法研究者努力提高现有硬件的利用效率，芯片厂商则通过架构和软件优化响应新需求。与此同时，模型公司开始自研芯片，芯片厂商也向模型和软件领域延伸。当算法与硬件迭代周期不同，双方该如何适配？当产业边界渐趋模糊，下一代智算系统又由谁定义？

（左起）朱可人、程增光、郭炜、闪英迪与于超、朱浩哲进行圆桌讨

围绕这些问题，嘉宾结合各自的研究与产业实践，对技术路线及产业格局提出了不同判断。

以下内容根据圆桌讨论整理。

模型迭代太快，芯片研发太慢

郭炜提到，一代芯片从架构设计到量产通常需要三年，而大模型的计算方式和应用需求可能在这段时间里多次变化。面对不同的迭代节奏，究竟是算法决定硬件，还是硬件决定算法？

郭炜认为，短期内，模型落地仍受现有芯片的算力、存储、带宽和互联条件限制，即使在论文中表现出色，也要考虑实际部署效率。“真正目前落地的模型不一定是算力最优的，但一定是软硬适配最优的。”长期来看，芯片设计又会受到算法需求驱动，形成相互迭代的关系。

闪英迪从算法发展的历史解释了这种关系。他以循环神经网络（RNN）、长短期记忆网络（LSTM）和转换器（Transformer）的演进为例，指出模型能否充分利用现有计算资源，本身就是影响其发展的重要因素。

相比传统的循环神经网络，Transformer 更容易实现并行计算，能够更有效地利用大规模计算资源。这意味着，一种模型能否成为主流，不仅取决于它在算法层面的表现，也与它能否适应现有硬件的计算特点有关。另一方面，硬件也在根据算法的计算需求不断调整。

闪英迪提到，GPU 中的 Tensor Core 等专用计算单元，以及对低精度计算的支持，都是为了让硬件能够更高效地执行模型运算。这也说明，算法与硬件之间的适配并非单向的，而是相互促进的过程。因此，闪英迪认为，短期内算法需要更多地向硬件靠拢，因为算法迭代的速度远快于硬件；但长期来看，二者会逐渐走向协同演进。

于超更强调算法的先行作用。她指出，研究人员往往先在现有硬件上调整实现方式，探索新的智能架构，随后硬件研发再针对算法需求作出优化。“在我看来，算法仍然处于先行位置，因为算法研究者能够更快地提出新的实现思路。”于超说。

不过，算法先行并不意味着可以超出硬件的限制。朱浩哲以具身智能为例指出，机器人部署模型时，往往必须选择当前能够满足实时性要求的硬件平台，例如 Jetson Orin（英伟达推出的的面向机器人、自动驾驶相关设备及边缘 AI 应用的嵌入式计算平台）。受到芯片计算能力和功耗的约束，研究人员能够使用的模型规模、计算算子都会受到限制。但朱浩哲同样认为，从更长的历史跨度看，一旦某类算法在特定任务中取得明显优势，硬件最终仍会向它靠拢。

几位嘉宾虽有不同侧重，却都指出模型与芯片难以独立演进：短期算法受既有硬件约束，长期硬件又要回应算法需求。那么，现有芯片体系该如何应对快速变化的计算需求？

当芯片追不上模型，谁来改变？

随着算法迭代，模型对计算性能、带宽和能效提出新的要求。面对这种变化，芯片行业是继续优化主流 CMOS（互补金属氧化物半导体）技术，还是借助新材料和新架构寻找突破？

程增光认为，新型计算技术的价值，恰恰在于解决传统硅基芯片难以兼顾的高带宽、低功耗等问题。以光计算为例，当传统冯·诺依曼架构（Von Neumann Architecture）面临存储带宽和功耗瓶颈时，利用光进行部分计算，有可能提供新的解决思路。不过，程增光并不认为新材料、新架构必然意味着彻底抛弃硅基技术。

郭炜对此持相似看法。他指出，CMOS 在过去数十年间积累了成熟的工艺体系，在成本、良率、工程实现等方面仍然具有明显优势。光计算虽然在部分矩阵运算和互联场景中具有潜力，但现阶段要完全依靠光计算完成大规模模型推理，仍然面临困难。因此，他判断，未来光计算、新型材料等技术更可能先以协处理器的形式出现，再通过 2.5D 封装或三维集成，与传统算力芯片协同工作。“目前来看还不是替代，是增量。”郭炜说。

朱浩哲则进一步指出，评价新型计算技术的性能优势，不能只看单个器件或计算阵列的表现，还需要考虑整个系统的实际收益。他提到，一些新型计算技术的研究论文报告了高达数个数量级的性能提升，但在完整系统中，这些优势可能被额外的数据处理和转换开销所抵消。

例如，光计算需要考虑光电转换和数据编排的时间与能耗；存算一体则需要考虑外围电路、模数与数模转换以及数据重排的成本。因此，他认为，新型计算技术更可能先在现有系统的局部环节实现突破，例如存储或互联，而不是一次性替换以 CMOS 为基础的整套计算体系。

由此看来，芯片体系的变化更可能体现为不同技术的协同，而非简单替代。与此同时，算力产业原有的上下游分工也在变化。

一方面，OpenAI、Google、字节跳动等模型或互联网公司探索定制芯片；另一方面，芯片厂商开始研究模型，以便理解算法需求。

程增光认为，通用图形处理器（GPU）需要兼顾多种计算任务，其中部分功能对特定模型而言并非必需。模型公司若开发专用集成电路（ASIC），便可能减少冗余，改善计算效率。

郭炜则从成本和技术需求两个方面解释了这一趋势。首先，大模型训练和推理需要持续投入大量算力，模型厂商自然希望降低芯片采购和使用成本。其次，通用 GPU 的硬件迭代未必能够及时满足特定模型不断变化的需求，自研芯片因此成为一种选择。

与此同时，传统芯片厂商也在向算法和软件领域延伸。郭炜提到，英伟达拥有专门从事 AI 模型研究的团队，东方算芯也在开展相关研究。不过，他们研究基础模型并不是为了直接与模型公司竞争，而是为了利用模型验证硬件、优化软硬件适配，并提供更完整的系统解决方案。“如果单纯的芯片公司、硬件公司只卖硬件、只卖芯片，慢慢会被边缘化。”郭炜说。

但模型厂商拥有算法能力，并不意味着它们能够轻易跨越芯片行业的技术门槛。朱浩哲以 OpenAI 与博通（Broadcom）的芯片合作为例指出，大型算力芯片的研发远不止定义一种计算架构，还涉及封装、互联、超节点设计、组网等复杂的系统工程问题。

于超也强调，即使模型公司对自己的计算需求有更明确的认识，进入芯片行业后，仍然需要面对制造工艺、先进封装等传统半导体行业共同存在的挑战。在她看来，真正具有不确定性的仍然是时间。模型厂商与传统芯片厂商之间存在数月乃至更长的代际差异时，究竟哪一方能够取得优势，目前还很难判断。

朱浩哲认为，模型厂商短期内难以独立完成芯片从设计到部署的全流程，但它们越来越多地参与架构设计，正在影响传统芯片公司的产品定义权。

模型厂商向硬件延伸，芯片厂商向软件和模型延伸，背后都是为了让算力供给更贴合算法需求。这种双向渗透，也可能改变产业分工及芯片架构的定义权。

下一代算力，最终由谁定义？

模型与芯片相互适配之外，AI 应用场景的扩展也在改变算力需求。从数据中心到具身智能、自动驾驶等端侧设备，各场景对性能、延迟、功耗和成本的要求并不相同。

随着 AI 从对话走向复杂智能体，推理任务日益多样化：未来的主要增长来自大型数据中心，还是机器人等终端？支撑这些应用的模型，又将由开源还是闭源主导？

程增光认为，短期内，服务器和智算中心仍然是推理部署较为成熟的场景。但从长期看，机器人、自动驾驶和家庭本地计算等端侧设备会产生越来越多的需求。这些场景与数据中心存在明显区别。机器人需要及时对环境作出反应，自动驾驶系统对延迟和可靠性有严格要求，而家庭设备还需要考虑隐私保护和功耗。不同任务对计算能力有着各异的要求。

郭炜也认为，大型智算集群依然是运行超大基础模型和复杂智能体的重要基础设施，但私有化部署和端侧应用同样具有增长潜力。随着 DeepSeek、Kimi 等模型的发展，企业能够在本地部署满足自身业务需求的模型，同时兼顾数据隐私和信息安全。在具身智能等场景中，端侧则可以承担数据采集和部分前端处理任务，与云端形成协同。

闪英迪从模型能力的变化解释了这种分化。一方面，模型规模仍在扩大，智能体能够持续执行的任务也越来越复杂。对于长时间运行、需要大量计算资源的任务，云端数据中心仍然具有优势。另一方面，参数规模相对较小的模型也在不断提升能力，已经能够完成过去难以实现的任务。在自动驾驶、具身智能和高隐私要求的场景中，部分任务必须依靠端侧计算完成。因此，他认为云端与端侧的算力需求未来都将保持增长。

朱浩哲则提醒，需要区分不同维度的市场增长。如果以高价值订阅和计算服务收入衡量，云端可能仍然更具优势；如果关注用户数量、应用场景及新商业模式，端侧则可能带来更大的扩展空间。而且，二者并不必然相互替代。例如，具身智能的发展虽然会增加机器人端的计算需求，却也可能同时带动云端算力的增长。

于超认为，无论计算发生在云端还是端侧，社会计算资源总量都在增加，关键在于如何通过软件充分利用这些资源。

与部署方式并行的另一条讨论线索，是模型的开源与闭源。

程增光站在硬件厂商的角度，希望软件生态更加开放，减少硬件应用中的软件壁垒。

郭炜则认为，开源与闭源模型将长期并存。他指出，中国模型企业在算力资源相对受限的条件下，形成了具有自身特点的开源发展路径。随着模型能力不断提升，开源与闭源之间的性能差距正在缩小。不过，他仍然倾向于认为，闭源模型将更多承担前沿能力突破的角色，而开源模型则有望在各类实际应用中进一步普及。

闪英迪认为，闭源模型更容易通过服务收入形成商业闭环，再将收益投入算力和模型研发，因此短期内可能保持前沿能力优势。

但他同时指出，开源模型在透明度、隐私等方面具有吸引力，使用范围可能继续扩大。他将两者比作苹果与安卓：闭源生态可能获得更多利润，开源生态则可能覆盖更多用户。

于超的观点更多来自开源软件开发的实践。她提到，团队曾探索将开源软件转化为商业收益，但发现直接依靠开源软件盈利并不容易。相比之下，开源软件能够服务更广泛的开发者社区，推动技术普及，并通过形成软件生态，间接带动相关硬件产品的应用和销售。因此，她更看重开源软件对技术生态建设的长期价值。

朱浩哲则对大模型时代的“开源”提出了不同看法。传统软件的开源，通常意味着开发者能够获取源代码，在自己的环境中运行、修改和复现。但对于参数规模达到万亿级别的大模型，即使公开了模型权重和代码，实际运行仍需要庞大的计算资源，并非普通中小企业或高校能够轻易承担。因此，朱浩哲认为，大规模模型的开源与传统软件开源已经有所不同。模型权重和代码的公开虽然能够提高透明度、建立社会信任，但并不必然意味着外部研究者能够完整复现其运行与研究过程。

他还认为，AI 代码生成能力的提高可能改变依赖个人开发者贡献的传统开源协作方式。

从云端与端侧的协同，到开源与闭源的并存，这些讨论表明，未来算力体系不仅要适应多样化的任务需求，也会受到模型生态和商业模式的影响。

由此进一步延伸出圆桌的最后一问：在芯片、模型、基础设施与应用之间，谁能获得更多商业价值？

程增光认为，目前海外市场中英伟达等硬件厂商掌握较强定价权，但随着推理市场扩大，模型、云服务和应用企业也可能获得更多机会。

郭炜的判断有所不同。他认为，长期来看，真正掌握用户需求的应用终端仍然有机会拥有定价权。与此同时，芯片、基础模型和算力服务会根据各自创造的价值获得不同的利润空间，而不一定始终由某一家企业占据主导。

闪英迪更看好硬件与模型两端。在他看来，目前芯片企业拥有较强盈利能力，一个重要原因是算力供给相对不足。未来芯片能否继续维持较高利润率，取决于模型计算需求的增长速度与芯片产能扩张速度之间的关系。而在模型层，随着 AI 能力增强，用户可能愿意为更复杂、更有价值的任务支付更高费用。

相比之下，处于中间环节的训练和推理基础软件，由于开源技术的普及，未必能够获得同样高的利润。于超也倾向于看好芯片和基础模型公司。他将芯片厂商形容为“卖铲子”的人：无论未来出现什么样的模型和应用，它们都需要底层算力支持。

朱浩哲则从 AI 降低软件开发门槛的现象出发，提出了另一个值得思考的问题。过去，开发一款应用需要投入大量工程资源，但随着代码生成能力的提升，部分应用的开发成本正在下降。当应用开发变得更加容易，普通软件产品的技术壁垒可能随之降低。在这种情况下，提供底层算力和基础模型的企业，反而可能继续保有较强的商业优势。

几位嘉宾对利润归属没有一致结论，但共同呈现了产业关系的变化：模型需求影响硬件定义，芯片性能限制算法部署，应用场景又推动模型与计算系统调整。模型公司进入芯片设计，芯片公司向软件、模型和系统方案延伸，原有边界逐渐模糊。

下一代智算系统的挑战，不只是提高单颗芯片的性能，更在于让不同层次的计算技术适应快速变化的算法与应用需求。这种协同会形成怎样的产业分工，以及谁能最终掌握定义权和定价权，仍没有确定答案。

运营/排版：何晨龙

注：封面/首图由 AI 辅助生成