让大模型不内耗，有多重要？

2021 年，高性能计算泰斗杰克·唐加拉（Jack Dongarra）捧起图灵奖。

你可能面对这个名字还有些陌生，在他的职业履历里，"用软件榨干硬件"是一以贯之的主线。他主持编写了 LINPACK、BLAS 与 LAPACK 等标准函数库，数十年来，全球超算领域的 Top500 榜单全靠他的代码来压榨芯片性能。

多年以来，计算机科学的主题节奏始终由硬件的物理狂飙牵引：传统的硬件性能提升遵循摩尔定律，最直接的手段就是不断堆砌晶体管规模、拔高运行频率；而随着规模和频率被推向极致，功耗与发热也呈指数级攀升，为了压制严峻的功耗墙与发热问题，半导体产业才被倒逼着推进微米到纳米级的制程工艺进步。

在这样的物理底座上，硬件一路跑在最前面；软件则在身后跟进适配，迅速吃满新增的性能红利。这就是 PC 时代著名的安迪-比尔定律（Andy and Bill's Law）。

但在 2022 年ChatGPT横空出世后，这套维系半个世纪的技术范式开始摇摇欲坠。硬件靠传统堆砌的步伐，逐渐跟不上软件的胃口。

十年后，当杰克·唐加拉再度站在台前，大家抛给他的成了一个反转后的世纪之问：当端到端、多模态算法的进化速度超越了硬件周期的进化，算力底层到底该怎么办？

这场角色对调的剧烈冲撞，清晰地投射在智能驾驶的演进上。

麦肯锡在《中国汽车消费者洞察》中指出，近七成中国车主已将高阶智驾列为买车刚需。但处理 Transformer 大模型密集计算的时候，冯·诺依曼架构算存分离的物理限制显露无疑，芯片内超过七成的资源都浪费在数据的重复搬运和查询中，真实有效计算利用率往往寥寥，大量算力根本没用来感知路况与推演决策。

当软件真正成为定义技术上限的指挥棒，传统的硬件发展道路就必须寻找新方法。前几天在苏州亮相的 XHEART（新芯航途）与其大模型芯片 X7 Ultra，正是这场"大模型定义芯片"换轨浪潮里跑出的第一个具体样本。

让大模型不内耗，才能提升性能

大模型在端侧运行的本质，是一连串高密度的连续张量运算。

早期的智驾感知算法，更像按既定规则按部就班地辨认路牌，算力需求是局部的、可预测的。但演进到端到端大模型后，多路高清摄像头和雷达每秒都在传回海量画面，系统必须把眼前看到的一切细节，实时拿去和后台庞大的数据库做全方位的比对与推理。这就意味着，海量的数据必须在极短时间内被反复读取、查询和比对。

传统车载芯片的架构，正是从这里开始吃不消的。

主流车载芯片普遍沿用了"算存分离"的老格局，相当于把算账的人和放账本的仓库硬生生隔在两个房间。每算一笔账，都得大老远跑去仓库翻书、搬运、计算再放回，大量力气和时间全耗在路上。

这就导致芯片标称算力跑分虽然好看，可真到了路上处理连续密集的路况时，核心大部分时间都在空转，实际算力利用率大幅打折。更麻烦的是，传统芯片为了参数提升，习惯采用"多小核堆叠"的办法，相当于把这本巨厚的词典强行撕成好几册，分给好几个散落的小工位；面对连贯性极强的大模型，各个工位之间频繁传话、互相对账，光是核间的沟通与调度开销就足以把系统拖垮。

为了解决这种结构性内耗，XHEART推出的大模型芯片X7 Ultra 推翻了小核拼接的路线，换成了"超大核"NPU架构。

XHEART新芯航途CEO李宗霖打过一个形象的比方：过去紧密协作的人分散在不同办公室，资料需要来回传递；超大核方案则像把所有人放进一个宽敞的工作空间，所有交流在内部瞬间完成。

通过把紧密协作的计算单元统一聚合，整套大模型得以在单颗超大核内完整运转。小核之间数百 GB/s 级别的低速搬运，直接被提升为大核内部 TB/s 级的高速互联。针对 LayerNorm、Softmax 等大模型高频出现的 Transformer 核心算子，X7 Ultra配置了专用硬件加速引擎，并在前序任务计算的同时提前加载下一批数据与权重。

光改硬件还不够，底层的 AI 工具链同样被推倒重构。过去的模型推理是算子单独执行，中间计算结果必须频繁写回外部内存，下一步再重新读出。XHEART 自研的工具链把优化范围扩大到了整张网络，通过创新算法实现了整网级融合与内存零拷贝，在模型性能相当的前提下，将内存带宽消耗砍掉了 80%，能效提升一倍。

用大模型定义芯片，效果如何？

当物理世界里的"算存墙"被推倒，同样的功耗与成本空间内，硬件底座终于能从容支撑起规模更大、思考更深的模型。

直观的改变首先体现在模型体量上。基于 X7 Ultra 的架构支持，Momenta 新一代 R7 Ultra 世界模型的参数量直接扩大了 5 到 10 倍。

在以往，端侧芯片为了塞进大模型，往往需要对参数做极限压缩，直接后果就是车辆遇到复杂路况时，容易出现"脑子转不过来"的卡顿和接管。而在Momenta公布的R7 Ultra 实测场景中，面对狭窄道路一侧紧挨不锈钢护栏、对向又有来车交汇的极限长尾工况，搭载新架构的测试车不仅没有触发人工接管报警，反而直接输出连续的多步推演轨迹，果断挂倒挡避让，并在借道穿行中行云流水地完成会车，展现出了贴近老司机直觉的避险决策能力。

把模型在端侧放大的同时，车端最底层的安全冗余也得到了提升。官方披露的数据显示，X7 Ultra 标注的 700 TOPS 大模型算力全部是在真实量产模型上实测得出，量化输出与训练端高精度浮点模型的相似度达到 99.99% 以上，NPU 真实计算利用率高达 98.7%。这意味着算法从实验室搬进实车后，性能几乎零损耗。配合专用硬件加速器支撑激光雷达 2000 万点/秒的处理带宽，系统在暴雨、暗光等低能见度工况下依然具备充裕的感知处理余量。

这种"量身定制"的质感，单靠芯片公司闭门造车是做不出来的，其背后是一场研发协作机制的深层重构。

过去，车企为了追求软硬件一体，要么组建千人团队自研芯片，要么通过投资入股绑定方案，但始终难以打破"你造你的芯片、我写我的算法"的分工壁垒。2023 年，李宗霖带领原哲库骨干创立 XHEART 时，便选择与深耕数据驱动算法的 Momenta 深度绑定，并拉来上汽集团作为核心整车伙伴，尝试建立一种贯通算法、芯片与整车的早期联合研发模式。

一个典型的细节在于：在 X7 Ultra 尚在架构定义阶段，算法团队就已带着实际大模型的痛点与未来演进趋势全面介入，将其作为芯片硬件设计的底层输入。流片之前，各方已基于真实量产大模型完成了整芯片级的软硬件协同仿真验证；而在芯片回片前，整车端的域控制器硬件设计与接口调试也已同步完成。上汽集团副总裁、总工程师祖似杰更是在专访里表示，自己每周会常态化参与测试模型体验，从实车集成与驾乘体验角度给到工程优化意见。

用算法的实际痛点定义芯片架构，再由整车场景倒逼工程验证，这种闭环让大模型走上车端时，不再需要经历漫长痛苦的削足适履。

"我们只有一次机会，所以会比较谨慎、透明、务实。"XHEART新芯航途CEO李宗霖在专访中表示。

技术的进步，创造无限的可能

回到最初那个朴素的问题：我们如何继续打造更好的智能驾驶？

回望计算机科学的历史，每一次真正推动产业跃迁的变革，都不是在既有框架里做简单的数字累加，而是通过底层架构的重构，带来系统能效与普及维度的几何级跃升。

正如当年英伟达借助专用 GPU 通过高度并行的硬件架构分担了传统处理器的计算负荷，确立了 AI 时代的算力基准；今天，当XHEART用大模型芯片原生适配端到端模型，智能驾驶的演进曲线也迎来了换轨提速的契机。

Momenta CEO 曹旭东算过一笔时间账：此前依托通用芯片，算法性能与安全指标大约每两年提升 10 倍，他将这称之为"智驾摩尔定律"；而在大模型定义芯片的支持下，端侧模型的参数容量有望实现 10 到 100 倍的扩充，智驾摩尔定律也将加速至每年提升 10 倍，为高阶辅助驾驶与无人驾驶的大规模工程化落地筑牢了底层支撑。

更深远的变化，在于这种原生适配为智能汽车供应链提供了一种开放共荣的可能。

XHEART 从架构设计伊始便选择了全行业开放的技术路线：不仅面向各类主流算法团队和主机厂，也支持车企将自主研发的算法模型高效部署上车。雷诺、奇瑞等汽车企业的深度参与，加上半导体存储企业长鑫科技的战略协同，打通了从主控芯片到底层存储的完整链路。超20万颗的出货量与 40 多款车型的定点进展，验证了面向大模型的专用芯片方案在工业规模化量产维度的坚实可行性。

这种架构革新的终极价值，正是让领先的技术能力真正走向规模化普及。

汽车工业始终以规模为第一性。只有在底层架构上打通数据传输与计算的瓶颈，系统才能在有限的车载散热与功耗条件下，最大化释放有效计算潜力，让复杂的环境感知与长尾避障成为系统标配。当端到端多模态大模型不必再受困于高功耗与过剩冗余，而是能够平稳、可靠地运行在主流家用车上，高阶智能驾驶才算真正完成了从前沿探索到工程成熟的跨越。

这种在严苛物理约束下兼顾高吞吐与高能效的软硬协同方法论，未来在人形机器人、具身智能等实时处理物理世界信号的终端设备上，同样具备广阔的延展空间。

X7 Ultra 与它背后的开放联盟，只是这场技术大迁徙的起点。当底层的内耗被软硬一体的创新逐渐祛退，算法的想象力才能更好地挣脱硬件的限制，智能驾驶也才能告别尝鲜，真正成为汽车工业的骨血与脊梁。

历史的指针已经拨动，属于物理世界 AI 的大时代，也已从这块不再让大模型内耗的芯片开始加速奔跑。

本文来自虎嗅，原文链接：https://www.huxiu.com/article/4902421.html?f=wyxwapp