端侧AI走到临界点：存算一体从实验室走向产业主线

中经记者 秦枭 北京报道

随着大模型加速从云端走向终端，端侧AI正从“能跑模型”迈向“被用户需要”。过去一年多，同等智能水平的模型尺寸持续压缩，端侧芯片可承载的模型规模由7B级别跃升至百B以上，模型与芯片等核心要素的迭代速度明显加快，端侧AI的商业化进程随之提速。

多位业内人士在接受《中国经营报》记者采访时表示，当前，端侧AI的生态闭环正在逐步形成，芯片厂商持续提升端侧算力、模型厂商不断压缩模型参数、终端厂商加快在各类设备中植入端侧AI能力，产业链不同环节的同频推进，让端侧AI从单点技术突破变成了可落地的完整产品，“被需要”已经成为行业对端侧AI的共识，接下来端侧AI将快速渗透到消费电子、智能制造、车载出行等多个领域，打开新的增长空间。

端侧AI窗口被打开

判断端侧AI是否成熟，业内习惯先看两个底层变量：模型和芯片。后摩智能联合创始人、产品副总裁信晓旭给出了一组对比：以阿里通义千问为例，过去17个月里，同等智能水平的Dense类模型尺寸被压缩到原来的1/8；而更受关注的MoE（混合专家）类模型，压缩速度更快，仅用6个月就压缩到1/6。芯片侧的变化同样剧烈，2024年前后，端侧AI芯片大约只能跑7B参数模型，单Token性能停留在个位数；而到2026年10月，公开演示的方案已经能够本地运行120B量级的模型。

“用户永远不需要最贵的模型，只需要一个能解决需求的模型。”万格智元创始人王冠博的判断代表了不少从业者的看法。他认为，随着模型密度定律提升，几十B到百余B参数的模型已经能覆盖绝大多数日常办公和编程场景，“未来只有两类Token有价值：最贵的云端Token和趋近于免费的端侧Token”。

阿里云智能集团千问模型智能硬件行业总监徐超透露，通义千问最新一代125B参数模型已经能够覆盖80%—85%的Agent类应用场景，27B模型则可以承担50%—60%的编程工作。这意味着，端侧模型不再需要在“够用”和“好用”之间做妥协。

模型侧的快速小型化，直接把压力传导到了芯片端。当终端要在十几瓦甚至几瓦的功耗预算内跑起百亿参数模型，传统“计算与存储分离”的架构遭遇了墙。“过去计算一直是主角，存储只是配角；但AI时代，整个剧本被改写了。”信晓旭以HBM（高带宽内存）为例，这个在AI之前几乎只在专业领域存在的小众品类，如今成为存储大厂的兵家必争之地，本质上反映的是同一个矛盾：数据在计算单元和存储单元之间反复搬运，正在成为性能和功耗的最大瓶颈。

存算一体试图从架构层面解决这个问题，让数据在存储阵列内部直接完成计算，而不是来回搬运。

不过，存算一体并非没有争议。在摩尔定律放缓、HBM产能紧缺、先进封装产能集中的产业背景下，这一架构被不少创业者视为绕开制程竞赛的“换道”机会；但也有观察者指出，存算一体在精度、可编程性和生态工具链上仍需补课。一位参会的芯片行业分析师对记者表示，存算一体真正的考验不是实验室里的能效比，而是能否在量产线上持续交付、能否被主流软件生态接纳。

技术为什么此刻被需要？比“省Token”更迫切的需求，来自合规和隐私。中电长城科技终端产品部副总经理林俊表示，在政府、金融、司法、医疗等数据敏感行业，客户最渴望用上AI，但合规红线也最严。“在市场招标里，数据不出机不是加分项，而是入场券。”他说。

如果说产业端的需求是合规驱动，那么治理视角下的讨论则把问题推得更远。全球人工智能创新治理中心副主任、复旦大学副教授蒋昌建认为，算力下沉不只是技术选择，更是权力、风险和责任的重新分配。“机器人行走、汽车避障、工业控制必须在极短时间内完成感知和决策，不能依赖云端指令；一旦断网或云服务故障，后果可能危及人身安全。”他主张一种混合架构：端侧负责实时控制、隐私敏感任务和基本安全，云端负责复杂推理、大规模训练和必要协同。

从“能跑”到“被需要”

技术落地的背后，是区域产业生态的支撑。北京经开区管委会副主任、北京市集成电路重大办主任历彦涛给出了更具体的数字：亦庄已集聚集成电路企业近400家，覆盖设计、制造、先进封装、装备和零部件全产业链；2026年1—9月，全区集成电路产值达1667亿元，同比增长翻番，以集成电路为核心的新一代信息技术产业已成为亦庄第一大主导产业。2026年8月，亦庄发布了国内首个“AI for Chip”专项政策。

后摩智能正是这一生态中的代表性企业。据信晓旭介绍，该公司目前已有两代芯片量产，覆盖4大应用场景，M50芯片从第三方客户送测到2026年8月底，已获得超过150项产品定点；与CPU、操作系统、AI Infra伙伴完成了X86、ARM、RISC-V以及Windows、Ubuntu、开源鸿蒙、安卓、麒麟、统信、欧拉等主流平台的适配。

终端侧的呼应已经出现：联想集团副总裁李伟昌透露，联想与后摩合作的AI主机P7将于10月24日推出，定位为“放在用户身边的专属AI算力中心”。

热闹背后，从业者对“临界点”仍有清醒认识。后摩智能AI系统总工程师陈仲铭用“不可能三角”概括当前端侧芯片的工程约束——算力、带宽、功耗三者难以同时拉满。后摩智能的策略是用两条产品线分别应对：M系列把算力做大，A系列通过3D CIM把带宽做大。寅谱计算CMO陈展凌则指出，当前真正的瓶颈不在芯片参数，而在场景和生态。“我们看到实际情况是场景还不足够，如果想做更大规模扩展，速度还是会慢。”

与此同时，成本是另一个绕不开的话题。聊趣智能创始人黄隽实坦言，在养老、政务等落地场景中，企业预算差异极大，大部分客户无法承担头部企业的算力支出，“成本是非常关键的部分”。而在存储价格高企的当下，即便是芯片厂商，也不得不承认“内存能拿到就不错”。

而在上述分析师看来，端侧AI的竞争才刚刚开始。当模型侧的小型化曲线、芯片侧的架构创新、政策侧的产业引导和需求侧的合规驱动在2026年形成共振，存算一体作为其中一条技术路线，能否真正从“实验室明星”成长为“产业主线”，还要看未来一到两年量产线上的交付、软件生态的成熟度，以及那些尚未被定义的终端场景。

（编辑：张靖超 审核：李正豪 校对：颜京宁）