Token越来越用不起了？别担心，算力网来了

今年上半年我国日均Token调用量突破140万亿，较2024年初增长超1000倍。需求爆发的同时，AI服务价格也出现明显波动，部分云厂商短期内连续上调模型定价，大模型厂商频繁限流，不少开发者和企业直呼"Token用不起了"。这一问题的背后是传统集中式算力架构在推理时代的力不从心，破局不仅通过一张全国一体化算力网，让分散的算力“连起来、调得动”，还需要再搭配上智能分发网络平台体系，让Token能跑得更快、更省。

一、Token时代，算力的“集中式困境”

当前的AI推理绝大多数还是在依赖于集中式布局的算力中心，这个模式在早期是合理的，因为模型大、算力贵，集中放置最省事。但当用户遍布全国、请求极具暴增时，集中式推理导致的时延和成本的问题就暴露了：

一方面是时延体验存在物理硬约束。集中式数据中心与终端用户之间的物理距离决定了往返时延的下限，而集中式架构天然难以同时满足差异化的时延需求，且网络距离不仅关乎用户体验，更将侵蚀算力资源的实际效能；另一方面服务成本难以持续压降。单Token推理成本虽随技术进步有所下降，但总消耗量增速远超单位成本降速，而且算力集中布局带来的网络带宽占用，再叠加业务潮汐引发的算力峰谷资源错配，多重因素共同推高单位服务成本。

二、算力网向云边协同分布式演进

算力网把分散在全国各地的算力中心连成一张大网，像电网调度电力一样调度算力，针对集中式推理的痛点，算力网未来将向三个方向持续发力：

一是打造云边协同的分布式算力新布局。推动算力布局由集中式向分布式转型，算力资源从区域级大型中心集群，逐步下沉至省级、地市、区县及现场级边缘算力节点，构建中心算力与边缘算力联动融合的分布式算力体系，实现云边深度协同运行。

二是升级算网协同承载能力。统筹推进传输网络、IP网络技术升级，探索智算中心互联网络、800G光网络、空芯光纤等技术，打通枢纽算力与边缘算力、跨区域算力的高速互联通道，破除算力跨域流转、协同调度的网络瓶颈，全面提升算力网整体承载和联动服务水平。

三是健全全域统筹编排调度机制。打破区域、层级、架构壁垒，持续迭代优化智能编排调度系统核心能力，实现算力、网络、模型、数据、应用的一体化统筹编排和动态协同调度，有力支撑人工智能训推一体化、业务全流程高效运转。

简单来说，算力网解决了算力资源"连起来、调得动"的基础问题，但要应对token经济下的推理算力需求的爆发式增长挑战，还需要一套更聪明的分发调度体系。

三、AIDN智能分发网络，让Token服务跑得快、跑得省

目前，我们正加快推动构建AIDN（Artificial Intelligence Delivery Network）智能分发网络。AIDN作为算网智融合的平台型网络体系，就像是跑在算力网上面的"智能物流调度系统"，它把模型、知识库、智能体等智能要素当作“包裹”，通过在泛在算网节点进行一体化分发调度、部署优化与迭代进化，让每个推理请求以最快、最省的方式送达最合适的算力节点。

AIDN总体采用分发调度平台、中心节点平台和边缘节点平台的三层协同架构，形成从统一接入、集中治理、智能调度到边缘承载和就近服务的技术体系。

分发调度平台是全网的"调度与决策中枢"。它汇聚网络位置、节点资源、服务实例、缓存状态、SLA等多维状态信息，形成"全网推理算力地图"；在此基础上，基于请求的时延、成本、合规等约束进行智能决策，向中心节点平台下发分发策略和调度任务；同时结合边缘侧运行反馈，动态执行智能要素追加分发、服务扩容迁移，实现弹性控制与业务连续性保障。

中心节点平台是智能要素的"汇聚与分发中心"。它承担智能要素源站和仓库作用，汇聚管理大模型、知识库、智能体、Skill工具等各类智能要素进行统一注册、版本治理与生命周期管理，并通过语义封装与协议适配等技术对高频热点要素压缩和打包，完成对边缘节点的广域分发。

边缘节点平台是用户“就近服务的底座”。它负责承载分发到边缘侧的智能要素，并通过跨架构迁移和推理引擎优化技术，让各类模型在边缘节点上快速部署、高效运行；同时结合热点要素预置和KV Cache缓存复用等技术把常用模型和相似问题的计算结果提前备在本地，让用户请求就近匹配，体验低时延、低成本的边缘推理服务。

四、结语展望

未来，随着算力网持续完善、AIDN智能分发技术逐步成熟，AI服务的时延将不断降低、Token成本将稳步下降，为人工智能经济的规模化发展奠定坚实底座。

作者：王升 中国移动研究院网络与IT技术研究所技术经理

陈燕军 中国移动研究院网络与IT技术研究所技术经理

曹广静 中国移动研究院网络与IT技术研究所研究员

审核： 张昊 中国移动集团首席专家、中国移动研究院网络与IT技术研究所所长

策划：阎冬 陈昊

出品：科普中国×中国移动科学技术协会

内容来自：科普中国

（本文封面图片来自版权图库，转载使用可能引发版权纠纷）