智能体时代，我们需要怎样的AI数据操作系统？

当前，人工智能已奔涌至智能体大规模落地的深水区，十万卡级的算力集群渐成标配，万亿级Token汹涌袭来，多模态裹挟着结构化与非结构化的海量数据奔流不止，并不断冲刷着传统IT基础设施……

数据孤岛林立，算力资源割裂，智能体的原生运行环境缺失，数据、算力与模型三层完全脱节，这些底层技术瓶颈，又让智能时代的想象空间蒙上一层阴影。

我们或许需要一个能从底层重构人、数据与算力关系的原生操作系统。而这，恰是浪潮数据决心打造AI数据操作系统（AIOS）最深层次的动因。

01

智能体时代的四道“难关”

当AI时代的主旋律从大模型转向自主决策、执行复杂任务的智能体时，一场深藏于底层基础设施的系统性危机也随之爆发，这是贯穿数据、算力、模型和应用四个层面的矛盾集体激化。

浪潮数据董事长、首席科学家张东

浪潮数据董事长、首席科学家张东认为，行业正处在一个“云数演化、智能涌现”的关键节点，这个阶段的主要特征就是传统架构的割裂，使得数据、算力与智能之间本应顺畅的流动处处受阻。

在其背后，首先是数据层陷入的孤岛与性能的双重矛盾。企业内部的IT系统历经多年建设，早已演变成一座座数据孤岛，文件、对象、大数据、时序、向量等存储系统各自为政。技术团队将宝贵时间消耗在无休止的数据迁移与格式适配中，PB级的数据拷贝动辄以周为单位，81%的精力都耗费于此。即便数据被强行汇总，异构存储无法全局统一调度，导致60%-80%的冷数据无人问津，而冗余副本又吞噬着海量存储空间。

其次，在算力层异构加速芯片存在生态割裂。国内主流智算中心往往同时混插昇腾、寒武纪、英伟达等十余类AI芯片，不同厂商的软件栈、算子库互不兼容，导致宝贵的GPU资源无法被统一调配和池化，综合利用率仅在11%至55%之间，大量算力资源因上下文重复计算而空耗，这无疑是对昂贵算力资产的巨大浪费。

第三，推理与智能体缺少原生的运行底座。传统的云平台是为通用业务而生，缺少理解KV缓存共享、长效记忆管理和智能体沙箱隔离能力。在多轮对话、超长上下文的复杂场景下，显存极易溢出，而同类业务中KV Cache的重复生成，导致了高达70%的算力无效消耗。同时，智能体开发框架碎片化严重，缺乏统一编排、安全管控与全链路追踪体系，让运维人员如同“盲人摸象”。

最后，是数据、算力、模型三层的完全割裂。传统架构中，数据存储、算力调度、模型推理分属三套独立系统，数据需要反复拷贝至计算节点，存算分离带来极高时延，首Token延迟居高不下。如浪潮数据AI存储产品部总经理刘希猛所说，“Token的指数级增长与算力的线性增长形成了巨大剪刀差，Token效率提升已成为行业核心挑战。”

浪潮数据AI存储产品部总经理刘希猛

毫无疑问，智能体时代的数据存储要走向破局，已不仅仅是存储本身的进化，而是呼唤一个能将数据、算力与模型原生融合，为Token生产而生的“新物种”。

02

双引擎驱动，系统性破局

显而易见，要同越过四道难关，单一技术点的突破已毫无意义，系统性破局将是必由之路。

浪潮数据的选择是，从底层架构的创新出发，以数据底座InData与算力基座InCloud两大引擎驱动，通过AI数据操作系统这一全新物种，逐一击破时代痛点。

在数据层面，InData以全局数据编织技术打破数据孤岛。“通过跨域、跨集群的存储资源池上构建全局统一命名空间，生成整个存储系统全局元数据索引，屏蔽底层数据存储的位置差异，从而减少因数据拷贝而产生的副本，保证数据免迁移。”刘希猛说。这意味着，无论数据身处何地、何种系统，都能被统一纳管，如同一座城市拥有了一个将所有书籍编目的中央图书馆，知识的流动不再受物理位置的束缚。

与此同时，多协议融合技术使得一份数据可同时支持文件、对象等多种业务访问，彻底告别了因协议转换而造成的空间与效率浪费。而承载这一切的“玄同”架构，则以极致的性能回应了模型训练对数据供给的“饥饿”，它通过创新的数控分离设计，实现了百GB级数据带宽和亚毫秒级时延，原生全闪存落盘算法更让IOPS提升4倍，闪存寿命提升50%，兼顾了极致的性能与更优的成本。数据层“存”与“通”的矛盾，在InData的体系中被巧妙化解。

要强调的是，针对大模型推理中最为昂贵的KV Cache资源，InData行业首创了存储级分布式KVCache共享缓存池，配合HBM、DRAM、SSD三级存储池化，使跨任务KV缓存复用成为现实，TTFT首Token延迟降低90%，业务并发能力提升5倍，单Token成本大幅下降80%。

浪潮数据智能云产品部副总经理张明灿

而面对算力层异构芯片生态割裂的难题，InCloud算力基座则肩负起将异构算力转化为有效生产力的重任。如浪潮数据智能云产品部副总经理张明灿所说，“芯片提供算力，而我们的平台能够兑现算力。”

为此，InCloud首创了零代码柔性扩展框架，将十余类芯片的适配工作抽象为插件，“把硬件统一抽象为以算力和以显存为两个维度统一的资源池供客户按需调度”，使得异构算力首次可以被当作一个统一的资源池来灵活调度。这不仅解决了管理难题，更通过独创的“空间碎片归并”和“潮汐错峰调度”两大引擎，将资源利用率推向极致。由此，GPU综合利用率有望从平均40%大幅提升至85%，让庞大的算力投资得以兑现其应有价值。

在应用层，还有InCloud独创的Design-Run分离式智能体运行环境，解决了智能体从开发测试到规模化落地的鸿沟。通过安全容器沙箱、分级存储备份、弹性伸缩等机制，有效应对了智能体大规模并发时的负载复杂性、状态持久化与多级依赖难题。同时，全链路可观测性系统为每个推理任务分配唯一标识，实现了从用户请求到响应返回的端到端可视化运维。

至此，数据、算力与应用不再是三张皮，而是在InData与InCloud的紧密协作下，让Token的高效生产与价值释放形成了完整闭环。

03

AIOS：为何而生，以何而立

如果我们将视角拉高到全局架构，一个根本性的问题是：为什么在智能体时代，传统的分布式存储、云平台、数据库各自为政的格局必然走向终结？

刘希猛提到，“2026年整个有效Token的调用增长率是1400倍，全球算力的增长也不过是50%。这样一个指数增长和线性增长的剪刀差就带来了Token效率如何去提升这样一个挑战。”正是这巨大的“Token效率剪刀差”，宣告了旧时代的终结。

我们知道，传统IT管理的对象是CPU、磁盘和通用应用程序，而AI原生时代的管理对象已拓展为异构xPU集群、全域多模态数据、大模型Token与数以万计的智能体。这些对象并非孤立存在，而是形成了一个紧密耦合的价值链，从算力产生Token，Token驱动智能体，智能体规模化落地又反向放大算力与Token需求。

所以，我们认为，AI数据操作系统（AIOS）的诞生，本质上正是对这种AI的生产新范式的系统性回应，者是一个面向Token全生命周期（生产、分发、消费）的底层智能底座。在这个新系统中，InData与InCloud就像是是一枚硬币不可分割的两面，彼此定义，相互成就。

InData的核心价值在于“全域数据资产化”，通过全局数据编织、原生RAG与分布式KVCache，将以往碎片化、沉睡的冷数据、异构存储中的孤岛数据，实时转化为大模型可直接“食用”的知识；而InCloud的核心价值在于“异构算力效能化”，通过跨芯统一调度、推理加速与智能体运行环境，将昂贵且碎片化的GPU资源真正兑现为稳定、高效、可计量的Token服务。

简单的说，InData解决了“数据从哪来用”，InCloud解决了“算力如何高效运行" ，二者相辅相成，构成了智能时代最为珍贵的“数据飞轮”。这也回应了张东描绘的愿景，“智能体持续生成海量高质量Token，Token沉淀为企业专属知识库，知识库反向优化模型推理效果，形成自增长数据资产闭环。”

最终，AI数据操作系统，通过InData与InCloud的双轮驱动，将数据、算力、模型紧密编织在一起。而当数据不再沉睡，算力不再割裂，智能体才拥有了生长的沃土。