北京
超过五分之四（83%）的企业表示，需要先升级基础设施，才能全面支撑自主智能体AI的运行。这一数字令人震惊——尤其考虑到企业正以多快的速度试图在业务中全面推广AI。
对AI的热情并未消退，但对许多企业而言，基础设施仍在奋力追赶。谷歌在其最新发布的《AI基础设施现状报告》中探讨了这一差距。该报告调查了全球1,400位IT负责人，呈现了企业AI当前所处阶段的快照，以及在AI工作负载日趋复杂、且日益向推理驱动转型的背景下，企业的投资方向。
"多年来，企业AI一直等同于对话式AI——即我们每天接触的客服机器人和数字助手。"谷歌编排与Kubernetes产品高级总监Drew Bradstock写道，"但如今，市场已经转变。我们正式从'通过简单聊天回答问题'的AI，迈入了'采取行动、自动化工作流、自主执行复杂任务'的AI时代。这虽解锁了全新的用例，却也有一个代价：它给我们过去依赖的底层基础设施带来了巨大压力。"
基础设施的范式转变
这正是变化的起点。大多数企业基础设施并非为持续推理和决策的AI系统而建，而是为人使用软件而设计。自主智能体AI颠覆了这一格局。
这意味着，自主智能体AI需要全新规模的执行能力。企业花在思考"如何训练模型"上的时间越来越少，而花在思考"如何高效大规模运行模型"上的时间越来越多。
报告发现，推理目前占AI工作负载的47%，紧随其后的是训练（28%）和模型优化（16%）。
推理或许正在占据主导，但我们必须牢记，它仍然依赖于周边的一切。例如，AI智能体仍需连接CRM、ERP、数据库和其他业务系统才能完成工作。说起来容易做起来难。报告指出，遗留API和数据源仍是最大的基础设施缺口——其次是向量数据库和多系统访问的安全性。
"自主智能体工作负载带来了全新的规模挑战：单个提示可能触发数百个下游动作，需要在内存中维持巨大的上下文窗口，"Bradstock解释道。"试图在遗留架构上运行这些持续推理循环，在经济上是不可持续的。"
推理税与隐性成本
报告揭示，62%的企业负责人正面临由数据流出费用、存储膨胀和专用硬件闲置所驱动的巨额"推理税"。多达81%的受访者将运营复杂度列为AI规模化的隐性成本。
报告还用相当篇幅探讨了企业部署AI智能体之后的状况——谷歌称之为"智能体蔓延（agent sprawl）"。企业可能不再是管理一两个AI应用，而是最终要管理数百甚至数千个访问业务内不同系统的智能体。这使得可见性和治理变得更加困难，尤其是在智能体被赋予更多自主权的情况下。
另一个突出的问题是数据。如果AI智能体所需的信息分散在不同的数据库和应用中，它们就难以发挥作用。谷歌认为，企业需要一个更统一的数据层，让智能体无需依赖无休止的定制集成或重复数据，就能找到和使用信息。
能源：从年度指标到运营核心
报告还指出了一个几年前可能还没进入多数人视野的问题：能源。Bradstock写道："能源消耗曾经是只出现在年度报告中的可持续发展指标。如今，它扮演着至关重要的运营角色。"
调查发现，91%的技术负责人现在选择硬件时会考虑功耗。AI基础设施已不再仅仅是算力问题，它正逐渐成为一个能源问题。
从模型到基础设施的重心转移
从某种意义上说，这份报告标志着AI讨论话题的转变。一两年前，焦点大多在模型上。如今，问题已截然不同：
基础设施跟得上吗？
它能支撑数百个 AI 智能体吗？
它能高效运行吗？
它能在成本不飙升的前提下做到这一切吗？
这些似乎正是企业如今花更多时间思考的问题。
谷歌的答案是不一定购买更多硬件，而是重新思考整个技术栈。报告通篇强调，如果企业希望从AI试点走向生产落地，算力、存储、网络、治理和数据必须协同运作。随着AI工作负载持续增长，孤立地看待其中任何一个领域都变得愈发困难。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
