拼命刷 token 是 AI 成本黑洞——如何在不超预算的情况下使用代理

ZDNET 的核心观点

• 拼命刷 token 用量来支撑代理式 AI，这条路走不通。
• 企业领导者必须制定 token 使用策略。
• 在规矩范围内给大家留出探索代理的空间。

在 AI 圈子里，十二个月就跟过了一辈子似的。集成技术专家 Boomi 的 CEO Steve Lucas 去年担心 CIO 们在没有明确方向感的情况下匆忙推进生成式 AI 计划。如今，一年过去了，他担心 IT 从业者又在犯同样的毛病——急急忙忙地上手代理技术，而 token 的使用规模只会朝一个方向发展：向上。

“无论你在公司内部还是外部工作，感觉你的核心任务就是使用 AI，为了自己的活儿，拼命把那项技术的 token 用到极致，”他在接受 ZDNET 采访时表示。

Token 是 AI 模型处理的信息的基本单位，研究表明，随着该技术消耗的 token 数量呈指数级增长，代理的成本蹭蹭往上涨，而且根本没法预测。

正如我的 ZDNET 同事 Steven Vaughan-Nichols 最近所讨论的，说起来也没多久——当然是在生成式 AI 兴起期间——每个人都对自己的token 排行榜感到兴奋，该排行榜显示组织内谁的 token 使用量最多。如今，token 排行榜已经没人看了，因为谁都浪费不起 token 了。

在代理时代，拼命刷 token 用量说明你在铺张浪费，而“token 经济学”——衡量、定价和管理 token 消耗的实践——是一项关键的业务活动，即使对像 Lucas 这样的技术 CEO 也是如此，他指出 token 的消耗速度要快得多。

“一年前，我们还没有谈论 token 经济学，”他说。“但去年，我个人在 Boomi 花在 Claude 上的钱是前一年的 10 倍——10 倍；这是不可持续的。我不能每年都这样做。”

现在企业和从业者得自己搞一套适合企业用的 token 经济学。代理式 AI 将改变每家企业的运营方式——Lucas 建议，摸索出一套省钱的办法来探索代理，是眼下的当务之急。

“在企业中，归根结底重要的是人工智能的经济效益，”他说。“大多数组织将把人工智能视为未来的企业引擎。所以，现在重要的是，‘我能不能让AI带来回报？’这是根本问题。”

商界领袖们表示，前进的最佳方式很明确：与其限制人们如何使用智能体，不如给他们指导原则和判断依据，让他们做出性价比高的模型选择。

让人发挥所长

Snowflake首席执行官Sridhar Ramaswamy认识到，token消耗量在增加，甚至在他自己的组织内也是如此。然而，他也表示，给员工留出探索智能体的空间至关重要。

“我们担不担心各内部团队在AI推理上的花费？当然担心，”他说。“但我会不会因为这笔花费就不用AI了？绝对不会。”

尽管过度消耗token是个隐患，但Ramaswamy在其公司最近于旧金山举行的Summit 2026活动的媒体会议上表示，人工智能的创造性使用可以催生新的商业机会。

智能体可以帮助提升员工效率和工作产出，有望更快、更高效地为公司客户推出新服务。

“我们把智能体AI看作一个机会，不仅能优化我们做的事，还能把流程变成客户可以直接使用的产品，”他说。

与拉马斯瓦米一样，可穿戴技术专业公司Whoop的分析副总裁马特·路易齐表示，他的公司正在投资于智能体探索，以寻找竞争优势。

“如果我们想让人们走出舒适区，我们就需要接受他们承担风险，并明白不会真的弄坏什么。”

简而言之，路易齐表示，他可以接受员工在智能体上花钱，但这并不意味着token（调用量）消耗会失控。

“我们设有防护措施，并通过监控和观测手段让人们了解他们的支出情况，”他在2026年峰会的专题讨论中说道。

“但更有可能的是，我们只需要坐下来帮他们打开思路，‘你怎样才能更高效地做这件事，你想要达成什么目标？’”

从整体角度理解

路易齐认为，智能体成功的关键在于精心管理的赋能。是的，让人们用智能体和token突破边界，但别让他们用力过猛。

“归根结底，我们正在全力投入，因为我们认为这有投资回报。我们看到人们变得更高效。我们看到工作完成得更快，”他说。

“这些积极的结果意味着，我们并不是要死盯着人们用了多少令牌，而是要认识到这需要规模化，但也不能让大家随便乱来。”

技术专家Synopsys公司的CIO Sriram Sitaraman在Snowflake会议的同一小组讨论中表示，人们必须能够探索新的途径，包括代理，以发现应对业务挑战的创新解决方案：“有约束就创不了新，你能走的路就那么远。”

与Luizzi一样，Sitaraman表示，指导原则可以帮令牌消耗划出明确的框框。他建议，给项目设定好合适的场景，就能形成有效的约束。

“如果你问一个代理，‘我明天应该做什么？’它可能会消耗大量数据和大量令牌，然后吐回来一堆没用的东西，”他说。“如果你设定一个场景，比如创建一个北美销售运营代理，给项目具体的目标和数据，那消耗就能控制住，而它为用户提供的价值会更高。”

法国电视网络TF1的集团首席数据和广告技术官Francois-Xavier Pierrel也认同对业务场景的关注，他告诉ZDNET，靠常理来把握，是企业和专业用户控制令牌用量最好的办法。

Pierrel把那种不加约束的做法比作糖瘾。一旦你开始往食物里加糖，就会习惯那个味儿，慢慢就上瘾了，还是不健康的那种。他说AI也有类似的风险。

“一切都很便宜，非常便宜，我们都投入其中了，”他回顾早期使用生成式AI技术的热潮时说道。如今，痴迷于智能体，代价可就高多了。

“使用的token数量可能很快就会变成一个庞大的数字。而且在某个时候，如果我们看看所有那些在智能体AI上疯狂投入资金的公司，账单迟早是要还的。”

Pierrel表示，谨慎是他所在组织的关键词，他举例说明了他们如何要求专业人士在使用大语言模型时权衡各种选择。

“对于那些范围很窄、边界很明确的应用场景，我们会说，‘能不能用个小模型？token消耗比预期或计划少，但活儿照样能干完。’”

随着企业在工作流程中部署更多智能体，Pierrel认为这种精打细算token的策略，对真正创造价值很关键。

“我认为我们在这方面会变得更加灵活，尝试一些东西，然后根据用例进行调整，以避免产生疯狂的账单，”他说。“我们又不是在搞火箭登月。所以，让我们保持理性——要是小规模就能搞定、照样管用，就别一下子铺一百万个智能体上去。”