返回
Kevin Riedl

12 分钟 阅读 · 2026年7月9日

下一篇

AI Agent Cost per Action:为什么 agentic 工作流会推高 token 账单

管理层买的不是 token,而是完成的行动:一个解决的支持工单、一张提取好的发票、一次完成的 PR review、一个补全的 lead、一次批准的退款、一个分流完成的 claim。这才是 AI agent 成本模型应该使用的单位。Cost per action 是把一个业务结果做到质量门槛所需的总成本,包括模型调用、工具调用、重试、验证器、升级、缓存 token、未缓存 token 和人工修正。

这篇文章比 LLM 成本计算器 更窄。那篇文章讲 LLM 系统的每成功任务成本;这里专门讲 agentic 工作流,因为账单增长来自循环:计划、调用工具、读取工具输出、扩展上下文、验证、重试,有时还会交给另一个 specialist。

想从 trace 算出每行动成本?

 预约免费咨询

什么是 AI agent cost per action?

AI agent cost per action 是一个完成业务结果的总成本,而不是一次模型调用。它包括输入 token、缓存输入、输出 token、工具 schema、检索上下文、工具 observation、重试、验证器调用、升级、人工 review 和失败尝试,再除以成功行动数。

每行动成本 =(模型调用成本 + 工具和检索成本 + 重试成本 + 验证成本 + 人工返工)/ 成功行动数。

分母很重要。如果 agent 尝试补全 10,000 个 lead,但只有 8,700 个通过验证,成本应除以 8,700。失败行动并不免费,它们已经消耗了 token、工具、时间和信任。

为什么 agents 会放大 token

单次 LLM 调用是一行成本。一次 agent run 是一条 trace。ReAct 论文让这种模式出名:语言模型可以交错生成 reasoning 和 action,从外部环境获取信息后再继续。这很有用,但也改变了经济性。每个循环都会带上更多历史和 observation。

成本乘数发生了什么为什么账单变大
计划Agent 判断下一步。Planner prompt 和 reasoning output 在真正工作前就产生成本。
工具 schema函数、MCP 工具、权限和示例进入上下文。静态工具描述很大,如果缓存无效会反复计费。
工具 observation搜索结果、CRM 记录、发票、diff 或日志回到模型。每个 observation 都成为下一步的新输入。
重试Schema 错误、超时或低置信度触发第二轮。第二次通常还带着第一次的完整上下文。
验证另一个模型或规则检查 grounding、policy、提取质量或代码风险。质量控制必要,但它也是成本行。
Handoff通用 agent 交给 specialist。上下文会被复制、总结或重新扩展。

四个管理层听得懂的例子

业务行动天真假设典型 trace成本指标
支持工单已解决一次回答。分类、检索 policy、检查账号、起草、验证、更新 CRM。每个通过 QA 的已解决工单成本。
发票已提取一次 OCR 加 JSON。读文件、判断版式、提取字段、查供应商、验证合计、重试缺失字段。每张无需人工修正的发票成本。
PR 已 review一个代码 review prompt。总结 diff、检查文件、运行测试、搜索依赖、验证发现、写 review。每个有可执行发现且低误报的 PR 成本。
Lead 已补全一次 enrichment 调用。搜索网页、解析公司页、检查 CRM、判断 ICP fit、去重、打分。每个销售接受的可用 lead 成本。

行动成本计算器

示例为什么重要
行动类型支持工单已解决业务单位,不是 API 单位。
月尝试数40,000失败前的原始量。
成功率86%把尝试数转换成成功行动。
每行动模型调用平均 4.7计划、起草、验证和重试。
每行动工具调用平均 3.2Search、CRM、数据库、代码、浏览器或工单系统。
未缓存输入8,400 tokens动态用户数据、工具结果和 observation。
缓存输入18,000 tokensSystem prompt、工具 schema、policy 和示例。
输出 token2,300草稿、JSON、review 评论。
重试率14%隐藏的循环税。
升级率9%更强模型或人工 review。
人工返工0.8 分钟把低质量转成钱。

示例:解决一个支持工单

一个支持 agent 负责解决 tier-1 工单。Demo 看起来很便宜:一个工单,一次模型调用。生产环境不同。Agent 会分类、检索 policy、检查账号、起草回复、验证 grounding 并更新工单。有些工单需要退款批准,有些 schema 失败后要重试。

步骤调用输入模式优化杠杆
分类工单1短工单加分类体系小模型或规则。
检索 policy1 次工具调用搜索 query 和片段更好的过滤器和更短 chunk。
检查账号1 次工具调用状态和订单数据只返回决策所需字段。
起草回复1工单、policy、账号、语气指南缓存静态指令。
验证 grounding1草稿加证据先用规则或便宜验证器。
重试平均 0.18Schema 失败或低置信度先修工具输出契约,再换模型。

Caching 在哪里有用

Prompt caching 是 agent 的第一成本杠杆,因为工具 schema、policy 和指令会重复。OpenAI 表示 prompt caching 可把延迟降低最高 80%、输入 token 成本降低最高 90%,对 1,024 token 以上 prompt 自动启用,并要求精确 prefix 匹配。Anthropic 的 cache read 是基础输入价的 0.1x;Gemini 付费层包含 context caching 和 batch。

但 agent 上下文很杂。2026 年关于 long-horizon agentic task 的 prompt caching 研究发现,结构正确时 API 成本可降低 45% 到 80%。TokenPilot 提醒了同一个权衡:如果你为了省 token 不断改变 prefix,就会破坏 cache hit。

规则很简单:稳定内容放前面,易变内容放后面。System 指令、工具 schema、policy 和示例在前;工单文本、发票页、搜索结果、diff 和工具 observation 在后。

Batch 什么时候省钱

Batch 适合可以等待的行动。OpenAI Batch API 列出相对同步 API 的 50% 折扣,并在 24 小时内完成。Anthropic 对 batch 的 input 和 output tokens 提供 50% 折扣。Gemini paid tier 提供 Batch API 和 50% 成本降低。它适合发票积压、lead enrichment、夜间 QA、eval、文档迁移和离线分类。

实时支持、交互式 PR review 和欺诈决策需要其他控制:更少循环、更窄工具、更小验证模型、更好缓存,以及通过 LLM gateway 或 router 做路由。

如何控制账单

  1. Trace 每个行动。记录 action ID、模型、工具、token、cache hit、retry 原因、延迟、状态和 eval 结果。
  2. 限制循环。设置最大工具调用数和清晰 fallback。
  3. 分开 planner、worker 和 verifier。昂贵模型不应该默认做所有步骤。
  4. 缩窄工具。返回下一步需要的字段,不要返回整个 CRM 对象。
  5. 缓存静态上下文。让 prefix 在行动之间保持稳定。
  6. 离线行动用 batch。Leads、发票和 eval 如果能等,就不应支付 live 价格。
  7. 衡量成功,不是尝试。失败行动留在分子里。

质量必须进入成本模型

最便宜的 agent 往往会给其他团队制造工作。需要人工修语气的工单、销售拒绝的 lead、会计改字段的发票,或全是误报的 PR review,都没有实现宣传中的节省。行动只有通过业务质量门槛才算成功。

上线计划见 30/60/90 天 AI agent 试点。失败模式见 为什么 AI agent 项目会被取消

来源和实时价格提醒

供应商价格和 agent 平台变化很快。机制是稳定的,数字是 2026 年 7 月快照。预算前请重新检查 OpenAI Agents SDKOpenAI prompt cachingOpenAI Batch APIAnthropic pricingGemini pricing。研究背景见 ReActDon't Break the CacheTokenPilot

最终思考

Agentic 工作流推高 token 账单,是因为一个请求会变成一条 trace:计划、工具、observation、起草、验证、重试、升级和记录。正确单位不是一次模型调用,也不是一条聊天消息,而是一个成功业务行动。

一旦衡量 cost per action,优化就变得具体:trace 每个行动、限制循环、缩窄工具、缓存稳定上下文、离线工作用 batch、把便宜步骤路由给便宜模型、验证质量,并把失败尝试留在分子里。

想从生产 trace 计算每行动成本?

 预约免费咨询
返回
Kevin Riedl

12 分钟 阅读 · 2026年7月9日

下一篇

生产级 AI 支持

正在构建 AI 产品,却担心推理成本、架构或生产可用性?Wavect 帮助创始人把 AI 原型变成可靠的生产系统。

查看相关服务: