AI Agent Cost per Action:为什么 agentic 工作流会推高 token 账单
管理层买的不是 token,而是完成的行动:一个解决的支持工单、一张提取好的发票、一次完成的 PR review、一个补全的 lead、一次批准的退款、一个分流完成的 claim。这才是 AI agent 成本模型应该使用的单位。Cost per action 是把一个业务结果做到质量门槛所需的总成本,包括模型调用、工具调用、重试、验证器、升级、缓存 token、未缓存 token 和人工修正。
这篇文章比 LLM 成本计算器 更窄。那篇文章讲 LLM 系统的每成功任务成本;这里专门讲 agentic 工作流,因为账单增长来自循环:计划、调用工具、读取工具输出、扩展上下文、验证、重试,有时还会交给另一个 specialist。
想从 trace 算出每行动成本?
预约免费咨询什么是 AI agent cost per action?
AI agent cost per action 是一个完成业务结果的总成本,而不是一次模型调用。它包括输入 token、缓存输入、输出 token、工具 schema、检索上下文、工具 observation、重试、验证器调用、升级、人工 review 和失败尝试,再除以成功行动数。
每行动成本 =(模型调用成本 + 工具和检索成本 + 重试成本 + 验证成本 + 人工返工)/ 成功行动数。
分母很重要。如果 agent 尝试补全 10,000 个 lead,但只有 8,700 个通过验证,成本应除以 8,700。失败行动并不免费,它们已经消耗了 token、工具、时间和信任。
为什么 agents 会放大 token
单次 LLM 调用是一行成本。一次 agent run 是一条 trace。ReAct 论文让这种模式出名:语言模型可以交错生成 reasoning 和 action,从外部环境获取信息后再继续。这很有用,但也改变了经济性。每个循环都会带上更多历史和 observation。
| 成本乘数 | 发生了什么 | 为什么账单变大 |
|---|---|---|
| 计划 | Agent 判断下一步。 | Planner prompt 和 reasoning output 在真正工作前就产生成本。 |
| 工具 schema | 函数、MCP 工具、权限和示例进入上下文。 | 静态工具描述很大,如果缓存无效会反复计费。 |
| 工具 observation | 搜索结果、CRM 记录、发票、diff 或日志回到模型。 | 每个 observation 都成为下一步的新输入。 |
| 重试 | Schema 错误、超时或低置信度触发第二轮。 | 第二次通常还带着第一次的完整上下文。 |
| 验证 | 另一个模型或规则检查 grounding、policy、提取质量或代码风险。 | 质量控制必要,但它也是成本行。 |
| Handoff | 通用 agent 交给 specialist。 | 上下文会被复制、总结或重新扩展。 |
四个管理层听得懂的例子
| 业务行动 | 天真假设 | 典型 trace | 成本指标 |
|---|---|---|---|
| 支持工单已解决 | 一次回答。 | 分类、检索 policy、检查账号、起草、验证、更新 CRM。 | 每个通过 QA 的已解决工单成本。 |
| 发票已提取 | 一次 OCR 加 JSON。 | 读文件、判断版式、提取字段、查供应商、验证合计、重试缺失字段。 | 每张无需人工修正的发票成本。 |
| PR 已 review | 一个代码 review prompt。 | 总结 diff、检查文件、运行测试、搜索依赖、验证发现、写 review。 | 每个有可执行发现且低误报的 PR 成本。 |
| Lead 已补全 | 一次 enrichment 调用。 | 搜索网页、解析公司页、检查 CRM、判断 ICP fit、去重、打分。 | 每个销售接受的可用 lead 成本。 |
行动成本计算器
| 列 | 示例 | 为什么重要 |
|---|---|---|
| 行动类型 | 支持工单已解决 | 业务单位,不是 API 单位。 |
| 月尝试数 | 40,000 | 失败前的原始量。 |
| 成功率 | 86% | 把尝试数转换成成功行动。 |
| 每行动模型调用 | 平均 4.7 | 计划、起草、验证和重试。 |
| 每行动工具调用 | 平均 3.2 | Search、CRM、数据库、代码、浏览器或工单系统。 |
| 未缓存输入 | 8,400 tokens | 动态用户数据、工具结果和 observation。 |
| 缓存输入 | 18,000 tokens | System prompt、工具 schema、policy 和示例。 |
| 输出 token | 2,300 | 草稿、JSON、review 评论。 |
| 重试率 | 14% | 隐藏的循环税。 |
| 升级率 | 9% | 更强模型或人工 review。 |
| 人工返工 | 0.8 分钟 | 把低质量转成钱。 |
示例:解决一个支持工单
一个支持 agent 负责解决 tier-1 工单。Demo 看起来很便宜:一个工单,一次模型调用。生产环境不同。Agent 会分类、检索 policy、检查账号、起草回复、验证 grounding 并更新工单。有些工单需要退款批准,有些 schema 失败后要重试。
| 步骤 | 调用 | 输入模式 | 优化杠杆 |
|---|---|---|---|
| 分类工单 | 1 | 短工单加分类体系 | 小模型或规则。 |
| 检索 policy | 1 次工具调用 | 搜索 query 和片段 | 更好的过滤器和更短 chunk。 |
| 检查账号 | 1 次工具调用 | 状态和订单数据 | 只返回决策所需字段。 |
| 起草回复 | 1 | 工单、policy、账号、语气指南 | 缓存静态指令。 |
| 验证 grounding | 1 | 草稿加证据 | 先用规则或便宜验证器。 |
| 重试 | 平均 0.18 | Schema 失败或低置信度 | 先修工具输出契约,再换模型。 |
Caching 在哪里有用
Prompt caching 是 agent 的第一成本杠杆,因为工具 schema、policy 和指令会重复。OpenAI 表示 prompt caching 可把延迟降低最高 80%、输入 token 成本降低最高 90%,对 1,024 token 以上 prompt 自动启用,并要求精确 prefix 匹配。Anthropic 的 cache read 是基础输入价的 0.1x;Gemini 付费层包含 context caching 和 batch。
但 agent 上下文很杂。2026 年关于 long-horizon agentic task 的 prompt caching 研究发现,结构正确时 API 成本可降低 45% 到 80%。TokenPilot 提醒了同一个权衡:如果你为了省 token 不断改变 prefix,就会破坏 cache hit。
规则很简单:稳定内容放前面,易变内容放后面。System 指令、工具 schema、policy 和示例在前;工单文本、发票页、搜索结果、diff 和工具 observation 在后。
Batch 什么时候省钱
Batch 适合可以等待的行动。OpenAI Batch API 列出相对同步 API 的 50% 折扣,并在 24 小时内完成。Anthropic 对 batch 的 input 和 output tokens 提供 50% 折扣。Gemini paid tier 提供 Batch API 和 50% 成本降低。它适合发票积压、lead enrichment、夜间 QA、eval、文档迁移和离线分类。
实时支持、交互式 PR review 和欺诈决策需要其他控制:更少循环、更窄工具、更小验证模型、更好缓存,以及通过 LLM gateway 或 router 做路由。
如何控制账单
- Trace 每个行动。记录 action ID、模型、工具、token、cache hit、retry 原因、延迟、状态和 eval 结果。
- 限制循环。设置最大工具调用数和清晰 fallback。
- 分开 planner、worker 和 verifier。昂贵模型不应该默认做所有步骤。
- 缩窄工具。返回下一步需要的字段,不要返回整个 CRM 对象。
- 缓存静态上下文。让 prefix 在行动之间保持稳定。
- 离线行动用 batch。Leads、发票和 eval 如果能等,就不应支付 live 价格。
- 衡量成功,不是尝试。失败行动留在分子里。
质量必须进入成本模型
最便宜的 agent 往往会给其他团队制造工作。需要人工修语气的工单、销售拒绝的 lead、会计改字段的发票,或全是误报的 PR review,都没有实现宣传中的节省。行动只有通过业务质量门槛才算成功。
上线计划见 30/60/90 天 AI agent 试点。失败模式见 为什么 AI agent 项目会被取消。
来源和实时价格提醒
供应商价格和 agent 平台变化很快。机制是稳定的,数字是 2026 年 7 月快照。预算前请重新检查 OpenAI Agents SDK、OpenAI prompt caching、OpenAI Batch API、Anthropic pricing 和 Gemini pricing。研究背景见 ReAct、Don't Break the Cache 和 TokenPilot。
最终思考
Agentic 工作流推高 token 账单,是因为一个请求会变成一条 trace:计划、工具、observation、起草、验证、重试、升级和记录。正确单位不是一次模型调用,也不是一条聊天消息,而是一个成功业务行动。
一旦衡量 cost per action,优化就变得具体:trace 每个行动、限制循环、缩窄工具、缓存稳定上下文、离线工作用 batch、把便宜步骤路由给便宜模型、验证质量,并把失败尝试留在分子里。
想从生产 trace 计算每行动成本?
预约免费咨询生产级 AI 支持
正在构建 AI 产品,却担心推理成本、架构或生产可用性?Wavect 帮助创始人把 AI 原型变成可靠的生产系统。
查看相关服务:
