通过工具输出压缩控制编码代理成本

编码代理在扩展阶段往往先出现成本激增，因为工具循环返回了大量重复输出。一次动作可能执行命令、读取长日志、重试并再次发送上下文，模型只处理“对你有用的行”之前要先读取整个大块内容。

在OpenAI 的代理调用处理流程中，工具输出、工具状态和用量信息通常走同一请求路径。如果每个步骤都带着大输出重试，单个模型的价格并不是主要问题，关键是每次动作读取的无效上下文。

因此很多团队先更换模型，但成本仍然反弹，因为问题来自动作级别的输出体量，而非单一供应商。

为什么会支付重复上下文费用

代理循环变贵有四个常见原因：

• 命令输出。 测试、构建、静态检查经常产出大量行，而真正有价值的错误片段很少。
• 重复元数据。 工具签名和配置在每次请求中重复出现。
• 重试循环。 相同字段反复进入下一轮。
• 人工接手。 升级到人工后，信息会再次回到模型和日志。

输出压缩该做什么，不该做什么

压缩不是换模型，而是修剪和保留证据的迹线控制。良好的系统应做到：

• 先保留关键行并缩短前置上下文。
• 被丢弃行可追溯存档，不影响审计。
• 可复现检索规则，方便回放和复盘。

Codag 针对终端和 MCP 输出给出了“按动作压缩、保留证据、可检索回放”的思路，支持一键安装，并兼容常见的 coding 工具链。这样可以减少输入噪声，但不会把可追踪证据完全删掉。

适合立刻尝试的场景

• 工具输出随重试线性增长。
• 新增代理后输出成本明显上升。
• 用户流量稳定但账单波动明显。
• 高成本事件多来自失败链路与人工修正，而非新产品功能。

如果你的主要问题是治理规则、数据质量或范围失控，先处理这些问题，再考虑压缩。

14天试点评估方法

把可重复的指标定为前提，不要用直觉判断。

1. 选一个稳定场景，例如 ticket triage、构建检查、内容迁移。
2. 记录每次尝试、成功动作、重试率和每个成功动作的 token 成本。
3. 在同一组提示下，分别开启和关闭压缩。
4. 对比模型花费、回退率和人工修正时间。
5. 定义提前设定的回退阈值和质量边界。

目标不是第一周拿到最低 token 数，而是稳定地降低每个成功动作的实际成本。

商业层面的意义

如果你同时在用多个模型服务商，压缩可以成为先行的采购杠杆，先在执行层面提升利用率，再决定是否换模型或调整合同。

结合 AI Agent Cost per Action 建立核心 KPI。再看 LLM 成本优化方法 和 LLM 代价计算器。

如果你需要在内部交付并且合规要求高，我们的 AI enablement 服务 可以在上线前完善追踪架构、检索策略和人工复核流程。

实施前要回答的问题

• 先优化动作结构，还是先做压缩?
• 哪些输出是审计必须，哪些可裁剪?
• 质量下降时什么条件下回滚?

决策标准：压缩在成本方差下降、且成功动作质量稳定时才推进。

来源与验证说明

在试点和发布后，至少每季度复核一次这些来源：

• Codag 产品概览
• Codag 价格与套餐
• Codag 文档
• Anthropic Agent tool documentation
• Anthropic advanced tool use guidance
• 缓存友好提示词构建研究