AI

为什么代理商支出看起来与经典SaaS COGS不同

经典软件具有可预测的单位成本。LLM代理则没有。单个用户操作可以触发计划器、三个工具调用、一个批评循环和最终的合成传递。每个步骤可能会命中具有不同价格表的不同模型。重试和静默回退会在运行中更改单位经济学。仅在月末看到提供商发票的财务团队无法回答哪个产品功能烧掉了钱。

FinOps基金会将云支出框定为工程团队持续拥有的事情。令牌经济学扩展了这个想法：告知→优化→运营，每个代理的构建者都可以看到自己的账本。这种框定是指导，而不是任何供应商工具的认证标志。

您必须记录的四个维度

- 哪个代理运行了。一个路由器将研究、支持和计费代理分发开来，不应该在发票上产生一条不明确的记录。 - 哪个功能触发了运行。同一个代理从入门或每晚批处理调用，具有不同的返回概况。 - 哪个最终用户或租户。一个强大的用户可以主导共享池；没有用户密钥，您将责怪错误的路线图项。

代理系统中隐藏的支出

重试和重新规划循环

代理在工具失败后重新规划可能会将廉价任务的成本增加十倍。第一次失败的成本通常很低，但第十次重试的成本就会激增。这里的变化率警报比每月总计更重要，因为损害窗口是分钟，而不是周。

跨回合的上下文增长

长时间的对话会重新发送之前的令牌。支持代理如果保留整个对话线程的上下文，会在第十二回合时再次为第一回合收费。故意总结或截断，并记录截断发生的时间，以便归属不会看起来像“神秘”的下降。

静默模型回退

如果您的网关在延迟激增时从小模型回退到前沿模型，单价会跳升。仅记录成功/失败的团队会错过价格变化。存储实际服务请求的模型ID，而不是您预期的模型。

工具输出重.inject

大型检索或浏览器结果被反馈为输入令牌。40k令牌的抓取后面跟着一个简短的答案，可能比输出侧的成本更高。将工具有效载荷大小作为第一类成本驱动因素。

一个实用的归因工作流

从一个样本支出日志开始，而不是从一个仪表盘幻想开始。粘贴行，形状像代理、功能、用户、令牌和排名成本驱动器沿着一个焦点维度。这足以决定您的下一个工程小时是否应该花在缓存、模型降级或杀死一个循环上。

- 收集原始调用日志，代表一天（而不是安静的周末）。 - 标准化模型名称和货币（每1k令牌的USD美分是一个耐用的单位）。 - 按代理、然后按功能、然后按用户滚动 - 对于大多数产品团队，按此顺序。 - 标记异常值：运行成本超过3倍中位数成本的运行，或者代理的支出增长超过50％的周环比。 - 为每个顶级代理提出一个防护栏（上限 + 早期警告阈值）。 - 在更改后重新检查账本；没有闭环的归因就是观光。

诚实边界（购买前请阅读）

CostLens 的适用场景

CostLens 面向需要快速从混乱的支出样本中获取排名成本驱动因素的团队而设计。您可以描述代理和工具，粘贴支出样本，选择关注点（按代理、功能或用户），并接收分解及具体的早期预警规则。专业计划保持审计日志；企业版可以自带密钥（BYOK）存储在服务器端。

工作示例（说明性模板）

对账本与提供商发票进行调节

选择记账单位

以每1,000个令牌的美元美分为单位的记账方式在不同提供商之间是可持续的。有些团队更喜欢“归一化令牌”，它将输出的权重设置得高于输入，这有助于产品经理比较功能，但财务人员仍需要原生票价来匹配发票。同时保留这两种视图，如果必须这样做，并标明图表使用哪种视图。沉默地混合它们就是团队为“错误”的数字而争论数周的原因。

对于多区域计费的货币转换，应在摄取时用FX来源和日期进行标记。追溯性地编辑FX会使月度图表失真。如果您今天只使用USD，仍然应存储货币字段，以便未来区域不会需要重写模式。

看似复杂的反模式

- 只发布单一的“AI COGS占收入百分比”而不提供代理细分——高管无法根据混合比率采取行动。 - 为整个账户设置一个硬性杀死开关——一个噪音大的研究代理将使支持离线。 - 只记录完成令牌——输入密集的工具链变得不可见。 - 将供应商的“使用情况导出CSV”视为归因——导出很少带有您的功能和用户标识符。

常见问题

为什么需要在预算之前进行归属?

单个账户级别的上限只能告诉你超出了预算，但不能告诉你哪个代理导致了超支。每个代理的上限需要每个代理的归属。

归属是否可以减少账单?

不。它显示你钱的去向。减少账单的方法是你在知道去向之后做出的改变。

缓存或折扣令牌怎么办?

它们改变了单位价格。记录每次调用所应用的价格层，以便账本可以与发票相符。

我们如何在早期发现失控的循环?

在速率变化和每次运行成本上设置警报，而不仅仅是月度总额。大多数循环只有在前几分钟内才廉价停止。

我们必须自己instrument每个调用吗?

某些东西必须发出每次调用的记录。CostLens消费这些记录并将它们归属；它不能创造缺失的instrumentation。

这是否获得了FinOps认证?

不。它遵循FinOps的归属和预算框架，但不是任何类型的认证。

CostLens是否是合法或信用建议?

不。报告仅为工程和FinOps团队提供决策支持。

本文不是什么

本文不是保证您的发票会减少一定百分比。这不是替代您的会计师、律师或信用审批流程。它是关于如何为LLM代理商支出提供仪表和归因的工作指南，以便您可以明确地采取行动。

参考

- FinOps 基金会 — 令牌经济学用于 SaaS - FinOps 基金会 — 框架

尝试产品：CostLens

2026-09-26 · 仅主源 · 不得包含虚假流量指标 · 非法律建议 · 非信用建议 · 决策支持仅

相关文章

- 为LLM代理设置FinOps预算防护栏 - 探索完整的AI微SaaS主题矩阵 →