充满信心地核对 AI 成本

将请求日志中的 token 用量和估算成本与您的实际供应商发票相匹配,并核实计费定价的准确度。

概述(Overview)

账单核对(Billing reconciliation)是将 ModelRiver 请求日志(Request Logs)中记录的 AI 消耗用量与您在供应商发票上的实际费用进行比对匹配的过程。这可帮助您验证定价的准确性、发现差异并保持财务问责。

重要提示(Important):ModelRiver 请求日志中显示的成本是基于发送和接收的 token 数并使用您设定的模型定价计算得出的估算成本(estimated costs)。如需获取最准确且权威的成本计费数据,请始终以相应 AI 供应商(如 OpenAI、Anthropic、Google 等)所提供的计费仪表板和发票为准。


了解请求日志中的账单数据

ModelRiver 追踪的内容

对于每个请求,ModelRiver 记录:

  • Prompt tokens(输入 tokens)——您向供应商发出的请求中的 tokens 数
  • Completion tokens(输出 tokens)——供应商的响应结果中的 tokens 数
  • 总 tokens(Total tokens)——Prompt 与 Completion 的 tokens 数总和
  • 估算价格(Estimated price)——根据 token 总数以及您配置的模型定价计算得出

ModelRiver 不追踪的内容

  • 实际供应商费用(Actual provider charges)——它们应当源于对应的供应商计费系统
  • 批量折扣(Volume discounts)——供应商级别的折扣计费并没有体现在每次请求核算的金额中
  • 缓存 token 抵免(Cached token credits)——一些供应商对于读取缓存或重复的 tokens 给予对应的部分扣减优惠
  • 平台费用(Platform fees)——除了每个 token 定价外产生的任何其它费用

账单核对工作流

步骤 1:收集您的数据

  1. 从 ModelRiver:导航到 Request Logs(请求日志),过滤到指定的账单周期区段,并汇总:

    • 按供应商和模型分类的总请求数
    • 按供应商和模型分类的总 prompt tokens
    • 按供应商和模型分类的总 completion tokens
    • 估算价格的总和
  2. 从您的供应商:访问您供应商的计费仪表板或 API 使用情况页面:

步骤 2:比对 token 数

将 ModelRiver 中记录的总 tokens 与供应商报告的使用量进行匹配:

指标ModelRiver供应商(Provider)差距(Difference)
Prompt tokens您的数据供应商数据应当很贴近
Completion tokens您的数据供应商数据应当很贴近
Total tokens您的数据供应商数据应当很贴近

预期偏差:Token 数应该密切匹配。出现微小的差异(< 1%)可能是因为:

  • 账单周期边界上的时间误差
  • 对 API 不可见的供应商内部处理 tokens
  • token 计数这部分的舍入偏差

步骤 3:比对成本

将估算的成本与实际收费进行匹配:

  • ModelRiver 估算 – 来自请求日志的估算价格总和
  • 供应商发票 – 供应商的实际收费

预期偏差:成本估算可能与实际收费相差 5-15%,原因在于:

  • 价格更新尚未反映在您的模型定义中
  • 供应商应用的批量折扣
  • 缓存 token 的抵免额
  • 货币转换或税费调整
  • 免费层级抵免额或促销定价

步骤 4:调查差异

如果 token 数量或成本存在明显差异:

  1. 检查模型定价 – 核实您的 ModelRiver 模型定义是否具有当前最新的定价。
  2. 检查是否有外部使用 – 是否有在 ModelRiver 之外使用了供应商 API 密钥?
  3. 检查失败的请求 – 一些供应商会对失败请求中的 tokens 收费。
  4. 检查计费周期边界 – 确保您比较的是相同的时间段。
  5. 检查是否包含 playground/test 消耗 – 根据是否使用测试模式,它们可能会(或不会)出现在供应商发票上。

保持定价最新

为什么定价的准确性很重要

ModelRiver 估算成本的准确性完全取决于您的模型定价定义。供应商会定期更新其定价,因此保持定义的最新至关重要。

如何更新定价

  1. 在您的供应商的定价页面上查看当前费率。
  2. 在您的 ModelRiver 模型定义中更新模型定价。
  3. 请注意,定价更新仅影响未来的请求:历史估算保持不变。

需要注意的常见定价变化

  • 新模型发布 – 新模型的定价可能与其前代产品不同。
  • 降价 – 随着模型成熟,供应商经常会降低价格。
  • 定价结构变化 – 供应商可能会从按 token 计费转为按请求计费,或引入分层定价。
  • 输入/输出成本比例变化 – 输入 tokens 和输出 tokens 之间的相对成本可能发生转移。

最佳实践(Best practices)

每月对账

  • 至少每月核对一次相关账目,以便及早发现任何异常。
  • 保留相关的核对结果以用于审计。
  • 在每次核对后更新模型定价。

通过 API 密钥跟踪使用情况

  • 如果多个团队或项目共用一个供应商帐户,请按不同项目追踪使用情况。
  • ModelRiver 的项目级 API 密钥使这变得非常容易。
  • 将每个项目的使用量与供应商基于密钥的用量报告(如果可用)进行匹配。

区分测试与生产环境

  • 与供应商发票核对时,请始终过滤为 Live mode(实时模式)
  • 未发送到供应商的测试模式请求不会出现在发票上。
  • 真正向供应商发出的 Playground 实验请求将会出现在发票上。

后续步骤(Next steps)