AI 成本控制

为 AI 成本设置硬性上限

在请求到达供应商之前执行项目与工作流预算。实时阻止支出失控,而不是等账单到了才发现。

一个失控的提示循环可能在几分钟内烧掉数千美元。ModelRiver 会在成本失控前拦截请求。

  • 在请求到达供应商之前拦截
  • 在项目层面和单个模型层面限制支出
  • 避免因意外超支收到意外账单
  • 对每一次线上请求实时执行预算

成本保护如何运作

每一次 AI 请求都会在产生费用之前完成检查。

ModelRiver 位于您的应用与 AI 供应商之间,在任何费用产生之前拦截超预算请求。

重置周期

从每小时到每月

通过可预期的预算重置(每小时、每天、每周或每月)帮助团队遵守 AI 支出策略。

双重安全网

项目 + 模型

保护共享项目预算,并单独限制昂贵模型,避免一个失控工作流拖垮整个团队。

计费前拦截

每次调用前

避免意外供应商账单。超预算请求会在 ModelRiver 调用 AI 供应商之前被拦截,或转到备用模型。

通俗说明

在每个层级保护 AI 支出

不确定各项设置分别做什么?这里是一份简单指南:每种控制方式从不同角度保护您的 AI 支出。

支出上限

整个项目的预算

为项目中所有线上 AI 用量设置最高美元额度。达到上限后,新请求会被停止。这是防止账单失控的最后一道防线。

可以这样理解:: 整个 AI 项目的月度信用卡额度。

成本护栏

单模型预算

限制工作流中某个 AI 模型(主模型或备份)的支出。达到上限后,ModelRiver 会跳过该模型并尝试下一个备份。

可以这样理解:: 您使用的每个 AI 模型的每日额度。

速率限制

流量限速

限制某个时间窗口内可运行的请求数量。可阻止滥用和流量尖峰,但不会限制实际花费金额。

不同于:: 支出上限。 了解速率限制 用于流量控制。

输入护栏

内容安全过滤

在有害或不安全提示到达 AI 供应商之前将其拦截。保护的是内容质量,不是您的钱包。

解决的是不同问题:: 了解输入护栏 用于提示词安全。

工作原理

在控制台设置上限,每次请求都会执行

无需配置文件或代码改动。打开项目设置或工作流编辑器,输入金额即可,其余交给 ModelRiver。

ModelRiver console
Settings Spending limit

Project spending limit

Maximum total spend across all live workflows.

Maximum spend $250.00 / week
Resets Every week

$200.00 spent · $50.00 remaining

Workflows my_workflow Cost guardrail

Model budgets

Primary claude-haiku $20.00 / day
Backup 1 gpt-5.4-mini $15.00 / day

Settings are saved in your ModelRiver project. Update them anytime from the dashboard.

01

设置预算

在设置中为整个项目设置上限,再在每个工作流的 成本护栏 部分添加单模型上限。

02

在 产品概览 查看用量

查看每个预算的进度条、80% 用量警告,以及最接近上限的工作流。

03

超预算请求会自动处理

模型预算用尽时会跳到下一个备份;项目预算用尽时会直接停止请求,且不会产生任何供应商费用。

双层保护

先限制单个模型,再设置项目级安全网

大多数团队会先限制昂贵的 AI 模型,在了解典型支出后再设置项目级兜底。两者配置方式相同:选择金额和重置周期。

Project spending limit

Settings Spending limit
$

Quick amounts

The limit resets at the start of each hour, day, week, or month (UTC).

Your project backstop

$250.00 per day across all live workflows

Workflow cost guardrail

Workflows Primary model Cost guardrail
$

Quick amounts

When this model reaches its budget, ModelRiver skips it and tries Backup 1.

Live usage · gpt-5.4-mini 80% of budget used

$16.00 / $20.00 per day · $4.00 remaining

This model slot

$20.00 per day on primary, then failover to backups

达到上限时

接下来会发生什么(通俗版)

ModelRiver 会在每次 AI 调用前检查预算。以下是决策路径,以及您的团队或应用在每个步骤会看到什么。

01

收到线上请求

来自您的应用、Playground 或任何生产工作流

02

项目预算是否已满?

如果是 → 请求会立即停止,不会尝试任何备份模型。

03

该模型是否超出预算?

如果是 → 跳过该模型并自动尝试下一个备份。

04

一切都会被记录

被跳过的模型和被拦截的请求会出现在 请求日志 和 产品概览 中。

三种可能结果

允许

请求正常通过

预算仍有空间。ModelRiver 会调用 AI 供应商,您的应用收到正常响应。

跳过

已切换到备份模型

某个模型达到上限,ModelRiver 会尝试下一个备份模型,工作流继续运行。

拦截

请求被停止

项目预算已满,或所有尝试过的模型都已超预算。您的应用会收到明确的预算错误,且不会产生供应商费用。

真实场景示例

超出预算时会发生什么

一个包含项目兜底和单模型上限的典型生产配置,以及 ModelRiver 在每一层的响应方式。

项目支出上限

$500 / week

项目中所有线上工作流的最后防线。

主模型上限

Claude · $50 / day

您最忙工作流中主模型的成本护栏。

备份模型上限

GPT · $100 / day

为备用模型单独设限,让故障转移成本可控。

模型上限触达

Claude 当日支出达到 $50

ModelRiver 会自动跳过 Claude 并尝试 GPT 备份,工作流无需人工干预即可继续运行。

所有模型均已触顶

Claude 和 GPT 都已超预算

请求会以明确的预算错误失败。不会调用供应商,因此不会产生新的费用。

项目上限触达

项目本周支出达到 $500

New requests are 拦截 immediately, even if individual models still show 预算 left. No backups are tried. 您的应用 gets a structured project_budget_exceeded error.

适用团队

为需要成本控制又不想拖慢交付的团队而设计

产品、财务和工程团队共享同一仪表板,无需编写自定义计费代码。

产品团队

带着硬性上限发布 Beta 功能

在验证产品市场契合度时测试新 AI 工作流,而不用担心账单无限增长。

工程团队

让故障转移成本可预期

为昂贵的备份模型单独设限,避免自动故障转移冲垮项目上限。

Finance & ops

无需电子表格也能跟踪消耗

在 产品概览 查看实时支出,而不是月底再去核对供应商账单。

面向开发者

触达上限时返回清晰错误

当预算拦截请求时,您的应用会收到结构化错误,包含上限金额、已花费金额和预算重置时间。无需猜测调用失败的原因。

1

项目预算已满

The 请求 is 拦截 immediately. 您的应用 receives a project_budget_exceeded error with the limit and reset time.

2

模型预算已满

该模型会被静默跳过,ModelRiver 会尝试下一个备份。跳过原因会记录在 请求日志 中。

3

所有模型均已超预算

与项目级拦截相同:请求会以预算错误失败。不会调用供应商,因此不会产生费用。

响应示例

// HTTP 402: the project budget is full
{
  "error": {
    "type": "project_budget_exceeded",
    "scope": "project",
    "message": "Project spend cap reached for this weekly period",
    "cap_usd": "250.00",
    "spent_usd": "250.00",
    "period": "weekly",
    "period_start": "2026-11-02T00:00:00Z",
    "reset_at": "2026-11-09T00:00:00Z"
  }
}

常见问题

关于支出上限的常见问题

为产品、财务和工程团队提供快速解答,无需理解 ModelRiver 术语。

如何在 ModelRiver 中设置 AI 支出上限?

打开项目设置,设置带有最高 USD 金额和重置周期的项目级支出上限。如需更细粒度控制,可编辑工作流并在主模型或备份模型槽位设置 成本护栏。

什么是 AI 预算护栏?

预算护栏是工作流内的单模型支出上限。当该模型达到上限时,ModelRiver 会跳过它并尝试下一个备份模型,而不是继续向供应商产生费用。

AI 工作流达到预算时会发生什么?

如果工作流模型槽位达到上限,该模型会被跳过并继续故障转移。如果尝试过的每个模型都已超预算,请求会失败。如果项目级支出上限达到,新请求会立即被拦截且不会故障转移。

支出上限与速率限制有何不同?

Yes. 支出上限 cap estimated USD 支出分析 over a time period. 速率限制 control 请求 volume. Use both when you need cost ceilings and traffic protection.

支出上限与输入护栏有何不同?

是的。输入护栏拦截不安全内容。支出上限在达到预算阈值时拦截请求。它们解决的是不同问题。

能否不查日志就监控 AI 预算用量?

可以。产品概览 页面会显示项目支出与上限对比、工作流级利用率,以及受保护工作流、余量偏低模型和已触顶模型的摘要标签。

发布 AI 功能,告别意外账单

在下一次发布前为 AI 支出设置硬性上限。几分钟内完成项目与工作流预算配置,在 产品概览 实时查看用量,并在请求到达供应商前拦截超预算调用。