提供案例
billflare.

AI Gateway 支出上限

Cloudflare 说明 AI Gateway 的按费用预算:时间窗口内累计支出达到上限后拦截请求,或回退到更便宜的模型。

适用产品
AI GatewayWorkers AI
来源
官方说明Cloudflare 开发者文档
作者
Cloudflare

要点

  • 支出上限按网关配置。每条规则在滚动或固定时间窗口内设定美元预算,可按模型、提供方或用户 ID 等自定义元数据划分;每个网关最多 20 条规则。
  • 超出上限时,AI Gateway 默认返回 429 并拦截请求直到窗口重置;也可以配合 Dynamic Route 回退到更便宜的模型。
  • 文档写明:上限是最终一致的,请求完成后才记入费用,并发突发请求可能短暂超出上限;费用跟踪是依据 token 数和模型价格的尽力估算,准确账单以提供方控制台为准。
  • 支出上限适用于 Unified Billing 与 BYOK 请求中价格已知的模型。

原始来源

  1. 原始来源 · 最后更新

    打开原始来源
  2. 更新日志:AI Gateway 新增支出上限,按 token 用量和模型价格累计美元支出,超出预算即拦截请求;与限制请求次数的速率限制不同。

    打开原始来源
作者经验账号级用量计费产品 +1

硬上限为何需要时间:Ashley Peacock 谈计费数据延迟

Cloudflare Durable Objects 团队的 Ashley Peacock(@ashleypeacock)从个人经验解释为何接近实时的费用上限难做,称硬性账单上限即将推出,并建议在此之前先配预算告警和问题告警。

其他产品

hfcorriez:两个月被 AI 额外消耗 100 多刀,邮件沟通后称已取消。

@hfcorriez 称被 AI 坑了,两个月额外多消耗了 100 多刀。他称发邮件给 Cloudflare 两个来回讲清楚后,费用就被取消了,并附截图显示两笔负数金额(-$31.92、-$75.42),状态为 Fully Applied。

其他产品

sylwair:项目失误,不到两天爆了近 900 刀。

@sylwair 称最近因项目失误爆了账单,不到两天爆了近 900 刀。他称在 Cloudflare【可计费使用量】中发现后停掉了异常服务;在回复中补充,由于每日账单延时展示,停服后看到金额没有明显下降。