AI Gateway 支出上限
Cloudflare 说明 AI Gateway 的按费用预算:时间窗口内累计支出达到上限后拦截请求,或回退到更便宜的模型。
- 适用产品
- AI GatewayWorkers AI
- 来源
- 官方说明Cloudflare 开发者文档
- 作者
- Cloudflare
要点
- 支出上限按网关配置。每条规则在滚动或固定时间窗口内设定美元预算,可按模型、提供方或用户 ID 等自定义元数据划分;每个网关最多 20 条规则。
- 超出上限时,AI Gateway 默认返回 429 并拦截请求直到窗口重置;也可以配合 Dynamic Route 回退到更便宜的模型。
- 文档写明:上限是最终一致的,请求完成后才记入费用,并发突发请求可能短暂超出上限;费用跟踪是依据 token 数和模型价格的尽力估算,准确账单以提供方控制台为准。
- 支出上限适用于 Unified Billing 与 BYOK 请求中价格已知的模型。
原始来源
其他推荐阅读
作者经验账号级用量计费产品 +1
硬上限为何需要时间:Ashley Peacock 谈计费数据延迟
Cloudflare Durable Objects 团队的 Ashley Peacock(@ashleypeacock)从个人经验解释为何接近实时的费用上限难做,称硬性账单上限即将推出,并建议在此之前先配预算告警和问题告警。
其他产品
hfcorriez:两个月被 AI 额外消耗 100 多刀,邮件沟通后称已取消。
@hfcorriez 称被 AI 坑了,两个月额外多消耗了 100 多刀。他称发邮件给 Cloudflare 两个来回讲清楚后,费用就被取消了,并附截图显示两笔负数金额(-$31.92、-$75.42),状态为 Fully Applied。
其他产品
sylwair:项目失误,不到两天爆了近 900 刀。
@sylwair 称最近因项目失误爆了账单,不到两天爆了近 900 刀。他称在 Cloudflare【可计费使用量】中发现后停掉了异常服务;在回复中补充,由于每日账单延时展示,停服后看到金额没有明显下降。