公告AI接口网提供各类可接入的人工智能接口
AI接口网AI 接口选型与接入工程手册
首页/成本与配额/给 AI 调用做预算与告警:别等月末看账单

给 AI 调用做预算与告警:别等月末看账单

2026-11-22约 6 分钟读完成本告警限流

AI 成本和服务器成本最大的区别是:它随用户行为线性增长,且没有物理上限。一台服务器跑满了会变慢,一个接口被刷会一直扣钱。

三层预算模型

层级控制对象手段超限动作
总预算全站月度网关层累计计数告警 → 降级到小模型 → 停止非核心功能
功能预算单个功能/接口按 role 计费限流、切换便宜档
用户预算单用户/单租户按 user_id 累计限额、提示升级套餐

告警阈值怎么设

不要只设「月度 100%」一个阈值,那时已经晚了。按日均消耗设三档:

  1. 50%:日常提醒,看趋势是否异常(可能是新功能上线或爬虫)。
  2. 80%:必须动作,检查 TOP 消耗方,准备降级方案。
  3. 100%:自动降级,把非核心功能切到最便宜的档位,保留核心功能可用。

记账在网关,不在业务里

业务代码里到处埋计费逻辑,一定会漏。正确做法是在统一入口(网关或 SDK 封装层)记一条流水,字段至少包含:

csv
ts, app_id, user_id, role, provider, model,
prompt_tokens, completion_tokens, cached_tokens,
latency_ms, status, cost_cny

有了这张表,任何「这个月为什么贵了」的问题都能在五分钟内定位到具体功能、具体用户、具体模型。

防刷:比预算更紧急

  • 匿名接口必须有 IP 级 + 设备级双限流,否则一个脚本就能刷掉你一个月预算。
  • 登录用户的免费额度要「按天重置 + 单次上限」,不要只给月度总量(会被一次用完)。
  • 长文本接口要限制输入长度,否则一条 10 万字的请求就等于几百次普通调用。
  • 给异常行为打点:同一 IP 高频、输入模板高度相似、深夜集中调用。
典型事故
一个真实事故模式:某站点把「AI 摘要」做成了无需登录的 GET 接口,被爬虫批量调用,一夜之间消耗了半个月预算。任何无需登录就能触发的 AI 接口,都必须有硬限流。
说明
文中价格、配额、限额均为撰写时的公开口径,会随厂商调整变化;用于估算量级,不构成报价。具体以各厂商官方文档与合同为准。