成本与配额
token 怎么算、钱花在哪、如何做预算与配额。包含缓存命中、思考 token、图片计费、限流口径这些容易踩空的细节。
共 6 篇
01
「一个字一个 token」是错的,「四个字符一个 token」也不全对。这四种文本的实际比例差别能到三倍。
6 分钟
02
单价看起来一样,账单却能差三倍。区别都在这些不写在首页价格表里的地方。
7 分钟
03
按天、按功能、按用户三层设阈值。控制在调用链路上,而不是在财务报表里。
6 分钟
04
厂商给你的是 RPM 和 TPM 两个数,你需要的是「能支撑多少并发」。中间差一个换算和一个安全系数。
6 分钟
05
把 max_tokens 从「不设」改成「按任务设」,通常能省 30%~60%,而且不损失可用性。
5 分钟
06
同样的内容,实时调用和批处理调用价格能差一半。关键是识别出哪些请求其实可以等。
6 分钟