把「要支撑多少并发」翻译成「该申请多少 RPM 和 TPM」,并算出并发连接数。
并发连接数 ≈ QPS × 平均耗时。申请配额时按 TPM 提,长文本场景它几乎总是先撞满的那个。
厂商给你的是 RPM 和 TPM 两个数,你需要的是「能支撑多少并发」。中间差一个换算和一个安全系数。…
标称 RPM 5,000 的接口,压测可能只跑到 800。差的这部分来自并发模型、连接复用和重试。…
重试不是「失败就再来一次」。什么时候重试、重试几次、退避多久、总时长封顶,四个参数都要算。…