预扣与结算:API 限流和计费之间那本额度账怎么写
限流必须在请求前给出结论,只能用估算值;计费在请求后才知道真实用量,两者必然存在差额。稳定的做法是承认差额,用只追加的 reserve/commit/release 事件账本管理预扣,配合预扣上限、TTL、幂等键与明确的账期归属规则,把超支限制在可控范围内。
限流和计费看起来是同一件事的两面,实际处理的时间点不同:限流必须在请求进入时立刻回答“放行还是拒绝”,此刻只有估算;计费要等上游返回,才知道真实用量。要求两边数字完全相等,等于要求预判未来。可行的设计是承认差额存在,用一本只追加的额度账把差额约束在可解释的范围内。本文是设计层面的讨论,不含外部材料引用,也未在任何系统上运行验证;涉及的参数均为示意值,不是推荐值。
决策值与结算值:两套数字,一个来源#
按请求次数计费的接口,决策值可以精确到 1 次;按 token、字节或时长计费的接口,请求前只能给出上界估计,比如用输入长度加上一个输出上限。这意味着两类偏差无法避免:放行后实际用量超过预估,以及拒绝时实际成本远低于预扣。前者的处理方式决定了系统会不会被透支,后者的处理方式决定了额度会不会被无谓占用。
一个常见的错误是让限流和计费各自统计一套用量。两套统计一旦出现口径差(是否算重试、是否算流式分片、失败请求计不计),对账就永远对不平。建议让两者读同一份用量事件,限流只做“事前估算”,计费只做“事后结算”。
账本记事件,不记余额#
在多副本环境下直接读改写一个 balance 字段,会因并发丢更新,这是设计推理而非实测结论。更稳的结构是只追加事件,余额由事件推导,重放即可恢复。
| 事件 | 写入时机 | 对可用额度的影响 | 幂等键 |
|---|---|---|---|
| reserve | 请求进入、放行决策前 | 扣减预扣额 | request_id |
| commit | 上游返回实际用量 | 预扣转实扣,差额回补 | request_id |
| release | 失败、取消、超时 | 全额回补 | request_id |
| adjust | 对账发现差异、退款 | 按差异补正 | 对账批次 + 账号 |
以 request_id 作幂等键,重试只会命中同一条事件,不会重复扣减。下面是结构示意,未执行,也不是可运行实现:
# 未执行示例:仅示意事件接口,非生产代码
reserve(account_id, request_id, upper_bound, ttl_s) # 返回 ok / insufficient
commit(account_id, request_id, actual) # actual <= upper_bound
release(account_id, request_id, reason)
预扣的三个参数#
- 单请求预扣上限:预扣要覆盖最坏情况才防得住超支,但设得过大,一个长任务就会占掉大块额度。可对超出阈值的请求降级为小额度,或要求显式申请。
- 预扣 TTL:过短会在请求仍存活时误释放,造成超支;过长会让额度被长期锁住。进程崩溃、上游悬挂是 TTL 存在的原因,它不能替代 release。
- 不足时的行为:余额小于预扣额时应拒绝或降级,而不是“先放行、结算再说”,后者在并发下就是无上限透支。
这三个值取决于业务的用量分布和失败率,没有通用最优解,需要用真实流量分布校准,本文无法给出具体数值。
账期归属与价格快照#
跨账期的长请求必须有明确规则:按请求开始时间归属,还是按结算时间归属。规则本身可以任选,但必须写进对外契约,否则月初和月末的账单会出现同一请求被判两次或零次的争议。价格同理,建议在请求开始时记录价格版本,结算时按该快照计算,避免结算窗口内调价导致账单与当时展示的单价不一致。退款与冲正作为新的 adjust 事件写入,不修改历史事件,这样任何一笔余额都能回溯到产生它的事件序列。
本文的边界#
以上是设计建议与推理,没有经过压测或线上验证:事件存储的具体选型、单账号高并发下的写入瓶颈、跨区域同步延迟对预扣准确性的影响,均待核实。落地前应在自己的流量模型下验证预扣命中率与透支率,再决定参数。