技术文章

外部链接将在新标签页打开。

预扣与结算:API 限流和计费之间那本额度账怎么写

一句话回答

限流必须在请求前给出结论,只能用估算值;计费在请求后才知道真实用量,两者必然存在差额。稳定的做法是承认差额,用只追加的 reserve/commit/release 事件账本管理预扣,配合预扣上限、TTL、幂等键与明确的账期归属规则,把超支限制在可控范围内。

限流和计费看起来是同一件事的两面,实际处理的时间点不同:限流必须在请求进入时立刻回答“放行还是拒绝”,此刻只有估算;计费要等上游返回,才知道真实用量。要求两边数字完全相等,等于要求预判未来。可行的设计是承认差额存在,用一本只追加的额度账把差额约束在可解释的范围内。本文是设计层面的讨论,不含外部材料引用,也未在任何系统上运行验证;涉及的参数均为示意值,不是推荐值。

决策值与结算值:两套数字,一个来源#

按请求次数计费的接口,决策值可以精确到 1 次;按 token、字节或时长计费的接口,请求前只能给出上界估计,比如用输入长度加上一个输出上限。这意味着两类偏差无法避免:放行后实际用量超过预估,以及拒绝时实际成本远低于预扣。前者的处理方式决定了系统会不会被透支,后者的处理方式决定了额度会不会被无谓占用。

一个常见的错误是让限流和计费各自统计一套用量。两套统计一旦出现口径差(是否算重试、是否算流式分片、失败请求计不计),对账就永远对不平。建议让两者读同一份用量事件,限流只做“事前估算”,计费只做“事后结算”。

账本记事件,不记余额#

在多副本环境下直接读改写一个 balance 字段,会因并发丢更新,这是设计推理而非实测结论。更稳的结构是只追加事件,余额由事件推导,重放即可恢复。

事件写入时机对可用额度的影响幂等键
reserve请求进入、放行决策前扣减预扣额request_id
commit上游返回实际用量预扣转实扣,差额回补request_id
release失败、取消、超时全额回补request_id
adjust对账发现差异、退款按差异补正对账批次 + 账号

以 request_id 作幂等键,重试只会命中同一条事件,不会重复扣减。下面是结构示意,未执行,也不是可运行实现:

# 未执行示例:仅示意事件接口,非生产代码
reserve(account_id, request_id, upper_bound, ttl_s)  # 返回 ok / insufficient
commit(account_id, request_id, actual)               # actual <= upper_bound
release(account_id, request_id, reason)

预扣的三个参数#

  • 单请求预扣上限:预扣要覆盖最坏情况才防得住超支,但设得过大,一个长任务就会占掉大块额度。可对超出阈值的请求降级为小额度,或要求显式申请。
  • 预扣 TTL:过短会在请求仍存活时误释放,造成超支;过长会让额度被长期锁住。进程崩溃、上游悬挂是 TTL 存在的原因,它不能替代 release。
  • 不足时的行为:余额小于预扣额时应拒绝或降级,而不是“先放行、结算再说”,后者在并发下就是无上限透支。

这三个值取决于业务的用量分布和失败率,没有通用最优解,需要用真实流量分布校准,本文无法给出具体数值。

账期归属与价格快照#

跨账期的长请求必须有明确规则:按请求开始时间归属,还是按结算时间归属。规则本身可以任选,但必须写进对外契约,否则月初和月末的账单会出现同一请求被判两次或零次的争议。价格同理,建议在请求开始时记录价格版本,结算时按该快照计算,避免结算窗口内调价导致账单与当时展示的单价不一致。退款与冲正作为新的 adjust 事件写入,不修改历史事件,这样任何一笔余额都能回溯到产生它的事件序列。

本文的边界#

以上是设计建议与推理,没有经过压测或线上验证:事件存储的具体选型、单账号高并发下的写入瓶颈、跨区域同步延迟对预扣准确性的影响,均待核实。落地前应在自己的流量模型下验证预扣命中率与透支率,再决定参数。

常见问题(FAQ)

为什么不能等请求结束再一次性扣额度?
扣额度的目的就是决定请求放不放行,事后扣等于先放行再补票,并发高峰时额度会被透支。预扣是在决策点做的近似记账,结算只是把近似修正为实际值。
预扣额度设成最坏情况会不会太浪费?
会占用额度但不会消耗额度,未结算的预扣通过 TTL 回收。真正需要权衡的是单请求预扣上限与 TTL 长度,这两个值取决于业务用量分布,没有通用最优解,需要用真实数据校准。

作者:沐小悠

本文约 4 分钟读完 · 关键词:API 限流、API 计费、预扣、结算、幂等

更多文章 GET 示例接口

「」标签下的其他文章