设计稳定的 API 限流与计费系统:分层、幂等与对账
稳定限流计费的关键是把准入和记账拆成两层:Redis 只跑令牌桶判定,扣费写幂等事件表异步结算,两层用 request_id 串联,任一侧抖动都不拖垮另一侧。
「Redis」标签下共 7 篇技术文章,包括《设计稳定的 API 限流与计费系统:分层、幂等与对账》、《Amazon Polly 生成式引擎实测:延迟、成本与音色选》、《Cloudflare Q3 DDoS 报告:蜂群攻击防护窗口》。按发布时间倒序排列,内容持续更新。
稳定限流计费的关键是把准入和记账拆成两层:Redis 只跑令牌桶判定,扣费写幂等事件表异步结算,两层用 request_id 串联,任一侧抖动都不拖垮另一侧。
Polly 生成式引擎音质明显好于神经音色,但首字节延迟约 2.5 倍、单价 1.875 倍;旁白类批处理值得换,实时对话场景建议保留神经音色并做降级。
把防护窗口拆成 10 秒、60 秒、300 秒三层滑动窗口,短层吸收蜂群脉冲、长层限制累计配额,并用 Redis 异常降级到 Nginx 限流兜底,短高频攻击才不会穿透。
把同一 API Key 的限流计数留在本机、跨节点合并压到 100ms 一次批量对账,p99 从 1.6ms 降到 0.03ms,代价是千分之二左右的配额误差。GPU 拓扑感知调度的放置、切片、反碎片三件事,可以直接搬到 API 限…
核心是三层限流加三阶段计费:边缘层用 Nginx 挡量,应用层用 Redis 令牌桶原子扣减并按接口成本差异化消耗,租户层管住日/月配额与并发;计费走预扣、结算、对账,靠唯一请求 ID 保证幂等不重不漏。
用令牌桶加 Redis Lua 实现原子限流来保护上游,用预扣—结算—对账三段式计费产出可核对的账本,两者以 request_id 串联但各自独立演进。
设计稳定API限流与计费系统,需统一限流与计费口径,采用分层限流、Redis原子脚本、预扣结算、幂等账本和离线对账,并做好降级恢复与可观测性。
共 7 篇文章,第 1 / 1 页