token-quota
本页由项目自动归档生成,源码与最新进展以 GitHub 仓库为准。
项目简介
基于 OpenResty + Lua + Redis + MySQL 的 Token 配额管理模块,支持按日/月/年/自定义周期对 API、APP、Model 三级别的 prompt_tokens 和 completion_tokens 进行限流。
技术栈
| 维度 | 技术 |
|---|---|
| 主要语言/框架 | Lua, Shell |
核心功能 / 亮点
- ✅ 多周期支持:day/month/year + 自定义周期(P45D、P3M、P2Y 等 ISO 8601 Duration)
- ✅ 三级配额:API、APP、Model 独立限流
- ✅ 双路径机制:安全期内存累积 + 危险期实时结算
- ✅ Redis 双存储架构:配置 key 存单机,计数器 key 存集群
- ✅ 周期持久化:MySQL 存储自定义周期元数据,Redis key 丢失后可恢复
- ✅ 滚动窗口:自定义周期从首次请求开始计时,N 天后自动重置
- ✅ 混合策略:P3M 按自然月计算,P45D 按固定天数计算
- ✅ 容错设计:Redis/MySQL 不可用时降级放行,保证服务可用性
目录结构
1 | dir client_body_temp |
相关链接
- GitHub 仓库:token-quota