token-quota · 项目介绍

token-quota

本页由项目自动归档生成,源码与最新进展以 GitHub 仓库为准。

项目简介

基于 OpenResty + Lua + Redis + MySQL 的 Token 配额管理模块,支持按日/月/年/自定义周期对 API、APP、Model 三级别的 prompt_tokenscompletion_tokens 进行限流。

技术栈

维度 技术
主要语言/框架 Lua, Shell

核心功能 / 亮点

  • ✅ 多周期支持:day/month/year + 自定义周期(P45D、P3M、P2Y 等 ISO 8601 Duration)
  • ✅ 三级配额:API、APP、Model 独立限流
  • ✅ 双路径机制:安全期内存累积 + 危险期实时结算
  • ✅ Redis 双存储架构:配置 key 存单机,计数器 key 存集群
  • ✅ 周期持久化:MySQL 存储自定义周期元数据,Redis key 丢失后可恢复
  • ✅ 滚动窗口:自定义周期从首次请求开始计时,N 天后自动重置
  • ✅ 混合策略:P3M 按自然月计算,P45D 按固定天数计算
  • ✅ 容错设计:Redis/MySQL 不可用时降级放行,保证服务可用性

目录结构

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
dir  client_body_temp
dir conf
dir fastcgi_temp
dir logs
dir lua
dir proxy_temp
dir redis-cluster
dir scgi_temp
dir sql
dir uwsgi_temp
file README.md
file start.sh
file stop.sh
file test.sh
file test_custom_period.sh
file 功能设计.md

相关链接