Gubernator 是一个分布式，高性能，云原生和无状态的速率限制服务。
关键特性
- Gubernator 可以把请求的速率平均限制到整个集群，这意味着，您可以简单的通过增加更多的节点平滑的扩展系统服务能力。
- Gubernator不依赖于外部的缓存，如MemCache或者Redis这样的软件,也不依赖于其他的服务，这意味着本服务可以动态的增加服务能力。
- Gubernator保持磁盘的无状态能力，基于每个请求的配置处理能力。
- Gubernator提供了GPRC和HTTP的访问API接口。
- 可以做为一个边缘服务或者分离的服务进行速率限制。
- 可以做为自定义服务的库来使用。
- 支持可扩展的外部环境进行速率限制。
- Gubernator是俄语长官的英语发音，听起来不错吧。
无状态配置
Gubernator是一个无状态的服务，不需要磁盘空间保存历史操作，没有配置和数据会缓存到磁盘，这是因为每一个请求，包括配置信息，速率限制配置信息仅仅是一个64位整数。
例如，对GRPC进行限制
rate_limits:
#速率限制的名称
- name: requests_per_sec
#一个唯一键值，用来标识请求限制的实例名称
unique_key: account_id=123|source_ip=172.0.0.1
#请求的命种数量
hits: 1
#速度限制的请求总数
limit: 100
#限制速度的周期时长(毫秒)
duration: 1000
#计算速率限制的算法 0信号桶 1滴漏桶
algorithm: 0
#速度限制的行为 0允许每次批量请求 1非止批量请求 2允许全局缓存速率限制
behavior: 0
如下所示:
rate_limits:
# 速度限制的状态 OK=0,OVER_LIMIT =1
- status: 0,
# 当前配置限制
limit: 10
# 请求保持数量
remaining: 7
# 桶限制的unix时间戳，如果超过限制，设置时间不再返回OVER_LIMIT
reset_time: 1551309219226
#关于每个请求的速率限制的附加原始信息
metadata:
"owner":"api-n03.staging.us-east-1.mailgun.org:9041"
速率限制算法
信号桶
开始是一个空桶，每次命令请求，桶内数据加1，直到桶满了，如果桶满了，将返回OVER_LIMIT,走到计时器清零，然后再开始循环。
沙漏桶
桶满了，返回OVER_LIMIT,然后，桶中的数据通过 时长/限制 算出空余量，此时，如果有空间，可以继续进入数据。
性能
在我们的产品环境中，我们的每个API每个请求限制为2，通过指定的时长进行限制，如下图所示，每秒超过2000个请求的批量响应在1毫秒之内。