第三部分 特性 - 统计与限流
优质
小牛编辑
142浏览
2023-12-01
通过一些额外的插件,我们可以为rpcx实现更多的功能和控制。本章就介绍两个有趣的插件。
MetricsPlugin
Metrics是一个Java性能统计包,非常的流行。而go-metrics是这个库的实现,rpcx利用这个库进行各种的统计,包括:
- serviceCounter: 注册的服务的个数
- clientMeter: 吞吐率
- service_XXX_Read_Counter: 服务调用次数
- service_XXX_Write_Counter: 服务返回次数
- serice_XXX_CallTime: 服务调用时间
统计数据可以输出到控制台、syslog、graphite、influxdb、librato、stathat等
RateLimitingPlugin
限流是高并发的情况下保证服务质量常用的一种手段。一个服务器的能力有限的,超过这个限度,我们可以拒绝新的连接,保证服务器还能够正常的运行。
限流插件使用 https://github.com/juju/ratelimit 来实现的,它是基于令牌桶的方式获实现限流。
你需要指定多长时间往桶中放入一个令牌以及桶最大的容量。这个插件控制的是整个服务器的连接,而不是单一的某个服务的能力。
一个例子如下:
func TestRateLimitingPlugin(t *testing.T) {
p := NewRateLimitingPlugin(time.Second, 1000)
time.Sleep(1 * time.Second)
total := 0 for i := 0; i < 2000; i++ {
if p.HandleConnAccept(nil) {
total++
}
}
if total > 1100 {
t.Errorf("rate limiting has not work. Handled: %d, Expected: about 1000", total)
}
}
这个例子中初始化有1000个令牌,每秒增加一个令牌,在程序的运行过程中可能会增加几个令牌,但是这个短短的处理过程中也就1000多几个令牌,令牌的速度被限制住了。