- observe
调用 toObservable 方法 并向Observable注册rx.subjects.ReplaySubject发起订阅
- queue
限流
全局配置
限流RequestRateLimiter原理分析
系统会以一定的速度生成令牌,并将其放置到令牌桶中,可以将令牌桶想象成一个缓冲区(可以用队列这种数据结构来实现),当缓冲区填满的时候,新生成的令牌会被扔掉。 这里有两个变量很重要 第一个是生成令牌的速度,一般称为 rate 。比如,我们设定 rate = 2 ,即每秒钟生成 2 个令牌,也就是每 1/2 秒生成一个令牌 第二个是令牌桶的大小,一般称为 burst 。比如,我们设定 burst = 10 ,即令牌桶最大只能容纳 10 个令牌
数据流
数据流是真正的进入系统的流量,对于接口来讲,如果平均每秒钟会调用2次,则认为速率为 2次/s
算法原理
系统接收到一个单位数据(对于网络传输,可以是一个包或者一个字节;对于微服务,可以是一个请求)后,从令牌桶中取出一个令牌,然后对数据或请求进行处理。如果令牌桶中没有令牌了,会直接将数据或者请求丢弃。当然,对于微服务,就不能是丢弃这么简单了:可以返回一个异常消息,用于提示用户其请求速率超过了系统限制。 有以下三种情形可能发生: 1、数据流的速率 等于 令牌流的速率。这种情况下,每个到来的数据包或者请求都能对应一个令牌,然后无延迟地通过队列; 2、数据流的速率 小于 令牌流的速率。通过队列的数据包或者请求只消耗了一部分令牌,剩下的令牌会在令牌桶里积累下来,直到桶被装满。剩下的令牌可以在突发请求的时候消耗掉。 3、数据流的速率 大于 令牌流的速率。这意味着桶里的令牌很快就会被耗尽。导致服务中断一段时间,如果数据包或者请求持续到来,将发生丢包或者拒绝响应。
- redis-rate-limiter.replenishRate
允许用户每秒执行多少请求,而不丢弃任何请求 令牌桶的填充速率即每秒生成的令牌数
- redis-rate-limiter.burstCapacity
用户在一秒钟内执行的最大请求数 这是令牌桶可以保存的令牌数 将此值设置为零将阻止所有请求 burstCapacity=0 拒绝所有请求
- redis-rate-limiter.requestedTokens
每个请求消耗多少个令牌,默认是1
- 稳定速率
通过在replenishRate(补充令牌速度)和burstCapacity(令牌桶容量)中设置相同的值来实现的