详解Redisson分布式限流的实现原理

今天药忘吃喽~ 2023-09-26 18:01 34阅读 0赞

我们目前在工作中遇到一个性能问题，我们有个定时任务需要处理大量的数据，为了提升吞吐量，所以部署了很多台机器，但这个任务在运行前需要从别的服务那拉取大量的数据，随着数据量的增大，如果同时多台机器并发拉取数据，会对下游服务产生非常大的压力。之前已经增加了单机限流，但无法解决问题，因为这个数据任务运行中只有不到10%的时间拉取数据，如果单机限流限制太狠，虽然集群总的请求量控制住了，但任务吞吐量又降下来。如果限流阈值太高，多机并发的时候，还是有可能压垮下游。 所以目前唯一可行的解决方案就是**分布式限流**。

我目前是选择直接使用Redisson库中的RRateLimiter实现了分布式限流，关于Redission可能很多人都有所耳闻，它其实是在Redis能力上构建的开发库，除了支持Redis的基础操作外，还封装了布隆过滤器、分布式锁、限流器……等工具。今天要说的RRateLimiter及时其实现的限流器。接下来本文将详细介绍下RRateLimiter的具体使用方式、实现原理还有一些注意事项，最后简单谈谈我对分布式限流底层原理的理解。

### RRateLimiter使用 ###

RRateLimiter的使用方式异常的简单，参数也不多。只要创建出RedissonClient，就可以从client中获取到RRateLimiter对象，直接看代码示例。

RedissonClient redissonClient = Redisson.create();
    RRateLimiter rateLimiter = redissonClient.getRateLimiter("xindoo.limiter");
    rateLimiter.trySetRate(RateType.OVERALL, 100, 1, RateIntervalUnit.HOURS); 
    复制代码

rateLimiter.trySetRate就是设置限流参数，RateType有两种，OVERALL是全局限流 ，PER\_CLIENT是单Client限流（可以认为就是单机限流），这里我们只讨论全局模式。而后面三个参数的作用就是设置在多长时间窗口内（rateInterval+IntervalUnit），许可总量不超过多少（rate），上面代码中我设置的值就是1小时内总许可数不超过100个。然后调用rateLimiter的tryAcquire()或者acquire()方法即可获取许可。

rateLimiter.acquire(1); // 申请1份许可，直到成功
    boolean res = rateLimiter.tryAcquire(1, 5, TimeUnit.SECONDS); // 申请1份许可，如果5s内未申请到就放弃
    复制代码

使用起来还是很简单的嘛，以上代码中的两种方式都是同步调用，但Redisson还同样提供了异步方法acquireAsync()和tryAcquireAsync()，使用其返回的RFuture就可以异步获取许可。

### RRateLimiter的实现 ###

接下来我们顺着tryAcquire()方法来看下它的实现方式，在RedissonRateLimiter类中，我们可以看到最底层的tryAcquireAsync()方法。

private <T> RFuture<T> tryAcquireAsync(RedisCommand<T> command, Long value) {
            byte[] random = new byte[8];
            ThreadLocalRandom.current().nextBytes(random);
    
            return commandExecutor.evalWriteAsync(getRawName(), LongCodec.INSTANCE, command,
                    "——————————————————————————————————————"
                    + "这里是一大段lua代码"
                    + "____________________________________",
                    Arrays.asList(getRawName(), getValueName(), getClientValueName(), getPermitsName(), getClientPermitsName()),
                    value, System.currentTimeMillis(), random);
        }
    复制代码

映入眼帘的就是一大段lua代码，其实这段Lua代码就是限流实现的核心，我把这段lua代码摘出来，并加了一些注释，我们来详细看下。

local rate = redis.call("hget", KEYS[1], "rate")  # 100 
    local interval = redis.call("hget", KEYS[1], "interval")  # 3600000
    local type = redis.call("hget", KEYS[1], "type")  # 0
    assert(rate ~= false and interval ~= false and type ~= false, "RateLimiter is not initialized")
    local valueName = KEYS[2]      # {xindoo.limiter}:value 用来存储剩余许可数量
    local permitsName = KEYS[4]    # {xindoo.limiter}:permits 记录了所有许可发出的时间戳  
    # 如果是单实例模式，name信息后面就需要拼接上clientId来区分出来了
    if type == "1" then
        valueName = KEYS[3]        # {xindoo.limiter}:value:b474c7d5-862c-4be2-9656-f4011c269d54
        permitsName = KEYS[5]      # {xindoo.limiter}:permits:b474c7d5-862c-4be2-9656-f4011c269d54
    end
    # 对参数校验 
    assert(tonumber(rate) >= tonumber(ARGV[1]), "Requested permits amount could not exceed defined rate")
    # 获取当前还有多少许可 
    local currentValue = redis.call("get", valueName)   
    local res
    # 如果有记录当前还剩余多少许可 
    if currentValue ~= false then
        # 回收已过期的许可数量
        local expiredValues = redis.call("zrangebyscore", permitsName, 0, tonumber(ARGV[2]) - interval)
        local released = 0
        for i, v in ipairs(expiredValues) do
            local random, permits = struct.unpack("Bc0I", v)
            released = released + permits
        end
        # 清理已过期的许可记录
        if released > 0 then
            redis.call("zremrangebyscore", permitsName, 0, tonumber(ARGV[2]) - interval)
            if tonumber(currentValue) + released > tonumber(rate) then
                currentValue = tonumber(rate) - redis.call("zcard", permitsName)
            else
                currentValue = tonumber(currentValue) + released
            end
            redis.call("set", valueName, currentValue)
        end
        # ARGV  permit  timestamp  random， random是一个随机的8字节
        # 如果剩余许可不够，需要在res中返回下个许可需要等待多长时间 
        if tonumber(currentValue) < tonumber(ARGV[1]) then
            local firstValue = redis.call("zrange", permitsName, 0, 0, "withscores")
            res = 3 + interval - (tonumber(ARGV[2]) - tonumber(firstValue[2]))
        else
            redis.call("zadd", permitsName, ARGV[2], struct.pack("Bc0I", string.len(ARGV[3]), ARGV[3], ARGV[1]))
            # 减小可用许可量 
            redis.call("decrby", valueName, ARGV[1])
            res = nil
        end
    else # 反之，记录到还有多少许可，说明是初次使用或者之前已记录的信息已经过期了，就将配置rate写进去，并减少许可数 
        redis.call("set", valueName, rate)
        redis.call("zadd", permitsName, ARGV[2], struct.pack("Bc0I", string.len(ARGV[3]), ARGV[3], ARGV[1]))
        redis.call("decrby", valueName, ARGV[1])
        res = nil
    end
    local ttl = redis.call("pttl", KEYS[1])
    # 重置
    if ttl > 0 then
        redis.call("pexpire", valueName, ttl)
        redis.call("pexpire", permitsName, ttl)
    end
    return res
    复制代码

即便是加了注释，相信你还是很难一下子看懂这段代码的，接下来我就以其在Redis中的数据存储形式，然辅以流程图让大家彻底了解其实现实现原理。

首先用RRateLimiter有个name，在我代码中就是`xindoo.limiter`，用这个作为KEY你就可以在Redis中找到一个map，里面存储了limiter的工作模式(type)、可数量(rate)、时间窗口大小(interval)，这些都是在limiter创建时写入到的redis中的，在上面的lua代码中也使用到了。

其次还俩很重要的key，valueName和permitsName，其中在我的代码实现中valueName是`{xindoo.limiter}:value` ，它存储的是当前可用的许可数量。我代码中permitsName的具体值是`{xindoo.limiter}:permits`，它是一个zset，其中存储了当前所有的许可授权记录（含有许可授权时间戳），其中SCORE直接使用了时间戳，而VALUE中包含了8字节的随机值和许可的数量，如下图：

![format_png][]

\{xindoo.limiter\}:permits这个zset中存储了所有的历史授权记录，知道了这些信息，相信你也就理解了RRateLimiter的实现原理，我们还是将上面的那大段Lua代码的流程图绘制出来，整个执行的流程会更直观。

![format_png 1][]

看到这大家应该能理解这段Lua代码的逻辑了，可以看到Redis用了多个字段来存储限流的信息，也有各种各样的操作，那Redis是如何保证在分布式下这些限流信息数据的一致性的？答案是不需要保证，在这个场景下，信息天然就是一致性的。原因是Redis的单进程数据处理模型，在同一个Key下，所有的eval请求都是串行的，所有不需要考虑数据并发操作的问题。在这里，Redisson也使用了HashTag，保证所有的限流信息都存储在同一个Redis实例上。

### RRateLimiter使用时注意事项 ###

了解了RRateLimiter的底层原理，再结合Redis自身的特性，我想到了RRateLimiter使用的几个局限点(问题点)。

#### RRateLimiter是非公平限流器 ####

这个是我查阅资料得知，并且在自己代码实践的过程中也得到了验证，具体表现就是如果多个实例(机器)取竞争这些许可，很可能某些实例会获取到大部分，而另外一些实例可怜巴巴仅获取到少量的许可，也就是说容易出现旱的旱死 涝的涝死的情况。在使用过程中，你就必须考虑你能否接受这种情况，如果不能接受就得考虑用某些方式尽可能让其变公平。

#### Rate不要设置太大 ####

从RRateLimiter的实现原理你也看出了，它采用的是滑动窗口的模式来限流的，而且记录了所有的许可授权信息，所以如果你设置的Rate值过大，在Redis中存储的信息(permitsName对应的zset)也就越多，每次执行那段lua脚本的性能也就越差，这对Redis实例也是一种压力。个人建议如果你是想设置较大的限流阈值，倾向于小Rate+小时间窗口的方式，而且这种设置方式请求也会更均匀一些。

#### 限流的上限取决于Redis单实例的性能 ####

从原理上看，RRateLimiter在Redis上所存储的信息都必须在一个Redis实例上，所以它的限流QPS的上限就是Redis单实例的上限，比如你Redis实例就是1w QPS，你想用RRateLimiter实现一个2w QPS的限流器，必然实现不了。 那有没有突破Redis单实例性能上限的方式？单限流器肯定是实现不了的，我们可以拆分多个限流器，比如我搞10个限流器，名词用不一样的，然后每台机器随机使用一个限流器限流，实际的流量不就被分散到不同的限流器上了吗，总的限流上线不也就上来了。

### 分布式限流的本质 ###

**分布式限流的本质实际上就是协同，协同的本质就是信息交换，信息交换最重要的的就是信息的准确性和一致性。** 更简单粗暴理解，分布式限流的本质原理其实还是分布式数据一致性的原理，而限流只是数据结果的一种决策。所以只要以任何方式能让信息同步，且保证信息的正确性就可以实现一个分布式限流器了，这就是我理解的本质思路。

其实从上面的RRateLimiter的实现原理也可以看出来，它不就是存储了一些信息吗！ 那我不用Redis，而是使用mysql行不行。实际肯定是可以的，只要将的上面Lua代码中的所有操作都放到一个事务里，且事务的级别改成串行化，依旧能实现RRateLimiter同样的功能。如果你具备Mysql相关知识的话，肯定也能基于Mysql将RRateLimiter的API封装出来，但是封装出来的限流器，其限流的上限就取决于Mysql实例的性能上限。

最近chatGPT比较火，我也问了下它对分布式限流本质原理的理解，下面是它的回答，大家觉得怎么样？

> 分布式限流的本质原理是通过在分布式系统中共享限流状态来限制系统中单位时间内的请求数量，从而避免系统因流量过大而崩溃。
> 
> 这是通过使用一些共享的存储组件，如数据库，缓存，分布式锁等来实现的。在每次请求时，系统会检查当前的请求数量是否超过了预先设定的限制，如果超过了限制，请求就会被拒绝；如果未超过限制，请求就会被允许。
> 
> 通过使用分布式限流技术，系统可以在高并发情况下保持稳定的性能，并避免因流量过大而导致的系统崩溃。

[format_png]: https://img-blog.csdnimg.cn/img_convert/30e7600382ec490766f97fe145fa85c3.webp?x-oss-process=image/format,png
[format_png 1]: https://img-blog.csdnimg.cn/img_convert/791e7828f5181ab284692dd5da6137f1.webp?x-oss-process=image/format,png