SpringCloud微服务之Zuul(四)

旧城等待， 2022-04-18 05:49 357阅读 0赞

## 前言 ##

微服务架构下Zuul构建网关的设计之Gateway API Ratelimite（限流机制）。

## 限流算法 ##

*  某天A君突然发现自己的接口请求量突然涨到之前的10倍，没多久该接口几乎不可使用，并引发连锁反应导致整个系统崩溃。如何应对这种情况呢？生活给了我们答案：比如老式电闸都安装了保险丝，一旦有人使用超大功率的设备，保险丝就会烧断以保护各个电器不被强电流给烧坏。同理我们的接口也需要安装上“保险丝”，以防止非预期的请求对系统压力过大而引起的系统瘫痪，当流量过大时，可以采取拒绝或者引流等机制。
 *  常用的限流算法
    
     *  漏桶算法： 漏桶算法思路很简单，水（请求）先进入到漏桶里，漏桶以一定的速度出水，当水流入速度过大会直接溢出，可以看出漏桶算法能强行限制数据的传输速率。  
        ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTI0Mzc3ODE_size_16_color_FFFFFF_t_70]
     *  令牌桶算法： 对于很多应用场景来说，除了要求能够限制数据的平均传输速率外，还要求允许某种程度的突发传输。这时候漏桶算法可能就不合适了，令牌桶算法更为适合。如图2所示，令牌桶算法的原理是系统会以一个恒定的速度往桶里放入令牌，而如果请求需要被处理，则需要先从桶里获取一个令牌，当桶里没有令牌可取时，则拒绝服务。  
        ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTI0Mzc3ODE_size_16_color_FFFFFF_t_70 1]
 *  限流工具类RateLimiter：Google开源工具包Guava提供了限流工具类RateLimiter，该类基于令牌桶算法来完成限流，非常易于使用。RateLimiter类的接口描述请参考：RateLimiter接口描述，具体使用请参考：RateLimiter使用实践。
    
        public double acquire() {
                return acquire(1);
            }
        
         public double acquire(int permits) {
                checkPermits(permits);  //检查参数是否合法（是否大于0）
                long microsToWait;
                synchronized (mutex) { //应对并发情况需要同步
                    microsToWait = reserveNextTicket(permits, readSafeMicros()); //获得需要等待的时间 
                }
                ticker.sleepMicrosUninterruptibly(microsToWait); //等待，当未达到限制时，microsToWait为0
                return 1.0 * microsToWait / TimeUnit.SECONDS.toMicros(1L);
            }
        
        private long reserveNextTicket(double requiredPermits, long nowMicros) {
                resync(nowMicros); //补充令牌
                long microsToNextFreeTicket = nextFreeTicketMicros - nowMicros;
                double storedPermitsToSpend = Math.min(requiredPermits, this.storedPermits); //获取这次请求消耗的令牌数目
                double freshPermits = requiredPermits - storedPermitsToSpend;
        
                long waitMicros = storedPermitsToWaitTime(this.storedPermits, storedPermitsToSpend)
                        + (long) (freshPermits * stableIntervalMicros); 
        
                this.nextFreeTicketMicros = nextFreeTicketMicros + waitMicros;
                this.storedPermits -= storedPermitsToSpend; // 减去消耗的令牌
                return microsToNextFreeTicket;
            }
        
        private void resync(long nowMicros) {
                // if nextFreeTicket is in the past, resync to now
                if (nowMicros > nextFreeTicketMicros) {
                    storedPermits = Math.min(maxPermits,
                            storedPermits + (nowMicros - nextFreeTicketMicros) / stableIntervalMicros);
                    nextFreeTicketMicros = nowMicros;
                }
            }

以上内容出自：[接口限流实践。][Link 1]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTI0Mzc3ODE_size_16_color_FFFFFF_t_70]: /images/20220418/3b358941ebc940c5b821c0f1b639368d.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTI0Mzc3ODE_size_16_color_FFFFFF_t_70 1]: /images/20220418/823238c69cd54eb2aad05877cee9ef88.png
[Link 1]: https://www.cnblogs.com/LBSer/p/4083131.html