限流之漏桶算法和令牌桶算法实现区别

川长思鸟来 2023-06-25 02:30 29阅读 0赞

**问题描述？**  
某天A君突然发现自己的接口请求量突然涨到之前的10倍，没多久该接口几乎不可使用，并引发连锁反应导致整个系统崩溃。如何应对这种情况呢？生活给了我们答案：比如老式电闸都安装了保险丝，一旦有人使用超大功率的设备，保险丝就会烧断以保护各个电器不被强电流给烧坏。同理我们的接口也需要安装上“保险丝”，以防止非预期的请求对系统压力过大而引起的系统瘫痪，当流量过大时，可以采取拒绝或者引流等机制。  
  
**1、漏桶算法：水（请求）先进入到漏桶里，漏桶以一定的速度出水，当水流入速度过大会直接溢出（拒绝服务），可以看出漏桶算法能强行限制数据的传输速率**  
  
**流入：以任意速率往桶中放入水滴。  
流出：以固定速率从桶中流出水滴。**  
  
**用白话具体说明：**假设漏斗总支持并发100个最大请求，如果超过100个请求，那么会提示系统繁忙，请稍后再试，数据输出那可以设置1个线程池，处理线程数10个，每秒处理20个请求。  
**缺点：因为当流出速度固定，大规模持续突发量，无法多余处理，浪费网络带宽  
优点：无法击垮服务**  
![format_png][]  
  
**2、令牌桶算法：一个存放固定容量令牌的桶，按照固定速率（每秒/或者可以自定义时间）往桶里添加令牌，然后每次获取一个令牌，当桶里没有令牌可取时，则拒绝服务**  
**令牌桶分为2个动作，动作1(固定速率往桶中存入令牌)、动作2(客户端如果想访问请求，先从桶中获取token)**  
  
**流入：以固定速率从桶中流入水滴  
流出：按照任意速率从桶中流出水滴**  
  
技术上使用Google开源工具包Guava提供了限流工具类RateLimiter，该类基于令牌桶算法来完成限流，非常易于使用  
**优点：支持大的并发，有效利用网络带宽**  
![format_png 1][]  
  
  
  
**create(double permitsPerSecond)**根据指定的稳定吞吐率创建RateLimiter，这里的吞吐率是指每秒多少许可数（通常是指QPS，每秒多少查询）

**create(double permitsPerSecond, long warmupPeriod, TimeUnit unit)**根据指定的稳定吞吐率和预热期来创建RateLimiter，这里的吞吐率是指每秒多少许可数（通常是指QPS，每秒多少个请求量），在这段预热时间内，RateLimiter每秒分配的许可数会平稳地增长直到预热期结束时达到其最大速率。（只要存在足够请求数来使其饱和）

**两个方法区别：第一个方法固定速率生成令牌数，第二个方法有预热时间段，在预热阶段内不超过设定的令牌数，超过预热期后以固定时间速率生成令牌，当出现突然出现大量数据**。  
**明显区别：使用第一种方法可能会使消费方（后台服务）没有消费完成，一直往系统塞数据导致服务器不可用，使用第二种方法将流量比较平滑的过渡，从而降低后台服务down掉的风险（就是预热期内设置的令牌数少，不容易一下子把系统攻破）**

time:411
    time:964
    time:1454
    time:1841
    time:2162
    time:2399
    time:2615
    time:2801
    time:3000
    time:3200

**以上输出就是预热期设置两秒，超过两秒后输出比较稳定。都是200毫秒**  
参考地址：[https://www.jianshu.com/p/280bf2dbd6f0][https_www.jianshu.com_p_280bf2dbd6f0]

提供了两个获取令牌的方法,不带参数表示获取一个令牌.如果没有令牌则一直等待,返回等待的时间(单位为秒),没有被限流则直接返回0.0:

public double acquire();

public double acquire(int permits);  
  
尝试获取令牌,分为待超时时间和不带超时时间两种:

public boolean tryAcquire();  
//尝试获取一个令牌,立即返回  
public boolean tryAcquire(int permits);  
public boolean tryAcquire(long timeout, TimeUnit unit);  
//尝试获取permits个令牌,带超时时间  
public boolean tryAcquire(int permits, long timeout, TimeUnit unit);

参考来源地址：[https://blog.csdn.net/m0\_37477061/article/details/95313062][https_blog.csdn.net_m0_37477061_article_details_95313062]  
[http://www.360doc.com/content/18/1003/08/56167096\_791542502.shtml][http_www.360doc.com_content_18_1003_08_56167096_791542502.shtml]  
[https://www.cnblogs.com/xuwc/p/9123078.html][https_www.cnblogs.com_xuwc_p_9123078.html]  
[https://my.oschina.net/hanchao/blog/1833612?from=groupmessage][https_my.oschina.net_hanchao_blog_1833612_from_groupmessage]

[format_png]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9nc3MwLmJhaWR1LmNvbS85Zm8zZFNhZ194STRraEdrbzlXVEFuRjZoaHkvemhpZGFvL3doJTNENjAwJTJDODAwL3NpZ249MGY3ZTNkZGM5MDBhMzA0ZTUyNzdhOGZjZTFmODhiYmUvMzBhZGNiZWY3NjA5NGIzNjVlY2U1MjM1YTRjYzdjZDk4YzEwOWQ4ZS5qcGc?x-oss-process=image/format,png
[format_png 1]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9pbWcyMDE4LmNuYmxvZ3MuY29tL2Jsb2cvMTU1NTAwOS8yMDE5MDgvMTU1NTAwOS0yMDE5MDgwNTIwMzc1NTA0My0yMTEzMDEwNTQ2LnBuZw?x-oss-process=image/format,png
[https_www.jianshu.com_p_280bf2dbd6f0]: https://www.jianshu.com/p/280bf2dbd6f0
[https_blog.csdn.net_m0_37477061_article_details_95313062]: https://blog.csdn.net/m0_37477061/article/details/95313062
[http_www.360doc.com_content_18_1003_08_56167096_791542502.shtml]: http://www.360doc.com/content/18/1003/08/56167096_791542502.shtml
[https_www.cnblogs.com_xuwc_p_9123078.html]: https://www.cnblogs.com/xuwc/p/9123078.html
[https_my.oschina.net_hanchao_blog_1833612_from_groupmessage]: https://my.oschina.net/hanchao/blog/1833612?from=groupmessage