Sentinel.02.Sentinel之流量控制

╰+攻爆jí腚メ 2022-09-05 06:10 264阅读 0赞

### Sentinel.02.Sentinel之流量控制 ###

*   *  前言
     *  概述
     *   *  定义
         *  规则 (FlowRule)
     *  基于QPS/并发数的流量控制
     *   *  小试牛刀
         *   *  新增规则
             *   *  簇点链路
                 *  流控规则
             *  流控测试
     *  并发线程数流量控制
     *   *  小试牛刀
         *   *  新增规则
             *  流控测试
             *   *  新建线程组
                 *  新建http请求
                 *  启动测试
     *  流控模式
     *   *  直接模式
         *  关联模式
         *   *  TestController.java
             *  新增规则
             *  测试
         *  链路模式
     *  流控效果
     *   *  直接拒绝
         *  Warm Up
         *  匀速排队

## 前言 ##

在上一节中我们知道Sentinel 支持以下几种规则：**流量控制规则**、**熔断降级规则**、**系统保护规则**、**来源访问控制规则** 和 **热点参数规则**。

Sentinel 的所有规则都可以在内存态中动态地查询及修改，修改之后立即生效。同时 Sentinel 也提供相关 API，供您来定制自己的规则策略

本篇文章我们来看一下Sentinel的`流量控制规则`

## 概述 ##

### 定义 ###

\*\*流量控制（Flow Control）\*\*其原理是监控应用流量的 QPS 或并发线程数等指标，当达到指定的阈值时对流量进行控制，以避免被瞬时的流量高峰冲垮，从而保障应用的高可用性。

限流的直接表现是在执行流控的时候抛出 `FlowException` 异常。`FlowException` 是 `BlockException` 的子类，我们可以捕捉 `BlockException` 来自定义被限流之后的处理逻辑。

同一个资源可以对应多条限流规则。`FlowSlot` 会对该资源的所有限流规则依次遍历，直到有规则触发限流或者所有规则遍历完毕。

### 规则 (FlowRule) ###

一条限流规则主要由下面几个因素组成，我们可以组合这些元素来实现不同的限流效果。

<table> 
 <thead> 
  <tr> 
   <th align="center">Field</th> 
   <th align="left">说明</th> 
   <th align="left">默认值</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td align="center">resource</td> 
   <td align="left">资源名，资源名是限流规则的作用对象</td> 
   <td align="left"></td> 
  </tr> 
  <tr> 
   <td align="center">count</td> 
   <td align="left">限流阈值</td> 
   <td align="left"></td> 
  </tr> 
  <tr> 
   <td align="center">grade</td> 
   <td align="left">限流阈值类型，QPS 或线程数模式</td> 
   <td align="left">QPS 模式</td> 
  </tr> 
  <tr> 
   <td align="center">limitApp</td> 
   <td align="left">流控针对的调用来源</td> 
   <td align="left"><code>default</code>，代表不区分调用来源</td> 
  </tr> 
  <tr> 
   <td align="center">strategy</td> 
   <td align="left">调用关系限流策略：直接、链路、关联</td> 
   <td align="left">根据资源本身（直接）</td> 
  </tr> 
  <tr> 
   <td align="center">controlBehavior</td> 
   <td align="left">流控效果（直接拒绝 / 排队等待 / 慢启动模式），不支持按调用关系限流</td> 
   <td align="left">直接拒绝</td> 
  </tr> 
 </tbody> 
</table>

流量控制主要有两种统计类型，一种是统计线程数，另外一种则是统计 QPS。类型由 `grade` 字段来定义。

## 基于QPS/并发数的流量控制 ##

### 小试牛刀 ###

#### 新增规则 ####

##### 簇点链路 #####

打开我们的Sentinel DashBoard界面，在侧边栏菜单的`簇点链路`中找到我们需要流控的资源，我们这里是`/test/hello`，点击后面的`+流控`按钮，即可打开新增流控规则的界面。如下图所示  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70]  
在新增流控规则的窗口中我们直接展开**高级选项**（这里暂时不讨论集群方式），如下图所示：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 1]

##### 流控规则 #####

我们也可以在流控规则菜单中点击`新增流控规则`，只不过这种方式弹出的新增窗口的资源名要自己指定  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 2]

#### 流控测试 ####

我们这里先做一个简单的流控测试，我们将`单机阈值`直接设置为1，其余保持默认；按照这样的配置如果一秒内的请求数大于1那么资源就会被直接流控，抛出`Blocked by Sentinel (flow limiting)`异常。如下图所示：  
![在这里插入图片描述][3c6c9d27dc2847cf83c4388e66f58e36.png]

## 并发线程数流量控制 ##

线程数限流用于保护业务线程数不被耗尽。例如，当应用所依赖的下游应用由于某种原因导致服务不稳定、响应延迟增加，对于调用者来说，意味着吞吐量下降和更多的线程数占用，极端情况下甚至导致线程池耗尽。为应对高线程占用的情况，业内有使用隔离的方案，比如通过不同业务逻辑使用不同线程池来隔离业务自身之间的资源争抢（线程池隔离），或者使用信号量来控制同时请求的个数（信号量隔离）。这种隔离方案虽然能够控制线程数量，但无法控制请求排队时间。当请求过多时排队也是无益的，直接拒绝能够迅速降低系统压力。Sentinel线程数限流不负责创建和管理线程池，而是简单统计当前请求上下文的线程个数，如果超出阈值，新的请求会被立即拒绝。

### 小试牛刀 ###

#### 新增规则 ####

我们直接打开`新增流控规则`窗口，阈值类型选择**并发线程数**，单机阈值设置为**2**。如下图所示：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 3]

#### 流控测试 ####

**并发线程数**测试我们需要使用JMeter来模拟线程进行压力测试，有关JMeter的使用可以参考文章[压力测试工具JMeter的简单使用][JMeter]

##### 新建线程组 #####

我们新建一个线程组，在启动的时候同时发送10个请求，如下所示：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 4]

##### 新建http请求 #####

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 5]

##### 启动测试 #####

我们点击菜单栏上方绿色的启动按钮启动测试，在结果树中查看执行结果，如下图所示：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 6]

## 流控模式 ##

在`新增流控规则`界面的高级选项中有一项流控模式可供选择，分别是`直接`、`关联`和`链路（后期专门介绍链路，本文不具体展开）`

### 直接模式 ###

当配置资源在运行过程中超过当前规则配置的阈值之后对该资源请求做相应的流控效果。上面`基于QPA/并发数的流量控制`与`并发线程数流量控制`中的小试牛刀就是基于这种方式处理的

### 关联模式 ###

当配置资源在运行过程中超过当前配置规则配置的阈值之后对他所关联的资源请求做相应的流控效果。对于该迷失的效果请看下面的实例

#### TestController.java ####

我们修改`TestController.java`，在里面我们新增方法**sayBye()**，然后重启系统。如下图所示：

/** * @Author Christy * @Date 2021/8/6 10:17 **/
    @RestController
    @RequestMapping("/test")
    public class TestController { 
        private static final Logger log = LoggerFactory.getLogger(TestController.class);
    
        @RequestMapping("/hello")
        public String sayHello(){ 
            log.info("Hello, Sentinel!");
            return "Hello, Sentinel!";
        }
    
        @RequestMapping("/bye")
        public String sayBye(){ 
            log.info("Bye, Sentinel!");
            return "Bye, Sentinel!";
        }
    }

#### 新增规则 ####

我们修改前面的柜子，流控模式选择**关联**，关联资源写`/test/bye`，流控效果（后面讲）暂时选快速失败  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 7]

#### 测试 ####

我们修改JMeter中的线程组，设置循环每秒钟发送10个请求，如下图所示：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 8]  
修改http请求路径为`/test/bye`，如下图所示：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 9]  
启动JMeter测试，结果如下所示：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 10]

> 从图中我们可以看到对于关联资源`/test/bye`可以正常访问，但是对于资源`/test/hello`却被限流了，所以对于关联模式这是一种反向流控：当被关联资源达到阈值，会对资源进行流控

### 链路模式 ###

当配置资源在运行过程中超过当前配置规则的阈值后对链路中的资源直接抛出失败。这种模式在后面我们单独拿出来讲，这里先忽略。

## 流控效果 ##

流控效果选项只是针对QPS来说的，如果我们将阈值类型选择`并发线程数`的话可以看到是没有流控效果这一选项的  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 11]

*  直接拒绝:（RuleConstant.CONTROL\_BEHAVIOR\_DEFAULT）是默认的流量控制方式，当QPS超过任意规则的阈值后，新的请求就会被立即拒绝，拒绝方式为抛出FlowException。
 *  Warm Up:（RuleConstant.CONTROL\_BEHAVIOR\_WARM\_UP）即预热/冷启动方式。当系统长期处于低水位的情况下，当流量突然增加时，直接把系统拉升到高水位可能瞬间把系统压垮。通过"冷启动"，让通过的流量缓慢增加，在一定时间内逐渐增加到阈值上限，给冷系统一个预热的时间，避免冷系统被压垮。–[官网][Link 1]
 *  匀速排队:(RuleConstant.CONTROL\_BEHAVIOR\_RATE\_LIMITER）会严格控制请求通过的间隔时间，也即是让请求以均匀的速度通过，只能对请求进行排队等待，对应的是漏桶算法。 –[官网][Link 2]

### 直接拒绝 ###

上面我们演示的例子效果都是直接拒绝，这里就不说了。

### Warm Up ###

我们修改流控规则，阈值类型选择`QPS`，单机阈值为`10`，流控效果为`Warm Up`，预热时长为`20`，如下图所示：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 12]  
通俗一点讲就是我们设置的阈值是10，预热时长是20。那么当大量请求同时涌入系统时，系统会经过20秒钟的预热才会一次处理10个请求，在20秒钟之内先期可能会处理3个、5个、8个再至10个  
我们修改线程组线程数为15/s，一直发送。如下图所示：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 13]  
http请求路径修改为最开始的`/test/hello`，如下图所示：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 14]  
然后们启动JMeter发送请求，注意观察IDEA的控制台输出。

在刚开始的几秒中内每次只请求三次，如下图所示  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 15]  
运行到第6~8秒的时候QPS由4增加到5  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 16]  
在超出20秒以后QPS趋于稳定为10  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 17]

### 匀速排队 ###

匀速排队模式就相对简单了。JMeter我们不做改动，按照下图修改规则  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 18]

> 这里的超时时间是毫秒，而Warm Up的预热时间单位是秒，这里要注意

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 19]  
控制台每秒打印输出的次数就是我们设置的阈值，这就是匀速排队的效果。

> 本系列专题源码已经上传至gitee：https://gitee.com/tide001/springcloud\_parent，欢迎下载交流

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70]: /images/20220829/95cda22b70a7472a8d5de5a070e24e59.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 1]: /images/20220829/5f9004d449c24ba7b035bd7efabbe30a.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 2]: /images/20220829/12e7e67b4dfd4fbd9c066aa10c92ec86.png
[3c6c9d27dc2847cf83c4388e66f58e36.png]: /images/20220829/f6ca099f1d64478e9458c189708b666c.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 3]: /images/20220829/535e30819c9940b0a905dc693d0d4351.png
[JMeter]: https://blog.csdn.net/bbxylqf126com/article/details/119639208
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 4]: /images/20220829/9ca1254032dc4153895fd30b4946f4c0.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 5]: /images/20220829/73d541e239ed441495a827889a5fb690.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 6]: /images/20220829/f047f219695c490992d505cf9009b5d4.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 7]: /images/20220829/6727789cf72947298610ae558af8c949.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 8]: /images/20220829/cd2d1feb060b4521b31825824e1a3c45.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 9]: /images/20220829/2fbdefb5575142639f4857f2b5e193df.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 10]: /images/20220829/e53ae0b4ea1e41368bd0d47e4b4adf29.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 11]: /images/20220829/3e0bf500f9a6472f9e77c15270712b8c.png
[Link 1]: https://github.com/alibaba/Sentinel/wiki/%E9%99%90%E6%B5%81---%E5%86%B7%E5%90%AF%E5%8A%A8
[Link 2]: https://github.com/alibaba/Sentinel/wiki/%E6%B5%81%E9%87%8F%E6%8E%A7%E5%88%B6-%E5%8C%80%E9%80%9F%E6%8E%92%E9%98%9F%E6%A8%A1%E5%BC%8F
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 12]: /images/20220829/1613d658569043079d7727f499b9d2fb.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 13]: /images/20220829/84ad57dddd4040dba46bfdced6a5db56.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 14]: /images/20220829/3b35cb0844734e64b13eaecfee182743.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 15]: /images/20220829/711d5ded2c904702a9b7e2b3300ad33c.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 16]: /images/20220829/29e04766cbfc4647a8eb6200fdb3b75e.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 17]: /images/20220829/7f10a2e57a7846039259bafa97d4b4ab.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 18]: /images/20220829/b9e4ae224c874b07809113f80ff9b149.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2JieHlscWYxMjZjb20_size_16_color_FFFFFF_t_70 19]: /images/20220829/b0b97bd334564687ba48829c7b91822e.png