Sentinel限流--流控模式与限流效果

傷城~ 2023-10-13 17:23 84阅读 0赞

#### 文章目录 ####

*  1、簇点链路
 *  2、流控入门案例
 *  3、流控模式：关联模式
 *  4、流控模式：链路模式
 *  5、流控效果：warm up
 *  6、限流效果：排队等待
 *  7、热点参数限流

## 1、簇点链路 ##

簇点链路就是项目内的调用链路（controller -> servcie -> mapper ），链路中被监控的每个接口就是一个资源。

> 默认情况下sentinel会监控SpringMVC的每一个端点（Endpoint），Endpoint可以理解为controller中的每一个方法，每一个端点（Endpoint）就是调用链路中的一个资源。

> 流控、熔断等都是针对簇点链路中的资源来设置的。

![在这里插入图片描述][4ab676988f334a9e9afbbb3b18b0594d.png]

点击流控，可以新增流控规则：

![在这里插入图片描述][36f9be0c167d4138942129c1cf1508d9.png]

QPS为1，即每秒只允许1次请求，**超出的请求会被拦截并报错。**

## 2、流控入门案例 ##

需求：给 /order/{
        orderId}这个资源设置流控规则，QPS不能超过 5。然后利用jemeter测试。

*  点击流控，设置QPS

![在这里插入图片描述][8cc81d0639474baf9e0c56876f274876.png]

*  打开Jemter，添加测试计划，右键start

![在这里插入图片描述][fede86a252f94882a6f2e43708f02617.png]

*  查看结果树，可以看到确实每秒最多5个请求

![在这里插入图片描述][b1f59a51b30846b8bc51acf56fd6b3fd.png]

*  查看sentinel控制台

![在这里插入图片描述][cddf87a881284e4b8e78cfd3022aa121.png]

## 3、流控模式：关联模式 ##

在添加限流规则时，点击高级选项，可以选择三种流控模式：

*  **直接**：统计当前资源的请求，触发阈值时对当前资源直接限流，也是默认的模式（入门案例里的效果）
 *  **关联**：统计与当前资源相关的另一个资源，触发阈值时，对当前资源限流
 *  **链路**：统计从指定链路访问到本资源的请求，触发阈值时，对指定链路限流

> **流控模式：关联**

关联模式的使用场景如：比如用户支付时需要修改订单状态，同时用户要查询订单。但查询和修改操作会争抢数据库锁，二者为竞争关系。

很明显，我需要优先满足支付，即修改订单状态优先级更高，因此当修改订单业务触发阈值时，需要对查询订单业务限流。直白讲就是，二者竞争，超过阈值时，优先级低的被限流，避免影响优先级高的。

![在这里插入图片描述][61bfe69a1ec94b2fb602044c2b6012f6.png]  
当/write资源访问量触发阈值时，就会对/read资源限流，避免影响/write资源。关联资源是优先级高的，在优先级低的上面添加限流规则！

需求：
    - 在OrderController新建两个端点：/order/query和/order/update，无需实现业务
    - 配置流控规则，当/order/ update资源被访问的QPS超过5时，对/order/query请求限流

*  写两个测试接口资源

@GetMapping("/order/query")
    public String queryOrder(){
        
    	return "查询订单成功";
    }

@GetMappinng("/order/update")
    public String updateOrder(){
        
    	return "更新订单成功";
    }

*  很明显，query资源优先级低，在它上面添加流控规则

![在这里插入图片描述][3f8c66c04fc84ad3b519871590008d63.png]

*  jmeter模拟请求/order/update,QPS设置10，按图中设置，这100秒内，update的QPS均大于阈值5

![在这里插入图片描述][887306f308694f7aa0314493ba7b2724.png]

*  访问/order/query，可以看到已被限流

![在这里插入图片描述][c4a3985489964918864e075dacc396c6.png]

*  但/order/update资源却不被限制

![在这里插入图片描述][291217d8af054c6ca38c2992c5c1b299.png]

对关联模式做个总结就是;

![在这里插入图片描述][42525fa3583240b68e2c8fbcf5e26c33.png]

## 4、流控模式：链路模式 ##

> 只针对从指定链路访问到本资源的请求做统计，判断是否超过阈值

例如有两条请求链路：

*  /test1 到 /common
 *  /test2 到 /common

如果只希望统计从/test2进入到/common的请求，则可以这样配置：

![在这里插入图片描述][cf1a96fc6dde4ef0aa73c025e16c6d89.png]

需求：
    - 有查询订单和创建订单业务，两者都需要查询商品。
    - 针对从查询订单进入到查询商品的请求统计，并设置限流，QPS<2。

访问资源"查询商品方法"，以上就有两条链路：

*  入口1：查询订单/order/query—>查询商品queryGoods
 *  入口2：创建订单/order/save —> 查询商品queryGoods

这里需要对queryGoods添加链路模式限流，从/order/query进入queryGoods方法的QPS限制必须小于2.

但注意默认只有controller中的方法会被监控，Service层的queryGoods方法没有被监控，也就不能配置限流规则，要标记其它方法，需要利用@SentinelResource注解：

@SentinelResource("goods")
    public void queryGoods() {
           
    	System.err.println("查询商品");
    }

此外：Sentinel默认会将Controller方法做context整合，认为是由同一个根链路发展来的子链路，从而导致链路模式的流控失效，因此需要修改application.yml，添加配置：

spring:
      cloud:    
       sentinel:      
         web-context-unify: false # 关闭context整合

*  接口与方法资源代码展示

public class OrderService{
        
    
    	@SentinelResource("goods")
    	public void queryGoods(){
        
    		System.out.println("查询商品");
    	}
    	
    }

@Resource
    private OrderService orderService;
    
    
    @GetMapping("/order/query")
    public String queryOrder(){
        
    	orderService.queryGoods();  //查商品，形成一个链路
    	System.out.println("查询订单");
    	return "查询订单成功";	
    }
    
    @GetMapping("/order/save")
    public String saveOrder(){
        
    	orderService.queryGoods(); //查商品，形成一个链路
    	System.out.println("新增订单");
    	return "新增订单成功";	
    
    }

*  访问下save和query接口，查看sentinel簇点链路：

![在这里插入图片描述][fbf836eed6b1461e8de24bb701763ca5.png]

*  两个goods都一样，随便选一个点击新增流控按钮

![在这里插入图片描述][c19973061a224306b239a21e748c579e.png]

*  打开Jmeter做测试，QPS我设为200/50 = 4 > 2，发送query和save请求：

![在这里插入图片描述][33187aaea59347959207d1a5cf161e36.png]

*  可以看到save不受影响：

![在这里插入图片描述][cf447266b1d9423880a13e18921dfd7a.png]

*  但query的链路我设置了限流，可以看到每秒总有4-2=2个请求失败：

![在这里插入图片描述][bec4eb2015da4a498dc2d80e6a49d140.png]

关于流控模式的总结：

![在这里插入图片描述][59ec881bdbd84dce9544da7c8403ab7b.png]

## 5、流控效果：warm up ##

> 流控效果是指请求达到流控阈值时应该采取的措施，包括三种：

*  **快速失败**：达到阈值后，新的请求会被立即拒绝并抛出FlowException异常。是默认的处理方式。
 *  **warm up**：预热模式，对超出阈值的请求同样是拒绝并抛出异常。但这种模式阈值会动态变化，从一个较小值逐渐增加到最大阈值。
 *  **排队等待**：让所有的请求按照先后次序排队执行，两个请求的间隔不能小于指定时长

![在这里插入图片描述][932ab869c5e54a608ef91785926db5b3.png]

就像剧烈运动前慢跑热身一样，服务器刚启动时，不能直接打满到最大QPS，这就是warm up的限流效果：

> warm up也叫预热模式，是应对服务冷启动的一种方案。请求阈值初始值是 threshold / coldFactor，前者为最大QPS，后者为冷启动因子。持续指定时长后，逐渐提高到threshold值。而coldFactor的默认值是3.

例如，我设置QPS的threshold为10，预热时间为5秒，那么初始阈值就是 10 / 3 ，也就是3，然后在5秒后逐渐增长到10.

![在这里插入图片描述][31cd1e86a2864939b0fc0ea3a1f2d434.png]

需求：
    - 给/order/{
        orderId}这个资源设置限流，最大QPS为10。
    - 利用warm up效果，预热时长为5秒

添加流控规则：

![在这里插入图片描述][c07a6404dd2944b6a799da65c6924a5e.png]

Jmeter设置QPS为10，start发起请求：

![在这里插入图片描述][423eb49879534b5ebd973f137b702264.png]

可以看到刚开始，10个请求只成功3个：

![在这里插入图片描述][e925dacd8ab547f4b43c06dab46af0eb.png]  
随着时间的推移，达到10，则全部请求都能成功：

![在这里插入图片描述][cc5b86db783c4b7e9a64a41e30304b3c.png]  
查看监控面板：

![在这里插入图片描述][83f7bdd4636b458da13b4ec677f18856.png]

## 6、限流效果：排队等待 ##

当请求超过QPS阈值时，快速失败和warm up 会拒绝新的请求并抛出异常。而排队等待则是让所有请求进入一个队列中，然后按照阈值允许的时间间隔依次执行。当预期等待时长超过timeout时间，则请求才会被拒绝。

![在这里插入图片描述][e9f3a73cabcf47ccbbabeb84702a5467.png]  
假设QPS=5，即每200ms处理一个请求，比如设置timeout=2000。如上图，预计等待时间线上排队着一个个请求，最后一个绿点的预计等待时间刚好为2000ms == timeout，此时再来一个需求，预计等待时间就大于了timeout，这个需求就会被拒绝。

![在这里插入图片描述][e71140c7346c4c7993e04b4b1bd75caf.png]  
**这种限流效果，其实起到了一个流量整形的效果**，不管client来的需求每秒有多少个，进入队列后再出来，就都是一秒QPS个：

![在这里插入图片描述][180062f564494f26a9bd7b1e2a90438e.png]

需求：
    给/order/{
        orderId}这个资源设置限流，最大QPS为10，利用排队的流控效果，超时时长设置为5s

*  新增流控规则

![在这里插入图片描述][a251d417e2b94e69a1326ffa138cb9c2.png]

*  Jmeter中设置QPS为15，如果是前两种限流效果，则每秒的15个请求中，成功10个，失败5个。按排队的限流效果，应该是刚开始多出的5个不会失败

![在这里插入图片描述][9441053f0bdd4e38a535e933627aeee3.png]

*  查看监控面板，可以看到每秒10个请求，且多出来的5个不是全部拒绝，而是排队时间预计超过5s的才拒绝

![在这里插入图片描述][867f64448a374b6dbf38655b5017077d.png]

流控效果小结：

![在这里插入图片描述][e8de31425bb2466784a57a34ec5e0a3a.png]

## 7、热点参数限流 ##

之前的限流是统计所有请求，然后判断QPS是否超过阈值，如下图，即QPS为4：

![在这里插入图片描述][592e503aa9de450c8aac18633485a6bc.png]

而热点参数限流则是**分别统计参数值相同的请求**，然后判断是否超过阈值。

![在这里插入图片描述][f9aad7eb0d05443cbb9da64e6c6593de.png]

配置示例为：

![在这里插入图片描述][44b617cb01774d988a62f5fa82fe067a.png]

含义是：**对hot这个资源的0号参数（第一个参数）做统计，每1秒相同参数值的请求数不能超过5**

但此时有个问题，比如商品001没人看，商品002火爆，现在限制商品id相同的请求，每秒不能大于5个，则001，002都没一竿子打死了，001的QPS用不完，002的QPS不够用。针对这种场景，**可以对部分参数设置例外配置：**

![在这里插入图片描述][369073634b1b4806bc61463da74a825c.png]

这个配置的含义就是：对0号的long类型参数限流，每1秒相同参数的QPS不能超过5。但如果参数值为100或者101，则可以例外：

*  如果参数值是100，则每1秒允许的QPS为10
 *  如果参数值是101，则每1秒允许的QPS为15

需求：
    
    - 给/order/{
        orderId}这个资源添加热点参数限流，规则如下：
    - 默认的热点参数规则是每1秒请求量不超过2
    - 给102这个参数设置例外：每1秒请求量不超过4
    - 给103这个参数设置例外：每1秒请求量不超过10

![在这里插入图片描述][3d88275716684ee880fd62eb35444004.png]  
就是说，添加热点参数限流，我们**之前的controller中的那一个个方法，热点限流不再认识，需要额外加@SentinelSource注解。**

*  修改代码，添加@SentinelSource注解

@SentinelSource("hot") //此时，这个资源（方法）就有两个名字了，之前的/order/{orderID}和hot
    @GetMapping("{orderId}")
    public Oeder queryOrderByUserId(@PathVariable("orderId") Long orderId){
        
    
    	return orderService.queryOrderById(orderId);
    }

*  重启服务，可以看到簇点链路中多了一个hot（别直接在后面点击【+热点】来配置，这里没高级选项）

![在这里插入图片描述][656960f5708843e78893516c0f7cd0ff.png]

*  切到热点规则侧边栏，新增热点限流规则

![在这里插入图片描述][a26c3ae45fd04e08a48ba715b865c5be.png]

*  使用Jmeter模拟并发，QPS设置为500/100 = 5，三个取样器中分别请求101、102、103三个orderId

![在这里插入图片描述][8fd7f9a10b654b21810438f86d055d98.png]

*  查看Jmeter结果树或者Sentinel的监控面板

![在这里插入图片描述][5b0e602daec94c6aa9a418781c06ba0e.png]

最后，这个热点限流是根据传参来进行更细粒度的限流，且传参只支持基本数据类型。要是没有这种细粒度需求，走前面的正常限流模式 + 限流效果即可。

[4ab676988f334a9e9afbbb3b18b0594d.png]: https://img-blog.csdnimg.cn/4ab676988f334a9e9afbbb3b18b0594d.png
[36f9be0c167d4138942129c1cf1508d9.png]: https://img-blog.csdnimg.cn/36f9be0c167d4138942129c1cf1508d9.png
[8cc81d0639474baf9e0c56876f274876.png]: https://img-blog.csdnimg.cn/8cc81d0639474baf9e0c56876f274876.png
[fede86a252f94882a6f2e43708f02617.png]: https://img-blog.csdnimg.cn/fede86a252f94882a6f2e43708f02617.png
[b1f59a51b30846b8bc51acf56fd6b3fd.png]: https://img-blog.csdnimg.cn/b1f59a51b30846b8bc51acf56fd6b3fd.png
[cddf87a881284e4b8e78cfd3022aa121.png]: https://img-blog.csdnimg.cn/cddf87a881284e4b8e78cfd3022aa121.png
[61bfe69a1ec94b2fb602044c2b6012f6.png]: https://img-blog.csdnimg.cn/61bfe69a1ec94b2fb602044c2b6012f6.png
[3f8c66c04fc84ad3b519871590008d63.png]: https://img-blog.csdnimg.cn/3f8c66c04fc84ad3b519871590008d63.png
[887306f308694f7aa0314493ba7b2724.png]: https://img-blog.csdnimg.cn/887306f308694f7aa0314493ba7b2724.png
[c4a3985489964918864e075dacc396c6.png]: https://img-blog.csdnimg.cn/c4a3985489964918864e075dacc396c6.png
[291217d8af054c6ca38c2992c5c1b299.png]: https://img-blog.csdnimg.cn/291217d8af054c6ca38c2992c5c1b299.png
[42525fa3583240b68e2c8fbcf5e26c33.png]: https://img-blog.csdnimg.cn/42525fa3583240b68e2c8fbcf5e26c33.png
[cf1a96fc6dde4ef0aa73c025e16c6d89.png]: https://img-blog.csdnimg.cn/cf1a96fc6dde4ef0aa73c025e16c6d89.png
[fbf836eed6b1461e8de24bb701763ca5.png]: https://img-blog.csdnimg.cn/fbf836eed6b1461e8de24bb701763ca5.png
[c19973061a224306b239a21e748c579e.png]: https://img-blog.csdnimg.cn/c19973061a224306b239a21e748c579e.png
[33187aaea59347959207d1a5cf161e36.png]: https://img-blog.csdnimg.cn/33187aaea59347959207d1a5cf161e36.png
[cf447266b1d9423880a13e18921dfd7a.png]: https://img-blog.csdnimg.cn/cf447266b1d9423880a13e18921dfd7a.png
[bec4eb2015da4a498dc2d80e6a49d140.png]: https://img-blog.csdnimg.cn/bec4eb2015da4a498dc2d80e6a49d140.png
[59ec881bdbd84dce9544da7c8403ab7b.png]: https://img-blog.csdnimg.cn/59ec881bdbd84dce9544da7c8403ab7b.png
[932ab869c5e54a608ef91785926db5b3.png]: https://img-blog.csdnimg.cn/932ab869c5e54a608ef91785926db5b3.png
[31cd1e86a2864939b0fc0ea3a1f2d434.png]: https://img-blog.csdnimg.cn/31cd1e86a2864939b0fc0ea3a1f2d434.png
[c07a6404dd2944b6a799da65c6924a5e.png]: https://img-blog.csdnimg.cn/c07a6404dd2944b6a799da65c6924a5e.png
[423eb49879534b5ebd973f137b702264.png]: https://img-blog.csdnimg.cn/423eb49879534b5ebd973f137b702264.png
[e925dacd8ab547f4b43c06dab46af0eb.png]: https://img-blog.csdnimg.cn/e925dacd8ab547f4b43c06dab46af0eb.png
[cc5b86db783c4b7e9a64a41e30304b3c.png]: https://img-blog.csdnimg.cn/cc5b86db783c4b7e9a64a41e30304b3c.png
[83f7bdd4636b458da13b4ec677f18856.png]: https://img-blog.csdnimg.cn/83f7bdd4636b458da13b4ec677f18856.png
[e9f3a73cabcf47ccbbabeb84702a5467.png]: https://img-blog.csdnimg.cn/e9f3a73cabcf47ccbbabeb84702a5467.png
[e71140c7346c4c7993e04b4b1bd75caf.png]: https://img-blog.csdnimg.cn/e71140c7346c4c7993e04b4b1bd75caf.png
[180062f564494f26a9bd7b1e2a90438e.png]: https://img-blog.csdnimg.cn/180062f564494f26a9bd7b1e2a90438e.png
[a251d417e2b94e69a1326ffa138cb9c2.png]: https://img-blog.csdnimg.cn/a251d417e2b94e69a1326ffa138cb9c2.png
[9441053f0bdd4e38a535e933627aeee3.png]: https://img-blog.csdnimg.cn/9441053f0bdd4e38a535e933627aeee3.png
[867f64448a374b6dbf38655b5017077d.png]: https://img-blog.csdnimg.cn/867f64448a374b6dbf38655b5017077d.png
[e8de31425bb2466784a57a34ec5e0a3a.png]: https://img-blog.csdnimg.cn/e8de31425bb2466784a57a34ec5e0a3a.png
[592e503aa9de450c8aac18633485a6bc.png]: https://img-blog.csdnimg.cn/592e503aa9de450c8aac18633485a6bc.png
[f9aad7eb0d05443cbb9da64e6c6593de.png]: https://img-blog.csdnimg.cn/f9aad7eb0d05443cbb9da64e6c6593de.png
[44b617cb01774d988a62f5fa82fe067a.png]: https://img-blog.csdnimg.cn/44b617cb01774d988a62f5fa82fe067a.png
[369073634b1b4806bc61463da74a825c.png]: https://img-blog.csdnimg.cn/369073634b1b4806bc61463da74a825c.png
[3d88275716684ee880fd62eb35444004.png]: https://img-blog.csdnimg.cn/3d88275716684ee880fd62eb35444004.png
[656960f5708843e78893516c0f7cd0ff.png]: https://img-blog.csdnimg.cn/656960f5708843e78893516c0f7cd0ff.png
[a26c3ae45fd04e08a48ba715b865c5be.png]: https://img-blog.csdnimg.cn/a26c3ae45fd04e08a48ba715b865c5be.png
[8fd7f9a10b654b21810438f86d055d98.png]: https://img-blog.csdnimg.cn/8fd7f9a10b654b21810438f86d055d98.png
[5b0e602daec94c6aa9a418781c06ba0e.png]: https://img-blog.csdnimg.cn/5b0e602daec94c6aa9a418781c06ba0e.png