Sentinel的线程隔离和熔断降级

爱被打了一巴掌 2023-10-13 19:37 69阅读 0赞

上一节整理了Sentinel的限流，限流可以降低微服务的负载，避免因为高并发而故障，进而传递给其他相关服务而引发服务雪崩。以上仅为避免服务故障，而当某个服务真正故障时，如何处理才能防止服务雪崩？ ⇒ Sentinel支持隔离和降级两种方案

#### 文章目录 ####

*  1、线程隔离和熔断降级
 *  2、Feign整合Sentinel
 *  3、FallbackFactory代码逻辑
 *  4、线程隔离
 *  5、Sentinel熔断的实现原理
 *  6、熔断策略--慢调用
 *  7、熔断策略--异常比例、异常数

## 1、线程隔离和熔断降级 ##

采用线程隔离，即舱壁模式：

![在这里插入图片描述][9a2f322899f24f989dcf75d6c8eb9b6e.png]

*  业务1：服务A到服务B，限制10线程数
 *  业务2：服务A到服务C，限制10线程数

此时，服务C故障，最大损失10个线程，不会长期占用其他线程，如此，服务A到服务B仍可正常访问，阻止了故障的传递。

![在这里插入图片描述][c58451e1f9e94b99955a246790194c7a.png]

熔断降级，即当请求的失败比例超过阈值时，熔断器阻断服务A到服务D的请求，以后服务A到服务D的请求过来就会**直接失败**，它没压根机会去访问，也就不会导致资源耗尽，也就不会发生故障传递。

> 可以看到，不管是线程隔离还是熔断降级，都是对服务调用方的保护，别因为别的服务故障而拖垮自己。

## 2、Feign整合Sentinel ##

SpringCloud中，微服务调用都是通过Feign来实现的，因此做客户端保护必须整合Feign和Sentinel

*  修改服务调用方的application.yaml文件，开启Feign的Sentinel功能

feign:
      sentinel:    
      	enabled: true # 开启Feign的Sentinel功能

*  给FeignClient编写失败后的降级逻辑（被阻断了，走另一条路，比如返回msg调用xxService失败）

方式一：FallbackClass，不能对远程调用的异常做处理
    方式二：FallbackFactory，可以对远程调用的异常做处理，常选这种

## 3、FallbackFactory代码逻辑 ##

这是未处理前，feign处理的接口：

@FeignClient(value = "userservice")
    public interface UserClient {
        
    
        @GetMapping("/user/{id}")
        User findById(@PathVariable("id") Long id);
    }

*  在feing-api项目中定义类，实现FallbackFactory接口，且FallbackFactory的泛型中即为关联接口的类型

@Slf4j
    public class UserClientFallbackFactory implements FallbackFactory<UserClient> {
           //泛型中指定关联的接口的类型
        @Override
        public UserClient create(Throwable throwable) {
        
        	// 创建UserClient接口实现类（匿名内部类），实现其中的方法，编写失败降级的处理逻辑
            return new UserClient() {
        
                @Override
                public User findById(Long id) {
        
                	// 记录异常信息
                    log.error("查询用户异常", throwable);
                    // 根据业务需求返回默认的数据，这里是空用户
                    return new User();
                }
            };
        }
    }

*  在模块的配置类DefaultFeignConfiguration中将UserClientFallbackFactory注册为一个Bean：

public class DefaultFeignConfiguration {
        
    
    	//new个对象返回
        @Bean
        public UserClientFallbackFactory userClientFallbackFactory(){
        
            return new UserClientFallbackFactory();
        }
    }

*  在feing-api项目中的UserClient接口中用fallbackFactory属性，使用UserClientFallbackFactory

@FeignClient(value = "userservice", fallbackFactory = UserClientFallbackFactory.class)
    public interface UserClient {
        
    
        @GetMapping("/user/{id}")
        User findById(@PathVariable("id") Long id);
    }

*  重启服务，在Sentinel簇点链路中可以看到被远程调用的服务

![在这里插入图片描述][e0661fe2bd8d45899043e348125b411f.png]

到此，Feign整合Sentinel成功。也可再看下降级处理的效果（停掉被调用服务）：

![在这里插入图片描述][26cf6f0bdab84c5e93d7ed45d32d1a92.png]  
![在这里插入图片描述][55607e701cf4414fb9859ddd4604c537.png]

## 4、线程隔离 ##

实现线程隔离有两种方式：

*  线程池隔离
 *  信号量隔离（Sentinel默认采用）

基于信号量即这个资源请求能用的线程就10个，有个计数器，用一个少一个，请求完后还回去，用完后面的请求就没得用了，以达到舱壁隔离的效果。  
![在这里插入图片描述][d5bb87ca63de4f88b521ecec0b0f350c.png]

两种方式的优缺点：

*  基于计数器模式，简单，开销小
 *  基于线程池模式，有额外开销，但隔离控制更强

![在这里插入图片描述][71e2490553db42b4845db7fdb3fa593f.png]  
Sentinel中的配置示例如下：

![在这里插入图片描述][387981843c0e46ceaa8fc4e85b63d9f7.png]

*  QPS：就是每秒的请求数
 *  线程数：是该资源能使用用的tomcat线程数的最大值。也就是通过限制线程数量，实现舱壁模式

需求：给 UserClient的查询用户接口设置流控规则，线程数不能超过 2

*  Sentinel中添加流控规则，阈值类型选择线程数

![在这里插入图片描述][6f8e91e29f3749e6977f7d80f135f22d.png]

*  启动Jmeter，对/order/101发起测试

![在这里插入图片描述][35b67b52beb94f408a2f8c687cbef8ff.png]

*  查看结果数，10个请求，8个返回结果user为null且控制台输出报错日志（请求不会失败，因为上面已经做了降级的逻辑处理）

![在这里插入图片描述][4db0a67449df4b66b288ae1e582b381a.png]

## 5、Sentinel熔断的实现原理 ##

由断路器统计服务调用的异常比例、慢请求比例，如果超出阈值则会熔断该服务。即拦截访问该服务的一切请求；而当服务恢复时，断路器才会放行访问该服务的请求。实现思路如下：

![在这里插入图片描述][b3db61ab6542425f817bf51a4996deb7.png]

*  断路器处于closed时，一切请求都不被拦截，且会被统计异常和慢的比例
 *  当比例达到失败阈值，断路器open，所有请求一过来就快速失败
 *  当熔断时间结束，切换好半开放状态，即Half-Open
 *  Half-Open状态会尝试放行一些请求，如果依旧失败，则回到Open状态继续拦截，如果成功，则回到Closed状态

## 6、熔断策略–慢调用 ##

达到某个阈值时，触发熔断，这个就是断路器的熔断策略，分为这三种：**慢调用、异常比例、异常数**

> 慢调用：业务的响应时长（RT）大于指定时长的请求认定为慢调用请求。在指定时间内，如果请求数量超过设定的最小数量，慢调用比例大于设定的阈值，则触发熔断。

关于慢调用，即正常蹲坑6分钟，你蹲一小时，半天不释放资源，自然会影响到其他请求。

![在这里插入图片描述][f291e220f1824a89a5df14fbc0256f57.png]  
以上这个Sentinel配置，即：

- RT超过500ms的调用是慢调用
    - 统计最近10000ms内的请求
    - 如果请求量超过10次，并且慢调用比例不低于0.5，则触发熔断
    - 熔断时长为5秒，然后进入half-open状态，放行一次请求做测试

接下来完成一个实际例子：

需求：
    给 UserClient的查询用户接口设置降级规则，慢调用的RT阈值为50ms，统计时间为1秒，最小请求数量为5，失败阈值比例为0.4，熔断时长为5

为了触发慢调用规则，这里修改UserService中的业务，使用休眠来模拟慢调用：

![在这里插入图片描述][7f022dd05224434ebeaa6fb93d501834.png]

开始演示：

*  配置Sentinel降级规则

![在这里插入图片描述][f8e4b42bb975445aa32d130d6f134820.png]

*  狂刷/order/101接口（或者Ctrl+R），/order/101调用的user id就是1，即可触发熔断

![在这里插入图片描述][d5776ed381b2444e9e51b5f14a0ad60b.png]

*  此时访问其他用户，也返回空，因为阻断器open，直接挡回去了

![在这里插入图片描述][ef89dc334dc549ccb2b0d205079e8698.png]

*  估摸着5s过去了，阻断器进入到了Half-Open，再重新请求，可以看到正常返回了，当然此时熔断器变为Closed状态

![在这里插入图片描述][b217a0fdad174aad80eb21dcc84a7c09.png]

## 7、熔断策略–异常比例、异常数 ##

一定时间内的请求，异常请求所占的比例达到设定的比例阈值，或者异常请求的数量达到了设定的数量阈值，即熔断。

![在这里插入图片描述][2586794e5a8942a2a225b1e951a8c9fb.png]  
此配置即统计最近1000ms内的请求，如果请求量超过10次，并且异常比例不低于0.4，则触发熔断，熔断时长为5秒。然后进入half-open状态，放行一次请求做测试。

![在这里插入图片描述][a93feb6e15fd499c8aa6ff181f9486df.png]  
此配置即统计最近1000ms内的请求，如果请求量超过10次，并且异常数不低于2个，就触发熔断，熔断时长为5秒。然后进入half-open状态，放行一次请求做测试。

需求：
    给 UserClient的查询用户接口设置降级规则，统计时间为1秒，最小请求数量为5，失败阈值比例为0.4，熔断时长为5s

这里手动抛异常模拟异常的发生：

![在这里插入图片描述][a7ca22df6dfc48c69ffc06c0583bc271.png]

*  配置降级规则

![在这里插入图片描述][dee14cd7ed0748ad9db04dc9e208d23a.png]

*  刷/order/102，查uid为2的用户，达到异常比例来触发熔断

![在这里插入图片描述][86607a9f31a64ecf813da52abbc9f6c9.png]

*  然后再访问/order/103，此时103立即失败（被阻断了，所以耗时极小，这里只有7ms）

![在这里插入图片描述][47eb2622102243a58f0dcb72c109370e.png]

*  等过了阻断器open的时间，再访问就正常了

![在这里插入图片描述][a97507e9f26049f3ae4665eb44d655f8.png]

熔断策略小结：

![在这里插入图片描述][e733d58c8a804244bb212411b7e4b194.png]

[9a2f322899f24f989dcf75d6c8eb9b6e.png]: https://img-blog.csdnimg.cn/9a2f322899f24f989dcf75d6c8eb9b6e.png
[c58451e1f9e94b99955a246790194c7a.png]: https://img-blog.csdnimg.cn/c58451e1f9e94b99955a246790194c7a.png
[e0661fe2bd8d45899043e348125b411f.png]: https://img-blog.csdnimg.cn/e0661fe2bd8d45899043e348125b411f.png
[26cf6f0bdab84c5e93d7ed45d32d1a92.png]: https://img-blog.csdnimg.cn/26cf6f0bdab84c5e93d7ed45d32d1a92.png
[55607e701cf4414fb9859ddd4604c537.png]: https://img-blog.csdnimg.cn/55607e701cf4414fb9859ddd4604c537.png
[d5bb87ca63de4f88b521ecec0b0f350c.png]: https://img-blog.csdnimg.cn/d5bb87ca63de4f88b521ecec0b0f350c.png
[71e2490553db42b4845db7fdb3fa593f.png]: https://img-blog.csdnimg.cn/71e2490553db42b4845db7fdb3fa593f.png
[387981843c0e46ceaa8fc4e85b63d9f7.png]: https://img-blog.csdnimg.cn/387981843c0e46ceaa8fc4e85b63d9f7.png
[6f8e91e29f3749e6977f7d80f135f22d.png]: https://img-blog.csdnimg.cn/6f8e91e29f3749e6977f7d80f135f22d.png
[35b67b52beb94f408a2f8c687cbef8ff.png]: https://img-blog.csdnimg.cn/35b67b52beb94f408a2f8c687cbef8ff.png
[4db0a67449df4b66b288ae1e582b381a.png]: https://img-blog.csdnimg.cn/4db0a67449df4b66b288ae1e582b381a.png
[b3db61ab6542425f817bf51a4996deb7.png]: https://img-blog.csdnimg.cn/b3db61ab6542425f817bf51a4996deb7.png
[f291e220f1824a89a5df14fbc0256f57.png]: https://img-blog.csdnimg.cn/f291e220f1824a89a5df14fbc0256f57.png
[7f022dd05224434ebeaa6fb93d501834.png]: https://img-blog.csdnimg.cn/7f022dd05224434ebeaa6fb93d501834.png
[f8e4b42bb975445aa32d130d6f134820.png]: https://img-blog.csdnimg.cn/f8e4b42bb975445aa32d130d6f134820.png
[d5776ed381b2444e9e51b5f14a0ad60b.png]: https://img-blog.csdnimg.cn/d5776ed381b2444e9e51b5f14a0ad60b.png
[ef89dc334dc549ccb2b0d205079e8698.png]: https://img-blog.csdnimg.cn/ef89dc334dc549ccb2b0d205079e8698.png
[b217a0fdad174aad80eb21dcc84a7c09.png]: https://img-blog.csdnimg.cn/b217a0fdad174aad80eb21dcc84a7c09.png
[2586794e5a8942a2a225b1e951a8c9fb.png]: https://img-blog.csdnimg.cn/2586794e5a8942a2a225b1e951a8c9fb.png
[a93feb6e15fd499c8aa6ff181f9486df.png]: https://img-blog.csdnimg.cn/a93feb6e15fd499c8aa6ff181f9486df.png
[a7ca22df6dfc48c69ffc06c0583bc271.png]: https://img-blog.csdnimg.cn/a7ca22df6dfc48c69ffc06c0583bc271.png
[dee14cd7ed0748ad9db04dc9e208d23a.png]: https://img-blog.csdnimg.cn/dee14cd7ed0748ad9db04dc9e208d23a.png
[86607a9f31a64ecf813da52abbc9f6c9.png]: https://img-blog.csdnimg.cn/86607a9f31a64ecf813da52abbc9f6c9.png
[47eb2622102243a58f0dcb72c109370e.png]: https://img-blog.csdnimg.cn/47eb2622102243a58f0dcb72c109370e.png
[a97507e9f26049f3ae4665eb44d655f8.png]: https://img-blog.csdnimg.cn/a97507e9f26049f3ae4665eb44d655f8.png
[e733d58c8a804244bb212411b7e4b194.png]: https://img-blog.csdnimg.cn/e733d58c8a804244bb212411b7e4b194.png