【SpringCloud】三、分布式系统的延迟和容错

你的名字 2023-10-09 14:47 29阅读 0赞

#### 服务降级 ####

*  一、Hystrix
 *   *  服务降级
     *  请求限流
     *  hystrix限流
 *  二、使用熔断器 Hystrix
 *  三、feign的服务降级

前言：现在看spring的官网已经没有了Hystrix，而只剩下一个子项目Spring Cloud Netflix，而Spring Cloud Netflix已经移除了Hystrix，这么多组件大家还没来得及熟悉，就已经说拜拜了  
目前很多公司项目中还有使用改组件，虽说以后新的技术可能不在考虑，但该会的还是要学。后面会介绍新的限流 **Sentinel**  
同时给大家推荐一个新的分布式容错组件： **Resilience4j** 是受Netflix Hystrix启发的轻量级容错库，但专为 Java 8 和函数式编程而设计。有兴趣的可以看看  
[https://github.com/resilience4j/resilience4j][https_github.com_resilience4j_resilience4j]

![在这里插入图片描述][eba237a9c712448086b96404402729aa.png]

## 一、Hystrix ##

Hystrix被称为熔断器，它是一个用于处理分布式系统的延迟和容错的开源库，在分布式系统里，许多服务之间通过远程调用实现信息交互，调用时不可避免会出现调用失败，比如超时、异常等原因导致调用失败，Hystrix能够保证在一个服务出问题的情况下，不会导致整体服务失败，避免级联故障（服务雪崩），以提高分布式系统的弹性；  
熔断器也有叫断路器，他们表示同一个意思，最早来源于微服务之父 Martin  
Fowler 的论文 CircuitBreaker 一文。“熔断器”本身是一种开关装置，用于在电路上保护线路过载，当线路中有电器发生短路时，能够及时切断故障电路，防止发生过载、发热甚至起火等严重后果。  
所以当某个服务单元发生故障之后，通过断路器的故障监控（类似熔断保险丝），向调用方返回一个符合预期的、可处理的备选响应（FallBack），而不是长时间的等待或者抛出调用方无法处理的异常，这样就保证了服务调用方的线程不会被长时间地占用，从而避免了故障在分布式系统中的蔓延，乃至雪崩。

### 服务降级 ###

服务降级是指当某个微服务响应时间过长，发生异常，或者服务不可用了，我们不能把错误信息返回回来，或者让它一直卡在那里，所以要准备一个对应的策略（一个方法），当发生这种问题时，我们直接调用这个备用的方法来快速返回一个默认的结果，让请求得到快速响应，而不是一直卡在那里；

降级的作用？  
1、可以监听你的请求有没有超时；（默认是1秒，时间可以改）  
2、异常或报错了可以快速让请求返回，不会一直等待；（避免线程累积）  
3、当的系统马上迎来大量的并发(双十一秒杀这种或者促销活动) 此时如果系统承载不了这么大的并发时，可以考虑先关闭一些不重要的微服务（在降级方法中返回一个比较友好的信息)，把资源让给核心微服务，待高峰流量过去，再开启回来。

### 请求限流 ###

请求限流就是,针对接口和服务进限制你某个微服务的使用量

限流有很多方案：

*  1、Nginx
 *  2、Redis + Lua
 *  3、Sentinel
 *  4、基于限流算法自己实现（令牌桶、漏桶算法）

### hystrix限流 ###

**hystrix限流**就是限制你某个微服务的使用量（可用线程数、信号量）  
hystrix通过线程池的方式来管理微服务的调用，它默认是一个线程池（大小10个） 管理你的所有微服务，你可以给某个微服务开辟新的线程池：

@RequestMapping("/cloud/goodsHystrix2")
    @HystrixCommand(fallbackMethod = "fallback",
                    threadPoolKey = "goods",
                    threadPoolProperties = {
        @HystrixProperty(name = "coreSize", value = "2"),
                    @HystrixProperty(name = "maxQueueSize", value = "1")})
    public ResultObject goodsHystrix2() throws InterruptedException {
        }

**threadPoolKey** 是线程池唯一标识， hystrix 会使用该标识来计数，看线程占用是否超过了， 超过了就会直接降级该次调用；  
这里coreSize给他值为2 那么假设你这个方法调用时间是1s执行完， 那么在1s内如果有超过2个请求进来的话，剩下的请求则全部降级；  
其中maxQueueSize是一个线程队列，里面只能放一个请求线程，本来线程数有2个，队列里面允许放一个，那么总共只能有3个请求线程执行，如果超过了就会限流；

## 二、使用熔断器 Hystrix ##

在 Spring Cloud 中使用熔断器 Hystrix 是非常简单和方便的，只需要简单两步即可：

*  1、加依赖

<dependency>
        <groupId>org.springframework.cloud</groupId>
        <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
    </dependency>

*  2、在入口类中使用@EnableCircuitBreaker 注解或 @EnableHystrix  
    开启断路器功能，也可以使用一个名为@SpringCloudApplication 的注解代替主类上的三个注解；
 *  3、在调用远程服务的方法上添加注解：

`@HystrixCommand(fallbackMethod = "fallback")`

hystrix 默认超时时间是 1000 毫秒，如果你后端的响应超过此时间，就会触发  
断路器；  
修改 hystrix 的默认超时时间：

@RequestMapping("/cloud/goodsHystrix")
    @HystrixCommand(fallbackMethod = "fallback",
                    commandProperties={
        
                            @HystrixProperty(name="execution.timeout.enabled", value="true"),
                        @HystrixProperty(name="execution.isolation.thread.timeoutInMilliseconds", value="5000")
                    })
    public ResultObject goodsHystrix()

或者在配置文件进行配置：

ribbon.ReadTimeout=6000
    ribbon.ConnectTimeout=3000
    hystrix.command.default.execution.timeout.enabled=true
    hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds=5000

这里有个坑需要注意一下：
    如果hystrix.command.default.execution.timeout.enabled为true,则会有两个执行方法超时的配置,一个就是ribbon的ReadTimeout,一个就是熔断器hystrix的timeoutInMilliseconds, 此时谁的值小谁生效；
    
    如果hystrix.command.default.execution.timeout.enabled为false,则熔断器不进行超时熔断,而是根据ribbon的ReadTimeout抛出的异常而熔断,也就是取决于ribbon的ConnectTimeout,配置的是请求服务的超时时间,除非服务找不到,或者网络原因,这个时间才会生效；
    ribbon.ReadTimeout=6000
    ribbon.ConnectTimeout=3000

## 三、feign的服务降级 ##

feign 默认是支持hystrix的， 但是在Spring cloud Dalston 版本之后就默认关闭了， 因为业务需求不一定要使用；  
所以现在要使用首先得打开他，在yml文件加上如下配置:

feign.hystrix.enabled=true

*  加上配置之后降级方法怎么写呢？

@FeignClient(value="SPRINGCLOUD-SERVICE-GOODS", fallback = GoodsRemoteClientFallBack.class)
    public interface GoodsRemoteClient {
        
    
        /**
         * 声明一个feign的接口，它的实现是服务提供者的controller实现
         *
         * @return
         */
        @RequestMapping("/service/goods")
        public ResultObject goods();
    }

*  在feign客户端的注解上 有个属性叫fallback 然后指向一个类

@Component
    public class GoodsRemoteClientFallBack implements GoodsRemoteClient {
        
    
        @Override
        public ResultObject goods() {
        
            return new ResultObject(Constant.ONE,"feign服务调用降级");
        }
    }

如此方法降级便可以了；

*  当然如果需要拿到具体的服务错误信息，那么可以这样:  
    客户端指定一个fallbackFactory即可；

@FeignClient(value="34-SPRINGCLOUD-SERVICE-GOODS", fallbackFactory = GoodsRemoteClientFallBackFactory.class)
    public interface GoodsRemoteClient {
        
    
        /**
         * 声明一个feign的接口，它的实现是服务提供者的controller实现
         *
         * @return
         */
        @RequestMapping("/service/goods")
        public ResultObject goods();
    }
    @Component
    public class GoodsRemoteClientFallBackFactory implements FallbackFactory<GoodsRemoteClient> {
        
    
        @Override
        public GoodsRemoteClient create(Throwable throwable) {
        
            return new GoodsRemoteClient() {
        
                @Override
                public ResultObject goods() {
        
                    String message = throwable.getMessage();
                    //这个message 就是错误信息，至此，就完成了feign与hystrix的整合；
                    System.out.println("feign远程调用异常：" + message);
                    return new ResultObject();
                }
            };
        }
    }

hystrix相关配置:  
可以参考这个博客 [https://blog.csdn.net/Leon\_Jinhai\_Sun/article/details/114147362][https_blog.csdn.net_Leon_Jinhai_Sun_article_details_114147362]

[https_github.com_resilience4j_resilience4j]: https://github.com/resilience4j/resilience4j
[eba237a9c712448086b96404402729aa.png]: https://img-blog.csdnimg.cn/eba237a9c712448086b96404402729aa.png
[https_blog.csdn.net_Leon_Jinhai_Sun_article_details_114147362]: https://blog.csdn.net/Leon_Jinhai_Sun/article/details/114147362