【Spring Cloud】之 Hystrix

我会带着你远行 2022-12-13 14:15 185阅读 0赞

# 一、Hystrix 简介 #

--------------------

### 分布式面临的问题 ###

复杂的分布式体系结构中的应用程序有数十个依赖关系，每个依赖关系在某些时候将不可避免地失败：

![在这里插入图片描述][20201012121927787.png_pic_center]

**服务雪崩**

多个微服务之间调用的时候，假设微服务A调用微服务B和微服务C，微服务B和微服务C又调用其它的微服务，这就是所谓的“**扇出**”，调用路径相当于一个扇形。如果扇出的链路上某个微服务的调用响应时间过长或者不可用，对微服务A的调用就会占用越来越多的系统资源，进而引起系统崩溃，这就是所谓的“**雪崩效应**”。

对于高流量的应用来说，单一的后端依赖可能会导致所有服务器上的所有资源都在几秒钟内饱和。比失败更糟糕的是，这些应用程序还可能导致服务之间的延迟增加，备份队列、线程和其它系统资源紧张，导致整个系统发生更多的级联故障。这些都是需要对故障和延迟进行隔离和管理，以便单个依赖关系的失败，不能取消整个应用程序或系统。

所以，通常当你发现一个模块下的某个实例失败以后，这时候这个模块依然还会接收流量，然后这个有问题的模块还调用了其它的模块，这样就会发生级联故障，或者叫雪崩。

### 什么是 Hystrix ###

Hystrix 是一个用于处理分布式系统的**延迟**和**容错**的开源库，在分布式系统里，许多依赖不可避免的会调用失败，比如超时、异常等，而 Hystrix 能够保证在一个依赖出问题的情况下，**不会导致整体服务失败，避免级联故障，以提高分布式系统的弹性**。

**断路器**本身是一种开关装置，当某个服务单元法伤故障之后，通过断路器的故障监控（类似熔断保险丝），**向调用方返回一个符合预期的、可处理的备选响应（FallBack），而不是长时间的等待或者抛出调用方无法处理的异常**，这样就保证了服务调用方的线程不会被长时间、不必要地占用，从而避免了故障在分布式系统中的蔓延，乃至雪崩。

### Hystrix 的作用 ###

Hystrix 主要提供一下三种功能：

*  **服务降级**：服务器忙，请稍后再试，不让客户端等待并立刻返回一个友好提示，fallback。可能出现降级的情况有：
    
     *  程序运行异常
     *  超时
     *  服务熔断触发服务降级
     *  线程池/信号量也会导致服务降级
 *  **服务熔断**：类比保险丝，达到最大服务访问后，直接拒绝访问，拉闸限电，然后调用服务降级的方法并返回友好提示，整个流程为：服务的降级 -> 进而熔断 -> 恢复调用链路
 *  **服务限流**：秒杀高并发等操作，严禁一窝蜂的过来拥挤，大家排队，一秒钟N个，有序进行

更多详情可以参考官网资料：[https://github.com/Netflix/hystrix/wiki][https_github.com_Netflix_hystrix_wiki]

但遗憾的是，Hystrix 官网宣布，停更进维：[https://github.com/Netflix/hystrix][https_github.com_Netflix_hystrix]，即被动修复bugs、不再接受合并请求、不再发布新版本

# 二、Hystrix 应用 #

--------------------

### 整合 Hystrix ###

引入依赖包：

<dependency>
        <groupId>org.springframework.cloud</groupId>
        <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
    </dependency>

### 服务降级 ###

服务降级主要是通过 `@HystrixCommand` 注解来实现的，比如，在生产者的支付服务的 Service 层中使用如下：

@Service
    public class PaymentService{ 
        // 测试超时接口
        @HystrixCommand(fallbackMethod = "paymentInfo_TimeOutHandler", 
                        commandProperties = {  @HystrixProperty(name="execution.isolation.thread.timeoutInMilliseconds",value="5000") } )
        public String paymentInfo_TimeOut(Integer id) { 
            try {  
                TimeUnit.MILLISECONDS.sleep(3000); 
            } catch (InterruptedException e) {  
                e.printStackTrace(); 
            }
            return "线程池: "+Thread.currentThread().getName()+" id: "+id+"\t"+" 耗时(秒): ";
        }
        
        // 超时回调函数
        public String paymentInfo_TimeOutHandler(Integer id)
        { 
            return "线程池: "+Thread.currentThread().getName()+" 8001系统繁忙或者运行报错，请稍后再试,id: "+id;
        }

这里我们模拟了服务调用超时的场景，使用 `@HystrixCommand` 注解修饰 paymentInfo\_TimeOut() 方法，commandProperties 属性值指定了服务降级的触发类型为调用超时，超时时间设置为 5 秒，fallbackMethod 属性值指定了触发服务降级时将调用的 fallback 方法，所以，一旦调用 paymentInfo\_TimeOut() 方法超过 5 秒将触发服务降级并执行指定的 paymentInfo\_TimeOutHandler() 方法。

对于提供接口的生产者服务，需要在主启动类中添加 `@EnableCircuitBreaker` 注解表示激活服务降级功能：

@EnableCircuitBreaker
    public class PaymentHystrixMain { 
        public static void main(String[] args) { 
                SpringApplication.run(PaymentHystrixMain.class, args);
        }
    }

对于调用接口的消费者来说，未来更好的保护自己，也进行配置客户端的降级保护，并且除了引入 hystrix 相关的依赖包之外还需要修改 YAML 配置文件：

# 对 feign 的调用开启 hystrix
    feign:
      hystrix:
        enabled: true

并且在主启动类中添加 `@EnableHystrix` 注解：

@EnableHystrix
    public class OrderHystrixMain { 
        public static void main(String[] args) { 
            SpringApplication.run(OrderHystrixMain.class,args);
        }
    }

在业务层中同时使用 `@HystrixCommand` 进行服务降级设置：

@RestController
    @DefaultProperties(defaultFallback = "payment_Global_FallbackMethod")
    public class OrderHystirxController { 
        @Resource
        private PaymentHystrixService paymentHystrixService;
    
        // 指定了触发降级时调用的 fallback 方法
        @GetMapping("/consumer/payment/hystrix/timeout/{id}")
        @HystrixCommand(fallbackMethod = "paymentTimeOutFallbackMethod",
                        commandProperties = {  @HystrixProperty(name="execution.isolation.thread.timeoutInMilliseconds",value="1500") })
        public String paymentInfo_TimeOut(@PathVariable("id") Integer id)
        { 
            String result = paymentHystrixService.paymentInfo_TimeOut(id);
            return result;
        }
        
        // 特定的服务降级 fallback 方法
        public String paymentTimeOutFallbackMethod(@PathVariable("id") Integer id)
        { 
            return "我是消费者,对方支付系统繁忙请10秒钟后再试或者自己运行出错请检查自己";
        }
        
        // 没有指定 fallback 方法则使用默认的全局 fallback 方法
        @GetMapping("/consumer/payment/hystrix/timeout2/{id}")
        @HystrixCommand 
        public String paymentInfo_timeout2(@PathVariable("id") Integer id)
        { 
            String result = paymentHystrixService.paymentInfo_timeout2(id);
            return result;
        }
    
        // 默认全局 fallback 方法
        public String payment_Global_FallbackMethod()
        { 
            return "Global异常处理信息，请稍后再试";
        }
    }

这里我们还额外添加了 `@DefaultProperties` 注解，这个注解指定的了默认的全局 fallback 方法，也就是说，如果 `@HystrixCommand` 注解没有指定 fallback 方法则使用默认的 fallback 方法。这样就避免了每个业务方法都要写一个对应的 fallback 方法而导致代码膨胀，所以，只需特定的业务方法写特定的 fallback 方法即可，其它则使用统一的 fallback 方法。

**服务降级 feignFallback**

当我们消费者通过 FeignClient 客户端去调用远程微服务接口时也会出错，比如目标服务宕机或关闭了，所以也需要在 FeignClient 客户端中添加对应的服务降级的 fallback 方法：

@Component
    @FeignClient(value = "CLOUD-PROVIDER-HYSTRIX-PAYMENT", fallback = PaymentFallbackService.class)
    public interface PaymentHystrixService { 
        @GetMapping("/payment/hystrix/ok/{id}")
        public String paymentInfo_OK(@PathVariable("id") Integer id);
    
        @GetMapping("/payment/hystrix/timeout/{id}")
        public String paymentInfo_TimeOut(@PathVariable("id") Integer id);
    }

在 `@FeignClient` 注解中，我们通过 fallback 属性值指定了接口调用出错时的回调，该回调为一个实现了所有接口方法的类：

@Component
    public class PaymentFallbackService implements PaymentHystrixService { 
        @Override
        public String paymentInfo_OK(Integer id) { 
            return "PaymentFallbackService fall back-paymentInfo_OK";
        }
    
        @Override
        public String paymentInfo_TimeOut(Integer id) { 
            return "PaymentFallbackService fall back-paymentInfo_TimeOut";
        }
    }

这样，当某个调用接口出错掉调用对应的处理方法。当然不要忘记开启 hytrix ：

feign:
      hystrix:
        enabled: true

### 服务熔断 ###

熔断机制是应对雪崩效应的一种微服务链路保护机制，当扇出链路的某个服务出错不可用或相应时间太长时，会进行服务的降级，进而熔断该节点微服务的调用，快速返回错误的相应信息。但**当检测到该节点微服务调用相应正常后，恢复调用链路**。

在 Spring Cloud 框架中，熔断机制通过 Hystrix 实现的。Hystrix 会监控微服务间调用的状况，当失败的调用到一定阈值，缺省是5秒内20次调用失败，就会启动熔断机制，熔断机制的使用的也是 `@HystrixCommand` 注解。

更多关于熔断的说明可以参考大神的论文：[https://martinfowler.com/bliki/CircuitBreaker.html][https_martinfowler.com_bliki_CircuitBreaker.html]

下面为服务熔断的一个使用实例：

@Service
    public class PaymentService { 
        // 服务熔断
        @HystrixCommand(fallbackMethod = "paymentCircuitBreaker_fallback", commandProperties = { 
                @HystrixProperty(name = "circuitBreaker.enabled",value = "true"),// 是否开启断路器
                @HystrixProperty(name = "circuitBreaker.requestVolumeThreshold",value = "10"),// 请求次数
                @HystrixProperty(name = "circuitBreaker.sleepWindowInMilliseconds",value = "10000"), // 时间窗口期
                @HystrixProperty(name = "circuitBreaker.errorThresholdPercentage",value = "60"),// 失败率达到多少后跳闸
        })
        public String paymentCircuitBreaker(@PathVariable("id") Integer id)
        { 
            if(id < 0)
            { 
                throw new RuntimeException("------ id 不能负数 ------");
            }
            String serialNumber = IdUtil.simpleUUID();
    
            return Thread.currentThread().getName()+"\t"+"调用成功，流水号: " + serialNumber;
        }
        
        // 熔断服务降级 fallback 方法
        public String paymentCircuitBreaker_fallback(@PathVariable("id") Integer id)
        { 
            return "id 不能负数，请稍后再试， id: " +id;
        }
    
    }

熔断服务的这些参数是根据[官网][Link 1]上要求的步骤进行配置的：

The precise way that the circuit opening and closing occurs is as follows:
    
        1. Assuming the volume across a circuit meets a certain threshold (`HystrixCommandProperties.circuitBreakerRequestVolumeThreshold()`)...
        2. And assuming that the error percentage exceeds the threshold error percentage (`HystrixCommandProperties.circuitBreakerErrorThresholdPercentage()`)...
        3. Then the circuit-breaker transitions from `CLOSED` to `OPEN`.
        4. While it is open, it short-circuits all requests made against that circuit-breaker.
        5. After some amount of time (`HystrixCommandProperties.circuitBreakerSleepWindowInMilliseconds()`), the next single request is let through (this is the `HALF-OPEN` state). If the request fails, the circuit-breaker returns to the `OPEN` state for the duration of the sleep window. If the request succeeds, the circuit-breaker transitions to `CLOSED` and the logic in **1.** takes over again.

**熔断原理**

原理如图所示：

![在这里插入图片描述][20201012121954178.png_pic_center]

熔断类型分为如下三种：

*  熔断打开：请求不再调用当前服务，内部设置一般为 MTTR（平均故障处理时间），当打开长达到所设置的时间则进入半熔断状态
 *  熔断关闭：熔断关闭后不会对服务进行熔断
 *  熔断半开：部分请求根据规则调用当前服务，如果请求成功且符合规则则认为当前服务恢复正常，关闭熔断

断路器起作用的场景：

// 服务熔断
    @HystrixCommand(fallbackMethod = "paymentCircuitBreaker_fallback", commandProperties = { 
        @HystrixProperty(name = "circuitBreaker.enabled",value = "true"),// 是否开启断路器
        @HystrixProperty(name = "circuitBreaker.requestVolumeThreshold",value = "10"),// 请求次数
        @HystrixProperty(name = "circuitBreaker.sleepWindowInMilliseconds",value = "10000"), // 时间窗口期
        @HystrixProperty(name = "circuitBreaker.errorThresholdPercentage",value = "60"),// 失败率达到多少后跳闸
    })

从 `@HystrixCommand` 注解的开启熔断条件可知，涉及断路器的三个重要参数为：**快照时间窗、请求总数阈值、错误百分比阈值**：

1.  快照时间窗：断路器确定是否打开需要统计的一些请求和错误数据，而统计的时间范围就是快照时间窗，默认为最近的10秒；
2.  请求总数阈值：在快照时间窗内，必须满足请求总数阈值才有资格熔断，默认为20，意味着在10秒内，如果 Hystrix 命令的调用次数不足20次，即使所有的请求都超时或其他原因失败，断路器都不会打开。
3.  错误百分比阈值：当请求总数在快照时间窗内超过了阈值，比如发生了30次调用，如果在这30次调用中，有15次发生了超时异常，也就是超过50%的错误百分比，在默认设置50%阈值情况下，这时候就会将断路器打开。

所以断路器开启或者关闭的条件为：

*  当满足一定的阈值的时候（默认10秒钟超过20个请求次数）
 *  当失败率达到一定的时候（默认10秒内超过50%的请求次数）
 *  到达以上阈值，断路器将会开启
 *  当断路器开启的时候，所有请求都不会进行转发，一段时间之后（默认5秒），这个时候断路器是半开状态，会让其他一个请求进行转发，如果成功，断路器会关闭，若失败，继续开启，重复4到5次

当断路器打开后：

1：再有请求调用的时候，将不会调用主逻辑，而是直接调用降级 fallback。通过断路器，实现了自动地发现错误并将降级逻辑切换为主逻辑，减少响应延迟的效果。

2：原来的主逻辑如果恢复呢？

对于这一问题，hystrix 也为我们实现了自动恢复功能：当断路器打开，对主逻辑进行熔断之后，hystrix 会启动一个休眠时间窗，在这个时间窗内，降级逻辑是临时的成为主逻辑；当休眠时间窗到期，断路器进进入半开状态，释放一次请求到原来的主逻辑上，如果此次请求正常返回，那么断路器将继续闭合，主逻辑恢复，如果此次请求依然有问题，断路器继续进入打开状态，休眠时间窗重新计时。

Hystrix 工作流程图如下：

![在这里插入图片描述][20201012122007731.png_pic_center]

# 三、服务监控 hystrixDashboard #

--------------------

### hystrixDashboard 概述 ###

除了隔离依赖服务的调用意外，Hystrix 还提过了 **准实时的调用监控（Hystrix Dashboard）**，Hystrix 会持续地记录所有通过 Hystrix 发起的请求的执行信息，并以统计报表和图形的形式展示给用户，包括每秒执行多少次请求，多少成功，多少失败等。Netflix 通过 hystrix-metrics-event-stream 项目实现了对以上指标的监控。Spring Cloud 也提供了 Hystrix Dashboard 的整合，对监控内容转化成可视化界面。

#### 整合 hystrixDashboard ####

1、创建用于 hystrixDashboard 监控的微服务

2、引入依赖：

<dependency>
        <groupId>org.springframework.cloud</groupId>
        <artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
    </dependency>

3、主启动类中添加 `@EnableHystrixDashboard` 注解：

@SpringBootApplication
    @EnableHystrixDashboard
    public class HystrixDashboardMain { 
        public static void main(String[] args) { 
                SpringApplication.run(HystrixDashboardMain.class, args);
        }
    }

4、所有需要被监控的微服务都要引入监控部署依赖：

<dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-actuator</artifactId>
    </dependency>

并在 YAML 文件中配置访问监控点：

management:
      endpoints:
        web:
          exposure:
            include: '*'

注意：新版本 Hystrix 需要在主启动类中指定监控路径

public class PaymentHystrixMain
    { 
        public static void main(String[] args) { 
                SpringApplication.run(PaymentHystrixMain.class, args);
        }
    
        /** *此配置是为了服务监控而配置，与服务容错本身无关，springcloud升级后的坑 *ServletRegistrationBean因为springboot的默认路径不是"/hystrix.stream"， *只要在自己的项目里配置上下面的servlet就可以了 */
        @Bean
        public ServletRegistrationBean getServlet() { 
            HystrixMetricsStreamServlet streamServlet = new HystrixMetricsStreamServlet();
            ServletRegistrationBean registrationBean = new ServletRegistrationBean(streamServlet);
            registrationBean.setLoadOnStartup(1);
            registrationBean.addUrlMappings("/hystrix.stream");
            registrationBean.setName("HystrixMetricsStreamServlet");
            return registrationBean;
        }
    }

启动监控微服务，成功启动好监控的访问地址为 IP + 端口 + hystrix，比如：http://localhost:9001/hystrix。然后在监控页面填写要监控的服务地址，比如：http://localhost:8001/hystrix.stream

[20201012121927787.png_pic_center]: /images/20221123/e6469442c46f424db1736f34fdaadada.png
[https_github.com_Netflix_hystrix_wiki]: https://github.com/Netflix/hystrix/wiki
[https_github.com_Netflix_hystrix]: https://github.com/Netflix/hystrix
[https_martinfowler.com_bliki_CircuitBreaker.html]: https://martinfowler.com/bliki/CircuitBreaker.html
[Link 1]: https://github.com/Netflix/Hystrix/wiki/How-it-Works
[20201012121954178.png_pic_center]: /images/20221123/4ad9b17ab2a04847b0b828ea26e03c8b.png
[20201012122007731.png_pic_center]: /images/20221123/1e86923eb0ab4497b65a08226ec8176c.png