阿里中间件Sentinel 关于限流和降级

布满荆棘的人生 2022-10-15 06:53 164阅读 0赞

原文链接：

*  [技术选型：Sentinel vs Hystrix][Sentinel vs Hystrix]
 *  [Hystrix之外健壮微服务的新选择：Sentinel 发布首个生产版本][Hystrix_Sentinel]

文集链接：[微服务][Link 1]

--------------------

Sentinel 是阿里中间件团队研发的面向分布式服务架构的轻量级高可用流量控制组件，于今年7月正式开源。  
Sentinel 主要以流量为切入点，从**流量控制**、**熔断降级**、**系统负载保护**等多个维度来帮助用户提升服务的稳定性。

大家可能会问：Sentinel 和之前经常用到的熔断降级库 Netflix Hystrix 有什么异同呢？本文将从资源模型和执行模型、隔离设计、熔断降级、实时指标统计设计等角度将 Sentinel 和 Hystrix 进行对比。

## 总体说明 ##

关于 Hystrix，可以参见 [Spring Cloud 学习笔记 - No.4 断路器 Hystrix][Spring Cloud _ - No.4 _ Hystrix]

Hystrix 的关注点在于以 **隔离** 和 **熔断** 为主的容错机制，超时或被熔断的调用将会快速失败，并可以提供 fallback 机制。

而 Sentinel 的侧重点在于：

*  多样化的流量控制
 *  熔断降级
 *  系统负载保护
 *  实时监控和控制台

## 共同特性 ##

### 1、资源模型和执行模型上的对比 ###

**Hystrix 的资源模型设计上采用了命令模式，将对外部资源的调用和 fallback 逻辑封装成一个命令对象（HystrixCommand/ HystrixObservableCommand），其底层的执行是基于 RxJava 实现的。**  
每个 Command 创建时都要指定 commandKey 和 groupKey（用于区分资源）以及对应的隔离策略（线程池隔离 or 信号量隔离）。

*  线程池隔离模式下需要配置线程池对应的参数（线程池名称、容量、排队超时等），然后 Command 就会在指定的线程池按照指定的容错策略执行；
 *  信号量隔离模式下需要配置最大并发数，执行 Command 时 Hystrix 就会限制其并发调用。

> 而 Sentinel 则不一样，开发的时候只需要考虑这个方法/代码是否需要保护，置于用什么来保护，可以任何时候动态实时的修改。

从 0.1.1 版本开始，Sentinel 还支持基于注解的资源定义方式，可以通过注解参数指定异常处理函数和 fallback 函数。

### 2、隔离设计上的对比 ###

隔离是 Hystrix 的核心功能之一。**Hystrix 提供两种隔离策略：线程池隔离（Bulkhead Pattern）和信号量隔离，**其中最推荐也是最常用的是线程池隔离。  
Hystrix 的线程池隔离针对不同的资源分别创建不同的线程池，不同服务调用都发生在不同的线程池中，在线程池排队、超时等阻塞情况时可以快速失败，并可以提供 fallback 机制。线程池隔离的好处是隔离度比较高，可以针对某个资源的线程池去进行处理而不影响其它资源，**但是代价就是线程上下文切换的 overhead 比较大，特别是对低延时的调用有比较大的影响。**

**但是，实际情况下，线程池隔离并没有带来非常多的好处**。最直接的影响，就是会让机器资源碎片化。

Hystrix 的信号量隔离限制对某个资源调用的并发数。这样的隔离非常轻量级，仅限制对某个资源调用的并发数，而不是显式地去创建线程池，所以 overhead 比较小，但是效果不错。**但缺点是无法对慢调用自动进行降级，只能等待客户端自己超时，因此仍然可能会出现级联阻塞的情况。**

> Sentinel 可以通过**并发线程数模式的流量控制**来提供信号量隔离的功能。并且结合基于响应时间的熔断降级模式，可以在不稳定资源的平均响应时间比较高的时候自动降级，防止过多的慢调用占满并发数，影响整个系统。

### 3、熔断降级的对比 ###

Sentinel 和 Hystrix 的熔断降级功能本质上都是基于熔断器模式（Circuit Breaker Pattern）。  
Sentinel 与 Hystrix 都支持基于失败比率（异常比率）的熔断降级，在调用达到一定量级并且失败比率达到设定的阈值时自动进行熔断，此时所有对该资源的调用都会被 block，直到过了指定的时间窗口后才启发性地恢复。

上面提到过，**Sentinel 还支持基于平均响应时间的熔断降级，可以在服务响应时间持续飙高的时候自动熔断，拒绝掉更多的请求，直到一段时间后才恢复。这样可以防止调用非常慢造成级联阻塞的情况。**

### 4、实时指标统计实现的对比 ###

Hystrix 和 Sentinel 的实时指标数据统计实现都是基于滑动窗口的。

> Sentinel 目前抽象出了 Metric 指标统计接口，底层可以有不同的实现，目前默认的实现是基于 LeapArray 的滑动窗口，后续根据需要可能会引入 reactive stream 等实现。

## Sentinel 特性 ##

### 1、轻量级、高性能 ###

Sentinel 作为一个功能完备的高可用流量管控组件，其核心 sentinel-core 没有任何多余依赖，打包后只有不到 200 KB，非常轻量级。

引入 Sentinel 带来的性能损耗非常小。只有在业务单机量级超过 25W QPS 的时候才会有一些显著的影响（5% - 10% 左右），单机 QPS 不太大的时候损耗几乎可以忽略不计。

### 2、流量控制 ###

Sentinel 可以针对不同的调用关系，以不同的运行指标（如 QPS、并发调用数、系统负载等）为基准，对资源调用进行流量控制，将随机的请求调整成合适的形状。

Sentinel 支持多样化的流量整形策略，在 QPS 过高的时候可以自动将流量调整成合适的形状。常用的有：

*  **直接拒绝模式**：即超出的请求直接拒绝。
 *  **慢启动预热模式**：当流量激增的时候，控制流量通过的速率，让通过的流量缓慢增加，在一定时间内逐渐增加到阈值上限，给冷系统一个预热的时间，避免冷系统被压垮。
    
    ![fa85d1e0f7bdfc3099034c82be4e346c.gif][]
    
    慢启动预热模式
 *  **匀速器模式**：利用 Leaky Bucket 算法实现的匀速模式，严格控制了请求通过的时间间隔，同时堆积的请求将会排队，超过超时时长的请求直接被拒绝。Sentinel 还支持基于调用关系的限流，包括基于调用方限流、基于调用链入口限流、关联流量限流等，依托于 Sentinel 强大的调用链路统计信息，可以提供精准的不同维度的限流。
    
    ![d0e85a4b89c7d217443cb1ca9b56cb53.png][]
    
    匀速器模式

### 3、系统负载保护 ###

Sentinel 对系统的维度提供保护，负载保护算法借鉴了 TCP BBR 的思想。当系统负载较高的时候，如果仍持续让请求进入，可能会导致系统崩溃，无法响应。在集群环境下，网络负载均衡会把本应这台机器承载的流量转发到其它的机器上去。如果这个时候其它的机器也处在一个边缘状态的时候，这个增加的流量就会导致这台机器也崩溃，最后导致整个集群不可用。针对这个情况，Sentinel 提供了对应的保护机制，让系统的入口流量和系统的负载达到一个平衡，保证系统在能力范围之内处理最多的请求。

### 4、实时监控和控制面板 ###

Sentinel 提供 HTTP API 用于获取实时的监控信息，如调用链路统计信息、簇点信息、规则信息等。如果用户正在使用 Spring Boot/Spring Cloud 并使用了 Sentinel Spring Cloud Starter，还可以方便地通过其暴露的 Actuator Endpoint 来获取运行时的一些信息，如动态规则等。未来 Sentinel 还会支持标准化的指标监控 API，可以方便地整合各种监控系统和可视化系统，如 Prometheus、Grafana 等。

Sentinel 控制台（Dashboard）提供了机器发现、配置规则、查看实时监控、查看调用链路信息等功能，使得用户可以非常方便地去查看监控和进行配置。

![b1fc3a9b74e8847f2c10fd3b2cbd2e5b.png][]

Sentinel 控制台（Dashboard）

### 5、生态 ###

Sentinel 目前已经针对 Servlet、Dubbo、Spring Boot/Spring Cloud、gRPC 等进行了适配，用户只需引入相应依赖并进行简单配置即可非常方便地享受 Sentinel 的高可用流量防护能力。未来 Sentinel 还会对更多常用框架进行适配，并且会为 Service Mesh 提供集群流量防护的能力。

## 总结 ##

![3e82adb1d649bd62b6c4c4097e4b8ad0.png][]

Hystrix vs Sentinel

## Sentinel 发布首个生产版本 ##

Github 地址：

*  [https://github.com/alibaba/Sentinel][https_github.com_alibaba_Sentinel]
 *  中文：[https://github.com/alibaba/Sentinel/wiki/%E4%BB%8B%E7%BB%8D][https_github.com_alibaba_Sentinel_wiki_E4_BB_8B_E7_BB_8D]
    
    ![2b6cb169ae83c8cbc940a6049eb93b24.png][]
    
    Sentinel 生态

[Sentinel vs Hystrix]: http://jm.taobao.org/2018/10/30/%E6%8A%80%E6%9C%AF%E9%80%89%E5%9E%8B%EF%BC%9ASentinel-vs-Hystrix/
[Hystrix_Sentinel]: http://jm.taobao.org/2018/11/05/Hystrix%E4%B9%8B%E5%A4%96%E5%81%A5%E5%A3%AE%E5%BE%AE%E6%9C%8D%E5%8A%A1%E7%9A%84%E6%96%B0%E9%80%89%E6%8B%A9/
[Link 1]: https://www.jianshu.com/nb/31162581
[Spring Cloud _ - No.4 _ Hystrix]: https://www.jianshu.com/p/1cf4d518cce3
[fa85d1e0f7bdfc3099034c82be4e346c.gif]: /images/20221014/a05bdd1269564fb88e4a5014da23db38.png
[d0e85a4b89c7d217443cb1ca9b56cb53.png]: /images/20221014/9b30fc33a2f148f9b5d3db068ab92c46.png
[b1fc3a9b74e8847f2c10fd3b2cbd2e5b.png]: /images/20221014/e8a998cba00d43b0be2e0cc6c30e930c.png
[3e82adb1d649bd62b6c4c4097e4b8ad0.png]: /images/20221014/ec7bb47b37a44e63a9785c0b84b9ba58.png
[https_github.com_alibaba_Sentinel]: https://github.com/alibaba/Sentinel
[https_github.com_alibaba_Sentinel_wiki_E4_BB_8B_E7_BB_8D]: https://github.com/alibaba/Sentinel/wiki/%E4%BB%8B%E7%BB%8D
[2b6cb169ae83c8cbc940a6049eb93b24.png]: /images/20221014/2d6384b469324f74b814d4105f1259cc.png