服务熔断之Google SRE弹性熔断算法

逃离我推掉我的手 2022-12-25 11:52 272阅读 0赞

### 一、熔断介绍 ###

在分布式系统中，一次完整的请求可能需要经过多个服务模块的调用，请求在多个服务中传递，服务对服务的调用会产生新的请求，这些请求共同组成了这次请求的调用链。当调用链中的某个环节，特别是下游服务不可用时，将会导致上游服务调用方不可用，最终将这种不可用的影响扩大到整个系统，导致整个分布式的不可用，引起服务雪崩现象。

为了避免这种情况，在下游服务不可用时，保护上游服务的可用性显得极其重要。对此我们可以通过熔断的方式，通过及时熔断服务调用方和服务提供方的调用链，保护服务调用方资源，防止服务雪崩现象的出现。

使用服务熔断，能够有效地保护服务调用方的稳定性，它能够避免服务调用者频繁调用可能失败的服务提供者，防止服务调用者浪费cpu、线程和IO资源等，提高服务整体的可用性。

所以，熔断设计的目的是在服务提供方不可用时保护服务调用方的资源，减少服务调用中无用的远程调用。

### 二、Google SRE弹性熔断算法 ###

断路器模式可参考：[https://skaygo.blog.csdn.net/article/details/110442898][https_skaygo.blog.csdn.net_article_details_110442898]

断路器模式中，当断路器开启之后会拒绝一段时间(由配置决定)，这段休眠期过后，熔断器处于半开状态，在此状态下将试探性的放过一部分流量，如果这部分流量调用成功后，再次将熔断器关闭，否则熔断器继续保持开启并进入下一轮休眠周期。

断路器模式算法有一个问题，就是过于一刀切。Google SRE中提出了弹性熔断的算法。称之为 Handling Overload ，地址：[https://sre.google/sre-book/handling-overload/\#eq2101][https_sre.google_sre-book_handling-overload_eq2101]

现实中，过载是极易发生的异常状态： 一方面，当客户端检测到最近的请求出现错误都是 “out of quota（配额不足）”，说明可能这个客户端超过了资源配额，后端任务会快速拒绝请求，返回 “配额不足” 的错误，有可能后端忙着不停发送拒绝请求，导致过载； 另一方面，当依赖的资源出现大量错误，处于对下游的保护，也需要在客户端本地进行限流操作

解决的办法就是客户端自行限制请求速度，限制生成请求的数量, 超过这个数量的请求直接在本地回复失败，而不会真是发送到服务端。

自适应限制的技术来实现客户端限制。具体来说，每个客户端任务在其历史记录的最后两分钟中都会保留以下信息：

requests: 客户端尝试的请求数

accepts：后端接受的请求数(客户端发送的请求数-后端拒绝的请求数量)

在正常情况下，两个值相等。随着后端开始拒绝流量，的数量accepts变得小于的数量requests。客户可以继续向后端发出请求，直到它requests是的K倍accepts。一旦达到该临界值，客户端就开始自我调节，并以客户端请求拒绝概率中计算出的概率在本地（即，在客户端）拒绝新请求。

客户请求被拒绝的可能性

![20201201181543482.png][]

当客户端本身开始拒绝请求时，requests将继续超过accepts。尽管看起来似乎违反直觉，但鉴于本地拒绝的请求实际上并未传播到后端，所以这是首选的行为。随着应用程序尝试向客户端发出请求的速率增加（相对于后端接受请求的速率），我们希望增加丢弃新请求的可能性。

对于处理请求的成本与拒绝该请求的成本非常接近的服务，拒绝的请求消耗大约一半的后端资源可能是不可接受的。在这种情况下，解决方案很简单：修改客户请求拒绝概率（客户请求拒绝概率）中的接受乘数K（例如2 ）。通过这种方式：

减少乘数将使自适应节流行为更加主动

增加乘数将使自适应节流行为不那么主动

### 三、Google SRE弹性熔断实现 ###

b站微服务框架kratos

[https://github.com/go-kratos/kratos/tree/master/pkg/net/netutil/breaker][https_github.com_go-kratos_kratos_tree_master_pkg_net_netutil_breaker]

go-zero微服务框架

[https://github.com/tal-tech/go-zero/tree/master/core/breaker][https_github.com_tal-tech_go-zero_tree_master_core_breaker]

推荐以下课程进行详细学习Go微服务，可以微信扫描进行学习

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NraDIwMTVqYXZh_size_16_color_FFFFFF_t_70][]

[https_skaygo.blog.csdn.net_article_details_110442898]: https://skaygo.blog.csdn.net/article/details/110442898
[https_sre.google_sre-book_handling-overload_eq2101]: https://sre.google/sre-book/handling-overload/#eq2101
[20201201181543482.png]: /images/20221120/f220aa1162e643c288ccdc3d5794e1fb.png
[https_github.com_go-kratos_kratos_tree_master_pkg_net_netutil_breaker]: https://github.com/go-kratos/kratos/tree/master/pkg/net/netutil/breaker
[https_github.com_tal-tech_go-zero_tree_master_core_breaker]: https://github.com/tal-tech/go-zero/tree/master/core/breaker
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3NraDIwMTVqYXZh_size_16_color_FFFFFF_t_70]: /images/20221120/fdc7755a8da94184be777125c416ec69.png