微服务保护：一、初识Sentinel

喜欢ヅ旅行 2023-10-04 20:51 34阅读 0赞

### 1.1.雪崩问题及解决方案 ###

#### 1.1.1.雪崩问题 ####

微服务中，服务间调用关系错综复杂，一个微服务往往依赖于多个其它微服务。

![在这里插入图片描述][4b61a08d8409420bafb69d263d5a5464.png]

如图，如果服务提供者I发生了故障，当前的应用的部分业务因为依赖于服务I，因此也会被阻塞。此时，其它不依赖于服务I的业务似乎不受影响。

![\[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-CtzSfjkc-1675665831608)(assets/1533829198240.png)\]][img-CtzSfjkc-1675665831608_assets_1533829198240.png]

但是，依赖服务I的业务请求被阻塞，用户不会得到响应，则tomcat的这个线程不会释放，于是越来越多的用户请求到来，越来越多的线程会阻塞：

![\[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-B5ALa7IA-1675665831611)(assets/1533829307389.png)\]][img-B5ALa7IA-1675665831611_assets_1533829307389.png]

服务器支持的线程和并发数有限，请求一直阻塞，会导致服务器资源耗尽，从而导致所有其它服务都不可用，那么当前服务也就不可用了。

那么，依赖于当前服务的其它服务随着时间的推移，最终也都会变的不可用，形成级联失败，雪崩就发生了：

![在这里插入图片描述][74084fe26ffb467ab38dd19aeff92eb6.png]

#### 1.1.2.超时处理 ####

解决雪崩问题的常见方式有四种：

• 超时处理：设定超时时间，请求超过一定时间没有响应就返回错误信息，不会无休止等待

![在这里插入图片描述][f286aba037fc476c93b065396daa4ba6.png]

#### 1.1.3.仓壁模式 ####

方案2：仓壁模式

仓壁模式来源于船舱的设计：

![\[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-xXhyso4O-1675665831619)(assets/image-20210715172946352.png)\]][img-xXhyso4O-1675665831619_assets_image-20210715172946352.png]

船舱都会被隔板分离为多个独立空间，当船体破损时，只会导致部分空间进水，将故障控制在一定范围内，避免整个船体都被淹没。

> 比如:泰坦尼克号上有16个防水舱，设计可以保障如果只有4个舱进水，密闭和隔离可以阻止水继续进入下一个防水舱，从而保证船的基本浮力。
> 
> 但是当时冰山从侧面划破了船体，从而导致有5个防水舱同时进水，而为了建造豪华的头等舱大厅，也就是电影里杰克和罗斯约会的地方，5号舱的顶部并未达到密闭所需要的高度，水就一层层进入了船体，隔离的失败导致了泰坦尼克的沉没。

于此类似，我们可以限定每个业务能使用的线程数，避免耗尽整个tomcat的资源，因此也叫线程隔离。

![在这里插入图片描述][eb7735159eaa48688033eb018d4da452.png]

#### 1.1.4.断路器 ####

断路器模式：由**断路器**统计业务执行的异常比例，如果超出阈值则会**熔断**该业务，拦截访问该业务的一切请求。

断路器会统计访问某个服务的请求数量，异常比例：

![\[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-jCC9kVyU-1675665831625)(assets/image-20210715173327075.png)\]][img-jCC9kVyU-1675665831625_assets_image-20210715173327075.png]

当发现访问服务D的请求异常比例过高时，认为服务D有导致雪崩的风险，会拦截访问服务D的一切请求，形成熔断：

![\[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-rOXoRxnf-1675665831629)(assets/image-20210715173428073.png)\]][img-rOXoRxnf-1675665831629_assets_image-20210715173428073.png]

#### 1.1.5.限流 ####

**流量控制**：限制业务访问的QPS，避免服务因流量的突增而故障。

![在这里插入图片描述][8c7e12fc5735480fb7d2264e32a6f2fd.png]

> 可以认为：
> 
> **限流**是对服务的保护，避免因瞬间高并发流量而导致服务故障，进而避免雪崩。是一种**预防**措施。
> 
> **超时处理、线程隔离、降级熔断**是在部分服务故障时，将故障控制在一定范围，避免雪崩。是一种**补救**措施。

### 1.2.服务保护技术对比 ###

在SpringCloud当中支持多种服务保护技术：

*  [Netfix Hystrix][]
 *  [Sentinel][]

早期比较流行的是Hystrix框架，但目前国内实用最广泛的还是阿里巴巴的Sentinel框架，这里我们做下对比：

<table> 
 <thead> 
  <tr> 
   <th></th> 
   <th><strong>Sentinel</strong></th> 
   <th><strong>Hystrix</strong></th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>隔离策略</td> 
   <td>信号量隔离</td> 
   <td>线程池隔离/信号量隔离</td> 
  </tr> 
  <tr> 
   <td>熔断降级策略</td> 
   <td>基于慢调用比例或异常比例</td> 
   <td>基于失败比率</td> 
  </tr> 
  <tr> 
   <td>实时指标实现</td> 
   <td>滑动窗口</td> 
   <td>滑动窗口（基于 RxJava）</td> 
  </tr> 
  <tr> 
   <td>规则配置</td> 
   <td>支持多种数据源</td> 
   <td>支持多种数据源</td> 
  </tr> 
  <tr> 
   <td>扩展性</td> 
   <td>多个扩展点</td> 
   <td>插件的形式</td> 
  </tr> 
  <tr> 
   <td>基于注解的支持</td> 
   <td>支持</td> 
   <td>支持</td> 
  </tr> 
  <tr> 
   <td>限流</td> 
   <td>基于 QPS，支持基于调用关系的限流</td> 
   <td>有限的支持</td> 
  </tr> 
  <tr> 
   <td>流量整形</td> 
   <td>支持慢启动、匀速排队模式</td> 
   <td>不支持</td> 
  </tr> 
  <tr> 
   <td>系统自适应保护</td> 
   <td>支持</td> 
   <td>不支持</td> 
  </tr> 
  <tr> 
   <td>控制台</td> 
   <td>开箱即用，可配置规则、查看秒级监控、机器发现等</td> 
   <td>不完善</td> 
  </tr> 
  <tr> 
   <td>常见框架的适配</td> 
   <td>Servlet、Spring Cloud、Dubbo、gRPC 等</td> 
   <td>Servlet、Spring Cloud Netflix</td> 
  </tr> 
 </tbody> 
</table>

### 1.3.Sentinel介绍和安装 ###

#### 1.3.1.初识Sentinel ####

Sentinel是阿里巴巴开源的一款微服务流量控制组件。官网地址：https://sentinelguard.io/zh-cn/index.html

##### 1.3.1.1 Sentinel 具有以下特征: #####

• **丰富的应用场景**：Sentinel 承接了阿里巴巴近 10 年的双十一大促流量的核心场景，例如秒杀（即突发流量控制在系统容量可以承受的范围）、消息削峰填谷、集群流量控制、实时熔断下游不可用应用等。

• **完备的实时监控**：Sentinel 同时提供实时的监控功能。您可以在控制台中看到接入应用的单台机器秒级数据，甚至 500 台以下规模的集群的汇总运行情况。

• **广泛的开源生态**：Sentinel 提供开箱即用的与其它开源框架/库的整合模块，例如与 Spring Cloud、Dubbo、gRPC 的整合。您只需要引入相应的依赖并进行简单的配置即可快速地接入 Sentinel。

• **完善的** **SPI** **扩展点**：Sentinel 提供简单易用、完善的 SPI 扩展接口。您可以通过实现扩展接口来快速地定制逻辑。例如定制规则管理、适配动态数据源等。

##### 1.3.1.2 Sentinel 基本概念: #####

*  资源:
    
    > 资源是 Sentinel 的关键概念。它可以是 Java 应用程序中的任何内容，例如，由应用程序提供的服务，或由应用程序调用的其它应用提供的服务，甚至可以是一段代码。
    > 
    > 只要通过 Sentinel API 定义的代码，就是资源，能够被 Sentinel 保护起来。大部分情况下，可以使用方法签名，URL，甚至服务名称作为资源名来标示资源。
 *  规则:
    
    > 围绕资源的实时状态设定的规则，可以包括流量控制规则、熔断降级规则以及系统保护规则。所有规则可以动态实时调整。

##### 1.3.1.3 Sentinel 功能 #####

*  ##### 流量控制 #####
    
    流量控制在网络传输中是一个常用的概念，它用于调整网络包的发送数据。然而，从系统稳定性角度考虑，在处理请求的速度上，也有非常多的讲究。任意时间到来的请求往往是随机不可控的，而系统的处理能力是有限的。我们需要根据系统的处理能力对流量进行控制。Sentinel 作为一个调配器，可以根据需要把随机的请求调整成合适的形状，如下图所示：

![在这里插入图片描述][b28801780f4c4eb4bb0bc4b7a8491cdd.png]

流量控制有以下几个角度:

*  资源的调用关系，例如资源的调用链路，资源和资源之间的关系；
 *  运行指标，例如 QPS、线程池、系统负载等；
 *  控制的效果，例如直接限流、冷启动、排队等。
 *  ##### 熔断降级 #####
    
    除了流量控制以外，降低调用链路中的不稳定资源也是 Sentinel 的使命之一。由于调用关系的复杂性，如果调用链路中的某个资源出现了不稳定，最终会导致请求发生堆积。  
    ![在这里插入图片描述][30f06ba631694976bdb6f88a4cd2bbef.png]
    
    当调用链路中某个资源出现不稳定，例如，表现为 timeout，异常比例升高的时候，Sentinel则对这个资源的调用进行限制，并让请求快速失败，避免影响到其它的资源，最终避免产生服务雪崩的效果。
    
    Sentinel 对这个问题采取了两种手段:
    
     *  通过并发线程数进行限制
    
    Sentinel 通过限制资源并发线程的数量，来减少不稳定资源对其它资源的影响。这样不但没有线程切换的损耗，也不需要您预先分配线程池的大小。当某个资源出现不稳定的情况下，例如响应时间变长，对资源的直接影响就是会造成线程数的逐步堆积。当线程数在特定资源上堆积到一定的数量之后，对该资源的新请求就会被拒绝。堆积的线程完成任务后才开始继续接收请求。
    
     *  通过响应时间对资源进行降级
    
    除了对并发线程数进行控制以外，Sentinel 还可以通过响应时间来快速降级不稳定的资源。当依赖的资源出现响应时间过长后，所有对该资源的访问都会被直接拒绝，直到过了指定的时间窗口之后才重新恢复。

#### 1.3.2.安装Sentinel ####

1）下载

sentinel官方提供了UI控制台，方便我们对系统做限流设置。大家可以在[GitHub][]下载。

下载的url: https://github.com/alibaba/Sentinel/releases

课前资料也提供了下载好的jar包：

![在这里插入图片描述][c35545d02b014a4bbae2b5d7d2158b1a.png]

2）运行

将jar包放到任意非中文目录，执行命令：

java -jar sentinel-dashboard-1.8.1.jar

如果要修改Sentinel的默认端口、账户、密码，可以通过下列配置：

<table> 
 <thead> 
  <tr> 
   <th><strong>配置项</strong></th> 
   <th><strong>默认值</strong></th> 
   <th><strong>说明</strong></th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>server.port</td> 
   <td>8080</td> 
   <td>服务端口</td> 
  </tr> 
  <tr> 
   <td>sentinel.dashboard.auth.username</td> 
   <td>sentinel</td> 
   <td>默认用户名</td> 
  </tr> 
  <tr> 
   <td>sentinel.dashboard.auth.password</td> 
   <td>sentinel</td> 
   <td>默认密码</td> 
  </tr> 
 </tbody> 
</table>

例如，修改端口：

java -Dserver.port=8090 -jar sentinel-dashboard-1.8.1.jar

3）访问

访问http://localhost:8080页面，就可以看到sentinel的控制台了：  
![在这里插入图片描述][7393fc00a6bb44ff99b394e86992664e.png]

需要输入账号和密码，默认都是：sentinel

登录后，发现一片空白，什么都没有：

![\[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-jJ50LPqy-1675665831656)(assets/image-20210715191134448.png)\]][img-jJ50LPqy-1675665831656_assets_image-20210715191134448.png]

这是因为我们还没有与微服务整合。

### 1.4.微服务整合Sentinel ###

我们在shop-order中整合sentinel，并连接sentinel的控制台，步骤如下：

1）引入sentinel依赖

<dependency>
        <groupId>com.alibaba.cloud</groupId> 
        <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
    </dependency>

2）配置控制台

修改application.yaml文件，添加下面内容：

server:
      port: 8088
    spring:
      cloud: 
        sentinel:
          transport:
            dashboard: localhost:8090 #sentinel控制台的请求地址

3）访问shop-order的任意端点

打开浏览器，访问http://localhost:9999/order/orders/1，这样才能触发sentinel的监控。

然后再访问sentinel的控制台，查看效果：

![在这里插入图片描述][222d0bcad72543c8ad3fd179821947dd.png]

[4b61a08d8409420bafb69d263d5a5464.png]: https://img-blog.csdnimg.cn/4b61a08d8409420bafb69d263d5a5464.png
[img-CtzSfjkc-1675665831608_assets_1533829198240.png]: https://img-blog.csdnimg.cn/75f78d10ea7f4c7da456a00003b57cbd.png
[img-B5ALa7IA-1675665831611_assets_1533829307389.png]: https://img-blog.csdnimg.cn/79d495c25acd41d69084ac6d11118e1f.png
[74084fe26ffb467ab38dd19aeff92eb6.png]: https://img-blog.csdnimg.cn/74084fe26ffb467ab38dd19aeff92eb6.png
[f286aba037fc476c93b065396daa4ba6.png]: https://img-blog.csdnimg.cn/f286aba037fc476c93b065396daa4ba6.png
[img-xXhyso4O-1675665831619_assets_image-20210715172946352.png]: https://img-blog.csdnimg.cn/0bf3d6ac28f44778b10e6cbff2dfb6f3.png
[eb7735159eaa48688033eb018d4da452.png]: https://img-blog.csdnimg.cn/eb7735159eaa48688033eb018d4da452.png
[img-jCC9kVyU-1675665831625_assets_image-20210715173327075.png]: https://img-blog.csdnimg.cn/8155ae4d42d44e32803dd8a1dc40d754.png
[img-rOXoRxnf-1675665831629_assets_image-20210715173428073.png]: https://img-blog.csdnimg.cn/3ff364a9fe244a57b4a8d4d72b59e630.png
[8c7e12fc5735480fb7d2264e32a6f2fd.png]: https://img-blog.csdnimg.cn/8c7e12fc5735480fb7d2264e32a6f2fd.png
[Netfix Hystrix]: https://github.com/Netflix/Hystrix
[Sentinel]: https://github.com/alibaba/Sentinel
[b28801780f4c4eb4bb0bc4b7a8491cdd.png]: https://img-blog.csdnimg.cn/b28801780f4c4eb4bb0bc4b7a8491cdd.png
[30f06ba631694976bdb6f88a4cd2bbef.png]: https://img-blog.csdnimg.cn/30f06ba631694976bdb6f88a4cd2bbef.png
[GitHub]: https://github.com/alibaba/Sentinel/releases
[c35545d02b014a4bbae2b5d7d2158b1a.png]: https://img-blog.csdnimg.cn/c35545d02b014a4bbae2b5d7d2158b1a.png
[7393fc00a6bb44ff99b394e86992664e.png]: https://img-blog.csdnimg.cn/7393fc00a6bb44ff99b394e86992664e.png
[img-jJ50LPqy-1675665831656_assets_image-20210715191134448.png]: https://img-blog.csdnimg.cn/b69d2eb61c004ebbb219e7359f3bdae3.png
[222d0bcad72543c8ad3fd179821947dd.png]: https://img-blog.csdnimg.cn/222d0bcad72543c8ad3fd179821947dd.png