Spring cloud系列十七 Ribbon六大组件的详细说明和实现类，配置属性的详细说明

蔚落 2022-05-12 02:50 200阅读 0赞

## 概念 ##

Ribbon在Spring Cloud中的用法详细见这里[Spring cloud系列七 为@Feign中集成的Ribbon进行个性化配置][Spring cloud_ _Feign_Ribbon]，本文重新整理我对Ribbon的新的理解

**Ribbon定义**  
Ribbon：实现客户端的负载均衡

**region、zone、Eureka集群关系**  
region和zone（或者Availability Zone）均是AWS的概念。在非AWS环境下，将region理解为Eureka集群，zone理解成机房。  
如图：一个Eureka集群被部署在了zone1机房和zone2机房中。  
以下图片来自网路：  
![这里写图片描述][70]

**Ribbon主要组件：**  
ServerList:定义获取服务器列表  
ServerListFilter:对ServerList服务器列表进行二次过滤  
ServerListUpdater: 定义服务更新策略  
IPing: 检查服务列表是否存活  
IRule :根据算法中从服务列表中选取一个要访问的服务  
ILoadBalancer:软件负载平衡器入口，整合以上所有的组件实现负载功能

**Ribbon组件之间的关系简单整理如下：**

ServerList和ServerListFilter生成客户端可以访问的服务列表
        ServerListUpdater和IPing：根据服务的状态更新服务列表
        IRule：服务的选择策略
        ILoadBalancer：将以上组件组合到这个类中一起工作

组合关闭如下，以下图片来自网络

![这里写图片描述][70 1]

--------------------

## Ribbon主要组件 ##

下方配置类似myclient.ribbon.EnableZoneAffinity=true的配置中myclient值是ribbon的客户端的名称,如果去除myclient,则这个配置作用在所有的ribbon客户端

### ServerList:定义获取服务器列表 ###

实现类和重要实现类说明：  
![这里写图片描述][70 2]

**ConfigurationBasedServerList**:从配置文件中获取所有服务列表  
配置：

client.ribbon.listOfServers=www.microsoft.com:80,www.yahoo.com:80,www.google.com:80

**DiscoveryEnabledNIWSServerList**:从注册中心获取服务列表(默认配置)  
配置：根据Eureka服务实例名称，从Eureka Client中获取服务列表

myClient.ribbon.NIWSServerListClassName=com.netflix.niws.loadbalancer.DiscoveryEnabledNIWSServerList 
    # the server must register itself with Eureka server with VipAddress "myservice"
    myClient.ribbon.DeploymentContextBasedVipAddresses=myservice

### ServerListFilter:对ServerList服务器列表进行二次过滤 ###

对获取的服务进行二次过滤  
实现类和重要类说明：  
![这里写图片描述][70 3]

**AbstractServerListFilter**  
负责从负载均衡器中过滤出当前可用的服务器列表的类

**ZoneAffinityServerListFilter**: 过滤掉所有的不和客户端在相同zone的服务  
过滤掉所有的不和客户端在相同zone的服务，如果和客户端相同的zone不存在，才不过滤不同zone有服务

配置如下：

myclient.ribbon.EnableZoneAffinity=true

**ServerListSubsetFilter**: 在第一个类的基础上，只返回所有服务的子集  
此过滤器确保客户端仅看到由ServerList实现返回的整个服务器的固定子集。 它还可以定期用新服务器替代可用性差的子集中的服务器。 如果服务器场很大，这很有用。在成百上千的情况下，使用它们中的每一个，并保持http客户端连接池中的连接是不必要的。它还可以通过比较总的网络故障和并发连接来驱逐相对不健康的服务器

要启用此过滤器，配置如下:

myClient.ribbon.NIWSServerListClassName=com.netflix.niws.loadbalancer.DiscoveryEnabledNIWSServerList 
    # 指定要负载均衡服务实例的服务应用名称
    myClient.ribbon.DeploymentContextBasedVipAddresses=myservice
    myClient.ribbon.NIWSServerListFilterClassName=com.netflix.loadbalancer.ServerListSubsetFilter
    # 指定返回服务器子集的数量,默认20
    myClient.ribbon.ServerListSubsetFilter.size=5

**ZonePreferenceServerListFilter**:在ZoneAffinityServerListFilter的基础上，再增根据消费者配置预设的区域Zone来进行过滤(默认配置)

### ServerListUpdater: 定义服务更新策略 ###

定义：定时更新服务列表  
实现类和重要类说明：  
![这里写图片描述][70 4]

**PollingServerListUpdater**：定时更新(默认配置)

**EurekaNotificationServerListUpdater**：监听Eureka的事件更新服务列表  
由Eureka的事件监听来驱动服务列表的更新操作

### IPING: 检查服务列表是否存活 ###

在后台运行的一个程序，用于检查服务列表是否都活

![这里写图片描述][70 5]

**DummyPing**: 简单实现，全部返回true  
**NoOpPing**：什么都不做  
**PingConstant**：通过配置参数设置指定服务器存活状态  
**NIWSDiscoveryPing**: 如果服务实例在本地的Eureka缓存中存在，则返回true（默认配置）。ribbon-eureka包中提供的类，结合eureka使用时，如果Discovery Client在线，则认为心跳检测通过  
**PingUrl**： ribbon-httpclient包中提供的类，采用此方式，会使用httpclient调用服务的一个url，如果调用成功则认为本次心跳检测通过，即服务存活可用。

### IRule :根据算法中从服务列表中选取一个要访问的服务 ###

作用：根据算法中从服务列表中选取一个要访问的服务  
实现类如下：  
![这里写图片描述][70 6]

**RandomRule**:随机，使用Random对象从服务列表中随机选择一个服务

**RoundRobinRule**：轮训策略。默认策略，同时也是更高级rules的回退策略

**RetryRule**: 轮询 + 重试  
先使用RoundRobinRule进行服务实例选择，如果选择服务实例失败，则在指定时间不断进行重试直至找到服务或超时

**WeightedResponseTimeRule**: 优先选择响应时间快  
此策略会根据每个实例的平均响应时间，计算出每个服务的权重，响应时间越快，服务权重越重、被选中的概率越高。此类有个DynamicServerWeightTask的定时任务，默认情况下每隔30秒会计算一次各个服务实例的权重。  
刚启动时，如果统计信息不足，则使用RoundRobinRule策略，等统计信息足够，会切换到WeightedResponseTimeRule。

**BestAvailableRule**: 优先选择并发请求最小的  
先过滤到断路器处于打开的服务，然后选择并发请求最小的服务实例来使用。  
刚启动时，如果统计信息不足，则使用RoundRobinRule策略，等统计信息足够，会切换到BestAvailableRule。

**PredicateBasedRule**  
抽象类。 PredicateBasedRule是ClientConfigEnabledRoundRobinRule的一个子类，它先通过内部定义的一个过滤器过滤出一部分服务实例清单，然后再采用轮询的方式从过滤出来的结果中选取一个服务实例

**AvailabilityFilteringRule**: (默认实现)  
这个负载均衡器规则，会先过滤掉以下服务：  
a. 由于多次访问故障而处于断路器打开的服务  
b. 并发的连接数量超过阈值  
然后对剩余的服务列表按照RoundRobinRule策略进行访问

如果RestClient最近3次连接服务实例都失败，则对应的服务的断路器打开。断路器打开的状态默认会持续30s，然后再关闭。如果再次连接又失败，则断路器又打开，并且等待的时间随着连续失败的次数，成指数值增加，但是等待的时间不能超过最长的等待时间

**ZoneAvoidanceRule**  
根据以下的规则过滤服务：  
1. 如果一个ZONE不可用，则丢弃这个zone里的所有服务实例  
2. 过滤以下服务实例：”由于多次访问故障而处于断路器打开的服务”和”并发的连接数量超过阈值”  
然后再使用轮询从过滤后的服务列表中选择一个服务

### ILoadBalancer：将以上组件组合到这个类中一起工作 ###

作用：定义软件负载平衡器操作的接口。典型的负载均衡至少包括以下元素：一组服务器来进行负载平衡，淘汰不可用的服务器的策略，以及从服务器列表中选择一个服务进行访问  
![这里写图片描述][70 7]

**NoOpLoadBalancer**  
什么都没做

**BaseLoadBalancer**  
负载均衡器的基本实现。  
此类内部维护一个存储所有服务实例列表和一个当前活着的服务实例列表。默认使用轮询策略选择一个服务实例做为请求对象。定义一个定时器，根据IPingStrategy定时轮询ping服务实例，用于判断服务列表是否活着。默认的ping策略为SerialPingStrategy

**DynamicServerListLoadBalancer**  
DynamicServerListLoadBalancer是BaseLoadBalancer的一个子类，对基础负载均衡器的功能做了进一步的扩展。增加了服务实例列表动态更新的功能，同时增加对服务实例列表过滤的功能  
此类内部依靠DomainExtractingServerList从EurekaClient从注册中心获取服务实例列表，将状态为UP的服务实例组成新的服务列表，使用ZoneAffinityServerListFilter再对这个列表进行过滤。  
此类内部默认使用PollingServerListUpdater对服务实例列表进行定时更新，保证服务的有效性

**ZoneAwareLoadBalancer**: 默认实现  
ZoneAwareLoadBalancer是DynamicServerListLoadBalancer的子类，增加zone策略。DynamicServerListLoadBalancer默认使用轮询策略，但是此策略在进行跨区域调用时，可能会产生高延迟。  
此类使用ZoneStats存储每个Zone的状态和平均请求情况，当一个zone的平均请求达到阈值或请求超时的比例达到阈值或zone不可用，则将该zone的服务实例中删除。此类使用AvailabilityFilteringRule选择一个服务实例。

### Ribbbon在集成到Spring cloud中的以上组件的默认配置 ###

# 负载均衡类，默认为om.netflix.loadbalancer.ZoneAwareLoadBalance 
    NFLoadBalancerClassName=ZoneAwareLoadBalancer
    # 负载均衡规则类，默认为com.netflix.loadbalancer.AvailabilityFilteringRule 
    NFLoadBalancerRuleClassName=AvailabilityFilteringRule
    # 心跳检测类，ribbon默认为com.netflix.loadbalancer.DummyPing，结合eureka使用时默认值为NIWSDiscoveryPing
    NFLoadBalancerPingClassName=NIWSDiscoveryPing
    # 服务列表类，ribbon默认为com.netflix.loadbalancer.ConfigurationBasedServerList,结合eureka使用时默认值为com.netflix.niws.loadbalancer.DiscoveryEnabledNIWSServerList
    NIWSServerListClassName=DiscoveryEnabledNIWSServerList
    # 服务过滤类，ribbon默认为com.netflix.loadbalancer.ZoneAffinityServerListFilter。结合spring cloud eureka使用时默认为org.springframework.cloud.netflix.ribbon.ZonePreferenceServerListFilter
    NIWSServerListFilterClassName=ZonePreferenceServerListFilter

--------------------

## Spring Cloud中Ribbon简单工作流程 ##

Ribbon客户端启动时，从注册中心获取服务实例列表并初始化，  
对获取的服务实例列表根据指定的算法进行过滤  
定时更新服务实例列表的状态  
Ribbon客户端要访问[http://authority/api/xxx][http_authority_api_xxx]  
根据算法从服务实例列表中选择一个服务实例  
使用服务实例真实的IP和端口并替换authority部分  
向真正的服务发送请求，并完成请求

--------------------

## Ribbon属性配置 ##

**配置的位置**：  
Ribbon属性可以定义在属性文件中，也可以定义在系统变量（system properties）中

**属性格式**：

说明：  
clientName ：ribbon的客户端的名称。如果此值为没有配置，则此条属性会作用到所有的客户端  
nameSpace：ribbon的命令空间，默认值为ribbon，一般不建议修改  
propertyName：属性命令。所有的可用的属性都在com.netflix.client.conf.CommonClientConfigKey类中定义。若属性没有配置，则会使用DefaultClientConfigImpl类中的默认配置

**配置文件demo**

除了第一个是配置为全局属性外，其他的属性都是为一个名称为”sample-client”的ribbon客户端配置的属性

# 设置全局默认的ribbon的读超时
    ribbon.ReadTimeout=1000
    # Max number of retries on the same server (excluding the first try)
    sample-client.ribbon.MaxAutoRetries=1
    # Max number of next servers to retry (excluding the first server)
    sample-client.ribbon.MaxAutoRetriesNextServer=1
    # Whether all operations can be retried for this client
    sample-client.ribbon.OkToRetryOnAllOperations=true
    # Interval to refresh the server list from the source
    sample-client.ribbon.ServerListRefreshInterval=2000
    # Connect timeout used by Apache HttpClient
    sample-client.ribbon.ConnectTimeout=3000
    # Read timeout used by Apache HttpClient
    sample-client.ribbon.ReadTimeout=3000
    # Initial list of servers, can be changed via Archaius dynamic property at runtime
    sample-client.ribbon.listOfServers=www.microsoft.com:80,www.yahoo.com:80,www.google.com:80

[Spring cloud_ _Feign_Ribbon]: https://blog.csdn.net/hry2015/article/details/78408342
[70]: /images/20220512/d96b6f47100f4f87be96e487f6b0e70e.png
[70 1]: /images/20220512/54a8d96fbc3e437ebc6dda98891b80dc.png
[70 2]: /images/20220512/fd147750a40847c4a68a58a366a91e59.png
[70 3]: /images/20220512/2fdfbef1b3904259af118c76a93e3b99.png
[70 4]: /images/20220512/eafffa245d72401188e3e9e350be9eb5.png
[70 5]: /images/20220512/5342071dfd6e481cad93dcb037979e49.png
[70 6]: /images/20220512/842d9cbd84044623899a4f73193daea6.png
[70 7]: /images/20220512/f46f67ea65764ec7be0a5f35bff055e0.png
[http_authority_api_xxx]: http://authority/api/xxx