Spring Cloud - Ribbon 负载均衡原理、负载策略、懒加载

短命女 2023-10-12 14:34 38阅读 0赞

# ![3e0793ee70f247fc87211ca7f61852eb.jpeg][] #

**目录**

编辑

一、Ribbon 负载均衡原理

1.1、前言

1.2、负载均衡的工作流程

二、负载均衡策略

2.1、策略原理

2.2、负载均衡自定义方式

三、Ribbon 加载方式

--------------------

# 一、Ribbon 负载均衡原理 #

--------------------

## 1.1、前言 ##

> ps：案例是上一章所讲的 “根据订单id查询订单的同时，把订单所属的用户信息一起返回” 。

上一章我们讲到 order-service（订单服务） 使用 RestTemplate 发送 Http 请求到 user-service（用户服务），同时我们使用 @LoadBalanced 注解增加负载均衡，通过负载均衡算法分配到 user-service 集群，那么中间这个负载均衡到底是什么东西在起作用？负载均衡算法到底是什么？

接下来我们就一起来了解一下吧~

## 1.2、负载均衡的工作流程 ##

负载均衡的工作流程主要有以下几个过程：

1.  首先 order-service 使用 RestTemplate 发送的请求会被 Ribbon（负载均衡） 所拦截，并对请求的 url 进行解析；
2.  拿到服务名称 userservice（user-service 配置文件中服务命名） ，接着 Ribbon 会通过这个服务名称 userservice 去 eureka-server （服务注册中心）拉去服务的服务列表（要访问的主机ip和端口号）；
3.  最后 Ribbon 会通过负载均衡算法从服务列表中挑选出合适的ip+端口号，接着 Ribbon 会通过修改服务名称 userservice 为挑选出的 ip+端口号 刚刚请求到对应的服务。

![a4d628384c1f46cca2311fbedfeed86f.png][]

Ribbon 底层源码工作流程如下图：

![9a7e6937cb7441d284948f4a1c03c9c1.png][]

# 二、负载均衡策略 #

--------------------

## 2.1、策略原理 ##

负载均衡的实现主要有三种算法：轮询（默认方式）、随机、权值分配，其中轮询 ZoneAvoidanceRule 也是 @LoadBalanced 注解默认的分配策略，细节上可以分为以下几种：

<table> 
 <tbody> 
 <tr> 
 <td style="background-color:#ad2b26;border-color:#dfe2e5;text-align:center;vertical-align:middle;width:197pt;"> 内置负载均衡规则类 </td> 
 <td style="background-color:#ad2b26;border-color:#dfe2e5;text-align:center;vertical-align:middle;"> 规则描述 </td> 
 </tr> 
 <tr> 
 <td style="border-color:#dfe2e5;text-align:center;vertical-align:middle;width:197pt;"> RoundRobinRule </td> 
 <td style="border-color:#dfe2e5;vertical-align:middle;"> 简单轮询服务列表来选择服务器。它是Ribbon默认的负载均衡规则。 </td> 
 </tr> 
 <tr> 
 <td style="background-color:#f8f8f8;border-color:#dfe2e5;text-align:center;vertical-align:middle;width:197pt;"> AvailabilityFilteringRule </td> 
 <td style="background-color:#f8f8f8;border-color:#dfe2e5;vertical-align:middle;"> 对以下两种服务器进行忽略： &nbsp;（1）在默认情况下，这台服务器如果3次连接失败，这台服务器就会被设置为“短路”状态。短路状态将持续30秒，如果再次连接失败，短路的持续时间就会几何级地增加。 （2）并发数过高的服务器。如果一个服务器的并发连接数过高，配置了AvailabilityFilteringRule规则的客户端也会将其忽略。并发连接数的上限，可以由客户端的&lt;clientName&gt;.&lt;clientConfigNameSpace&gt;.ActiveConnectionsLimit属性进行配置。 </td> 
 </tr> 
 <tr> 
 <td style="border-color:#dfe2e5;text-align:center;vertical-align:middle;width:197pt;"> WeightedResponseTimeRule </td> 
 <td style="border-color:#dfe2e5;vertical-align:middle;"> 为每一个服务器赋予一个权重值。服务器响应时间越长，这个服务器的权重就越小。这个规则会随机选择服务器，这个权重值会影响服务器的选择。 </td> 
 </tr> 
 <tr> 
 <td style="background-color:#f8f8f8;border-color:#dfe2e5;text-align:center;vertical-align:middle;width:197pt;"> ZoneAvoidanceRule（默认） </td> 
 <td style="background-color:#f8f8f8;border-color:#dfe2e5;vertical-align:middle;"> 以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类，这个Zone可以理解为一个机房、一个机架等。而后再对Zone内的多个服务做轮询。 </td> 
 </tr> 
 <tr> 
 <td style="border-color:#dfe2e5;text-align:center;vertical-align:middle;width:197pt;"> BestAvailableRule </td> 
 <td style="border-color:#dfe2e5;vertical-align:middle;"> 忽略那些短路的服务器，并选择并发数较低的服务器。 </td> 
 </tr> 
 <tr> 
 <td style="background-color:#f8f8f8;border-color:#dfe2e5;text-align:center;vertical-align:middle;width:197pt;"> RandomRule </td> 
 <td style="background-color:#f8f8f8;border-color:#dfe2e5;vertical-align:middle;"> 随机选择一个可用的服务器。 </td> 
 </tr> 
 <tr> 
 <td style="border-color:#dfe2e5;text-align:center;vertical-align:middle;width:197pt;"> RetryRule </td> 
 <td style="border-color:#dfe2e5;vertical-align:middle;"> 重试机制的选择逻辑 </td> 
 </tr> 
 </tbody> 
</table>

## 2.2、负载均衡自定义方式 ##

负载均衡的自定义方式主要有以下两种：

1.  代码实现；
2.  配置文件。

首先，代码方式，就是在 order-service 中的 OrderApplication 类中，定义一个新的 IRule（Ribbon的负载均衡规则是一个叫做IRule的接口来定义的） ，然后加上 @Bean 注解注入到 spring 中，例如我要定义负载均衡算法为随机算法，如下：

> Ps：注意 @LoadBalanced 不能缺少！

import com.netflix.loadbalancer.IRule;
    import com.netflix.loadbalancer.RandomRule;
    import org.mybatis.spring.annotation.MapperScan;
    import org.springframework.boot.SpringApplication;
    import org.springframework.boot.autoconfigure.SpringBootApplication;
    import org.springframework.context.annotation.Bean;
    import org.springframework.web.client.RestTemplate;
    
    //@MapperScan 注解的作用相当于在指定包下的所有 mapper 接口上都加上了 @mapper 注解
    @MapperScan("cn.itcast.order.mapper")
    @SpringBootApplication
    public class OrderApplication {
    
        public static void main(String[] args) {
            SpringApplication.run(OrderApplication.class, args);
        }
    
        /**
         * 将 RestTemplate 对象注入到 spring 容器中
         * @return
         */
        @Bean
        @LoadBalanced
        public RestTemplate restTemplate() {
            return new RestTemplate();
        }
    
        //修改负载均衡算法为随机
        @Bean
        public IRule randomRule() {
            return new RandomRule();
        }
    
    }

> **这种方法是针对与全局服务的，而以下办法为针对某一个微服务有效**

另外，还有一种方式，是使用配置文件的方式，在 order-service 的 application.yml 文件中，添加新的配置规则：

userservice:
      ribbon:
        NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule# 负载均衡规则

# 三、Ribbon 加载方式 #

--------------------

**Ribbon 默认是采用懒加载的方式**，也就是只有第一次访问时才会去创建 LoadBalanceClient，因此第一次请求的时间会很长~

此外，**Ribbon 还有一种加载方式——饥饿加载**，就是在项目启动时去创建，降低第一次访问的耗时，需要通过下面配置开启饥饿加载：

ribbon:
      eager-load:
        enabled: true # 开启饥饿加载 
        clients: userservice # 指定对userservice这个服务饥饿加载

> Ps：但是值得注意的是，项目启动之初本身也是需要很大的系统开销的，某些情景下，我们将 Ribbon 修改为饥饿加载，可能会更大的加重系统的开销，所以一定要根据实际情况进行选择~

![23a5868ea8044f768176720757c70c37.gif][]

[3e0793ee70f247fc87211ca7f61852eb.jpeg]: https://img-blog.csdnimg.cn/3e0793ee70f247fc87211ca7f61852eb.jpeg
[a4d628384c1f46cca2311fbedfeed86f.png]: https://img-blog.csdnimg.cn/a4d628384c1f46cca2311fbedfeed86f.png
[9a7e6937cb7441d284948f4a1c03c9c1.png]: https://img-blog.csdnimg.cn/9a7e6937cb7441d284948f4a1c03c9c1.png
[23a5868ea8044f768176720757c70c37.gif]: https://img-blog.csdnimg.cn/23a5868ea8044f768176720757c70c37.gif