spring cloud Alibaba 实现负载均衡 Ribbon学习笔记五

男娘i 2022-12-15 15:26 286阅读 0赞

### Ribbon实现负载均衡 ###

*  一、实现方式
 *  二、手写客户端侧负载均衡器
 *  三、使用Ribbon实现负载均衡
 *  四、Ribbon 组成
 *  五、Ribbon 配置
 *  六、Ribbon 饥饿加载
 *  七、Ribbon扩展
 *  八、现有架构存在问题

# 一、实现方式 #

*  服务器端负载均衡（单体架构）  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center]
 *  客户端侧负载均衡（内容中心相对用户中心，属于客户端，可在内容中心集群中配置负载均衡规则）  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 1]

# 二、手写客户端侧负载均衡器 #

*  随机负载均衡算法  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 2]

# 三、使用Ribbon实现负载均衡 #

1、定义：Netfix开源的客户端侧负载均衡器，即提供了负载均衡算法

2、架构演进：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 3]  
3、整合Ribbon

*  加依赖：不需要，spring-cloud-starter-alibaba-nacos-discovery已默认提供  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 4]
 *  加注解

![在这里插入图片描述][20201018105705371.png_pic_center]

*  写配置：无配置

PS：代码改写，使用http://user-center/users/\{userId\}，Ribbon会自动读取名称，进行地址查找并转换

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 5]

# 四、Ribbon 组成 #

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 6]  
1、内置负载均衡规则  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 7]  
PS：默认为ZoneAvoidanceRule，无Zone环境，等价于RoundRobinRule

# 五、Ribbon 配置 #

1、java代码配置，采用随机算法

*  新建RibbonConfiguration 配置类

package com.hzb2i.contentcenter.configuration.Ribbon;
    
    import com.netflix.loadbalancer.IRule;
    import com.netflix.loadbalancer.RandomRule;
    import org.springframework.context.annotation.Bean;
    import org.springframework.context.annotation.Configuration;
    
    @Configuration
    public class RibbonConfiguration { 
        @Bean
        public IRule ribbonRule(){ 
            return new RandomRule();
        }
    }

*  新建 UserCenterRibbonConfiguration 类

package com.hzb2i.contentcenter.configuration;
    
    import RibbonConfiguration.RibbonConfiguration;
    import org.springframework.cloud.netflix.ribbon.RibbonClient;
    import org.springframework.context.annotation.Configuration;
    
    @Configuration
    @RibbonClient(name = "user-center",configuration = RibbonConfiguration.class)
    public class UserCenterRibbonConfiguration { 
    }

PS：需要注意UserCenterRibbonConfiguration 需要放到@SpringBootApplication启动类扫描不到的包下

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 8]

*  @SpringBootApplication注解默认扫描当前的包和子包
 *  若将UserCenterRibbonConfiguration 放到启动类相同路径下，将会出现@SpringBootApplication 主上下文和UserCenterRibbonConfiguration 类的@Configuration 子上下文出现重复扫描，UserCenterRibbonConfiguration 的配置为全局配置，将会被所有RibbonClient共享，即不管内容中心访问用户中心还是其他的微服务，都会采用UserCenterRibbonConfiguration 配置（[重复扫描带来的问题，感兴趣可看此分享：spring重复扫描事务失败][spring]）

2、用配置属性配置：application.yml加入以下配置

user-center:
      ribbon:
        NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule

PS：两种配置方式对比

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 9]  
PS：写配置方式，线上无需重新打包，采用的是读取外部配置文件方式

3、最佳实践：

*  尽量使用属性配置，属性配置实现不了情况再考虑用代码配置
 *  在同一个微服务内尽量保持单一性，比如统一使用属性配置，不要用两种方式混用，增加定位代码的复杂性

4、全局配置：

*  方式一：让ComponentScan重叠，即将RibbonConfiguration放到启动类相同路径（不建议使用，会导致项目无法启动）
 *  正确途径  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 10]  
    5、Ribbon其他配置项
 *  代码配置：  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 11]
 *  写配置：  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 12]

# 六、Ribbon 饥饿加载 #

*  问题：Ribbon默认采用懒加载，只有http://user-center/users/\{userId\}执行，才会使用Ribbon自动获取用户中心地址，导致第一次访问加载速度慢
 *  措施：写配置，开启饥饿加载  
    ![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 13]

# 七、Ribbon扩展 #

1、支持Nacos权重（根据权重判断的负载均衡规则）：

*  场景：若微服务有众多实例，分别部署到不同服务器上，可以把在性能好的机器上的实例权重设高点，性能差的机器的实例权重设低点，这样权重高的实例被调用的几率就高一些
 *  ribbon默认不支持nacos权重，需通过以下方式开发  
    ① 可实现IRule接口  
    ② 继承AbstractLoadBalancerRule抽象类，并将此负载均衡算法设为全局配置

在nacos控制台修改权重：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 14]  
启动用户中心、内容中心测试：请求基本调用权重高的实例  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 15]  
PS：nacos client内置了基于权重的负载均衡算法，spring cloud Alibaba为何还要整合ribbon，直接用nacos client不就行了吗？主要是为符合spring cloud标准，spring cloud有个子项目spring cloud commons（定义了标准），其下边的子项目spring cloud loadbalancer（无权重概念），spring cloud Alibaba符合此标准，故未整合权重的算法

PS：其他实现权重负载均衡算法方式请移步 [扩展Ribbon支持Nacos权重的三种方式][Ribbon_Nacos]

2、同集群优先调用

*  场景：如存在北京机房和南京机房，想让北京机房的内容中心有限调用同机房的用户中心，在同机房用户中心不存在的情况下再调用南京机房的用户中心，可以采用此方式
 *  代码开发，并将此负载均衡算法设为全局配置：

package com.hzb2i.contentcenter.configuration;
    
    import com.alibaba.cloud.nacos.NacosDiscoveryProperties;
    import com.alibaba.cloud.nacos.ribbon.NacosServer;
    import com.alibaba.nacos.api.exception.NacosException;
    import com.alibaba.nacos.api.naming.NamingService;
    import com.alibaba.nacos.api.naming.pojo.Instance;
    import com.alibaba.nacos.client.naming.core.Balancer;
    import com.alibaba.nacos.client.naming.utils.Chooser;
    import com.alibaba.nacos.client.naming.utils.Pair;
    import com.alibaba.nacos.client.utils.LogUtils;
    import com.netflix.client.config.IClientConfig;
    import com.netflix.loadbalancer.AbstractLoadBalancerRule;
    import com.netflix.loadbalancer.BaseLoadBalancer;
    import com.netflix.loadbalancer.Server;
    import lombok.extern.slf4j.Slf4j;
    import org.springframework.beans.factory.annotation.Autowired;
    import org.springframework.util.CollectionUtils;
    import java.util.*;
    import java.util.stream.Collectors;
    
    @Slf4j
    public class NacosSameClusterWeightRule extends AbstractLoadBalancerRule { 
    
        @Autowired
        private NacosDiscoveryProperties nacosDiscoveryProperties;
    
        @Override
        public void initWithNiwsConfig(IClientConfig iClientConfig) { 
    
        }
    
        @Override
        public Server choose(Object o) { 
            try { 
                String clusterName = nacosDiscoveryProperties.getClusterName();
                //入口
                BaseLoadBalancer loadBalancer = (BaseLoadBalancer) this.getLoadBalancer();
                //想要请求的微服务名称
                String name = loadBalancer.getName();
                //实现负载均衡算法
                //拿到服务发现的相关API
                NamingService namingService = nacosDiscoveryProperties.namingServiceInstance();
                //找到指定服务的所有API
                List<Instance> instances = namingService.selectInstances(name,true);
                //过滤相同集群的所有实例
                List<Instance> sameClusterInstances = instances.stream().filter(instance -> { 
                    return Objects.equals(instance.getClusterName(),clusterName);
                }).collect(Collectors.toList());
                //如果B（sameClusterInstances）是空，否则用A（instances）
                List<Instance> instancesToBeChosen = new ArrayList<>();
                if(CollectionUtils.isEmpty(sameClusterInstances)){ 
                    instancesToBeChosen = instances;
                    log.info("跨集群调用：name={},clusterName={},instances={}",name,clusterName,instances);
                }else { 
                    instancesToBeChosen = sameClusterInstances;
                    log.info("同集群调用：name={},clusterName={},instances={}",name,clusterName,sameClusterInstances);
                }
                //基于权重的负载均衡算法，返回一个实例（namingService无根据list直接返回实例）
                Instance instance = ExtendBalancer.getHostByRandomWeight2(instancesToBeChosen);
                return new NacosServer(instance);
            } catch (NacosException e) { 
                e.printStackTrace();
            }
            return null;
        }
    }
    class ExtendBalancer extends Balancer { 
        public static Instance getHostByRandomWeight2(List<Instance> hosts) { 
            LogUtils.NAMING_LOGGER.debug("entry randomWithWeight");
            if (hosts != null && hosts.size() != 0) { 
                LogUtils.NAMING_LOGGER.debug("new Chooser");
                List<Pair<Instance>> hostsWithWeight = new ArrayList();
                Iterator var2 = hosts.iterator();
    
                while(var2.hasNext()) { 
                    Instance host = (Instance)var2.next();
                    if (host.isHealthy()) { 
                        hostsWithWeight.add(new Pair(host, host.getWeight()));
                    }
                }
    
                LogUtils.NAMING_LOGGER.debug("for (Host host : hosts)");
                Chooser<String, Instance> vipChooser = new Chooser("www.taobao.com");
                vipChooser.refresh(hostsWithWeight);
                LogUtils.NAMING_LOGGER.debug("vipChooser.refresh");
                return (Instance)vipChooser.randomWithWeight();
            } else { 
                LogUtils.NAMING_LOGGER.debug("hosts == null || hosts.size() == 0");
                return null;
            }
        }
    }

启动测试：优先访问同集群的端口，同集群微服务挂了，才进行跨集群访问  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 16]  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 17]

3、基于元数据的版本控制：[扩展Ribbon支持基于元数据的版本管理][Ribbon]

PS：深入理解Nacos NameSpace：微服务只能调用同一空间的实例

# 八、现有架构存在问题 #

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 18]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center]: /images/20221123/203cdd2f701c4ee1a9afb43af6b95852.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 1]: /images/20221123/823eb10bcea24bcbbc0b0c60d735404b.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 2]: /images/20221123/42b237c19e3b411b9423f78bf9855461.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 3]: /images/20221123/d3df125edaa144f2a5b24535d5442caa.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 4]: /images/20221123/a7d7329666304df99b9e159280475e95.png
[20201018105705371.png_pic_center]: /images/20221123/564b0112f90844f4b13bd518d658525a.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 5]: /images/20221123/251eb77d065f4080a435ab24e1d77053.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 6]: /images/20221123/990d9f787f90473a9052f14cd4146733.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 7]: /images/20221123/f0b3cb08515547daac4415a67c091850.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 8]: /images/20221123/0475f40b1ffb4adeb60402576f2907ad.png
[spring]: https://blog.csdn.net/haoyifen/article/details/51172647
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 9]: /images/20221123/2f8cf4db85a343768f20c2d4bfd20574.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 10]: /images/20221123/560f03129f534287b08fcc6a277f3c14.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 11]: /images/20221123/def84d8856854b0aa4e29425ee63d5e8.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 12]: /images/20221123/0787d70a882f4cbd94e8a0492271348c.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 13]: /images/20221123/27ec7c85611044d2b083559fb70cacab.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 14]: /images/20221123/83969cde3847448e9a791ad3cb6ab41c.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 15]: /images/20221123/2c21c583ec1441b6a614c133b45743c4.png
[Ribbon_Nacos]: https://www.imooc.com/article/288660
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 16]: /images/20221123/6e9f1d60bc664669a9d70a55457f4d76.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 17]: /images/20221123/630e92665f3845ee8daae3ea7d68b77d.png
[Ribbon]: https://www.imooc.com/article/288674
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2x6ZjIyODQ0NjY_size_16_color_FFFFFF_t_70_pic_center 18]: /images/20221123/6116cfbd03bf4df8ad047f753fa57f16.png