Day12_09_Redis教程之集群搭建(CentOS环境)

客官°小女子只卖身不卖艺 2024-02-19 20:11 60阅读 0赞

## 09\_Redis教程之集群搭建(centos环境) ##

### 一. Redis集群简介 ###

#### 1. redis-cluster架构图 ####

![Image 1][]![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3N5YzAwMDY2Ng_size_16_color_FFFFFF_t_70][]

#### 2. redis-cluster集群容错功能 ####

![Image 1][]![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3N5YzAwMDY2Ng_size_16_color_FFFFFF_t_70 1][]

#### 3. 架构细节 ####

1️⃣.所有的redis节点彼此互联(PING-PONG机制),内部使用二进制协议优化传输速度和带宽;

2️⃣.节点的fail是通过集群中超过半数的节点检测失效时才生效;

3️⃣.客户端与redis节点直连,不需要中间proxy层.客户端不需要连接集群所有节点,连接集群中任何一个可用节点即可;

4️⃣.redis-cluster把所有的物理节点映射到\[0-16383\]slot哈希槽上,cluster负责维护哈希槽里的值.Redis 集群中内置了 16384 个哈希槽,当需要在 Redis 集群中放置一个 key-value 时,redis 先对 key 使用 crc16 算法算出一个结果,然后把结果对 16384 求余数,这样每个 key 都会对应一个编号在 0-16383 之间的哈希槽,redis 会根据节点数量大致均等的将哈希槽映射到不同的节点.

![Image 1][]![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3N5YzAwMDY2Ng_size_16_color_FFFFFF_t_70 2][]

### 二. Redis集群的搭建 ###

Redis集群中至少应该有三个节点,要保证集群的高可用,需要每个节点有一个备份机,Redis集群至少需要6台服务器.

搭建伪分布式,可以使用一台虚拟机运行6个redis实例,然后修改redis的端口号7001-7006(自定义端口,只要不和其他程序重复).

#### 1. 集群搭建环境 ####

1.1 使用ruby脚本搭建集群,需要ruby的运行环境.

yum install ruby
    yum install rubygems

1.2 上传并安装ruby脚本运行使用的包

[root@yyg ~]# gem install redis-3.2.2.gem 
    Successfully installed redis-3.2.2
    1 gem installed
    Installing ri documentation for redis-3.2.2...
    Installing RDoc documentation for redis-3.2.2..
        
    [root@localhost ~]# 
        
    [root@localhost ~]# cd /usr/local/redis-3.2.2/src
    
    [root@localhost src]# ll *.rb
    -rwxrwxr-x. 1 root root 48141 Apr  1  2015 redis-trib.rb

#### 2. 搭建步骤 ####

需要6台redis服务器,搭建伪分布式集群,用一台虚拟机模拟出6个节点,创建出3个master节点、3个salve节点,这几个服务器分别运行在不同的端口7001-7006.

2.1 具体搭建步骤

1️⃣. 下载并解压

cd /usr/local/redis-3.2.2
    wget http://download.redis.io/releases/redis-3.2.2.tar.gz
    tar -zxvf redis-3.2.2.tar.gz

2️⃣. 编译安装

cd redis-3.2.2
    make && make install

3️⃣. 将/usr/local/redis-3.2.2/src/redis-trib.rb复制到 /usr/local/bin目录下

cd /usr/local/redis-3.2.2/src
    cp redis-trib.rb /usr/local/bin/

4️⃣. 创建 redis的6个节点

在/url/local/redis-3.2.2目录下创建 redis-cluster目录.

mkdir redis-cluster

在redis-cluster目录下,创建名为7001,7002,7003,7004,7005,7006的目录,并将/usr/local/redis-3.2.2/conf/redis.conf 拷贝到这三个目录中.

cd /usr/local/redis-3.2.2/redis-cluster
    mkdir 7001 7002 7003 7004 7005 7006
    
    cd /usr/local/redis-3.2.2/conf
    cp redis.conf redis_cluster/7001
    cp redis.conf redis_cluster/7002
    cp redis.conf redis_cluster/7003
    cp redis.conf redis_cluster/7004
    cp redis.conf redis_cluster/7005
    cp redis.conf redis_cluster/7006

分别修改这6个配置文件,修改如下内容:

port  7001 //端口7001,7002,7003,7004,7005,7006        
    bind 本机ip  //默认ip为127.0.0.1,需要将其改为其他节点机器可访问的真实ip,//否则创建集群时无法访问对应的端口,无法创建集群.
    daemonize   yes //redis后台运行
    pidfile  /var/run/redis_7001.pid     //pidfile文件对应7001,7002,7003....
    cluster-enabled  yes //开启集群  把注释#去掉
    cluster-config-file  nodes_7001.conf   //集群的配置,
                                //配置文件首次启动自动生成nodes_7001,7002,7003文件.
    cluster-node-timeout  15000        //请求超时时间,默认15秒,可自行设置
    appendonly  yes    //aof日志开启,有需要就开启,它会每次写操作都记录一条日志

5️⃣. 启动各个节点

一个节点一个节点的启动命令:

cd  /usr/local/redis-3.2.2
    redis-server redis-cluster/7001/redis.conf
    redis-server redis-cluster/7002/redis.conf
    redis-server redis-cluster/7003/redis.conf
     
    redis-server redis-cluster/7004/redis.conf
    redis-server redis-cluster/7005/redis.conf
    redis-server redis-cluster/7006/redis.conf

为了方便每个redis的启动,可以创建启动redis服务的shell脚本:

cd /usr/local/redis-3.2.2/redis-cluster/
    touch start-all-redis.sh
    
    ##注意:以下内容是shell脚本的内容.
    
    #!/bin/sh
    redis-server /usr/local/redis-3.2.2/redis-cluster/7001/redis.conf
    redis-server /usr/local/redis-3.2.2/redis-cluster/7002/redis.conf
    redis-server /usr/local/redis-3.2.2/redis-cluster/7003/redis.conf
    redis-server /usr/local/redis-3.2.2/redis-cluster/7004/redis.conf
    redis-server /usr/local/redis-3.2.2/redis-cluster/7005/redis.conf
    redis-server /usr/local/redis-3.2.2/redis-cluster/7006/redis.conf
    
    #更改shell脚本的权限
    chmod +x start-all-redis.sh

创建关闭每个redis服务的shell脚本:

cd /usr/local/redis-3.2.2/redis-cluster/
    touch stop-all-redis.sh
    
    #!/bin/sh
    redis-cli -h 10.11.51.24 -p 7001 shutdown
    redis-cli -h 10.11.51.24 -p 7002 shutdown
    redis-cli -h 10.11.51.24 -p 7003 shutdown
    redis-cli -h 10.11.51.24 -p 7004 shutdown
    redis-cli -h 10.11.51.24 -p 7005 shutdown
    redis-cli -h 10.11.51.24 -p 7006 shutdown
    
    #更改shell脚本的权限
    chmod +x stop-all-redis.sh

6️⃣. 检查 redis启动情况

ps -ef | grep redis
    
    root      61020      1  0 02:14 ?        00:00:01 redis-server 127.0.0.1:7001 [cluster]    
    root      61024      1  0 02:14 ?        00:00:01 redis-server 127.0.0.1:7002 [cluster]    
    root      61029      1  0 02:14 ?        00:00:01 redis-server 127.0.0.1:7003 [cluster]    
     
    netstat -tnlp | grep redis
    tcp        0      0 127.0.0.1:17001             0.0.0.0:*                   LISTEN      61020/redis-server 
    tcp        0      0 127.0.0.1:17002             0.0.0.0:*                   LISTEN      61024/redis-server 
    tcp        0      0 127.0.0.1:17003             0.0.0.0:*                   LISTEN      61029/redis-server 
    tcp        0      0 127.0.0.1:7001             0.0.0.0:*                   LISTEN      61020/redis-server 
    tcp        0      0 127.0.0.1:7002              0.0.0.0:*                   LISTEN      61024/redis-server
    tcp        0      0 127.0.0.1:7003              0.0.0.0:*                   LISTEN      61029/redis-server

7️⃣. 创建集群

Redis 官方提供了redis-trib.rb 这个工具,就在解压目录的 src 目录中,第三步中已将它复制到 /usr/local/bin 目录中,可以直接在命令行中使用了,使用下面这个命令即可完成安装.

创建集群只需输入指令：
    
    ./redis-trib.rb create --replicas 1 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005 127.0.0.1:7006

运行效果:  
![Image 1][]![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3N5YzAwMDY2Ng_size_16_color_FFFFFF_t_70 3][]

输入 yes 即可,然后出现如下内容,说明安装成功.

![Image 1][]![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3N5YzAwMDY2Ng_size_16_color_FFFFFF_t_70 4][]

8️⃣. 集群验证

比如在第一台机器上连接集群的7003端口的节点,在另外一台连接7005节点,连接方式为 redis-cli -h 192.168.31.245 -c -p 7003,加参数 -c 可连接到集群,因为上面 redis.conf 将 bind 改为了ip地址,所以 -h 参数不可以省略.  
在7005节点执行命令 set hello world ,执行结果如下:  
![Image 1][]![20190625223203734.png][]

然后在另外一台7002端口,查看 key 为 hello 的内容, get hello ,执行结果如下:  
![Image 1][]![20190625223213376.png][]  
说明集群运作正常.

### 三. Redis集群运行原理 ###

redis cluster在设计的时候,就考虑到了去中心化,去中间件,也就是说,集群中的每个节点都是平等的关系,都是对等的,每个节点都保存各自的数据和整个集群的状态.每个节点都和其他所有节点连接,而且这些连接保持活跃,这样就保证了我们只需要连接集群中的任意一个节点,就可以获取到其他节点的数据.

Redis 集群没有并使用传统的一致性哈希来分配数据,而是采用另外一种叫做哈希槽(hash slot)的方式来分配的.redis cluster 默认分配了 16384 个slot,当我们set一个key 时,会用CRC16算法来取模得到所属的slot,然后将这个key 分到哈希槽区间的节点上,具体算法就是: CRC16(key) % 16384 .所以我们在测试的时候看到set 和 get 的时候,直接跳转到了7000端口的节点.

Redis 集群会把数据存在一个 master 节点上,然后在这个 master 和其对应的salve 之间进行数据同步.当读取数据时,也根据一致性哈希算法到对应的 master 节点获取数据,只有当一个master 挂掉之后,才会启动一个对应的 salve 节点,充当 master.

#### 注意 ####

必须要创建3个或以上的主节点,否则在创建集群时会失败,并且当存活的主节点数小于总节点数的一半时,整个集群就无法提供服务了.

[Image 1]: 
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3N5YzAwMDY2Ng_size_16_color_FFFFFF_t_70]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/29/690fe5e3f4bc41dcbde32f4fb0edfd8e.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3N5YzAwMDY2Ng_size_16_color_FFFFFF_t_70 1]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/29/68d63b4ea7f049619fcf5bfd1cc1b86a.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3N5YzAwMDY2Ng_size_16_color_FFFFFF_t_70 2]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/29/5dcb22d169a24b71a622b7cb1621a991.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3N5YzAwMDY2Ng_size_16_color_FFFFFF_t_70 3]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/29/89ee3690b81048afacd805587cc924e5.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3N5YzAwMDY2Ng_size_16_color_FFFFFF_t_70 4]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/29/5e6c47a9f86c4a27a9c4df12bd365394.png
[20190625223203734.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/29/852f9a37a98b48da84ae2436694c9919.png
[20190625223213376.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/29/27915cf0d1534b20808e1875016579b7.png