Redis学习笔记之五：redis高级应用（集群搭建、集群分区原理、集群操作）

￡神魔★判官ぃ 2022-05-13 13:40 152阅读 0赞

# **Redis集群简介** #

Redis 集群是3.0之后才引入的，在3.0之前，使用哨兵（sentinel）机制（本文将不做介绍，大家可另行查阅）来监控各个节点之间的状态。Redis 集群可谓是让很多人久等了。

Redis 集群是一组能进行数据共享的Redis 实例（服务或者节点）的设施，集群可以使用的功能是普通单机 Redis 所能使用的功能的一个子集；Redis 集群通常具有高可用、可扩展性、分布式、容错等特性。了解redis的集群后，这些晦涩的概念可结合redis的主从、集群分区和集群运维等角度理解体会。

# **Redis集群搭建** #

## **创建集群文件夹** ##

在/usr/local/下新建redis-cluster目录并在redis-cluster下新建7031~7036共6个文件夹，这6个文件夹代表创建redis集群的6个节点。如下

> \[root@localhost local\]\# mkdir -p /usr/local/redis-cluster
> 
> \[root@localhost redis-cluster\]\# mkdir 7031 7032 7033 7034 7035 7036

## **拷贝修改配置文件** ##

将已有的/usr/local/redis/etc/下的redis.conf拷贝到新创建的7031目录中

> \[root@localhost etc\]\# cp redis.conf /usr/local/redis-cluster/7031
> 
> \[root@localhost 7031\]\# vi redis.conf

修改项如下：

（1）绑定端口，port 7031

（2）绑定IP，bind 192.168.2.128

（3）指定数据存放路径，dir /usr/local/redis-cluster/7031

（4）启动集群模式，cluster-enabled yes

（5）指定集群节点配置文件，cluster-config-file nodes-7031.conf

（6）后台启动，daemonize yes

（7）指定集群节点超时时间，cluster-node-timeout 5000

（8）指定持久化方式，appendonly yes

**上面红色项目最好全部设置，不然会出意想不到的错误**，703x最好与节点文件夹保持一致。

将7031的redis.conf改完后再拷贝到剩下的5个目录中，然后只要全局替换redis.conf中的7031为相应的节点即可。

## **安装ruby** ##

由于Redis 集群客户端实现很少，redis集群的启动需要用到ruby实现的redis-trib.rb，所以我们需要先安装ruby。

> \[root@localhost redis-cluster\]\# yum install ruby
> 
> \[root@localhost redis-cluster\]\# yum install rubygems
> 
> \[root@localhost redis-cluster\]\# gem install redis

## **启动redis实例** ##

> \[root@localhost redis-cluster\]\# 
> 
> /usr/local/redis/bin/redis-server /usr/local/redis-cluster/7031/redis.conf

分别启动6个redis实例。也可以用脚本循环启动，这样更方便省时

> \[root@localhost redis-cluster\]\#
> 
> for((i=1;i<=6;i++)); do /usr/local/redis/bin/redis-server /usr/local/redis-cluster/703$i/redis.conf; done

查看redis实例是否启动成功

> \[root@localhost redis-cluster\]\# netstat -tunpl | grep redis-server
> 
> \#或者
> 
> \[root@localhost redis-cluster\]\# ps -ef | grep redis-server

![783994-20160718162246810-8690416.png][]

## **创建并启动集群** ##

> \[root@localhost ~\]\# cd /usr/local/redis/bin/
> 
> \[root@localhost bin\]\#./redis-trib.rb create \--replicas 1 192.168.2.128:7031 192.168.2.128:7032 192.168.2.128:7033 192.168.2.128:7034 192.168.2.128:7035 192.168.2.128:7036

命令的意义如下：

给定 redis-trib.rb 程序的命令是 create，表示创建一个新的集群。选项 --replicas 1 表示为集群中的每个主节点创建一个从节点。之后跟着的其他参数则是实例的地址列表， 指定使用这些地址所指示的实例来创建新集群。

> >>> Creating cluster
> 
> >>> Performing hash slots allocation on 6 nodes...
> 
> Using 3 masters:
> 
> 192.168.2.128:7031
> 
> 192.168.2.128:7032
> 
> 192.168.2.128:7033
> 
> Adding replica 192.168.2.128:7034 to 192.168.2.128:7031
> 
> Adding replica 192.168.2.128:7035 to 192.168.2.128:7032
> 
> Adding replica 192.168.2.128:7036 to 192.168.2.128:7033
> 
> ......
> 
> \[OK\] All nodes agree about slots configuration.
> 
> >>> Check for open slots...
> 
> >>> Check slots coverage...
> 
> \[OK\] All 16384 slots covered.

“All 16384 slots covered.”表示集群中的 16384 个槽都有至少一个主节点在处理， 集群运作正常。从打印出来的信息也可以看出，7031，7032，7033是主节点，其它三个是从节点。

## **客户端连接集群** ##

集群启动成功后，我们就可以用任意一个客户端连接集群了，如下

> \[root@localhost bin\]\# /usr/local/redis/bin/redis-cli \-c -h 192.168.2.128 -p 7031
> 
> 192.168.2.128:7031> info
> 
> \# Server
> 
> redis\_version:3.2.0
> 
> redis\_git\_sha1:00000000
> 
> redis\_git\_dirty:0
> 
> redis\_build\_id:f8fcffd133fe3364
> 
> redis\_mode:cluster
> 
> os:Linux 2.6.32-504.el6.x86\_64 x86\_64
> 
> arch\_bits:64
> 
>

可以使用 cluster info命令查看集群信息，cluster nodes命令查看集群节点信息。

## **集群关闭** ##

关闭集群需要逐个关闭

> \[root@localhost redis-cluster\]\#
> 
> for((i=1;i<=6;i++)); do /usr/local/redis/bin/redis-cli -c -h 192.168.2.128 -p 703$i shutdown; done
> 
>

如果重新启动集群报以下错误

> \[ERR\] Node 192.168.2.128:7031 is not empty. Either the node already knows other nodes (check with CLUSTER NODES) or contains some key in database 0.

需要清除杀掉redis实例，然后删除每个节点下的临时数据文件appendonly.aof，dump.rdb，nodes-703x.conf，然后再重新启动redis实例即可启动集群。

> \[root@localhost redis-cluster\]\#for((i=1;i<=6;i++)); do cd 703$i; rm -rf appendonly.aof; rm -rf dump.rdb; rm -rf nodes-703$i.conf; cd ..; done

## **集群测试** ##

下面我们先来体验一下集群的set,get简单操作，后面我们会进一步学习集群的更多操作。

> 192.168.2.128:7031> set name "zhangsan"
> 
> \-> Redirected to slot \[5798\] located at 192.168.2.128:7032
> 
> OK
> 
> 192.168.2.128:7032> set age 20
> 
> \-> Redirected to slot \[741\] located at 192.168.2.128:7031
> 
> OK
> 
> 192.168.2.128:7031> set sex "man"
> 
> OK
> 
> 192.168.2.128:7031>

如果在连接客户端的时候不加-c选项set key时则会报MOVED 的错误：

> \[root@localhost bin\]\# /usr/local/redis/bin/redis-cli -h 192.168.2.128 -p 7031
> 
> 192.168.2.128:7031> set name "zhangsan"
> 
> (error) MOVED 5798 192.168.2.128:7032
> 
> 192.168.2.128:7031> set age 20
> 
> OK
> 
> 192.168.2.128:7031> set sex "man"
> 
> OK
> 
> 192.168.2.128:7031>

来看看取值又是怎么样

> 192.168.2.128:7031> get name
> 
> \-> Redirected to slot \[5798\] located at 192.168.2.128:7032
> 
> "zhangsan"
> 
> 192.168.2.128:7032> get age
> 
> \-> Redirected to slot \[741\] located at 192.168.2.128:7031
> 
> "20"
> 
> 192.168.2.128:7031> get sex
> 
> "man"
> 
> 192.168.2.128:7031>

可以看到，客户端连接加-c选项的时候，存储和提取key的时候不断在7031和7032之间跳转，这个称为客户端重定向。之所以发生客户端重定向，是因为Redis Cluster中的每个Master节点都会负责一部分的槽(slot)，存取的时候都会进行键值空间计算定位key映射在哪个槽(slot)上，如果映射的槽(slot)正好是当前Master节点负责则直接存取，否则就跳转到其他Master节点负的槽(slot)中存取，这个过程对客户端是透明的。继续看下文的集群分区原理。

# **Redis集群分区原理** #

## **槽(slot)的基本概念** ##

从上面集群的简单操作中，我们已经知道redis存取key的时候，都要定位相应的槽(slot)。

Redis 集群键分布算法使用数据分片（sharding）而非一致性哈希（consistency hashing）来实现： 一个 Redis 集群包含 16384 个哈希槽（hash slot）， 它们的编号为0、1、2、3……16382、16383，这个槽是一个逻辑意义上的槽，实际上并不存在。redis中的每个key都属于这 16384 个哈希槽的其中一个，存取key时都要进行key->slot的映射计算。

下面我们来看看启动集群时候打印的信息:

>  
> 
> >>> Creating cluster
> 
> >>> Performing hash slots allocation on 6 nodes...
> 
> Using 3 masters:
> 
> 192.168.2.128:7031
> 
> 192.168.2.128:7032
> 
> 192.168.2.128:7033
> 
> Adding replica 192.168.2.128:7034 to 192.168.2.128:7031
> 
> Adding replica 192.168.2.128:7035 to 192.168.2.128:7032
> 
> Adding replica 192.168.2.128:7036 to 192.168.2.128:7033
> 
> M: bee706db5ae182c5be9b9bdf94c2d6f3f8c8ec5c 192.168.2.128:7031
> 
>    slots:0-5460 (5461 slots) master
> 
> M: 72826f06dbf3be163f2f456ca24caed76a15bdf4 192.168.2.128:7032
> 
>    slots:5461-10922 (5462 slots) master
> 
> M: ab6e9d1dfc471225eef01e57be563157f81d26b3 192.168.2.128:7033
> 
>    slots:10923-16383 (5461 slots) master
> 
> ......
> 
> \[OK\] All nodes agree about slots configuration.
> 
> >>> Check for open slots...
> 
> >>> Check slots coverage...
> 
> \[OK\] All 16384 slots covered.

从上面信息可以看出，创建集群的时候，哈希槽被分配到了三个主节点上，从节点是没有哈希槽的。7031负责编号为0-5460 共5461个 slots，7032负责编号为5461-10922共5462 个 slots，7033负责编号为10923-16383 共5461个 slots。

## **键-槽映射算法** ##

和memcached一样，redis也采用一定的算法进行键-槽（key->slot）之间的映射。memcached采用一致性哈希（consistency hashing）算法进行键-节点（key-node）之间的映射，而redis集群使用集群公式来计算键 key 属于哪个槽：

> HASH\_SLOT（key）= CRC16(key) % 16384

其中 CRC16(key) 语句用于计算键 key 的 CRC16 校验和 。key经过公式计算后得到所对应的哈希槽，而哈希槽被某个主节点管理，从而确定key在哪个主节点上存取，这也是redis将数据均匀分布到各个节点上的基础。

[![wps71B9.tmp\[4\]][wps71B9.tmp_4]][wps71B9.tmp_4_wps71B9.tmp_4]

键-槽-节点（key->slot->node）映射示意图

## **集群分区好处** ##

无论是memcached的一致性哈希算法，还是redis的集群分区，最主要的目的都是在移除、添加一个节点时对已经存在的缓存数据的定位影响尽可能的降到最小。redis将哈希槽分布到不同节点的做法使得用户可以很容易地向集群中添加或者删除节点， 比如说：

l 如果用户将新节点 D 添加到集群中， 那么集群只需要将节点 A 、B 、 C 中的某些槽移动到节点 D 就可以了。

l 与此类似， 如果用户要从集群中移除节点 A ， 那么集群只需要将节点 A 中的所有哈希槽移动到节点 B 和节点 C ， 然后再移除空白（不包含任何哈希槽）的节点 A 就可以了。

因为将一个哈希槽从一个节点移动到另一个节点不会造成节点阻塞， 所以无论是添加新节点还是移除已存在节点， 又或者改变某个节点包含的哈希槽数量， 都不会造成集群下线，从而保证集群的可用性。下面我们就来学习下集群中节点的增加和删除。

# **集群操作** #

集群操作包括查看集群信息，查看集群节点信息，向集群中增加节点、删除节点，重新分配槽等操作。

## **查看集群信息** ##

cluster info 查看集群状态，槽分配，集群大小等，cluster nodes也可查看主从节点。

> 192.168.2.128:7031> cluster info
> 
> cluster\_state:ok
> 
> cluster\_slots\_assigned:16384
> 
> cluster\_slots\_ok:16384
> 
> cluster\_slots\_pfail:0
> 
> cluster\_slots\_fail:0
> 
> cluster\_known\_nodes:6
> 
> cluster\_size:3
> 
> cluster\_current\_epoch:6
> 
> cluster\_my\_epoch:1
> 
> cluster\_stats\_messages\_sent:119
> 
> cluster\_stats\_messages\_received:119
> 
> 192.168.2.128:7031>

## **新增节点** ##

（1）新增节点配置文件

执行下面的脚本创建脚本配置文件

> \[root@localhost redis-cluster\]\# mkdir /usr/local/redis-cluster/7037 && cp /usr/local/redis-cluster/7031/redis.conf /usr/local/redis-cluster/7037/redis.conf && sed -i "s/7031/7037/g" /usr/local/redis-cluster/7037/redis.conf

（2）启动新增节点

> \[root@localhost bin\]\# /usr/local/redis/bin/redis-server /usr/local/redis-cluster/7037/redis.conf

（3）添加节点到集群

现在已经添加了新增一个节点所需的配置文件，但是这个这点还没有添加到集群中，现在让它成为集群中的一个主节点

> \[root@localhost redis-cluster\]\# cd /usr/local/redis/bin/
> 
> \[root@localhost bin\]\# ./redis-trib.rb add-node 192.168.2.128:7037 192.168.2.128:7036
> 
> >>> Adding node 192.168.2.128:7037 to cluster 192.168.2.128:7036
> 
> >>> Performing Cluster Check (using node 192.168.2.128:7036)
> 
> S: 2c8d72f1914f9d6052065f7e9910cc675c3c717b 192.168.2.128:7036
> 
>    slots: (0 slots) slave
> 
>    replicates 6dbb4aa323864265c9507cf336ef7d3b95ea8d1b
> 
> M: 6dbb4aa323864265c9507cf336ef7d3b95ea8d1b 192.168.2.128:7033
> 
>    slots:10923-16383 (5461 slots) master
> 
>    1 additional replica(s)
> 
> S: 791a7924709bfd7ef5c36d9b9c838925e41e3c2e 192.168.2.128:7034
> 
>    slots: (0 slots) slave
> 
>    replicates d9e3c78a7c49689c29ab67a8a17be9d95cb08452
> 
> M: d9e3c78a7c49689c29ab67a8a17be9d95cb08452 192.168.2.128:7031
> 
>    slots:0-5460 (5461 slots) master
> 
>    1 additional replica(s)
> 
> M: 69b63d8db629fa8a689dd1ed25ed941c076d4111 192.168.2.128:7032
> 
>    slots:5461-10922 (5462 slots) master
> 
>    1 additional replica(s)
> 
> S: e669a91866225279aafcac29bf07b826eb5be91c 192.168.2.128:7035
> 
>    slots: (0 slots) slave
> 
>    replicates 69b63d8db629fa8a689dd1ed25ed941c076d4111
> 
> \[OK\] All nodes agree about slots configuration.
> 
> >>> Check for open slots...
> 
> >>> Check slots coverage...
> 
> \[OK\] All 16384 slots covered.
> 
> >>> Send CLUSTER MEET to node 192.168.2.128:7037 to make it join the cluster.
> 
> \[OK\] New node added correctly.
> 
> \[root@localhost bin\]\#

./redis-trib.rb add-node 命令中，7037 是新增的主节点，7036 是集群中已有的从节点。再来看看集群信息

> 192.168.2.128:7031> cluster info
> 
> cluster\_state:ok
> 
> cluster\_slots\_assigned:16384
> 
> cluster\_slots\_ok:16384
> 
> cluster\_slots\_pfail:0
> 
> cluster\_slots\_fail:0
> 
> cluster\_known\_nodes:7
> 
> cluster\_size:3
> 
> cluster\_current\_epoch:6
> 
> cluster\_my\_epoch:1
> 
> cluster\_stats\_messages\_sent:11256
> 
> cluster\_stats\_messages\_received:11256

![783994-20160718161934497-973141123.png][]

（4）分配槽

从添加主节点输出信息和查看集群信息中可以看出，我们已经成功的向集群中添加了一个主节点，但是这个主节还没有成为真正的主节点，因为还没有分配槽（slot），也没有从节点，现在要给它分配槽（slot）

> \[root@localhost bin\]\# ./redis-trib.rb reshard 192.168.2.128:7031
> 
> >>> Performing Cluster Check (using node 192.168.2.128:7031)
> 
> M: 1a544a9884e0b3b9a73db80633621bd90ceff64a 192.168.2.128:7031
> 
>    ......
> 
> \[OK\] All nodes agree about slots configuration.
> 
> >>> Check for open slots...
> 
> >>> Check slots coverage...
> 
> \[OK\] All 16384 slots covered.
> 
> How many slots do you want to move (from 1 to 16384)? 1024
> 
> What is the receiving node ID?

系统提示要移动多少个配槽（slot）,并且配槽（slot）要移动到哪个节点，任意输入一个数，如1024，再输入新增节点的IDcf48228259def4e51e7e74448e05b7a6c8f5713f.

> What is the receiving node ID? cf48228259def4e51e7e74448e05b7a6c8f5713f
> 
> Please enter all the source node IDs.
> 
>   Type 'all' to use all the nodes as source nodes for the hash slots.
> 
>   Type 'done' once you entered all the source nodes IDs.
> 
> Source node \#1:

然后提示要从哪几个节点中移除1024个槽（slot），这里输入‘all’表示从所有的主节点中随机转移，凑够1024个哈希槽，然后就开始从新分配槽（slot）了。从新分配完后再次查看集群节点信息

![783994-20160718162024513-300521558.png][]

可见，0-340 5461-5802 10923-11263的槽（slot）被分配给了新增加的节点。三个加起来刚好1024个槽（slot）。

（5）指定从节点

现在从节点7036的主节点是7033，现在我们要把他变为新增加节点（7037）的从节点，需要登录7036的客户端

> \[root@localhost bin\]\#  /usr/local/redis/bin/redis-cli -c -h 192.168.2.128 -p 7036
> 
> 192.168.2.128:7036> cluster replicate cf48228259def4e51e7e74448e05b7a6c8f5713f
> 
> OK

再来查看集群节点信息

![783994-20160718162059263-2014665027.png][]

可见，7036成为了新增节点7037的从节点。

## **删除节点** ##

指定删除节点的ID即可，如下

> \[root@localhost bin\]\#
> 
> ./redis-trib.rb del-node 192.168.2.128:7037 'a56461a171334560f16652408c2a45e629d268f6'
> 
> >>> Removing node a56461a171334560f16652408c2a45e629d268f6 from cluster 192.168.2.128:7037
> 
> >>> Sending CLUSTER FORGET messages to the cluster...
> 
> >>> SHUTDOWN the node.
> 
> \[root@localhost bin\]\#

## **集群操作小结** ##

从上面过程可以看出，添加节点、分配槽、删除节点的过程，不用停止集群，不阻塞集群的其他操作。命令小结

> \#向集群中添加节点，7037是新增节点，7036是集群中已有的节点
> 
> ./redis-trib.rb add-node 192.168.2.128:7037 192.168.2.128:7036
> 
> \#重新分配槽
> 
> ./redis-trib.rb reshard 192.168.2.128:7031
> 
> \#指定当前节点的主节点
> 
> cluster replicate cf48228259def4e51e7e74448e05b7a6c8f5713f
> 
> \#删除节点
> 
> ./redis-trib.rb del-node 192.168.2.128:7037 'a56461a171334560f16652408c2a45e629d268f6'

到此，redis的集群搭建、分区原理、集群增加节点以及删除节点的主要内容已经简要介绍完毕。

[783994-20160718162246810-8690416.png]: /images/20220504/a081c97875f94858a16858339ddf34c7.png
[wps71B9.tmp_4]: https://images2015.cnblogs.com/blog/783994/201607/783994-20160718161342169-233368796.png
[wps71B9.tmp_4_wps71B9.tmp_4]: /images/20220504/36c21caccb544185ac34ce3501bffec6.png
[783994-20160718161934497-973141123.png]: /images/20220504/3ed4a203c66c43af97249e9560fe1cc8.png
[783994-20160718162024513-300521558.png]: /images/20220504/82c40864865d4416880daf30d123ae34.png
[783994-20160718162059263-2014665027.png]: /images/20220504/21a35998f4dd485286aa787fcf283caa.png