分布式缓存之Redis（持久化、主从、哨兵、分片集群）

╰半夏微凉° 2024-03-26 13:41 80阅读 0赞

![069e0331c8874776b910b7d0190f8c34.png][]

更多内容请参考官网：[https://redis.io/][https_redis.io]

## **Redis持久化** ##

Redis有两种持久化方案：RDB持久化和AOF持久化。

### **RDB持久化** ###

RDB全称Redis Database Backup file（Redis数据备份文件），也被叫做Redis数据快照。简单来说就是把内存中的所有数据都记录到磁盘中。当Redis实例故障重启后，从磁盘读取快照文件，恢复数据。快照文件称为RDB文件，默认是保存在当前运行目录。

RDB持久化在四种情况下会执行：执行save命令、执行bgsave命令、Redis停机时、触发RDB条件时。

**save**命令会导致主进程执行RDB，这个过程中其它所有命令都会被阻塞，只有在数据迁移时可能用到。

bgsave命令执行后会开启**独立进程**完成RDB，**主进程**可以持续处理用户请求，不受影响。

Redis停机时会执行一次save命令，实现RDB持久化。

Redis内部有触发RDB的机制，可以在redis.conf文件中找到，格式如下：

# 900秒内，如果至少有1个key被修改，则执行bgsave ， 如果是save "" 则表示禁用RDB
    save 900 1  
    save 300 10  
    save 60 10000

RDB的其它配置也可以在redis.conf文件中设置：

# 是否压缩 ,建议不开启，压缩也会消耗cpu，磁盘比较便宜
    rdbcompression yes
    
    # RDB文件名称
    dbfilename dump.rdb  
    
    # 文件保存的路径目录
    dir ./

#### **RDB原理** ####

bgsave开始时会fork主进程得到子进程，然后得到的子进程共享主进程的内存数据。完成fork后读取内存数据并写入 RDB 文件，用新RDB文件替换旧的RDB文件。fork采用的是copy-on-write技术：当主进程执行读操作时，访问共享内存；当主进程执行写操作时，则会拷贝一份数据，执行写操作。

RDB的缺点：

RDB执行间隔时间长，两次RDB之间写入数据有丢失的风险。

fork子进程、压缩、写出RDB文件都比较耗时。

### **AOF持久化** ###

AOF全称为Append Only File（追加文件）。Redis处理的每一个写命令都会记录在AOF文件，可以看做是命令日志文件。AOF默认是关闭的，需要修改redis.conf配置文件来开启AOF：

# 是否开启AOF功能，默认是no
    appendonly yes
    # AOF文件的名称
    appendfilename "appendonly.aof"

AOF的命令记录的频率也可以通过redis.conf文件来配：

# 表示每执行一次写命令，立即记录到AOF文件
    appendfsync always 
    # 写命令执行完先放入AOF缓冲区，然后表示每隔1秒将缓冲区数据写到AOF文件，是默认方案
    appendfsync everysec 
    # 写命令执行完先放入AOF缓冲区，由操作系统决定何时将缓冲区内容写回磁盘
    appendfsync no

因为是记录命令，AOF文件会比RDB文件大的多。而且AOF会记录对同一个key的多次写操作，但只有最后一次写操作才有意义。通过执行bgrewriteaof命令，可以让AOF文件执行重写功能，用最少的命令达到相同效果。

Redis也会在触发阈值时自动去重写AOF文件，阈值也可以在redis.conf中配置：

# AOF文件比上次文件 增长超过多少百分比则触发重写
    auto-aof-rewrite-percentage 100
    # AOF文件体积最小多大以上才触发重写 
    auto-aof-rewrite-min-size 64mb

RDB和AOF各有自己的优缺点，如果对数据安全性要求较高，在实际开发中往往会**结合**两者来使用。

<table style=""> 
 <tbody> 
 <tr> 
 <td style="width:121px;vertical-align:top;height:52px;"></td> 
 <td style="width:279px;vertical-align:top;height:52px;">RDB</td> 
 <td style="width:327px;vertical-align:top;height:52px;">AOF</td> 
 </tr> 
 <tr> 
 <td style="width:121px;vertical-align:top;height:52px;">持久化方式</td> 
 <td style="width:279px;vertical-align:top;height:52px;">定时对整个内存做快照</td> 
 <td style="width:327px;vertical-align:top;height:52px;">记录每一次执行的命令</td> 
 </tr> 
 <tr> 
 <td style="width:121px;vertical-align:top;height:52px;">数据完整性</td> 
 <td style="width:279px;vertical-align:top;height:52px;">不完整，在两次备份之间的时间段，数据可能会丢失</td> 
 <td style="width:327px;vertical-align:top;height:52px;">相对而言是完整的，取决于刷盘的策略</td> 
 </tr> 
 <tr> 
 <td style="width:121px;vertical-align:top;height:52px;">文件大小</td> 
 <td style="width:279px;vertical-align:top;height:52px;">会有压缩，文件体积小</td> 
 <td style="width:327px;vertical-align:top;height:52px;">会记录每一次的命令，文件体积大</td> 
 </tr> 
 <tr> 
 <td style="width:121px;vertical-align:top;height:52px;">宕机恢复速度</td> 
 <td style="width:279px;vertical-align:top;height:52px;">很快</td> 
 <td style="width:327px;vertical-align:top;height:52px;">慢</td> 
 </tr> 
 <tr> 
 <td style="width:121px;vertical-align:top;height:52px;">数据恢复优先级</td> 
 <td style="width:279px;vertical-align:top;height:52px;">低，数据完整性不如AOF</td> 
 <td style="width:327px;vertical-align:top;height:52px;">高</td> 
 </tr> 
 <tr> 
 <td style="width:121px;vertical-align:top;height:52px;">系统资源占用</td> 
 <td style="width:279px;vertical-align:top;height:52px;">高，大量CPU和内存消耗</td> 
 <td style="width:327px;vertical-align:top;height:52px;">低，主要是磁盘IO资源，但AOF重写时会占用大量CPU和内存资源。</td> 
 </tr> 
 <tr> 
 <td style="width:121px;vertical-align:top;height:52px;">使用场景</td> 
 <td style="width:279px;vertical-align:top;height:52px;">可以接受数分钟的数据丢失，追求更快的启动速度</td> 
 <td style="width:327px;vertical-align:top;height:52px;">对数据安全性要求较高</td> 
 </tr> 
 </tbody> 
</table>

## **Redis主从** ##

单节点Redis的并发能力是有上限的，要进一步提高Redis的并发能力，就需要搭建主从集群，实现读写分离。

**开启主从关系，**修改配置文件

在redis.conf中添加一行配置：\`\`\`slaveof <masterip> <masterport>\`\`\`

### **主从数据同步原理：全量同步、增量同步** ###

主从第一次建立连接时，会执行**全量同步**，将master节点的所有数据都拷贝给slave节点。完整流程：

1.slave节点请求增量同步

2.master节点判断replid，发现不一致，拒绝增量同步

3.master将完整内存数据生成RDB，发送RDB到slave

4.slave清空本地数据，加载master的RDB

5.master将RDB期间的命令记录在repl\_baklog，并持续将log中的命令发送给slave

6.slave执行接收到的命令，保持与master之间的同步

**master如何得知salve是第一次来连接呢？**

**Replication Id**：简称replid，是数据集的标记，id一致则说明是同一数据集。每一个master都有唯一的replid，slave则会继承master节点的replid

**offset**：偏移量，随着记录在repl\_baklog中的数据增多而逐渐增大。slave完成同步时也会记录当前同步的offset。如果slave的offset小于master的offset，说明slave数据落后于master，需要更新。

因此slave做数据同步，必须向master声明自己的replication id 和offset，master才可以判断到底需要同步哪些数据。

master判断发现slave发送来的replid与自己的不一致，说明这是一个全新的slave，就知道要做全量同步了。master会将自己的replid和offset都发送给这个slave，slave保存这些信息。以后slave的replid就与master一致了。**master判断一个节点是否是第一次同步的依据，就是看replid是否一致**。

全量同步需要先做RDB，然后将RDB文件通过网络传输个slave，成本太高了。因此除了第一次做全量同步，其它大多数时候slave与master都是做**增量同步**。

#### **repl\_backlog原理（master知道slave与自己的数据差异）** ####

这个文件是一个固定大小的数组，只不过数组是环形，也就是说**角标到达数组末尾后，会再次从0开始读写**，这样数组头部的数据就会被覆盖。repl\_baklog中会记录Redis处理过的命令日志及offset，包括master当前的offset，和slave已经拷贝到的offset。slave与master的offset之间的差异，就是salve需要增量拷贝的数据了。

repl\_baklog大小有上限，写满后会覆盖最早的数据。如果slave断开时间过久，导致尚未备份的数据被覆盖，则无法基于log做增量同步，只能再次**全量同步**。

主从同步可以保证主从数据的一致性，可以从以下几个方面来优化Redis主从就集群：

1.在master中配置repl-diskless-sync yes启用无磁盘复制，避免全量同步时的磁盘IO。

2.Redis单节点上的内存占用不要太大，减少RDB导致的过多磁盘IO

3.适当提高repl\_baklog的大小，发现slave宕机时尽快实现故障恢复，尽可能避免全量同步

4.限制一个master上的slave节点数量，如果实在是太多slave，则可以采用主-从-从链式结构，减少master压力

**小结：**

全量同步：master将完整内存数据生成RDB，发送RDB到slave。后续命令则记录在repl\_baklog，逐个发送给slave。

增量同步：slave提交自己的offset到master，master获取repl\_baklog中从offset之后的命令给slave

执行全量同步的时机：

slave节点第一次连接master节点时

slave节点断开时间太久，repl\_baklog中的offset已经被覆盖时

## **Redis哨兵** ##

Redis提供了哨兵（Sentinel）机制，其作用如下：

**监控**：Sentinel 会不断检查您的master和slave是否按预期工作

**自动故障恢复**：如果master故障，Sentinel会将一个slave提升为master，当故障实例恢复后也以新的master为主。

**通知**：Sentinel充当Redis客户端的服务发现来源，当集群发生故障转移时，会将最新信息推送给Redis的客户端。

#### **集群监控原理** ####

Sentinel基于心跳机制监测服务状态，每隔1秒向集群的每个实例发送ping命令：如果某sentinel节点发现某实例未在规定时间响应，则认为该实例**主观下线**。如果超过指定数量（quorum）的sentinel都认为该实例主观下线，则该实例**客观下线**。quorum值最好超过Sentinel实例数量的一半。

#### **集群故障恢复原理** ####

一旦发现master故障，sentinel需要在salve中选择一个作为新的master，选择依据如下：

1.首先会判断slave节点与master节点断开时间长短，如果超过指定值（down-after-milliseconds \* 10【主从库断连的最大连接超时时间】）则会排除该slave节点

2.然后判断slave节点的slave-priority值，越小优先级越高【一般都为1】，如果是0则永不参与选举

3.如果slave-prority一样，则判断slave节点的**offset**值，越大说明**数据越新**，优先级越高

4.最后是判断slave节点的运行id大小，越小优先级越高。

当选出一个新的master后，实现切换流程：

1.sentinel给备选的slave节点发送slaveof no one命令，让该节点成为master

2.sentinel给所有其它slave发送（slaveof ip+端口）命令，让这些slave成为新master的从节点，开始从新的master上同步数据。

3.最后，sentinel将故障节点标记为slave（修改故障节点配置，添加slaveof 新master 命令），当故障节点恢复后会自动成为新的master的slave节点。

## **Redis分片集群** ##

主从和哨兵可以解决高可用、高并发读的问题。但是对于海量数据存储问题和高并发写的问题，只有使用分片集群可以解决。

分片集群特征：集群中有多个master，每个master保存不同数据；每个master都可以有多个slave节点；master之间通过ping监测彼此健康状态；客户端请求可以访问集群任意节点，最终都会被转发到正确节点。

### **散列插槽** ###

Redis会把每一个master节点映射到0~16383共16384个插槽（hash slot）上，数据key不是与节点绑定，而是与插槽绑定。redis会根据key的有效部分计算插槽值，分两种情况：

1.key中包含"\{\}"，且“\{\}”中至少包含1个字符，“\{\}”中的部分是有效部分【可以根据\{\}里面的内容将key分类】

2.key中不包含“\{\}”，整个key都是有效部分

例如：key是num，那么就根据num计算，如果key是\{xy\}num，则根据xy计算。计算方式是利用CRC16算法得到一个hash值，然后对16384取余，得到的结果就是slot值。

**小结：**

**Redis如何判断某个key应该在哪个实例？**

1.将16384个插槽分配到不同的实例

2.根据key的有效部分计算哈希值，对16384取余

3.余数作为插槽，寻找插槽所在实例即可

**如何将同一类数据固定的保存在同一个Redis实例？**

这一类数据使用相同的有效部分，例如key都以\{typeId\}为前缀。

### **集群伸缩** ###

#### **添加新节点到redis** ####

执行命令：

redis-cli --cluster add-node  新节点地址:端口  旧节点地址:端口

默认是加入了一个master节点。

转移插槽：

redis-cli --cluster reshard 节点地址:端口

其实对于分片集群来说，所有数据都是跟着插槽走的。

### **故障转移** ###

当集群中有一个master宕机，首先是该实例与其它实例失去连接，然后是疑似宕机状态，最后是确定下线，自动提升一个slave为新的master，当改故障master再次启动，就会变为一个slave节点了。

## PS: 多级缓存 ##

传统的缓存策略一般是请求到达Tomcat后，先查询Redis，如果未命中则查询数据库，但是存在下面的问题：

1.请求要经过Tomcat处理，Tomcat的性能成为整个系统的瓶颈

2.Redis缓存失效时，会对数据库产生冲击

**多级缓存**就是充分利用请求处理的每个环节，分别添加缓存，减轻Tomcat压力，提升服务性能：

1.浏览器访问静态资源时，优先读取浏览器本地缓存

2.访问非静态资源（ajax查询数据）时，访问服务端

3.请求到达Nginx后，优先读取Nginx本地缓存

4.如果Nginx本地缓存未命中，则去直接查询Redis（不经过Tomcat）

5.如果Redis查询未命中，则查询Tomcat

6.请求进入Tomcat后，优先查询JVM进程缓存

7.如果JVM进程缓存未命中，则查询数据库

在多级缓存架构中，Nginx内部需要编写本地缓存查询、Redis查询、Tomcat查询的业务逻辑，因此这样的nginx服务不再是一个**反向代理服务器**，而是一个编写**业务的Web服务器了**。

如果tomcat是集群模式，那么要对tomcat集群做负载均衡，是因为要让每一个路径请求进来都访问同一个tomcat服务，那么JVM缓存就能一定能生效。

### **关于Redis缓存预热** ###

Redis缓存会面临冷启动问题：

**冷启动**：服务刚刚启动时，Redis中并没有缓存，如果所有商品数据都在第一次查询时添加缓存，可能会给数据库带来较大压力。

**缓存预热**：在实际开发中，我们可以利用大数据统计用户访问的热点数据，在项目启动时将这些热点数据提前查询并保存到Redis中。

[069e0331c8874776b910b7d0190f8c34.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/26/67fe1085b2df4fd99eefee4e10d8f1e2.png
[https_redis.io]: https://redis.io/