缓存冷启动问题及缓存预热解决方案（10）

女爷i 2022-05-29 06:12 315阅读 0赞

# 缓存冷启动的问题 #

![这里写图片描述][Image 1]  
新系统第一次上线，此时在缓存里可能是没有数据的

系统在线上稳定运行着，但是突然间重要的redis缓存全盘崩溃了，而且不幸的是，数据全都无法找回来

系统第一次上线启动，系统在redis故障的情况下重新启动，在高并发的场景下

# 缓存预热 #

缓存冷启动，redis启动后，一点数据都没有，直接就对外提供服务了，mysql就裸奔

（1）提前给redis中灌入部分数据，再提供服务  
（2）肯定不可能将所有数据都写入redis，因为数据量太大了，第一耗费的时间太长了，第二根本redis容纳不下所有的数据  
（3）需要根据当天的具体访问情况，实时统计出访问频率较高的热数据  
（4）然后将访问频率较高的热数据写入redis中，肯定是热数据也比较多，我们也得多个服务并行读取数据去写，并行的分布式的缓存预热  
（5）然后将灌入了热数据的redis对外提供服务，这样就不至于冷启动，直接让数据库裸奔了

1、nginx+lua将访问流量上报到kafka中

要统计出来当前最新的实时的热数据是哪些，我们就得将商品详情页访问的请求对应的流浪，日志，实时上报到kafka中

2、storm从kafka中消费数据，实时统计出每个商品的访问次数，访问次数基于LRU内存数据结构的存储方案

优先用内存中的一个LRUMap去存放，性能高，而且没有外部依赖

我之前做过的一些项目，不光是这个项目，还有很多其他的，一些广告计费类的系统，storm

否则的话，依赖redis，我们就是要防止redis挂掉数据丢失的情况，就不合适了; 用mysql，扛不住高并发读写; 用hbase，hadoop生态系统，维护麻烦，太重了

其实我们只要统计出最近一段时间访问最频繁的商品，然后对它们进行访问计数，同时维护出一个前N个访问最多的商品list即可

热数据，最近一段时间，可以拿到最近一段，比如最近1个小时，最近5分钟，1万个商品请求，统计出最近这段时间内每个商品的访问次数，排序，做出一个排名前N的list

计算好每个task大致要存放的商品访问次数的数量，计算出大小

然后构建一个LRUMap，apache commons collections有开源的实现，设定好map的最大大小，就会自动根据LRU算法去剔除多余的数据，保证内存使用限制

即使有部分数据被干掉了，然后下次来重新开始计数，也没关系，因为如果它被LRU算法干掉，那么它就不是热数据，说明最近一段时间都很少访问了

3、每个storm task启动的时候，基于zk分布式锁，将自己的id写入zk同一个节点中

4、每个storm task负责完成自己这里的热数据的统计，每隔一段时间，就遍历一下这个map，然后维护一个前3个商品的list，更新这个list

5、写一个后台线程，每隔一段时间，比如1分钟，都将排名前3的热数据list，同步到zk中去，存储到这个storm task对应的一个znode中去

6、我们需要一个服务，比如说，代码可以跟缓存数据生产服务放一起，但是也可以放单独的服务

服务可能部署了很多个实例

每次服务启动的时候，就会去拿到一个storm task的列表，然后根据taskid，一个一个的去尝试获取taskid对应的znode的zk分布式锁

如果能获取到分布式锁的话，那么就将那个storm task对应的热数据的list取出来

然后将数据从mysql中查询出来，写入缓存中，进行缓存的预热，多个服务实例，分布式的并行的去做，基于zk分布式锁做了协调了，分布式并行缓存的预热

来自龙果学院讲师：中华石杉

[Image 1]:

发表评论取消回复

表情：

评论列表（有 0 条评论，315人围观）

还没有评论，来说两句吧...

相关阅读

相关缓存问题及解决方案

缓存问题及解决方案一、缓存问题 1.1、缓存穿透在高并发下，查询一个不存在的值时，缓存不会被命中，导致大量请求直接落到数据库上，如活动系统里面查询一个不存

左手的ㄟ右手/ 2023年07月04日 14:03/ 0 赞/ 20 阅读

相关 Redis——Redis集群原理、缓存预热、缓存击穿、缓存穿透、缓存雪崩的解决方案

一、集群架构 1、概念业务发展过程中遇到的`峰值瓶颈` redis提供的服务OPS可以达到10万/秒，当前业务OPS已经达到10万/秒内存单机容量

淩亂°似流年/ 2023年03月04日 15:26/ 0 赞/ 14 阅读

相关缓存穿透、缓存击穿、缓存雪崩的问题及解决方案

文章目录 1. 缓存处理流程 2. 缓存穿透 2.1 描述 2.2 解决方案 3. 缓存击穿 3.1 描述

雨点打透心脏的1/2处/ 2022年12月27日 14:05/ 0 赞/ 221 阅读

相关 Redis中缓存预热、击穿、雪崩等问题解决方案

1、缓存雪崩缓存雪崩是指缓存同一时间大面积的失效，所以，后面的请求都会落到数据库上，造成数据库短时间内承受大量请求而崩掉。解决方案 1. 缓存数据的过期时间设置

刺骨的言语ヽ痛彻心扉/ 2022年12月23日 03:28/ 0 赞/ 203 阅读

相关缓存雪崩、缓存穿透、缓存预热、缓存更新、缓存降级等问题

前面一节说到了《[为什么说Redis是单线程的以及Redis为什么这么快！][Redis_Redis]》，今天给大家整理一篇关于Redis经常被问到的问题：缓存雪崩、缓存穿透、

喜欢ヅ旅行/ 2022年05月30日 12:36/ 0 赞/ 253 阅读

相关缓存预热解决方案（11）

一、基于nginx+lua完成商品详情页访问流量实时上报kafka的开发在nginx这一层，接收到访问请求的时候，就把请求的流量上报发送给kafka 这样的话，sto

超、凢脫俗/ 2022年05月29日 06:12/ 0 赞/ 237 阅读

相关缓存冷启动问题及缓存预热解决方案（10）

缓存冷启动的问题 ![这里写图片描述][Image 1] 新系统第一次上线，此时在缓存里可能是没有数据的系统在线上稳定运行着，但是突然间重要的redis缓存全盘崩

女爷i/ 2022年05月29日 06:12/ 0 赞/ 316 阅读

相关缓存冷启动问题

新系统第一次上线，此时在缓存里可能是没有数据的系统在线上稳定运行着，但是突然间重要的redis缓存全盘崩溃了，而且不幸的是，数据全部无法找回来系统第一次上线启动，系统在

ゝ一世哀愁。/ 2022年05月22日 04:47/ 0 赞/ 296 阅读

相关缓存雪崩、缓存穿透、缓存预热、缓存更新、缓存降级等问题

前面一节说到了《为什么说Redis是单线程的以及Redis为什么这么快！》，今天给大家整理一篇关于Redis经常被问到的问题：缓存雪崩、缓存穿透、缓存预热、缓存更新、缓存降级等

缺乏、安全感/ 2022年04月23日 02:08/ 0 赞/ 283 阅读

相关缓存雪崩、缓存穿透、缓存预热、缓存更新、缓存降级等问题

原文链接：[https://www.cnblogs.com/powerwu/articles/9589075.html][https_www.cnblogs.com_power

痛定思痛。/ 2022年02月12日 11:17/ 0 赞/ 334 阅读